О семейном сходстве Витгенштейнов и машинном обучении

Ответы на ваши вопросы не будут полностью решены, потому что они опираются на определенные теории философии языка и отношения языка к философии сознания. Однако перед любыми объяснениями следует отметить одну очень интересную вещь: сам Витгенштейн не верил, что машины могут мыслить. Кроме того, он считает, что мышление «сосредоточено вокруг человека; таким образом, оно явно антропоцентрично» , как указывает Обермайер. Из философских исследований :

Aber eine Maschine kann doch nicht denken! - Ist das ein Erfahrungssatz? Неин. Wir sagen nur vom Mensch, und was ihm, ähnlich ist, es denke. (ИП 360)

Но ведь машина не может думать! - Но разве это эмпирическое утверждение? Нет. Мы говорим только о человеке и о том, что похоже на то, что он думает. (ИП 360)

Он считает, что мы априори знаем, что машины не могут думать, потому что мышление — это только то, что делают люди или вещи, подобные людям. Он считает, что было бы категорической ошибкой думать, что машины могут думать. В этом смысле, скорее всего, он отвергнет аргументы за или против своих теорий языка и мышления, основанных на программах искусственного интеллекта. Однако одна из сложностей в его философии заключается в том, что он был загадочен даже для близких ему людей, и никто точно не знает, с чем он согласится или не согласится. Возможно, он был бы настолько впечатлен сегодняшними программами ИИ, что полностью изменил бы свое мнение о своих идеях, почти так же, как он изменил свое мнение о « Трактате » ; в данный момент мы не знаем, что он подумает, и все, что у нас осталось, это то, что он написал.

Центральной для более позднего Витгенштейна является его идея о том, что значение есть использование . Идея, используемая в семейном сходстве по отношению к значению использования, заключается в том, что мы не можем дать точное определение игры, однако мы все же можем прекрасно знать, когда кто-то имеет в виду игру, а когда нет. Он утверждает, что хотя, используя его пример, «игра» может использоваться и пониматься в языке, не существует единого полного определения этого слова.

Und so können wir durch die vielen, vielen anderen Gruppen von Spielen gehen. Ähnlichkeiten auftauchen und verschwinden sehen. Und das Ergebnis dieser Betrachtung lautet nun: Wir sehen ein kompliziertes Netz von Ähnlichkeiten, die einander übergreifen und kreuzen. Ähnlichkeiten im Großen und Kleinen. (Фот. 66)

И мы можем таким же образом пройтись по многим, многим другим группам игр, увидеть, как сходство возникает и исчезает. И итог этих соображений таков: мы видим сложную сеть перекрывающихся и пересекающихся сходств: сходства в большом и в малом. (Фот. 66)

Для Витгенштейна проблема не сводится к эпистемологии. Он считает, что абсолютно не существует конкретного определения; он не верит, что он существует, но некоторые люди могут просто не знать об этом. Эта точка зрения основана на его теории о том, что значение — это использование. Слово «игра» получает свое значение от того, как люди его используют, и люди используют его таким образом, что его нельзя определить одним определением, вместо этого его использование демонстрирует семейное сходство. Из СЭП:

Эта новая перспектива настолько отличается, что Витгенштейн повторяет: «Не думай, а смотри!» (Фот.166); и такое рассмотрение делается по отношению к частным случаям, а не к обобщениям. При указании значения слова любое объяснительное обобщение должно быть заменено описанием употребления.

Этот взгляд на язык резко контрастирует с такими теориями, как каноническая теория значения Фреге/Рассела. Как правило, теории значения Фреге/Рассела занимают центральное место в идее о том, что предложения обладают значением и каким-то образом семантически связаны с миром. Идея о том, что язык, предложения и определения хорошо определены, занимает центральное место в этой точке зрения. Даже Витгенштейн поделился этой идеей в первые годы своей жизни в « Трактате» :

2. В чем дело — факт — это существование положений дел.
3. Логическая картина фактов есть мысль.
4. Мысль есть предложение со смыслом.

В конечном счете, философы, придерживающиеся семантических теорий значения , будут утверждать, что Витгенштейн ошибается, когда говорит, что никакие границы не могут быть сформированы. Неизбежно они сталкиваются с такими проблемами, как парадокс Сорита . Эти вопросы по-прежнему остаются центральными в философии языка, и на них пока нет ответов с полным консенсусом. Ясно, однако, то, что Витгенштейн считал, что некоторые слова не могут иметь четкого логического граничного условия (его пример — «игра»), а философы по другую сторону теории значения, такие как Дэвидсон , полагали, что мы можем .

Парадокс Сорита представляет собой прекрасный пример слов, которые, кажется, не имеют четких граничных условий, и поэтому это центральное место, где эта дискуссия выходит на свет. Из СЭП:

Проблема, стоящая перед эпистемическим теоретиком, заключается в том, что при таком взгляде обычно предполагаемая связь между значением и употреблением оказывается разорванной. Хотя принцип допустимой погрешности, обсуждавшийся в Williamson (1994), мог бы служить для объяснения того, как мы могли бы не знать о постулируемых четких границах, если бы они существовали, можно было бы подумать, что, поскольку наше использование нечетких терминов не проводит четких границ, они не могли обладать ими при общепринятой связи между значением и употреблением.

Как было сказано, он не верил, что машины могут думать. Однако если мы распространим его идеи на философа, который действительно верит, что машины могут думать, она будет утверждать, что существуют некоторые границы принятия решений, которые машина никогда не сможет полностью распознать, например, граница принятия решений между играми и неиграми. Те философы, которые отвергают значение как использование, будут утверждать, что достаточно сильная программа ИИ всегда сможет найти границу решения, если значение критерия хорошо определено.

(Перевод и исходный текст, которые я использовал для PI, - это 4-е издание Wiley-Blackwell )

Они могут легко разделить два типа фотографий, потому что они используют подходы, явно вдохновленные работой нашего мозга, другими словами, они повторяют в упрощенной форме то, что мы изначально делали при создании таких классификаций. Означает ли это, что паттерн существует там «независимо от разума»? Ответ зависит от философских предпочтений, и ведутся вечные споры об «изобретенном» и «открытом», номинализме и реализме и т. д.

Но я подозреваю, что у этих алгоритмов будут проблемы с изображениями определенных кустарников и кустарников, как у человека. Официальное ботаническое определение « деревянное растение высотой не менее 5 метров с главным стеблем, нижняя часть которого обычно неветвистая » тоже не кажется мне особенно резким. Достаточно обученная нейросеть, вероятно, классифицирует Плутон иначе, чем Земля и Марс, но трудно увидеть различие между планетами и карликовыми планетами .как острые или написанные на звездах. В той мере, в какой мы можем принять это как доказательство философских позиций, успех нечетких методов в распознавании образов скорее указывает на то, что Витгенштейн был прав: наши классификации основаны на множественных сходствах и мерах подобия, предполагают произвольный выбор и дают размытые результаты. «Резкие границы» — это чаще всего вырождения или идеализации.

Сам Витгенштейн в «Синей книге» (1933-35) описывает процесс обучения человека в терминах, напоминающих обучение нейросети до того, как появились какие-либо намеки на (искусственные) нейросети:

« Существует тенденция, коренящаяся в наших обычных формах выражения, думать, что человек, который научился понимать общий термин, скажем, термин «лист», благодаря этому получил своего рода общее представление о листе, как о листе. Ему показывали разные листья, когда он узнавал значение слова «лист», и показ ему отдельных листьев был лишь средством для того, чтобы произвести «в нем» идею, которую мы воображаем какой-то общий образ. " [цитата из " Универсалии и семейные сходства" Бамбро ]

То, что несколько скрыто в нейросетях, становится явным в алгоритмах кластеризации , также популярных в распознавании образов. Они как будто созданы в соответствии со спецификациями семейного сходства Витгенштейна:

Кластеризация или кластерный анализ включает в себя присвоение точек данных кластерам (также называемым корзинами, корзинами или классами) или однородным классам таким образом, чтобы элементы одного класса или кластера были как можно более похожими, а элементы, принадлежащие к разным классам, были максимально непохожими. насколько это возможно. Кластеры идентифицируются с помощью мер подобия. Эти меры подобия включают расстояние, связность и интенсивность » .

Один (который может быть нейросетью) выбирает «функции» и группирует объекты на основе совокупности их значений, затем кластеризация сводится к поиску центров кластеров, «парадигматических представителей», вокруг которых «группируются» другие объекты. Как только они будут найдены, будь то в трехмерном пространстве или в пространстве более высоких измерений, можно провести границы между кластерами. Это будет работать почти всегда, а не только тогда, когда мы «видим» границу, как с деревьями и не деревьями. Конечно, есть показатели качества, и они могут быть высокими или низкими. Должны ли мы сказать, что граница «действительно» существует всякий раз, когда можно достичь высококачественной кластеризации? Или скажем, а-ля Кант, что мы (или нейросеть) «помещаем» его туда, определяя особенности и делая другие неуникальные выборы, которые делают такие алгоритмы? Даже в визуальном 3D»

Обнаружение краев является важной частью многих систем компьютерного зрения. В идеале края соответствуют границам объекта, и поэтому обнаружение краев обеспечивает средство сегментации изображения на значимые области. Однако определение того, что представляет собой край, довольно расплывчатое, эвристическое. , и даже субъективный " [из " Нечетких моделей и алгоритмов распознавания образов и обработки изображений " ] .

Действительно, именно для учета этой неопределенности «четкие» алгоритмы k-кластеризации были заменены нечеткими алгоритмами c-кластеризации:

Метод нечеткой кластеризации присваивает каждому обучающему вектору набор значений членства, по одному для каждого кластера, вместо того, чтобы присваивать каждому обучающему вектору один и только один кластер. Поскольку он более реалистичен, несколько результатов исследований показали, что он превосходит алгоритм жесткой кластеризации » [из Image Segmentation by Hsieh et. др. ]

Нечеткие «значения принадлежности» означают, что каждый объект рассматривается как принадлежащий каждому кластеру, но в разной степени. В конце концов, кластеризацию можно усилить, назначив кластеру максимальное членство, и оказалось, что сохранение нечеткости в процессе часто приводит к более четким кластерам.

Мне нравятся вопросы и ответы @Conifold и @Not_Here.

Предположим, машина учится классифицировать объекты как способные или неспособные мыслить. Обученный в 80-х годах и представленный изображением другого компьютера, он классифицирует его как неспособный к мышлению. Вновь обученный в 2100 году и получивший изображение другого компьютера, он теперь классифицирует его как способного мыслить.

Чему научилась машина? определение того, что представляет собой мышление, или правомерное использование слова «мышление» по мере его развития во времени?

Предположим, машина научилась классифицировать изображения как представляющие деревья или не-деревья. Он усвоил функцию, скажем, даже резкую границу. Но в каком смысле это определение вещи?

Означает ли это, что он классифицирует изображения на деревья или не деревья со 100% точностью? Что вообще означает для него 100% точность при выполнении такой задачи?

Я думаю, что мы можем предположить точность ниже 100% для нетривиальных проблемных областей. Скажем, это 97% точности, что тогда делать с оставшимися 3%? похоже, что некоторые члены сообщества ораторов не согласны с машиной. будет ли он учиться у них или даже учить их во время взаимодействия с ними? будет ли указанная граница меняться со временем?

И что это вообще за граница? предположим, что оно определяется каким-то произвольным порогом, скажем, оценкой 50 %, и предположим, что машине представлены некоторые входные данные, для которых вычисленная оценка равна 50 %, и другие входные данные, для которых оценка равна 49,999 %.

Предположим, что эти входные данные являются изображениями школьных автобусов. В каком смысле правомерно определять, что на первой картинке изображен школьный автобус, а на второй нет?

Что, если второе изображение получается из первого путем незначительного изменения значения конкретного пикселя таким образом, который большинство людей даже не заметит?

Этот пример соответствует интересному явлению, называемому «состязательными» изображениями, которое сбивает с толку нейронные сети, но не людей:

Имеет ли машина право использовать границу для объявления шины в первом случае и не-шины во втором случае?

Или было бы более оправданным ответить «я не уверен»?

Если да, то в каком смысле резкость границы интересна или актуальна?