Имеют ли алгоритмы машинного обучения знания (если не обоснованные истинные убеждения)?

Предложение OP по духу похоже на предложение Фаркаса в статье «Вера не может быть необходимым условием для знания» . Его основным примером является Отто, парень с серьезной потерей памяти, который хранит всю важную информацию в записной книжке, которую он всегда носит с собой и которая «расширяет» его разум:

« Есть части знаний, которые слишком утомительно приобретать и сохранять в нашей голове: например, запоминание телефонных номеров или дней рождения… Я утверждаю, что мы можем естественным образом распространить применение понятия знания на такие случаи». Энди Кларк и Дэвид Чалмерс, который представил сценарии расширенного разума (1998), выдвинул аналогичный аргумент для убеждений... Мое предположение состоит в том, что это лучше работает для знания, чем для убеждения ».

ОП, похоже, готов пойти дальше в рассмотрении знаний без «мыслящего» агента. Платоновское изречение о знании как (оправданно истинном) убеждении остается широко распространенным, но оно не является безупречным . «Я верю в Бога» и «Я верю, что завтра взойдет солнце» используют «верю» совершенно по-разному. Один требует активного акта принятия, в то время как другой имеет вид покорности, один смешивается с надеждами и желаниями, другой с предположениями и мнениями. Согласно Рэдфорду, люди могут знать и давать правильные ответы, не веря в них и думая, что они угадывают. Если акт принятия не требуется для знания в сценариях расширенного разума, почему он вообще должен требоваться? Если знание не есть вера,

Один (Серл) мог бы возразить, что даже если мы уберем часть убеждения, часть обоснования по-прежнему требует «интенциональности» и «понимания» для получения знания. А это может дать только разум. Авторы систем отвечают на китайскую комнату Серла (Минский, Коул), однако, отвечают, что всего, что есть у машин, достаточно ума. Коул прямо пишет об « огромном фоне» здравого смысла, закодированного в программе и картотеках ». Серл отрицает, что «кодирование» возможно или что «виртуальный разум» квалифицируется как разум.

Можно обойти этот аргумент по поводу разума, отбросив изречение Платона и описав знание как нечто вроде эффективного предположения, на котором основаны действия. Это более или менее прагматическая теория , восходящая к Пирсу и Джеймсу. «Дедушка» прагматизма Бейн определял веру как « то, на основании чего человек готов действовать ». Машина может получать и хранить информацию, на которую она «действует», если эта информация эффективна для того, чтобы сделать ее действия «адекватными», тогда она считается знанием. Возможно, это и есть все человеческое знание.

Для более широкой перспективы см . Анализ знаний SEP .

Это граничит с идеей «Мысленного эксперимента в китайской комнате». Если вы не знакомы с этим экспериментом, следующее видео и цитата будут очень полезны.

Мысленный эксперимент Серла начинается с этой гипотетической предпосылки: предположим, что исследования искусственного интеллекта привели к созданию компьютера, который ведет себя так, как будто он понимает китайский язык. Он принимает китайские иероглифы в качестве входных данных и, следуя инструкциям компьютерной программы, создает другие китайские иероглифы, которые он представляет в качестве выходных данных. Предположим, говорит Сирл, что этот компьютер выполняет свою задачу настолько убедительно, что без труда проходит тест Тьюринга: он убеждает человека, говорящего по-китайски, в том, что программа сама является живым носителем китайского языка. На все вопросы, которые человек задает, он дает соответствующие ответы, так что любой говорящий по-китайски будет убежден, что он разговаривает с другим человеком, говорящим по-китайски.

Вопрос, на который Серл хочет ответить, заключается в следующем: «понимает ли машина» китайский язык буквально? Или это просто имитация способности понимать китайский язык? [6] [c] Сирл называет первую позицию «сильным ИИ», а вторую — «слабым ИИ». [d]

Затем Сирл предполагает, что он находится в закрытой комнате и у него есть книга с английской версией компьютерной программы, а также достаточное количество бумаги, карандашей, ластиков и картотечных шкафов. Сирл мог получать китайские иероглифы через щель в двери, обрабатывать их в соответствии с инструкциями программы и выводить китайские иероглифы на выходе. Если бы компьютер прошел тест Тьюринга таким образом, то, по словам Серла, он бы сделал то же самое, просто запустив программу вручную.

Серл утверждает, что между ролями компьютера и его самого в эксперименте нет существенной разницы. Каждый просто следует программе, шаг за шагом, производя поведение, которое затем интерпретируется как демонстрация разумного разговора. Однако Серл не мог понять разговор. («Я не говорю ни слова по-китайски», [9] указывает он.) Следовательно, утверждает он, следует, что компьютер также не сможет понять разговор.

Серл утверждает, что без «понимания» (или «интенциональности») мы не можем описать то, что делает машина, как «мышление», и, поскольку она не думает, у нее нет «разума» ни в каком нормальном смысле этого слова. . Поэтому он заключает, что «сильный ИИ» ложен.

Источник: https://en.wikipedia.org/wiki/Chinese_room

https://www.youtube.com/watch?v=TryOC83PH1g&edufilter=42sx_3NqAVcegVpqn7ZbPg

Я надеюсь, что они помогут и помогут вам найти ответ. На мой взгляд, как вы можете сказать, алгоритмы машинного обучения не имеют знаний.

Алгоритмы машинного обучения создают экземпляры знаний. Для системы вполне возможно иметь знание, но не понимать это знание.

Многие философы придерживаются обоснованной истинной веры. Знания, которыми обладают люди, не оправданы . Знания также не обязательно должны быть истинными, например - Ньютоновская механика ложна, но это знание. И одна из причин, по которой знание представляется верой, заключается в том, что вам нужен человек, чтобы обосновать его, но это неправда, поэтому вера не нужна.

Поскольку от теории познания JTB ничего не осталось, остается вопрос, что отличает знание от незнания. Знания – это информация, которая решает какую-то проблему.

Никому не обязательно знать о существовании проблемы, чтобы решить проблему. Например, человеческое сердце — это насос, который может работать непрерывно в течение десятилетий без какого-либо вмешательства или обслуживания со стороны человека. Крылья воробья помогают решить проблему, как заставить летать маленькие легкие предметы. Информация о том, как решать эти задачи, содержится в генах соответствующих организмов. Тот факт, что никто не знает эту информацию, не имеет значения. Многие незначительные варианты этих структур не решат проблем, которые они решают. Это близкое соответствие между этими структурами и конкретной проблемой требует объяснения. Объяснение этого совпадения имеет сильное структурное сходство с тем, как создаются человеческие знания. И человеческое знание, и биологическое знание создаются многими раундами вариации и отбора.

Алгоритмы машинного обучения создают экземпляры знаний, которые в основном создаются людьми. Люди сами решают, какую информацию скармливать алгоритмам. Люди пишут код, который производит вариации. Люди решают, какие результаты считать успехом. Люди решают, как должен работать отбор. Алгоритмы конкретизируют информацию о том, как решить некоторую проблему, в форме, которую мы не знаем, как читать в явном виде. Но алгоритм, тем не менее, может решить какую-то проблему, скажем, распознавание лиц, так что людям больше не придется этим заниматься. Таким образом, программа машинного обучения создает некоторые знания.

Артур Сэмюэл, американский пионер в области компьютерных игр и искусственного интеллекта, ввел термин «машинное обучение» в 1959 году, когда работал в IBM[12].

Как научное направление машинное обучение выросло из поиска искусственного интеллекта.

Уже на заре ИИ как академической дисциплины некоторые исследователи были заинтересованы в том, чтобы машины обучались на основе данных.

Они пытались подойти к проблеме с помощью различных символических методов, а также того, что тогда называлось «нейронными сетями» ; в основном это были перцептроны и другие модели, которые, как позже выяснилось, были переизобретением обобщенных линейных моделей статистики. Также использовались вероятностные рассуждения, особенно в автоматизированной медицинской диагностике.[14]:488

Однако растущий акцент на логическом подходе, основанном на знаниях, вызвал раскол между ИИ и машинным обучением.

К 1980 году экспертные системы стали доминировать над искусственным интеллектом, и статистика оказалась в немилости.[15] Работа над символическим / основанным на знаниях обучением действительно продолжалась в рамках ИИ, что привело к индуктивному логическому программированию, но более статистическое направление исследований теперь находилось за пределами области собственно ИИ, в области распознавания образов и поиска информации. [14]: 708–710; 755

Примерно в то же время искусственный интеллект и информатика отказались от исследований в области нейронных сетей. Эта линия также была продолжена за пределами области AI / CS, как «коннекционизм», исследователями из других дисциплин, включая Хопфилда, Румельхарта и Хинтона. Их главный успех пришелся на середину 1980-х, когда они заново изобрели обратное распространение ошибки.[14]:25

Машинное обучение начало процветать в 1990-х годах.

Область изменила свою цель с достижения искусственного интеллекта на решение решаемых проблем практического характера. Он сместил акцент с символических подходов, унаследованных от ИИ, на методы и модели, заимствованные из статистики и теории вероятностей.[15] Это также выиграло от растущей доступности оцифрованной информации и возможности ее распространения через Интернет.

Машинное обучение и интеллектуальный анализ данных часто используют одни и те же методы и значительно перекрывают друг друга, но в то время как машинное обучение фокусируется на прогнозировании, основанном на известных свойствах, извлеченных из обучающих данных, интеллектуальный анализ данных фокусируется на обнаружении (ранее) неизвестных свойств в данных (это этап анализа обнаружения знаний в базах данных). Интеллектуальный анализ данных использует множество методов машинного обучения, но с разными целями; с другой стороны, машинное обучение также использует методы интеллектуального анализа данных как «обучение без учителя» или как этап предварительной обработки для повышения точности учащихся.

Большая часть путаницы между этими двумя исследовательскими сообществами (у которых часто есть отдельные конференции и отдельные журналы, главным исключением является ECML PKDD) возникает из-за основных предположений, с которыми они работают: в машинном обучении производительность обычно оценивается по отношению к способности воспроизводить известные знания,

в то время как в обнаружении знаний и интеллектуальном анализе данных (KDD) ключевой задачей является обнаружение ранее неизвестных знаний.

Неинформированный (неконтролируемый) метод, оцененный по отношению к известным знаниям, будет легко проигрывать другим контролируемым методам, в то время как в типичной задаче KDD контролируемые методы нельзя использовать из-за отсутствия обучающих данных.

Машинное обучение также тесно связано с оптимизацией: многие задачи обучения формулируются как минимизация некоторой функции потерь на обучающем наборе примеров. Функции потерь выражают несоответствие между прогнозами обучаемой модели и реальными экземплярами проблемы (например, при классификации хотят присвоить экземплярам метки, а модели обучаются правильно предсказывать заранее заданные метки набора примеры) .

Разница между этими двумя областями возникает из-за цели обобщения: в то время как алгоритмы оптимизации могут минимизировать потери в обучающем наборе, машинное обучение связано с минимизацией потерь в невидимых выборках. Исх.-

https://en.wikipedia.org/wiki/Machine_learning#Inductive_logic_programming