В этой статье Ааронсона дается доказательство бритвы Оккама путем обращения к обучению PAC . Насколько я понимаю, ограничения Valiant для учащихся PAC заключаются в том, что для этого требуется iid .
Часто это разумное предположение. Однако он использовал это доказательство бритвы Оккама для обоснования проблемы индукции (т.е. утверждения, что будущее будет представлять прошлое).
Если вы предполагаете, что будущие и прошлые данные берутся из одного и того же распределения (именно так, я думаю, используется iid), мне кажется, что по существу предполагается, что будущее будет похоже на прошлое, поэтому использование PAC-обучения здесь напрашивается. вопрос.
Я неправильно понимаю использование iid? Есть ли способ обойти эту проблему?
Я думаю, что вы намеренно неправильно цитируете раздел о том, как PAC узнал о статье Ааронсона, чтобы задать вопрос об этой хорошо написанной статье.
Намерение цитируемого раздела состоит не в том, чтобы доказать бритву Оккама, а в том, чтобы объяснить, как теория Валианта обучения PAC может помочь прояснить следующие вопросы, касающиеся бритвы Оккама:
(1) Что мы подразумеваем под «простым»?
(2) Почему простые объяснения чаще всего верны? Или, менее амбициозно: какими свойствами должна обладать реальность, чтобы бритва Оккама «работала»?
(3) Сколько данных мы должны собрать, прежде чем мы сможем найти «простую гипотезу», которая, вероятно, предскажет будущие данные? Как нам найти такую гипотезу?
Недостаток, связанный с допущением iid, достаточно освещен в том же разделе:
Третьим недостатком теоремы 2 является предположение, что распределение D, по которому тестируется обучаемый, совпадает с распределением, из которого были взяты точки выборки. Для меня это самый серьезный недостаток, поскольку он говорит нам о том, что PAC-обучение моделирует «обучение», выполняемое студентом, готовящимся к экзамену, путем решения прошлогодних задач, или работодателем, использующим регрессионную модель для определения характеристик успешных нанимает, или криптоаналитик взламывает код из набора открытых текстов и зашифрованных текстов.
Несмотря на то, что я прочитал эту статью только для того, чтобы иметь право ответить на этот вопрос, я думаю, что статью действительно стоит прочитать, даже если вы не хотите отвечать на какой-либо вопрос. Его легко читать, он охватывает много вопросов и даже содержит наброски доказательств некоторых неочевидных теорем. Но относится ли это к философии? Что ж, это честная попытка обратиться к аудитории философов и попытаться сократить (или показать, как можно уменьшить) разрыв между теорией и реальностью в определенных областях.
Мозибур Улла