Сильный ИИ против теоремы Гёделя?

Если теорема Гёделя верна, это означает, что для каждой формальной системы существует тезис, который верен, но не может быть доказан из формальной системы. Каждая агентная система, которую люди могут построить с помощью современного компьютера, является формальной системой. Это означает, что в каузальном мире есть некоторые истины, которые агент не может проверить. Но если человеческий разум также является формальной системой, подчиняющейся формальным правилам, то истина, которую не может проверить агент машины, также не может быть проверена людьми. Тогда вышеуказанная истина может быть оценена только Богом.

Кто-то возразит, что люди не являются формальными системами, потому что они обладают творчеством, воображением, могут создавать новые аксиомы. Но это всего лишь означает, что творчество и воображение вообще нельзя формализовать. Итак, я делаю вывод, что Сильный ИИ невозможен, потому что человеческий разум обладает какой-то таинственной способностью, выходящей за рамки формальной системы.

Как программист, я был бы счастлив, если бы Сильный ИИ был реализован. Так должен ли я отказаться от теоремы Гёделя?

Так должен ли я отказаться от теоремы Гёделя? - На самом деле ты можешь делать все, что захочешь.
Humans create AI... может быть, может быть нет. у нас даже нет доказательств существования разумного создателя самих людей.
Как ученый-компьютерщик, я не совсем уверен, что выводы, которые вы смешиваете, настолько однозначны. Я не думаю, что создать сильный ИИ невозможно, но мы пока этого не знаем, и трудно сказать, узнаем ли мы когда-нибудь — например, проблема зомби. Теорема Геделя, насколько мне известно, строга. Возможность сильного ИИ является спекулятивной. Вы как бы предполагаете второе и от этого хотите отбросить первое.
@Koeng Как я уже упоминал здесь .
Теоремы Гёделя устанавливают важные принципиальные ограничения систем доказательств. Как вы думаете, почему интеллектуальная программа должна быть в состоянии доказать все? Люди этого тоже не делают.

Ответы (4)

Такого рода ошибочные/мягкие/неправильные/расплывчатые рассуждения о теореме Гёделя являются примером того, что имел в виду Францен в своей критике в книге «Теорема Гёделя: неполное руководство по ее использованию и злоупотреблению» . См. Также критику Феферманом аналогичных аргументов Пенроуза, связанных с теоремой Гёделя.

Я не думаю, что сильный ИИ возможен.

Теорема Геделя применима к формальным системам. Остается доказать или, по крайней мере, убедить, что разумы являются формальными системами. Сомневаюсь - путают модель с моделируемой вещью. Точно так же видео торнадо — это не торнадо.

Я не думаю, что Гедель был первым, кто поднял вопрос о разнице между доказательством и истиной. Но он сделал это математически.

Достаточно ли будет доказать, что разум можно смоделировать в формальной системе? В этом случае разум не мог бы сделать ничего такого, чего не могла бы сделать формальная система.

Нет никаких причин, по которым Человек не может создавать машины столь же мощные, как они сами. Они вовсе не должны быть формальными системами. Единственным ограничением в этом случае является то, что, как только такие машины будут построены, и если они станут такими же мощными, как мы, они никогда не смогут формально рассказать нам, как они это делают («творчество», «воображение» и т. д.). Это также означает, что человек (человек) не сможет «перепроектировать» их, чтобы увидеть, как человекоподобная машина работает, доказывая теоремы или выполняя математику и логику даже лучше, чем люди.

Кажется, что теоремы Гёделя не закрывают двери для создания таких машин, а просто мешают нам реконструировать их код (т. е. формально описывать их внутренности, когда они воображают). Мы можем спросить, если реверс-инжиниринг будет невозможен, как они будут строиться. Эволюция, гибридные вычисления (сочетание биологических, твердотельных и квантовых вычислений) позволили бы создать такую ​​машину.

Ответ очень интересный. Вы только что сказали, что Человек не может воспроизвести разум с помощью цифрового компьютера, но может построить его с помощью эволюции и биологии. Как программист, я не могу с вами согласиться.
Нет, на самом деле он сказал: эволюция, гибридные вычисления (сочетание биологических, твердотельных и квантовых вычислений) позволят создать такую ​​машину. - Что отличается от: может построить его путем эволюции и биологии.
@mami Не могли бы вы указать свои источники таких заявлений? Я не знаю о GT, но я прочитал предисловие к: Теорема Гёделя: неполное руководство по ее использованию и злоупотреблению . Автор говорит: Ни одна математическая теорема не вызвала такого интереса среди нематематиков, как теорема Гёделя о неполноте [...] Многие ссылки на теорему о неполноте вне области формальной логики довольно явно бессмысленны и, по-видимому, основаны на грубых недоразумениях или каком-то процессе. свободной ассоциации.
@GustavoBandeira, вы можете выполнить поиск, используя следующие ключевые слова, и вы увидите разумные альтернативы, расширения или парадигмы для вычислений помимо основанных на машине Тьюринга (т.е. формальных систем): биовычисления, естественные вычисления, действительные числа/непрерывные вычисления и т. д. Если вы любите читать научно-популярную книгу на эту тему (хотя бы частично), "Новый разум императора" будет для вас.
@mami Вы в курсе, что некоторые идеи в этой книге очень противоречивы?
@GustavoBandeira Верно. Но, по крайней мере, как «популярная» научная книга, она напомнила о возможностях неалгоритмического подхода и проблеме ИИ для непрофессиональных мыслителей :)

Его теорема применима и к тому, как работает разум. Вопрос непротиворечивости не имеет отношения к человеческому мышлению, хотя его часто предлагают в качестве последней отчаянной меры, чтобы избежать очевидного следствия Гёделя об ограничениях логики. Всякий раз, когда разум содержит сложный набор аксиом (относящийся, например, к логическому или математическому факультету), в нем есть доказательства, которые можно вывести только через другой набор аксиом.

Сильный ИИ против теоремы Гёделя?
СпросиСетьПолитика конфиденциальности1y, 0v