Сознание в теории моделирования и ИИ, почему некоторые считают, что это вообще возможно?

Вы просите «хороший аргумент» в пользу идеи, что сознание возможно в симуляции. Я не уверен, что такой аргумент существует, потому что в отсутствие какого-либо согласия относительно того, чем на самом деле является сознание, или какого-либо объективного способа измерить или определить его, невозможно осмысленно спорить.

Однако я попытаюсь представить одну интерпретацию сознания, в которой оно явно возможно в рамках симуляции; Я не собираюсь убеждать вас в правильности этой интерпретации, но, возможно, она поможет вам понять, что может думать кто-то вроде Ника Бострома, когда пишет о симуляционизме или ИИ.

Поведение, то есть очевидные эмоции и действия реального меня и моего цифрового смоделированного мозга, будут идентичными. Однако для меня очевидно, что цифровой смоделированный мозг не будет сознательным [...], потому что цифровой мозг - это просто расчеты того, что сделал бы настоящий мозг ...

Я думаю, что это ключевой момент потенциальной путаницы; что, по-вашему, делает настоящий мозг? С моей точки зрения, соответствующая функция мозга — обрабатывать данные для принятия решений, и кажется очевидным, что сознание — неотъемлемая часть этого процесса принятия решений.

(Настоящий мозг также выполняет различные вегетативные функции, такие как регулирование температуры тела и сердцебиения, но я полагаю, что мы можем согласиться с тем, что эти функции не имеют значения в данном контексте.)

Если мы возьмем мою морозильную камеру и запустим физическую симуляцию морозильной камеры, вы ожидаете, что ваш процессор станет холоднее или что-то в этом роде, нет, потому что это просто расчет того, где атомы окажутся в симулируемой морозильной камере?

Действие морозильника носит физический характер — он переносит тепло из одного места в другое. Имитация физического действия явно отличается от фактического выполнения этого действия.

С другой стороны, мы не проводим никакого различия между «сложением двух чисел» и «моделированием сложения двух чисел» и не утверждаем, что компьютер способен делать только последнее. Это потому, что сложение — это концептуальное действие, а не физическое. Все, что имеет значение, — это алгоритм, а не его физическая реализация: используете ли вы счеты, мозг или двоичный сумматор, вы все равно складываете числа.

Принятие решения — а значит, в моей интерпретации и сознание — совершенно очевидно является действием второго рода, концептуальным, а потому независимым от физической реализации.

Опять же, я не пытаюсь убедить вас в том, что эта интерпретация верна, просто она самосогласованна и правдоподобна. Лично я думаю, что Бритва Оккама предпочитает ее идее о том, что сознание имеет какое-то независимое физическое существование или является аспектом сверхъестественного, но это только одно мнение. Я хотел бы спросить: есть ли у вас хороший аргумент в пользу вашей интерпретации сознания?

Никто никогда не находил достоверных доказательств того, что человеческий мозг представляет собой нечто иное, чем очень сложный компьютер, работающий со странным программным обеспечением. Никто никогда не находил достоверных доказательств того, что люди — это не то же самое, что p-зомби. В частности, у вас нет достоверных доказательств того, что вы не п-зомби.

«Но это смешно», — можете сказать вы. «Совершенно очевидно, что я не зомби».

Да ну, масса лжи совершенно очевидна! Например:

• Совершенно очевидно, что Земля неподвижна.
• В иллюзии шахматной тени совершенно очевидно, что квадрат в тени светлее (это означает, что он напечатан более светлыми чернилами или отображается с большей яркостью пикселя), чем квадрат вне тени.
• Если подбросить правильную монету большое количество раз, совершенно очевидно, что разница между количеством решек и орлов будет колебаться около 0.
• Если тест на данное заболевание точен в 99% случаев, и кто-то делает тест и результат положительный, то совершенно очевидно, что существует 99% вероятность того, что у человека есть это заболевание.
• Предположим, что есть какой-то мужчина, который старше какой-то женщины. Совершенно очевидно, что женщина никогда не может впоследствии быть старше мужчины.
• Предположим, что есть два объекта, и мы хотим увеличить расстояние между ними. Совершенно очевидно, что единственный способ добиться этого — сдвинуть хотя бы один из двух объектов.

Все эти утверждения в какой-то момент казались совершенно очевидными тому или иному человеку, и тем не менее все они ложны.

Итак, ясно, что просто быть полностью очевидным — недостаточное основание верить во что-то. Для того, чтобы мы имели право думать, что у людей есть сознание, которого нет у p-зомби, мы должны иметь какое-то подтверждение этого понятия. Несколько дополнительных доказательств этому.

Но дополнительных доказательств этому нет.

Перспектива материализма

Один из аргументов в пользу возможности симуляции разума исходит из предположения, что физику вообще можно симулировать. Если вся физика может быть смоделирована, то должно быть концептуально возможно смоделировать (среди прочего) все процессы, происходящие на Земле, включая биологию, клетки, организмы, живые существа, а также человекоподобные существа.

Перспектива материализма (или физикализма) предполагает и утверждает, по сути, что «физика — это все, что есть в реальности», поэтому, если физика этих существ, включая физику их мозга, верна, то все их внешнее и внутреннее поведение тоже будет "правильно". Таким образом, утверждение, что эти смоделированные существа существенно отличаются от нас в каком-то аспекте, требует утверждения, что функция нашего разума включает в себя нечто большее, чем «просто» физика и химия, происходящие в нашем мозгу, что материалистический подход фундаментально отрицает как неразумное экстраординарное предположение, не имеющее никакого отношения к реальности. подтверждающее доказательство.

Что такое сознание?

Не существует общепринятого определения сознания (о котором я знаю).

Это отсутствие точного определения представляет собой первую и самую большую проблему в предоставлении конкретного ответа на вопрос «может ли искусственный интеллект быть сознательным».

На странице Википедии, посвященной сознанию животных, об этом подробно рассказывается. В нем приводится один пример в 2004 году, когда восемь нейробиологов сказали следующее в «Функции человеческого мозга»:

... мы не знаем, может ли сознание возникнуть из небиологических систем, таких как компьютеры ... Здесь читатель ожидает найти тщательное и точное определение сознания. Вы будете разочарованы. Сознание еще не стало научным термином, который можно было бы определить таким образом. ...

Как вы можете говорить, что что-то является или не является сознательным, если вы не знаете, что такое сознание?

Как мы измеряем сознание?

Итак, у нас нет определения, но давайте рассмотрим, как его можно измерить.

Оба из приведенных ниже способов представляют некоторые проблемы, но я не думаю, что есть другие способы измерения сознания (они охватывают довольно широкий диапазон возможных способов его измерения).

Таким образом, мы никогда не можем быть на 100% уверены, что что-то находится в сознании , даже при наличии формального определения и способа его измерения.

Но давайте посмотрим, что эти способы измерения могут сказать об искусственном интеллекте.

Физический внутренний анализ

Один из способов измерить это — посмотреть на внутреннюю работу объекта (например, сканирование мозга или карта, или посмотреть на архитектуру или поток компьютера или компьютерной программы).

Измерение таким образом дало бы наиболее убедительный ответ, но это также очень, очень сложно. Что, если вы не можете увидеть эту внутреннюю работу достаточно подробно? Что делать, если вы не можете полностью понять это? Как бы вы вообще перевели то, что видите, в ответ на вопрос «есть ли у этой штуки сознание»? Если вы не можете полностью понять его, сможете ли вы сравнить его с сущностью, которая работает принципиально иначе? Мы все еще не понимаем, что происходит в человеческом разуме, поэтому мы еще не достигли той точки, когда мы можем использовать это, чтобы сказать, является ли сознательным что-то совершенно другое.

Хотя на самом деле здесь можно привести довольно веские доводы в пользу того, что некоторый искусственный интеллект может быть сознательным (теоретически). Предположим, что «души» (как в неестественных частях нашего разума) не существуют или не требуются для сознания (этот аргумент не работал бы слишком хорошо без этого предположения). Так что мозг — это всего лишь биологические системы, которые часто создаются в природе в процессе размножения. Кажется, нет никаких веских причин полагать, что искусственно создать что-то, что может быть создано естественным путем, или создать что-то, что функционирует точно так же, принципиально невозможно. На самом деле искусственные нейронные сетикак следует из названия, созданы, чтобы быть структурно похожими на то, как работает мозг (но, конечно, построены из кода, а не из биологии). Хотя они намного проще, поскольку в мире недостаточно вычислительных мощностей, чтобы приблизиться к тому, что делает человеческий мозг (это кажется скорее практической задачей, чем теоретической проблемой).

Наблюдательный анализ

Другой способ измерить сознание — это наблюдение, например, наблюдение за тем, как оно ведет себя в ответ на раздражители.

Мы можем сравнить это с тесно связанной темой самосознания . Обычно это измеряется исключительно посредством наблюдения. Один из распространенных способов измерить это — поставить сущность перед зеркалом и посмотреть, узнает ли она себя. Вы также можете задать ему вопросы (если сможете), чтобы увидеть, демонстрируют ли его ответы самосознание.

Это то, что я бы назвал «проблемой моделирования». Если я в сознании, и что-то действует точно так же, как я, то является ли это тоже сознательным? Поскольку мы измеряем сознание только посредством наблюдения, единственный возможный ответ, который мы можем здесь дать, — «да».

Возможно, искусственный интеллект все еще далек от того, на что способны люди, но они добились значительного прогресса в том, на что способны люди во многих сложных областях (таких как обработка естественного языка и компьютерное зрение ) . Конечно, до этого еще далеко, но я не вижу оснований полагать, что компьютер или другое искусственное устройство принципиально неспособно имитировать поведение человека. Для справки, я ученый-компьютерщик, работающий с искусственным интеллектом.

Итак, с помощью такого типа анализа мы пришли бы к выводу, что искусственный интеллект будущего может быть сознательным (теоретически).

Утверждение, что сознание невозможно у симулированного существа, также имеет странные последствия. Предположим, мы создаем симуляцию, очень похожую на человека. Скажем, мы проделываем ваш случай 2 с кем-то, кто еще никогда не интересовался сознанием, а затем, к сожалению, реальный человек умирает, но симуляция продолжается, и затем он начинает интересоваться сознанием (реальный человек тоже интересовался бы, но скончался до этого). точка). Допустим, у симуляции нет доступа к какой-либо литературе или кому-либо, с кем можно поговорить об этом, но она сама открывает многие из тех же концепций (поскольку реальный человек мог бы сделать то же самое) — она приходит к идее квалиа , аргумент инвертированного спектра , аргумент знанияи т. д. Он так же яростно спорит, как и вы. Неужели мы действительно думаем, что он мог открыть эти концепции, не имея доступа к реальному сознанию?

Кажется, когда я впервые начал думать о сознании, непосредственный доступ к реальной вещи — сознательному опыту — очень сильно повлиял на мое мышление; это были данные, использованные моими (надеюсь) логическими рассуждениями. Так как же симуляция может в конечном итоге рассуждать так же, не имея к ней доступа?

Вы правы, находя эту позицию абсурдной. И это не только философы и комп. ученых, но также и физиков, таких как Брайан Грин, которые открыто признают, что, по их мнению, сознание «создается» посредством вычислений/манипулирования символами. Есть три момента, которые я хотел бы сделать.

1. Они никогда не определяют, что это за «сознание», которое они надеются воспроизвести. Если у вас сложилось впечатление, что мое сознание представляет собой скопление атомов с очень узким диапазоном траекторий, то, по мнению людей из материалистического лагеря, воспроизведение такого расположения должно воспроизводить меня. Вот в чем проблема. Я могу взять вас как личность, полностью разложить вас на атомы, затем добавить еще атомов и перенастроить вас таким же образом. В любом случае, это происходит постоянно: мы едим пищу, испражняемся, теряем кожу, волосы, теряем некоторые нейроны и т. д. Теперь, когда я снова соберу вас в двух человек, чьими глазами вы смотрите? Если вы говорите человек 1, имеет смысл спросить о разнице в материале человека 1 и человека 2, чтобы точно определить тот точный процесс, который заставляет вас привязываться к телу человека 1, а не человека 2. Если это звучит глупо для вас, это потому, что так оно и есть. Сознание — это процесс, который не принадлежит нам и не создан нами, потому что, если бы это было так, мое сознание имело бы ярлык, отличающий его от сознания другого человека, к которому был бы прикреплен другой ярлык. Но это не так.

2. Возьмите анестезирующие газы, и вы предположительно «без сознания», поэтому имеет смысл постулировать, что ваше сознание было вызвано процессами, затрудненными анестезией. Однако этот процесс тоже материален, поэтому ничто не мешает нам его воспроизвести. На самом деле, этот процесс присутствует в каждом мозге. Содержимое сознания может быть различным, но сознание содержания универсально идентично. Вы осознаете X, значит, вы в сознании. Это суть. Можно сказать, что сознание эквивалентно знанию. Знания могут быть воспроизведены в книгах, видео и т. д. Знающий может быть воспроизведен как собака, кошка, мужчина или женщина. Но сам акт познания не затрагивается всеми идентифицируемыми параметрами.

3. Теоремы Гёделя о неполноте подчеркивают тот факт, что никакая формальная система символов никогда не может быть последовательной и полной одновременно. Это очевидно, даже если вы не обученный логик. Вы можете продолжать подвергать сомнению свои аксиомы и строить предложения, которые противопоставляют две ваши аксиомы друг другу. Мне нравится думать об этом так: думайте о себе как о наблюдателе, состоящем из тех же символов, которые вы пытаетесь наблюдать, а затем приходите к выводу о символах, которые вы наблюдаете. Где тогда найти почву для понимания? Как только вы приходите к выводу, что листья зеленые, вы спрашиваете, что такое зеленый? Зеленый, конечно, не из-там. Зеленый также не воспринимается, если у вас нет правильных колбочек в сетчатке. Зеленый также не воспринимается, если ваш мозг не Я не знаю, как сформировать контекст, в котором можно противопоставить значение зеленого. Воспринимать зеленый означает воспринимать то, что не является зеленым. Но тогда как вы вообще можете знать, что такое зеленый цвет, без его контекста или границ? Вы не можете. Гёдель показывает именно эту семантику с логикой. Вы не можете принять набор аксиом, чтобы объяснить все. Они где-нибудь рухнут, а если и рухнут, то полного символического объяснения всего у вас никогда не будет. Есть и другая интерпретация, которую любит давать Роджер Пенроуз: если вы можете составить предложение, подобное парадоксу лжеца, которое полностью согласуется с алгоритмом построения предложений в вашей системе, но которое, тем не менее, система не может доказать или принять решение, , то есть' фактор в человеческом разуме, позволяющий ему увидеть справедливость утверждения и выйти из бесконечного регресса доказательства этого утверждения. Компьютер не смог бы ответить на этот вопрос и зациклился бы на бесконечном цикле.Компьютеры не понимают сарказма.

Материалистическая парадигма совершает ошибку, принимая сознательное поведение за эквивалент сознания. Это не. Нет никаких причин, чтобы это было так. Проблема в том, что другая возможность того, что сознание предшествует материи, настолько радикальна, что перевернет фундаментальную науку с ног на голову: подумайте о чем-то более фундаментальном, чем физика, дающем физике появление, поскольку физика возникает из химии, а затем биологии. Ученые просто недостаточно убеждены, чтобы отказаться от этого, потому что они действуют в соответствии с парадигмой, в которой они ожидают перетасовки символов и ожидания ответа. Сознание оставляет за собой право полностью принять «да» за «нет» и «нет» за «да». Такого рода непоследовательность не допускается ни в одной известной мне науке. Так что' Маловероятно, что это сознание будет даже признано радикально другим явлением в современной науке. Трудная проблема продолжает сохраняться, потому что она является результатом неприятия сознания чего-то отличного от материи.

это дискуссия, которая продолжается сотни, если не тысячи лет, и будет продолжаться еще много.

есть много аргументов по обе стороны «траншеи», и я предполагаю, что вы знакомы с некоторыми из них, учитывая, что вы знаете термин «философский зомби».

Моя точка зрения на этот вопрос заключается в том, что, возможно, вы знаете что-то очевидное, на что большинство людей, похоже, не обращают внимания. Религиозные традиции всего мира на протяжении тысячелетий сообщают, что «осознание» и «слепота» называются по-разному.

Например, в индуистской адвайта-веданте это называется способностью видеть божественную природу ума и высшей реальности. Таких людей буквально называют провидцами — риши — и в других традициях есть параллели.

Однако наличие позиции по этому ключевому вопросу философии сознания само по себе не влечет за собой видение или невидение, поскольку существует множество «неправильных» причин и ложных аргументов в пользу любой позиции. У нас есть бесконечная способность бесконечно спорить о чем угодно и хоронить это под горами аргументов и жаргона.

Наконец, это объяснение, естественно, покажется большинству людей бессмысленным, но этого, к сожалению, нельзя избежать.

Несколько дней назад я загрузил статью, которую я написал об этом, и в которой подробно рассматриваю эту проблему и множество мнений о ней, и я бесстыдно добавляю ее сюда. Он называется «Ключ, спрятанный на виду»:

https://philarchive.org/rec/АЙДАХ

Я хотел бы услышать, что вы думаете об этом (заметьте, я не профессиональный философ).

Я думаю, что, безусловно, возможно создать устройство, обладающее сознанием, и создать настоящий Искусственный Общий Интеллект (я не знаю, требуется ли последнее первое, и я не думаю, что кто-то еще знает об этом). Ведь человек сам является таким устройством.

Однако я также не вижу никаких доказательств, много противоположных аргументов в пользу того, что наши нынешние технологии приближаются к этому. Я даже не вижу причин полагать, что любое расширение наших нынешних технологий позволит достичь этого. Единственные устройства, которые, как мы знаем, достигают этого, — это мозг, а мозг не работает точно так же, как компьютеры. Можно даже утверждать, что чем мощнее мы делаем наши компьютеры, тем меньше они становятся похожими на человеческий мозг, а не больше — они уже намного быстрее мозга и намного превосходят его в любой задаче, связанной с вычислениями, и это пока не сделало их насколько я понимаю, более сознательный, чем счеты.

Примечание. Отличная книга, которую я недавно прочитал, — «Обещание искусственного интеллекта» Брайана Кэнтуэлла Смита. Это потомок феноменологической критики ИИ, сформулированной Хьюбертом Дрейфусом в 70-х (я думаю), но более сочувственно сформулированной (я большой поклонник Дрейфуса, но его едкие насмешки напрасно оттолкнули сообщество ИИ, на мой взгляд, и помешали восприятию его идеи). Обратите внимание, что Кэнтуэлл Смит больше сосредоточен на создании ОИИ и вызове, а не на создании сознания. Как я уже говорил ранее, я не думаю, что ясно, разные ли это задачи или одна и та же.