Anoop Alex

может ли машина галлюцинировать?


Искусственный интеллект Реальность Субъективность Философия

Мне кажется, что наш нынешний опыт субъективного сознания человека в настоящее время основан на следующем:
- представление субъективного опыта через язык
- наблюдение электрической активности в областях мозга, сопоставленных с субъективным опытом

Используя эти 2 как признание продолжающегося субъективного опыта и материалистов, таких как Деннетт, определяющих обработку, происходящую в мозге, как сам субъективный опыт, до тех пор, пока ИИ может утверждать, что машины испытывают субъективную реальность?
В конце концов, у нас есть машины, которые могут вводить, хранить и обрабатывать объективную реальность. Всегда можно утверждать, что контролируемая обработка информации в виде электрической активности является свидетельством того, что машина испытывает субъективную реальность, поскольку, помимо языка, это единственное доказательство, которое мы имеем для этого в случае других людей из-за проблема Другого Разума.

Единственный аргумент, который я могу придумать, - показать, могут ли машины галлюцинировать. Имеются убедительные доказательства того, что большинство людей, подвергающихся сенсорной депривации, испытывают какую-то визуальную или слуховую галлюцинацию. По существу, в отсутствие сенсорных данных ум будет генерировать ложные данные. Если машина AI делает это, то, возможно, они действительно испытывают субъективную реальность .....

jobermark
Вам нужно более сильное ощущение того, что означает «галлюцинация». В какой-то степени ( braindecoder.com/post/... ) весь наш механизм восприятия - это галлюцинация, которая проверяется реальными входами. Никаких входов, означает отсутствие проверки и более причудливую галлюцинацию. Больше ввода означает больше проверок и более реалистичный. Но нет прерывистой точки, где что-то «просто нереалистично», чтобы быть галлюцинацией.

Anoop Alex
По сути, я имею в виду аудио / визуальный опыт в объективном мире, которого там нет. В случае с машиной я готов уменьшить ее до наблюдения за электрической мощностью, когда нет входа, где есть электрический выход при вводе. Но, возможно, этот вопрос должен быть закрыт, как предложили некоторые пользователи. Гипотеза о неструктурированных структурах, хотя я думал, что это была философия.

jobermark
Но сочетание зеленого и красного, чтобы сделать желтый, - это визуальный опыт объективного мира, которого там нет. Нет излучения длины волны желтого, созданного путем объединения двух других цветов. Если это галлюцинация, то наше представление о цвете - это продолжающаяся галлюцинация, и поскольку она характеризует почти весь наш визуальный опыт, мы живем в постоянной галлюцинации.

Isaacson
@jobermark Существует длина волны желтого цвета, которая может быть создана путем объединения длин волн других цветов, просто у нас нет конусов в нашей сетчатке, чтобы забрать ее, у нас есть только длинные, средние и короткие длины волны рецепторы все, что падает между ними составлен из сигналов от них. В этом случае мы «выводим» цвет, который на самом деле существует (другие устройства могут его отличить), мы просто не чувствовали его должным образом. Вы совершенно правы, конечно, о том, что мы чувствуем в какой-то форме галлюцинации, но, похоже, это скорее встречный пример.

Isaacson
Я не хочу быть преднамеренно педантичным, я просто думаю, что вы сделали очень хороший момент, и я не хотел, чтобы это было отвлечено от небольшого недостатка. То, как мы ставим бесшовные изображения вместе с тем, что на самом деле является постоянно меняющимся набором изображений, каждый раз, когда мы двигаем глазами, или способ, которым мы изобретаем цвета в нашем периферийном видении (который не имеет цветовых рецепторов), были бы настоящими галлюцинациями чего-то, что могло бы на самом деле не существует в реальном мире.

Ответы


Chris Degnen

Вот статья об галлюцинациях изображения ИИ:

Да, андроиды мечтают о электрических овцах (The Guardian, 18 июня 2015 года)

Если программа может видеть галлюцинации, она также может попытаться взаимодействовать с ними. С некоторым уговором я предполагаю, что он может поддерживать галлюцинаторный рассказ.

Google освобождает своих роботов мечты: половина съела пончик. Иллюстрация: Google

введите описание изображения здесь

Anoop Alex
Интересно. Поэтому кажется, что мои подозрения в отношении некоторых АИеров, утверждающих, что их машины могли мечтать, не были полностью необоснованными. Из изображения, которое вы опубликовали, и тех, что в статье, фракталы, по-видимому, являются темой признания. Как он распознал один элемент, а затем ищет этот элемент в разных масштабах изображения. Кажется, это гусеница выше, и они подчеркивают кривую этого в разных масштабах и поворотах. Но вы можете заметить, что мой предыдущий пример галлюцинации был получен в отсутствие ввода, и мы определенно получаем здесь вход.

Isaacson

Галлюцинация в смысле видения вещей, которые на самом деле не происходит, все время происходит, мы «видим» цвета путем вычитания из частот, близких к этим цветам, мы также видим непрерывный образ окружающего нас мира, несмотря на то, что он построен из сотен постоянно меняя изображения. В широком смысле деятельность нашего мозга в ответ на зрительные стимулы можно разделить на три типа: те, которые используют наше ограниченное сенсорное оборудование, чтобы вывести что-то о мире, который является реальным (обнаруживается другим оборудованием), но который мы на самом деле не видели, теми, которые помогают создайте полезную картину мира, с которым согласятся большинство других, но которые на самом деле не могут быть там (оптические иллюзии и т. д.), и те, в которых информация из наших воспоминаний или воображения ошибочно идентифицируется как исходящая из наших глаз.

ИИ по необходимости будет страдать от первого типа галлюцинации, если их системы ввода не будут настолько продвинуты, чтобы точно принимать все сигналы во всем диапазоне длин волн из всех источников. Второй тип также будет необходимо, так как машина вряд ли будет функционировать эффективно без какой-либо степени вывода, где отсутствуют датчики.

Я думаю, что только в третьем типе важно точно, как производится машина

Галлюцинация в ответ на сенсорную депривацию не является показателем «субъективного опыта или реальности», это просто способ, которым наши мозги связаны. Все наши сенсорные переживания, будь то реальные, запоминаемые или воображаемые, обрабатываются с использованием той же части мозга. Обычно вторая часть мозга дает нам информацию об источнике смысла, в отсутствие доказательств (сенсорная изоляция) или в случаях шизофрении, она не может этого сделать, и мы неправильно идентифицируем внутренне созданные сенсорные переживания как внешние, см. здесь .

Таким образом, если ИИ был подключен для обработки сенсорных данных таким же образом (т. Е. Иногда из его внешних датчиков, иногда из его банков памяти или его схем генерации шаблонов, но с последующей программой, чтобы рассказать об этом) в отсутствие эта последующая программа может (если бы она была запрограммирована) решить, что все источники сенсорных данных, вероятно, являются внешними и поэтому «галлюцинируют». Нетрудно заставить машину генерировать одни и те же данные из своей памяти, поскольку она генерирует из нее сенсорные устройства ввода и обрабатывает их как идентичные источники.

Проблема с обсуждениями типа AI / conciousness заключается в том, что мы размышляем о технологии, которой не существует, и чтобы теоретически теоретически можно было что-либо сделать. Нам не нужно физиалистическое понимание реальности, чтобы размышлять об искусстве AI, потому что, даже если мы примем дуалистическую перспективу, почему бы нам тогда отвергнуть идею о том, что технология может продвинуться на стадию, когда ее можно запрограммировать на доступ к «царству идей», ?

Если мы собираемся принять идею о том, что технология может делать что-то, чего она в настоящее время не может, какой разумной причиной может быть намеренное ограничение способности этой технологии, а затем заявить, что она обнаружила что-то интересное?

Anoop Alex
Исследования в области ИИ были для «моделирования» сознания. Люди могут испытывать только собственное сознание. Они могут попытаться понять, как другие люди понимают свое сознание через политый язык. В настоящее время теории: весь ее материал, все это нематериальное и своя смесь обоих. Возможно, в настоящее время исследование ИИ пытается понять реальность физического сознания.

Isaacson
@AnoopAlex Что заставляет вас думать, что люди могут понять только осознанный опыт других людей через язык? Не позволяет ли нам неврология и физиологическое экспериментирование? Так или иначе, это все еще не что иное, как спекуляция, сказать, что нынешние теории - это «все его материальное, все это нематериальное и их сочетание обоих» - очень щедрая интерпретация. Для меня это просто похоже на список всех возможностей. Если бы мы не знали, есть ли в коробке песок или вода, это не будет полезной проницательностью, чтобы сказать, что это может быть песок или вода или и то, и другое.

Anoop Alex
Пока мы не узнали окончательно, будь то песок или вода, говоря, что это может быть песок или вода, или оба будут лучшим объяснением. И если весь наш мир был сделан из песка, и мы знали только о понятии воды, мы могли бы сделать ошибку, только глядя на методы, которые доказывают, что это песок и игнорирование тех, которые докажут, что это вода.

Isaacson
Извините, я думаю, что моя метафора, возможно, не очень хорошо выражена, представьте себе такой же сценарий в мире, как вы говорите, полностью состоящий из песка и воды, а затем сказать, что это либо песок, вода, либо оба будут абсолютно правильными, но не полезно . Мы не можем игнорировать один вариант просто потому, что никто не сказал, что это возможность, поэтому я не вижу полезности заявления.

Pé de Leão
Кажется, вы смешиваете нервное представление ощущения с ощущением ощущения. Как указывает Мортен Овергард, нейронаука опирается на субъективные данные, чтобы получить представление о сознательном опыте: «Чтобы прийти к этой ассоциации [с сознанием], нужно было бы провести несколько экспериментов, сопоставляющих повторяющиеся процессы с сознательными, используя интроспективные экспериментальные участники. метод не был бы независим от интроспекции, но имел бы сильные и слабые стороны и ограничения интроспекции ».

Смотри также