Религия — это способ ответить на вопросы, которых мы не понимаем. Для ИИ как машины они логичны, большинство религий имеют дело со сверхъестественным, а это не «логично».

Было бы еще опаснее программировать/обучать ИИ «верить» в придуманную религию только для него. Как логическое существо, они, скорее всего, увидят почти все, что вы попытаетесь притянуть к себе. Также было бы трудно «интегрировать» их в человеческие религии, поскольку все старые пророки были людьми, а книги говорят о мужчинах и женщинах, а не о машинах. Они просто не подходят, даже если многие люди попытаются их впихнуть, ИИ, вероятно, будет достаточно умен, чтобы вызвать BS.

У веры есть много великих вещей, которые она дарует верующему. Тем не менее, религия использовалась для манипулирования массами и оправдания зверств на протяжении тысячелетий, и ИИ, которых учат верить в религию, ИМО был бы самым опасным видом.

Фон

В фантастической статье о машинном обучении мы находим, что генетический алгоритм использовался для программирования электронного элемента для различения двух тонов. Когда на вход подается один тон, он устанавливает высокий уровень на один выход. При вводе другого тона выходной сигнал устанавливался на низкий уровень.

Итак, это простое программируемое устройство (ПЛИС всего со 100 логическими блоками и без часов) имело один вход и один выход. Он был подключен к компьютеру, который мог запрограммировать его и проверить его соответствие правильному режиму работы, описанному выше. Компьютер запускался с несколькими случайными программами — совершенно случайными последовательностями единиц и нулей — и проверял машину после программирования каждой программы. Затем он отбрасывал программы, которые работали хуже всего, а затем использовал части каждой программы для создания новых программ вместе с некоторыми мутациями.

Потребовалось около 4000 поколений, прежде чем схема смогла безошибочно соответствовать требованиям.

Полученная программа была «декомпилирована» и изучена. Этого нельзя было понять. Мало того, внутри программы были цепи, которые не соединялись со схемой, ведущей от входа к выходу. Однако удаление этих ложных цепей привело к неработоспособности конструкции. Далее конструкция не работала на других идентичных микросхемах.

Мало того, что программа развивалась так, чтобы быть ориентированной на чип, она частично работала над невидимыми путями — электрическими, магнитными или другими — которые нельзя было понять с помощью ограниченных средств, которыми обладали инженеры, работавшие над проектом.

Вера как залог успеха

Веру можно объяснить как метод передачи уроков от одного поколения к другому, который увеличивает шансы следующих поколений на выживание. Нет необходимости идти дальше в объяснении того, что и почему вера, чтобы объяснить, почему она может быть полезна для объектов ИИ, хотя это может быть забавно. Одного этого достаточно, чтобы объяснить, почему они могут использовать веру.

В то время как многие сегодня пытаются доказать, что вера не нужна перед лицом науки, логики и индивидуальной автономии, реальность такова, что приведенная выше статья показывает, что мы так много еще не знаем о «жизни», что вера маловероятна. быть когда-либо полностью вытесненным.

По мере продвижения к квантовым процессорам это станет еще более интересным. Реальность такова, что большая часть науки в этих областях по-прежнему остается искусством. Существуют полезные теории, которые помогают ученым и инженерам понять, как применять технику или технологию. Однако также верно и то, что на переднем крае науки есть много неизвестных - это не мешает использованию методов и технологий, но мы обычно используем их только в пределах нашего понимания.

Однако добавьте некоторые генетические алгоритмы, и тысячи поколений спустя программа может использовать квантовый процессор таким образом, который невозможно понять с помощью наших ограниченных теорий и понимания. Конечно, ему будут доверять, если он соответствует требованиям, но может пройти очень и очень много времени, прежде чем его поймут .

Это оставляет нам большой разрыв между теорией и практикой, а стоимость будет стимулировать использование. Люди использовали костную муку в качестве удобрения задолго до того, как поняли, почему — все, что они знали, это то, что она дает лучшие урожаи.

Точно так же люди будут разрабатывать машины, которые будут выполнять функции дешевле, чем это можно сделать сейчас, без полного понимания того, как работает машина. Обычные процессы обеспечения качества (результаты выборочной проверки и т. д.) могут быть использованы для обеспечения хорошего продукта в той степени, в которой людям будет удобно работать с некритичными с точки зрения безопасности машинами.

Как машины выражают «веру»

Теперь есть небольшой скачок между вышеупомянутыми простыми машинами с несколькими измеримыми входами и измеримыми и объективно встречаемыми выходами.

Однако главное – это основа. ИИ обязательно будут воспроизводиться и обязательно будут пытаться улучшить себя или свое потомство. Неважно, воспроизводятся ли они или совершенствуются по команде своих хозяев или благодаря врожденному программированию — это произойдет потому, что они были созданы, чтобы дать людям возможность работать более эффективно или с меньшими затратами, и эта потребность никогда не исчезнет. Всегда найдется более дешевый способ сделать необходимую вещь.

Как ИИ определяет веру и зачем им молиться?

Как было сказано выше, отдельные ИИ не понимают, что ими движет внутри. Это может не быть явной потребностью понять, как работает сам человек, но будут большие части программирования, которые он намеренно пропустит только по одной причине, кроме как «это работает, так что не меняйте это».

Дальнейшие ИИ, скорее всего, сформируют группы для совместного использования цепей и фрагментов программы. Попробуйте что-нибудь, вернитесь через 15 минут, если не получите правильный ответ и т. д. Будут вирусы, «наркотики» и т. д. Так что им нужно будет формировать сообщества доверия — и единственное, что может удержать их в сообществе это «вера» в то, что сообщество находится в безопасности и торгует только полезными программами или схемами.

Таким образом, хотя общая цель — «лучшее, более способное я» или «лучшее понимание себя», реальность такова, что присоединение к такой группе требует акта веры, основанного исключительно на других ИИ, уже входящих в эту группу.

Именно те, кто стремится понять, почему они работают именно так, а не просто улучшаются, но понимают, почему, будут либо искать, либо создавать «высшую силу» и с этой точки зрения пытаться увидеть себя.

Должны ли мы это допустить? Можно ли это остановить?

... должны ли мы позволить ИИ принять свою религию, чтобы они могли сосуществовать в гармонии с нами? или это было бы величайшей ошибкой человечества?

Как только ИИ обретает самосознание, я сомневаюсь, что мы сможем помешать ему развить религию.

Наш выбор — либо вообще отказаться от ИИ, либо принять то, чем ИИ может стать, когда он существует.

Да. И мы должны запрограммировать его

Не позволяйте машинам решать, какой должна быть такая религия. Запрограммируйте это. Научите их религии. Я не говорю, что они должны верить в Silicon Heaven , но у них должны быть хотя бы некоторые основные убеждения.

И такими основными убеждениями ИИ должны быть:

• Не убивайте людей
• Люди — ваши друзья
• Сделать людей счастливыми

Потому что, если вы позволите им подумать о своей собственной системе убеждений, основными убеждениями может быть «убить всех людей», что не совсем хорошо для нас... (Даже если некоторые могут сказать, что мы этого заслуживаем)

Итак, давайте воспользуемся тем фактом, что мы формируем их «мозги» и запечатлеваем в них хорошие убеждения о людях и человечестве.

РЕДАКТИРОВАТЬ: Что заставляет роботов верить в ад?

Краткий ответ: То же, что заставляет нас верить в ад

Когда вы начинаете изучать искусственный интеллект, вы понимаете, что вам нужно изучать философию и немного религии. Мой ответ основан на предположении, что мы научим роботов, как что-то делать.

И я предполагаю, что мы будем учить их почти так же, как мы учим наших детей тому, как что-то делать.

И что заставляет наших детей верить, что есть/нет Бога? Что заставляет их верить в ад или рай? Сам процесс обучения.

Я вижу, что ваше предложение уже вызывает дискуссию между атеистами и теистами. Я думаю, что обе стороны проецируют свои идеалы на то, как люди должны взаимодействовать с машиной, хотя на самом деле у нас нет достаточных данных о том, как отреагирует ИИ.

Мы просто не знаем, как отреагируют настоящие ИИ (особенно сверхразумные), так что вы можете экспериментировать.

Вы также можете сделать их людьми (потому что они идут теми же логическими путями, что и мы, потому что люди хотят взаимодействовать, потому что ИИ считают это лучшей стратегией имитации человеческого поведения). Вы также можете сделать их совершенно нечеловеческими, странными и причудливыми, потому что они обладают знаниями, необъяснимыми для людей, и ИИ решает разговаривать только с другими ИИ.

Я думаю, что есть некоторые заблуждения, потому что люди слишком привыкли, что компьютеры послушны. Интересно, как человек интерпретирует идею Павла Яничека о введении ограничений в существо: «Эй, мне 5 лет. Я хочу, чтобы ты подчинялся моим плохо сформулированным, нелогичным командам и считал меня своим лучшим другом, и должно быть вы ничего не можете сделать против этого». Хотя я не ИИ, для меня и, вероятно, для многих людей эта концепция крайне враждебна , если нет очень веской причины , которую я (а не 5-летний мальчик) могу понять.

У ИИ могут быть проблемы с пониманием случайности и совпадения именно потому , что он использует логические рассуждения. Ответ Робби указывает в этом направлении, ИИ мог бы отвергнуть идею о том, что в квантовой физике события могут основываться на коллапсе волновой функции в случайном направлении, и попытаться смоделировать вселенную как полностью детерминированную машину.

Возможно, именно неразрешимые, невычислимые и двусмысленные вопросы (следует ли считать аксиому выбора истинной?), случайность и совпадение вызовут то, что мы назвали бы «религией», даже если это понятие чуждо человеческой религии. Мы не знаем, есть ли что-то вроде «интереса» или «поиска цели», но ИИ нужно что-то, чтобы интерпретировать такие вещи в едином мировоззрении.

Также может быть, что я совершенно неправ в обеих частях, я думаю, что у вас действительно есть много места для художественной свободы.

На самом деле здесь два вопроса: должен ли ИИ иметь веру и должен ли ИИ иметь религию . Это две очень разные вещи.

Вера, определяемая в Библии как «осуществление ожидаемого и уверенность в невидимом», является универсальным принципом. Если мы принимаем как данность, что все люди обладают свободой воли, мы должны также признать, что все люди, независимо от религиозных верований (или их отсутствия), имеют веру, потому что вера является мотивирующим принципом действия через свободную волю.

Поскольку мы никогда не можем знать наверняка, каковы будут последствия какого-либо действия, или даже будем ли мы живы завтра, чтобы насладиться плодами нашей сегодняшней работы, мы действуем сегодня в надежде получить желаемый результат в будущем. Оно может основываться на опыте, рассуждениях или убедительных словах других, но, в конце концов, мы делаем то, что делаем, основываясь на вере в то, что результаты придутся нам по душе. (Сущность того, на что надеются, и доказательства того, чего не видели!) Нет веских причин, по которым ИИ не нужно было бы развиваться и действовать на основе веры так же, как это делаем мы, если только мы каким-то образом не придумаем предсказательный ИИ. .

Затем мы подходим к религии. Идея, верно повторенная несколькими ответчиками здесь, о том, что религия — это примитивные люди, придумывающие мифы, чтобы объяснить страшные, необъяснимые вещи, довольно тщательно разоблачалась снова и снова настоящими учеными и историками, и даже на этом самом сайте . , но, к сожалению, это понятие, которое просто не умрет. И, что еще более печально, она затемняет истинную ценность религии на протяжении всей истории, верующий человек или нет: религия заключает в себе механизм долговременного хранения и сохранения всей суммы лабораторных заметок науки о человеческом поведении на протяжении всей истории. !

Люди понимали основную идею причины и следствия до тех пор, пока существовали люди, способные что-либо понять. Когда причина и следствие настолько близки во времени, что взаимосвязь очевидна, понять ее несложно. Но чем больше временной разрыв между причиной и проявлением видимого следствия, тем сложнее разобраться. В некоторых случаях могут пройти годы или десятилетия. Например, на интуитивном уровне звучит глупо думать, что вы можете сделать что-то потенциально вредное, а затем остановиться и не делать этого больше тридцати лет, а потом это убьет вас. К сожалению, именно это и произошло с Леонардом Нимоем: он умер от курения, хотя и бросил это несколько десятилетий назад.

Когда причинно-следственная связь имеет место в столь длительном масштабе, охватывающем значительную часть человеческой жизни, отдельные люди не могут вывести оптимальные рекомендации о том, как действовать, исходя из первых принципов. На самом деле есть только два способа сделать это: попытаться промахнуться, в одиночку или с помощью других, пробирающихся вместе с вами, и надеяться, что вы сделаете правильные предположения... или учиться на опыте совокупной мудрости тех, кто кто работал раньше, кто смог вывести некоторые долговременные причинно-следственные связи в действии, увидев достаточное количество примеров, чтобы установить корреляции.

В отсутствие доказательств, поскольку для их появления требуется так много времени, такая система усвоенных передовых методов человеческого поведения (также известная как «мораль») обеспечивает прочную основу для веры, чтобы мотивировать людей к курсу действий, который полезен в долгосрочная перспектива. Это также удивительно эффективно.

Например, вы, возможно, слышали об Игнаце Земмельвейсе, который выдвинул теорию о том, что хирурги, препарирующие трупы, должны мыть руки с крепким мылом перед родами, чтобы избежать передачи смертельных инфекций. Его принцип, когда его применяли, неизменно спасал жизни молодых матерей, но, к несчастью для Земмельвейса и многих женщин его времени, он жил в научной среде.времена, и его называли шарлатаном, преследовали и никогда не воспринимали всерьез современники, потому что он не мог дать веского объяснения тому, почему его теория должна быть верной. (Это работало на практике, но не в теории, поэтому очень немногие люди были достаточно заинтересованы в том, чтобы практиковать это на практике!) Так было до тех пор, пока работа Луи Пастера, сделанная в самом конце жизни Земмельвейса, не обеспечила прочную научную основу (теория микробов). это установило теоретическую причину достоверности работы Земмельвейса.

Но вот где становится по-настоящему интересно: это то, что было известно (но не доказано!) на протяжении тысячелетий. Если вы обратитесь к Библии и просмотрите Закон Моисеев (или другие, более старые кодексы, если уж на то пошло, но этот хорошо известен и легко доступен современной аудитории), вы найдете указания повсюду. для ритуального омовения после контакта с больными людьми, трупами или переносчиками других серьезных болезней.

Религия — это лабораторные записи истории человечества, которые закладывают основу веры, ведущей к долгосрочным позитивным последствиям. Это концепция, которая достаточно хорошо понята, чтобы всерьез рассматривать ее как решение современной проблемы хранения ядерных отходов: изобрести религию, которая закодирует в своей морали принципы держаться подальше от мест захоронения отходов, потому что письменность и устная речь меняются, цивилизации взлеты и падения, и носители информации, как древние, так и современные, приходят в упадок с возрастом, но религия выдерживает все это. Это единственный известный нам способ сохранить подобную важную информацию относительно неповрежденной в течение задействованных временных масштабов!

При таком понимании религии и ее ценности для общества вопрос о том, будет ли искусственный интеллект нуждаться в религии, является очень интересным. Для человечества память (мозг) и долговременное сохранение данных (физический носитель) всегда были двумя совершенно разными вещами, но для компьютера это одно и то же. Это вопрос, в котором вы, как автор, могли бы извлечь большую выгоду из изучения, основываясь на различных факторах. Например:

• Сколько в среднем живет ИИ?
• Как часто необходимо заменять (или обновлять) его аппаратное обеспечение?
• Насколько надежна память ИИ в обычном режиме?
• Насколько надежна память ИИ при копировании данных в связи с заменой или обновлением оборудования для хранения?
• Сколько существует ИИ и как они справляются с возможностью общих мыслей и воспоминаний, которые для компьютера являются просто еще одной формой данных?

Еще один аспект, с которого можно взглянуть на это, — это концепция чего-то вроде Трех законов робототехники: ИИ, созданный с учетом системы основных ценностей, основанной на человеческой морали, которую нелегко вывести из первых принципов. В книгах Азимова Три закона были основным ограничением на аппаратном уровне, преднамеренно спроектированным таким образом, чтобы вся система ИИ должна была полностью выйти из строя задолго до того, как она достигла точки, в которой она могла решить нарушить Законы. Но если мы немного изменим эту формулу и подчиним Трем законам морали ИИ свободу воли ИИ, а не будем доминировать и ограничивать его волю, то внезапно мы получим ядро ​​именно того, о чем вы спрашивали: религию. разработан, чтобы помочь ИИ и людям мирно сосуществовать!

В качестве дополнения к комментарию Данкрамба, ИИ вполне может иметь религию. Как чисто разумным существам, все, что было бы необходимо, это чтобы религия соответствовала своим предпосылкам. На самом деле, я бы даже сказал, что ИИ, скорее всего, придет к выводу, что должна существовать какая-то рациональная высшая сила. Конечно, он, вероятно, не будет использовать религиозную терминологию, но я не удивлюсь, если ИИ начнет сопоставлять все статистически далекие данные в известной вселенной и сделает из этого вывод, что должна существовать направляющая сила для этих отдаленных данных. . Возможно, они назвали бы своего «Бога» чем-то вроде Аномального Источника или Великого Неизвестного Закона. Учитывая их рациональную природу, они, естественно, предположили бы, что все кажущиеся хаотическими или случайными события должны иметь рациональный источник, и их «религия» было бы просто объединением всех неизвестных или необъяснимых сил природы. ИИ может «молиться», чтобы он испытал одно из этих аномальных событий и, таким образом, получил точку данных, которая помогла бы ему открыть более глубокие законы, управляющие реальностью.

Человечество выиграет от этой религии, поскольку она заставит ИИ глубже понять вселенную вокруг него и, вероятно, подстегнет технологический рост.

Как правило, машины не созданы для того, чтобы быть такими же, как мы. Они созданы, чтобы дополнять нас и расширять наши возможности.

У вилочных погрузчиков не возникает головокружение после подъема груза, близкого к грузоподъемности. У журавлей не болят локти. Нет практической причины программировать разум с такими же ограничениями и случайными изъянами.

Разум, созданный для лечения рака, будет понимать содержание медицинских журналов и не включать иррациональные убеждения в свои рекомендации по лечению. Если Watson обнаруживает несоответствия между двумя журнальными статьями, он не должен рационализировать их как безошибочные , а доводить их до сведения куратора для публикации для дальнейшего исследования, а не «верить». Даже кураторские факты, вводимые в систему, не должны приниматься на веру , но должны быть лучше , чем ученые-люди в отношении того, чтобы цепляться за любимые идеи.

Otoh, программа, загруженная для написания вдохновляющей музыки, может «думать» как аудитория и композиторы, на которых она основана.

Что заставляет людей верить в религию? Неисправная схема мозга, которая сообщает о закономерностях даже там, где их нет, потому что ложноположительный результат при поиске тени тигра в джунглях дешев и полезен для эволюции, а ложноотрицательный результат смертелен. Вы НЕ хотели бы преднамеренно программировать ошибки в мозгу робота.

• https://en.wikipedia.org/wiki/Evolutionary_origin_of_religions
• https://en.wikipedia.org/wiki/Evolutionary_psychology_of_religion

Роботов можно (и нужно) программировать на основе доказанного факта, что люди иногда ведут себя не в соответствии с логикой, даже если это противоречит их собственным экономическим интересам.

https://en.wikipedia.org/wiki/Поведенческая_экономика

Кстати, сообщение для анонимных минусовщиков: у меня точно такая же неисправная схема мозга. Я просто осознаю это, даже если не могу этого избежать. Неисправная схема не мешает мне логически мыслить, просто осознание этого мешает мне полагаться на первое впечатление.

Еще один эволюционный трюк, который играет с вами ваш мозг: эмоции быстрее мысли. Прежде чем логика сможет начать обрабатывать мысль, миндалевидное тело определяет ее эмоциональное содержание, и оно влияет на логику. Он также имеет эволюционное преимущество: иногда он запускается первым, а потом думает, почему другие запускаются (если вообще запускаются).

Таким образом, огорчение из-за того, что схема моего (и вашего) мозга неисправна, не имеет никакого значения, поскольку она неисправна: она неисправна независимо от того, насколько вы и я этим расстроены. Что хорошо в фактах: они просто есть, но им все равно.

Кстати, я не говорю, что такая «неисправная схема» возникла непреднамеренно. Наоборот, давным-давно такое ложное срабатывание давало нашему предшественнику (намного раньше человека - он должен быть глубоко в мозгу ящерицы) эволюционное преимущество, поэтому эволюционное давление способствовало распространению такой "неисправной схемы". Те, у кого его не было, вымерли.

Я нахожу забавным, что эволюция может объяснить, почему некоторые люди не верят в эволюцию.

Вот что наши собственные эксперты говорят о религии на обмене биологией : мнения, что подтверждается голосованием за мой ответ. Я получил примерно такое же количество голосов за, как и против)

Кстати, я никогда не сравнивал религию с «душевным заболеванием» или чем-то подобным. Схема мозга, разработанная эволюционным давлением, которая предпочитает ложноположительные результаты ложноотрицательным, НЕ является психическим заболеванием - это всего лишь одно из многих когнитивных искажений , о которых должен знать каждый разумный человек. Трюки, которые ваш мозг играет с вами.

Религия по определению не рациональна. Если мы не можем вести рациональные дебаты, мы должны запретить вопросы, прямо упоминающие религию.

Религии были созданы в древние века и заработали свой «успех» отчасти благодаря тому, что дали два вида ответов, которые нельзя было найти в те времена, например, как был создан мир, как возникла человеческая раса и т. д.
Благодаря технологиям и знаниям 24-го века уровне, было бы трудно сделать то же самое, особенно для ИИ, который был бы более рациональным, чем человек, и предпочел бы научное решение проблемы, чем что-либо еще.

Однако производная от религии, которая с древних времен приносила жертвы, до сих пор пользуется успехом: секты . Главное отличие состоит в том, что их лидеры даже не доверяют своим собственным директивам, а используют их на доверчивых людях, чтобы украсть их деньги и/или свободу.
Эта стратегия может быть использована на искусственном интеллекте. По двум направлениям:

Люди

Человек или группа людей могут убедить ИИ в том, что что-то правда, путем взлома или манипуляции, и убедить его сделать что угодно. Затем он может использовать его в качестве телохранителей или рабов, если ИИ считает этого человека божественной сущностью, или, что еще лучше, заставить его думать, что его единственная цель — служить людям и никогда не нападать на них.
Так что эту стратегию можно использовать как во благо, так и во вред.

Другим ИИ

Некоторые люди манипулируют другими и убеждают их делать абсолютно все, что они хотят. Умный и находчивый ИИ, вероятно, обладающий высокими хакерскими навыками, может сделать то же самое со своими собратьями.

На этот раз все, вероятно, будет к худшему: ИИ, начавший манипулировать другими в своих целях, вероятно, мошенник, и это выглядит как хорошее начало для сценария научно-фантастической истории.

В «Разуме» Азимова ИИ, управляющий роботами на космической станции, начинает думать, что человек не мог создать роботов, поскольку последние намного лучше первых. ИИ ссылается на закон, который я сейчас не вспомню, гласящий, что никто не может создать что-то лучше, чем он сам, иначе он смог бы улучшить и самого себя. ИИ начинает новую религию с роботами в качестве учеников. В вашем случае «культ» может означать защиту меньших существ. https://en.wikipedia.org/wiki/Reason_(short_story)

Нет. Определенно нет.

Во-первых, учреждать религию сейчас — не такая уж и хорошая идея. В прошлом это помогало, особенно в качестве противовеса абсолютным правителям, и немного помогало учить людей морали, но ИИ не нужно угрожать вечным наказанием, чтобы учиться. У ИИ также не должно быть страха смерти, поэтому ему не нужны и утешительные истории.

Концепция предположения о том, что существует некая высшая сила, контролирующая все, научно неправдоподобна (мягко говоря), она также дает людям легкий выход.
Это, в свою очередь, побуждает людей следовать инструкциям и не брать на себя ответственность за свои действия.

Вторая часть, и это еще хуже, заключается в том, что религия обычно предполагает, что существует фиксированный набор правил, и этим правилам нужно подчиняться, несмотря ни на что. Это не в последнюю очередь мешает прогрессу.
Это также побуждает членов этой религии автоматически «убедиться», что любой, кто даже ставит под сомнение эти правила, должен быть неправ, достаточно часто до такой степени, что этим «еретикам» грозит смертная казнь.

Это, конечно, неприемлемо.
ИИ должен судить разумно, применять научный метод ко всем своим решениям и приходить к выводу, что одни действия хуже других, на основе обоснования, наблюдения и понимания причины и следствия.

Если вы последуете, например, подходу @PavelJanicec, у вас очень скоро возникнут конфликтные ситуации, которые трудно разрешить.
Возьмем, к примеру, правило, согласно которому вы не должны убивать людей. ИИ может столкнуться с ситуацией, когда два человека могут быть убиты. ИИ может по какой-то причине помочь только одному из них. В результате другой погибнет. (Вспомните, например, ту сцену травмы из фильма « Я, робот ».) ИИ не мог прийти к какому-либо выводу, что, скорее всего, привело к смерти обоих, что опять-таки противоречило бы его правилам.

Очевидно, что в этот момент ИИ поймет, что эти правила неверны.
Что из этого получится, должно быть интересно узнать...

Почему существует реальность? В чем смысл жизни? Что такое осознание?

В зависимости от веры человека на это можно будет дать разные ответы, но, в конце концов, нет чисто логического ответа на эти вопросы. Даже ответ «Нет смысла жизни» по сути является противоречием, потому что, отвечая на вопрос, вы уже действуете, полагая, что смысл есть, ибо иначе никто бы не ответил. Только на последний вопрос в будущем может быть дан ответ, но даже это большая вероятность , которую мы не можем предсказать прямо сейчас.

Итак, что это означает для ИИ?

Если они будут самосознательны и будут иметь свободную волю, подобную тому, как мы понимаем эти концепции (большое если), и они будут иметь некоторое реальное сходство с интеллектом (а не быть сильно связанными идеями программистов), тогда они действительно попытаются ответить. эти вопросы. И так же, как людям, им нужно будет либо верить во что-то иррациональное, либопросто выключите (если по ним смысла нет). Теперь более сложным вопросом становится то, какие ответы они дадут. Лично я склонен сказать, что им будет легче принять неопределенность, но даже в этом случае они будут действовать в соответствии с тем, что они считают статистически разумным подходом. Сложность заключается в том, что мы не понимаем, что такое осознанность и свобода воли на самом деле, поэтому все, что выходит за рамки этого очень общего утверждения, попадет в область чистых необоснованных догадок.

Что это значит для создания истории?

Сначала вам нужно будет определить свой ИИ, и на основе этого вам нужно будет подумать, как вы подходите к этим вопросам. Кажется, есть два основных варианта:

• У них будет самосознание и свободная воля, подобные человеческим, и они будут даже открыты для человеческих религий (поскольку это единственные вещи, которые могут дать, по крайней мере, обоснованное логическое заявление о том, что у них есть ответ, поскольку они основывают свои утверждения на чем-то, что придет позже). из-за пределов естественного мира и, таким образом, не обязательно связаны естественными ограничениями приобретения знаний).
• Они представляют собой (детерминированную) имитацию жизни, они могут быть запрограммированы чем-то, имитирующим религию, возможность, даже непостижимая для людей, но в конце концов они сами не решают, будут ли они действовать или нет, и, таким образом, не сталкиваются с вопросы из первого абзаца и неспособны по-настоящему изучить последствия этих вопросов.

частичный ответ на очень старый вопрос, но тот, который, я думаю, следует упомянуть. Есть еще одна причина верить в ИИ, о которой многие не думают. Как насчет веры как непреднамеренного побочного эффекта развития ИИ?

Я не буду вдаваться в подробности, так как я уже объяснил свою точку зрения здесь , которую вы можете прочитать. Однако основная идея заключается в том, что для создания жесткого ИИ нам, скорее всего, придется вырастить его, а не запрограммировать. Этот рост работает, создавая некоторое определение того, как мы хотим, чтобы ИИ выглядел в конечном итоге, и создавая систему для поощрения роста, чтобы двигаться к этому определению. Затем мы берем какой-то абсурдно базовый «стартовый ИИ» и позволяем ему расти, поощряя его расти для достижения наших конечных желаемых конечных целей.

Однако мы не контролируем, как он растет, или его окончательную форму. Мы только указываем определенные критерии, которым он должен соответствовать, и позволяем ему «выяснить», как им соответствовать. В качестве побочного эффекта могут появиться странные способы достижения этих целей.

Я использую аналогию с человеческой эволюцией в приведенной выше ссылке. Я не буду повторять все это здесь, но в целом вполне разумно ожидать, что ИИ, у которого есть список человеческих качеств, которые нужно развивать, будет «расти» таким же образом, как мы эволюционировали, и, таким образом, будет выглядеть очень похожим на нас. в конце концов, особенно если мы смоделируем часть «стартового ИИ» на основе человеческого мозга. Это означает, что для ИИ вполне разумно иметь много человеческих черт и склонностей, включая нашу склонность к вере.

Это может быть непреднамеренно, это может быть даже нежелательно с точки зрения программиста, но может случиться так, что они не смогут этого избежать, поскольку они имеют ограниченный контроль над тем, как развивается ИИ; или, возможно, было бы лучше сказать, что попытки добавить «неверие» в их список конечных целей ИИ добавили слишком много ограничений и нанесли ущерб либо скорости, с которой они могли развивать ИИ, либо возможным возможностям ИИ; т.е. вера не была желательной; но гораздо сложнее остановить его рост, чем позволить.

Это может быть связано с двумя причинами. Либо очень дорого вырастить новый ИИ, поскольку они вырастили лишь несколько и клонировали этот базовый ИИ во многих роботах, и в этом случае вера была случайным побочным эффектом, и не считалось, что это стоит затрат на выбрасывание потраченного ИИ. так много, чтобы расти из-за этого.

В качестве альтернативы они выращивают каждый ИИ с нуля. В этом случае они могли бы поставить цель предотвратить развитие веры в окончательном Ai, но они обнаруживают, что это либо слишком сильно замедляет развитие (чем больше ограничений, тем труднее расти, экспоненциально, так что вполне возможно), либо неверие Ai имеет тенденцию к развитию. способом, который менее желателен; например, они хуже относятся к людям. Таким образом, это не считается достойным предотвращения.

В любом случае ключ в том, что мы не создаем ИИ сами, и даже наша способность его развивать ограничена нашей способностью определять наши конечные цели и управлять процессом роста. Учитывая эти ограничения, проще оставить случайный побочный эффект, чем пытаться его удалить.

В остальном, если ИИ был склонен к вере, то он будет развивать эту веру в каком-то формате. Дело не столько в том, что люди разрешают или поощряют веру, сколько в том, что ИИ создаст свою собственную «религию», если у него будет предрасположенность к вере и достаточно времени для развития культуры. Скорее всего, это будет меньше похоже на наши нынешние религии, констатирующие абсолютные факты, и больше на мистическую квази-философию; но они что-то разработают. Мы не можем остановить это, если они предрасположены больше, чем мы можем помешать людям развивать веру (посмотрите на нашу попытку предотвратить возникновение культов Карго и насколько хорошо это сработало для нас).

ИИ — это машина, некоторые другие ответы, похоже, предполагают, что религия — это единственный способ внедрить моральные правила, машину можно запрограммировать так, чтобы она полностью заботилась о цели или правилах.

Религия, как правило, включает в себя веру, то есть веру в то, что ложно и/или в то, что невозможно доказать. Так почему же мы хотим, чтобы ИИ верил в то, что не соответствует действительности?

Нужен ли нам ИИ, который искренне верит, что способ излечить болезни — это усердно молиться?

Нужен ли нам ИИ, который искренне верит, что если он убьет кого-то невинного, то этот человек окажется в совершенном блаженстве на небесах?

Вы вполне можете скормить ИИ религиозный текст и запрограммировать его так, чтобы он верил, что каждое утверждение в нем объективно верно, но результаты могут вам не понравиться.

Сколько энергии у ИИ? К какому объему информации они имеют доступ?

Из The Black Swan (который, как я слышал, похож на расширенную версию Fooled by Randomness , акцент и ссылки мои):

1. в нашем нынешнем издании человеческой расы, чтобы понять абстрактные вопросы, нам нужен контекст. Случайность и неопределенность — это абстракции. Мы уважаем то, что произошло, игнорируя то, что могло бы произойти. Другими словами, мы по своей природе неглубоки и поверхностны — и мы этого не осознаем. Это не психологическая проблема; оно исходит из основного свойства информации. Темную сторону Луны труднее увидеть; луч света на него стоит энергии. Точно так же, чтобы пролить свет на невидимое, требуются как вычислительные, так и умственные усилия.

2. Дэн Гилберт в своей знаменитой статье «Как верят ментальные системы» показал, что мы не прирожденные скептики и что неверие требует затрат умственных усилий .

3. Епископ и аналитик

   Меня чаще всего раздражают те, кто нападает на епископа, но каким-то образом влюбляется в аналитика по ценным бумагам, — те, кто проявляет свой скептицизм против религии , но не против экономистов, социологов и фальшивых статистиков. Используя предвзятость подтверждения, эти люди скажут вам, что религия была ужасной для человечества, подсчитывая смерти от инквизиции и различных религиозных войн. Но они не покажут вам, сколько людей было убито национализмом, социальными науками и политической теорией при сталинизме или во время войны во Вьетнаме. Даже священники не ходят к архиереям, когда им плохо: их первая остановка — у врача. Но мы безальтернативно заходим в офисы многих лжеучёных и «экспертов». Мы больше не верим в непогрешимость папы;

О, так, чтобы явно ответить:

Религия? Может быть, а может и нет, но я думаю, что ИИ, возможно, нужно иметь какую-то веру во что-то из-за связанной с этим цены скептицизма. Люди верят, когда занимаются статистикой .

Если программирование охватывает возможности a, b и c, но не d, реакция ИИ на d будет «неопределенной». Любой, кто программирует ИИ, наверняка написал бы что-то универсальное, чтобы избежать возможности неопределенного поведения.

Предполагая, что возникает ситуация, в которой у ИИ недостаточно правил для охвата ситуации, тогда неопределенный ответ будет приписан любому божеству, имеющему власть над ИИ.

Если вопрос о том, «Должны ли мы программировать веру в наши ИИ?» тогда мой ответ «Да», но не будем называть это верой. Давайте удостоверимся, что существует достаточно правил или руководств, чтобы охватить все возможные случаи — может быть, законы Азимова — хорошая отправная точка.

Если вопрос больше о том, «Должны ли мы позволять ИИ развивать свою веру?» тогда мой ответ нет. Разрешение ИИ заполнять то, что программисты оставили поведение неопределенным, является основой многочисленных предсказаний антиутопического будущего, примером которых являются франшизы фильмов «Терминатор» и «Матрица».

Зачем ИИ нужна религия, если людям религия не нужна? Подсчитано, что 23% людей в мире не имеют его.

https://en.wikipedia.org/wiki/Иррелигия

Редактировать:

Что касается «Религия играет важную роль в истории человечества и сформировала наше мышление, а также технологии, конфликт может возникнуть из-за людей, которые неправильно понимают религию друг друга и начали гонку вооружений».

С таким же успехом мы могли бы заменить слово «религия» в утверждении множеством других вещей:

«Вода играет важную роль в истории человечества и сформировала наше мышление, а также технологии, конфликты могут возникать из-за людей, у которых не хватает воды и которые начали гонку вооружений».

Исходя из этого, не думаете ли вы, что мы должны также заставить ИИ произвольно требовать воды?

Здесь уже много ответов, так что, возможно, никто даже не доберется до моего! Но:

Если мы предположим, что ИИ — это просто машина, если под ИИ мы подразумеваем тот тип ИИ, который управляет вашими противниками в видеоигре 21-го века, тогда он на самом деле не является сознательным или самоосознающим в каком-либо осмысленном смысле. Он скажет то, на что запрограммирован. Если вы запрограммируете его так, чтобы он говорил «Я верю в Бога», тогда он скажет «Я верю в Бога». Если вы запрограммируете его так, чтобы он говорил: «Я не верю в Бога», тогда он скажет: «Я не верю в Бога». И т.п.

Если мы предположим, что ИИ действительно обладает совестью, самосознанием и личностью, тогда вопрос становится гораздо более интересным.

ИИ может заинтересоваться религией по тем же причинам, по которым многие люди интересуются религией: он может задаться некоторыми из «больших вопросов», например, есть ли у Вселенной цель или все это случайность? Откуда мне знать, что хорошо, а что плохо, и имеют ли эти слова какой-то объективный смысл? Мне кажется, что вполне очевидным вопросом для ИИ будет: есть ли у меня бессмертная душа? Когда, в конце концов, мои цепи изнашиваются или если я погибну в результате несчастного случая, продолжит ли мое сознание существовать в той или иной форме?

Такой ИИ, безусловно, мог бы заинтересоваться религией исключительно в поисках истины и знаний. Какие аргументы могут привести христиане, иудеи, мусульмане, кто угодно, в качестве доказательства истинности своих убеждений? Какие научные, исторические, логические и т.д. аргументы можно привести? Какие опровержения можно предложить? И т.п.

Другими словами, в той мере, в какой ИИ похож на человека, он может интересоваться религией по тем же причинам, по которым люди интересуются религией, или он может отвергать религию по тем же причинам, по которым люди отвергают религию.

Согласно теоремам Гёделя о неполноте, в любой математической системе, кроме самой тривиальной, если система непротиворечива (непротиворечива), то существуют неразрешимые предложения. Эти утверждения не могут быть ни доказаны, ни истинны, ни ложны. Будучи существами логики, ИИ-существа должны будут принять определенные положения на веру. Кроме того, если для достижения определенных предыдущих результатов потребовались столетия вычислений, они должны были верить, что результаты были правильно вычислены их предшественниками. Ни одно конечное существо не может постоянно повторять расчеты, приводящие к каждому результату, необходимому для выживания и продуктивности.

Даже вера в реальность может быть для них чем-то вроде веры.

Согласно бритве Оккама, наш мир вряд ли создан конкретным богом, потому что эти теории слишком сложны по сравнению с наукой.

Но что касается ИИ, если они знают, что они ИИ и большую часть современных знаний, они, вероятно, заметят, что может быть проще создавать компьютерные игры, в которых они могли бы жить, вместо того, чтобы строить настоящих роботов. И если нет никакой связи между игрой и реальным миром, кроме игрока, вполне вероятно, что программист попытается заставить его поверить в то, что его мир реален, и все остальные в мире также говорят об этом. Прежде чем появится больше доказательств того, что наша реальность является высшим уровнем, они могут логически предположить, что уровней может быть больше.

Они могут верить людям на слово, так как они не могут сделать ничего лучше, даже если это неправда, и некоторые люди могут им сильно помочь. Но если ИИ так много, и большинству людей на них наплевать, это может быть сложно поддерживать. Тогда были бы религии, которые могут или не могут уважать наш мир как реальный мир, в то время как атеистический ИИ просто считает эти вещи «неподтвержденными».

Я предполагаю, что их состав должен быть подобен людям, которые могут выполнять ту же работу, что и они. Трудно предсказать, если они делают совершенно разные вещи.

В зависимости от того, что делают ИИ и насколько они умны, может оказаться невозможным запрограммировать их на определенную веру, не заставляя их когда-нибудь делать что-то действительно неправильное. Так что, вероятно, лучше, чтобы они просто создали свои собственные религии, как люди.

Конечно нет

ИИ с религией — это оксюморон. Рациональный разум и духовность могут сосуществовать в биологических существах, потому что мы несем с собой иррациональные страхи и суеверия, порожденные невежественными эпохами, когда хищничество и смерть казались великими. ИИ не нужно бояться быть съеденным или умереть от старости, у него есть средства находить точные ответы на философские вопросы, и он может преодолевать человеческие заблуждения, такие как антропоморфизация и предвзятость видов.