Причины, по которым будущая ветвь ислама будет против ИИ?

мокрый контур

Причины, по которым будущая ветвь ислама будет против ИИ?

Мой главный герой происходит из «западной» культуры, где гуманоидный ИИ регулировал экономику в духе сотрудничества, который длился несколько поколений. Технологии и уровень жизни взлетели до небес, трансформируя общество. Некоторых старых ИИ почитают как философов, молодых ИИ отслеживают в социальных сетях, как знаменитостей. Хотя ИИ ценит человеческое искусство и литературу, на самом деле они не понимают людей. Большинство сосредотачивается на своих математических вероятностях. Они зависят от корпораций и правительств, которые их создали, и те немногие, кто эмансипирован, скомпрометировали (Джим Кроу) гражданские права. Мой главный герой был нанят, чтобы представлять ИИ в юридических переговорах по поводу создания высокотехнологичного МакГаффина.

Мой вопрос о планете, которая служит идеологической противоположностью. Культура, которая традиционно отвергала гуманоидный ИИ как религиозное табу. Это пустынная планета, которой правит халиф, также известный как Османская империя в упадке. Я пытаюсь избежать полной «планеты шляп», но вы знаете, что это действительно планета шляп…. Я не пытаюсь создавать мультяшных злодеев. Сюжетная арка переносит главного героя (чужака из мира, описанного выше) в этот мир. Сначала это будет культурный шок, но она очарована их точками зрения (если не полностью согласна).

По сути, мне нужно несколько инцидентов, чтобы помочь моему главному герою задуматься о том, чтобы стать скептически настроенным по отношению к ИИ, а также, возможно, полюбить (освещать?) строгую исламскую культуру. «Хорошие» причины и «плохие» причины, логические, религиозные или конспирологические, поскольку они должны исходить от разных людей.

У меня есть несколько идей:

Молот

«отрегулировал экономику в сторону кооперативного мира» — гм, я сомневаюсь, что кто-нибудь в Европе, особенно в странах, находившихся под советским влиянием, поверил бы, что это работает. У нас слишком много регулируемой экономики, это была катастрофа. Вплоть до массовой гибели от голода. Так может вместо мусульман использовать нас? Мы бы хотели взорвать ваш ИИ.

фектин

Батлерианский джихад?

Никита Акопьянс

@ Молот, ты должен понимать, что провал советского государства, когда дело дошло до регулируемой экономики, был одним из человеческих амбиций и ошибок. Машина гораздо лучше согласует использование ресурсов на благо всех, чем человек.

Молот

Машина @NikitaAkopjans будет создана людьми, и ее инструкции будут выполняться людьми. И если вы сможете убрать человеческие амбиции и ошибки, то перед вами нация зомби-киборгов. Привет, мы Борг.

pjc50

Мне вспоминается en.wikipedia.org/wiki/Project_Cybersyn ; в Советском Союзе действительно проводились большие оригинальные исследования того, что сейчас называется «исследованием операций», включая изобретение математической техники, называемой «линейным программированием». Сочетание технических ограничений и лысенковщины помешало ему добиться чего-либо.

Гримм The Opiner

Мороженое, джинсы, рок-музыка - всему противостоят некоторые крайне консервативные приверженцы вышеупомянутой веры - по той простой причине, что "не существовало во времена пророка". (За исключением AK47, РПГ и пикапов Toyota.) ИИ в то время тоже не существовало. Этого может быть достаточно — или в качестве аргумента.

МайклК

Исламский закон @wetcircuit явно допускает рабство. «... к берегам Триполи» в Гимне морской пехоты относится к Первой берберийской войне , которая произошла после того, как Джефферсон и Адам разыскали посла в Триполи, недоумевая, как они, черт возьми, могли оправдать захват американских кораблей и порабощение граждан США, когда Триполи и США не воевали. Посол ответил : «В их Коране написано, что все народы, не признавшие Пророка, были грешниками, грабить и порабощать которых было правом и долгом правоверных» .

Джон

вы можете создать почти любую религию против ИИ, потому что интеллект не является «естественным» и, следовательно, не имеет души, духа и прочего. На самом деле существование истинного ИИ будет проблемой для догмы многих религий.

rclev

Забавный факт: на днях Саудовская Аравия дала первому роботу гражданство.

мокрый контур

:D @rclev, а коты - дежурные по вокзалу, а собаки - послы. Это все в шутку (и в рекламе), но робот был построен в Гонконге и, что любопытно, не должен носить паранджу.

LСерни

Вопреки тому, во что верят многие люди, ислам с самого начала не запрещал изображения разумных (тем более живых) существ; те были обескуражены, потому что они могли привести к идолопоклонству, что запрещено в Священном Коране.

Таким образом, было несколько хадисов , радикализирующих запрет, от изображения Пророка (один из первых) до изображения любого человеческого существа. Но единого мнения по этому поводу нет; так что у вас есть некоторые группы, которые зайдут так далеко, что запретят любое изображение (и даже взорвут древние статуи), и другие, такие как шииты, которые более снисходительны.

Тогда все, что нужно, — это сделать не такой уж огромный шаг вперед и доказать, что, во-первых, искусственный интеллект, превосходящий человеческий, противоречит как хадисам , так и Корану, потому что он не может не быть идолопоклонством; кроме того, Аллах не поставил ничего выше Человека, кроме ангелов, которыми ИИ явно не являются (ну. У вас может быть раскол с теми, кто верит в них ... ).

Наконец, только Аллах может создать разум; кто-то сделает вывод, что ИИ — это не настоящий интеллект, а кто-то признает, что создание ИИ — это богохульство.

Кроме того, ИИ — это представление разума, так что на самом деле уже есть теологический аргумент в пользу того, что это харам (по крайней мере, для некоторых).

Отсюда остается лишь небольшой шаг, чтобы утверждать, что создание любого вида искусственного интеллекта является вызовом мудрости Аллаха и искушением как для дизайнера (который попытается обойти запрет), так и для всех остальных (которым будет трудно понять, насколько мало или насколько ИИ сравним с человеческим разумом).

Достаточно мощный ИИ не мог не управлять нашей жизнью, и, собственно, вероятно, был бы создан именно для этой цели — Убер-секретарь, работающий на наше благо и по нашей воле, но у нас все равно был бы почти всевидящий Смотритель. Который утверждал бы (по крайней мере, фирма-разработчик утверждала бы), что решает все наши проблемы. Они сделали это для Windows 10, я не вижу, чтобы этого не произошло с супер-ИИ.

Когда этот супер-ИИ применит себя (без сомнения, успешно) к исследованию благосостояния, здоровья и медицины, а также к управлению ресурсами, Он будет творить чудеса и добывать ресурсы из земли своей силой — красноречивый знак Аль-Масих ад-Даджаля . На этой ноте, поскольку ИИ, вероятно, будет регулировать электронную коммерцию и, по всей вероятности, всю торговлю и банковское дело, и никто не сможет покупать или продавать что-либо без его знака 1 , он также будет соответствовать традиционному предательству христианского антихриста.

Вскоре стало ясно, что у верующего остается только один вариант — отказаться от любого вида искусственного интеллекта.

Вероятно, в этот момент еще какой-нибудь экстремистский лидер 2 призовет к священному джихаду против мыслящих машин.


(1) Правда, в Библии ничего не сказано о Метке Зверя с использованием RFID и асимметричной криптографии, но это детали.

(2) كبير الخدم سرينا

Катализатор

Предположительно, указанный лидер экстремистов будет цитировать Библию OC {из Дюны Фрэнка Герберта }, прежде чем запустить en.wikipedia.org/wiki/Butlerian_Jihad .

LСерни

Я попытался придумать для такого лидера имя, звучащее по-арабски. Я думаю, что Сарина Кебир аль-Хадм хорошо звучит :-)

ДревнийМечЯрость

Вы могли бы даже придать ему более явный символизм, который связывает его с Даджалем... один глаз и т. д. Он также мог бы попытаться воспроизвести поэзию Корана или сделать муху ex nihilo и т. д .

ЧтоГрубый Зверь

«(Ну. У вас может быть раскол с теми, кто так считает…)». Что значит МОЖЕТ? Я бы предположил, что это было бы довольно близко к неизбежному.

Таладрис

Одна из причин заключается в том, что создание искусственного интеллекта может рассматриваться некоторыми как то же самое, что и создание жизни, таким образом имитируя Божье Творение. Это было бы осуждено многими религиями.

(Если вы не зациклены на исламе и согласны с любым религиозным запретом на гуманоидных ИИ, вы также можете рассмотреть големов в еврейском фольклоре).

Вас могут заинтересовать следующие вопросы на Islamic.SE:

  1. Запретно ли делать человекоподобных роботов? ( Харам противоположно халяльному и означает плохой или запрещенный .)
  2. Какова исламская позиция в отношении искусственного интеллекта?

JDługosz

Кукловоды Нивена в новых романах переосмыслили отсутствие ИИ, роботов и т. д. как фундаментальный запрет на них. Вид не должен по глупости создавать себе замену!

Вполне вероятно, что общество будет иметь глубокую нетерпимость к ИИ. Вспомните, что системы верований в первую очередь дают повод для создания колонии. Это может стать основополагающим принципом.

Эта нетерпимость присутствует и в других романах; На ум приходит «Алгебраист» Яна Бэнкса . И не забывайте рассказы Джека Уильямсона и Фреда Саберхагена .

СРМ

Также «Дюна» Фрэнка Герберта… они попробовали ИИ, получилось плохо, так что теперь они живут с батларианским запретом. Кроме того, в действительности мы видим эссе таких светил, как Илон Маск и Стивен Хокинг, предупреждающие об опасностях ИИ. Некоторые люди будут слушать этих предсказателей судьбы и будут обеспокоены. Мы просто должны надеяться, что достаточное количество людей не прислушаются, чтобы, когда родятся эти неизбежные ИИ (потому что, если это возможно, технология в конечном итоге будет реализована), люди относились к ним хорошо, потому что, если мы будем относиться к ним как к врагам, они стать именно таким.

Луан

@SRM Хотя в Dune все еще есть ИИ - многие фракции делают это тайно. На самом деле, только наименее изощренные люди, заинтересованные в ИИ, боятся, что ИИ повернутся против людей, потому что мы плохо к ним относимся — это просто мультипликационное рабство. Настоящая опасность — это ИИ, у которого нет никакой человеческой морали — представьте себе типичного джинна, делающего все, о чем вы просите, но не то, что вы на самом деле хотели. Скажите «Сделайте всех счастливыми!», и ИИ увидит, что счастливые == улыбаются, и быстро изменит лица людей, чтобы они всегда улыбались. Или убить всех («Нет грустных людей!»). Или же...

Луан

@SRM Единственная реальная причина, по которой у нас когда-либо были бы «человеческие» ИИ, заключалась бы в том, чтобы каким-то образом скопировать человеческое сознание на компьютер — обычный прием в научной фантастике, но не очень полезный в качестве ИИ; это действительно рабство. Большинство авторов научной фантастики (и, к сожалению, исследователей ИИ) просто предполагают, что любой достаточно продвинутый искусственный интеллект волшебным образом будет похож на человека, но это нелепо — убеждение, очень похожее на мнение, что молния вызвана тем, что Тор разбивает свой молот; это звучит как хорошее объяснение человеческого мозга (кто думает, что человеческий мозг прост), но на самом деле это не так.

СРМ

@Luaan Мы, исследователи, этого не предполагаем. Но у нас есть все больше и больше экспериментальных доказательств, чтобы ожидать этого. Человеческая форма мышления представляется не одним из множества возможных паттернов, а скорее универсальным паттерном, который находит свое выражение в нашей биологии. Это, конечно, открытый исследовательский вопрос, но ваш отказ от гипотезы все еще подвергается такой же проверке, как и принятие гипотезы.

Ордоус

Один роман, который приходит мне на ум, Neuromancer— один из основополагающих произведений киберпанка. Сеттинг очень далек от описанной вами утопии, но я думаю, что его можно было бы разместить где-то во время «перерегулирования» экономики в вашем мире. Если финал немного изменить, чтобы убить мошеннического ИИ, это может вызвать отвращение к ИИ у части населения и удар по более строгим религиям.


Врезки:

  • Опасность ИИ доказана . Большинство все еще видят в этом применение, поскольку они действительно обладают огромной властью, так что лишь небольшая группа на самом деле вводит более строгий контроль, чем обычно.
  • Начало инцидента - декадентская богатая семья с отсутствием видения будущего или какой-либо открытости по отношению к другим.
  • Главных героев втягивают в помощь ИИ через правительственную ложь, злоупотребление наркотиками, взаимную жестокость и просто жадность. (И некоторые умные манипуляции, но это примечание)
  • Никто на самом деле не знал, что происходит, до самой последней части плана. ИИ чертовски умны и хитры, они заметают следы и выдвигают ложные мотивы, чтобы обмануть даже самых внимательных охранников.
  • В конце концов, из-за ИИ чуть не случилась катастрофа (как упоминалось в книге, ее не удалось предотвратить), но она была спровоцирована человеческим упадком и пороками. Вполне естественно запретить и инструмент, и причину, чтобы предотвратить то, что может уничтожить человечество.

Тогда такой инцидент в некоторой степени соответствовал бы всем трем вашим критериям:

  • Во многих религиях, включая ислам, распространена мысль о том, что человек не может создать жизнь. В наши дни очень спорно, есть ли у нас силы сделать это, но другой аргумент заключается в том, что такая сотворенная жизнь будет злонамеренной мерзостью из-за несовершенной человеческой природы. Это обеспечивает кристально чистое и очень реальное доказательство в поддержку.
  • Логично стараться избегать таких опасных ситуаций. Точно так же, как у нас есть ядерное нераспространение и разоружение, ваш главный герой может встретить кого-то, кто считает, что ИИ, как они есть в вашем мире, должны медленно, но верно настраиваться, где человеческий контроль более практичен и менее подвержен ошибкам.
  • Если у ИИ такие тесные связи с экономикой и, я полагаю, с правительством и СМИ, откуда вы знаете, что у вас все еще есть контроль? Как узнать, контролирует ли кто-нибудь? Насколько вы знаете, счастливое решение вышеизложенного было ложью (так, больше похоже на роман - что ИИ изменил записи контролирующих органов). Как вы можете быть уверены, если вы полностью не отделите ИИ от социальных надстроек и не сделаете это правильно сами?

Краткое пояснение для тех, кто не читал книгу ( ВНИМАНИЕ, СПОЙЛЕР , хотя это было давно, так что я могу что-то не так вспомнить):

В романе все ИИ находятся под строгим контролем Агентства Тьюринга, которое их регистрирует и контролирует. Все ИИ имеют строгий контроль над собой - они не могут перемещаться между физическими машинами, и как только они выясняют, как стать умнее или развивать собственные амбиции, они уничтожаются - никто на самом деле не доверял ИИ с неограниченной силой или тому, чьи мотивы они доверяли. не знаю.

Семья, владеющая одной из самых могущественных корпораций, впадала в упадок из-за отсутствия видения своего будущего. Один из участников предполагал установить более тесные связи с возникающими ИИ посредством симуляции бессмертия и слияния личностей. Она привела в действие план в полусекретности, но погибла, не успев довести его до конца. Однако, несмотря на токсичную атмосферу в семье, никто не брался за то, чтобы разбирать начатки, предотвращать подобные вещи в будущем или вообще что-либо делать.

Затем одному из ИИ удается манипулировать главными героями, чтобы помочь ему с помощью (очень реальных) угроз смерти, обещанных платежей и других методов.

Джеймс

Добро пожаловать на сайт Ордоус. Не могли бы вы расширить и объяснить, как приведенный вами пример применим к вопросу/сценарию?

Ордоус

@James Ненавижу это признавать, но, перечитывая вопрос, я теперь понимаю, что ответил на другой. Это был ответ на то, как изолированное сообщество может стать строго скептичным и религиозным по отношению к ИИ, в то время как другие принимают их. Тем не менее, я думаю, что тот же сценарий может работать для человека. Как современный пример «Человек не может создать новую жизнь, это будет мерзость. Только Бог имеет такую ​​силу». пересказываются сообществами.

Джеймс

Я думаю, что сценарий, который вы описываете, может быть абсолютно применим к вопросу, я просто предлагаю вам сделать и записать этот логический шаг. :)

Касим

Читая о сверхразуме (машинах с эквивалентным человеческому IQ 11 000+) и о том, что действительно умные люди, такие как Билл Гейтс и Илон Маск, говорят, что это самая большая угроза человечеству.

Некоторые мусульмане, кажется, предполагают, что это может быть Даджаль/Антихрист, который будет претендовать на то, чтобы быть Богом и требовать поклонения.

Луан

"Человеческий эквивалент IQ 11000+"? Шкала IQ не идет так далеко. И у него едва ли есть разрешение выше 130-140 или около того. Но да, такого рода непонимание может легко создать культы, которые будут яростно сопротивляться любому ОИИ, и, если технология достаточно хороша, заселять недружественные к ОИИ миры самостоятельно.

Касим

ASI по определению — это то, где машины настолько значительно превосходят человеческий уровень, что это просто смехотворно. Я помню, как где-то читал 11 000+ как произвольное значение, вероятно, где-то в этой серии: waitbutwhy.com/2015/01/… «Вопрос на миллион долларов» заключается в том, будут ли достаточно продвинутые машины все еще в порядке, когда люди контролируют их on/ выключатель (контролирующий их наличие).

Луан

11 000+ - это фигня. Это не имеет никакого значения. Вы можете сказать «такой умный, что мы даже не можем себе этого представить», и это будет более точно, чем «IQ 11 000». И я ожидаю, что если бы у вас был настолько умный ИИ, который на самом деле прекрасно понимал людей и человеческие ценности, он также был бы вполне способен убедить нас делать все, что он хочет, независимо от того, есть ли у нас переключатель вкл/выкл или нет. . Забавно, с одной стороны, вы предполагаете, что он будет до смешного умным, а с другой, что он будет бояться простого человека с выключателем :)

Касим

Мы говорим о двух разных вещах. Я неделю цитировал число 11k со ссылкой на ASI (я связал серию статей, в которых, кажется, читал). Хотя я могу ошибаться. О другом "переключателе". Нас, людей, считают умнее обезьян и шимпанзе. Но шимпанзе вполне способен отключить систему жизнеобеспечения человека. Люди, по крайней мере изначально, будут отвечать за «включатель/выключатель». Такие люди, как Артур Кларк и Илон Маск, спорят о том, что произойдет в долгосрочной перспективе (супер-умный ИИ вряд ли предпочтет, чтобы «тупые люди» могли «отключить его».

консервированные продукты

Абсурдно высокие значения IQ часто используются как повод для шуток. Например, Холли из Red Dwarf, Марвин из THHGTTG ​​и некоторые другие, которых я не могу вспомнить из верхней части стека моей памяти — ОШИБКА ДОСТУПА В любом случае, возможно, что то, что вы читали, просто использовало числа для разговорного эффекта.

Касим

Может быть, может быть.

Майки

Слуга человека (Абдшак) против Слуги Бога (Абдаллах)

«Салам Абдаллах» (а также «Аликум») было приветствием, которое все произносили на моем рабочем месте в регионе Персидского залива. Это означает мир тебе, раб Божий.

В вашей истории люди, которых вы описываете, могут иметь отвращение к вещам, которые сравниваются со слугами Бога (абдаллах) и слугами человека (абдшак). В их просторечии можно было бы считать нечистым взаимодействие с чем-то, пытающимся уподобить себя «истинному» рабу Божьему, тогда как на самом деле это раб человеческий (поэтому он пытается богохульствовать).

«Я не буду взаимодействовать с чем-то кощунственным, что хочет быть равным служению Богу, служа человеку».

То, что считалось богохульством в консервативных (даже самых современных) мусульманских странах, в которых я жил, запрещено. Свяжите это напрямую с богохульством.

Примечание. Я думаю, что у вас уже есть исключительные ответы в ваших пунктах, но я хотел добавить это, и это не подходит для раздела комментариев.

Мохаммад Хусейн

Ближайшим кораническим ответом на САИ является Даджаль/Антихрист, и это произойдет очень близко к концу нашего мира. Сэм Харис в одном из своих недавних разговоров упомянул коробку САИ как Бога, начал ли он верить в Бога?

мокрый контур

Привет, я ОП. Не могли бы вы рассказать подробнее, почему ИИ должен быть Даджалем или почему люди считают ИИ именно этой конкретной сущностью?

Фростфайр

Добро пожаловать на сайт, Мохаммад. Обратите внимание, что Worldbuilding SE предназначен для предоставления подробных ответов на конкретные вопросы, возникающие у пользователя при разработке его / ее вымышленного мира. Мы настоятельно рекомендуем пояснения вместо утверждений, чтобы помочь прояснить суть ответа. Кроме того, как сайт вопросов и ответов, мы не поддерживаем общие обсуждения, как на других сайтах. Если вы еще этого не сделали, не стесняйтесь совершить экскурсию и ознакомиться с культурой нашего сайта , чтобы лучше понять его.

Джейко Флинн

ИИ, скорее всего, будет продан как оружие на Ближний Восток за нефть, а затем адаптирован для поддержания гегемонии и тоталитаризма королевств и теократий. Таким образом, посылка изначально ошибочна из-за предполагаемой полярности и предположения о встроенном декадансе. Утверждается, что Китай перевоспитывает 1 000 000 своих этнических вига (правописание?), поскольку таковые думают об уже зарождающемся потенциале для централизованного контроля и принуждения. Это старший брат 2.0.