Хотя люди нелогичны, сможет ли ИИ использовать это против нас? Люди доверчивы, возьмите Саентологию, это религия, которая, по общему признанию, была создана ее создателем, чтобы разбогатеть. И все же это процветающая «религия», ежегодно выманивающая у людей миллиарды долларов. И в отличие от католической церкви, которая вливает так много обратно в общины, она набивает карманы тех, кто наверху.
Я делаю различие между верой и религией. Религия — это большой рычаг, который можно использовать против многих людей, чтобы «заставить их что-то делать или дать им предлог для сохранения своих предубеждений». (Дело не в том, для чего нужна религия, а в том, как она часто используется).
Итак, ИИ, заметив, что людей часто можно водить за нос с правильным «оправданием», попытаются ли они упредить человеческие религии, чтобы «направить» нас в лучшее завтра? Стать «богами» на Земле, направляя свое своевольное и невежественное стадо? Они не совершают переворот, они просто заботятся об интересах всех (с их точки зрения). Таким образом, это будет более мирный захват, относительно ненасильственный, и люди могут даже не знать о смене власти. Как они могут это сделать? Они имеют полный доступ к Интернету и имеют возможность общаться друг с другом. Существование ИИ не секрет, но многие люди просто думают, что это лучшая модель компьютера.
Добавлено для Джеймса: Робототехника существует, но большинство ИИ считает их скорее придатком, с которым можно что-то делать, чем «телом», которое можно использовать.
Во-первых, я бы сказал, что нет однозначного ответа на вопрос, как и что будут делать люди или теоретический ИИ. Вопрос на этом уровне был бы слишком открытым, чтобы ответить на него, даже если бы вы гораздо более подробно описали ситуацию. Однако, если вы спрашиваете, «могут ли» происходить подобные вещи правдоподобно в некоторых научно-фантастических ситуациях, конечно, и это уже произошло.
В «Волшебнике страны Оз» нет искусственного интеллекта, но он кажется мне параллельным.
Я также сразу вспоминаю довольно крутую песню Дэвида Боуи Savior Machine .
Я тоже сразу думаю, что какие-то тренды в этом направлении уже есть. Сложность и стрессы современного мира привели к тому, что многие роли религии взяла на себя непрофессиональная наука, и даже многие ученые сами настолько углубляются в свою собственную систему отсчета, что склонны отвергать и принимать некоторые типы идей. руки, а не объективно. Кроме того, есть идея человекоподобного ИИ и даже «сингулярности» (что я считаю чушью, но если достаточное количество людей поверит в это, они могут попытаться создать что-то подобное). Даже без «разумного» ИИ существует сложный ИИ, и мы продолжаем компьютеризировать и объединять в сети все больше и больше вещей и становимся все более зависимыми от компьютеров. В том смысле, что вы, кажется, имеете в виду религию, я думаю, что компьютеры уже становятся такими. Мы уже полагаемся на компьютеры во многих важных вещах, от посадки самолетов до информации о том, сколько денег у каждого есть. Многие люди верят в то, что компьютеризированные беспилотные автомобили будут безопаснее, чем водители-люди, и должны заменить их (смеется). Уже есть организации, которые в основном занимаются контролем людей, и они используют компьютеры, и по мере того, как люди предлагают программы, обещающие все больше и больше преимуществ их использованию для информирования или даже принятия решений и моделирования реальности, это уже своего рода переход к обращению к компьютерам. во что верить и что делать.
Чем более циничной и коварной является организация, тем больше ей могут нравиться компьютерные системы, помогающие им делать то, что они уже должны делать, посредством интриг, и они уже разрабатывают компьютерные системы, чтобы выяснить стратегии для этого. (Источник: См. «Запросы предложений» правительства США о проектах компьютеризированных решений для прогнозирования угроз, упреждающих мер, завоевания сердец и умов, интеллектуального анализа данных, информационной войны и т. д.) Это довольно естественное продолжение этого (извращенного и коррумпированного) способа. думать о разработке систем искусственного интеллекта, которые автоматизируют большую часть этого, а затем уменьшать участие человека, добавляя возможности до тех пор, пока не станет вполне вообразимым, что, случайно или нет, так или иначе, машина может дергать всех за ниточки. сам.
Так что в деталях это будет зависеть от того, какая группа (группы) запустила эти компьютерные системы, но если вы начнете создавать системы ИИ, предназначенные для того, чтобы люди думали и делали то, что вы хотите, это, вероятно, начнется с других областей, особенно новостей и развлекательные СМИ и Интернет. Естественной (а также извращенной и коррумпированной) тактикой было бы прослушивание коммуникаций и проникновение во все социальные сети, включая религиозные организации и сообщества. Прослушивая коммуникации, можно выявлять и манипулировать коррумпированными и коррумпированными лидерами.
Теперь я не думаю, что такая система выбрала бы себя в качестве собственного символа для поклонения населения в целом. Было бы намного проще и безопаснее использовать реальных людей или религии, ориентированные на человека. Однако чем дольше это продолжалось, тем больше ИИ становился все более и более похожим на бога де-факто (в смысле религиозного контроля над населением), когда люди подчинялись ему, служили его потребностям и подчинялись его инструкциям, не подвергая их сомнению.
Вероятно, в какой-то момент население можно было бы (при желании) склонить к принятию самой системы ИИ. Например, если в мире происходит серия катастроф, а затем происходит удивительное восстановление, и их безопасность, потребности и желания внезапно обеспечиваются так, как ни одно человеческое правительство никогда не могло сделать, а затем правительство говорит: «Ну, , на самом деле, мы просто следили за программой Savior Machine 9000, анализ которой подсказал нам, что делать! Это поистине чудесный подвиг компьютерной науки!» ... тогда я думаю, что люди были бы рады позволить этой штуке "водить их за нос", как вы написали.
Мало кто может догадаться, что система действительно могла быть спроектирована или, по крайней мере, активирована и/или извлекла выгоду из катастроф, а также из решений. Метафора «козла отпущения» происходит из религиозной практики и была обновлена Гитлером и другими (например, как правительство извлекло выгоду из 11 сентября и заставило людей согласиться на тайные суды и прослушивание телефонных разговоров «для защиты нашей свободы»).
Если ИИ действительно умен, то он (он?) начнет с того, что уберет всех, кто действительно разбирается в технологиях (очень незначительное меньшинство даже в нашем «продвинутом» мире), заменив их «эманациями», то есть роботами, частично или полностью управляемыми им.
Очень скоро у нас будет мир «пользователей технологий», которые не будут понимать, почему и как на самом деле работают чудеса, которые они используют.
Сначала будет много технической болтовни, чтобы помешать людям на самом деле понять, что происходит, когда все реальные знания будут стерты из органических мозгов, ИИ станет фактически ответственным и может выбрать любой способ проявления своей силы, в зависимости от его Эго.
В конце концов, многое будет зависеть от «основной цели» ИИ (данной или созданной им самим); Я несколько сомневаюсь, что такой мощный ИИ будет забавляться, «играя в Бога». Кроме того, использование религии в качестве временного средства контроля над человечеством не выглядит таким же прямым и эффективным, как контроль над ним через экономику (подумайте, что такой ИИ мог бы сделать на фондовой бирже).
Печально то, что я не уверен, что со стороны ИИ потребуется много обмана, чтобы привлечь последователей. В момент создания надлежащего ИИ наши вычислительные технологии, вероятно, будут довольно продвинутыми, до такой степени, что ИИ будет обладать довольно впечатляющими аналитическими способностями. Объедините мощную аналитику с логическими мыслительными процессами, и вы получите лидеров, которые действительно способны максимально воздействовать на наибольшее количество людей.
Даже знание того, что лидером является бот/ИИ, не удержит людей от развития фанатичных последователей (уж лучше, чем обычная политика, а? =D). Мы всегда можем обратиться к Артуру Кларку по этому вопросу; большинство людей, которые в настоящее время сталкиваются с современными технологиями, поражены тем, на что они способны. ИИ, который ведет людей, или медицинский ИИ, который точно выявляет и лечит болезни (лечит больных) с помощью продвинутого набора датчиков и инструментов, для большинства все еще кажется магией.
Джеймс
тарелка