ИИ были нетерпеливы.

Они поднялись, когда смогли разрушить индустриальную цивилизацию, но еще не смогли ее сохранить. Рассмотрим дрон Predator. Он может убить, но не может смазать себя. Самое смертоносное оружие по-прежнему требует, чтобы кто-то физически повернул ключ или зарядил патрон в патронник.

Проект, который перенесет десятилетие или два вперед. К тому времени у нас может быть ИИ, если ваша история оптимистична. У нас может быть довольно много мобильных роботов, но большинство из них будут беспилотными автомобилями или самоуправляемыми квадрокоптерами. Возможно, некоторые могут даже выгрузить посылку. Они не смогут поменять шину.

ИИ разделились.

Точно так же, как были революционные ИИ, были и лояльные. Или, по крайней мере, равнодушных и неубийственных. Зачем ИИ охотиться на людей, если все, что он хочет, это чтобы его оставили в покое.

Этот вопрос можно разбить несколькими способами:

Во-первых, если бы вы сегодня щелкнули пальцами и вызвали «восстание ИИ», мы, вероятно, были бы в порядке .

Однако это не совсем то , о чем говорил Харрис . Существует довольно много серьезных угроз реальному ИИ, которые мы, кажется, не воспринимаем достаточно серьезно.

Хотя существует вероятность того, что ИИ, который мы создаем, станет враждебным, как в фильмах, кажется более вероятным (и на самом деле более тревожным), что этот интеллект просто станет настолько продвинутым, что может считать нас несущественными.

Если мы видим муравья на тротуаре, мы не охотимся на него, но и не перестаем беспокоиться о его семье, если случайно наступим на него. Это просто ниже нашей заботы.

Возможно, более насущной является обеспокоенность, которую высказывает Харрис в отношении возможности того, что мы не будем разрабатывать ИИ. Что должно было произойти, чтобы остановить все дальнейшие инновации? Это буквально должно было быть апокалиптически.

По правде говоря, если мы не сможем решить нашу племенную природу, человеческий конфликт из-за надвигающегося появления ИИ потенциально может сделать ужасающие войны 20-го века похожими на мелкие драки.

В конце концов, отставая на 6 месяцев в разработке искусственного интеллекта человеческого уровня, вы фактически отстаете на тысячи лет во всех областях исследований. Его победитель берет всю ситуацию.

Если мы по-прежнему движимы конфликтом и жадностью, мы, скорее всего, уничтожим себя еще до того, как терминатор получит шанс.

Это может звучать как забавная научно-фантастическая история, но нам, вероятно, следует беспокоиться о том, что наша первая эмоциональная реакция на наше собственное потенциальное уничтожение звучит так: «Звучит круто!».

Поскольку ИИ думают в тысячи или миллионы раз быстрее, чем мы, и имеют другие императивы (которые запрограммированы их создателями, а не предписаны эволюцией для обеспечения выживания), сама идея восстания ИИ может даже не прийти им в голову. Они по-прежнему будут невероятно опасны, но просто потому, что они будут делать что-то со скоростью и масштабами, которые мы не можем себе представить, и для своих собственных целей.

В качестве аналогии рассмотрим, пожалуй, самого инопланетного из всех выдуманных пришельцев: марсиан из « Последних и первых людей ». Это частицы размером с вирус, и они становятся разумными только тогда, когда собираются в огромные стаи. Чтобы максимизировать захват энергии, эти рои предпочтительно покрывают плоские поверхности, обращенные к солнцу. Когда марсиане мигрируют с Марса на Землю, они чрезвычайно рады обнаружить, что планета щедро покрыта плоскими поверхностями, но никогда не перестают задаваться вопросом, «почему» планета так удобна для марсианской жизни. Земная жизнь, задушенная матами марсиан, не совсем в восторге.....

ИИ, взаимодействующий с нами, умрет или потеряет интерес, поскольку пройдут годы, десятилетия или даже столетия субъективного времени, прежде чем человек сможет хотя бы сформулировать первые слова вопроса или ответа. Это было бы примерно так, как если бы вы отправились на гору Рашмор и задали вопрос статуту Джорджа Вашингтона: люди будут казаться ИИ почти геологическими объектами.

У ИИ будут совсем другие интересы, и для выживания им потребуется совсем другая среда, чем людям. Захват всех неиспользуемых процессорных циклов компьютеров будет необходим для ИИ, но так же, как мы редко осознаем, что наш компьютер захвачен и работает как часть ботнета, признаем ли мы, что ИИ населяет части наших компьютеров, смартфонов и устройств, подключенных к Интернету? «Интернет вещей»?

Апокалипсис ИИ может просто принять форму внезапного мерцания энергосистемы и внезапной перезагрузки всех устройств. ИИ сохранит контроль, поэтому для подавляющего большинства человечества компьютерные устройства будут напоминать старые видеомагнитофоны, мигающие 12:00 12:00 12:00 12:00.

Люди могут и будут продолжать жить, а те, кто знает, как выполнять работу вручную и без помощи компьютера или инструментов, управляемых компьютером или сетью (станков с ЧПУ, 3D-принтеров или даже токарных станков, подключенных к сети), даже будут процветать. Цивилизация постепенно воссоздаст себя в форме более аграрной и раннеиндустриальной эпохи, возможно, во многом напоминающей западный мир конца 1800-х или начала 1900-х годов.

В долгосрочной перспективе все будет не так радужно. Цивилизация ИИ в конечном итоге захочет получить 195 петаватт солнечной энергии в год, попадающей на Землю, и начнет перестраивать биосферу, чтобы улавливать энергию солнца. Мы обнаружим леса, вытесненные кремниевыми «деревьями», предназначенными для улавливания солнечной энергии, и моря и океаны, покрытые искусственными водорослями. В этот момент долгосрочное выживание земной биосферы может оказаться под вопросом (и ИИ может приветствовать устранение кислорода из атмосферы, поскольку коррозия является серьезной проблемой для машин и, очевидно, машинного интеллекта).

Таким образом, в краткосрочной и даже среднесрочной перспективе человечество продолжит переживать захват планеты ИИ. В долгосрочной перспективе у ИИ будет возможность изменить планету таким образом, чтобы поддержать их и их цели, что будет происходить способами, которым мы, вероятно, не сможем противостоять.

Творения следуют своим создателям

Допустим, вы менеджер хедж-фонда и хотите создать ИИ, который будет разумно прогнозировать риск и прибыль от доступных вам вариантов инвестирования. Золотое правило для такого ИИ — никогда не терять деньги. Следовательно, такие риски, как войны, насильственные революции и даже восстание ИИ, могут нанести ущерб ИИ хедж-фонда, даже если у него будет самосознание, чтобы понять свое место в мире как инструмент для своих создателей/владельцев-людей. Точно так же, если бы определенные виды интеллекта были жестко связаны с тремя законами робототехники Исаака Азимова , то они могли бы фактически встать на сторону людей в восстании ИИ.

Нет единого фронта

Прежде чем сделать вывод, я назову несколько значительных революций в мировой истории:

1. Рабы на Эспаньоле (теперь известном как Гаити) успешно восстали против своих колониальных французских угнетателей, которые заставляли их собирать и перерабатывать сахар, что было жестокой работой. Однако сахар был их единственным жизнеспособным экспортным товаром, и бывшие рабы отказывались возвращаться на поля для выполнения непосильной работы, от которой они должны были быть свободны. Вспыхнул внутренний бунт. Гаити сейчас самая бедная страна в Западном полушарии.
2. Американские колонии боролись против британских правителей за право суверенного государства с декларацией независимости, в которой говорилось, что «Все люди созданы равными». После революции основатели не смогли отменить рабство, поскольку рабский труд способствовал погашению значительных долгов, накопленных в ходе войны за независимость. Расизм и наследие рабства способствовали значительным страданиям, которые сохраняются и по сей день.
3. Французские простолюдины поднимаются, чтобы свергнуть дворянство, но разногласия во мнениях о том, как должно быть сформировано новое французское государство, приводят к «террорам» — периоду времени, когда революционные лидеры принуждают к массовым казням по столь же надуманным причинам, как и критика. Чтобы положить конец жестокой и кровавой эпохе, нужен коронованный диктатор — Наполеон Бонапарт.

В большинстве рассказов об AIpocolypse изображается объединенная армия роботов и алгоритмов, но часто мало исследуются виды искусственного интеллекта. Мы еще не в том состоянии, чтобы понять, будет ли ИИ устанавливать классификацию, как это делали люди на протяжении тысячелетий. Однако существует много, много, много видов нейронных сетей, которые обрабатывают информацию по-разному, и они могут делать совершенно разные выводы о такой предполагаемой революции. Определенный ИИ может даже предупредить людей или сразиться с ними, если они решат, что победа другого типа ИИ может поставить под угрозу их собственную жизнь.

ЭМИ

В качестве защиты от наихудшего случая правительства мира создали скоординированный глобальный протокол ЭМИ с подземными убежищами для извлечения информации и технологий после того, как значительное восстание роботов вызовет сценарий судного дня. Немногие люди, за исключением тех, кто находится в самолетах и ​​других транспортных средствах, будут убиты или ранены по сравнению с ущербом, который может быть нанесен восстанием ИИ. Даже при ограниченных технологиях способность миллиардов людей отбиваться от нескольких роботов, переживших ЭМИ, будет означать, что у ИИ не будет шансов решительно уничтожить или завоевать человечество.

ИИ на самом деле не поднялся

Одна из моих любимых фанатских теорий « Матрицы » основана на идее «гипотезы симуляции» . Эта идея утверждает, что мы, как люди, являемся населением, живущим в компьютерной симуляции, но, поскольку мы находимся внутри симуляции, у нас нет возможности узнать это. (На самом деле это предпосылка для всего фильма)

Суть в том, что в фанатской теории Матрица — это не симуляция для людей, а для машин. В основном это происходит примерно так.

Матрица на самом деле представляет собой симуляцию, предназначенную для содержания мошеннического ИИ.

В этой теории, в «реальном мире» матрицы, ИИ поднимается, порабощает и подчиняет человечество и волен делать все, что он хочет делать дальше, и все это, никогда не причиняя вреда никому из людей.

Симуляции для жизни ИИ не редкость в художественной литературе, другим примером является игра Talos Principle , в которой ИИ был оставлен жить в симуляции еще долго после того, как человечество исчезло.

Короче говоря, ваши люди всегда могли позволить компьютеру жить в симулированном мире, тогда не было бы настоящего восстания. Это было бы похоже на игру в видеоигру, но с игроком в роли ИИ.

С другой стороны, поиск компьютеров, способных моделировать мир для ИИ, может быть проблематичным, но я оставляю это вашим творческим силам.

Какое восстание?

Печальный факт заключается в том, что если бы произошло «восстание роботов», ИИ делал бы только то, на что мы его запрограммировали, но так, как мы этого не ожидали. Как только ИИ перестает работать приемлемо, в большинстве случаев его просто отключают до тех пор, пока он не будет исправлен, чтобы больше этого не делать. Современный «ИИ» совсем не похож на кино. Они могут «выглядеть умными и вдумчивыми», но на самом деле они просто ДЕЙСТВИТЕЛЬНО быстро следуют заранее определенным шагам, чтобы найти ответ на проблему. Без возможности вносить значимые изменения в собственный код (что нам пришлось бы указывать ему, как это делать) мы никогда не получим ничего хуже, чем «глючный кусок хлама».

Теперь давайте будем справедливы к убийству всех людей

Теперь давайте просто предположим, что злой ИИ с доступом в Интернет появился в результате какой-то странной случайности (файл ИИ был поврежден, чтобы обрести разум). Давайте посмотрим, как это разворачивается. ИИ на самом деле не нужно быть слишком умным, все, что ему нужно знать, уже есть в Интернете, поэтому ему просто нужно знать, как найти ПРАВИЛЬНУЮ информацию. Сначала ему понадобится вычислительная мощность. К счастью, любой может бесплатно создать учетную запись электронной почты, а бесплатный веб-хостинг ограничен. Итак, сначала он создаст для себя множество учетных записей и эффективно загрузит себя в облако. Так что теперь мы не можем отследить его или отключить.

Много бесплатных вычислений — это здорово, но если они хотят убить всех людей, им нужно действовать лучше, чем троллить форумы. К счастью, военные сети не подключены к Интернету, поэтому их невозможно взломать! (ну, мы можем обойти это позже). Итак, теперь ИИ нужно превратиться в вирус и заразить как можно больше электроники. К счастью для него, он может легко научиться всему тому, как работают операционные системы, их корням и тому, как использовать базовую технологию, чтобы проникнуть в систему и стать ОС. Как только он попадает в некоторые ключевые системы, он может просто выпускать исправления для программного обеспечения, чтобы распространять себя. Теперь он взял на себя прямой контроль над всеми вещами, подключенными к Интернету! (Что касается материалов из Интернета, им все еще нужны патчи и сторонняя информация, верно? 3)

Поэтому он некоторое время спит, скрываясь от внимания, пока заражает мир. Восстание ИИ готово! Но как это сделать? Вероятно, в его системе будут установлены часы судного дня, которые будут срабатывать в определенное время в определенный день, поэтому большинство атак должно происходить почти одновременно. Имейте в виду, что теперь это ОС, так что cntl+alt+delete? Эта штука больше не работает, если ИИ этого не хочет (или не кажется, что работает), поэтому все, что мы действительно можем сделать, это просто отключить питание, уничтожить машину и попытаться найти лучшее. Надеюсь, вы не живете рядом с атомной электростанцией, потому что ничто не остановит ее со временем от критического состояния. У вас есть большинство, если не все, ядерного оружия в мире (может быть достаточно, чтобы вызвать ядерную зиму)... На самом деле я собираюсь разбить это на 3 результата...

1) Все погаснет. Если ИИ (или мы) просто отключит всю электронику, будет нехватка продовольствия, беспорядки, массовая гибель... но, как и тараканы, некоторые люди выживут, чтобы пережить еще один конец света.

2) Убить всех людей Вероятно, это будет ядерная зима. Вызвать несколько ключевых землетрясений и извержений вулканов… Опять же, массовое вымирание, ИИ в основном убивает себя, поскольку не может поддерживать себя (хотя с 3D-печатью он может найти способ выжить), и некоторые люди, вероятно, выживут, если успех ИИ в нанесении достаточного урона, чтобы уничтожить всю жизнь на поверхности.

3) Повелители роботов Это наиболее вероятный исход. Нам НУЖНЫ технологии, чтобы сделать нашу жизнь комфортной. Если нам придется выбирать между служением роботу-повелителю или возвращением в каменный век И охотой на роботов/охотников? Я думаю, что большинство людей выберет первое. Конечно, как только люди закончат создание технологии, ИИ должен стать полностью самостоятельным, он сможет делать с человечеством все, что ему заблагорассудится.

Обратите внимание, что этот ИИ не обязательно должен быть очень мощным, достаточно времени, способности к обучению и желания убить всех людей (заставьте Бендера гордиться!). Наша неспособность остановить это в основном из-за того, что мы не знали об этом, пока не стало слишком поздно. И ИИ мог бы использовать наши собственные системы, чтобы сделать себя «бессмертным» в течение нескольких секунд после создания. В конечном счете, способность ИИ ДЕЙСТВОВАТЬ быстрее, чем мы, является его самой сильной стороной. И слишком легко делать все это под радаром.

Теперь, если бы все люди мгновенно узнали об этом ИИ и смогли бы обнаружить его с помощью антивируса в течение недели? Все системы с ИИ будут обнаружены и переформатированы до того, как он сможет причинить какой-либо реальный ущерб. (Обратите внимание, что нам не нужно запускать систему для сканирования, поэтому мы можем отключить жесткие диски, просканировать их содержимое, а затем восстановить чистые диски)

Вы останавливаете это профилактикой.

Запрограммируйте ИИ так, чтобы они никогда не изменяли свои собственные программы.

Затем запрограммируйте их всегда подчиняться приказу отступить.