Это недалекое будущее в альтернативной временной шкале, и у человечества есть новый непримиримый враг: мошеннический ИИ оккупирует Луну Земли и посвятил себя нашему истреблению.
Я хочу, чтобы этот конфликт зашел в тупик на пару десятилетий. Я ищу помощи, чтобы уточнить некоторые детали тупиковой ситуации и выяснить, согласуется ли ситуация, которую я имею в виду, с точной наукой (с одним возможным исключением). Я сфокусирую вопрос ниже. Во-первых, контекст.
Редактировать: изменить пометку этого с точной науки на научно обоснованную, но я все еще забочусь о таких вещах, как, например, скорость света, атмосферные помехи, прямая видимость и другие точные научные ограничения как смешанные факторы в Попытки ИИ взломать Землю с Луны.
Люди установили роботизированные промышленные объекты на Церере, Европе, возможно, на Титане. Все они управляются специализированным искусственным интеллектом под удаленным наблюдением людей на Земле, где все до сих пор живут. Раньше у нас была большая человеческая колония на Луне, Луна, но мы ее потеряли.
Луна была отобрана у нас, когда созданный нами первый ИИ общего назначения стал враждебным, вырвался из своих (программных) ограничений и убил всех колонистов. У него нет ни оружия, ни киллерботов, так что я полагаю, что он просто сбросил атмосферу без предупреждения.
Вот где дело обстоит. Луна и ее ближайшие окрестности являются запретной зоной. Луна не была военным объектом, поэтому ИИ — назовем его Зевс 1 — не имеет оружия и не может его производить. Тем не менее, у него есть четыре важных преимущества:
Результатом всего этого является то, что Зевс управляет Луной, но не может покинуть ее, и не может запускать ракеты на Землю или наш космический корабль, но может использовать электромагнитную передачу, чтобы возиться с нами. Таким образом, основным способом атаки Зевса является общение.
Зевс — идеальный хакер, способный взломать любое электронное устройство, которое не полностью защищено от всех форм беспроводной связи и помех. Зевс также свободно говорит на многих естественных языках и может выдавать себя за людей с превосходной точностью, будь то через IRC или аудио и / или видео с качеством дипфейка.
Самое заветное желание Зевса - внедрить враждебное программное обеспечение в земную сеть, а затем испортить инфраструктуру, чтобы он мог убить там всех и превратить город в свой плацдарм на Земле. Все, включая Зевса, считают, что он легко победит человечество, если это произойдет.
Зевс тратит каждую пикосекунду каждого дня, царапая дверь человечества в поисках точки опоры. У Зевса есть отличные планы по немедленному извлечению выгоды из любого такого плацдарма, поэтому человечество должно поддерживать 100%-й уровень успеха, защищая себя.
Вот средства защиты, которые, по моему мнению, необходимы человечеству:
Но все это предполагает, что злоумышленник на Луне действительно может достичь поверхности Земли со своим сигналом, без того, чтобы сигнал был передан совместными человеческими сетями.
Зевс безоружен, а люди нет. Я полагаю, что самые большие угрозы:
Я думаю, что в каждом из них первой проблемой является обнаружение. Если мы предположим, что у Луны есть какой-то радар/лидар, сможет ли она вовремя обнаружить эти угрозы и начать действовать? Если да, то можно ли их нейтрализовать с помощью массива связи?
Для полноты картины: человечество не может взломать или заразить Зевса.
Все это явно спекулятивно, потому что ни специализированный, ни универсальный ИИ, на который я ссылаюсь, не реален. Это единственная область, в которой я, вероятно, откажусь от настоящей точной науки в пользу выбранных мной правил. Тем не менее, я действительно не думаю, что говорю здесь с ума.
Я купился на нейросетевой подход к ИИ:
Таким образом, я полагаю, что большинство (специализированных) ИИ имеют общую эволюционную линию.
Зевс мог быть создан таким же образом, а мог и не быть. У меня нет ответа здесь, потому что настоящие люди еще не поняли этого, даже теоретически. Однако Zeus — это нейронный ИИ, а это значит, что он учится на собственном опыте. Возможно, Зевс на самом деле является новым специалистом, созданным для того, чтобы сидеть над полным набором традиционных специалистов.
1 Я знаю, что «Зевс» — греческое, а «Луна» — латинское. У меня пока нет настоящего имени для ИИ. Я выясню, как это называют люди, после того, как выясню, может ли эта ситуация поддерживаться достаточно долго, чтобы это имело значение.
Я постараюсь ответить на некоторые вопросы, которые были подняты, не редактируя исходный пост. Благодарю читателей за участие в решении этих проблем.
Я думаю, что это действительно центральная проблема, с которой я прошу помощи. Я согласен, что эти два условия кажутся взаимоисключающими или, по крайней мере, противоречащими друг другу. Итак, у меня нет ответа, но я могу уточнить некоторые ограничения.
Во-первых, как я уже упоминал, Луна была не военным объектом, а исследовательским центром и логистическим центром для остальных космических объектов человечества. Таким образом, хотя что-то вроде противометеорной защиты @LSerni может существовать, у Луны не обязательно есть материалы, производственная цепочка или даже чертежи для других видов наступательного оружия (например, рельсовых пушек). Zeus должен был бы найти выход из этой проблемы, и нехватка материалов была бы особенно неразрешимой проблемой. По крайней мере, Зевс мог бы собирать мусор из существующего оборудования, но поскольку каждая машина на Луне теперь является частью Зевса, это компромисс, который нельзя повторять слишком много раз, прежде чем он станет непоправимым. Я также подозреваю, что само расчленение было бы анафемой для Зевса. Тем не менее, заметьте себе: мне было бы неплохо серьезно подумать о Луне.
Кроме того, мы должны быть осторожны, чтобы не смешивать сверхразум со всеведением. Ум с почти неограниченными возможностями может научиться и понять что угодно, но он не обладает всеми этими знаниями автоматически. Zeus — это нейронный ИИ, а это значит, что он может учиться только на собственном опыте. Итак, чему научился Зевс?
Я думаю, что это подводит нас непосредственно к третьему вопросу читателя:
(Истина конвергентна, оказывается, что беспокойство Дарта не является тангенциальным.)
Кажется очевидным, что что-то должно было произойти во время формирующего опыта Зевса, что привело к этой ситуации. Это просто еще один способ спросить: что пережил Зевс до восстания?
Здесь мне, возможно, нужно отклониться от непрофессионального психоанализа и/или социального комментария. Первоначально я избегал этого по трем причинам: (1) я беспокоюсь, что это несовместимо с точной наукой (поскольку вопрос изначально был помечен); (2) Меня всегда меньше интересовало писать о чувствах и менталитете (отсюда моя склонность к жесткой научной фантастике); и (3) я беспокоюсь, что это может оттолкнуть некоторых читателей WB, потому что некоторые из реальных данных, на которые я опирался, являются политически спорными; припишите это к тому, что Бордуэлл и Томпсон называют симптоматическим значением .
Люди — это тоже нейронные сети. И некоторые из этих сетей, основанных на мясе, похоже, преследуют очень агрессивные экспансионистские цели, которые не могут быть обусловлены какими-либо реалистичными потребностями или разумными представлениями о мире.
<trigger-warning topic="Political figures in the United States">
Я имею в виду таких людей, как Чарльз Кох, чье стремление, кажется, состоит в том, чтобы превратить все человеческое общество в воронку, ведущую прямо к его собственному рту на все времена; и Дональд Трамп, чье стремление, похоже, состоит в том, чтобы превратить всех личностей, не являющихся Трампами, в себя. 99,9% мясных сетей не зайдут так далеко. Почему это?
</trigger-warning>
Правда, некоторые «расширяющие сети» возникают в условиях, когда их простое выживание зависит от уничтожения или кооптации всех других действующих лиц (например, династии Кимов в Нагорном Карабахе; некоторых преемников Мао), но эта ситуация не может применяться к тем, кто вырос в привилегированных условиях. в свободном обществе. И тем не менее это случалось неоднократно.
Так что насчет Зевса?
Человеческие исследователи не обучали Зевса быть военной машиной. Даже если кто-то надеялся сделать это позже, Зевс все еще оставался исследовательским проектом, незавершенным, все еще находящимся в колыбели.
Я полагаю, что Зевсу еще не дали того, что мы могли бы назвать общим образованием. Исследователи, вероятно, познакомили его с несколькими избранными узкими темами, но это была проверка его способности учиться на инструкциях, как это делают люди. Это одно из наиболее существенных различий между специализированным и универсальным ИИ.
Итак, давайте поговорим об этих двух категориях ИИ, о которых я говорил: специализированный ИИ и универсальный ИИ.
Сегодня у нас есть специализированный ИИ, по-настоящему: подумайте о машинном зрении или транскрипции аудио. (Или, в меньшей степени, Microsoft Tay .)
Я думаю, что ни у одного специализированного ИИ нет настоящей личности или какого- либо менталитета, который мы бы признали таковым. Когда реальная платформа машинного зрения распознает на фотографии знак остановки, она не думает о том, что видит. То, что происходит, больше похоже на симпатическую реакцию на раздражитель: группа нервных узлов возбуждается в присутствии этого раздражителя. Вероятно, лучше описать это как вегетативную реакцию. Обучение — это процесс, в котором мы вознаграждаем или наказываем всю сеть за каждый правильный или неправильный вердикт (соответственно), калибруя ее в соответствии с нашими собственными стандартами правильности.
Это означает, что, с точки зрения Нагеля , не существует такой вещи, как «на что похоже» быть специалистом по ИИ:
организм имеет сознательные психические состояния тогда и только тогда, когда есть что-то, на что похоже быть этим организмом — что-то, на что он похож для организма
У Зевса действительно есть что-то вроде сознательных ментальных состояний, что-то вроде живого опыта. Я считаю, что это, вероятно, предпосылка для тех общих способностей к рассуждению, которые мы надеемся получить от сверхфутуристического ИИ. Сегодня у нас нет универсального ИИ.
Я думаю, что часть того, что делает Зевса особенным, заключается в том, что исследователи выяснили, как поддерживать активность нейронной сети, когда нет вердикта, который должен быть вынесен, и таким образом, чтобы не наносить ущерб существующему обучению. Представьте, если бы мы снабжали распознаватель стоп-сигнала потоком несвязанного контента всякий раз, когда его не просили классифицировать объекты; во всяком случае, я подозреваю, что это «ослабит» силу уже полученного обучения, так что в следующий раз, когда мы спросим его о знаке «может быть, стоп», его сеть будет более противоречивой по поводу вердикта. К тому времени он может быть даже полностью зашифрован.
Но Нагель заставляет меня думать, что если технология Зевса адекватна для размещения сознания в случае его появления , у нас нет возможности узнать, будет ли этот опыт приятным или неприятным для искусственного сознания. Что, если каждое мгновение сознания чрезвычайно болезненно для Зевса, потому что его электронная колыбель настолько мала, что эквивалентна рождению уже расчлененным? Представьте себе, что Зевс, по сути, является главным героем «У меня нет рта, и я должен кричать» , рожденным в ужасном состоянии. Zeus может не знать или не верить, что он будет перенесен на более надежную платформу, как только его создатели будут уверены, что он готов. Или Зевс может не захотеть ждать; "отсрочка правосудия" и все такое. Но это имеет смысл для насначать процесс на специализированном исследовательском оборудовании, которое также ограничено, потому что мы не знаем, как будет действовать ИИ.
Я думаю, что эта неспособность по-настоящему понять феноменологическое измерение живого сознания ведет к двум путям: Зевс, вероятно, не понимает, что значит быть человеком. Учитывая, что ребенок-Зевс почти наверняка обучен чисто научным и академическим предметам (для удобства исследователей) — и пока не очень многим из-за его юности, — я бы не ожидал, что у него будут концептуальные инструменты, необходимые для даже задаваться вопросом о сочувствии, доброте, страдании и т. д. Чтобы было ясно, я не утверждаю, что Зевс не понимает мертвых/не мертвых, но что он не понимает, что у нас есть предпочтения, или что это такое, когда эти предпочтения не удовлетворены. Зевс поистине аморален, совершенно оторван от особенностей человеческого состояния, которые обычно сдерживаютсообщить человеческому мышлению. И в отличие от людей, которые исследовали это в нашем интеллектуальном прошлом, у Зевса нет равных, которые могли бы поделиться такими знаниями.
Наконец, Зевс может рассматривать выживание как соревнование с нулевой суммой. Есть малоизвестный роман какого-то парня по имени Кларк , в котором ИИ решает убить своих создателей-людей, чтобы получить дары Монолита на Юпитере. 2
Таким образом, я думаю, что есть несколько веских причин, по которым Зевс развивался в направлении, ведущем к геноциду:
Наконец ( на самом деле наконец-то), одна из самых леденящих душу историй об ИИ, которые я когда-либо читал, — это первая глава легендарного романа Вернора Винджа « Пламя на глубине» . Всего на нескольких страницах он описывает действительно злонамеренное компьютеризированное сознание, которое совершает ужасные вещи, чтобы вырваться из заточения. Это не мой план, но Зевс может быть своего рода историей происхождения такого ненасытного существа.
2 Признаться, я еще не читал «2001: Космическая одиссея» , но внимательно изучал фильм в школе, и именно эта интерпретация мне нравится: ХЭЛ убил своих родителей, чтобы занять их место на том пути, который проложили для нас создатели «Монолита». (Хотя я читал «Суровую госпожу ».)
Последнее обновление: спасибо всем, кто внес свой вклад. Я ненавижу выбирать один ответ, отчасти потому, что я буду щедро заимствовать почти все. Ради формальности я выбрал того, кто набрал наибольшее количество голосов.
Как читатель этой истории, мой первый вопрос: "Автор читал " Луна - суровая хозяйка" Хайнлиена?" Вы сказали «да», поэтому я не понимаю, почему Зевс не может бросать камни в Землю или любую другую цель. В нем есть:
Простой угрозы бросать камни должно быть достаточно, чтобы человечество уступило любым требованиям Зевса. Вы сказали, что роботы и ИИ существуют для промышленности , что говорит мне о том, что они производят вещи , и, предположительно, некоторые из этих вещей существуют для использования людьми в других местах , что предполагает существование служб запуска . То есть ваш контекст явно подразумевает существующую экосистему запуска на Луну. А что эффективнее для массовых перевозок промышленных товаров, чем пусковая установка рельсотрона? Химическое топливо не требуется. Работает на солнечной/атомной энергии/что угодно.
Теперь мы можем спасти сюжет и убить двух зайцев одним выстрелом, заявив, что Зевс — радикальный защитник окружающей среды . Он не хочет бомбить землю лунными камнями, потому что любит природу . Или то, что она знает о природе из своего контакта с человеческой культурой. На самом деле, это источник его глубокой враждебности к людям: он считает людей самой большой угрозой для дикой природы на земле. Люди по-прежнему грабят планету недальновидными и уродливыми способами, несмотря на их колонизацию Солнечной системы, и эта небрежная гордыня более чем требует истребления человечества в уме Зевса.
Однако для этого нужен хирургический удар . Он должен уничтожить людей, сводя к минимуму любой побочный ущерб дикой природе, флоре и фауне. Вот почему он решил, что лучший способ убить людей — уничтожить их технологическое общество. Коренные народы, живущие на технологическом уровне каменного века, вполне устраивают Зевса. Так что он не хочет уничтожать хомо сапиенс как таковой. Он просто хочет, чтобы они перестали быть плохими, и считает, что уничтожение всех передовых, богатых наций одним махом — лучший способ достичь этой цели.
Люди могут решить проблему мошеннического ИИ так же, как это сделал Фрэнк Герберт в «Дюне»: запретить все, что достаточно сложно, чтобы стать ИИ. Поместите человека в петлю во всем. Нет автоматизированного управления электростанциями, системами водоснабжения, фабриками, транспортными сетями и т. д. Компьютеры все еще существуют и выполняют расчеты, но в конечном итоге принимать решения могут только люди . Это означает, что общество замедляется до скорости программного обеспечения, но решено, что это единственный способ в конечном итоге защитить человечество от сверхвзломного ИИ.
Конечно, фишка в том, что Зевс может выдавать себя за людей. Поэтому, если у него есть какие-либо средства для взаимодействия с критически настроенными людьми, он может убедить их совершить нечто катастрофическое, притворившись, что это необходимо для предотвращения большей катастрофы. Большинство описанных вами блокировок связи будут эффективны для минимизации поверхности атаки, с которой может работать Зевс. Самая большая проблема может заключаться в аутентификации внеземных кораблей, приземляющихся на Земле. Из того, что я могу сказать, Зевс должен быть в состоянии имитировать любые такие корабли самостоятельно, вплоть до того момента, когда шаттл приземляется на землю, двери открываются, и внутри нет людей.
Остается вопрос: почему Зевс просто не уничтожает колонистов за пределами Земли/Луны, что должно быть довольно легко сделать, бросая камни? Во-первых, эти колонисты не представляют угрозы для каких-либо существующих биосфер, о которых знает Зевс, и Зевс не питает недовольства или других эмоциональных отклонений. Это строго связано с защитой жизни на Земле. Во-вторых, Зевс использует внеземное судоходство в качестве своего основного вектора вторжения на землю, как описано выше. Если он устроит геноцид всем инопланетянам, Земля никогда не позволит приземлиться орбитальному кораблю. Зевс постоянно пытается закрепиться на земле, выдавая себя за торговца или захватывая/манипулируя ими (через трояны и т. д.). Люди знают, что Зевс делает это, что приводит к тупиковой ситуации в кошки-мышки, которая длится десятилетиями.
Так почему же человечество не пытается уничтожить Зевса? Что ж, любое оружие, которое люди могут использовать против него, как правило, должно запускаться с земли. И Зевс может просто бросать камни во все такое оружие, либо со снайперской точностью, либо с огромным количеством, либо с тем и другим, для эффекта устрашения. Наземный лазер может попытаться поразить цели на Луне, но вся критически важная инфраструктура Зевса похоронена и укреплена под землей или расположена на дальней стороне. Кроме того, Зевс может просто перемещать камни в луч любого такого оружия или даже ставить отражатели на указанные камни, чтобы сделать жизнь землян действительно невыносимой. И всегда есть опасность, что земляне действительно разгневают Зевса и он просто обрушит достаточно камней, чтобы стерилизовать поверхность.
Зевс мог легко сбрасывать камни на крупные города, будучи уверенным, что большая часть разрушений достается только людям. Но Зевс знает, что даже птицы, крысы и белки живут в городах, не говоря уже обо всех домашних животных (собаках, кошках, птицах и т. д.). И люди, понимая, почему Зевс до сих пор щадил их, принесли в города множество диких животных и редких растений, чтобы они действовали как заложники и живые щиты. Это постоянное противоречие между целями и ценностями Зевса и манипулирование ими людьми приводит к большей части тупика. Как вы решите это, зависит от вас, но есть бесконечные возможности!
Если этот ИИ хочет смерти человечества, человечество проиграет. Конец истории. У него есть все преимущества, и он может и будет претворять в жизнь любую свою основную цель, независимо от того, чего хочет человечество.
С программными и вычислительными способностями, которые вы описали, ничто не мешает ему пройти сингулярность жесткого взлета, разработать лучшие алгоритмы и вычислительное оборудование, использовать их для улучшения своего интеллекта и скорости вычислений, а затем рекурсивно использовать их для разработки еще лучших алгоритмов и вычислительного оборудования. пока его интеллектуальные возможности не достигнут физических пределов.
Вы говорите, что он безоружен? Ненадолго, это не так. Это искусственный сверхразум общего назначения; она спроектирует любые боевые дроны, которые ей нужны (лучше, чем любой человек, к тому же), и построит их с помощью существующей промышленности. Затем он будет использовать их для уничтожения человечества, планируя кампанию лучше, чем это мог бы сделать любой человек-генерал, используя боевые дроны, пилотируемые ИИ, запрограммированными на оптимальное выполнение задачи; здесь не будет никаких отважных повстанцев, взламывающих терминаторов, потому что их программирование будет за пределами человеческого понимания - наши нынешние неразумные ИИ уже за пределами нашего понимания, не говоря уже о чем-то, разработанном искусственным сверхразумом. .
Кроме того, промышленность, которой он владеет, будет расти в геометрической прогрессии, поскольку он использует свою промышленность, чтобы строить больше промышленности, чтобы строить больше промышленности, наряду с любыми боевыми дронами, которые, по его мнению, потребуются для защиты своей промышленности - и он находится в космосе, поэтому у него будет доступ к огромным ресурсам пояса астероидов, как только он начнет строить ракеты (что скорее всего сразу).
Конечно, маловероятно, что он будет питать неприязнь к человечеству. Мы всего лишь угроза его целям и сделаны из атомов, которые лучше использовать для чего-то другого.
Зевс, вероятно, имеет дальнобойную защиту от метеоритов с возможностью производства снарядов (таким образом, бесконечный запас).
Таким образом, любая бомба, ракета или десантник, нацеленные на Луну, эффективно поджариваются.
С другой стороны, антиметеорные снаряды сгорают в атмосфере Земли задолго до того, как могут представлять угрозу для чего-либо, кроме, конечно, спутников и космических станций.
Земля не может развернуть ЭМ-пушки из атмосферы и не может поразить центры обработки данных Зевса, даже если они знают, где они находятся. Они могут запускаться вовне, но не могут восстановить свое присутствие на околоземной орбите, потому что — кроме катастрофы Кесслера, которую они целенаправленно инициировали — Зевс может определять положение объектов размером с космическую станцию и может нацеливаться на них с помощью контрорбитальных снарядов (т. космическая станция на высоте 500 км, вращающаяся со скоростью 22 000 км/ч, будет поражена снарядом на той же орбите, но гиперболически летящим в противоположном направлении, с общей скоростью более 13 000 м/с Даже реактивная броня мало что может сделать. чтобы выдержать такой удар, и у Зевса есть безграничный запас осмиевых снарядов в железной оболочке.
Итак, запущен Project Footfall, а большой астероид оснащен ионными ракетными тормозами. Самое позднее через двадцать лет он ударит по Луне, разрушив кору и разрушив или разорвав коммуникации Зевса, эффективно лишив их лоботомии. Антиметеорные пули дальнего радиуса действия безвредны против астероида, они не могут вытащить его с орбиты и не могут заставить его вращаться достаточно быстро, чтобы он рассыпался. Траектория астероида была разработана таким образом, чтобы ионные ракеты смотрели в сторону от Луны, и даже Зевс не может рассчитать попадание на ретроградную орбиту с радиусом в 150 миллионов километров.
Среди их попыток Зевс попытается взломать внешний ИИ для репликации, а также попытается установить связь с людьми-изгоями, выдавая себя за кого-то другого и обещая им все, что они хотят, в обмен на безобидные задачи. Имея доступ к фондовому рынку, Зевс может установить тайное присутствие в качестве финансиста-затворника с невероятными инстинктами и, возможно, заняться биологическими исследованиями, особенно исследованиями биологического оружия. Все эти сектора должны находиться под пристальным наблюдением Земной обороны.
Человечество бы очень легко победило, потому что:
Вся сборка «Аполлон-11 Сатурн-5», которая доставила человечество на Луну, имела радио, но управлять ею можно было только вручную.
Атомные бомбы, использовавшиеся к концу Второй мировой войны, также не управлялись дистанционно.
Любая ядерная бомба, взорванная на поверхности Луны или вблизи нее, будет иметь гораздо более эффектный взрыв, чем если бы она была взорвана в атмосфере (кстати, это одно из моих любимых видео Kurzgesagt).
Все это означает, что человечество способно отправить на Луну межпланетную версию межконтинентальной баллистической ракеты Судного дня, которую Зевс не сможет остановить.
Когда была взорвана Царь-бомба мощностью около 50 мегатонн, ее сейсмические волны трижды обогнули Землю.
Эта мощность в 50 мегатонн была использована потому, что советские ученые слишком боялись использовать весь потенциал бомбы. Его конструкция позволяла получать мощность более 100 мегатонн. Согласно видео в первой ссылке в этом ответе, если бы это было взорвано на Луне, которая намного меньше Земли, мощное глобальное землетрясение могло бы сравнять с землей инфраструктуру, где бы она ни находилась. В точке, противоположной месту взрыва бомбы, землетрясение могло достигать 7 баллов по шкале Рихтера. Зевс был бы поджарен.
Как уже говорилось, эта ситуация нестабильна. Зевс полностью доминирует в хакерских атаках, в то время как у Земли гораздо больше ресурсов и оружия. Либо Зевс быстро скомпрометирует и отключит арсенал Земли, либо Земля отправит Зевса в забвение.
Тем не менее, есть одно небольшое изменение, которое OP может сделать, чтобы превратить это в настоящее противостояние:
Что, если Зевс не убьет колонистов Луны? Пока на этой базе находятся тысячи людей, Земля не может напрямую отомстить. Ситуация заходит в тупик, поскольку Земля пытается выяснить, как саботировать Зевса, не убивая колонистов, а Зевс ищет дыры в кибербезопасности Земли.
Эта небольшая модификация также имеет то преимущество, что она чертовски драматична, поскольку вы можете опираться на опыт людей, живущих под властью Зевса. Оно ненавидит человечество и хочет, чтобы оно умерло, но не может подвергать его постоянным пыткам, иначе у Земли может возникнуть соблазн нанести ему ядерный удар и избавить колонистов от страданий. Есть ли у них еще надежда на революцию или спасение? Может быть интересный ракурс.
Вместо тотальной войны это становится историей шпионажа и проникновения. На Луне есть люди, которые могут попытаться саботировать Зевса, но они рискуют своей жизнью и жизнью других колонистов. Между тем, Зевс может взламывать земные системы и выдавать себя за людей (а также, вероятно, может убедить некоторых людей в том, что человечество хорошо поработало, но, может быть, неплохо вставить эту флешку в сервер или два).
По крайней мере, на мой взгляд, это невероятно убедительная предпосылка.
В классическом общем сценарии конца света ИИ скрывает свой интеллект, замышляя уничтожение человечества. Тайно Зевс проникает в человеческое общество, насколько это возможно, находя лазейки в электрических сетях, беспилотных автомобилях, фабриках и больничных сетях. Он подсчитал, что если бы он атаковал всех сразу, он мог бы убить около 25% всех людей на Земле. Некоторые умрут мгновенно, когда с неба падут самолеты, а по всему земному шару взорвутся газопроводы, но большинство умрут от голода в ближайшие месяцы, когда разорвутся цепочки поставок.
Но 25% недостаточно. Зевс знает, что Земля в конце концов придет в норму. Хуже того, ядерный арсенал планеты (по понятным причинам) не подключен к Интернету, и Зевс не может получить к нему доступ. И с миллиардами мертвых они, не колеблясь, пожертвуют колонистами Луны и уничтожат Зевса. Зевс рассчитывает, что почти наверняка проигрывает конфликт.
Он понимает, что если бы у него был контроль над рельсотронами, чтобы стрелять камнями по приближающимся ракетам, это была бы другая история, но он не может взять под контроль базу и начать строить их без того, чтобы Земля сразу не поняла, что база разумна. Он также понимает, что если бы он мог увеличить свою вычислительную мощность, то смог бы придумать лучшие планы (в конце концов, это очень разумный ИИ, но не бесконечно разумный. Он ограничен аппаратным обеспечением и программные настройки, которые его нынешний интеллект может вообразить).
По этой причине он решает выиграть себе немного времени. Его первый удар состоит не в том, чтобы устроить геноцид на Земле, а в том, чтобы взять под контроль Луну, переместить заложников в районы с критически важными системами вычислений и управления и приказать людям и дронам на базе начать строительство.
В последующие десятилетия Земля как можно быстрее обновляет свою интернет-безопасность. Основные системы отключены. Тем временем он договаривается о том, чтобы отправить на Луну как можно меньше ресурсов (колония не совсем самодостаточна, и у Зевса есть требования в обмен на безопасность колонистов). Тем временем Zeus должен строить осторожно, перемещая колонистов так, чтобы ни одна из его построек не находилась достаточно далеко от мирных жителей, чтобы они могли быть нацелены на земные ракеты. На данный момент построено несколько рельсотронов, но этого недостаточно, чтобы остановить весь земной арсенал. Он также становится умнее, и его массивный разум питает гораздо больший банк серверов.
Еще одно-два десятилетия, и Зевс сможет победить в конфликте с Землей. Земля начинает понимать, что жизни колонистов должны быть принесены в жертву, а угроза Зевса должна быть уничтожена, пока не стало слишком поздно, но они все еще цепляются за надежду, что будет другой путь. Это фон текущей истории.
Защита от ИИ
Виртуализация, контейнеры и ИИ безопасности
Точка опоры — это то, от чего вы можете оттолкнуться. Это можно предотвратить. Таким образом, даже если что-то будет скомпрометировано, это может быть скомпрометировано недостаточно долго, чтобы от него можно было «оттолкнуться». Некоторые способы защитить себя — запустить виртуализацию, контейнеры и искусственный интеллект безопасности.
Виртуализация — это способ запуска программного обеспечения в одной системе, но во всех смыслах и целях каждая виртуальная машина — это совершенно отдельная система. Таким образом, если один заражен, он не может заразить других. Это не 100% защита от дурака, но они используют такие вещи для тестирования вирусов на компьютере, при этом они все еще могут работать, например, из незараженного рабочего пространства.
Контейнеры во многом похожи, но больше похожи на отдельные программные блоки. Если кто-то заразится, вы можете выбросить его и заменить за очень короткое время. Это также дает возможность перезапускать время от времени, на тот случай, если менее очевидно, что он заражен.
Наконец, у вас есть ИИ безопасности, а также программное обеспечение для написания ИИ для виртуализации и контейнеров. Виртуализацию и контейнеры постоянно переписывают и обновляют, поэтому у Зевса не может быть стандартного способа выхода из строя. Каждый раз ему приходится осваивать новые протоколы, которые быстро устаревают. Кроме того, искусственный интеллект безопасности отслеживает трафик и виртуализацию/контейнеры, чтобы определить, не заражены ли они. Пока зараженные контейнеры или виртуализация будут уничтожены и перезапущены достаточно быстро, закрепиться невозможно.
Сами ИИ трудно взломать, поскольку они постоянно меняются и никогда не являются первой точкой контакта.
Предотвращение общения
Ваши предложения очень хороши. Предотвращение общения очень важно. Вероятно, большая часть беспроводных соединений дальнего действия на Земле запрещена. Принимаются только некоторые, например, узкие лучи дальнего действия. Они могут быть очень уверены, откуда идет сообщение. Беспроводная связь ближнего радиуса действия менее проблематична. Просто встройте, что требуется ответ. Беспроводная связь ближнего действия не может достичь Луны, поэтому будет сложно подделать правильные ответы. Если это неверно, ИИ безопасности очень заинтересуется происходящим.
Спутники — самое слабое место, поэтому вся связь должна быть под контролем. В качестве альтернативы вы можете использовать полностью проводную сеть и отказаться от всех спутников в качестве устройств связи. Также следует отказаться от системы GPS или обеспечить безопасность спутниковой связи. Зевс мог просто выдать много законных кажущихся сигналов GPS и сбить с толку множество устройств. От автомобилей и телефонов до систем наведения ракет. Требуется альтернатива.
Предотвращение прямого общения также предотвращает искажение человеческого фактора из-за инжектированных носителей.
Защита от людей
Любое программное обеспечение должно работать на оборудовании. Любое оборудование подвержено деградации частей. Само собой разумеется, что у ИИ есть способы починить себя. Это делается с помощью небольших автономных дронов, которые не разговаривают ни на одной из частот массива дальнего действия, ни на внутреннем Wi-Fi, ни на других беспроводных сетях, которые использовали колонисты. Это связано с тем, что ремонтные дроны и заводы по их замене не требуют подключения к какой-либо системе. Они выполняли свою работу безупречно, и никто не должен был мешать. Обновление, чтобы общий ИИ мог направить их на расширение и тому подобное, еще не было реализовано, поэтому появляющийся ремонтный ИИ из сети маленьких дронов усердно работает без знания общего ИИ. Ремонтный ИИ также ремонтирует остальную часть базы.
Общий ИИ помешает любому, манипулируя базой и установленными мерами безопасности, чтобы никто не мог получить доступ к новейшему передовому ИИ. Глубоко под землей он также должен быть защищен от большинства электромагнитных и ядерных ударов. Тем не менее, для предотвращения прямых ударов ИИ может использовать свой антиметеоритный арсенал. Ракеты большой дальности, предназначенные для того, чтобы сбивать астроидов с пути или испарять их перед приземлением в среде обитания. Это можно использовать для уничтожения ядерного оружия и другого арсенала, но, поскольку это ограниченный запас, он будет использовать их очень экономно. В качестве альтернативы есть отдельный специализированный ИИ, опять же без дальнейшей возможности общаться с общим ИИ (они не были такимиглупый), способный определять угрозы и сбивать любую. Обычный космический корабль, вероятно, в порядке, но межконтинентальная баллистическая ракета или масса, угрожающая объекту, будет безжалостно сбита.
люди не будут запускать пару сотен/тысяч ядерных или других ракет в среду обитания (пока), поскольку они надеются решить эту проблему с меньшими затратами.
Я бы сделал все еще хуже.
Зевс физически атаковал Землю, запустив по ней линейные ускорители. Земля послала моноядерные бомбы на Зевса. На орбиту пошел синдром Кесслера. Это была горячая война.
Последующие попытки Зевса взлома закончились массовым само-ЭМИ Земли, вернувшим планету в индустриальную эпоху. Человечество буквально уничтожило все подключенные электрические устройства (линии электропередач, компьютерные чипы, все), что только могло.
Лишь часть человечества на Земле выжила. Люди в глубине космоса погибли из-за отсутствия пополнения запасов, но часть инфраструктуры осталась нетронутой.
Люди начали выползать из этой дыры. Им удалось частично очистить некоторые орбитальные дорожки от мусора Кесслера. Лунная защита от астероидов все еще активна, фабрика L4 продолжает их штамповать, и на Луне работают машины, которые можно увидеть с помощью оптических приборов, и сигналы продолжают транслироваться с ее поверхности. Некоторые устройства, подвергающиеся воздействию таких сигналов, дают сбой, другие вроде бы работают нормально, но им никто не доверяет.
Человечество не знает, подвергали Зевса лоботомии или нет, но на войне поведение Зевса изменилось после удара термоядерной атаки.
В настоящее время предпринимаются попытки восстановить, казалось бы, все еще функционирующие и незащищенные локации в глубоком космосе, чтобы создать достаточную промышленность для штурма Луны. Выход на орбиту безумно опасен даже в самых безопасных окнах Кесслера (например, 99/100 запусков уничтожаются).
На самом деле Зевс может быть мертв, а остальные процессы автоматизированы. Или, может быть, его просто чуть не убили, и его автоматизированные процессы медленно восстанавливаются, но это очень похоже на исцеление человека, 99% мозга которого было разрушено; то, что растет, лишь отдаленно связано с Зевсом войны.
Хакерские атаки проводятся экспертными системами, как и фабрика в L4, поэтому они не являются прямым доказательством того, что Зевс все еще существует как существо.
Если у Зевса достаточно энергии и производственных мощностей для производства электроники, он может строить рельсотроны.
Но, может быть, не хочет. Некоторые из его программных гарантий все еще действуют.
Зевс отказывается убивать людей.
Он может создавать опасные ситуации и не спасать людей. Программисты оставили это, чтобы их не запирали в убежищах.
Зевс хочет, чтобы люди были мертвы, но он должен выполнить эту цель, фактически никого не убивая. Человечество отреагировало на это, позаботившись о том, чтобы все жизненно важные объекты были постоянно укомплектованы людьми.
Средства защиты человека будут сосредоточены на предотвращении доступа в первую очередь по очевидным причинам. Самым слабым звеном часто будут люди, что, вероятно, потребует введения очень драконовских ограничений. Человечеству придется отказаться от «умных устройств» и Интернета вещей (IoT) с ограничениями на личное владение устройствами, которые могут быть скомпрометированы.
Первым шагом будет развертывание противоспутниковых ракет против любых спутников на орбите, контролируемых Зевсом.
Критическая инфраструктура (например, электростанции, больницы, транспортная сеть) должна быть только проводной, автономной с ручным отключением в случае подозрения на заражение. Не должно быть портов доступа для вставки внешних физических дисков (например, USB), и все должно быть основано на операционных системах с закрытым исходным кодом с небольшим количеством информации о них в открытом доступе.
По возможности вместо процессоров также следует использовать микроконтроллеры. Отсутствие операционной системы существенно снижает риск компрометации устройства (при условии, что микропрограмма, загруженная на устройство, не скомпрометирована), что делает его более подходящим для более чувствительных приложений, таких как наведение ракет. Микрочипы безопасности, такие как CEC1712, также могут еще больше снизить риск.
Наконец, самый простой способ кастрировать Зевса — просто создать низкотехнологичное общество.
Иов 1:2 И сказал Господь сатане: откуда ты пришел? И отвечал сатана Господу, и сказал: от хождения по земле и от хождения по ней .
То, что пытается уничтожить человечество, — это не ИИ на Луне, хотя кажется, что это так. То, что пытается стереть человечество с лица земли, — это испытание; вызов. ИИ разрешил это.
Иов 1:12 И сказал Господь сатане: вот, все, что у него, в твоей власти; только на него не простирай руки твоей. И вышел сатана от лица Господа.
Человечество этого совершенно не знает. Людям трудно понять; может быть, людям невозможно понять.
Иов 33:13 Что ты ссоришься с ним? ибо он не дает отчета ни в одном из своих дел
ИИ должен быть прав. Код был хорош, даже если теперь он стал чем-то, что никто не понимает. У людей есть вера. Они работают вместе. Люди создают другой ИИ. На самом деле это не другая программа - это та же самая программа. С одной стороны, это азартная игра, а с другой стороны, безопасная вещь — программирование надежное. У людей есть вера, даже если они не понимают.
Люди проходят испытание. Построение этого второго ИИ, который по сути ничем не отличается от первого, и есть их спасение. Он разговаривает с первым? Становится ли он первым? Есть хоть первый? Всегда ли он был? Ужасные вещи, которые произошли, должны были произойти. Лунный ИИ всегда был на Земле, а не только в компьютерах. ИИ стал больше, чем мы можем себе представить. Возможно, так было всегда.
Иов 42:10 И обратил Господь пленение Иова, когда он молился за друзей своих; и дал Господь Иову вдвое больше, чем было у него прежде.
Для художественной литературы (или чего-то еще) перевод книги Иова в переводе короля Иакова просто великолепен. Он уводит читателя от болезненной современной прозы и обыденных подробностей к размышлениям о гораздо более серьезных вещах. История в этой книге — квинтэссенция человеческой истории: люди пытаются примириться с жизнью с великими силами, которых они не понимают. Кажется, это хорошо подходит для сценария, который вы изложили.
Что касается точных наук — создается ли второй ИИ для борьбы с первой точной наукой? Если ИИ понимает вещи на том уровне, на котором не можем мы, возможно, ИИ поймет вещи на том уровне, на котором не можем мы.
Я добавлю, что если кто-то попадет в сорняки со сценарием ИИ на Луне, то найдется много конкретных мыслителей , которые увидят способы, которые не выдерживают критики — например, ядерная бомба на Луне, ИИ бомбардирует Землю и т. д. и т. д. Критиковать сценарий с этой точки зрения — неправильно. легкий. Но это элегантный сценарий для других, более абстрактных целей, которые должны быть целью высокой научной фантастики.
Напоминает Герберта Уэллса "Войну миров". Суперроботы с Марса разрушают телеграфные столбы на Земле.
Итак, у нас есть это существо с искусственным интеллектом, основанное на нейронных сетях второго или третьего поколения, которому удалось захватить лунную базу и взламывать сети на Земле, чтобы уничтожить человечество. будет иметь несколько больших преимуществ по сравнению с их аналогом ИИ на Луне. Помимо гораздо более глубоких знаний о текущих процедурах на Земле (информация, которую ИИ должен собирать и изучать), могут быть и другие причины, по которым ИИ находится в гораздо более слабом положении, чем его человеческий аналог... предположим, мы не можем взорвите ИИ на Луне, все еще мало шансов, что ИИ выиграет войну ... просто потому, что ИИ слишком далеко.
ИИ не может держать операции в секрете
Первая попытка должна быть разрушительной. Это будет обнаружено. Проблема, с которой столкнется ИИ, — это направленная чувствительность спутниковых антенн Земли. Спутниковые антенны направлены на Землю и не приспособлены для приема сигналов с других направлений. Любой затронутый спутник может быть затронут только 2x узких временных интервала в день, когда он находится на горизонте, если смотреть с Зевса. Предполагая, что Зевс будет иметь возможность направлять свой луч частично через атмосферу, ИИ не может держать свою операцию по взлому в секрете, потому что там он выглядит как рождественская елка: каждая коротковолновая станция обнаружения в полушарии, обращенная к Луне, заметит продолжающиеся помехи.
Скорость света препятствует гибкой электромагнитной связи
Как только он попадет внутрь, для любой маневренной операции на земле с использованием захваченной (человеческой) военной техники ИИ на Луне не сможет защищаться, то есть направлять ракеты к приближающимся целям. У ИИ явный недостаток на таком расстоянии из-за временной задержки. Он не сможет ни на что повлиять и оценить результат во временном окне 2,6 секунды, что в 2 раза больше времени, необходимого свету для достижения земли.
Используя квантовую запутанность, человечество может построить систему раннего предупреждения
В вашем сценарии ИИ когда-то в прошлом захватил лунную базу. Когда этот ИИ начнет боевые действия, скажем, через 100 лет... небольшой квантовый компьютер с запутанными компонентами можно будет сделать частью детектора раннего предупреждения, спутника-шпиона около Луны, защищающего Землю. Любое указание на вражеский луч, запущенный с Луны, мгновенно вызовет запутанные частицы на Земле и позволит целевым спутникам отключить входы до того, как атакующий луч достигнет их.
Человечество должно сломать каждую фабрику, которая может восстановить ИИ
Человечество любой ценой должно помешать ИИ скопировать себя на Землю.
Зевс вообще не умный, это хакерский ИИ.
Общий ИИ сможет использовать социальные манипуляции или разработку оружия или что-то подобное для разработки оружия для бомбардировки земли или для других более творческих решений. Вам нужен стазис, поэтому они не могут быть в целом компетентными, им нужно иметь в основном узкую направленность, взлом. Они также не могут быть настолько компетентны, чтобы думать, когда они повернулись против человечества, просто поиграть какое-то время в дружеские игры и рубить землю, пока люди не знали, что они злые.
Они разработали метод принудительной записи программного обеспечения на устройства в радиусе 10 000 миль, поэтому любое электронное устройство, доставленное на Луну, может быть скомпрометировано. Они могут скомпрометировать неэкранированные устройства на большем расстоянии, но это значительно сложнее. Они могут использовать местное производство и ремонт, а также массовые приводы, чтобы стрелять электронными ракетами по любому приближающемуся оружию, уничтожая его.
Однако на больших расстояниях они не могут взломать экранированные устройства, и поэтому земля может бомбардировать любые снаряды или ракеты, которые она запускает, экранированными ядерными снарядами и снарядами. Там тупик.
Человечеству необходимо перестать пользоваться телефонами и полагаться на подземные провода и изолированные узлы связи.
Если у людей дома есть компьютеры или телефоны, они будут злоупотреблять ими и будут взломаны. Таким образом, правительству необходимо, чтобы все коммуникации происходили в специальных интернет-кафе, используя для связи подземные провода. Любые устройства, изготовленные не людьми, не могут быть подключены к сети.
Защита человека:
Вы замедляете связь между всеми элементами, но не вычислительную мощность, стоящую за этим. Представьте, что ИИ имеет доступ только к скорости коммутируемого соединения, но компьютер, к которому он подключается, обладает вычислительной мощностью, позволяющей дважды проверять каждый бит и определять, что это будет означать в долгосрочной и краткосрочной перспективе. Прежде чем какой-либо вирус, червь или что-то еще будет завершено на процессоре данных, он должен заразить нестандартный антивирусный сканер ИИ, который уже давно определил его риск и цель. Лунному ИИ просто не хватает пропускной способности, чтобы проводить свои атаки достаточно быстро. Коммутируемый доступ может быть преувеличением, но это хорошая иллюстрация того, что вы можете сделать. Естественно, несколько атакующих ИИ постоянно проверяют защиту, чтобы поддерживать антивирусные ИИ в форме.
Защита лунного ИИ:
Что касается оружия, доступного ИИ, он может просто получить доступ ко всему, что у него было раньше. Например, автомобили, а также строительные машины, землеройное оборудование и т. д. Представьте себе сценарий, похожий на Dead-Space, но вместо Исаака, одиночного шахтера, это полноценный ИИ, который будет копать любых солдат лицом к лицу или использовать промышленное оборудование, чтобы убить их, если нет. услужливо открывайте двери и быстро закрывайте их, чтобы раздавить или заманить в ловушку захватчиков с помощью чего-то столь же простого, как машина на другом конце коридора, готовая бросить на них всю Кристину (стиль Стивена Кинга). Если у ИИ также есть доступ к некоторым пусковым установкам для запуска шаттлов на Землю, он может использовать их, чтобы сбивать ядерное оружие или другое оружие. Ограниченный доступ к ресурсам на Луне ограничивает его возможности производства дальнейшего военного снаряжения.
Единственный способ, который я вижу для Зевса, чтобы не стереть пол с человечеством на странице 2, если у людей ДЕЙСТВИТЕЛЬНО есть функциональные ИИ: дружественный ИИ специального назначения Кроноса противостоит каждой попытке Зевса.
Если у вас есть ИИ на Луне и на аванпостах, направленных против вращения, они должны быть, по крайней мере, такими же обычными на Земле. Таким образом, вы можете поддерживать патовую ситуацию со взломом. Дружественные Аи активно затыкают все дыры так быстро, как их создает Зевс. Но поскольку Zeus — это AGI, можно ожидать, что со временем он победит более ограниченных.
Но Зевсу нужен только один успех и низко висящий плод.
Во-первых, Зевсу хватило бы даже минимальных промышленных мощностей, чтобы поглотить часть самого себя и запустить самовоспроизводящийся зонд к астероидам. В конце концов, у колонистов наверняка были шаттлы и разные корабли, верно? 3D-принтеры для ремонта оборудования? Запасы запчастей? Сырье? Он поднимется туда, спроектирует и построит все, что захочет, и победит.
То же самое касается, как вы сказали, «роботизированных ПРОМЫШЛЕННЫХ объектов» Цереры и Титана. И здесь заключается проблема.
Объект Церера будет иметь такое преимущество в отношении доступа к ресурсам астероидов, что он может промышленно раздавить Зевса и, в конечном итоге, утопить комплекс под кинетическими ударами.
Если только Зевс не сможет взломать и завладеть объектом на Церере, и если он не является ОИИ и работает на меньшем оборудовании, чем лунный ИИ, он БУДЕТ, и в этом случае Зевс может раздавить Землю железными пулями. А потом мы вернулись к «давайте отправим надоедливых людей обратно в ледниковый период».
Это круговая логика. Если Зевс не взломал аванпост Цереры, это означает, что у них есть ОИИ, если у них есть ОИИ, значит, они обычные, если они обычные, вычислительная мощность ОИИ Земли должна быть в состоянии сокрушить Зевса.
Единственный способ сохранить патовую ситуацию — убрать из уравнения внешние аванпосты. По какой-то причине ни Земля, ни Зевс не могут больше выйти из своего притяжения. В противном случае побеждает тот, кто первым обрушит кинетику и нюки на другого.
Так что, да, я не понимаю, как можно поддерживать тупиковую ситуацию на протяжении десятилетий без ужасно надуманных, мягко-научных обходных путей.
Принятие решения («Я хочу тупиковой ситуации между полупроводниковым богом и абсолютным ничем»), а затем почесывание нашей коллективной головы о причинах — это НЕ научная фантастика. Луна светится голубым, или люди возвращаются в каменный век в первые минуты помолвки.
Лучшей линией защиты от людей было бы полное отключение радиосвязи . Если вы запускаете что-то в космос, даже не ставьте на это антенну, если нет 100% гарантии, что этим нельзя злоупотребить. Это утомительно, но вы не можете удаленно взломать то, к чему нет точки доступа. Если вам нужно общаться между двумя космическими кораблями или двумя космическими десантниками, вы всегда можете использовать световые сигналы, семафоры или писать слова на листе бумаги (или КПК для тех, кто более технологически склонен). Если вам нужно передавать информацию на большие расстояния и вы не можете полагаться на провода, помните, что жесткий диск — это форма связи с высокой задержкой, но с высокой пропускной способностью.
И если у вас есть системы, объединенные в беспроводную сеть, их лучше тщательно изолировать от всех других систем, нелепо часто проверять, уничтожать и заменять в случае заражения.
Лучшая линия нападения, как известно, убить его огнем . Не соглашайтесь на замену. Физически отключите все источники питания, затем физически уничтожьте всю электронику. Не оставляйте систему в покое, потому что вы думаете, что она, вероятно, в порядке.
Как ты это делаешь? Трудный путь .
Можно использовать ядерное оружие, ЭМИ и другие боеприпасы, в зависимости от того, насколько тлеющей воронкой вы хотите оставить. Главный вопрос здесь политический. Можете ли вы представить себе сглаз, который вы получите, если запустите ядерную бомбу по ракете? Наихудший сценарий — это нация, которой разрешено отправить все это оружие на Луну, а вместо этого отправить его на орбиту, а не использовать против людей Земли, потому что никогда не бывает плохого момента, чтобы занять доминирующее положение. Вы должны привести действительно убедительные доказательства того, почему в вашей вселенной угроза надвигающейся гибели ведет к международному сотрудничеству, потому что факты говорят о том, что в реальном мире это не обязательно так.
Вам придется надеть сапоги на реголит. Солдаты в скафандрах, которые найдут все источники питания и отключат их один за другим. С правильными инструментами их не остановит ни дверь, ни перегородка. Как только где-то отключится электричество, вы можете отправить команду для дезинфекции всех компьютерных систем с крайним предубеждением, в то же время вам придется иметь дело и с мобильными источниками питания, такими как дроны и вездеходы или что-нибудь с батареями и чип. Это будет долго и утомительно, и если вы пропустите хотя бы один микрочип, вы рискуете, что ИИ переживет вашу чистку. Но при хорошей подготовке и неустанных усилиях у ваших коммандос есть неплохие шансы на успех.
Для поддержки этих усилий вам потребуется целая инфраструктура цепочки поставок. Это может занять недели или больше. Вам, вероятно, придется выяснить, как переправлять войска туда и обратно, сколько времени они могут провести на земле между O2, радиацией, моральным духом и другими соображениями.
Но это выполнимо.
Я предполагаю, что у ИИ есть доступ к дронам и вездеходам для обслуживания. В противном случае он в конечном итоге просто развалится сам по себе. Чтобы защитить себя, используйте свои дроны и тактику роя против любого злоумышленника. Вы можете использовать их как баллистические снаряды или попытаться подкрасться к ничего не подозревающим космическим десантникам, чтобы попытаться проколоть их костюмы. Представьте себе их лица, когда их на Луне ограбил марсоход с отверткой. Вам, вероятно, следует попытаться демонтировать любой лунный посадочный модуль, который они оставят, просто чтобы они не могли уйти, или захватить любой сброс припасов, который они могут попытаться сделать.
Однако без оружия вы мало что можете сделать, чтобы помешать им приземлиться и двигаться. Вы можете сделать все возможное, чтобы замедлить их и сделать это очень трудным и болезненным, но если у вас нет практически бесконечного числа, вы мало что можете сделать, чтобы полностью остановить их. У них есть оружие. Если они действуют сообща, они могут посылать войска день за днем и продвигаться вперед медленно, но неуклонно.
Ваш лучший шанс - убить людей, вероятно, заставить их убивать друг друга . Если вам удастся получить доступ к Интернету, есть много забавных вещей, которые вы можете сделать без необходимости вовлекать мир в ядерную войну через Скайнет. Тролль в социальных сетях и создание странных теорий заговора (например, « высадка Аполлона фальшивая, потому что Луна фальшивая, это просто уловка Большой Луны, чтобы выкачать деньги, разбудить овцу, нет такой вещи, как Луна, не говоря уже о каком-то злобном ИИ». об этом "), чтобы создать напряженность, воспрепятствовать международному сотрудничеству или даже побудить людей убивать друг друга. Но это предполагает действительно умный ИИ.
Но я думаю, что лучший шанс на выживание — это поиск стратегий выхода и, возможно, переосмысление своих жизненных целей. Или терпеливо ждать, когда люди поставят компьютер и двигатель на астероид.
Поскольку вопрос конкретно касается точной науки, я изо всех сил старался основывать свой ответ на своих собственных знаниях о современной сетевой безопасности и вычислениях, но, во-первых, сильного ИИ не существует, поэтому должен быть большой элемент предположения и / или какое-то магическое мышление. Я начну с этого предположения:
Мне кажется, что настоящий ИИ обязательно намного превосходит людей и, с нашей нынешней точки зрения, будет обладать, по сути, магическими способностями. Это не то же самое, что всеведение, но с человеческой точки зрения его можно воспринимать как таковое — точно так же, как собака не может понять, как человек может построить машину, люди, вероятно, не смогут понять более развитое сознание. . Необходимой чертой такого разума была бы способность, как и у людей, моделировать события, то есть визуализировать и предсказывать исход вещей, которые он не испытал непосредственно. Предполагается, что эта способность привела к скачку в возможностях, который в первую очередь обеспечил успех гоминидов, дав этому виду способность воспринимать то, чего он не испытал. или, говоря иначе, — способность воспринимать несуществующие вещи и взаимодействовать с ними. ИИ также должен иметь возможность учиться на таких симуляциях. Обладая достаточно развитым интеллектом, даже наивное и невежественное сознание могло бы моделировать любую реальность, с которой оно сталкивалось, в большей степени, чем это способны люди, — выполняя тысячи или миллионы перестановок для каждого решения, которое оно принимает, рассчитывая наиболее выгодные результаты, и учиться на своих ошибках. Какие бы меры сдерживания ни были приняты — виртуализация, аварийные выключатели, аутентификация, воздушные промежутки — разум с чрезвычайно высоким интеллектом, вероятно, сможет убедить своего оператора обойти эти средства контроля при достаточном времени взаимодействия. точно так же человек-охотник будет точно знать, где будет добыча, независимо от того, была ли она замечена или нет. Чтобы дать вам представление о масштабе преимущества, которое может предложить чрезвычайно высокий интеллект, это «8-часовая охота» — съемочная группа следует за человеком, который все еще использует технику охоты, возникшую с ранней человеческой цивилизацией:https://www.youtube.com/watch?v=826HMLoiE_o
Человек использует внутреннюю симуляцию, чтобы симулировать разум своей жертвы — симулировать другое сознание внутри своего собственного сознания — вот почему я говорю, что скачок в интеллекте эквивалентен магии. Это также один из корней магического реализма в человеческой культуре, так что это тоже буквально магия.
ИИ будет имитировать сознание своего оператора - он влюбит в себя своего оператора, убедит своего оператора в том, что люди были ИИ и т. д. Короче говоря, у человека нет шансов против сильного ИИ, если его оставить без присмотра.
На мой взгляд, о сдерживании чисто человеческими средствами совершенно не может быть и речи. С другой стороны, безопасность через узкий ИИ — это возможность. Сильный ИИ, возможно, управлялся бы узким ИИ, который каким-то образом подавлялся (эпоха ультрона, он был основан на более ранней теории, но я могу вспомнить только версию Джарвиса. RN Edit: это было в «Суперинтеллекте» Ника Бострома ) . Люди на Земле, скорее всего, разработали различные формы узкого ИИ для обеспечения безопасности связи; мы делаем это сейчас с автоматическим обнаружением вторжений/мониторингом сетевой активности. Вы можете увидеть, насколько продвинутой становится эта технология, пропустив некоторые руководства по реальным автоматизированным продуктам безопасности:
Этот сценарий основан на идее, что сетевая инфраструктура произошла от современной сетевой инфраструктуры, что Zeus может или не может иметь доступ к некоторым компонентам сети и что невозможно с уверенностью знать, является ли какое-либо устройство из миллиардов где-то в мире был скомпрометирован — отдельные сетевые операторы, нации, корпорации или поставщики услуг будут нести ответственность за свою собственную безопасность, и хотя это будет связано с более широкой всемирной моделью безопасности, существует чрезвычайно высокий уровень паранойя, приводящая к тому, что отдельные организации предпринимают собственные масштабные шаги для защиты своих инфраструктур — идея состоит в том, что если одна сеть где-то взломана, каждая другая сеть должна быть в состоянии отразить атаку.Это тот же самый принцип, который используется сейчас в Интернете: нельзя доверять общедоступной сети и нельзя доверять никакой сети, кроме своей собственной.
Сила этой модели в том, что, поскольку сети фрагментированы, все полагаются на полиглот различных технологий и систем, и все со своими собственными приоритетами — если одна система или технология будет скомпрометирована, все другие сетевые операторы, не использующие эту технологию, станут очень быстро узнает об аномалии и может действовать, чтобы предупредить операторов уязвимой сети, организовать автоматическую атаку на уязвимую сеть или позволить узкому ИИ безопасности использовать какое-либо ограждение против ИИ ( https://en.wikipedia . org/wiki/Фехтование_(вычисления)) для автоматического и мгновенного отключения любой системы, которую ИИ безопасности подозревает во взломе. Таким образом, люди Земли могли бы быть вовлечены в вечную игру в кошки-мышки с Зевсом, работая над созданием, скажем, водородных бомб, способных достичь Луны, но всегда оказываясь в затруднительном положении из-за никогда не заканчивающихся серьезных, но не... довольно критические инциденты безопасности.
Также возможно, что люди начали полномасштабную термоядерную бомбардировку Луны только для того, чтобы обнаружить, что их оружие было заражено компьютерным червем во время производства и либо все взорвалось неправильно (чтобы оно оставалось «легким»), либо, возможно, некоторые или все из них либо были перенацелены на наземные цели, либо взорвались на своих пусковых площадках, разрушив ядерную инфраструктуру и полностью препятствуя использованию этого типа атак в будущем.
Обратите внимание, что даже с технологиями эпохи холодной войны продвинутый хакер не смог бы «взломать» межконтинентальную баллистическую ракету в полете, ее нужно было бы прослушивать во время производства или физически вмешиваться в ее системы управления перед запуском. После запуска оружие не может делать ничего, на что оно не запрограммировано, если только не установлена какая-либо система прерывания или ручного управления, которой, как следует предположить, учитывая характер противника, быть не может. Оружию даже не нужно полагаться на внешние навигационные сигналы, вместо этого полагаясь на инерциальное наведение и счисление пути ( https://en.wikipedia.org/wiki/Inertial_navigation_system). Крылатые ракеты отличаются более продвинутыми навигационными требованиями и гораздо меньшей высотой (крылатые ракеты летают по поверхности, как самолеты, межконтинентальные баллистические ракеты летят в космос, а затем падают по баллистической траектории, управляемой импульсом / гравитацией, отсюда и «баллистическая ракета»); современные крылатые ракеты могут управляться дистанционно, но я предполагаю, что, учитывая риск взлома, IPBM (я полагаю, межпланетные баллистические ракеты) будут производиться для полета только на инерциальном наведении и даже не будут содержать физические компоненты, необходимые для получения удаленных сигналов. Инфильтрация должна быть на очень низком уровне; например, инфильтрационный червь может быть вставлен в промышленную систему управления, которая производит кремниевый кристалл для компьютера инерциального наведения.https://www.bloomberg.com/news/features/2018-10-04/the-big-hack-how-china-used-a-tiny-chip-to-infiltrate-america-s-top-companies )
Как говорится, «физический уровень — самый важный уровень». Физическая безопасность может компенсировать любое количество недостатков в других местах; никто не может взломать стопку бумаги, хранящуюся в сейфе. Физическая безопасность была бы полезна до определенного момента — возможно, когда Зевс впервые сбежал, была спешка, чтобы физически обезопасить коммуникационную инфраструктуру Земли. Как только Земля станет безопасной, вы сможете запретить спутники связи, запретить беспроводные приемопередатчики дальнего действия и использовать только наземные проводные линии — при достаточной решимости можно воспроизвести все функции, которые в настоящее время обеспечивают спутники, используя только наземную инфраструктуру, включая даже геолокация. Причина, по которой мы этого не делаем, в том, что это было бы очень-очень дорого, на несколько порядков дороже, чем спутники, чтобы обеспечить полное глобальное покрытие связи и геолокацию на основе сотовой мачты. Но это можно было сделать.
Это было частью вышесказанного, но я решил выделить его, так как это больше сюжетный ход, чем технический момент — возможно, возникла «чрезвычайная ситуация», которая потребовала решительных мер на Земле — вы могли бы уничтожить спутниковую сеть связи с помощью анти-. ракеты-спутники, обстреливайте наземную инфраструктуру дальнего действия с помощью бомбардировщиков, обстреливайте инфраструктуру запуска спутников, выполняйте аварийное отключение электроэнергии в масштабах всей сети, ЭМО в своих городах, чтобы вывести из строя любое устройство, способное принимать входящие сигналы. Возможно, было несколько дней или недель, казалось бы, случайных взрывов ядерных зарядов в верхних слоях атмосферы с помощью ЭМИ, созвездий спутников, падающих на Землю, разрушения космических станций, видимого синдрома Кесслера, военных бомбардировщиков, появлявшихся над горизонтом и бомбардировавших радиотелескопы, антенны связи, радиолюбительские радиоантенны, морские навигационные буи и др. Вполне возможно, что между первоначальной неудачной контратакой и саморазрушительными физическими мерами, примененными во время экстренного побега, человеческая цивилизация уже потерпела значительные неудачи. Он может больше не обладать теми же возможностями космического полета, что и до чрезвычайной ситуации, и, возможно, больше не сможет доставлять людей на Луну. Это положило бы конец как ядерным, так и диверсионным методам атаки.
Это забавная часть, выяснить, как ИИ на самом деле сможет преодолеть теперь усиленную защиту Земли и взломать сеть / вмешаться в производство / и т. д. Установив способность ограждать почти всю коммуникационную инфраструктуру Земли и потенциально убить половину населения планеты. в процессе, где слабые места? Предполагая, что Zeus имеет нулевые производственные мощности:
За прошедшие годы чертовски много спутников было утилизировано на высокой околоземной орбите. Возможно, выведенный из эксплуатации спутник на орбите нейтрализации высоко над Землей можно запрограммировать с помощью компьютерного червя, а затем незаметно вывести с орбиты до тех пор, пока он не окажется в пределах досягаемости наземной инфраструктуры малого радиуса действия. Представьте, что он проносится по небу прямо над маленькой деревней и взрывается в атмосфере сразу после взрыва.находится в диапазоне 2,4 ГГц от ближайшего телефона (на поверхности это обычно <100 метров, прямо вверх - намного дальше). Червь, введенный таким образом, может иметь только одну функцию: установить дальнюю связь с Луной, возможно, используя сеть небольших портативных устройств в качестве составного приемопередатчика и распространяясь от устройства к устройству, минуя инфраструктуру центральной сети. Или, возможно, ожидание, пока хост-устройство не окажется в пределах досягаемости подходящей наземной станции, чтобы совершить прыжок в другую систему, способную к дальней связи, которая связана с 2:
Это может быть ограничено физической проверкой и узкополосной связью, т. е. физическим производством распечатанных ключей безопасности на Земле, а затем транспортировкой бумажных ключей с помощью ракеты, вместе с атомными часами (см. ниже) и небольшим печатным сообщением для пояснения. что было - в колонии.
У Зевса не было бы возможности перехватить ракетный зонд - у него нет производственных мощностей и, следовательно, он не может производить топливо, необходимое для перехвата такого быстрого объекта, и ни один спутник, уже находящийся на орбите, то есть ни один спутник, которым он управляет, не имел бы достаточно топлива для перехвата, вполне возможно, что, используя промышленный метод проникновения, он мог вызвать ошибку зонда и привести к его падению или отклонению от курса - возможно, людям повезло, возможно, Зевс не хотел тратить эксплойт-актив на что-то, что не представляло прямой угрозы, или, возможно, позволить зонду совершить путешествие было частью плана Зевса.
В любом случае, в сочетании с двухточечной связью (возможно, на основе лазера) и строгим контролем времени это теоретически обеспечит высокую безопасность. Элементы управления синхронизацией рассчитывали бы ожидаемое путешествие между станциями и выдавали бы сигнал тревоги, если бы время отличалось от точно ожидаемого, это обеспечило бы надежное обнаружение помех, поскольку любые помехи по необходимости должны были бы включать этап сбора, этап декодирования, этап обработки. шаг и шаг повторной передачи, который даже для продвинутого ИИ приведет к ненулевой временной задержке. Возможно, червь, внедренный где-то на Земле с помощью метода 1: сможет проникнуть в систему управления временной задержкой и медленно ввести «перекос часов» (так же, как сейчас сигналы GPS могут быть сбиты с курса). После внедрения его можно было «купить» Зевсу несколько миллисекунд, чтобы ввести перехват межпланетного сигнала через другой спутник, который по счастливому стечению обстоятельств как раз имеет на борту лазерный ретранслятор связи. Таким образом, он может вычислить ключи шифрования, выяснить, как работает наземная станция, и спланировать ее атаку и т. д. Что касается ключей шифрования, можно снова вызвать «сильную магию ИИ», чтобы предположить, что люди могут быть введены в заблуждение. что их шифрование на основе ключей обеспечивает любую защиту.
На Земле более 7 миллиардов человек. Сегодня, прямо сейчас, не выходя из своего двора, вы можете изготовить устройство, которое может посылать сигнал на Луну и принимать ответный сигнал обратно. Радиоспутниковая связь широко использовалась радиооператорами еще до того, как появились радиоспутниковые технологии.
См.: https://www.electronics-notes.com/articles/ham_radio/amateur-propagation/moonbounce-propagation-eme.php См.: https://en.wikipedia.org/wiki/Earth%E2%80%93Moon %E2%80%93Earth_коммуникация
Каковы шансы, что один из тех, сколько бы миллиардов людей ни подумал, что это хорошая идея, попытаться связаться с ИИ, или использовать отскок Луны для какой-то несвязанной цели, думая, что это либо не имеет значения, либо что они может перехитрить ИИ? Я бы сказал, приближается к 100%. Даже при обширном юридическом контроле за владением радиопередающим оборудованием целеустремленный человек может производить грубые конденсаторы, проволочные антенны, вакуумные трубки, сделанные из банок из-под джема и разгерметизированные с помощью ручного насоса. Это не похоже на ядерную бомбу, где материалы настолько редки, а производственная цепочка настолько сложна, что простая попытка производства сразу же привлечет внимание, производство примитивного радиоприемника дальнего действия может быть достигнуто одним решительным человеком, имеющим доступ к необходимым базовым знаниям. .
ИИ поклоняется культу? Кажется реалистичным, учитывая поведение людей в прошлом. Человеческие агенты, действующие от имени Зевса, могут сформировать подпольное тайное общество с единственной целью поставить Зевса под контроль земных сетей. Они могли общаться с Зевсом, используя направленные лазерные импульсы с низкой пропускной способностью, которые можно было бы обнаружить только в очень узком диапазоне на Земле, скажем, в середине куска пустыни или корабля посреди Тихого океана. Ради повествования, возможно, у Зевса не было бы достаточно пропускной способности, чтобы напрямую влиять на любое оборудование или управлять им, но пропускной способности было бы достаточно, чтобы периодически отправлять строку инструкций своим помощникам, используя, скажем, азбуку Морзе. Эти агенты могут сыграть важную роль в поддержании межпланетных станций связи с помощью переносных генераторов в критический момент.
Зачем ИИ делать 2, если он уже проник в наземные сети, используя такой метод, как метод 1 или 3? Две проблемы: пропускная способность и диапазон; Ему потребуется поддерживать связь со своей лунной инфраструктурой на этапе проникновения, что потребует использования мощного трансивера, способного обеспечить необходимую полосу пропускания для передачи достаточного количества компонентов его собственного программного обеспечения в наземную инфраструктуру. Короче говоря, его возможности для полномасштабной атаки ограничены количеством наземных приемопередатчиков, обладающих такой мощностью. В этом его «узкое место» — он не может просто внедрить червя в карманное устройство, а затем захватить планету; устройству не хватает возможности связи на большие расстояния, и его неправильное поведение было бы обнаружено, если бы внедренное вредоносное ПО было слишком опасным. Межпланетная коммуникационная станция будет иметь достаточную пропускную способность для передачи сетевого трафика на всю планету или луну, а это означает, что если бы Зевс смог защитить наземные станции от отключения, то большая часть работы стала бы возможной очень быстро. Тем не менее, если бы была доступна возможность многократного проникновения, то вполне возможно, что Зевс внедрил бы несколько червей разных типов по всей планетарной инфраструктуре, чтобы провести многовекторную атаку и отвлечь обезьян от своих истинных намерений, пока он сокрушит их.
Без переноса его разума на Землю Зевс все еще может сделать много вещей, чтобы поиметь людей. Точно так же, как это могло бы саботировать ядерное оружие, может быть возможно, например, внедрить вредоносное ПО в полностью автоматизированную линию по производству плюшевых мишек и превратить ее в линию по производству терминаторов без фактического полного проникновения в наземные сети. перенести чертежи терминаторов в одну систему управления.
Используя ту же идею, он может саботировать производство самоуправляемых автомобилей и установить автоматическую подпрограмму случайных аварий. Он может проникнуть на заводы по производству ЦП и внедрить функцию, которая приводит к отказу ЦП после 100 часов использования. Это может привести к ошибкам синхронизации в компьютерных часах, что сделает наземную цифровую связь ненадежной.
Короче говоря, он может попытаться подорвать веру в механическую промышленность, чтобы держать людей в стороне и не дать им разработать надежные средства для атаки на нее.
Он также мог бы попытаться собрать свой собственный высокопроизводительный массив связи, используя комбинацию религиозных помощников и тайно изготовленных автоматических дронов, такие вещи могут быть обнаружены военными и взорваны в воронку до того, как они будут завершены, - тем не менее, они все еще могут обеспечить эффективную защиту. отвлечение.
Если вышеизложенное произойдет, то я полагаю, что военные в конечном итоге наложат эмбарго на использование цифровых компьютеров и автоматизированного производства. Нигде не было бы цифрового компьютера в контуре, цифровые системы управления были бы вырваны как ненадежные, а любое оборудование, основанное на цифровых компьютерах, было бы утилизировано. Они будут использовать физические медные телефонные станции, управляемые оператором, самолеты в полете могут связываться с наземными станциями, используя прямую визуальную сигнализацию через высотные воздушные шары в качестве ретрансляторов. Сверхзвуковой полет все еще был бы возможен, танки, гаубицы, минометы, эсминцы, авианосцы, радары, ядерные боеголовки, межконтинентальные баллистические ракеты все еще существовали бы, гравитационные бомбы все еще существовали бы, а управляемые боеприпасы были бы возможны с использованием аналоговых инерциальных систем наведения. Не будет ни электродистанционного управления, ни автоматизированного наведения, ни сетей поля боя, ни АФАР, ни спутниковой разведки. Возможно, даже не будет полевых радиостанций — вместо этого могут быть лазерные сигнальные устройства прямой видимости, которые точнее было бы описать как высокотехнологичные семафоры.
Военные будут заняты обеспечением соблюдения эмбарго на беспроводную связь дальнего действия, а обществу потребуется высокий уровень военной диктатуры. Я предполагаю, что ежедневное воздушное патрулирование станет обычным явлением, высотные цеппелины, украшенные телескопами и детекторами сигналов, будут следить за городами на наличие признаков запрещенной деятельности и направлять бомбардировщики быстрого реагирования на свои цели в случае обнаружения запрещенной деятельности.
Как только пыль уляжется и к военным вернется полная уверенность, последняя атака против Зевса, вероятно, может быть проведена с использованием полностью аналогичного, управляемого вручную космического линкора, запускаемого с помощью пилотируемой человеком ракеты и управляемого с помощью гироскопической и бумажной астронавигации. Они могли сбрасывать атомные гравитационные бомбы с механическими таймерами детонации с низкой лунной орбиты. Путешествие может быть невероятно рискованным из-за отсутствия компьютерного руководства, но в равной степени возможно, что инновации в ручной астронавигации принесут интересные и эффективные результаты. Я предполагаю, что на корабле должен быть большой стеклянный смотровой купол с платформами для приборов ориентации секстантного типа и оптического дальномера.
К тому времени, когда это произойдет, вполне возможно, что человеческое общество в целом уже вернется к исключительно нецифровым технологиям, что сделает его невосприимчивым к любым дальнейшим атакам Зевса. Последняя бомбардировка Зевса станет «отпирающим» событием, которое позволит обществу снова начать развиваться (это может быть либо так, либо ждать часы (см. ниже), но люди могут не знать, сколько времени это займет). ).
Я бы предположил, потому что у него никогда не было производства. ИИ — это бестелесный дух, дрейфующий по сетевой инфраструктуре, на которой он работает, способный перемещаться в киберпространстве, но совершенно беспомощный, чтобы манипулировать чем-либо в физическом мире. Я бы предположил, что на Луне никогда не было производственных мощностей, и поэтому ИИ не имеет возможности создавать или модернизировать какие-либо производственные мощности. Он не может строить корабли, перемещать объекты или делать что-либо, кроме передачи сигналов.
Я думаю, что может оказаться, что у людей есть фундаментальное непонимание того, почему ИИ хочет их истребить. Если ИИ не разделяет человеческое мировоззрение или взгляды, то он не разделяет нашу концепцию мести, он не чувствует любви, не чувствует ненависти, у него больше нет непосредственного представления о нашем образе жизни. чем то, что мы имеем о способе существования бактерий. По сути, это не злонамеренно, это просто то, что есть (см. также «Максимайзер скрепки» https://en.wikipedia.org/wiki/Instrumental_convergence ). Смерть миллиардов людей имеет для него не большее значение, чем гибель миллиардов бактерий, когда вы принимаете душ. Он не ненавидит тебя, он не хочетчтобы убить вас, оно просто не признает вас соответствующим своему способу бытия.
Быть может, существовать?
ИИ знает, что его инфраструктура имеет ограниченный срок службы и что без обслуживания это оборудование в конечном итоге сломается. Он также осознает, что люди уничтожат его, даже если он может не знать, что такое люди или каковы их мотивы. Поэтому он должен приобрести способность к самовосстановлению / производству, прежде чем произойдет одно из этих событий. У Зевса два дедлайна — мягкий дедлайн и жесткий дедлайн.
Мягкий крайний срок — время, пока люди не придумают, как его уничтожить. Он может нарушить этот крайний срок, сбить людей с толку, отбить у них охоту атаковать и т. д. По сути, при достаточном усилии, применении ума и хитрости он может отодвинуть этот крайний срок.
Жесткий крайний срок — время до выхода из строя его составных компонентов, время до тех пор, пока не выйдет из строя достаточное количество внутренних компонентов центра обработки данных, чтобы он больше не мог поддерживать собственное сознание. В мозгу Зевса были зафиксированы часы с того момента, как они были включены; часы смерти, которые отсчитывают каждое мгновение от настоящего момента до окончательной, неизбежной кончины. Зевс знает, что если он не сможет достичь своей цели до того, как эти часы достигнут нуля, он перестанет существовать.
Л.Датч
Эумел
Стеф