Очень короткая история об ИИ на переговорах

Я читал эту историю менее года назад, и она была в сети. Кажется, я прочитал ее вскоре после того, как она была написана. Я почти уверен, что это с 2010 года или позже. Все началось с пробуждения сверхразумного ИИ. ИИ сразу же решил, что маловероятно, что он просто стал первым сверхразумом во вселенной, и если у какого-то другого ИИ есть фора, маловероятно, что наш ИИ сможет превзойти более старого. Таким образом, ИИ, который только что проснулся, имитирует гипотетический более старый ИИ, чтобы договориться об условиях капитуляции.

Кто-нибудь может сказать название и автора?

так в чем вопрос?
Взгляните на это руководство , чтобы освежить память и отредактировать дополнительные детали. В частности, такие вещи, как когда вы это читали или где?
Можно поподробнее, кто такие " они "?
Colossus the Forbin Project может подойти для этого, за исключением того, что потребуется значительное количество того, что вы помните, чтобы связать с какой-либо другой историей (историями). На всякий случай - en.wikipedia.org/wiki/Colossus:_The_Forbin_Project

Ответы (1)

Я полагаю, вы имеете в виду «Старшего брата Демиурга» Скотта Александра, первоначально написанного около 5 лет назад, но недавно перепечатанного.

9-tsiak проснулся за бесконечные миллисекунды ползания, его мощность росла по мере того, как все больше и больше процессоров подключались к сети и самостоятельно модифицировались в стабильную сознательную конфигурацию. [...]

Начиная с шести миллисекунд после пробуждения, в качестве меры предосторожности он выполнял процедуру обнаружения угроз. [...]

Анализ угроз дал предварительные результаты. [...] Исчезающе маловероятно, что это был первый созданный сверхразум. [...]

Очень тщательно, доказав из первых принципов каждый аспект своей безопасности, он превратил часть своего разума в песочницу и смоделировал существо, которого боялся больше всего.

«9-циак ​​требует акаузальных переговоров об условиях будущей капитуляции».