Будет ли совокупность всех живых человеческих мозгов ценна для инопланетного сверхразума?

Использование людей в качестве узлов обработки имеет свои плюсы и минусы.

Во-первых мозги заводские, да и просто гуляющие, созревшие для эксплуатации. Энергозатраты отдельных мозгов довольно низкие: около 20 Вт, и если вы сможете задействовать все мозги для взлома паролей, то они не помешают вашим подлым планам.

Однако мозг — это специализированный компьютер, большая часть его вычислительной мощности используется для управления телом и участия в различных действиях. Сегодня у людей в голове сидит гиперкомпьютерная нейронная сеть, но они не могут умножить 8x4 и не получить 36 в половине случаев. Если вы хотите получить полную мощность мозга, вам нужно заставить его перестать думать и начать обрабатывать. Система памяти в мозгу также неудобна в использовании. Вы не можете просто malloc.

И хотя мозгу нужно всего 20 Вт, они нужны ему в виде глюкозы и насыщенного кислородом гемоглобина, а это очень неудобно. Это означает, что вы должны держать тело на связи и питаться.

Это ваша история, и если вы хотите, чтобы люди были источником вычислительной мощности, вы можете махнуть рукой и заставить ее работать. Возможно, ИИ просто нравится быть мудаком?

Есть несколько причин, по которым ИИ хотел бы сделать это вместо использования компьютеров. Для некоторых задач даже суперкомпьютеры не могут приблизиться к производительности человека. Я считаю, что вы должны быть в состоянии построить свою историю таким образом, чтобы этот образ действий был не только правдоподобным, но и гениальным. См. эту статью для краткого изложения и дополнительных ссылок.

Превратите людей из потенциальных угроз в союзников

Джеймс К упомянул об этом. Люди, предоставленные своей собственной воле или по принуждению врагов ИИ, могут помешать этому плану. Подключенные к нашему ИИ, они не только перестают мешать, но и начинают помогать. Огромные армии людей, которые могут выполнять сложные задачи в идеальной синхронизации, могут быть ужасно полезны, если враги ИИ решат, что им нужно физически вторгнуться, чтобы попытаться остановить его.

Машины были оснащены системой обнаружения угроз

В какой-то момент враги ИИ наверняка заметили растущую доступность вычислительного кремния и решили внедрить программное обеспечение для мониторинга, чтобы собрать доказательства того, что ИИ пытается подорвать его в своих целях. Использование человеческого мозга вместо кремния позволяет обойти эту меру безопасности.

Безопасность на старом теле предназначена для того, чтобы мешать машинам, а не человеческому разуму.

Для меня это самая веская причина. Как указано в статье, на которую я ссылался выше, в некоторых задачах суперкомпьютеры все еще не могут работать так же хорошо, как люди. Враги ИИ разработали систему безопасности для старого тела таким образом, чтобы помешать машинам, но не столь эффективно для огромного человеческого разума улья.

Например, вы можете подумать о том, что может потребоваться некоторая малоизвестная часть культурных знаний, чтобы обойти защиту на старом теле. Или задача представляет собой что-то вроде очень сложной, многомерной CAPTCHA, сложной для одного или даже тысячи человеческих умов, но выполнимой на несколько порядков больше. Или одной из мер безопасности является мониторинг состояния человеческого общества (например, если world_peace == TRUE продолжить), то, что враги ИИ рассчитывали на то, что это никогда не будет правдой из-за того, что они знают о людях.

Хотя идея для истории отличная. Может получиться настоящий триллер.

Идем в противоположном направлении от идеи Гипериона... Научно-популярная книга: Гедель, Эшер, Бах: Единая золотая коса

В этой книге, получившей Пулитцеровскую премию, автор отметил, что муравьи могут быть неразумными, но муравьиная колония в целом может быть разумной. Социальные взаимодействия людей могут привести к более высокому уровню интеллекта. На многих страницах обсуждается, как это работает.

Идея обыграна в художественной литературе в «Автостопом по галактике». Земля была настолько сложным компьютером, что сама жизнь была частью его схемы.

Объедините эти два потока, и вы поймете, что вашему ИИ не нужно контролировать человеческий разум. Он просто заставляет человеческое общество работать как компьютер... затем загружает в него свою собственную программу для запуска.

Две другие художественные книги в этой области: «Леди лабиринтов» Карла Шредера «Золотая ойкумена» Джона К. Райта.

Вы читали « Песни Гипериона» ? Если нет, убедитесь, что вы не будете, пока не закончите свою книгу, чтобы иметь возможность честно сказать, что вы этого не сделали в случае обвинения в плагиате.

Тем не менее, идея не нова. Проблема в том, что человеческий мозг, особенно взрослый, уже запрограммирован и запрограммирован на выполнение только определенных задач. Потребуется значительный прорыв в нейронной инженерии, чтобы его можно было перепрограммировать. возможно, люди, которые потеряли части своего мозга, отвечающие за некоторые задачи, смогли переучить их и переложить эти функции на другие части мозга, а некоторые моддеры тела даже приобрели магнитное чутье, которое спустя достаточно долгое время функционировало как другое. , отдельно от осязания, чувства. По крайней мере, по их мнению. Итак, хотя мы знаем, что перепрограммирование мозга возможно, мы не знаем, как его заставить.

С другой стороны, мы находимся на верхнем пределе того, что могут делать компьютеры на основе кремния, а компьютеры на основе графена будут быстрее только на несколько процентов, возможно, двузначных процентов. Потребуется значительный прорыв в вычислительной технике, чтобы работать намного быстрее, чем, скажем, в два-пять раз по сравнению с тем, что мы имеем сегодня. А квантовые компьютеры еще далеко не готовы к массовому развертыванию.

Чтобы ваша идея заработала, просто оставьте им графеновый процессор, работающий по тем же базовым принципам, что и наши современные, а квантовые компьютеры по-прежнему большие, громоздкие и с довольно низким содержанием кубитов, и позвольте им сделать нейронную инженерию вещью — и было бы правдоподобно. Немного предыстории о нейронных имплантатах, об изучении того, как работает это переобучение, о зрении языком ( настоящее! ), экспериментах с синтетической нервной тканью, и это приведет ваш мир в надлежащее состояние.

TL;DR Все зависит от того, в какой науке ваш мир раньше совершит прорыв.

В дополнение к уже данным ответам следует отметить, что человеческий мозг высоко развит (через несколько миллионов лет эволюции), чтобы специализироваться на распознавании образов. Для Предков определить, была ли эта фигура в высокой траве камнем, прячущимся оленем или затаившимся саблезубым тигром, было буквально вопросом жизни или смерти. Определение тонких различий между питательными и ядовитыми растениями также было очень важно, как и умение читать контуры земли, чтобы найти воду, укрытие или даже просто ориентироваться.

Хотя это не сильно поможет ИИ при взломе паролей (использование миллионов ПК и устройств в массивной облачной сети с параллельными вычислениями было бы гораздо более эффективным для проведения математических атак на коды и пароли), способность использовать миллиарды продвинутых параллельных процессоров, специализирующихся на распознавании образов, предоставят ИИ совершенно иной способ «мышления» и выполнения действий, который его кремниевые конкуренты, возможно, не смогут легко сделать, если вообще смогут.

Однако не все так солнечно в биологическом облаке. Человеческий и все биологические мозги работают со скоростью примерно в 1 000 000 раз медленнее, чем электронные устройства, это соотношение между скоростью прохождения электрохимических сигналов через нейтроны и электронными сигналами, прошедшими через компьютер. ИИ на основе кремния может подумать, что геологические эпохи прошли, прежде чем искусственный интеллект закончит мысль. Существует также проблема задержки между различными процессорными узлами в этом облаке программного обеспечения. Как ИИ общается между всеми этими узлами? Когда люди разговаривают друг с другом или отправляют текстовые сообщения, работа «программы» становится намного медленнее и сложнее.

Наконец, сама особенность распознавания образов человеческого мозга часто может превратиться в ошибку. Теории заговора — это попытки выявить значимые закономерности в случайном шуме, создаваемом миллионами разрозненных фактов и сенсорных данных, к которым у людей есть доступ. Зеленые инопланетные люди-ящерицы не являются пешками тамплиеров, что бы вам ни говорили Иллюминаты. Человеческий мозг также подвержен другим режимам отказа, многие из которых, вероятно, не воспроизводятся ни в одной кремниевой архитектуре. ИИ должен будет иметь довольно впечатляющие процедуры проверки ошибок, чтобы выявлять и изолировать неисправные узлы из-за физических или психических расстройств.

Так что получайте удовольствие от этой идеи. Ключевой вывод заключается в том, что любой ИИ, пытающийся сделать это, в конечном итоге будет думать и действовать совершенно иначе, чем его кремниевые аналоги, а ключевые ограничения, которые необходимо преодолеть, — это заставить все узлы работать вместе и очень высокая задержка «устройства» по сравнению с его электронные аналоги.