Как помешать людям создавать манипулятивных нанороботов с искусственным интеллектом?

В будущем, когда в каждой семье будет хотя бы один 3D-принтер, демографические данные показывают старение населения во всех частях мира. В этом будущем у многих элит будут мощные нанороботы с искусственным интеллектом, работающие в их мозгу, чтобы помочь им в принятии решений, а также получать информацию о соответствующих текущих событиях, происходящих в мире прямо сейчас. Эти крошечные наноботы не могут воспроизводиться сами по себе и должны быть напечатаны в 3D. Обычно люди с более высоким социальным статусом часто манипулируют и будут пробовать закулисные методы, такие как невольное кормление своих рабочих или рабов нанороботами, чтобы подслушивать и контролировать их повседневную деятельность, чтобы шантажировать их в свое время. Некоторое время ходили слухи о том, что богатые и могущественные используют наноботов с искусственным интеллектом для контроля над корпорацией и даже всей нацией.

вдохновлен василиском Роко ;D

Спасибо, благодаря вашей последней строке я теперь знаю, откуда происходит имя персонажа «Роко Василиск» в веб-комиксе questionablecontent.net . :D
3D-печать на молекулярном уровне? Я так не думаю в ближайшее время. И какое отношение к этому вопросу имеет «демографические данные о старении населения во всех частях мира»?
Это не имеет ничего общего с акаузальной торговлей, которая является механизмом Roko Basilisk.
@Christian: ты прав, я не могу использовать роко, потому что не могу придумать способ мотивировать ИИ мучить человека ;D
Не нанороботы, но достаточно связанные, чтобы представлять интерес .

Ответы (4)

Им не хватает дизайна. Им не хватает кода. Им не хватает оборудования.

3D-печать нанобота — это больше, чем просто печать. Во-первых, вам нужно правильное оборудование. В наши дни 3D-принтеры можно купить в супермаркетах, но существует огромная разница между домашним принтером и коммерческим принтером, который стоит на много тысяч долларов дороже.

Если бы вы напечатали пистолет на домашнем принтере, скорее всего, вы оторвете себе пальцы/лицо. Коммерческий типограф может напечатать пистолет лучшего качества, из которого можно безопасно стрелять.

Дальше нужен дизайн. У богатых есть проектные группы инженеров, и они могут потратить тысячи человеко-часов и неисчислимые ресурсы на создание и тестирование.

Наконец, вам нужен код. Нанобот нуждается в программировании так же, как и в теле. Богатые могут позволить себе покупать лучших программистов и программное обеспечение. Бедняки в лучшем случае могут загрузить какой-нибудь контрабандный код, при котором они на самом деле не знают, что он делает и содержит ли он вредоносное ПО. Самое близкое, что бедные могут сделать, чтобы конкурировать, — это украденное оборудование, проекты и код, которые они настраивают и надеются на лучшее.

Дизайн и программирование не обязательно являются проблемой; всегда есть Open Source и Open Hardware. OTOH, действительно существует огромная разница между 3D-принтерами, которые могут делать вещи в макромасштабе, и 3D-принтерами, которые могут печатать современную электронику.
@ Мэтью, безусловно, потребуется довольно смелый человек, чтобы поместить в свой мозг нанобота с открытым исходным кодом / аппаратным обеспечением AI. Если бы все шло именно так, можно было бы ожидать, что ФБР/ЦРУ приложит руку к этому пирогу, не говоря уже обо всех других проблемах, с которыми сталкивается сообщество открытого исходного кода...
@Matthew Большинство первоклассных аппаратных разработок для большинства современной электроники не имеют открытого исходного кода. И не будет, пока они не станут неактуальными. Здесь мы говорим о схемах чипсета NVIDIA, а не о драйверах NVIDIA (которые действительно имеют открытый исходный код для лучшей совместимости).
@Gnudiff Драйверы NVIDIA с открытым исходным кодом, разработанные сообществом, заметно уступают по производительности драйверам с закрытым исходным кодом, разработанным NVIDIA.
@Майкл, правда, но мы даже не говорим о водителях, кроме как для контраста. Дизайн нанобота сродни чертежам чипсета, а не драйверам чипсета.
Что мешает вам построить дрон? Ничего. Что мешает вам построить военный беспилотник? Отсутствие аппаратного обеспечения (3D-принтер для шасси, ЧПУ для проектирования схем, автоматическая установка для добавления микросхем и резисторов и т. д., а также самих деталей), отсутствие программного обеспечения (защищенные каналы связи, обширное тестирование и т. д.), юридические проблемы. Учитывая, что один нанобот может потеряться в бою, вам понадобится их множество. Даже в этом случае у богатых, вероятно, есть сканеры, которые проверяют исходящие сигналы от нанороботов внутри их тел и могут проводить выборочные проверки сотрудников на наличие подобных устройств.
@Michael Разве это не в основном потому, что NVIDIA пытается скрыть информацию от команды с открытым исходным кодом?
Я не куплюсь на это - история полна аутсайдеров, побеждающих "больших парней". Что угодно, от Американской революции (британцы «пфффф, они не представляют угрозы») до Dell Computer + другие (заметила ли IBM начало их падения??). Я больше думаю, что какое-то чудо создает нанороботов, чтобы искать и уничтожать наноботов… хммм.
@gszavae, наоборот, было бы очень смело или даже глупо поместить в свой мозг нанобота с закрытым исходным кодом. Откуда вы знаете, что он на самом деле делает, когда он там? Как вы обезопасите себя, когда они перестанут выпускать патчи?
Многие из вас упускают суть. Люди не вкладывают их в свои головы. Богатые и прячут их в своей еде/воде. У них нет выбора. Богатые используют собственный код, которым они владеют и контролируют. Им не нужен открытый исходный код.
@ njzk2 К сожалению, обе эти вещи верны для открытого исходного кода. Кто именно проверяет все программное обеспечение с открытым исходным кодом и пишет собственные исправления? Даже для очень хорошо используемых проектов это огромная проблема. Утверждение, что этой проблемой страдают только проекты с закрытым исходным кодом, неверно.
@gszavae для вашего первого замечания: по определению гораздо больше людей, чем проверяют проекты с закрытым исходным кодом.
@ njzk2 Это неправильно. Многие другие люди могли бы проверять их, но, по правде говоря, не было исследований, которые действительно доказывали бы это. Ужасающие ошибки существовали в проектах с открытым исходным кодом, и это даже не говоря о преднамеренных уязвимостях. Многие программы с открытым исходным кодом полагаются на «о, но любой может прочитать исходный код» и не имеют надежных схем тестирования и проверки. Очень очень немногие пользователи когда-либо будут читать какой-либо источник, почти никто (если вообще кто-либо) на самом деле не будет проверять источник. Это теоретическое преимущество, вот и все.
Показательный пример @gszavae: пару дней назад я открыл отчет об ошибке в библиотеке, которую использую, и после того, как я смог точно проанализировать, что происходит, я могу предложить решение и, возможно, внести исправление. С другой стороны, я не могу сделать половину того, что можно сделать с ошибками, обнаруженными в библиотеках с закрытым исходным кодом.
@ njzk2 Исправление ошибки — это далеко не аудит программы. Попытайтесь понять, что вы подразумеваете; «Я исправил ошибку один раз, поэтому открытый исходный код защищен от ошибок и злого умысла»? В каком мире это имеет смысл? У нас было так много случаев, когда проекты с открытым исходным кодом содержали не только гигантские ошибки, но и преднамеренные лазейки. Я знаю, что вы рассуждаете об идеалах, а не о прагматике, но в какой-то момент нам нужно вернуть это к реальности.
Скорее всего, программное обеспечение на этом этапе будет написано ИИ. Люди все равно не смогут это прочитать.
@gszavae это просто пример и ни в коем случае не демонстрация, но он показывает, что открытый исходный код дает пользователям возможность погрузиться во внутреннюю работу над частью кода и сотрудничать в его улучшении. Ничего подобного нельзя сказать о закрытом исходном коде.
@ njzk2 с закрытым исходным кодом не требует специального тестирования и отладки.
@gszavae Я никогда не говорил, что это так. Если вы не подразумеваете, что открытый исходный код будет (откуда вы взяли эту идею?), я не уверен, что делать с вашим комментарием.
@ njzk2 описанный вами сценарий не является нормальным для закрытого исходного кода, потому что существуют другие более надежные решения.
@gszavae сценарий, когда ошибка обнаружена в программе с закрытым исходным кодом, не является нормальным? где в закрытом исходном коде говорится, что существуют какие-то конкретные решения, надежные или нет?

Запрещено 3D-принтерами

Возьмите немного денег и попробуйте отсканировать или распечатать. Ваша машина не позволит вам сделать это. Для предотвращения этого существуют специальные средства защиты, наиболее известным из которых является созвездие EURion . Ваш 3D-принтер будет иметь аналогичную защиту, обнаруживая, что вы пытаетесь напечатать нанобота.

Много данных для отправки и обработки

Подумайте о беспилотных автомобилях. Они собирают тонны данных и должны быстро их обрабатывать. Они генерируют терабайты данных. Мозг еще сложнее автомобиля, поэтому он будет на несколько величин выше. Ваши наноботы недостаточно быстры, чтобы обработать столько данных, они посылают их на центральный компьютер, который обрабатывает эти данные. Но это можно обнаружить и тем самым отрегулировать

Это мой любимый ответ — он использует существующие технологии для предотвращения подделок, чтобы экстраполировать преднамеренное ограничение в потребительских 3D-принтерах, которое нельзя обойти, не уничтожив машины (или требуя уровня знаний, необычного для населения в целом).
@JBH: но эта защита похожа на велосипедный замок: она предотвращает случайные преступления. Очень решительный преступник может найти обходной путь. Например, можно написать собственную прошивку для запуска принтера или сканера.
@vsz Очень решительный преступник (не для того, чтобы показывать пальцами, но, скажем, :-) сверхбогатый ) может найти способ обойти любые защитные системы. Идеальной защиты не бывает. Мы могли бы использовать некоторые разъяснения от ОП, но я подозреваю, что он / она говорит о случайных преступлениях. (Является ли в настоящее время прошивка, запрещающая сканирование? Раньше она была записана на чип, поэтому ее нельзя было тривиально изменить.)
@JBH: действительно, его нельзя просто прочитать и изменить, но всегда можно написать новое программное обеспечение с нуля. Если добровольцы могут написать всю операционную систему в свободное время, программное обеспечение контроллера принтера на самом деле не такое уж и надуманное.
@vsz, но именно поэтому он изначально был сожжен на чипе. Ее не мог переписать предприимчивый молодой инженер. Это должно было быть полностью заменено производством, и на производственную цепочку были наложены правила (если я не ошибаюсь, уголовные правила, когда я последний раз смотрел в 90-х), которые принципиально останавливали это во всех случаях, кроме самых определенных. Честно говоря, я был бы шокирован, если бы способность не подделывать деньги была просто вопросом фирмы/программного обеспечения. В каждом кампусе были бы студенты, штампующие 20-долларовые купюры.
@vsz Однако это поднимает еще один вопрос: если я правильно помню, производители принтеров также должны были полностью избегать цветовой гаммы, используемой в предварительно окрашенных купюрах. Другими словами, существует несколько способов, которыми ОП может навязать это требование. Сделать наниты зависимыми от определенного сплава титана, а затем полностью контролировать продажу этого титана, например. Между этими двумя ограничениями потребуется очень решительный преступник, чтобы издавать маленькие гудки.
@JBH: сожжено не означает, что его нельзя перезаписать. В большинстве микросхем есть биты блокировки, которые предотвращают чтение, но не запись. И даже если чип каким-то образом физически доступен для записи только один раз (что затем предотвратит обновление прошивки), можно купить новый микроконтроллер. И если это окажется невозможным, просто выпаивайте микроконтроллер и подключайте другой. (например, высокопроизводительный кортекс, этого более чем достаточно для внедрения программного обеспечения, чтобы двигать двигатели принтера).
Можете поискать в сети, есть люди, которые меняли прошивку в своих принтерах и сканерах, чтобы частота мотора менялась так, чтобы он играл песню. Есть реализации видеоигры Doom для принтеров.
@vsz Прошу прощения, вы, кажется, неправильно поняли. В 90-е чипы были буквально спроектированы и сожжены, чтобы запретить любые подобные изменения. (Помните, что вы разговариваете с инженером-электриком.) Я не говорю о FPGA, массивах вентилей или любых других типах встроенного ПО или памяти. Я говорю об управляющих чипах, не способных распознавать цвета (при сканировании или печати), поэтому их нельзя (точка) воспроизвести. Никакое другое решение не имеет смысла. Учащиеся старших классов смогли преодолеть ограничение.
@JBH: я хотел сказать, что вам не нужно его перепрограммировать или копировать. Вы можете просто удалить его. И управлять механикой с помощью собственного контроллера. Гораздо проще создать собственный контроллер, чем производить механические части принтера.
@vsz Гораздо проще создать собственный контроллер, чем производить механические части принтера. Боюсь, мне нужно оставить этот разговор. Вы недостаточно разбираетесь в разработке микросхем, производстве и модификации печатных плат, чтобы обсуждать это. Механические компоненты 3D-принтера составляют около 20% стоимости и трудозатрат на производство. Шестерни легкие.
@JBH: пожалуйста, перестань делать предположения о том, что я знаю и чего не знаю. Вы, кажется, намеренно неправильно понимаете то, что я говорю. Я не имел в виду разработку и производство специального чипа! Я имел в виду покупку существующего микроконтроллера и разработку собственной прошивки для управления всеми механическими частями. И я даже не говорил о 3D-принтерах. Создать струйный принтер или принтер подходящего качества с нуля в домашних условиях не проще, чем просто написать программное обеспечение. Но да, подключение другого микроконтроллера может быть экстремальным решением. Есть более простые способы: youtu.be/R6k72DI0Qo0?t=32

Размер печатающей головки. Принтер с достаточно маленькой головкой, чтобы правильно обрабатывать наномасштабную продукцию, не доступен для публики. Зачем корпорациям вообще продавать принтеры такого маленького размера? Публике редко понадобится такой уровень детализации в их принтере.

Форма и функционирование печатающей головки. Форма головки принтера (и подающих трубок), а также то, как она работает, могут ограничивать то, с какими материалами она может работать. Эти принтеры, вероятно, имеют десятки, если не сотни различных печатающих головок, и та, которая имеет правильную форму и функции для печати (злонамеренных) нанороботов, просто отсутствует или всегда является «производственной ошибкой».

Материалы недоступны. Наноботы чаще представляют собой специфические молекулы, приближающиеся к биологическим функциям. Если нужные материалы не продаются широкой публике для создания продвинутых версий, вы не сможете их построить.

Шаблоны недоступны. 3D-принтерам нужен шаблон для работы, чтобы они знали, что строить. Трудно спроектировать работающий рой наноботов, способный выполнять даже небольшую задачу, не говоря уже о магической сложности, которая требует десятков, если не сотен вариантов нанороботов в роях для работы.

Программное обеспечение + аппаратные ограничения компьютера. Вредоносная конструкция наноботов вызывает преднамеренные ошибки, что делает невозможным их создание, если вы не можете создать собственное компьютерное программное и аппаратное обеспечение для устранения проблем. Как вы собираетесь его строить? Ну, вы, вероятно, зависите от этого 3D-принтера, который выдает вам ошибки всякий раз, когда вы пытаетесь построить детали, которые хотите ...

Программные проверки. Все принтеры подключены к центральному концентратору. Если они обнаруживают, что вы делаете определенных нанороботов, вы проходите через систему правосудия.

Саботаж наноботов. Все общедоступные 3D-принтеры поставляются с установленными наноботами, которые прослушивают 3D-принтер и его окружение. Они заметят, что вы строите наноботов, которые не прошли очистку, и они повредят 3D-принтер. Если боты не предупредят власти, это сделает механик (хотя механик может подумать, что он просто заказывает определенную деталь).

Начнем с того, что принтеры, которые могут печатать в атомном масштабе (в отличие от сборки существующих макромолекул), невероятно дороги. Кроме того, почти все принтеры любого типа ограничены предварительно утвержденными конструкциями или их высокоуровневыми вариациями. Дизайны должны иметь водяные знаки с идентификатором производителя, не должны содержать авторепликации, за исключением очень специфических и строго проверенных дизайнов, и должны содержать ряд других функций безопасности, предназначенных для ограничения неправомерного использования. Принтер, который может обойти или подделать функции безопасности, является крайне незаконным. Единственными законными «разнузданными» моделями являются те, которые фактически создают новые принтеры, новые низкоуровневые конструкции, оружие и т. д. . . Они контролируются властями на уровне паранойи, который напоминает сегодняшние методы для ядерных материалов и печатных станков для бумажных денег и документов, удостоверяющих личность.

Я настоятельно рекомендую прочитать «Алмазный век» Нила Стефенсона, поскольку я думаю, что это может быть основополагающим взглядом на это.