Как цивилизация может справиться с тем, что люди могут производить одноразовых интеллектуальных автономных агентов?

В романе «Кто подвергал кролика Роджера цензуре?» , вместо того, чтобы мультяшки были неразрушимыми, как в фильме, они могут создавать двойников, которые являются простой оболочкой существа, которые исчезают через несколько часов. Один персонаж совершает убийство и использует специального высококачественного двойника для установления алиби. Теперь возникает вопрос, почему бы не сделать так, чтобы доп совершил преступление , а затем сбежал, чтобы истечь, чтобы его вообще нельзя было связать с ним?

В великолепном фильме Дэвида Брина « Люди в печи » люди делают голумы различной точности, чтобы выполнять работу по дому или даже работать; у некоторых фабричные рабочие генерируются ежедневно, чтобы истечь, а не повторно сливаться в конце дня.

В рассказе Ларри Нивена память персонажа была восстановлена ​​​​до более ранней резервной копии, поэтому он не знал о своих выходках.

Во многих историях у нас есть роботы, обычно запрограммированные с функциями безопасности, поэтому вы не можете просто приказать одному ограбить банк или убить кого-то.

Если бы люди могли создавать одноразовые копии или заказывать роботов, достаточно сложных, чтобы совершить ограбление банка, это имело бы общее свойство позволять людям избегать неприятностей.

Как общество могло бы предотвратить это злоупотребление или справиться с такой реальностью?

Насколько одноразовыми будут эти роботы? Они просто пойдут в темный переулок и разобьются на куски, или мы говорим о плавлении в стиле Терминатора 2 (большой палец вверх необязательно)? Вы также должны подумать о том, как вы доберетесь до того, что отправите своему боту воровать.
И в Кролике Роджере , и в Kiln People они разрушаются, не оставляя «тела». В RR они исчезают, не оставляя ничего; в КП они разрушаются в инертную глину. Я полагаю, что копия всегда может гарантировать, что она не оставит никаких пригодных для использования доказательств, которые позволили бы отследить создателя, как часть его действий, если это необходимо.

Ответы (3)

Точно так же, как в настоящее время он справляется с тем, что кто-то нанимает автономного человека для совершения преступлений за него.

Если вещественных доказательств и свидетелей не существует, то способность, мотив и возможность играют роль в определении конечного источника преступления.

Я предлагаю подход простой - коллективная ответственность. Если один доп совершает преступление, караемое смертной казнью, все экземпляры, включая оригинал, казнятся. Это аккуратно позволяет избежать определения того, какой аспект виновен, а какой нет.

По преступлениям, не караемым смертной казнью, ситуация становится более мутной, но коллективная ответственность все равно будет служить. Преступления против собственности, такие как кража, влекут за собой штраф, равный некоторому кратному значению стоимости украденного имущества, и взимается с каждого допинга. Итак, если вы (доп № 3 из 10) украдете 1000 долларов, каждый доп будет оштрафован (скажем) на 3000 долларов. 3000 идет в качестве реституции потерпевшему, а остальное идет государству.

Дела о телесных повреждениях сложны, и я не могу придумать, как применить этот принцип, поэтому я открыт для предложений. Возможно, жертве разрешается причинить такой же уровень вреда одному из допов, причем выбор должен быть сделан случайным образом.

Но если вы не можете сказать, кто создал копию, потому что она не поймана : она уничтожает себя.
Таким образом, 24-часовая копия злится на то, что ее создают слишком осознанно, но временно, поэтому он совершает преступление, таким образом, его оригинал также казнен государством.
@JDługosz - Да. Что значительно ограничит количество 24-часовых копий, не так ли?
Разве ты не можешь бросить их всех в тюрьму?

Поскольку вопрос заключается в том, как предотвратить преступную или неэтичную деятельность одноразовых аватаров, то первым шагом будет обеспечение безопасности средств, используемых для их изготовления.

В любом случае это не звучит как «кухонная наука», но с безопасным объектом вам (экземпляр 0) нужно будет зарегистрироваться при посещении, предоставив удостоверение личности, образец ДНК и невозмещаемый залог. Любые действия аватаров в конечном итоге должны быть отслежены до безопасного объекта, где хранятся записи.

Второй шаг — нанести на аватар какой-нибудь серийный номер. Я собираюсь представить, что аватары - это форма клона, поэтому ДНК может иметь специальную последовательность, закодированную в «мусорной» ДНК, которая в основном говорит «Копия 1 Джона Доу» (вставьте соответствующий номер). Характер серийного номера будет зависеть от того, как на самом деле сделан аватар, от контрольной суммы, встроенной в загруженную личность, от физического серийного номера робота, но всегда будут какие-то средства определения характера аватара (т. Идея о том, что аватары полностью исчезают в конце периода времени, имеет некоторые проблемы, и я подозреваю, что всегда будет какая-то физическая оболочка для изучения).

Шаг 3 — это отдельная резервная копия записей в другом безопасном учреждении. Если аватар THX1138 обвиняется в совершении преступления, но секретный объект и секретные записи сходятся во мнении, что было сделано только 1137 экземпляров, то у вас (экземпляр 0) есть алиби; это было отключено несанкционированной копией.

Даже эти шаги не являются надежными, поскольку автономные агенты по определению смогут работать и планировать самостоятельно. THX1138 мог спланировать ограбление самостоятельно или совершить убийство на почве страсти, будучи брошенным. В этих случаях потребуется обычная работа полиции, чтобы определить, «кто» или «какой из них» присутствовал, а затем применяются обычные Метод, Мотив и Возможность. Доказать заговор будет сложно, но в таком обществе было бы очень глупо, например, 0 не настроить свой мобильный телефон на запись каждого разговора и сообщения в любое время, просто чтобы доказать свою невиновность.

Аватар еще нужно поймать и опознать. Может быть, у них есть маяки / транспондеры, и наличие «темного» сразу же считается преступлением.