Аргументы против роботов-солдат в будущих войнах [закрыто]

Какие могут быть аргументы против использования полностью (или почти полностью) солдат-роботов в войнах будущего?

Во многих футуристических романах на военную тематику Земля (или любая другая планета) по-прежнему использует людей в качестве солдат. Мне кажется, что робот-солдат (хотя и с достаточно продвинутыми технологиями) был бы намного эффективнее в этом. Хотя это и не совсем так, мы приближаемся к моменту, когда роботы-солдаты уже могут заменить людей (на Земле, 2017 г.). На самом деле, дроны, по сути, уже делают это, хотя мой вопрос касается примерно 100% замены.

Является ли это случаем взвешенного неверия, каким бы придирчивым оно ни было, или есть логические причины?

Я один смотрел Терминатор ? :-)
Роботы захватили власть и вместо того, чтобы пожертвовать себе подобными, они заставляют жалких бесполезных людей сражаться за них!

Ответы (13)

Я буду адвокатом дьявола и отвечу на поставленный вопрос:

Является ли это случаем приостановленного неверия (...)?

Обычно это случай приостановленного неверия.

Давайте не будем настолько заняты рационализацией сеттинга научной фантастики, чтобы забыть о фактах.

На создание прилично боеспособного и надежного человека уходит более десяти лет, он чрезвычайно дорог, обладает множеством свойств, которые затрудняют управление и обслуживание, и имеет ужасно плохие время реакции и скорость наведения. Боевой робот или дрон может производиться серийно и специально проектироваться для победы в войне и ни для чего другого. Он также может быть специально адаптирован к потребностям стороны, которая его использует.

Здесь проводится сравнение между стороной, которая массово производит одноразовые машины-убийцы, и стороной, которая годами разговаривает/промывает мозги маленьким мальчикам или девочкам, чтобы они стали чем-то похожим.

Это сравнение — шутка. Даже при «сокращении затрат» за счет отправки подростков или детей как можно скорее, серийно выпускаемые боты будут намного дешевле и, таким образом, будут иметь большое преимущество в количестве. Ситуация становится еще хуже, если вы переключаетесь на дорогостоящие спецподразделения, на подготовку которых уходит несколько десятилетий, но которые все равно могут умереть от смехотворно дешевого квадрокоптера-самоубийцы. Даже оружие дешевого робота не менее смертоносно, чем оружие человека! Наоборот, наведение роботов такого качества, что может сбивать ракеты в полете. Они могут принимать всевозможные очертания и формы, специально приспособленные к конкретной ситуации.

Аргументы против армии роботов не очень сильные. Если боты стратегически глупы, люди все равно могут ими командовать. Взлом идет в обе стороны, но тот, кто построил роботов, имеет огромное преимущество, поскольку он лучше знает ботов и может разработать свои меры безопасности, чтобы поддержать свою сторону в цифровой войне. Человеческую психологию, с другой стороны, не так легко склонить в свою пользу.

Люди оптимизированы, чтобы быть универсалами.

После определенного уровня технического прогресса становится важным тот факт, что люди не являются оптимальными солдатами. Главный аргумент против роботов заключается в том, что они еще недостаточно хороши, а не в том, что люди в каком-то смысле являются хорошей разработкой для боевой единицы на передовой. Робот может иметь массу недостатков и при этом превосходить среднего человека-солдата.

Роботы могут быть спроектированы таким образом, чтобы подражать любым благоприятным свойствам людей, но без создания людей так, как вы это делаете с роботами, это невозможно. Давайте перечислим несколько примеров недостатков людей, которые роботы исключат по своей конструкции. Люди...

  • склонны выбирать самосохранение, а не оптимизацию соотношения убийств и смертей
  • может быть замедлен эмоциональной борьбой
  • часто включают своих хозяев без каких-либо действий со стороны противника
  • должны выучить все правила для солдат, даже самые простые и универсальные, с помощью чрезвычайно дорогих учебных процессов
  • имеют относительно небольшой диапазон весов и размеров
  • требуют качественного воздуха для работы
  • имеют очень специфическую рабочую температуру
  • может производиться только медленно, при сотрудничестве уже присутствующих самок
  • имеют крайне несовместимые детали и практически не поддаются ремонту
  • требуется не менее секунд для синхронизации информации, и с трудом удается это делать на расстоянии
  • нужно регулярно спать
  • нужно много припасов даже в неактивном состоянии

Этот список можно было бы продолжить, чтобы заполнить книгу.

Так почему и когда люди предпочтительнее?

Из вышесказанного мы можем установить, что люди не являются предпочтительными для классической войны с такими задачами, как зачистка зданий от вражеских юнитов, и что основными причинами этого являются ненужная общность людей и экономия на масштабе в машинном производстве.

Итак, если вы хотите, чтобы люди превзошли продвинутых роботов, вам нужна редкая или новая ситуация, чтобы дешевое роботизированное решение было недоступно. У специализации есть и обратная сторона: она бесполезна, если специализация не применима.

Подумайте о борьбе США за уничтожение ИГ, даже со всеми их крылатыми ракетами слежения за целями, летающими дронами-убийцами и ядерным оружием, достаточным для того, чтобы сравнять с землей все поле боя. Их арсенал рассчитан на то, чтобы никогда не проигрывать в обычном противостоянии, и в этом отношении он очень эффективен. Но он совсем не оптимизирован для атаки против живых щитов при минимизации негативной прессы, что в настоящее время является целью.

Еще одна идея: иногда эффективность вообще не является целью. Сегодня многие вооружения создаются для поддержания потока военных расходов, при этом общая эффективность редко является главной задачей. Другими словами, вам не нужны люди, чтобы быть хорошими солдатами, чтобы иметь людей-солдат. Вам просто нужна какая-либо причина, по которой люди-солдаты предпочитают роботов, что может быть чисто политическим.

я голосую за; похоже на мой ответ; Я подозреваю, что мы были одного мнения и писали одновременно. У вашего есть и другие полезные детали. Я думаю, что искусственный интеллект и робототехника в ближайшие десятилетия превзойдут любую человеческую способность быстро и бесшумно перемещаться по полю боя (или вражеской местности). Преимущество роботов состоит в том, что они обладают узкоспециализированным аппаратным обеспечением для выполнения этой задачи и потенциально обладают гораздо большей силой. Робот может спрыгнуть с десятиэтажного утеса и приземлиться жестко, но безопасно благодаря стальным амортизаторам; или проплыть десять миль под водой и выйти грязным, но полностью работоспособным. Люди будут хуже.
Разделите разницу и используйте роботов, управляемых человеком. У нас уже есть дроны, способные вести бой, когда их пилотируют удаленные люди, как только появится настоящая робототехника двуногого (или, как бы там ни было, педали) движения, способного функционировать должным образом в неблагоприятных условиях местности и боевых условиях, появится робот-солдат. Как за 10 лет создать достойного боеспособного солдата? Морская пехота США, кажется, отлично справляется за долю этого времени, и даже различные группы спецназа по всему миру справляются с этим менее чем вдвое меньше...
Я думаю, что это эффективно отвечает на вопрос. К сожалению, ответ таков, что на самом деле его нет, но это нормально. Единственное, что я лично рассматривал в качестве аргумента, это то, что, возможно, сохранять эмоции на войне — это хорошо . Может быть, по иронии судьбы, то, что люди умирают в бою, на самом деле является чертой выживания, не позволяющей нам зайти слишком далеко. Одноразовые роботы могут привести к гораздо более бесполезным войнам. Я сомневаюсь в этом, но это мысль.

В краткосрочной перспективе роботы-солдаты будут сдерживаться их программированием. Поскольку «взлом» роботов-солдат будет представлять серьезную опасность, роботы должны быть запрограммированы на выполнение определенных упражнений или боевых действий в определенных ситуациях. Это делает их относительно негибкими по сравнению с солдатами-людьми и достаточно предсказуемыми, чтобы вы могли установить «зоны поражения», создавая ситуации, которые заставят солдат-роботов реагировать по предсказуемой схеме.

В долгосрочной перспективе идея разумных, самопрограммируемых роботов будет либо пугающей, либо вызывающей отвращение у большинства людей (как солдат, так и гражданских), тем более, что все будут думать о комплексе «Франкенштейн», где устройства включают свои устройства. master (на самом деле это была тема спектакля, который принес слово «робот» и в английский язык, но мало кто когда-либо видел RUR ).

Неизбежное произойдет, когда либо режим-изгой (такой как КНДР или Иран), либо агрессивные негосударственные субъекты (такие как ТОТИ или ИГИЛ) решат, что они могут получить то, что хотят, выпустив разумных роботов на гражданские и военные цели, и всем нужно использовать для борьбы с ними разумных роботов (несмотря на то, что показывают в фильмах, люди-солдаты будут в крайне невыгодном положении по сравнению с роботом, так как думают и двигаются в сотни-тысячи раз медленнее, менее точно владеют оружием и ограничены в количество огневой мощи, которую они могут нести, по сравнению с роботом такого же размера; даже в танке есть значительное пространство, отведенное для экипажа, которое робот-танк может заполнить топливом и боеприпасами).

Спасибо за ответ. Последний пункт выглядит так, как будто причина против этого заключается в том, что враг также не будет иметь его. Это кажется оптимистичным, но ошибочным для меня.
Приятно видеть отсылку к пьесе Карела Чапека. Поскольку пьеса была написана на его родном чешском языке, в язык было добавлено слово «робот». Это было переведено на английский как «робот». Первоначальное слово означало рабочий или труженик. Роботы Чапека были органическими артефактами, созданными как искусственные люди, а не роботы как механические устройства, как это слово обычно применяется. Я уверен, что вы знаете об этом , но это я насквозь педантичен.
Идея роботов-убийц уже вызывает отвращение. В настоящее время робототехники и исследователи искусственного интеллекта предпринимают шаги по запрету или ограничению использования автономного оружия. Страны, использующие беспилотное оружие, воспринимаются целевыми субъектами, государственными или негосударственными, как трусливые и презренные. Нежелание отправлять своих живых солдат в бой. Это может измениться, когда все стороны конфликта используют дроны. Плюс один от меня.
@ a4android Я понимаю, что другие страны могут счесть это трусливым, если они используют настоящие жизни, но я все равно не могу воспринимать это как аргумент против. Это чисто рациональное решение, направленное на получение собственной выгоды . Это если только реакция не будет настолько плохой, что настроит против вас почти все остальные нации. Я должен был быть более подробным в вопросе, но я пытаюсь мыслить более широко, а не относительно нашего общества.
Я лично нахожу очень трусливым, что президент/король (или какой-либо лидер, который инициирует войну) больше не едет на передовую, чтобы возглавить армию, как это делалось в старые добрые времена...
@Mrkvička, если честно, я в этом сомневаюсь. Это как в истории Ганнибала и римлянина. Просто звучит лучше, если вы прославляете своего врага или, в данном случае, собственную храбрость, идя впереди своих войск, чтобы возглавить битву.
@anson Я указывал на реакцию на текущее использование дронов. Это будет охватывать использование роботов-солдат. Да, рационально использовать роботов-убийц вместо живых солдат. Это может привести к (1) более сильному ответному удару, такому как терроризм в тылу, (2) большему сопротивлению капитуляции перед врагом только из-за его технологически превосходного оружия. Технологические исправления звучат круто, но они могут иметь неприятные последствия. Молодец, что задал интересный и сложный вопрос.

Если вы думаете о войне, как о шахматах, война с роботами-солдатами больше похожа на го. Вместо того, чтобы сражаться за контроль над территорией напрямую, битва будет заключаться в попытке взять под контроль роботов другой стороны. Затем, когда вы украдете роботов другой стороны, вы будете контролировать территорию, которую они сделали.

В Терминаторе 2 и позже у них были терминаторы, которых перепрограммировал Джон Коннор. Они выдергивали энергию и перепрограммировали их одного за другим. Предположительно, у армий роботов были бы лучшие способы сделать это. Возможно, они просто промелькнули бы над программированием. Или вытащили бы чип и заменили.

Даже не обращая внимания на хакеров, подумайте, что происходит, когда противник захватывает ваш командный центр. Теперь у них есть физический доступ к элементам управления. Или разрушить командный центр, чтобы роботы не могли обновляться. Несколько командных центров, чтобы избежать этого? Уничтожьте или захватите их все. Чем их больше, тем легче поймать одного (и настроить роботов против их владельцев). Но тем труднее их уничтожить.

Или рассмотреть тайные действия. Шпион получает доступ к командному центру и изменяет программу роботов или загружает новое программное обеспечение, которое передает их врагу.

Возможно, кто-то со временем решит обойти эти проблемы и попробовать. Но есть причины, по которым военные могут предпочесть людей роботам в качестве солдат.

Идея настроить роботов-солдат против своей стороны — леденящее кровь напоминание о том, как конфликт может пойти не так. Плюс один от меня.
Да, обычно, если кто-то захватывает командный центр с обычными солдатами, вы, по крайней мере, можете доверять им, чтобы они знали, на чьей они стороне. Это действительно кажется одним из самых больших недостатков роботов-солдат.
Я определенно согласен с тем, что возможность контролировать программирование массовых групп была бы одним из самых больших недостатков. Хотя я не считаю это чем- то большим, чем то, что враг изучает наш закодированный язык или берет под контроль наши радиочастоты, если мы относим это к современной (человеческой) войне. Я понимаю, что с роботами и компьютерами это может быть более вредно, но по моему мнению, это не перевешивает преимуществ. Технически командный центр может самоуничтожиться, если его собираются саботировать.
Предполагать, что будет один центральный командный центр для группы чрезвычайно развитых роботов, звучит надуманно. Хотя это старый троп, штурм командного центра злых роботов, на самом деле, я думаю, он будет намного более децентрализованным, с возможностью быстро выбрасывать отдельные скомпрометированные командные узлы и коды из сети и заставлять других брать их. над своими функциями (какая-то субординация). Таким образом, даже если второстепенный узел/код будет захвачен, следующий вышестоящий орган легко аннулирует этот доступ, и это будет бесполезно.

Парадокс Моравца

Парадокс Моравека — это открытие исследователей искусственного интеллекта и робототехники, согласно которому, вопреки традиционным предположениям, для высокоуровневых рассуждений требуется очень мало вычислений, а низкоуровневые сенсомоторные навыки требуют огромных вычислительных ресурсов. Этот принцип был сформулирован Хансом Моравеком, Родни Бруксом, Марвином Мински и другими в 1980-х годах. Как пишет Моравек, «сравнительно легко заставить компьютеры показывать результаты на уровне взрослых в тестах на интеллект или в игре в шашки, и трудно или невозможно дать им навыки годовалого ребенка, когда речь идет о восприятии и подвижности».

введите описание изображения здесь

Восприятие включает в себя распознавание образов, в том числе моделей поведения.

ИИ с надлежащим набором датчиков может легко обнаружить одинокого человека, но если человек не несет транспондер IFF, ИИ не сможет быстро идентифицировать его / ее. ИИ не сможет узнать, является ли обнаруженный человек союзником, врагом или гражданским лицом, прежде чем человек откроет огонь. В ситуации, когда враждебных и чужих легко обнаружить, ИИ превзойдут людей по времени реакции и тактической эффективности на порядки, но как только в бой вступает двусмысленность, ИИ теряют преимущество. Вы можете запрограммировать свой автономный танк так, чтобы он стрелял любой достаточно крупной ИК-сигнатурой, но кроме вражеских танков он будет стрелять: стадо оленей, которое проезжает мимо, машина с убегающей семьей из 5 человек внутри, сверхсекретный союзный оперативник, который решил, что нужно знать основа означает, что ИИ не нужно знать, и конвой Красного Креста. Последний из них спровоцирует массовый международный инцидент, отвернув ваших союзников, или, возможно, превратить их во врагов, если вы были неосторожны несколько раз слишком много. Между тем, противник будет либо использовать танковые двигатели короткими очередями, использовать активный ИК-камуфляж, либо оборудовать танки гибридной дизель-электрической системой привода (первые гибридные танки были разработаны во время Второй мировой войны), чтобы действовать ниже порога поражения ИИ и прокрасться мимо. .

Как только в дело вступают маскировка, обман или неясные намерения, преимущества ИИ исчезают. Вам нужны люди, чтобы назначать цели, и вам нужны ИИ, чтобы стрелять по мишеням. Человек никогда не превзойдет ИИ в стрельбе, и пройдут столетия, прежде чем ИИ превзойдет человека в целеуказании.

Я бы сказал, это зависит от того, как далеко в будущее вы смотрите, какой конфликт и насколько вы озабочены реализмом.

На сегодняшний день и в ближайшем будущем роботы действительно ужасны во многих вещах: ощущении, передвижении и долголетии.

Восприятие: современные компьютеры едва ли могут отличить кошку от собаки. Почти. Попросить компьютер найти человека, определить, является ли он дружественным и представляет ли он угрозу, надежным способом (до того, как человек начнет стрелять) — это не то, что произойдет в ближайшие несколько десятилетий. (Я мог бы объявить зоны поражения, т.е. полосу смерти между берлинской стеной, но в Алеппо роботы не будут ходить от двери к двери).

Кроме того, есть еще одна основная проблема, связанная с тем, как роботы получают и обрабатывают информацию об окружающей их среде: с помощью систем технического зрения, лазерного сканирования и/или камер измерения глубины они, вероятно, могут получить достойную трехмерную модель локальной среды, но на самом деле понимание этой модели совершенно другая проблема - знать, что земля впереди - мокрая грязь, и ее следует избегать, сложно без предварительного программирования; узнать, что это проблема (без присмотра, в полевых условиях) — далеко не мечта большинства современных исследователей ИИ. Здесь есть и другие проблемы, и единственная, которая приходит на ум, это то, что я бы назвал декомпозицией сцены — заставить робота взять 3D-модель и извлечь «то, чем можно манипулировать / перемещать».

И другие мелкие вещи: роботы плохо чувствуют себя (так называемая проприоцепция). Они могут чувствовать только то, для чего у них есть датчики. Таким образом, если не установить тепловизионную камеру, они не почувствуют, что дверь горячая; или что кто-то прикрепил радиопередатчик к их спине; или что кусок арматуры застрял в ноге. Они могут ощущать другие эффекты (акселерометр в ноге зарегистрировал толчок, ток на сервопривод левой ноги на 200% и сервоэнкодер не регистрирует движение; вероятно, он застрял); но возможность что-либо с этим сделать восходит к вопросу о принятии решений и ощущении сверху.

Передвижение. Это действительно шокирует, насколько плохо роботы перемещаются из точки А в точку Б. Над этим ведется некоторая работа (Boston Dynamics проделала замечательную и ужасающую работу), но просто придумали что-то, что может плавно перемещаться и перемещаться. вокруг щебня, или взобраться на уступ, очень трудно. Большинство современных роботов колесно-гусеничные, потому что это единственное доступное устройство, время работы которого превышает 20 минут, но мы можем игнорировать их, потому что их легко победить с помощью лестницы. Отчасти игнорируя это, мы могли бы иметь многопедальных роботов всегда в пределах нескольких сотен футов от источника энергии, а затем столкнуться с проблемами роботов, пытающихся работать на неровной поверхности. И у них уже есть проблемы на равных.

Частично это проблема восприятия, описанная выше. Видеть банку из-под кока-колы и знать, что вы можете наступить на нее, и она расплющится, в отличие от камня в форме банки или латунной гильзы картриджа - это сложно. Кроме того, трудно понять, когда препятствием на пути является кусок незакрепленной проволоки, который следует игнорировать, или кусок арматуры, который проткнет ваши хрупкие сервоприводы, или кусок стальной проволоки, который запутается вокруг вас, если вы пойдете.

Долговечность. В основном вопрос технического обслуживания и того, как долго робот может оставаться в поле. Каждая движущаяся часть роботов содержит песок, воду, кровь, грязь и соленую воду. Затем части перестают двигаться, либо происходит короткое замыкание и вдруг перестала работать левая половина робота. В ближайшей и, вероятно, далекой перспективе роботы не смогут исправить себя. Некоторые проблемы могут быть решены довольно просто — можно внедрить системы, позволяющие производить замену частей тела при оптовой продаже — робот понимает, что его рука неисправна, идет к фургону техобслуживания и берет новую с полки… и пытается прикрепите его. (это... непросто, но я готов сказать, что это было бы выполнимо, если бы для этого был драйв). Или же. Они роботы. Просто пришлите еще 20. Оставьте неисправные там, где они лежат. (если вы не не хочу, чтобы они попали в руки врага). (Это также не лучшая долгосрочная стратегия, так как роботы довольно дороги)

Кроме того, роботам нужен источник энергии. Аккумуляторы — это что-то вроде ужасного источника энергии. Отлично подходит для коротких прыжков вдали от генератора, но ужасен, если вам нужно провести неделю в глуши. (что-то вроде проблемы соотношения энергии и веса и просто эффективности движения). (полупример - робот Boston Dynamics Big Dog использует двигатель для картинга мощностью 15 л.с. - эквивалент 11 кВт (несколько домохозяйств)). Это также можно решить, просто всегда имея БТР с генератором рядом, но это может ограничивать и обычно требует линии снабжения.

Есть еще одна вещь, которая, возможно, была замечена кем-то еще: люди — тупицы. Большая часть вышеперечисленного основана на попытке заменить людей, работающих в среде, где люди сражаются с людьми. Как только люди начнут сражаться с роботами, их тактика изменится; они сделают все возможное, чтобы использовать любую слабость, которую найдут. Выявление и устранение этих слабых мест, а затем выпуск патча/обновления прошивки — медленный и трудоемкий процесс; тогда как большинство людей могут распространять слабость из уст в уста.

Короче говоря, есть много причин, по которым мы не используем роботов прямо сейчас (за исключением возможности дистанционного управления), и большинство из них, вероятно, будут проблемой в ближайшие 20-30 лет (и я думаю, что дольше; но я не могу это подтвердить). В основном все сводится к тому, что роботы — идиоты — они хорошо работают в очень хороших и узко определенных ролях — дроны работают, потому что все, что мы делаем, — это просим, ​​чтобы они не ударялись о землю, как только мы проходим мимо, они терпят неудачу впечатляющим образом. А эффектные провалы — это обычно не то, чего вы хотите от армии.

(опять же, все это зависит от ваших пределов реализма, временной шкалы и типа конфликта; если вы согласны с тем, что роботы убивают всех нероботов, которых они видят, то половина этих опасений выброшена в окно)

+1 .. Но Petman или как его там называют, был построен лет 10 назад или около того. Тогда он мог довольно хорошо ходить. И я полагаю, что любой робот-пехотинец будет запрограммирован на распознавание униформы или символа намного проще, чем отличить кошку от собаки в терминах программирования. Что касается энергии, Тесла изобрел беспроводную энергию много лет назад, и с тех пор другие открыли ее заново. Я просто чувствую, что вы недооцениваете современные технологии.
Отличный ответ. Я думаю, вы нашли главный недостаток моего вопроса в том, что я не указал сроки. Однако я рад, что этого не сделал, потому что это привело к хорошим ответам.

Является ли это случаем взвешенного неверия, каким бы придирчивым оно ни было, или есть логические причины?

Это случай приостановленного недоверия к вымыслу; потому что публика эмоционально не тронута разрушением оборудования. Им надоест, если обе стороны будут использовать технику, а в результате получится просто цирк механического разрушения.

Если мы используем роботов, а врагом являются живые существа, мы в лучшем случае выглядим как истребители, если они достаточно насекомоподобны или не являются людьми, и как плохие парни, если враг обладает какими-либо человеческими характеристиками, эмоциями или демонстрирует чувство боли или горя. Единственный способ заставить аудиторию отождествлять себя с нашей стороной — это поставить на карту человеческие жизни.

«Звездные войны» не могут быть о машинах, преследующих друг друга, нам нужна человеческая или человеческая боль, горе, страдание и отчаяние, и это должно быть жестоко: Люк теряет приемных родителей. Молодые солдаты с возлюбленными дома, надеющиеся начать совместную жизнь после войны, попадают в ловушку и убиваются. Как советует писателям Стивен Кинг: придумайте персонаж, которого читатели будут любить и о котором будут заботиться, а затем отправляйте его на плиту.

В футуристической фантастике, чтобы мы могли отождествлять себя с роботами, они должны были быть, по сути, человеческими существами с эмоциональной стороной, способными испытывать неудачи, разочарование и какие-то страдания, возможно, также мстительность и гнев.

Конечно, вопрос не в этом: в реальной жизни справедливо предположить, что лет через 50 или около того роботы смогут делать все то же, что и люди в войне, и даже лучше. Проблема «команды кражи» не является проблемой, мы можем использовать те же протоколы для роботов, которые заставляют нашу банковскую систему работать, переводя триллионы долларов по всему миру, и никто не переводит все деньги на свои собственные счета. Шифрование RSA с длинным ключом легко, быстро и невозможно взломать никакими известными способами; этим пользуются банки.

Рассматриваемые роботы могут быть примерно такими же самосознательными, как самоуправляемый автомобиль (который требует формы самосознания для безопасного перемещения своего тела через быстро движущийся лабиринт, что также требует самореферентной модели того, какие движения он совершает). способны выбирать и то, как, скорее всего, будут двигаться другие транспортные средства).

Роботы никоим образом не должны быть эмоциональными, они могут быть рациональными и разумными (в смысле точного прогнозирования результатов в новых сценариях). Эмоции, такие как страх смерти или нежелание причинить вред, или психологическая тревога по поводу того, что они сделали, или горе о потерянных соотечественниках или что-то еще, — все это багаж, который им не нужен. Умные машины делают то, что им говорят; в том числе, если им говорят остановиться, самоуничтожиться или провести самоубийственную миссию, которая уничтожит их: они могут быть «умными» с абсолютно нулевыми эмоциями или «желанием жить», которые будут мешать их командам или отвергать их.

Что касается того, использует ли враг живых солдат: Историю войны пишут победители, помните? Как и сейчас в США, мы используем роботов, высокие технологии и беспилотники, но мы не претендуем на это как на трусость: мы претендуем на то, что спасаем жизни наших солдат, защищаем войска и уничтожаем плохих парней. Мы говорим, что наши солдаты по-прежнему храбрые, бесстрашные воины, даже если они сидят весь день в удобном кресле за письменным столом, надежно спрятанным в офисном здании в штате на какой-то военной базе в Южной Дакоте, используя для полета 4-экранный интерфейс видеоигры. беспилотники над Пакистаном.

Роботы будут такими же автономными и способными принимать решения, как и люди; если связь прервется. Они будут такими же способными, как и люди, если по какой-либо причине будут отрезаны от командования; но они более способны, чем люди, к общению друг с другом (например, они могут передавать полное видео того, что они видят и слышат, им не нужно «описывать это»; у них может быть групповой разум).

Они также смогут выжить лучше, чем люди. Им не нужно отдыхать, они могут использовать солнечную энергию для перезарядки; при необходимости они могут спрятаться и отключить всю сенсорную активность, кроме самой минимальной, питаемой от солнечной энергии, и бесконечно долго выживать без еды, отходов или скуки (скука — это эмоция).

Это не то, что может сделать текущий ИИ; но очертания того, что она сможет сделать в ближайшие 30-50 лет, ясны. Так же, как закон Мура был ясен и действовал с небольшими изменениями в течение 50 лет.

Сегодняшняя робототехника подобна раннему оружию; используется в войне и смертоносен, но не очень точен или надежен. Это изменится, они станут лучше, и никакая политика или стыд не остановят их, так же, как наши современные автоматические пушки чувствуют себя на световые годы впереди мушкетона, который был в основном мини-пушкой, будущие роботы будут намного лучше и смертоноснее, чем люди-солдаты. , и граждане стран, владеющих такими роботами, будут потрясены мыслью о том, что в бою они потеряют своих солдат-людей. Они не будут взломаны даже хирургическим вмешательством. У Джона Коннера не будет необходимого 10000-битного шифровального кода, и никакая отвертка не сможет модифицировать схемы интегральных схем: они все равно будут иметь односторонний защищенный от несанкционированного доступа корпус, поэтому, как только они запечатаны, любая попытка открыть их уничтожает их (нет необходимости когда-либо проникать внутрь и ремонтировать их, даже сейчас мы просто заменяем неисправные микросхемы). (Черт возьми, наш робот может автоматически самоуничтожать свои процессоры, если что-то проникает в его корпус).

В художественной литературе зрители хотят отождествлять себя с существами в истории, которые отображают человеческие эмоции и качества. В реальной жизни и на настоящей войне цель состоит в том, чтобы подчинить врага и заставить сдаться под угрозой смерти людей на другой стороне. В реальной жизни мы не хотим отождествлять себя с солдатами, которых мы потеряли, мы не хотим разделять горе их семей, родителей и детей и супругов, мы не хотим чувствовать потерю их потенциала как хороших людей, друзей, и граждан. Мы не хотим, чтобы они страдали от посттравматического стресса или военных травм. Если мы сможем избавиться от всех этих эмоций, купив роботов для выполнения грязной работы, мы это сделаем.

Кроме того, по моему мнению, мы (и наши военачальники) предпочтем, чтобы наши роботы были отчетливо негуманоидными (или даже животными) по форме и поведению, чтобы случайно не вызывать сочувствия или симпатии к роботам. Дрон не похож на человека, сбитый или разбившийся дрон не похож на человека.болезненно, это выглядит как досадная потеря оборудования, как если бы вы случайно уронили телевизор с большим экраном с лестницы. Своего рода «черт возьми» за потерю ценности, но никакого беспокойства по поводу какой-либо боли, которую испытал телевизор; ничего не чувствовал. Если форма животного с ногами и конечностями действительно полезна для навигации по местности; Я подозреваю, что мы будем использовать многоногие формы насекомых или паукообразных. Потеря робота-солдата, напоминающего трехфутового таракана или паука, похожего на танк, нас совсем не обеспокоит. Конечно, это наш танк-таракан, но если его разнесет ракетой, ничего страшного. На этот раз отправить два.

«Шифрование RSA с длинным ключом легко, быстро и невозможно взломать никакими известными средствами; это то, что используют банки». Это сильное упрощение. Создание безопасного программного обеспечения — это гораздо больше, чем просто шифрование, и уязвимости, которые можно использовать, могут проявляться и проявляются в сетевом коде, который выполняется раньше, чем криптография.
@atk Я не буду спорить; мои коллеги работают над этим все время. Но не забывайте, что на этом фронте нам тоже поможет ИИ. Я не хочу сказать, что безопасность будет легкой, но мы уже решаем проблему с достаточным вниманием, и я не думаю, что это будет проблемой. Так же, как у нас достаточно безопасности для нашего ядерного оружия, чтобы оно не могло быть взорвано в шахтах. Конечно, в вымышленной вселенной гораздо более правдоподобно, что проблемы безопасности решены, чем предполагать, что мы (и наши помощники ИИ) настолько некомпетентны, что создаем роботов, которых так легко настроить против нас.
Это отличный ответ, и он помогает подтвердить мое подозрение, что, вероятно, нет аргументов против роботов. Единственное, что приходит на ум при чтении других комментариев, это то, что это чертовски сложно сделать правильно. Но, может быть, я невежественен. Я разработчик FE, а не разработчик AI по определенной причине.
@anson У меня есть старое, длинное обсуждение проблем ИИ, которое может помочь прояснить некоторые вещи, здесь: worldbuilding.stackexchange.com/a/81020/37679

Для меня, несмотря на все приведенные выше ответы, проблема заключается в подотчетности. Мы уже видим, как жертвы среди гражданского населения списываются как побочный ущерб от ракетных ударов или ударов беспилотников. Теперь представьте ту же ситуацию на уровне земли.

Мы надеемся, что, по крайней мере, с людьми некоторые откажутся нападать на мирных жителей, в идеале из-за человечности, но также и из-за страха быть наказанными в конце концов. С роботами они просто подчинятся приказу убить, не объясняя причин. Даже если есть выжившие, они не могут точно идентифицировать человека, отдавшего приказ, поскольку его не будет на месте происшествия.

Вы увидите увеличение числа или жертв среди гражданского населения, поскольку безрассудные офицеры действуют безнаказанно и обвиняют другую сторону, которая просто использует аналогичную модель робота, различимую только по внутреннему транспондеру IFF. В конце концов, достаточное количество людей устанет от него и объявит его незаконным оружием, таким как нервно-паралитический газ, кассетные бомбы и т. д., а само его использование будет считаться военным преступлением. Даже в этом случае найдутся страны или другие субъекты, которые проигнорируют правила и продолжат их использовать.

Но, конечно, приказ должен быть цифровым, записанным и заверенным роботом, чтобы человек, отдавший приказ, был полностью известен стране, владеющей роботами, и мог быть привлечен к ответственности, если сочтет это необходимым. Иногда им действительно кажется, что какой-то офицер переступил границы. Это ничем не отличается от дальнобойной артиллерийской или авиационной атаки; люди на земле не знают, кто отдал приказ убить сотни мирных жителей, но люди, владеющие оружием (или самолетом), определенно точно знают, кто принял фатальное решение, и могут привлечь их к ответственности, если это оправдано.
@Amadeus: Какая доля авиаударов/ударов с применением дронов, в результате которых погибло гражданское население или, например, больницы MSF , была успешно расследована? В настоящее время военные преступления действительно эффективно преследуются только третьими сторонами, такими как МУС , а не правительством вооруженных сил-нарушителей. Эти органы, вероятно, не получат доступ к такого рода доказательствам.

У каждого есть ЭМИ

Если у каждой страны будет способ вывести из строя армии роботов, армий роботов не будет.

Что-то вроде того, что если у всех есть бомба, никто не будет использовать бомбу.

Человеческая пехота все еще играет роль в армии будущего, потому что роботы не всегда очень полезны против террористов или партизан.

Когда врагу удается смешаться с гражданским населением, людям-солдатам трудно отличить их друг от друга, но еще хуже, если ваши солдаты вообще не понимают человеческой культуры. Отправка холодных бесчувственных роботов для убийства невинных — это не совсем то, как вы завоевываете сердца и умы.

Кроме того, робот должен нести огромное количество энергии, чтобы ходить весь день, более чем достаточно, чтобы поджечь себя. Так что он может загореться, как огромный Galaxy Note 7, если шрапнель закоротит его аккумулятор. Это было бы опасно для безопасности гражданского населения в городских условиях, и вдвойне опаснее после того, как вражеские партизаны найдут наиболее эффективный способ взорвать ваши шагающие бомбы.

Люди хитры и изобретательны. Мы лучше приспособлены к импровизации на поле боя, будь то сооружение ловушек, планирование засад, допрос военнопленных или ведение разведки. Роботы могли бы делать эти вещи в какой-то степени, но если бы им требовались приказы от человеческого начальства (а они должны были бы избежать группы беспризорных машин смерти, действующих как неизвестные переменные), они не могли бы взять на себя необходимую инициативу, чтобы быть эффективными солдатами за пределами фронта. линейный бой.

Что касается боевых единиц на передовой, роботы лучше всего подходят для вспомогательных ролей, таких как полевые медики. Для чисто разрушительных или оборонительных целей уже существуют более специализированные инструменты, не требующие затрат на создание и обслуживание сложных роботов. (Возьмите это в качестве примера: когда я впервые посмотрел фильм «Тихоокеанский рубеж», меня вывела из него мысль о том, что, поскольку эти гигантские мехи стоят так дорого и нуждаются в специализированных пилотах и ​​развитии новой области науки, чтобы Они могли бы поставить мины и энергетические турели для уничтожения монстров. Их можно было бы производить в большем количестве и не требовать обученных пилотов.)

Спросите себя, какую задачу эти роботы выполняют в вашем мире, которую нельзя было бы выполнить более эффективно с помощью существующих технологий. Лучшая причина, по которой я когда-либо читал для войск роботов, заключалась в том, чтобы использовать их в качестве авангардных подразделений, развернутых на планетах с непригодными для жизни условиями.

Спасибо за ответ. Я не согласен с тем, что мы лучше приспособлены для поля боя. Точно так же, как беспилотные автомобили объективно более безопасны для транспортировки, роботы-воины должны быть объективно более эффективными. Может быть, сложно понять лучших роботов-следователей (imo, не исключено), но я бы пока оставил допрос в стороне от этого разговора.
@PatrickTrentin совершенно верно, это намного сложнее. Я сравниваю не самоуправляемые автомобили и роботов-солдат, а объективный прирост эффективности, который вы получите, если позволите (хорошо запрограммированному) компьютеру выполнять эту работу. Вы правы, хотя, это, очевидно, более сложная задача.

Роботы дорогие. Люди дешевы и самовоспроизводятся.

Как упоминалось в других ответах, роботов можно взломать и перепрограммировать. Но самое интересное заключается в том, что люди придерживаются своей программы, когда дела идут плохо, и остаются верными «плохим» лидерам даже до крайности отрицания геноцида .

Если вы утаиваете конфиденциальные секреты от ИИ, вы в конечном итоге получите ошибки в моделировании своей стратегии, или, что еще хуже, ИИ может выявить некоторые математические или бухгалтерские прикрытия, которые необходимо будет голографически исправлять во всей информационной системе. Скрыть эти политические «поправки» от программистов и техников будет сложно. Если у роботов есть способность формировать свои собственные математические стратегии и анализировать собственную вероятность успеха, они в конечном итоге обнаружат эти манипуляции или сделают смертельные ошибки в решениях. Рассмотрим HAL-9000, который решил убить экипаж и ученых, чтобы защитить засекреченную цель миссии Юпитер . Обратите внимание, что люди в том же фильме выполняли свою работу и не задавали вопросов.

С людьми вы получаете слепую лояльность и самоубийственные миссии. Они будут продолжать защищать проигранное дело, и их мученическая смерть может быть использована в качестве пропаганды вербовки — очевидно, не все люди, но у военных есть способы отсеять независимых мыслителей путем самоотбора для соответствия, уступчивости и послушания .

Вы, вероятно, не сделали бы этого, если бы действительно могли победить с армией роботов, поэтому я бы предположил, что это стратегия неудачника . Наличие полностью человеческой армии, защищающей от армии роботов и дронов, также работает как стратегия живого щита . Глобальное сочувствие перейдет к людям в пропагандистской войне людей против ботов.

Наше военное будущее, однако, будет зависеть от того, что военные называют отношением « зуб-к-хвосту » , что относится к проблеме логистики, связанной с ресурсами, необходимыми для снабжения и поддержки (хвост) каждого боевого солдата (зуб). Фактическое соотношение меняется со временем и в зависимости от миссии, но обычно на хвост тратится вдвое больше ресурсов, чем на зубы. У DARPA заявлена ​​цель разработки технологий для уменьшения хвоста, поэтому ожидайте, что ИИ и дроны станут более ценными в снабжении боевых солдат, чем ИИ , ставший боевыми солдатами. Звучит нелогично, но именно к этому нас должны вести финансы.

В не столь далеком будущем ИИ, вероятно, будет разрабатывать глобальную оборонную стратегию на основе моделирования, и ИИ может стать более надежным и дешевым, чем генералы . У нас будет неудобный сценарий человеческой пехоты под командованием машинного интеллекта.

На дворе 2017 год. DARPA уже выпустила целую кучу различных гуманоидных и негуманоидных роботов. Они начали производить их несколько лет назад, надеясь построить один, чтобы помочь в очистке после катастрофы на Фукусиме. Youtube это, серьезно, очень крутая штука. Им нужны были роботы, которые могли бы делать то же, что и люди, например прыгать и бегать, крутить колесо или открывать дверь. Мы уже живем в будущем, о котором вы говорите.

Условия Фукусимы сложны по сравнению с полем боя. Проблема Фукусимы требует специальной научной подготовки. Среднестатистическому солдату нужно только выучить протоколы войны. Любой пацан из пригорода может стать солдатом, но помочь в ситуации, подобной Фукусиме, может только образованный высший класс.

Суть в том, что у нас уже есть технология для создания роботов типа Терминатора, но мы продолжаем использовать людей, потому что людей много. Многие эзотерические группы, такие как розенкрейцеры, масоны и банкиры, такие как Рокфеллеры, Морганы и Ротшильды, и даже самые могущественные политики являются сторонниками евгеники. Они считают, что мир перенаселен и что для того, чтобы улучшить человечество, население должно уменьшаться и поддерживаться на определенном уровне (погуглите путеводители по Джорджии), и что генетически неполноценные должны исчезнуть первыми. Ни один солдат с докторской степенью. когда-либо просят работать на передовой.

Многие современные войны не предназначены для победы. Они предназначены для поддержания. Они предназначены для сокращения населения и получения прибыли для тех, кто финансирует эти войны. США продавали оружие нацистам в начале Второй мировой войны, а другие группы финансировали обе стороны войны. Богатая элита во всем мире знает, что единственный способ гарантировать им победу — это инвестировать в обе стороны.

Наиболее эффективными роботами являются те, которые решают конкретную задачу. Думайте о дронах, а не о человекоподобных пехотинцах. Правда в том, что роботы-дроны часто используются на войне и всегда будут использоваться, но пока существуют голод, нищета и перенаселение, люди низшего и среднего класса всегда будут на передовой.

Правда в том, что на самом деле завтра у нас может быть война всех роботов — межконтинентальные баллистические ракеты и крылатые ракеты подходят почти под любое определение робота.

Конечно, хотя в такой войне все оружие будут нести роботы, погибнет огромное количество людей, а также будут уничтожены роботы.

В книге «Оружие и влияние» лауреат Нобелевской премии Томас Шеллинг продвигает точку зрения, согласно которой военные могут сделать две вещи для достижения целей страны в конфликте:

  • Прямая сила , когда военные прямо изгоняют, захватывают, уничтожают, ограничивают или уничтожают. Например, если вы хотите, чтобы я прекратил запускать ракеты по вашему гражданскому населению, вы можете использовать точечные бомбардировки моих ракетных заводов и стартовых площадок.
  • Принуждение , когда военные расплачиваются болью и разрушениями, предлагая остановиться, если будет выполнено какое-то другое требование. Например, если вы хотите, чтобы я прекратил запускать ракеты по вашему гражданскому населению, вы можете сказать, что будете запускать две ракеты по моему гражданскому населению за каждую ракету, которую я запускаю по вашему.

Излишне говорить, что принуждение — это гораздо менее героический поступок, и политики гораздо реже отстаивают его ясным и открытым языком. Но правда в том, что во многих ситуациях это проще, дешевле и эффективнее. Я могу затруднить прямое применение силы, спрятав и укрепив свои ракетные заводы, или, может быть, вместо запуска ракет я займусь чем-то более сложным для полиции, например, финансирую повстанческие группы в вашей стране.

Учитывая естественную склонность людей к мести, некоторые утверждают, что каждая война, которая заканчивается без уничтожения или постоянной оккупации, содержит элемент принуждения.

В любом случае, вот что я хочу сказать: принуждение требует боли или ее угрозы, а битва дронов против дронов не несет никакой боли (за исключением альтернативной стоимости того, что дрон стоит денег, которые могли бы быть... потрачено в другом месте) — так что обе стороны будут пытаться обойти дроны другой стороны, чтобы они могли наносить атаки, которые на самом деле причиняют вред другому парню .

Таким образом, даже если у обеих сторон есть 100% беспилотников, именно удары беспилотников по гражданскому населению фактически приведут войну к завершению.