Этические проблемы, связанные с рецензированием статьи об автономных вооруженных дронах

Я предлагаю вам отозвать и отправить официальное письмо редактору с выражением вашей озабоченности. Процитируйте более широкую моральную вселенную, чем узкая, охватываемая политикой журнала. Предположите, что само исследование неэтично, и порекомендуйте, без подробного рассмотрения, отклонить статью.

Я был в похожем, но менее чреватом случае. Я был пастухом газеты, перешагнувшей менее опасную границу. Я неоднократно контактировал с авторами и пытался через несколько сообщений убедить их в том, что действия, которые они предлагали, были неправильными. Мне не удалось их убедить. Бумага была отклонена. На самом деле мне дали награду за мои попытки убедить их, хотя я и потерпел неудачу.

Мой опыт подсказывает, что людей, занимающихся подобными вещами, не убедит диалог любого рода. Они слишком увлечены этим, чтобы слушать.

Не ждите, пока «сильные мира сего» решат, что это аморально и ведет к плохому концу. Если такие люди, как рецензенты в нижней части пирамиды, не будут жаловаться на это, такого рода исследования будут продолжаться и будут реализовываться. Слишком много исторических примеров этого, чтобы игнорировать последствия.

ОП, несомненно, знает, что это сложный вопрос с некоторыми серыми областями. Также может быть сложно дать единый объективный ответ, поэтому я сначала выделю некоторые варианты действий, а затем внесу личное предложение.

(1) Отклонить на том основании, что работа неэтична — рецензент имеет на это моральное право. Конечно, если нет поддерживающего законодательства или прецедента, это может стать довольно субъективным, и рецензент должен быть готов к опровержению.

(2) Отклонить по академическим соображениям — подход будет заключаться в том, чтобы указать, что авторы не проделали тщательной работы, поскольку они не останавливались на возможных последствиях такой технологии, а это важная часть развития технологии.

(3) Рассмотрите статью с чисто академической точки зрения, но в рецензии прямо сообщите редактору, что эта работа может иметь непреднамеренные негативные последствия, и ваша рецензия не учитывает их.

(4) Тщательно изучите журнал и посмотрите, публикуются ли в нем статьи, которые (по мнению рецензента) вызывают проблемы. Если это так, откажитесь от рецензирования И привлеките внимание общественности к этому журналу через средства массовой информации, академические сети и т. д. (Напишите также в журнал, так как это ожидаемая любезность.) Без второго действия первое бесплодно и почти уклоняется от ответственности.

Да, ни один из вариантов не является легким, и они предполагают либо вызов ответной реакции, либо чувство вины. Нужно принимать решение, основанное на силе духа и склонности к критике. Лично я не могу рекомендовать более мягкий выход, поэтому моя рекомендация будет либо (3), либо (4) в зависимости от того, насколько сильно вы относитесь к проблеме.

РЕДАКТИРОВАТЬ:

Следуя предложению в комментариях, возможно, стоит различать фон (3) и (4).

В (3), где кто-то сообщает о своих опасениях через частное общение с редактором, моральное бремя возлагается непосредственно на редактора/журнала. Рецензент выполнил чисто академический долг и удовлетворился тем, что сообщил об опасениях в частном порядке. Может быть несколько веских причин для того, чтобы принять эту позицию — доверять этической/моральной основе редактора/журнала, полагая, что с этой серой областью следует иметь дело в профессиональных рамках, а не публично.

В (4) человек не снимает с себя никакой моральной ответственности и решает решать этические проблемы лично. Это означает принятие на себя ответственности не только за негативную реакцию, но и за успешное распространение сообщения. Это по своей сути более сложный, но более ответственный и, возможно, удовлетворительный подход.

Если вас это действительно беспокоит, откажитесь от рецензирования статьи и расскажите редактору об этических проблемах.

Если вы отклоняете статью по каким-либо причинам, кроме академических, вы косвенно навязываете авторам свою этику. Этические утверждения, которые имеют смысл для вас, могут совершенно не иметь смысла для кого-то другого; сам факт, что авторы провели исследование, указывает на то, что они не считают автономные вооруженные дроны этически отвратительными. Вы можете заявить, что ваша этика «лучше», чем у них, но это не точно, и разумный человек может занять противоположную позицию. Если вы не хотите иметь ничего общего с этой статьей по этическим соображениям, откажитесь от ее рецензирования и позвольте ее рецензировать тому, кто менее обеспокоен этикой.

Тем не менее, вы можете указать на проблему в журнале и убедиться, что они согласны с этикой. Возможно, журнал согласится с вами в том, что автономные вооруженные дроны неэтичны, и отклонит статью без рассмотрения. Если они все равно публикуются, вы можете дистанцироваться от журнала, не рецензируя для них и/или не публикуя их в будущем.

TL, DR: Вы должны просто игнорировать свои моральные вопросы ради рецензирования этой статьи.

Для раскрытия: я работаю в сфере, связанной с обороной.

В итоге:

1. Вопрос, который вы, возможно, предлагаете, вероятно, гораздо сложнее и включает в себя больше сложных линий, чем вы думаете.

2. Любая политическая позиция, которой может придерживаться журнал, будет весьма сомнительной, и не вам решать, какую именно.

3. Это выходит за рамки этического обсуждения каждой такой технической статьи. Даже несмотря на то, что кодексы этики должны быть известны и соблюдаться всеми профессионалами в каждой области.

4. Поскольку существуют установленные этические принципы для такого рода публикаций, ни один из них не был нарушен в соответствии с настоящим вопросом (как вы сами указали).

5. Вы, как личность и человеческое существо, имеете право отказаться от рецензирования статьи. Но не ждите и не заставляйте других делать то же самое.

В режиме подробностей/разглагольствований:

Несмотря на то, что это инженерная статья, вам следует подумать о научных рамках в целом. "Наука" и "этика" - разные вещи, которые пересекаются в рамках "действий". В статье не говорится об убийстве людей с целью тестирования, в ней говорится только о симуляциях, следовательно, из-за отсутствия действий научная часть здесь отличается от этической части, поэтому в моей книге нет абсолютно никаких этических соображений. все, о чем рецензент должен заботиться при рецензировании статьи (кроме поддельных смоделированных результатов, нечестных отчетов и других вещей, применимых даже к чистой математике).

Я вижу много технических проблем в области автономного оружия/дронов/автомобилей и так далее, и это области, в которых люди активно работают и развивают свою карьеру, во благо и во вред.

Если вы против разработки автономного оружия, это ваша политическая позиция, которая (ИМХО) не должна быть одобрена ни одним научным журналом как единое целое. Вы можете проверить, есть ли в журнале, в котором вы запросили рецензию, какая-либо соответствующая политика, но я сомневаюсь, что это так. Следовательно, в ваши задачи по рецензированию не входит делать политические заявления о рецензируемых вами документах.

Где именно вы проводите черту? Автономное оружие для убийства вам не подходит, но как насчет ИИ с распознаванием лиц? Есть также опасения по поводу нерегулируемой разработки приложений ИИ и даже предлагаются временные запреты на использование этой технологии. Ожидаете ли вы, что все журналы по ИИ перестанут публиковаться до дальнейшего уведомления? Может быть, вы хотели бы, чтобы все публикации, связанные с характеристиками оружия, также прекратились, потому что оружие в целом плохое? Я получаю тысячи результатов поиска по запросу «ракетная эффективность» в Google Scholar, и все они на первых страницах говорят об инженерии без обсуждения этики. Должны ли были быть отклонены все эти бумаги?

Успокоило бы вашу совесть, если бы «тема» статьи была немного более замаскирована? Может быть, вы ничего не имеете против чисто математического очерка о методах Монте-Карло, но знаете что: они восходят к проекту атомной бомбы. Еще когда я был студентом бакалавриата, я работал над проектом, в котором симулированный дрон делал снимки цели. Как ни странно, камера всегда ломалась после того, как был сделан первый снимок. Мне потребовалось несколько минут, чтобы заметить, что речь шла об имитации бомбы. Хотя это был единственный раз, когда я видел, как эта тема рассматривалась так, чтобы неосведомленные люди не были немного потрясены, по-видимому, это было проявлением сочувствия со стороны учителя.

Откровенно говоря, если бы моя (только техническая/теоретическая) статья была отклонена из-за того, что рецензент считает, что «эта технология должна быть запрещена», я бы не увидел в этом никакой разницы, если бы он/она сказал: «Моя религия не согласна с тем, что вы говорите». . Что действительно случалось в прошлом, истории рассказывают, что Наполеон однажды спросил Лапласа о том, что он не посвятил Богу ни слова в одном из своих трактатов. Конечно, это становится размытым в гуманитарных областях, где содержание плохой публикации может трансформироваться в явно запрещенные вещи, такие как разжигание ненависти, боевые слова и так далее. Существует также проблема в медицинских/биологических науках, где любая приличная публикация нуждается в эмпирических результатах (то есть, хотя я могу смоделировать удар дрона, я не могу смоделировать действие яда на человеческое тело). Но этот вопрос не касается научной ценности статьи.

Кроме того, не просите авторов включить этическое обсуждение в свою статью. Это просто выходит за рамки, и, честно говоря, это гуманитарная область науки, а не инженерная область. С одной стороны, я полностью готов писать и читать научную литературу по оружейной технике (в областях, с которыми я работаю), и мне действительно пришлось пройти курс этики в старшей школе, я знаю и придерживаюсь кодексов. этики, применимой к моей профессии, но я полный нуб, когда дело доходит до исследований на уровне этических/политических и законодательных наук. От меня не могут и не должны требовать совместного обзора и обсуждения последней литературы по этике автономного оружия и его технической внутренней работы каждый раз, когда я пишу об алгоритмах для оружия. Я просто делаю последнее. Исключение может быть сделано для добавления некоторого стандартного шаблонного текста, такого как «Отказ от ответственности: эта статья не поддерживает убийство». Но шаблонный текст волнует только юристов, а вы, я полагаю, не юрист.

Послушайте, я работаю в сфере, связанной с обороной, и знаю людей, которые работают с некоторыми продуктами, которые могут в конечном итоге (преднамеренно) убить людей. На самом деле, этическая дискуссия устарела, вы можете потратить несколько дней, решая, согласны ли вы с этим, но как только вы закончите, тогда обсуждение закончится, просто двигайтесь дальше и либо выполняйте работу, либо отказывайтесь от нее, пересмотрите свои ценности, как только вы хочется, но не каждый день (или в каждой газете для текущего примера) и не расспрашивайте об этом своих коллег при каждом удобном случае. Я не преуменьшаю, компании, разрабатывающие такие продукты, должны и обычно имеют психологов для поддержки людей, которые могут чувствовать себя некомфортно в этой ситуации. И они спрашивают, согласен ли потенциальный сотрудник с работой над таким продуктом, потому что об этом следует подумать.

В то время как некоторые люди возражают против работы с оружием (особенно доступным для потребителей) и «голосуют ногами», отказываясь работать в этой области, практические аспекты жизни навязывают себя существующим очень процветающим «оборонным» предприятиям, вооруженным полицейские, вооруженные силы и так далее. Просто голосов за существующее и разрабатываемое оружие гораздо больше, чем за иное, нравится это или нет, согласен с этим или нет. И тем более спрос на большее производство и разработку вооружений.

Возможно, вы слишком много думаете об этом. Рецензент не принимает и не отклоняет статью. Рецензент рекомендует редактору принять или отклонить статью.

Если вы считаете, что журнал не должен заниматься исследованиями в области оружия, порекомендуйте отказ по моральным соображениям. Если редактор считает, что моральные соображения не должны учитываться, или считает, что исследования в области оружия этичны, он может проигнорировать вашу рекомендацию.

Трудное решение здесь лежит на редакторах¹, а не на рецензентах.

^{¹Придумывать более экстремальные примеры исследований, которые не причинили прямого вреда никому в методологии, но все же имели крайне неэтичные последствия, оставляем читателю в качестве упражнения.}

tl;dr: Показать основу и отклонить бумагу.

@Прикладной академик в своем ответе представил четыре варианта действий ; Я имею в виду их, и вы можете сначала прочитать это (но вам не обязательно).

Моя рекомендация:

• Начните с (4): проверьте, не является ли журнал проблемным местом. Возможно, вы совершили ошибку, если связали себя с журналом, который время от времени узаконивает убийства и военизированную смертоносную полицию с использованием дронов или другие подобные занятия.
• Если это проблемный журнал, просто следуйте пункту (4).
• Если журнал редко или никогда не публикует такую ​​работу: Выполните (1). То есть отвергнутая статья должна быть отклонена по этическим соображениям. Тот факт, что существуют этические принципы и общепринятые запреты, означает, что у вас есть достаточно оснований утверждать, что такие исследования не следует узаконивать, узаконивать и распространять через журнал. Постарайтесь обосновать свой аргумент как общим принципом, так и — если у вас есть достоверная информация о конкретном исследовании, которое вы рассматриваете — примерами злоупотребления технологиями беспилотников со стороны авторов, их института, их спонсоров или их правительства. К сожалению, таких примеров в нашем современном мире предостаточно.

Я против варианта (2), потому что жалобы на отсутствие «раздела по этике» косвенно предполагают, что документ в целом близок к легитимности. Я также против варианта (3), потому что это означает, что вы «переложили ответственность» — вы внесли свой вклад в публикацию этой статьи, и теперь вы надеетесь, что у редактора больше поддержки, чем у вас. Сомнительно, что они будут, после того, как вы согласились с этим.

Примечание. @DanRomik подчеркивает в комментарии, что рецензент на самом деле не отклоняет и не принимает статью, а скорее рекомендует принять или отклонить ее. Это стоит помнить, даже если мы (и этот ответ) используем термины «отклонить» или «принять».

Очевидно, у вас есть несколько жизнеспособных вариантов. Моя личная точка зрения заключается в том, что если вы решите порекомендовать отклонить статью на основании этики вооруженных беспилотников, изложите это мнение в обзоре и уйдите со сцены, воздерживаясь от рецензий по научным вопросам.

Таким образом, ваше возражение отмечено, вы не стали частью плохой этической ситуации, и вы даете редактору возможность последовать рекомендации или запросить дальнейшее рассмотрение.

Другая крайность — рекомендовать отказаться от статьи, не говоря, что это из-за этических соображений, и искать научное обоснование своей рекомендации. Лично я считаю это научным саботажем и поэтому рекомендую против него.

Золотая середина состоит в том, чтобы заявить о своем убеждении, но предложить справедливый научный обзор. Я считаю, что это трудно сделать, и это ставит ваш отзыв под сомнение. Я бы воздержался от этого.

Лично, если бы у меня было это конкретное моральное убеждение, я бы просто связался с редактором и отказался рецензировать статью, объяснив причину.

Оборонная промышленность привела в движение целую кучу технологий. Есть те, кто способствует этому усилию. Я могу понять отказ быть частью этого, но провожу свою личную линию, когда дело доходит до саботажа области неискренними обзорами. Есть способы добиться того, чтобы ваши убеждения подтвердились, а не только это: отклонить рецензию, написать письмо редактору с просьбой о публикации, воздействовать на руководство профессиональных организаций, чтобы положить конец политике публикации такого материала, порекомендовать своему библиотекарю отменить подписку и т. д.

Резюме: этические проблемы проявляются постепенно.

1. Некоторые из них достаточно стандартизированы академическими кругами (или даже широкой публикой) во всем мире, поэтому нарушение этих стандартов означает, что статья должна быть отклонена по этическим соображениям.

2. Другие этические проблемы носят более личный характер в том смысле, что рецензент может относиться к ним лично, но они не настолько широко согласованы/стандартизированы, что авторы должны нести за них ответственность.
   ОП, ИМХО, должен мириться с тем, что у других может быть другая точка зрения на эти проблемы (2.).

   Тем не менее, общие личные этические проблемы (2.) часто включают этические проблемы, которые широко признаны (1.), но имеют более узкую сферу применения. Они снова являются темой для обзора статьи.

Я бы предложил проанализировать (не)этические моменты немного дальше.

Я никогда не имел дела с исследованиями оружия, но в моей области эксперименты на животных имеют значение, поэтому я буду использовать их как пример, для которого я рассмотрел свою личную этику, и для которого я также столкнулся с этическими соображениями других людей. .

Вот моя точка зрения:

• Является ли неэтичное замечание чем-то, что «всеобще» признается неэтичным академическими кругами или даже широкой публикой? Другими словами, есть ли в настоящее время общепринятое мнение о том, что это неэтично, и, возможно, даже о нарушении стандартных формальных этических требований? Если да, откажитесь по этическим соображениям.

  Примерами могут быть плагиат, представление фальсифицированных результатов или наблюдений или дизайн исследования, который считается неэтичным по правилам, над которыми работают комитеты по этике (если есть соответствующие местные различия, я бы судил по местным правилам, где находятся авторы).

  * Мне нужен уровень согласия, который сильнее/шире, чем «мои профессиональные друзья согласны со мной», а также сильнее, чем «моя местная община/общество» или «моя религия говорит»: например, в моей стране более строгие законы (которые я воспринимать как суррогат этических соглашений) по экспериментам на людях, чем в некоторых других странах. Но эти различия неозначают, что это другое общество считает причинение вреда людям этическим правом, различия возникают из-за нюансов в том, где именно проводится линия, сколько страданий, по оценкам, причиняет конкретная процедура, сколько страданий считается терпимым и сколько страданий считается стоит пока. Таким образом, могут быть случаи, когда суждение отличается, но во многих случаях этическое суждение совпадет. И это то, что я ищу здесь: «текущий общепринятый консенсус» (спасибо @ObscureOwl) между континентами, странами, религиями, ....

  (Я не думаю, что можно утверждать, что каждый человек согласен с какой-либо этической точкой зрения, но требовать такого абсолютного согласия здесь бессмысленно с практической точки зрения, поскольку его нельзя использовать для определения того, являются ли чьи-либо действия неэтичными: как только поскольку они не согласились, требуемое соглашение не могло быть достигнуто.)

• Но у меня могут быть этические возражения, которые являются результатом моего (ОП) мировоззрения/философии/религии/... и где я бы сказал, что возражать лично вполне нормально, но здесь я (ОП) должен терпеть это другое у людей другая точка зрения. Здесь,

  • отказ, как указано выше, невозможен. Было бы злоупотреблением властью со стороны рецензента навязать авторам свое личное мнение и, следовательно, неэтично.

  • Я могу сказать: «Я никоим образом не буду связан с подобными исследованиями» и отказаться быть рецензентом.
    К сожалению, это ничуть не уменьшит количество неэтичных исследований.

  • Иногда более глубокое изучение того, почему именно вы возражаете против этого исследования, может помочь прийти к более конструктивному решению, заключающемуся в том, что я делаю обзор и честным и уместным образом излагаю свои опасения.

  Общие личные опасения, выраженные на более детальном уровне, могут трансформироваться в общепризнанные этические опасения (в более узком масштабе, чем более общие опасения), а иногда и в научно значимые моменты.

Пример из медицинских исследований

Однажды я получил статью для обзора, в которой более 100 грызунов были использованы и убиты для исследований. В документе сообщалось о надлежащем этическом одобрении и надлежащем обращении (поэтому до сих пор выполнялись общепринятые этические требования). Они изучили множество различных условий.
Множество различных условий означало, что в надгруппах эксперимента было очень мало животных. Хотя на первый взгляд может быть хорошо не причинять больше страданий животным, на самом деле это означало, что все исследование было бесполезным, поскольку нельзя было сделать надежных выводов. Это могло быть известно заранее.

Таким образом, у нас есть

• научные проблемы, связанные с отсутствием надлежащего планирования размера выборки, что приводит к
• результаты исследования слишком неопределенны, чтобы иметь какую-либо научную ценность, и это также приводит к
• общепризнанная этическая озабоченность тем, что животным причиняются ненужные страдания.

Другими словами, веские причины рекомендовать отказаться от исследования.

 Приложение к рассматриваемой бумаге

Одно очевидное различие между этим примером и автоматизированным оружием заключается в том, что исследования на животных связаны с тем, что уже сделано, тогда как ваши опасения по поводу автоматизированного оружия больше связаны с будущими последствиями в реальной жизни.

Считая в качестве мысленного эксперимента, что вы можете подумать о более специализированных проблемах, например о том, что предлагаемая технология представляет опасность для гражданских лиц.

Хотя, как вы говорите, запрет на автоматизированное оружие (пока) не является общепризнанным, насколько я знаю, все согласны с тем, что гражданские лица не должны подвергаться ненужной или излишне высокой опасности.

Исходя из этой более узкой, но универсальной этической проблемы, я подозреваю из вашего описания, что может быть несколько связанных научных и инженерных проблем с этой статьей. Которые серьезны из-за стоящих за ними этических соображений.

Производительность алгоритма оценивается на основе того, сколько раз смоделированный дрон автономно поразил цель.

Любая такая добротность может в лучшем случае быть частью проверки и проверки алгоритма.

Валдиация должна включать в себя оценку и отчетность о риске для гражданских лиц: если мы не знаем, приводит ли алгоритм к ненужной опасности для гражданских лиц, мы не можем считать его пригодным для этой цели.

Лично я подозреваю, что, кроме того, здесь есть компромисс в том, что поражение большего количества целей вполне может быть достигнуто за счет поражения большего количества гражданских лиц. Если это возможно, функция подсчета очков, которая не наказывает удары по гражданским лицам, вполне может считаться изначально непригодной даже для целей развития.

Я часто нахожу несовершенные процедуры проверки в статьях с гораздо менее опасными темами. Если тема не слишком важна, а экспериментальные усилия по проведению надлежащей проверки сейчас несоразмерны, я часто не возражаю, если честно обсуждают возникающие ограничения.

Рукопись в вопросах, кажется, даже не выполняет это гораздо более слабое требование:

Авторы никогда не обсуждают возможные этические проблемы этой технологии,

(И с такой критической темой я склонен настаивать на надлежащей проверке.)

и они прямо не говорят, будет ли эта технология использоваться на реальных дронах

... этого они могут не знать.

В контексте рецензирования статьи для публикации спасение мира не входит в вашу задачу. Налаживать диалог с авторами значило бы ставить себя арбитром действий группы людей. Редактор журнала совершенно справедливо должен отклонить такой план как часть рецензии на статью. Хотя вполне возможно, что такая программа может быть приемлемой вне контекста обзора статьи, журнал ни в коем случае не обязан следовать такому плану.

По сути, у вас есть два варианта. Вы можете отказаться от рассмотрения. Или вы можете дать объективный обзор статьи, основанный на содержании и политике публикации журнала.

Если рассматриваемый журнал регулярно публикует такую ​​информацию, и вы не можете принять такие вопросы как моральные или этические, то вам следует немедленно сообщить им, что вы не должны рассматриваться для рецензирования таких статей.

Лекарство от речи, с которой вы не согласны, — больше речи. Если вы считаете, что работа в этой статье не должна была быть выполнена, то вам следует опубликовать свою работу, объяснив, почему. Будут отдушины для ваших позиций и аргументов. Если это веские аргументы, основанные на здравом рассуждении и достоверных данных, то они будут приняты.

Для меня ответ довольно прост.

Явное большинство научного сообщества не считает рассматриваемый вопрос неэтичным (если бы это было так, против этого были бы правила). Следовательно, считаете ли вы это неэтичным или нет, не имеет большого значения, ваши взгляды не должны влиять на способность научной машины двигаться вперед.

Таким образом, вы можете отказаться и не давать рекомендаций относительно того, что произойдет с документом, или рассмотреть документ по существу и оставить обсуждение этики на их надлежащем форуме, который не является процессом рецензирования.

Я хотел бы просмотреть документ и указать, что очень практические ограничения работы четко не указаны.

Конечной целью этого исследования является создание автономной системы вооружения, которая может функционировать на поле боя. Теперь все военные действия подчиняются закону. В том числе принцип соразмерности. Принцип пропорциональности допускает побочный ущерб и жертвы среди гражданского населения, если такие потери не являются чрезмерными по сравнению с прямым военным преимуществом, полученным в результате нападения.

Понятно, что авторы не учли принцип пропорциональности, потому что их алгоритм подсчета очков не учитывает стоимость военной цели и не имеет понятия сопутствующего ущерба или гибели гражданских лиц. Отсюда следует, что любая автономная система вооружения, управляемая по их алгоритму, будет иметь высокий потенциал для нарушения законов войны. Следовательно, их исследования имеют ограниченную практическую ценность, и как ученые они обязаны четко заявить об этих ограничениях.

Если отойти в сторону, то нет никакой гарантии, что эти самые практические ограничения будут упомянуты. Что еще более важно, читатели не будут напоминать о законах войны.

В этой статье есть хорошее резюме правовых принципов ведения войны . Основное внимание уделяется принципу соразмерности.