Уроки Украины способствуют развитию исследований в области разработки роботов-убийц

Военные США усиливают свою приверженность разработке и использованию автономного оружия, что подтверждается обновлением директивы Министерства обороны.

Обновление, выпущенное 25 января 2023 г., является первым в десятилетие, чтобы сосредоточиться на автономном оружии с искусственным интеллектом. Это следует за соответствующим планом реализации, опубликованным НАТО 13 октября 2022 года, который направлен на сохранение «технологического превосходства» альянса в том, что иногда называют «роботами-убийцами».

Оба заявления отражают важный урок, который военные усвоили. мир узнал из недавних боевых действий на Украине и в Нагорном Карабахе: искусственный интеллект, оснащенный оружием, — это будущее ведения войны.

«Мы знаем, что командиры видят военную ценность в праздношатающихся боеприпасах на Украине», — Ричард Мойес. , директор гуманитарной организации «Статья 36», занимающейся снижением вреда от оружия, сказал мне в интервью.

Это оружие, представляющее собой нечто среднее между бомбой и дроном, может зависать в течение длительного времени в ожидании для цели. По его словам, на данный момент такие полуавтономные ракеты, как правило, эксплуатируются при значительном человеческом контроле над ключевыми решениями.

Давление войны

Но по мере роста потерь на Украине растет и число жертв. давление для достижения решающих преимуществ на поле боя с полностью автономным оружием — роботами, которые могут выбирать, выслеживать и атаковать свои цели самостоятельно, без какого-либо наблюдения со стороны человека.

В этом месяце ключевой российский производитель объявил о планах разработать новую боевую версию разведывательного робота «Маркер» — наземного транспортного средства без экипажа — для усиления существующих сил в Украине.

Полностью автономные дроны уже используются для защиты украинских энергетических объектов от других дронов. Вахид Наваби, генеральный директор американского оборонного подрядчика, производящего полуавтономные беспилотники Switchblade, сказал, что технология уже доступна для преобразования этого оружия в полностью автономное.

‘Android Technology’ и ‘Фонд перспективных исследований’ (FPI) тестируют UGV Marker, выполняя патрульные функции в Российский космодром (космодром Восточный). #угв #беспилотный #беспилотный #робототехника #российскаяфедерация #боевой #патруль #безопасность #автономия #автономныетранспортные средства pic.twitter.com/jbIX7GQPzU

— Мелани Ровери (@MelanieRovery) 8 октября 2021 г.

Михайло Федоров, министр цифровой трансформации Украины, заявил, что полностью автономное оружие является «логичным и неизбежным следующим шагом войны», и недавно заявил, что солдаты могут увидеть его на поле боя в ближайшие шесть месяцев.

Сторонники полностью автономных систем вооружения утверждают, что эта технология убережет солдат от опасности, удерживая их от поля боя. Они также позволят принимать военные решения со сверхчеловеческой скоростью, что позволит радикально улучшить оборонительные возможности.

В настоящее время полуавтономное оружие, такое как барражирующие боеприпасы, которые отслеживают и взрываются на цели, требуют «человеческого в петле.» Они могут рекомендовать действия, но требуют, чтобы их операторы инициировали их.

Напротив, полностью автономные дроны, такие как так называемые «охотники за дронами», которые сейчас развернуты в Украине, могут отслеживать и отключать приближающиеся беспилотные летательные аппараты днем ​​и ночью. ночью, без вмешательства оператора и быстрее, чем управляемые человеком оружейные системы.

Призыв к тайм-ауту

Критики, такие как Кампания по остановке роботов-убийц, выступали за более чем десятилетие запретить исследования и разработки автономных систем вооружения. Они указывают на будущее, в котором автономные системы вооружения разрабатываются специально для поражения людей, а не только транспортных средств, инфраструктуры и другого оружия.

Они утверждают, что решения о жизни и смерти во время войны должны оставаться в руках человека. Превращение их в алгоритм означает крайнюю форму цифровой дегуманизации.

Совместно с Хьюман Райтс Вотч Кампания за остановку роботов-убийц утверждает, что автономным системам вооружения не хватает человеческого суждения, необходимого для того, чтобы отличить гражданских от законных. военные цели. Они также снижают порог войны, уменьшая предполагаемые риски, и подрывают осмысленный человеческий контроль над тем, что происходит на поле боя.

Организации утверждают, что военные вкладывают больше всего средств в автономные системы вооружения, включая США. , Россия, Китай, Южная Корея и Европейский Союз втягивают мир в новую дорогостоящую и дестабилизирующую гонку вооружений. Одним из последствий может стать попадание этой опасной новой технологии в руки террористов и других лиц, неподконтрольных правительству.

Обновленная директива Министерства обороны пытается решить некоторые ключевые проблемы. В нем говорится, что США будут использовать автономные системы вооружений при «надлежащем уровне человеческого суждения о применении силы».

Хьюман Райтс Вотч выступила с заявлением, в котором говорится, что новая директива не разъясняет, что означает фраза « соответствующий уровень» означает, а не устанавливает руководящие принципы того, кто должен его определять.

Но, как утверждает Грегори Аллен, эксперт из аналитического центра Центра стратегических и международных исследований в области национальной обороны и международных отношений, этот язык устанавливает более низкий порог, чем «значительный человеческий контроль», которого требуют критики.

Формулировка Министерства обороны, указывает он, допускает возможность того, что в определенных случаях, например, с самолетом-разведчиком, уровень человеческого контроль, который считается надлежащим, «может быть незначительным или нулевым».

Обновленная директива также включает формулировку, обещающую этичное использование автономных систем вооружения, в частности, путем создания системы надзора за разработкой и использованием технологии, и настаивая на том, что оружие будет использоваться в соответствии с существующими международными законами войны.

Но Мойес из статьи 36 отметил, что международное право в настоящее время не обеспечивает адекватной основы для понимания, а тем более для регулирования концепции автономность оружия.

Существующая правовая база не дает ясности, например, что командиры несут ответственность за понимание того, что приведет в действие системы, которые они используют, или что они должны ограничивать область и время, в течение которых эти системы будут работать.

«Опасность заключается в том, что нет четкой границы между тем, где мы находимся сейчас, и тем, где мы приняли неприемлемое», — сказал Мойес.

Невозможный баланс?

Обновление Пентагона демонстрирует одновременную приверженность развертыванию автономных систем вооружения и соблюдению норм международного гуманитарного права. Как США будут уравновешивать эти обязательства, и если такой баланс вообще возможен, еще предстоит увидеть.

Международный комитет Красного Креста, хранитель международного гуманитарного права, настаивает на том, чтобы юридические обязательства командиры и операторы «не могут быть переведены в машину, алгоритм или систему вооружения». Прямо сейчас люди несут ответственность за защиту гражданских лиц и ограничение боевого ущерба, следя за тем, чтобы применение силы было соразмерно военным целям.

Если и когда на поле боя будет развернуто оружие с искусственным интеллектом, кто должен быть нести ответственность за ненужную гибель гражданского населения? На этот очень важный вопрос нет четкого ответа.

Джеймс Доус, профессор английского языка, Колледж Макалестер

Эта статья переиздана из The Conversation под редакцией Лицензия Creative Commons. Прочтите исходную статью.