RW Space

Можно предположить, что Голливуд умеет предсказывать будущее. Действительно, Роберт Уоллес, глава Управления технической службы ЦРУ и американский аналог вымышленного Q МИ-6, рассказал, как российские шпионы смотрели последний фильм о Бонде, чтобы увидеть, какие технологии могут появиться на их пути.

Поэтому непрекращающаяся одержимость Голливуда роботами-убийцами может вызывать серьезную озабоченность. Новейший такой фильм — предстоящая драма о секс-роботах в зале суда «Долли» на Apple TV.

Никогда не думала, что напишу фразу «драма в зале суда о секс-роботах», но вот. Основанный на рассказе Элизабет Беар 2011 года, сюжет касается миллиардера, убитого секс-роботом, который затем просит адвоката защитить свои кровавые действия.

Настоящие роботы-убийцы

Долли — последний фильм из длинной череды фильмов о роботах-убийцах, включая HAL в 2001: Космическая одиссея Кубрика и робота Т-800 Арнольда Шварценеггера в Терминатор.

Действительно, конфликт между роботами и людьми был в центре самого первого полнометражного научно-фантастического фильма, классического фильма Фрица Ланга 1927 года Метрополис.

Но почти все эти фильмы ошибаются.

Роботы-убийцы не будут разумными человекоподобными роботами со злыми намерениями. Это могло бы обеспечить драматическую сюжетную линию и кассовый успех, но до таких технологий еще много десятилетий, если не столетий.

Действительно, вопреки недавним опасениям, роботы могут никогда не стать разумными.

Нам следует беспокоиться о гораздо более простых технологиях. И эти технологии сегодня начинают появляться на поле боя в таких местах, как Украина и Нагорный Карабах.

Война изменила

Фильмы, в которых используются гораздо более простые вооруженные дроны, такие как Падение ангела (2019 г.) и Око в небе (2015 г.) рисуют, пожалуй, наиболее точную картину реального будущего роботов-убийц.

В ночных новостях В телевизионных новостях мы видим, как современная война трансформируется с помощью все более автономных дронов, танков, кораблей и подводных лодок. Эти роботы лишь немногим более сложны, чем те, которые вы можете купить в местном магазине товаров для хобби.

И все чаще решения по идентификации, отслеживанию и уничтожению целей передаются их алгоритмам.

Это ведет мир в опасное место с множеством моральных, юридических и технических проблем. Такое оружие, например, еще больше усугубит нашу неспокойную геополитическую ситуацию. Мы уже видим, как Турция становится крупной державой дронов.

И такое оружие пересекает моральную красную черту в ужасном и ужасающем мире, где безответственные машины решают, кому жить, а кому умереть.

Робот производители, однако, начинают сопротивляться этому будущему.

Обязательство не использовать в качестве оружия

На прошлой неделе шесть ведущих робототехнических компаний пообещали, что никогда не будут использовать свои роботизированные платформы в качестве оружия.

p>

В число компаний входит Boston Dynamics, производящая робота-гуманоида Atlas, способного выполнять впечатляющие сальто назад, и робота-собаку Spot, которая выглядит так, как будто она прямо из телесериала «Черное зеркало».

Это не первый раз, когда компании, производящие робототехнику, говорят об этом тревожном будущем.

Пять лет назад я организовал открытое письмо, подписанное Илоном Маском и более чем 100 основателями других компаний, занимающихся ИИ и роботами, с призывом ООН для регулирования использования роботов-убийц. Письмо даже отбросило Папу Римского на третье место в номинации «Всемирная награда за разоружение».

Однако тот факт, что ведущие компании, производящие робототехнику, обещают не вооружать свои роботизированные платформы, больше свидетельствует о добродетели, чем что-либо еще.

Например, мы уже видели, как третьи лица устанавливали оружие на клонов робота-собаки Spot от Boston Dynamics.

И такие модифицированные роботы доказали свою эффективность в действии. Ведущий ученый-ядерщик Ирана был убит израильскими агентами из автомата в 2020 году.

Коллективные действия для защиты нашего будущего

Единственный способ защититься от этого ужасающего будущего — это если страны коллективно принимать меры, как это было с химическим, биологическим и даже ядерным оружием.

Такое регулирование не будет совершенным, как несовершенно регулирование химического оружия. Но это помешает оружейным компаниям открыто продавать такое оружие и, следовательно, его распространению.

Поэтому еще важнее, чем обещание робототехнических компаний, видеть, что Совет ООН по правам человека недавно единогласно принял решение исследовать человеческий последствия новых и появляющихся технологий, таких как автономное оружие, для прав человека.

Несколько десятков стран уже призвали ООН регулировать роботов-убийц. Европейский парламент, Африканский союз, Генеральный секретарь ООН, лауреаты Нобелевской премии мира, церковные лидеры, политики и тысячи исследователей искусственного интеллекта и робототехники, таких как я, призывали к регулированию.

Австралия — не та страна, которая до сих пор поддерживал эти призывы. Но если вы хотите избежать этого голливудского будущего, вы можете обсудить это со своим политическим представителем в следующий раз, когда вы их увидите.

Тоби Уолш, профессор искусственного интеллекта в UNSW, руководитель исследовательской группы UNSW в Сиднее.

Эта статья перепечатана из The Conversation под лицензией Creative Commons. Прочтите исходную статью.