Глава института ООН по разоружению предупредил, что ИИ оттесняет людей от военных решений

Директор Института ООН по исследованию проблем разоружения (ЮНИДИР) предупредил, что ИИ оттесняет человека от военных решений, в том числе в ядерной сфере. Институт открывает первый в ООН форум по этой теме.

Армии передают ИИ всё больше задач — от выбора целей до управления беспилотниками, а места для суждения человека остаётся всё меньше, предупредил на брифинге в штаб-квартире ООН директор ЮНИДИР¹ Робин Гайс.

Почему это важно: ИИ на поле боя — уже не прогноз. По словам Гайса, его широко применяют сейчас, и человека оттесняют от решений в том числе в ядерной сфере.

Повод: 20 октября Гайс рассказывал журналистам о новых проектах ЮНИДИР. Там он и спросил: «Позволим ли мы машинам самим выбирать цели и убивать людей?»

Расклад: Гайс описал, что ИИ уже делает в армии и чем это грозит:

ИИ анализирует разведданные, помогает определять цели, управляет беспилотниками и координирует кибератаки.
Время от обнаружения цели до удара сокращается, а атаковать можно небывалое число объектов.
Многие системы работают непрозрачно, и это повышает риск ошибок, просчётов и непреднамеренной эскалации конфликта.
Чем проще управлять ИИ-инструментами, тем легче негосударственным группировкам проводить сложные военные операции.

Общая картина: Главной помехой для правил о военном ИИ Гайс назвал геополитическую напряжённость. Но, по его словам, беспокойство о рисках военного ИИ всё чаще разделяют и крупнейшие державы.

Детали: В сентябре США предложили Китаю обмениваться уведомлениями об инцидентах с ИИ, которые могут угрожать национальной безопасности. По итогам встречи Дональда Трампа и Си Цзиньпина в конце сентября страны договорились создать такой канал, а отдельный диалог по ИИ назначили на ноябрь.

Если шире: По словам Гайса, всё больше стран поддерживают призыв генсека ООН Антониу Гутерриша заключить юридически обязательный договор о смертоносных автономных системах вооружений². Ещё в 2023 году Гутерриш предлагал странам заключить его к 2026 году.

Что дальше: На этой неделе ЮНИДИР открывает площадку для обсуждения военного ИИ. Гайс называет её первой и пока единственной такой в системе ООН. У форума три задачи:

Подготовить практические рекомендации для компаний, которые проектируют и разрабатывают военные системы ИИ.
Составить общий «лексикон безопасности ИИ»: сейчас стороны по-разному понимают «автономность», «безопасность» и «защищённость», и это мешает договариваться.
Найти способы не дать вооружённым группировкам применять ИИ для планирования и проведения операций и для логистики.

Но: Рекомендации для разработчиков военного ИИ задуманы как добровольные.

«Некоторые решения должны навсегда оставаться за человеком — и прежде всего решение отнять человеческую жизнь», — сказал Гутерриш в июле на открытии Глобального диалога по вопросам управления искусственным интеллектом³ в Женеве.