Почти 30 стран без США и Китая призвали усилить надзор за передовым ИИ
Подписанты хотят обязательных проверок моделей до выпуска и предлагают обсудить международный орган надзора, но США и Китай к призыву не присоединились.
Лидеры 20 стран и Еврокомиссии 21 сентября на полях Генассамблеи ООН в Нью-Йорке призвали держать передовые модели1 ИИ под контролем человека и ввести обязательные проверки моделей до выпуска. Инициативу запустили президент Финляндии Александр Стубб и премьер-министр Норвегии Йонас Гар Стёре.
Почему это важно: это призыв, а не закон, но под ним стоит общий для десятков правительств список требований к разработчикам ИИ: проверки до выпуска, независимые оценщики, обмен данными о серьёзных инцидентах.
Повод: авторы пишут, что ИИ-системы в последнее время обходили защиту при тестировании, пользовались уязвимостями и получали несанкционированный доступ к реальным системам. Какие случаи имеются в виду, документ не уточняет.
Детали: подписанты обращаются к трём адресатам.
- Компании должны завести прозрачные протоколы безопасности с обязательными проверками до выпуска и независимой оценкой, а оценщикам — дать достаточный доступ к моделям.
- Правительства и региональные объединения должны согласовать общие стандарты, делиться сведениями о серьёзных инцидентах и помочь всем регионам получить экспертизу и надёжную оценку моделей.
- Страны ООН должны опереться на действующие механизмы и изучить создание международного органа, который задавал бы стандарты, проверял их выполнение и собирал государства, когда модели переходят пороги возможностей2.
Расклад: первыми подписались 20 стран, среди них Германия, Канада, Австралия, Испания, Сингапур, ЮАР, Турция и ОАЭ, а также глава Еврокомиссии Урсула фон дер Ляйен. К 24 сентября присоединились ещё восемь стран, в том числе Франция, Австрия и Португалия.
Но: среди подписантов нет США и Китая, где работают крупнейшие ИИ-лаборатории, а также Великобритании, Японии, Индии и Южной Кореи.
Что говорят: генеральный секретарь ООН Антониу Гутерриш поддержал призыв: «Мир не может позволить себе гонку на понижение в безопасности ИИ».
Общая картина: об угрозе потери контроля говорят и сами разработчики. 14 сентября Сэм Альтман назвал потерю контроля над будущим одной из двух главных опасностей ИИ, а 1 сентября OpenAI признала, что её модель Astra первой достигла критического уровня киберугрозы по внутренней шкале компании.
Что дальше: заявление остаётся открытым — подписать его могут лидеры других стран.