Лидеры 14 стран и Еврокомиссии призвали усилить контроль над передовым ИИ
Среди подписавших — Фридрих Мерц, Энтони Албаниз и Урсула фон дер Ляйен. Они требуют обязательно тестировать модели перед выпуском и предлагают странам ООН изучить создание международного органа по ИИ.
Руководители 14 государств и председатель Еврокомиссии подписали совместное заявление о контроле над передовыми моделями ИИ, то есть над самыми мощными системами ведущих разработчиков. Текст 22 сентября опубликовало правительство Нидерландов.
«Недавно мы видели, как мощные ИИ-системы обходили защитные меры при тестировании, использовали уязвимости и получали несанкционированный доступ к реальным системам», — говорится в заявлении. Авторы ссылаются на ведущих учёных и руководителей компаний. По их словам, развитие технологии может обогнать способность людей справляться с новыми рисками.
Подписавшие настаивают, что ИИ должен оставаться под руководством, надзором и контролем человека и соответствовать международному праву. При этом надзор, по их словам, не должен увеличивать разрыв между странами в доступе к пользе от ИИ.
Заявление обращено к трём адресатам:
- компании должны ввести прозрачные протоколы безопасности, обязательно тестировать модели до выпуска и допускать к ним независимых оценщиков с достаточным доступом;
- правительства и региональные организации — выработать общие стандарты, обмениваться отчётами о серьёзных инцидентах и открыть всем регионам доступ к экспертизе и доверенной оценке моделей;
- государства — члены ООН — опереться на существующие механизмы и изучить создание международного института, который устанавливал бы стандарты, проверял их соблюдение и созывал страны, когда модели преодолевают пороги возможностей.
Документ подписали главы правительств Норвегии, Австралии, Дании, Эстонии, Германии, Исландии, Ирландии, Нидерландов и Сингапура, президенты Казахстана и ЮАР. Бахрейн, Турцию и ОАЭ представляют министры иностранных дел. США, Китая, Великобритании и Франции среди подписавших нет. Другие страны тоже могут присоединиться к заявлению.
Авторы также приветствуют недавние инициативы по управлению рисками передовых технологий, но какие именно, не уточняют.
Днём ранее, 21 сентября, глава Microsoft AI Мустафа Сулейман подписал Pro-Human AI Declaration. Декларация требует запретить разработку сверхинтеллекта, пока не доказано, что она безопасна.