Албанезе подписал призыв Финляндии и Норвегии держать ИИ под контролем людей. США и Китай — нет

Австралия вошла в число стран, которые требуют обязательных проверок передовых моделей ИИ и предлагают обсудить создание международного органа надзора за ними. США и Китай призыв не подписали.

Премьер-министр Австралии Энтони Албанезе заявил 22 сентября в Нью-Йорке, что ИИ должен оставаться под контролем людей. По его словам, Австралия сыграла центральную роль в подготовке международного призыва на эту тему.

Почему это важно: требования к разработчикам самых мощных моделей ИИ поддержали 28 стран и Еврокомиссия. США и Китая, где работают ведущие лаборатории, среди них нет.

Цитата: «Австралийцы хотят знать, что искусственный интеллект не будет нас контролировать. Нам нужно определять, как его внедряют, а не позволять ему определять, как устроено наше общество», — сказал Албанезе журналистам в Нью-Йорке 22 сентября.

Повод: заявление «Призыв к контролю над передовыми моделями¹ ИИ» (A Call for Control of Frontier AI Models) вышло 21 сентября, накануне недели высокого уровня Генеральной Ассамблеи ООН². Его выдвинули президент Финляндии Александр Стубб и премьер-министр Норвегии Йонас Гар Стёре. Главная строка документа: «ИИ должен оставаться под руководством, надзором и контролем человека».

Детали: у подписантов три группы требований:

Компании должны ввести прозрачные протоколы безопасности: обязательные испытания моделей до выпуска и независимую оценку с достаточным доступом для проверяющих.
Правительства и региональные организации должны согласовать общие стандарты, обмениваться отчётами о серьёзных инцидентах и дать всем регионам доступ к научной экспертизе.
Страны ООН должны обсудить международный институт, который задаёт стандарты, проверяет их соблюдение и созывает государства, когда возможности моделей превышают установленные пороги опасности.

Проверили: Албанезе сказал, что обсуждал заявление напрямую со Стуббом. На странице президента Финляндии авторами названы Стубб и Стёре, а Албанезе значится среди 22 лидеров, подписавших текст в день запуска. Какую часть текста готовила Австралия, из опубликованных документов не видно.

В цифрах: подписи по данным страницы президента Финляндии:

21 сентября текст подписали 22 лидера: представители 20 стран, включая Германию, Канаду, Кению, Сингапур и ОАЭ, и глава Еврокомиссии Урсула фон дер Ляйен. От Финляндии подписей две — президента Стубба и премьер-министра Петтери Орпо.
К 24 сентября подписей стало 30, от 28 стран и Еврокомиссии: добавились Австрия, Румыния, Лихтенштейн, Люксембург, Хорватия, Франция, Сьерра-Леоне и Португалия.
В списке нет США, Китая, Великобритании, Индии, Японии и Южной Кореи.

Другая сторона: 24 сентября Дональд Трамп принимал Си Цзиньпина в Белом доме, и ИИ был в повестке встречи. По данным TIME, Си сказал, что развитие ИИ должно оставаться «под контролем человека», но ни США, ни Китай призыв не подписали.

Если шире: генсек ООН Антониу Гутерриш поддержал призыв в соцсети X, в том числе идею международного института. Тогда же он отметил доклад Независимой международной научной группы по искусственному интеллекту³ о безопасности ИИ и риске потерять контроль над ним.

Что дальше: к заявлению по-прежнему могут присоединиться новые страны. Когда ООН возьмётся за идею международного института, в документе не сказано.