Гутерриш призвал США и Китай вместе замедлить развитие ИИ

Генеральный секретарь ООН Антониу Гутерриш призвал страны с самым передовым ИИ, в том числе США и Китай, сотрудничать и замедлить развитие технологии, пока оцениваются её риски. Он сказал это 16 сентября на пресс-конференции в Нью-Йорке накануне Недели высокого уровня Генассамблеи.

Почему это важно: замедлиться и договариваться между странами раньше предлагали сами разработчики ИИ. Теперь с тем же требованием глава ООН обращается к правительствам стран, у которых самые сильные системы.

Детали: Гутерриш сравнил нынешнее соперничество в ИИ с гонкой вооружений между США и СССР во время холодной войны. «Я считаю, что страны, обладающие наиболее передовыми возможностями в области ИИ, должны наладить взаимодействие, обмениваться информацией и выработать общие меры безопасности, чтобы избежать гонки, которая однажды может привести к катастрофе глобального масштаба», — сказал он.

Расклад: работа ООН по ИИ опирается на Глобальный цифровой договор, который страны приняли в 2024 году. Договор ввёл два механизма:

• Независимая международная научная группа по ИИ оценивает риски и возможности технологии и передаёт правительствам свои выводы.
• Глобальный диалог по управлению ИИ ежегодно собирает правительства и другие стороны, чтобы сблизить их подходы к регулированию.
• Оба механизма Генассамблея учредила в августе 2025 года: группа даёт данные, а страны в диалоге решают, какие меры принять.

Общая картина: 1 июля научная группа выпустила первый предварительный доклад. В нём сказано, что возможности ИИ быстро растут в рассуждениях, программировании и науке. Среди рисков авторы называют дезинформацию, дискриминацию, вторжение в частную жизнь, кибератаки и «сверхинтеллект», которым может быть трудно управлять.

Предыстория: незадолго до пресс-конференции глава Google DeepMind Демис Хассабис поддержал призыв главы Anthropic Дарио Амодеи замедлить развитие ИИ. Ранее, в начале сентября, главный научный сотрудник OpenAI Якуб Пахоцкий призвал договариваться о защитных мерах на международном уровне. В ООН считают, что опасения усилились и после того, как бывший исследователь Anthropic предупредил об экзистенциальной угрозе ИИ для человечества.

Что говорят: «Что касается ООН, в ближайшей перспективе это вряд ли что-то существенно изменит», — считает Тони Овеке, научный сотрудник Совета по международным отношениям¹ и бывший советник миссии Кении при ООН по цифровым вопросам. Фридерике Шюр, старший исследователь Ada Lovelace Institute², предлагает оставить ООН только проблемы, которые выходят за границы стран: «Если меры по управлению ИИ можно принять на национальном уровне, их и нужно принимать на национальном уровне».

Но: по словам Овеке, работу научной группы и диалога можно пересмотреть и, возможно, дать им больше полномочий для выработки норм только в следующем году или в 2028-м.

Что дальше: Гутерриш назвал ИИ «одной из главных тем» своих переговоров с мировыми лидерами на Неделе высокого уровня³. По данным СМИ со ссылкой на дипломатов, ИИ может обсудить и Совет Безопасности.