Сэм Альтман выступил в Совбезе ООН с речью о контроле человека над ИИ

Глава OpenAI Сэм Альтман 23 сентября выступил перед Советом Безопасности ООН. Он говорил о безопасности ИИ, о том, как сохранить контроль человека над такими системами, и о международном сотрудничестве, говорится в блоге компании.

Заседание прошло во время недели высокого уровня Генеральной Ассамблеи ООН¹, председательствовала на нём Франция. Как пишет в соцсети X автор ИИ-дайджеста Кирен Дэй, это первое заседание Совбеза, посвящённое безопасности передового ИИ и риску потерять над ним контроль.

Альтман выступал лично. Глава Anthropic Дарио Амодеи подключился по видеосвязи. Среди докладчиков были также исследователь ИИ Йошуа Бенджио и глава Hugging Face² Клеман Деланг.

Перед выступлением аккаунт рыночных сводок Walter Bloomberg, не связанный с агентством Bloomberg, сообщил, что Альтман собирается призвать к общим мировым стандартам безопасности ИИ. При этом, по данным аккаунта, он хочет избежать ограничений, которые могут замедлить инновации. OpenAI, по тем же данным, не поддерживает идею какого-то конкретного международного регулятора и предпочитает базовые стандарты безопасности и демократический надзор.

Ранее, 18 августа, OpenAI запустила программу для государственных надзорных органов. Она должна помочь им проверять, как сами ведомства применяют ИИ в сфере национальной безопасности. Госорганам компания обещала инструменты, обучение и экспертизу.