Глава Microsoft AI подписал декларацию за контроль людей над ИИ

Мустафа Сулейман, глава Microsoft AI¹, подписал Pro-Human AI Declaration. Декларация требует держать ИИ под контролем людей и не разрабатывать сверхинтеллект², пока не доказано, что это безопасно. Сулейман подтвердил подпись 21 сентября в соцсети X: он процитировал пост о ней.

Почему это важно: декларация предъявляет требования ИИ-компаниям, а подписал её человек, который руководит разработкой моделей в одной из крупнейших таких компаний.

Повод: «Много очень хороших предложений в этой двухпартийной гуманистической декларации. Какие-то ещё стоит обсудить, но в целом направление верное», — написал Сулейман и призвал всех прочитать документ.

Детали: в декларации 33 принципа в пяти разделах: от контроля над ИИ и запрета монополий до защиты детей и ответственности компаний. Среди них:

• Разработку сверхинтеллекта нужно запретить, пока учёные широко не согласятся, что его можно создать безопасно и под контролем, а общество это не поддержит.
• У мощных систем должен быть выключатель, а сами они не должны уметь копировать себя, самостоятельно совершенствоваться и сопротивляться отключению.
• Чат-боты, как лекарства, должны до выпуска проходить проверку: не усиливают ли они суицидальные мысли и психические расстройства.
• Руководителей, которые отвечают за запрещённые системы для детей или за катастрофический вред, предлагают наказывать в уголовном порядке.

Расклад: декларацию выпустила в марте 2026 года коалиция, которую собрал Future of Life Institute³. На сайте документа перечислены более 900 подписавших и 313 организаций. Среди них лауреат премии Тьюринга Йошуа Бенджио, бывшая советница президента США по национальной безопасности Сьюзан Райс, консервативные публицисты Стив Бэннон и Гленн Бек. Всего, по словам сторонников декларации, подписей больше миллиона.

Если шире: профсоюзное объединение Американская федерация труда — Конгресс производственных профсоюзов⁴ приложило к декларации своё заявление. В нём оно требует расширить право на коллективные переговоры и дать работникам голос в разработке ИИ.

В цифрах: на сайте декларации приведён опрос 1 004 вероятных избирателей в США. Опрошенные выбирали между контролем людей над ИИ и скоростью его развития, и контроль выбрали в восемь раз чаще.

Интрига: с ноября 2025 года Сулейман руководит в Microsoft AI командой MAI Superintelligence. По его словам, она строит «гуманистический сверхинтеллект» — ИИ, который всегда работает на людей.

Предыстория: 15 сентября Microsoft AI вынесла на обсуждение кодекс для своих моделей. В нём контроль человека важнее выполнения задачи, а сознания у ИИ нет. Часть пунктов совпадает с декларацией, например запрет сопротивляться отключению.

Но: какие пункты декларации стоит обсудить, Сулейман не уточнил.