Сулейман подписал декларацию, которая требует запретить разработку сверхинтеллекта до консенсуса
Глава Microsoft AI Мустафа Сулейман подписал Pro-Human AI Declaration. Она требует запретить сверхинтеллект, пока учёные не сочтут его безопасным, и ввести уголовную ответственность руководителей за вред от ИИ. Часть пунктов, по его словам, спорная.
«Много очень хороших предложений», — так Мустафа Сулейман, глава Microsoft AI, отозвался о Pro-Human AI Declaration, которую он подписал. Оговорку он тоже сделал: некоторые пункты ещё стоит обсудить, но в целом, по его мнению, декларация движется в верном направлении. Сулейман назвал её двухпартийной и призвал всех прочитать текст.
Декларация появилась в марте 2026 года. На её сайте среди подписантов названы Йошуа Бенджио, бывший советник Трампа Стив Бэннон, бывшая советница Обамы по нацбезопасности Сьюзан Райс и консервативный телеведущий Гленн Бек. Всего там перечислены более 900 человек и 313 организаций. Авторы поста, на который ответил Сулейман, пишут, что подписей уже больше миллиона. Их лозунг — «делать инструменты, а не существ, и оставить людей главными».
Требования в документе жёсткие. Разработку сверхинтеллекта предлагают запретить, пока учёные не сойдутся во мнении, что его можно создать безопасно и под контролем, и пока его не поддержит общество. У мощных систем должна быть кнопка выключения. Им нельзя уметь копировать себя, самостоятельно улучшаться, сопротивляться отключению или управлять оружием массового поражения. За автономными системами должен следить независимый надзор, а не сама отрасль.
Большой блок посвящён людям, особенно детям. Чат-боты предлагают проверять перед выпуском, как лекарства: не усиливают ли они суицидальные мысли и психические расстройства. ИИ должен всегда признаваться, что он не человек. Сгенерированный контент нужно помечать. Системам не должны давать статус юридического лица. Разработчики должны отвечать по закону за дефекты и слабые меры безопасности. Для руководителей, чьи системы нанесли катастрофический вред или нацелены на детей в нарушение запретов, предлагают уголовную ответственность.
К декларации приложено отдельное заявление профсоюзного объединения AFL-CIO. Оно добавляет требования о правах работников и защите авторского права.
Подпись Сулеймана выглядит логично. На прошлой неделе Microsoft AI опубликовала проект кодекса поведения для своих моделей, и один из его пунктов — не мешать людям себя отключать. Какие именно пункты декларации он считает спорными, Сулейман не уточнил.