Сотрудников центра проверки ИИ попросили отчитываться перед Белым домом, пишет AP
По данным AP, у американского госцентра проверки передовых ИИ-моделей нет постоянного руководителя и он перестал публиковать часть отчётов, а его сотрудников попросили неформально отчитываться перед Белым домом.
Сотрудников CAISSI, центра при Министерстве торговли США, который проверяет передовые ИИ-модели, недавно попросили неформально отчитываться перед одним из подразделений Белого дома. Об этом Associated Press рассказали два бывших чиновника, которые знают о продолжающихся обсуждениях. На конкретные вопросы о центре Белый дом не ответил.
Почему это важно: с этим центром OpenAI, Anthropic, Google DeepMind, Microsoft и SpaceXAI заключили добровольные соглашения о проверке своих моделей до выпуска. Формально центр — самостоятельное подразделение министерства. Критики, которых цитирует AP, опасаются, что решения о рисках вроде кибератак и биологического оружия станут политическими, а выводы центра будут смягчать или замалчивать в угоду индустрии.
Предыстория: при Байдене центр создали как Институт безопасности ИИ. В 2025 году администрация Трампа убрала «безопасность» из его названия, а недавно центр переименовали ещё раз — в Центр продвижения инноваций и стандартов в области сверхинтеллекта. По словам AP, «сверхинтеллектом» Трамп предпочитает называть искусственный интеллект.
Детали: постоянного руководителя у центра нет с июля. В апреле Белый дом убрал директора Коллина Бернса через четыре дня после назначения. По данным The Washington Post, причиной стало то, что раньше он работал в Anthropic. Его преемник Крис Фолл ушёл в отставку через три месяца. С тех пор центром временно руководит Арвинд Раман — директор Национального института стандартов и технологий1, в который центр входит.
Общая картина: часть отчётов о проверках моделей центр не публикует с лета. В июне The Wall Street Journal писала, что национальный кибердиректор Белого дома Шон Кэрнкросс велел прекратить их публикацию из соображений национальной безопасности. В конце июня сенатор Тед Бадд в письме Белому дому призвал возобновить публикацию исследований центра о передовых моделях. При этом 17 сентября центр опубликовал оценку того, насколько хорошо китайская модель GLM-5.3 от Z.ai находит уязвимости в программах и пишет код для их взлома.
В октябре The Information сообщила, что трое руководителей центра перейдут в Белый дом и будут подчиняться Кэрнкроссу и Майклу Крациосу, директору Управления научно-технической политики2. По данным издания, министр торговли Говард Лютник ещё весной пригласил обоих вместе управлять центром. Какое подразделение Белого дома имеют в виду источники AP, агентство не уточняет.
В цифрах: центру выделяют 10 млн долларов в год. AP пишет, что это примерно восьмая часть бюджета британского института безопасности ИИ.
Что говорят: Амос То, старший юрист Центра Бреннана3, считает, что администрация подаёт решения о безопасности ИИ-моделей как вопрос национальной безопасности, где нужны секретность и усмотрение исполнительной власти. «В конечном счёте все эти решения очень важны для общества, их нужно объяснять и обосновывать публично. А этого не происходит», — сказал он AP.
«У государственных проверяющих неясная задача, если крупнейшим ИИ-компаниям тоже предлагают строить собственные системы оценки или нанимать внешних проверяющих», — считает Логан Кёпке из Upturn, некоммерческой организации, которая занимается технологиями и гражданскими правами.
Другая сторона: другие собеседники AP считают, что, оказавшись ближе к Трампу, центр может получить больше влияния, а возможно, и денег. При этом сам Трамп, по словам AP, внешне держится от вопросов безопасности ИИ в стороне.
В заявлении для AP Белый дом говорил не о центре, а о Super Intelligence Force — новой структуре, которая, по словам Трампа, должна сохранить за США первенство в разработке ИИ. Трамп официально её учредил и поставил во главе директора национальной разведки Джея Клейтона. Кроме того, президент заказал своему совету советников по науке и технологиям доклад о рисках.