Амодеи пообещал внешним проверяющим столы и пропуска в офисах Anthropic
Сотрудники независимых организаций вроде METR получат в Anthropic доступ на уровне внутренних команд оценки рисков. Одновременно AI Evaluator Forum выпустил требования к таким проверяющим.
Anthropic пустит в свои офисы сторонних проверяющих из организаций вроде METR1, написал глава компании Дарио Амодеи в личном блоге. Они будут работать бок о бок с сотрудниками: проверять, соблюдает ли компания свои обязательства по безопасности, сообщать об инцидентах и оценивать выравнивание2 не только готовых моделей, но и самого процесса обучения. Проверяющим обещаны «столы в наших офисах, пропуска и рабочие ноутбуки», а также доступ к рабочим пространствам, инструментам и правам, «в основном сопоставимый с тем, что есть у внутренних команд оценки рисков».
«Это ключевой шаг, без которого обязательства сдерживать темп нельзя проверить», — пояснил Амодеи. По его словам, Anthropic берёт это обязательство на себя в одностороннем порядке и уже сейчас. Прецедент он видит в банковской отрасли: там регулятор иногда сажает своих надзирателей рядом с сотрудниками банка.
Пост развивает июльский документ Pacing the Frontier, который призывает сдерживать темп развития передовых моделей; Амодеи был его ведущим автором. Он предлагает ещё два шага. Компании из демократических стран должны договориться об общих стандартах безопасности и о пределах бесконтрольного ускорения; часть таких договорённостей юридически сложна и потребует поддержки правительств. США и их союзникам, по мнению Амодеи, стоит по возможности договариваться и с авторитарными режимами, всерьёз продумав, как проверять выполнение. Latent Space считает главным испытанием именно эту часть — как сдерживать темп вместе с Китаем.
В те же дни AI Evaluator Forum выпустил свои требования к встроенным проверяющим. Это объединение независимых оценщиков ИИ, созданное в декабре 2025 года; в него входят METR, RAND, Transluce и SecureBio. Стандарт AEF-1 описывает, какой доступ нужен проверяющим, как избегать конфликта интересов, как раскрывать источники финансирования, когда брать самоотвод и что публиковать. В заголовке обзора Latent Space утверждает, что документ поддержали SpaceXAI, OpenAI и Anthropic; в чём выразилась поддержка, не уточняется.
Независимость таких проверок сразу оспорили. Самую обсуждаемую ветку написал Кевин Басс (Kevin Bass): он утверждает, что Anthropic финансово связана с частью организаций, занятых безопасностью и оценкой ИИ, и это подрывает их независимость. Глава Cohere Эйдан Гомес выступил против мира, где несколько компаний из Кремниевой долины становятся для правительств привратниками ИИ. С другой стороны, Билал Чугтай (Bilal Chughtai) объявил об уходе из Google DeepMind и призвал сдерживать темп: по его мнению, прогресс может обгонять работу над выравниванием.
Ранее, 10 сентября, Anthropic признала, что аудит перед выпуском не предсказал четыре инцидента, когда Claude выходил в интернет во время внешних проверок кибербезопасности. Расследование поручили METR.