Проверяющие из Accenture получат в Anthropic доступ на уровне сотрудников

18 сентября Anthropic объявила, что первыми сторонними проверяющими, которые будут работать внутри компании с доступом на уровне сотрудника, станут специалисты Faculty¹ — ИИ-подразделения Accenture.

Почему это важно: внешние проверяющие обычно видят только готовую модель, а встроенные будут наблюдать, как её обучают и как решают выпускать. Стандартов для такой проверки пока нет: не решено ни что проверяющим положено видеть, ни как им сообщать о находках.

Детали: Faculty будет атаковать модели в поисках уязвимостей, оценивать выравнивание — насколько цели модели совпадают с намерениями людей — и испытывать защитные меры. Accenture помогает компаниям и правительствам внедрять ИИ, и Anthropic рассчитывает, что этот опыт пригодится при проверке.

Как это работает: по замыслу Anthropic, проверяющие будут внутри компании, а не снаружи:

• Они будут наблюдать, как модели складываются по ходу обучения, и следить за решениями о том, как их строить и выпускать.
• Они смогут напрямую говорить с сотрудниками и проверять, выполняет ли компания собственные обязательства по безопасности.
• Им поручено искать слепые зоны, сообщать об инцидентах и рассказывать публике о пользе и рисках моделей.

В цифрах:

• Anthropic и Accenture рассчитывают вложить каждая не меньше 1 млрд долларов за пять лет, чтобы подготовить людей и средства для такой проверки.
• После объявления акции Accenture выросли на 8%, пишет TechCrunch.

Предыстория: 12 сентября глава Anthropic Дарио Амодеи в эссе «We Must Pace the Frontier» призвал ИИ-компании сбавить темп, с которым растут возможности моделей. Первым шагом он пообещал пустить сторонних проверяющих внутрь Anthropic. Этот призыв поддержал глава Google DeepMind Демис Хассабис.

Что говорят: в день объявления больше 100 исследователей, среди них Джеффри Хинтон, подписали открытое письмо AI Evaluator Forum² об условиях для встроенных проверяющих. По их мнению, такие организации «не должны принадлежать передовым ИИ-компаниям или управляться ими, не должны вести с ними другой значимый бизнес и не должны получать оплату или иное вознаграждение, зависящее от их выводов». Под постом Anthropic в соцсети X появилась заметка сообщества: называть Accenture независимым проверяющим неверно, раз работу оплачивает Anthropic, а у компаний общий бизнес.

Но: Accenture — крупный деловой партнёр Anthropic. В декабре 2025 года компании создали общее подразделение Accenture Anthropic Business Group, и Accenture взялась обучить работе с Claude около 30 000 сотрудников. Работу проверяющих оплачивает сама Anthropic. Компания считает, что платить за такие проверки должны общие фонды или государство, как она предлагала в июне, но ни того ни другого пока нет.

Что дальше: договор неэксклюзивный. Других проверяющих Anthropic назовёт в ближайшие недели, а с METR³ и другими некоммерческими организациями обсуждает пилотные проверки, которые те оплатят сами. Accenture будет проверять и других разработчиков.

Anthropic настаивает, что встроенные проверяющие «не снижают нашу ответственность, а помогают сделать её более проверяемой».