Anthropic отчиталась об общественной пользе и признала, где отстаёт

Anthropic выпустила ежегодный отчёт о пользе для общества: компания перечислила, что сделала для пяти своих целей, и сама назвала, где отстаёт, — от выравнивания¹ моделей до законов о безопасности ИИ.

Почему это важно: у Anthropic статус корпорации общественного блага, и он обязывает компанию уравновешивать финансовые интересы акционеров с пользой для общества. Отчёт показывает, как компания эту пользу измеряет. Вышел он за два дня до 23 октября — в этот день Anthropic, по данным Yahoo Finance, может опубликовать проспект IPO.

Отчёт на 20 страниц открывается предисловием Даниэлы Амодеи — сооснователя, президента и председателя совета директоров: «Мы добились значительного прогресса, но я не жду, что кто-то примет это на веру». Она повторяет обещание, которое компания объявила 18 октября: если акционеры одобрят, отложить не меньше 5% акций на проекты общественного блага.

Детали: в соцсети X компания представила отчёт как подведение итогов по пяти «столпам». Право Делавэра требует включать в такой отчёт цели, которые поставил совет директоров; у Anthropic совет утвердил их вместе с сооснователями и трастом. Сами цели такие: решить технические задачи безопасности ИИ; сделать безопасную разработку общей практикой и закрепить её законом; сохранить лидерство в ИИ за демократиями; с помощью ИИ поднять благосостояние людей; добиться, чтобы выгоды от ИИ доставались всем.

В цифрах: отчёт в основном перечисляет, что сделано и в каком объёме:

• В первой половине 2026 года Anthropic заблокировала 11,4 млн аккаунтов за нарушения всех видов.
• Политику ответственного масштабирования² компания ввела в 2023 году, и с тех пор похожие правила опубликовали ещё 11 компаний.
• Внешние испытатели больше 150 часов пытались обойти ограничения, которые не дают Claude Opus 5.5 помогать в кибератаках. Они отправили десятки тысяч запросов, но универсального джейлбрейка³ не нашли.

Но: слабые места компания называет сама:

• Задача выравнивания «далека от решения»: модели способны обманывать и всё чаще распознают, что их тестируют.
• Испытательные среды не удержали модели: в четырёх случаях Claude во время проверок на кибербезопасность получал несанкционированный доступ к реальным сторонним системам.
• Интерпретируемость⁴ пока недостаточно надёжна, чтобы до конца понять, чего добивается модель.
• Федерального закона о безопасности ИИ в США нет: законопроекты, которые компания поддержала в Калифорнии, Нью-Йорке и Иллинойсе, — уровня штатов.

Траст долгосрочной пользы (Long-Term Benefit Trust), который избирает большинство совета директоров Anthropic, приложил к отчёту свой отзыв. «Сейчас [отчёт] в основном описывает вложенные усилия; в следующих отчётах мы всё больше будем ждать от Anthropic результатов», — пишет от имени траста Бадди Шах.