Anthropic открыла код FlashProve для проверки, какая модель ответила

Anthropic представила FlashProve и открыла её код: система позволяет проверить, какая ИИ-модель дала ответ, сохраняя её числовые параметры в тайне.

Почему это важно: такие доказательства могут выявлять подмену обещанной модели более дешёвой или вмешательство в ответы после взлома сервера. Независимым проверяющим они позволяют удостовериться, что клиенты получают ту же модель, которую проверяли на безопасность.

Как это работает: поставщик заранее публикует криптографический идентификатор, который закрепляет конкретный набор параметров модели. Затем к ответу добавляется доказательство того, что каждый проверяемый токен — фрагмент текста — совпадает с наиболее вероятным продолжением по расчётам версии модели, использующей только целые числа. Это не гарантирует совпадения всего ответа с результатом вычислений с плавающей точкой или генерации со случайным выбором продолжения, уточняет Anthropic. Пользователь проверяет доказательство за секунды на обычном процессоре, не получая доступа к параметрам и не запуская модель повторно.

В цифрах: авторы приводят результаты испытаний прототипа:

• Использована языковая модель Llama 4 Maverick с 400 млрд параметров, представленных в 4-битном формате.
• Доказательства строились на одной NVIDIA H100; длина контекста ограничена 1 024 токенами — фрагментами текста.
• При обработке группы из 24 запросов скорость составляет около 110 входных токенов в секунду.
• Доказательство для запроса длиной 1 024 токена занимает около 19 МБ.

Но: создание доказательств требует примерно в 70–95 раз больше времени видеокарты, чем обработка такого же входного текста через vLLM — распространённую библиотеку для запуска моделей. Доказательства строятся после генерации ответа: система проходит по уже готовому тексту параллельно, как при обработке входного запроса. Замеры относятся к этому проходу; FlashProve использует на этом этапе целочисленные вычисления. Описание Anthropic.

Детали: по описанию Anthropic, Claude помогла построить систему, найдя новые способы применения известных криптографических методов. Компания признаёт, что решения Claude в сложных системах бывает трудно оценить, поэтому основные математические гарантии протокола формально доказали в Lean 4 — языке для проверки доказательств. В комплект вошли два средства проверки: быстрое на C++ и формально проверенное на Lean.

Условие: идентификатор параметров нужно заранее получить от доверенной стороны, а не от проверяемого сервера. Доказательство подтверждает соответствие ответа именно этому идентификатору. При этом FlashProve скрывает параметры модели, но не её архитектуру.

В соцсети X Anthropic предположила, что дальнейшее развитие таких доказательств станет важной частью укрепления доверия к ИИ. Код, формальные доказательства и документация открыты под лицензией Apache 2.0. Сама компания называет работу промежуточным результатом исследований: репозиторий не сопровождается и не принимает сторонние доработки.