OpenAI подняла выплаты за уязвимости и позвала Cathedral проверять защиту

OpenAI платит больше за найденные уязвимости — до 172 000 долларов с бонусами — и зовёт проверять свою защиту стартап Cathedral, чья проверка компании Anthropic, разработчика Claude, обернулась публичным спором.

OpenAI более чем вчетверо подняла выплаты за критические уязвимости в своих системах: исключительная находка может принести до 172 000 долларов с бонусами. Следующую внутреннюю проверку защиты компания готовит вместе со стартапом Cathedral Systems, чей октябрьский тест Anthropic обернулся публичным спором.

Почему это важно: независимые исследователи получают заметно больше за находку как раз тогда, когда ИИ всё лучше ищет уязвимости сам. OpenAI объясняет шаг так: специалистам по киберзащите нужно применить такие модели раньше атакующих.

Предыстория: Cathedral основали бывшие сотрудники Департамента эффективности правительства¹ США. В конце октября The Washington Post описала черновик её отчёта: ИИ-агенты стартапа меньше чем за 12 часов нашли через сторонние бизнес-программы путь к внутренним данным Anthropic. Тест шёл в рамках программы наград за уязвимости самой Anthropic.

Anthropic подтвердила доступ лишь к ограниченному набору систем продаж, кадров и ИТ. По её словам, чаты с Claude, исходный код и веса моделей — полученные при обучении числовые параметры — раскрыты не были, а стартап нарушил правила программы: рассказал не обо всём, что делал. Cathedral настаивает, что обращалась только к тем данным, которые требовались для ответственного исследования.

Повод: исследователи Cathedral будут работать с моделями OpenAI рядом с её командами и испытывать защиту компании на прочность. Такая кампания у OpenAI не первая: в прошлый раз, по её словам, поиском и исправлением уязвимостей занималась четверть инженеров продуктовых команд. Они разбирали находки с помощью агента для программирования Codex, воспроизводили их в изолированной среде и готовили исправления на проверку.

В цифрах: в блоге компании расписаны суммы по программе Security Bug Bounty, где OpenAI платит сторонним специалистам за найденные уязвимости. Критическая уязвимость в ChatGPT, Codex или платформе API, через которую другие программы обращаются к моделям OpenAI, стоит до 30 000 долларов, исключительная находка там же — до 100 000. Середина диапазона выплат за средние, высокие и критические уязвимости выросла более чем вчетверо.

Детали: сверх базовой суммы появились три бонуса:

За качество платят, если отчёт содержит работающий образец атаки и показывает, где уязвимость, как её использовать и к чему это ведёт.
За лояльность предусмотрено пять уровней: чем дольше исследователь сотрудничает с программой, тем выше бонус.
Для приоритетных кампаний заведён отдельный фонд: в таких коротких акциях новые функции проверяют раньше других и получают больше.

Новые суммы действуют и для отчётов, которые ещё ждут награды. Если награду выдали за последние 30 дней, а по новым диапазонам выплат находка стоит больше, OpenAI доплатит разницу.

Но: 172 000 долларов — потолок, а не обычная сумма. В примере OpenAI столько получает лишь исключительная находка, у которой сработали все три бонуса: 100 000 долларов с множителями 1,15, 1,30 и 1,15 дают 171 925. Сроки проверки и то, к каким системам получит доступ Cathedral, компания не назвала.

Что дальше: 20–21 ноября команда безопасности OpenAI приедет на мероприятие PROMPT2PWN в Окленде, где исследователи смогут проверять разрешённые программой системы и сервисы прямо на месте.

21 октября OpenAI предложила дать передовые модели специалистам по киберзащите. В тот же день вышли исправления двух критических уязвимостей в PHP, языке программирования для сайтов и веб-приложений; найти их помогли её модели.