В симуляции Стэнфорда скрытые задачи тестов не всегда сблизили баллы ИИ-моделей с их пользой

Скрытые задачи бенчмарков¹ чаще сближают баллы моделей с реальной пользой для клиентов, но не всегда: в симуляции рынка ИИ, построенной в Стэнфорде, на трёх тестах из 13 расхождение выросло. Статья группы Санми Койеджо (Sanmi Koyejo) вышла 7 октября.

Почему это важно: Закрытые наборы задач — частое средство против подгонки моделей под тесты, так устроены ARC-AGI² и рейтинги SEAL компании Scale AI. По расчётам авторов, скрытность сама по себе точного балла не гарантирует.

Как это работает: Исследователи собрали модель рынка, где один ход равен месяцу, а прогон длится 40 месяцев:

• За шесть вымышленных разработчиков моделей, регулятора и четыре типа инвесторов решает языковая модель, в основном Claude Sonnet 4.6.
• Имена выдуманы, чтобы модель не опиралась на репутацию настоящих компаний: за Orion Labs стоит OpenAI, за Apex AI — Anthropic, за OpenCore — DeepSeek.
• Организация, которая проводит тесты, СМИ и 51 группа клиентов действуют по жёстким правилам.
• Клиенты довольны настолько, насколько модель на деле умеет нужное им, а эти настоящие возможности не видит никто из участников.

Расклад: Набор из 13 бенчмарков с самого начала смещён относительно нужд клиентов — так его задали авторы по образцу тестов 2023 года:

• Рассуждениям тесты в среднем отдают 26% балла, хотя в нуждах клиентов на них приходится 18%.
• Общению с пользователем тесты отдают 17%, хотя в начале прогона клиентам оно важно на 27%.
• Поэтому разработчик, который гонится за баллами, вкладывается не в те навыки, что нужны клиентам.

В цифрах: Вот что изменилось, когда все тесты стали закрытыми:

• Разрыв между баллом и удовлетворённостью клиентов сократился на 10 бенчмарках из 13.
• На трёх он вырос: в следовании инструкциям, клинических и юридических рассуждениях.
• Рост повторился во всех 10 прогонах с Claude Sonnet 4.6 и почти во всех прогонах, где вместо языковой модели решали простые правила.
• Проверка на Claude Opus 4.6 и GPT-5.5, по три прогона на каждой, дала ту же картину.

Детали: Тест клинических рассуждений в симуляции проверяет прежде всего знания. Но весь набор тестов делает упор на рассуждения, разработчики вкладываются в них, и к концу прогона модели сильнее в рассуждениях, чем в знаниях. Закрытая версия засчитывает навыки в чуть других пропорциях и переносит часть балла на рассуждения: балл растёт, а пользы клиентам не прибавляется.

«Бенчмарк, который формально проверяет медицинские рассуждения, в итоге вознаграждает модели, сильные в рассуждениях», — пишут авторы.

Интрига: Какие тесты пострадают, зависит от остального набора. Если с первого месяца в нём есть тест на отраслевую экспертизу, разрыв на клинических и юридических тестах не растёт ни в одном прогоне на правилах, а на следовании инструкциям растёт во всех проверенных наборах — поэтому, по выводу авторов, нейтрального набора бенчмарков не бывает.

Но: Выводы симуляции ограничены её устройством:

• Авторы называют симуляцию генератором гипотез, а не прогнозом реального рынка.
• Веса навыков в тестах и нужды клиентов они задали сами, а на реальных рейтингах вывод пока не проверяли.
• Чем закрытая версия теста отличается от открытой — утечкой задач в обучение или иначе составленными задачами, — симуляция не различает.

Если шире: На той же симуляции авторы прикинули, что будет, если организация, которая проводит тесты, продаёт разработчикам дополнительные попытки и ранний доступ к новым тестам. Похожий случай был в реальности: перед выходом Llama 4 Meta* закрыто проверила на Arena³ 27 вариантов модели. В симуляции с языковой моделью этот сценарий прогнали всего дважды: оба раза разрыв между баллом и пользой немного вырос, но для вывода этого мало.

Что дальше: Код симуляции открыт на GitHub, и авторы предлагают испытать на ней другие решения. Например, обязать разработчиков раскрывать, куда они направляют разработку и что показали их внутренние тесты. Или поручить регулятору проверять, выполняют ли разработчики добровольные обязательства по безопасности. Ещё одна тема — бенчмарки, которые спонсируют сами разработчики моделей.