Загрязнение данных
Ситуация, когда задания или ответы оценочного теста попали в обучающие данные модели (benchmark/data contamination). Тогда высокий балл отражает запоминание, а не способность решать новые задачи, и завышает оценку модели. С этим борются закрытыми, регулярно обновляемыми наборами заданий и проверками на пересечение с обучающим корпусом.
проверено по: arxiv.org ↗
См. также
- БенчмаркСтандартный набор задач с заранее заданными метриками и правилами оценки (benchmark), на котором сравнивают модели и методы. Все участники проверяются на одних и тех же данных, поэтому результаты можно воспроизвести и честно сопоставить. В отличие от внутренних тестов компании, бенчмарки обычно открыты и служат общей мерой для всей отрасли.
- ПредобучениеПервый и самый ресурсоёмкий этап обучения нейросети, прежде всего большой языковой модели (pre-training). На нём модель учится на огромном массиве неразмеченных данных решать общую задачу, например предсказывать следующий токен в тексте. В результате получается базовая модель с общими знаниями и навыками, которую затем приспосабливают к конкретным задачам и нужному поведению дообучением.
В новостях
Передовые модели не набрали и половины в новом тесте на подсчёт предметов
Ситуация, когда задания теста попали в обучающие данные модели. Тогда модель может воспроизводить запомненные ответы, и результат теста завышает её настоящие способности.
Latent Space выяснил, что ИИ-модели советуют агентов для кода своих компаний
Ситуация, когда вопросы проверки или ответы на них попали в обучающие данные модели. Результат тогда отражает запоминание, а не реальные предпочтения или способности модели.