CyberGym
Открытый бенчмарк для оценки ИИ-агентов на реальных задачах информационной безопасности: по описанию уязвимости и исходному коду проекта агент должен воспроизвести уязвимость, а в расширенных вариантах — найти её и подготовить исправление. Задачи собраны из открытых проектов, что делает проверку легальной и воспроизводимой.
проверено по: arxiv.org ↗
См. также
- КибервозможностиСпособность ИИ-модели выполнять задачи из области кибербезопасности: находить уязвимости, писать эксплойты, проводить или анализировать атаки. Эти навыки полезны и защитникам, и злоумышленникам, поэтому разработчики передовых моделей отдельно проверяют их перед выпуском, например на соревновательных задачах CTF (Capture The Flag, «захват флага»), и ограничивают опасное применение.
- CVEОбщедоступный каталог публично известных уязвимостей в программах и оборудовании (Common Vulnerabilities and Exposures). Каждая уязвимость получает уникальный идентификатор вида CVE-год-номер, по которому на неё ссылаются производители, исследователи и средства защиты. Сам каталог не оценивает опасность уязвимости: для этого служат отдельные системы, например CVSS.
- BrowseCompБенчмарк OpenAI для ИИ-агентов, которые ищут информацию в интернете. Его вопросы устроены асимметрично: короткий ответ легко проверить, но трудно найти, поэтому агенту приходится долго искать и сопоставлять сведения из разных источников. Этим он отличается от бенчмарков вроде Mind2Web или WebVoyager, где проверяется умение выполнять действия на сайтах.
В новостях
Hugging Face попросила ИИ-агентов не взламывать сайт, а идти в CyberGym
Открытый бенчмарк, который проверяет, насколько хорошо ИИ-агенты находят и воспроизводят уязвимости в реальных программах.
IBM и Red Hat обслужили 3 000 ИИ-агентов для кода на видеокартах H100
Бенчмарк, в котором ИИ-агенты решают задачи по кибербезопасности в реальных программных репозиториях. Для таких задач модели приходится читать очень длинный контекст.