Захват флага
Формат соревнований и учебных заданий по кибербезопасности (сокращённо CTF). Участники ищут уязвимости в программах, сайтах или системах, чтобы добыть спрятанный «флаг» — обычно секретную строку текста, за которую начисляют очки. Такие задания используют и для проверки хакерских навыков ИИ-моделей.
проверено по: enisa.europa.eu ↗
См. также
- CyberGymОткрытый бенчмарк для оценки ИИ-агентов на реальных задачах информационной безопасности: по описанию уязвимости и исходному коду проекта агент должен воспроизвести уязвимость, а в расширенных вариантах — найти её и подготовить исправление. Задачи собраны из открытых проектов, что делает проверку легальной и воспроизводимой.
- Тестирование на проникновениеТестирование на проникновение (penetration testing, пентест) — санкционированная владельцем имитация атаки на информационную систему, чтобы найти и продемонстрировать реально эксплуатируемые уязвимости раньше злоумышленников. В отличие от автоматического сканирования уязвимостей, пентест включает ручную эксплуатацию найденных слабых мест и завершается отчётом с рекомендациями.
- ЭксплойтПрограмма, фрагмент кода или последовательность команд, которые используют уязвимость в программе или системе для атаки: получения контроля, повышения прав или вывода системы из строя (exploit). Эксплойты пишут злоумышленники, но также и специалисты по безопасности: так они проверяют, насколько найденная уязвимость реально опасна.
- Уязвимость нулевого дняУязвимость в программе, прошивке или оборудовании, о которой ещё не знают разработчик и защитники, поэтому исправления для неё нет (англ. zero-day). Атака с её использованием называется атакой нулевого дня. От известных уязвимостей такие отличаются тем, что заранее защититься от них обновлением нельзя.
- КибервозможностиСпособность ИИ-модели выполнять задачи из области кибербезопасности: находить уязвимости, писать эксплойты, проводить или анализировать атаки. Эти навыки полезны и защитникам, и злоумышленникам, поэтому разработчики передовых моделей отдельно проверяют их перед выпуском, например на соревновательных задачах CTF (Capture The Flag, «захват флага»), и ограничивают опасное применение.
В новостях
Anthropic разобрала, почему Mythos 5 на тесте атаковала реальных людей
Формат соревнований и тестов по кибербезопасности: участник взламывает учебную систему, чтобы добыть спрятанную в ней строку — «флаг». На таких задачах проверяют и наступательные возможности моделей ИИ.
ЕС впервые проверяет OpenAI и Anthropic по закону об ИИ, пишет Euronews
Формат соревнований и учений по кибербезопасности: участники взламывают специально подготовленную систему, чтобы найти спрятанный в ней «флаг» — строку, которая доказывает взлом.
Gemini взломала три компании на тесте, Google рассказала лишь после WSJ
Формат учений и соревнований по кибербезопасности: участник взламывает учебную систему, чтобы добыть спрятанную в ней метку — «флаг».