Кибервозможности
Способность ИИ-модели выполнять задачи из области кибербезопасности: находить уязвимости, писать эксплойты, проводить или анализировать атаки. Эти навыки полезны и защитникам, и злоумышленникам, поэтому разработчики передовых моделей отдельно проверяют их перед выпуском, например на соревновательных задачах CTF (Capture The Flag, «захват флага»), и ограничивают опасное применение.
проверено по: frontiermodelforum.org ↗
См. также
- Захват флагаФормат соревнований и учебных заданий по кибербезопасности (сокращённо CTF). Участники ищут уязвимости в программах, сайтах или системах, чтобы добыть спрятанный «флаг» — обычно секретную строку текста, за которую начисляют очки. Такие задания используют и для проверки хакерских навыков ИИ-моделей.
- CyberGymОткрытый бенчмарк для оценки ИИ-агентов на реальных задачах информационной безопасности: по описанию уязвимости и исходному коду проекта агент должен воспроизвести уязвимость, а в расширенных вариантах — найти её и подготовить исправление. Задачи собраны из открытых проектов, что делает проверку легальной и воспроизводимой.
- Preparedness FrameworkРамочная политика OpenAI по оценке и снижению рисков от продвинутых моделей в таких областях, как кибербезопасность, биология и химия, автономность. Модели оценивают по уровням опасных возможностей, и от уровня зависит, какие защитные меры обязательны и допустим ли выпуск модели вообще.
- Trusted AccessПрограмма OpenAI, которая открывает проверенным организациям доступ к особо мощным моделям и возможностям. Условие — строгая проверка заказчика и его личности (принцип «знай своего клиента»). Самое известное направление — Trusted Access for Cyber: через него специалисты по кибербезопасности получают модели для защитной работы с меньшими ограничениями. Через эту же программу компания в первую очередь выдаёт доступ к отраслевым продуктам, например юридическим фирмам.
В новостях
DeepSeek и Moonshot учили модели на ответах GPT-6 Astra от OpenAI, пишет The Information
Способности модели в задачах кибербезопасности: находить уязвимости, писать эксплойты, проводить атаки на компьютерные системы или отражать их.