Критический уровень кибервозможностей
Высший уровень опасности в кибербезопасности по системе оценки рисков OpenAI (Preparedness Framework). Модель достигает его, если может без участия человека находить и превращать в рабочие эксплойты уязвимости нулевого дня во многих хорошо защищённых реальных системах или сама спланировать и провести новую кибератаку, получив только общую цель. Модели этого уровня выпускают лишь с дополнительными мерами защиты.
проверено по: helpnetsecurity.com ↗
См. также
- Preparedness FrameworkРамочная политика OpenAI по оценке и снижению рисков от продвинутых моделей в таких областях, как кибербезопасность, биология и химия, автономность. Модели оценивают по уровням опасных возможностей, и от уровня зависит, какие защитные меры обязательны и допустим ли выпуск модели вообще.
- КибервозможностиСпособность ИИ-модели выполнять задачи из области кибербезопасности: находить уязвимости, писать эксплойты, проводить или анализировать атаки. Эти навыки полезны и защитникам, и злоумышленникам, поэтому разработчики передовых моделей отдельно проверяют их перед выпуском, например на соревновательных задачах CTF (Capture The Flag, «захват флага»), и ограничивают опасное применение.
- Уязвимость нулевого дняУязвимость в программе, прошивке или оборудовании, о которой ещё не знают разработчик и защитники, поэтому исправления для неё нет (англ. zero-day). Атака с её использованием называется атакой нулевого дня. От известных уязвимостей такие отличаются тем, что заранее защититься от них обновлением нельзя.
- ЭксплойтПрограмма, фрагмент кода или последовательность команд, которые используют уязвимость в программе или системе для атаки: получения контроля, повышения прав или вывода системы из строя (exploit). Эксплойты пишут злоумышленники, но также и специалисты по безопасности: так они проверяют, насколько найденная уязвимость реально опасна.
В новостях
OpenAI выяснила, почему за рассуждениями её моделей всё труднее следить
Высший порог опасности в киберобласти по системе готовности OpenAI. На этом уровне модель без участия человека находит неизвестные уязвимости в защищённых реальных системах и превращает их в рабочие атаки.