Создатель турнира машин-хакеров считает, что ИИ полностью изменил цену сложных кибератак
Майк Уокер из Microsoft считает, что кибербезопасность держалась на редкости сильных атак, а модели ИИ это сломали; Anthropic приводит расходы на работу своей модели, которая искала уязвимости и писала программы для взлома.
Майк Уокер, руководивший в DARPA1 первым турниром машин-хакеров, считает, что модели ИИ сломали равновесие, на котором держалась кибербезопасность: сильные атаки были редки, а их цена известна. Сейчас он ведёт проекты на стыке ИИ и киберзащиты в Microsoft Research и рассказал об этом в подкасте компании.
Цитата: «Мы пришли к довольно устойчивому равновесию: безопасность нашей сетевой цивилизации, по сути, определялась дефицитом атакующих возможностей. У сложной компьютерной атаки была известная цена, и способности моделей полностью перевернули этот расчёт». Подкаст вышел 3 ноября.
Предыстория: финал турнира, Cyber Grand Challenge, прошёл в августе 2016 года на хакерской конференции DEF CON в Лас-Вегасе. Программы без участия людей защищали свои данные и крали чужие, находя и исправляя уязвимости, а авторы могли только смотреть. В том же году Уокер сказал The New York Times, что сделать сетевые технологии безопаснее — «вызов для цивилизации». Теперь, по его словам, это верно не меньше, «возможно, даже больше»: трудно найти автомобиль или энергосистему, не подключённые к сети.
Проверили: цену отдельных находок называет Anthropic в отчёте от 7 апреля о модели Claude Mythos Preview. Вся серия из тысячи прогонов по коду открытой операционной системы OpenBSD обошлась меньше чем в 20 000 долларов. Она дала самую серьёзную из найденных там ошибок и ещё несколько десятков находок. Рабочий эксплойт2 для уже известной уязвимости в Linux, дающий права администратора, модель собрала меньше чем за сутки и меньше чем за 2 000 долларов. Для эксплойтов к известным уязвимостям компания допускает, что модель могла опираться на прежние знания.
Не факт: утверждение, что стоимость атак изменилась полностью, — оценка самого Уокера. Прежнюю цену атаки он не называет, а отдельные находки не показывают, сколько сильная атака стоит сегодня в целом.
Что говорят: исследователь Натан Ламберт 30 октября написал, что, даже окажись Mythos в открытом доступе, мир «был бы более-менее в порядке». И добавил: «Я в целом всё ещё согласен с тем, что писал несколько недель назад, но нервничаю из-за этого». По его ожиданиям, технологическим компаниям придётся перейти на новый способ работы с программами, и это обойдётся дорого. Причину он видит в распространении возможностей ИИ, а не в споре об открытых и закрытых моделях.
Но: авторы отчёта Anthropic считают возможный перевес атакующих временным. На первых порах выиграть могут нападающие, особенно если лаборатории будут выпускать такие модели неосторожно, а в долгую — защитники: они смогут исправлять ошибки ещё до выхода кода. Впрочем, «переходный период может оказаться бурным в любом случае».
Детали: машинное обучение на турнире 2016 года серьёзной роли не играло: Уокер называет его соревнованием экспертных систем, то есть программ на заранее заданных правилах. Но, по его словам, наработки не пропали: то, что тогда назвали бы экспертной системой, теперь служит обвязкой3 для моделей. В пример он приводит MDASH, которую строят участники Team Atlanta, победившей в августе 2025 года в конкурсе DARPA AIxCC4. В этой системе ищут и проверяют уязвимости более 100 агентов — программ, которые выполняют отдельные задачи с помощью разных моделей.
Между строк: в подкасте Уокер не уточняет, что MDASH — система его работодателя: в мае её представило подразделение Microsoft Security. «Модель — лишь одна из составляющих. Продукт — это система», — написали тогда её авторы. Команда самого Уокера, New Security Ventures, тоже делает средства защиты.
Если шире: деление на атаку и защиту Уокер считает условным. Программа, которая шифрует все файлы на компьютере, — либо средство шифрования, либо вымогатель, «в зависимости от того, у кого ключ». Лаборатории решают схожий вопрос о доступе по-разному: Google 28 октября объявила, что Gemini 4 Carbon первыми получат специалисты по киберзащите, а Mistral 29 октября выложила в открытый доступ веса Large 4 — файлы с обученными параметрами модели. По замерам самой Mistral, Large 4 берётся за киберзащиту без лишних отказов, и компании могут развернуть её у себя.