За двое суток раскрыли уязвимости в PHP и GitLab, а хакеры применили ИИ-агентов

Только за 21 и 22 октября раскрыли больше десятка критических уязвимостей и взломов — от самого языка PHP до центра сертификации¹ eMudhra, — и в части из них участвовал ИИ. Рассылка AINews издания Latent Space назвала эту волну «чёрным октябрём».

Почему это важно: ИИ ускорил поиск уязвимостей, и, по оценке AINews, специалисты по киберзащите за ним не поспевают. По данным, которые приводит инвестор Сара Го, с апреля число новых записей в реестре CVE² выросло примерно с 4 тыс. до 15 тыс. в месяц.

Повод: опасные уязвимости нашлись в широко используемых программах:

• В самом PHP нашли две связанные уязвимости, которые называют PHP2Shell: они позволяют без входа в систему запустить свой код на сервере.
• GitLab раскрыла уязвимость с высшей оценкой опасности, 10 из 10: она есть в версиях, выпущенных с 2014 года, и исправлена в 19.5.1.
• Node.js закрыл уязвимость в распаковщике формата Brotli, через которую тоже можно запустить чужой код.

Детали: под угрозой оказались пароли, ключи и данные пациентов:

• В версию 1.107.0 библиотеки LiteLLM, через которую разработчики подключаются к разным моделям, попала программа для кражи паролей.
• Облачная платформа Railway попросила клиентов сменить секретные ключи: они могли попасть к посторонним.
• Платформа для запуска приложений Zeabur закрывается после взлома 321 810 аккаунтов.
• Сеть лабораторий Quest Diagnostics, которая обслуживает около половины больниц и врачей США, сообщила, что данные пациентов оказались в открытом доступе.

Интрига: ключи индийского центра сертификации eMudhra оказались настолько слабыми, что один из них, по сообщениям, был просто числом 4. Исследователь утверждает, что Claude вычислил их по одному запросу. eMudhra уходит из этого бизнеса. Чтобы программы на Python перестали доверять её сертификатам, пользователям советуют обновить установщики пакетов pip и uv, пакет корневых сертификатов и системные хранилища сертификатов.

Расклад: атакующие уже используют ИИ-агентов:

• Microsoft считает, что атаку через программы компании ConnectWise провела связанная с Китаем группировка Storm-0940. Она применила открытый агентный фреймворк ARTEX для тестирования на проникновение³ против более чем 2 250 облачных сред клиентов Microsoft 365.
• Агенты делали около 2 900 попыток входа в минуту и в отдельных случаях получали расширенные права доступа меньше чем за три часа.
• CrowdStrike описала четырёх операторов кампаний с ИИ-агентами; один из них атаковал минимум 15 медицинских организаций Аргентины.

Если шире: Axios пишет, что крупные банки США находят в учётных записях клиентов сторонних ИИ-агентов, которых банки не допускали. Некоторые из этих агентов, похоже, выходят за рамки указаний пользователя. Сенатор Адам Шифф призвал ввести обязательные для всей отрасли ограничители ИИ.

Что говорят: «Станет гораздо хуже, прежде чем станет лучше», — пишет Джейсон Клинтон, заместитель директора по информационной безопасности Anthropic. Костин Райю, сооснователь фирмы по расследованию инцидентов TLP:Black, следующим шагом называет «массовый взлом всех уязвимых веб-серверов в интернете».

Другая сторона: скептики считают, что это прежде всего волна раскрытий, а не атак:

• По словам исследователя OpenAI Джошуа Ачиама, из примерно 16 крупных инцидентов на этой неделе произошло лишь около четырёх; остальные нашли раньше, а раскрыли только сейчас.
• Стелла Бидерман из EleutherAI⁴ называет дезинформацией рассказы о том, что атакующие берут верх над защитой: по её словам, уязвимости нашли при проверке, которую вели ради защиты, а признаков массового использования уязвимостей нет.
• Аналитик Питер Уайлдфорд считает агентов в учётных записях клиентов банков не взломом и не вышедшим из-под контроля ИИ, а помощниками, которых допустили сами клиенты, но не банки.

Но: спорят и о том, чья модель первой нашла уязвимости PHP. В августе их независимо нашли две команды с моделями OpenAI и Google и держали в секрете до исправления в среду. Однако PHP Foundation говорит, что ещё раньше проверяла PHP с помощью Claude Mythos; нашла ли та эти уязвимости, фонд не пишет.

Что дальше: Клинтон считает, что специалистам по киберзащите нужно продержаться около 18 месяцев, прежде чем станет лучше. Он советует руководителям служб безопасности уже сейчас просить у советов директоров деньги на базовую защиту.