Яндекс выпустил AI-SPM — модуль, который ищет опасные настройки в ИИ-системах компаний

Yandex B2B Tech добавила в облачный сервис Yandex Security Deck модуль AI-SPM. Он ведёт учёт ИИ-ресурсов компании, непрерывно следит за ними и сам находит опасные настройки, так что ручной аудит не нужен. Цель — найти слабое место до того, как им кто-то воспользуется.

Модуль опирается на AI-SAFE 2.0. Эту методологию Yandex Cloud разработала вместе с компанией SolidLab и выложила в открытый доступ. Она связывает части ИИ-инфраструктуры — модели, данные, серверы — с их уязвимостями и подсказывает, как их закрыть. Например, как не дать подменить обучающие данные, как защитить модель от взлома подложными запросами и как не пустить посторонних. По этой методологии составлен чеклист для проверки защищённости ИИ-сред, а AI-SPM применяет его автоматически.

Над защитой ИИ Яндекс работает с SolidLab не впервые. В апреле компании вместе выпустили шлюз SolidWall AI Security Gateway: он защищает ИИ-приложения от атак и утечек данных. Новый модуль отвечает за другое: он следит не за запросами к ИИ, а за тем, как настроена сама инфраструктура.

AI-SPM — не только название модуля Яндекса, но и название целого класса продуктов для управления безопасностью и рисками в ИИ-системах. Яндекс называет свой модуль одним из первых комплексных решений класса AI-SPM на российском рынке. Сам рынок пока мал. По оценке, которую приводит компания, в 2026 году он составит от 1 до 4 млрд рублей, а к 2029–2030 годам может вырасти до 11–30 млрд. Мировой рынок средств защиты ИИ, по данным Gartner, вырастет с 2,8 млрд долларов в 2026 году до 4,8 млрд в 2027-м.