Яндекс выпустил инструмент, который ищет опасные настройки в ИИ-системах

Yandex B2B Tech, подразделение Яндекса для бизнеса, добавила в облачный сервис безопасности Yandex Security Deck модуль AI-SPM¹, который сам находит ИИ-системы компании и ищет в них опасные настройки.

Почему это важно: компании, которые запускают свои модели и ИИ-приложения, могут следить за их защитой постоянно, а не только во время ручного аудита. По словам Яндекса, это одно из первых комплексных решений такого класса на российском рынке.

Детали: модуль составляет перечень ИИ-активов компании, непрерывно следит за инфраструктурой и проверяет её по стандартам защищённости ИИ-сред. Сам Security Deck Yandex Cloud запустила в 2024 году: он ищет уязвимости, лишние права доступа и риски утечек в облаке.

Как это работает: в основе модуля — методика AI-SAFE 2.0, которую Yandex Cloud разработала вместе с SolidLab² и открыла для всех. Она связывает модели, данные и серверы с их уязвимостями и подсказывает меры защиты, например:

• Как не дать злоумышленнику подменить данные, на которых обучается модель.
• Как защитить модель от взлома через поддельные запросы.
• Как закрыть доступ к ИИ-системе посторонним.

По этой методике составлен и чеклист для оценки рисков — его модуль применяет автоматически.

В цифрах: Яндекс приводит оценки рынка средств защиты ИИ:

• По данным Gartner, мировой рынок вырастет с 2,8 млрд долларов в 2026 году до 4,8 млрд долларов в 2027-м.
• Российский рынок в 2026 году оценивается в 1–4 млрд рублей, а к 2029–2030 годам может дорасти до 11–30 млрд рублей.

Но: цену модуля и условия подключения компания не назвала.