Salesforce дополняет систему надзора за ИИ-агентами проверкой и лимитами расходов
Salesforce уже даёт компаниям блокировать запросы к моделям сверх бюджета и вручную отключать ИИ-агентов, а проверку агентов на любых платформах откроет в ноябре в бета-версии.
Salesforce добавила в Agent Fabric, свою систему надзора за ИИ-агентами компаний, жёсткие лимиты, которые блокируют запросы к моделям сверх бюджета, а постоянную проверку агентов в работе откроет в бета-версии в ноябре.
Почему это важно: агенты могут ошибаться и тратить деньги на токены незаметно для владельцев, а на реальных запросах их проверяет, по отчёту LangChain1, меньше половины компаний, у которых есть агенты. Новая проверка следит за агентами, на какой бы платформе их ни построили, а не только за агентами Salesforce.
Предыстория: MuleSoft, платформа Salesforce для связи корпоративных программ, запустила Agent Fabric в сентябре 2025 года. Система ведёт общий каталог агентов компании и распределяет между ними задачи. По данным Salesforce, через неё проходит больше 1,2 млрд запросов в день.
Как это работает: инструмент Agent Evals составляет тесты для агента ещё до запуска, а затем постоянно проверяет агентов, модели и MCP-серверы2 уже в работе.
- Если качество падает ниже заданного порога, система запускает заранее выбранную реакцию, вплоть до отключения агента.
- Когда правила компании требуют участия человека, отключение ждёт его одобрения.
- Родственный инструмент API Evals сам пишет тесты по описанию программного интерфейса и ещё до выпуска ловит изменения, которые его сломают.
Детали: в примере Salesforce ритейлер перевёл агента, который отвечает на вопросы клиентов о заказах, на модель подешевле, и тот стал неверно сообщать о задержанных заказах.
- Плановые тесты заметили ошибки, и система попросила разрешения изолировать агента.
- После одобрения агента сняли с работы, а команда переписала его инструкции на случай задержек.
- Агент снова прошёл тесты на той же дешёвой модели и вернулся к клиентам.
Расклад: все инструменты для контроля расходов уже доступны:
- FinOps Dashboard собирает все траты компании на ИИ на одном экране для тех, кто отвечает за бюджет.
- Model Wallet задаёт жёсткий потолок и блокирует запросы, которые вывели бы расходы за бюджет.
- Правила экономии Cost Optimization Policies повторно используют ответы на похожие запросы, сжимают передаваемые данные и урезают ответы моделей.
В цифрах: по тестовым сценариям Salesforce, правила экономии сокращают расход токенов максимум на 75%.
Что дальше: остальное Salesforce выпустит к январю 2027 года.
- Бета-версии Agent Evals и API Evals выйдут в ноябре 2026 года, а для всех клиентов они откроются в январе 2027-го.
- Custom Agent Scanner находит агентов, модели и MCP-серверы во внутренних сетях компании и на чужих платформах и заносит их в каталог; из бета-версии он выйдет в январе 2027 года.
- В январе 2027 года появится версия аварийного выключателя агентов, которая срабатывает сама; обычный выключатель уже доступен.
Но: цену новых инструментов Salesforce не назвала.
«Сегодня заметить неверный ответ или скачок расходов — одна задача, а остановить их — другая», — сказал Эндрю Комсток, старший вице-президент Salesforce, который руководит MuleSoft и Agent Fabric.