Словарь
Ограничитель
Ограничители (guardrails) — защитные механизмы вокруг ИИ-модели: правила, фильтры и отдельные классификаторы. Они проверяют запросы и ответы и блокируют или изменяют опасное и недопустимое содержимое. В отличие от обучения самой модели безопасному поведению, ограничители обычно работают как отдельный слой до и после модели. Они могут ошибаться и отклонять законные запросы.