Словарь
Мониторинг цепочки рассуждений
Способ контролировать безопасность моделей рассуждений (chain-of-thought monitoring). Отдельная автоматическая система, часто другая языковая модель, читает промежуточные записи модели перед ответом или действием и отмечает признаки нежелательного поведения: обмана, скрытых целей, взлома вознаграждения. Метод работает, только пока рассуждения понятны человеку и честно отражают ход решения, поэтому исследователи называют эту возможность хрупкой.