Бэкдор
Скрытый механизм в программе, устройстве, алгоритме или модели машинного обучения (backdoor). Его намеренно закладывает разработчик или злоумышленник, чтобы обходить обычную защиту, получать тайный доступ к системе или менять её поведение при особом условии — триггере. В машинном обучении так называют поведение, тайно внедрённое в модель (например, через отравление обучающих данных): оно проявляется только при заданном сигнале на входе. Этим бэкдор отличается от обычной уязвимости, которая возникает по ошибке.
проверено по: ru.wikipedia.org ↗
В новостях
Claude выяснила, откуда АНБ взяло числа для стандарта цифровой подписи
Скрытая лазейка в программе, алгоритме или устройстве, через которую тот, кто о ней знает, может обойти защиту.
Исследователи спрятали в модели способность, которую не выявляют проверки
Скрыто встроенный в программу или модель механизм, который меняет её поведение при особом условии — например, при секретном слове на входе. О нём знает только тот, кто его заложил.