Словарь
Зонд
Небольшой классификатор (probe), который обучают по внутренним активациям нейросети распознавать заданное свойство: часть речи, истинность утверждения, тему и тому подобное. Если зонд справляется, значит, эта информация закодирована в представлениях модели. Это инструмент интерпретируемости, а не способ решать задачу; чаще всего используют линейные зонды.