Словарь
Инженерия представлений
Подход к прозрачности и управлению моделями, при котором изучают и напрямую меняют внутренние представления нейросети — направления в её активациях, связанные с понятиями вроде честности, — а не переобучают её на новых данных (representation engineering). В отличие от механистической интерпретируемости, анализирует не отдельные нейроны и цепи, а представления целиком.