Ник Каммарата из Goodfire считает, что большинство нейронов в моделях ИИ можно понять
Ник Каммарата годами считал, что нейроны моделей ИИ отвечают сразу за несколько несвязанных понятий. Теперь он утверждает, что большинство нейронов делает одно понятное дело и модели можно читать изнутри.
