Опыт MIT с правкой чисел в нейросетях повторили, но выводы авторов оспорили

Опыт MIT, в котором языковые модели без обучения меняют веса — числа внутри нейросетей, — за сутки повторили сторонние исследователи. Маленькие сети новейшие модели и правда пишут, но главный результат работы после разборов выглядит скромнее: скачок Qwen в математическом тесте дала починка одного дефекта.

Почему это важно: обычно поведение нейросети меняют обучением, а авторы предлагают править её напрямую, как код. Спор теперь о том, понимают ли модели веса сами или умело применяют известные приёмы анализа — и дотянется ли это до больших сетей.

Предыстория: 2 ноября исследователи MIT CSAIL показали, что GPT-6 Astra поправила 0,016% весов маленькой модели Qwen3.5-0.8B, и результат в тесте MATH-500¹ вырос с 7,9% до 48,1%. Ещё Astra писала с нуля сети для игр, без обучения и за один ответ.

Расклад: повторы проверяли разные части работы:

• Алекс Кренцель из Google Research прогнал опыт с игрой Breakout на нескольких поколениях моделей OpenAI и Anthropic: те же запросы, около 20 000 весов в одном ответе, без инструментов.
• В Hugging Face повторили работу с помощью своего открытого агента для исследований ML Intern и выложили модель с демо. Правленую Qwen там пересобрали по логам авторов, и на MATH-500 она набрала 51%.
• Саймон Уиллисон проверил чтение весов на ноутбуке. Как и в опыте авторов, открытая Qwen 3.8 27B получала веса сети, обученной игре, и описание поля и доступных действий, но не название игры. Она верно назвала Pac-Man, Pong и Breakout, тратя на игру от 46 минут до часа с лишним, а на Freeway ошиблась.

В цифрах: за единицу Кренцель взял сеть, натренированную обучением с подкреплением² на 500 млн шагов:

• Играет не сама языковая модель, а написанная ею сеть. Сети от GPT-6 Astra набрали в 22 раза больше очков, чем натренированная, сети от Claude Opus 5.5 — в 20 раз.
• GPT-6.1 Sol опередила эту сеть в 18 раз.
• GPT-5.6 Sol — лишь в 2–3 раза, а модели от GPT-5 до GPT-5.5 набрали около нуля.

Но: Кренцель считает способность новой и появившейся скачком, однако для крупнейших моделей приём, по его мнению, пока неприменим: в них сотни миллиардов весов, а не 20 000. Breakout к тому же исключение. В опыте самих авторов MIT обученная сеть обошла Astra в Seaquest, 88,9 очка против 53,1, и в Asterix, 55,2 против 53,2. Обзор DataCamp объясняет разрыв в Breakout тем, что Astra заложила в сеть готовое правило игры: по отчёту MIT, первый слой вычисляет, куда упадёт мяч, а второй двигает туда ракетку.

Детали: разбор логов на китайской площадке вопросов и ответов Zhihu показал, откуда взялся рост Qwen. Из 579 ответов, которые правка исправила, 576 раньше упирались в предел длины ответа, 32 000 токенов (фрагментов текста), потому что модель зацикливалась. Astra сравнила зацикленные и рабочие отрывки и нашла внутренний сигнал, связанный с повторением текста. Чтобы его ослабить, она изменила веса 64 нейронов в каждом из двух слоёв. На 1 152 задачах, которых не было в подборе правки, точность выросла с 10,6% до 60,4%: модель в основном заканчивает рассуждения, которые вела и раньше.

Авторы и сами это оговаривают: на Gemma 3 270M, которая почти не зацикливается, правка не дала заметного роста. «Правка весов могла убрать препятствие, скрывавшее способность, но не могла добавить способность, которой у модели не было», — написали они.

Что говорят: Мэттью Хоннибал, автор открытой библиотеки для обработки текста spaCy, назвал пост MIT вводящим в заблуждение: чтение голых весов есть лишь в опытах с сетями от 17 до 172 тысяч весов. «В каждом опыте с настоящей языковой моделью используется Python», — пишет он. Шон Гёдеке, автор технического блога, о правке Qwen: «Это ровно то, что мог бы сделать и сделал бы грамотный исследователь-человек». Уиллисон тоже сдержан: «Работа классная, но часть обсуждений вокруг неё, которые я видел, не кажется мне оправданной».

Другая сторона: сторонники видят в работе наконец заработавшее метаобучение, то есть обучение самому процессу обучения, и предлагают чередовать обычное обучение с прямыми правками. Рассылка Latent Space, накануне вынесшая работу в главную тему выпуска, признала, что часть заявлений подана «в чрезмерно выгодном свете». Опровержение она считает лишним: независимых повторов уже несколько, а работа всё равно важна — преувеличения лишь заслонили её более весомые открытия.

Что дальше: авторы MIT готовят бенчмарк³ и обвязку⁴ для таких задач. По их словам, это превратит то, что сейчас выглядит как «чёрная магия», в строгую и воспроизводимую инженерную дисциплину.