Натан Ламберт: ИИ удешевит сам себя, но резкого скачка интеллекта не будет

Настоящего рекурсивного самосовершенствования ИИ пока не видно, а разговоры о риске вымирания сильно опережают факты. Так считает Натан Ламберт, автор рассылки Interconnects, который называет себя «умеренным» в спорах об ИИ. Его базовый сценарий — «самосовершенствование с потерями»: модели помогают делать модели, но чуда не происходит.

Аргументы у него простые. Автоматизировать удаётся слишком узкую часть исследований, а законы масштабирования требуют экспоненциального роста вычислений ради линейной прибавки в интеллекте. Отдача от того, чтобы запускать всё больше агентов параллельно, падает. И главное — упор идёт в чипы, электричество и политику, а тут ИИ помочь почти не может.

Отдельно Ламберт описывает настроение внутри OpenAI и Anthropic: сотрудники этих лабораторий уже год тревожатся из-за темпа прогресса, а теперь у них в компаниях круглосуточно работают тысячи агентов. Шаг от этой тревоги к разговорам о вымирании человечества он называет «очень религиозным». Он ссылается на исследователя Ричарда Нго: «У нас не будет сверхинтеллекта в ближайшие 8 лет, но всё будет двигаться так быстро, что будет казаться, будто правы были сторонники коротких сроков».

В подкасте Дваркеша Патела Джон Шульман, Берен Миллидж и Чарли О'Нил давали свои сроки, и они Ламберта удивили. Замена удалённому офисному работнику на месяц работы: около года, если у модели есть программный доступ к рабочим программам, и года два, если ей придётся всё делать через браузер. Десятикратный рост производительности самих ИИ-исследователей: от двух лет у Шульмана до 5–10 лет у О'Нила. ИИ, превосходящий лучших людей во всей работе за компьютером: 3–4 года у Шульмана, около пяти лет у Миллиджа в тех областях, куда лаборатории вкладываются.

Сам Ламберт ждёт другого: агенты хорошо решают задачи с проверяемым ответом, поэтому самосовершенствование сделает модели прежде всего дешевле, а не умнее. Обслуживание больших языковых моделей измеряется понятными показателями, их и будут улучшать. А вот составить рецепт дообучения агенты не смогут. Он приводит слова Шульмана: «Очень легко испортить дообучение так, что это не проявится в бенчмарках».

В подтверждение он цитирует системную карточку Claude Fable 5.1 и Mythos 5.1: «Мы считаем, что внутреннее использование недавних моделей ИИ было ключевым фактором поддержания нынешнего темпа прогресса, но пока не видим явных признаков резкого ускорения сверх этого темпа». Пиковый интеллект, заключает Ламберт, — самая тяжёлая экспонента, и сдвинуть её сложнее всего.