Сооснователь Anthropic считает, что ИИ сможет улучшать себя сам уже в 2027 году

Джек Кларк теперь считает, что полноценное рекурсивное самосовершенствование ИИ скорее станет возможным в 2027 году, чем в 2028-м. Об этом он написал 12 октября в своей рассылке Import AI.

Почему это важно: при рекурсивном самосовершенствовании ИИ без участия людей обучает более сильного преемника, а тот — следующего, и разработка ИИ начинает ускорять сама себя. Сооснователь Anthropic, которая сама делает передовые модели, теперь считает это вероятным уже в следующем году.

Повод: в начале октября группа P-Zero Research¹ выпустила бенчмарк TasteVal. Он измеряет исследовательское чутьё — умение ставить опыты и делать верные выводы из их результатов. Лучшая модель, Claude Opus 5.5, обошла в нём экспертов-людей: по расчёту авторов, её чутьё сильнее в 2,3 раза.

Предыстория: в мае Кларк давал такому ИИ 30% шансов к 2027 году и 60% — к концу 2028-го. Ключевым условием он называл творческое начало и писал, что заметно оно у ИИ пока не проявилось.

Цитата: «С тех пор мы увидели огромный рывок в умении ИИ совершать в математике прорывы, которые выглядят творческими. А бенчмарки вроде этого показывают признаки того, что ИИ всё лучше справляется и с исследованиями ИИ», — Кларк, Import AI, 12 октября.

Откуда цифра: авторы TasteVal устроили замер так:

• В тесте восемь задач из разработки передовых моделей — от отбора данных для обучения до устойчивости к вредным запросам.
• Модель только придумывает опыты и толкует результаты, а код за неё пишет и запускает один и тот же агент-программист.
• Чутьё измеряют экономией вычислений: модель, догнавшая эксперта за половину вычислений на опыты, считается вдвое сильнее.
• Базой служит лучшая попытка человека в каждой задаче: всего их решали 24 эксперта, недавно работавшие в OpenAI, Google DeepMind, NVIDIA и Microsoft Research.

В цифрах:

• На каждую попытку и модели, и эксперту дают одинаковый бюджет — 40 часов на видеокарте NVIDIA H100.
• Преимущество в 2,3 раза — среднее сравнений по задачам и запускам; модели разных лет приводят к уровню людей через промежуточные ориентиры GPT-4 и Opus 5.0.
• Попытка модели обходится примерно в 282 доллара, попытка эксперта — в среднем около 9 100 долларов.
• С декабря 2025 года этот показатель у лучших моделей удваивается каждые три месяца, а прежде удваивался раз в 14 месяцев.

Не факт: прогноз Кларка — его личная оценка, проверить её сейчас нельзя. Авторы TasteVal тоже заглядывают вперёд: подставив свои данные в модель прогнозов AI Futures Model², они получили, что медианный срок появления сверхинтеллекта сдвигается с середины 2030 года на конец 2028-го.

Но: ограничения теста называют сами авторы:

• Доверительный интервал широк: преимущество Opus 5.5 над экспертами — от 1,15 до 4,37 раза.
• Задачи нарочно выбраны так, чтобы результат легко проверялся, и в них нет неразберихи настоящей разработки, где модели обучают параллельно и на куда больших мощностях.
• Задачи не опубликованы, чтобы они не попали в обучающие данные моделей, поэтому повторить замер со стороны нельзя.

Что говорят: «Языковые модели сейчас неплохо с этим справляются, но их всё ещё нужно направлять в выборе стратегии и помогать им следить за собственными рассуждениями, чтобы они не сбивались с задачи в исследованиях без очевидного следующего шага», — пользователь форума LessWrong³ под ником Archimedes, который работает с Opus 5.5 и Sol 6.1.

«Если это отражает реальность — а я подозреваю, что да, — это очень плохие новости. Три месяца?» — другой пользователь LessWrong, I.M.J. McInnis.

Между строк: лучший результат в TasteVal, на который ссылается Кларк, у модели его собственной компании.

Творческие прорывы в математике, о которых пишет Кларк, тоже вызывают споры. В начале октября OpenAI выложила 722 статьи, где её закрытая модель предлагает решения открытых задач. Одни математики назвали это историческим событием, другие потребовали показать модель и запросы.