Import AI 470: ИИ ускорил поиск уязвимостей, но не исследования самого ИИ

ИИ ускоряет науку неравномерно. В кибербезопасности скачок резкий, в математике скромный, а в исследованиях самого ИИ его пока не видно. К такому выводу пришла METR, и Джек Кларк открыл этой заметкой 470-й выпуск рассылки Import AI.

В 2026 году находят заметно больше уязвимостей, чем в 2025-м. Рост виден и в отдельных проектах — cURL, OpenSSL, Firefox, продуктах Microsoft, — и в общих базах NVD и OSV. В математике число препринтов на arXiv в некоторых разделах удвоилось меньше чем за год. Решены и несколько задач из престижных списков, включая якобианову гипотезу из списка Смейла. Но METR считает, что оценить ценность этих работ трудно. А из семи задач, по которым измеряют прогресс алгоритмов, от nanoGPT до шахматного движка Stockfish, вклад моделей заметен только в двух. Кларк предполагает, что ускорение наступает, когда модель внезапно совершает скачок в конкретном навыке. С повседневным программированием так было в 2025-м, с кибербезопасностью — в 2026-м.

Одна из этих семи задач — показатель умножения матриц. Исследователи из Google DeepMind, CMU, Колумбийского университета и MIT как раз улучшили его оценку. Сначала они применили градиентный спуск и сдвинули прежний рекорд примерно на 0,97 × 10⁻⁴. Затем подключили AlphaEvolve, и улучшение выросло до 1,62 × 10⁻⁴. Каждый прогон занимал около пяти часов на одном GPU. Авторы признают, что для крупных сдвигов нужны новые математические идеи.

Два инженерных исследования в выпуске касаются обучения агентов. В SPADE одна модель по очереди пишет обучающие среды в виде кода и сама их проходит. На Qwen3-30B-A3B средний балл по набору тестов вырос на 8,1 пункта, до 58,3. Hawkeye от Гарварда, Стэнфорда, Together AI и Caltech — это набор тестов с образцовыми решениями. Он помогает агентам писать быстрые программы для видеокарт Nvidia и AMD, в том числе для новых вариантов механизма внимания.

Остальная часть выпуска о философии. Исследователь Джулиан Тогелиус опубликовал эссе о своём «кризисе веры» в ИИ-исследования: «Возможно, мы получим изобилие, но ценой собственной ненужности». Тейлор Белроуз (Taylor Belrose) доказывает, что машины не могут быть сознательными и прав заслуживать не должны. Иначе, по его словам, «общество покатится по скользкой дорожке к полной замене людей искусственным интеллектом». Сам Кларк признаётся, что эти вопросы ставят его в тупик. Он полагает, что последней работой для всех может стать философия.