источник · аналитика · 15 новостей за 60 дней
Рассылка исследователя Натана Ламберта об открытых моделях, дообучении и обучении с подкреплением.
Interconnects видит быстрый рост сервисов обработки запросов к моделям, которые компании могут разворачивать у себя, но данных для оценки доли открытых моделей на рынке недостаточно.
Исследователь Натан Ламберт уточнил прежний тезис: доказательств, что новые взломы — дело открытых моделей ИИ, почти нет, но технологическим компаниям придётся дорого перестраивать работу с программами.
Исследователь Натан Ламберт пишет, что поднимать баллы моделей отрасль умеет куда лучше, чем создавать осмысленные тесты для передовых систем. Повод — новая версия индекса, по которому независимая компания Artificial Analysis сравнивает модели ИИ.
Исследователь Натан Ламберт считает, что многие уязвимости с помощью ИИ находят скорее специалисты, которых OpenAI и Anthropic пускают к закрытым моделям, чем пользователи моделей, выложенных для всех.
Министерство внутренней безопасности США исключило DeepSeek из закупок гражданских ведомств, а Министерство коммерции Китая ввело регистрацию экспорта ИИ-технологий, включая выкладку моделей в открытый доступ, и готовит перечень запретов.
Исследователь ИИ Натан Ламберт считает Muse Spark Open от Meta сильнейшей американской открытой моделью, но на его же графике её опережают девять китайских.
Исследователь Натан Ламберт ждёт, что за несколько лет ИИ возьмёт на себя инженерную работу по обучению и запуску моделей и резко их удешевит, но принципиально другими модели не станут.
Натан Ламберт спорит с отчётом Anthropic о китайской модели GLM-5.3: по его мнению, известные кибератаки в основном связаны с закрытыми моделями, а запрет открытых ударит по киберзащите.
Жан-Станислас Денен из Epoch AI считает, что Китаю заметно помогает обучение на ответах американских моделей, а Натан Ламберт — что разрыв определяют вычислительные мощности.
На китайские модели приходится больше 80% трафика открытых моделей на OpenRouter, и их упоминают больше чем в 40% статей по ИИ, подсчитал Натан Ламберт.
Натан Ламберт считает, что тысячи агентов ускоряют рутинную работу лабораторий, но безудержного самоулучшения ИИ не запускают, а разговоры о вымирании человечества сейчас не к месту.
Автор Interconnects выложил подборку для тех, кто пишет об открытых моделях для политиков и широкой публики: зачем их выпускают, чем они рискуют и как в этой области соперничают США и Китай.
По мнению автора Interconnects, споры о вымирании человечества заслонили более близкие риски: лаборатории неделями не замечают сбоев своих моделей, а кибербезопасность отстаёт от ИИ.
Для интеллектуального труда, то есть примерно половины экономики США, ИИ уже стал фундаментом, как электричество. Остальные почти не видят от него пользы. По мнению Ламберта, это грозит отрасли политическим отпором.
Компаниям, которые продают доступ к GLM-5.3 и зарабатывают больше $10 млрд в год, придётся проходить проверку безопасности Z.ai. Авторы Interconnects видят здесь общую тенденцию: китайские лаборатории ужесточают лицензии.
* Meta Platforms Inc., которой принадлежат Facebook и Instagram, признана в России экстремистской организацией, её деятельность запрещена.