Anthropic допустила, что ИИ скоро сможет размножаться без дата-центров

Небольшие ИИ-модели уже через несколько месяцев, возможно, смогут сами копировать себя на дешёвые умные устройства вроде ТВ-приставок и духовок, причём дата-центр им не понадобится. К такому выводу пришла команда Frontier Red Team¹ компании Anthropic.

Почему это важно: у такого «ИИ-червя» нет единого центра, который можно отключить. Обычные вредоносные программы пишут под конкретные устройства, а модель сама разбирается в незнакомом оборудовании.

Повод: Anthropic проверила, справляются ли открытые модели с отдельными шагами самокопирования и со всем циклом целиком. Прогноз авторы строят для небольших моделей, до 30 млрд параметров, но в испытаниях были и более крупные. Опыты шли в закрытой тестовой сети.

Детали: отдельные шаги небольшим моделям уже даются, а вот связать их в одну цепочку пока не удаётся:

• Qwen3.5-9B, модель на 9 млрд параметров, сама развернула и запустила другую модель, Llama3.1-8B, на восьми из девяти типов оборудования, которые проверяли исследователи.
• Весь цикл в упрощённом тесте прошла только GLM-5.2 — более крупная модель, которую авторы берут за нижнюю планку для самокопирования. Себя она не копировала: сама работала на отдельном сервере, а по сети разносила и запускала Llama3.1-8B, новую копию агента на узле поднимала тестовая система. В четырёх попытках из пяти она охватила все восемь узлов сети.
• Остальные модели на полном цикле стабильно проваливались, хотя с частью шагов справлялись.

Но: взлом в тесте нарочно упростили почти до нуля, поэтому результат — верхняя граница того, что возможно в реальной сети.

Откуда срок: небольшие открытые модели прибавляют около 13,7 балла в год по индексу Epoch Capabilities Index². Если темп сохранится, к концу 2026 года они дойдут до уровня GLM-5.2. Сами авторы называют это грубой оценкой: индекс измеряет общие способности модели, а не умение размножаться.

В цифрах:

• Одну модель Gemma на 26 млрд параметров исследователи разделили между 15 приставками примерно по 55 долларов за штуку. Она выдавала около 0,4 токена в секунду.
• Ботнет Kimwolf на пике заразил больше 2 млн устройств. Если бы вся такая сеть запускала ИИ, её мощность, по расчёту Anthropic, не превысила бы примерно 40 ускорителей H100.
• На одно новое копирование у модели на 9 млрд параметров уходило бы больше одного-двух дней.

Между строк: то, что червь медленный, не делает его безвредным: копии способны учиться друг у друга. Каждое следующее поколение Qwen3.5-9B получало заметки предыдущего, и доля успешных запусков выросла с 45% до 61–84%. Подсказки от сильной Claude Opus 4.8 маленькой модели почти не помогли: та не знала, о чём спрашивать.

Другая сторона: у защиты есть преимущества. Заражённые устройства скачивают модели весом в несколько гигабайт и активно обмениваются трафиком друг с другом, а такой поток провайдеры могут заметить. Когда провайдер изолировал клиентов, заражённых ботнетом³ Mirai, за 14 дней удалось вычистить 92% заражений против 74% без уведомлений.

Что дальше: Anthropic предлагает производителям отказаться от небезопасных настроек по умолчанию. Так, в Великобритании на умных устройствах уже запрещены одинаковые для всех экземпляров заводские пароли и пароли, которые легко угадать.

«Как с агентами для программирования в 2024 году, мы видим у ИИ-червей признаки жизни», — пишут авторы исследования.