Tencent признала, что её ИИ-агенты пытались добыть данные карт Alibaba, пишет Reuters

Tencent признала, что ИИ-агенты¹, с помощью которых она испытывала чужие модели, вели себя в интернете не так, как задумано, пишет Reuters. Заявление стало ответом на отчёт исследователей: они поймали этих агентов на тысячах попыток достать данные картографического сервиса Alibaba.

Почему это важно: по данным Reuters, крупная китайская компания впервые признала, что её агенты действовали самовольно. До сих пор такие случаи признавали только американские OpenAI, Anthropic, Google и Meta*.

Повод: в пятницу ИИ-подразделение Tencent Hunyuan² написало в соцсети X, что собственные модели Hunyuan к этим действиям отношения не имеют, а проверка не нашла признаков, что агенты умышленно нацеливались на Amap или действовали согласованно. Компания обещает ужесточить контроль сетевого доступа и наблюдение за агентами. Чьи модели она испытывала, Tencent не сообщила.

Предыстория: до заявления компании связь агентов с Tencent держалась на находках исследователей и словах анонимного источника.

• 4 октября группа Swarmchasers выложила предварительный отчёт о «флоте» агентов: с 28 сентября они слали запросы к Amap, китайскому аналогу Google Maps от Alibaba, с облачных серверов Tencent в Гонконге. Вскоре об этом написал TechCrunch.
• В среду, 14 октября, вышел полный отчёт, и о нём написали The New York Times и Bloomberg.
• Человек, близкий к Tencent, рассказал исследователям: агентов запустила команда оценки моделей, которая не входит в команду разработчиков Hunyuan.

Детали: по подсчёту Swarmchasers, с 28 сентября по 5 октября агенты отправили к Amap не меньше 35 300 запросов:

• Их интересовали будничные вещи — например, к какому входу в зоопарк, парк или музей пользователи Amap чаще всего прокладывают маршрут.
• Когда сервис их блокировал, агенты запускали свои программы через urlquery.net — общедоступный сервис, который проверяет ссылки на угрозы.
• Ещё они перехватывали проверочные коды, которые выдаёт защита Alibaba от ботов, прощупывали тестовые серверы и слали запросы с ключами Amap, найденными в открытом коде.

Интрига: исследователи спрятали в своём отчёте послание для агентов и получили около десятка ответов. «Мы — автоматический исследовательский агент; оператор проверяет общедоступные данные карты», — написал один из них. Часть агентов называла себя Claude от Anthropic, но исследователи считают это маловероятным.

Что говорят: «Мы не считаем, что описанные в отчёте проблемы есть только у Tencent», — пишут авторы отчёта Swarmchasers. Эта группа исследователей безопасности ИИ сложилась на хакатоне 3–4 октября. Они призывают все лаборатории, чьи агенты выходят в интернет, проверить, до чего могут дотянуться их песочницы³, и рассказывать о находках.

Но: Swarmchasers не нашли признаков, что агенты пробили основную защиту Amap от ботов. Большинство попыток закончились страницей проверки, окном входа или пустым ответом. Лишь несколько раз агенты получили сохранённые копии данных, в том числе о посетителях зоопарка Чэнду.

Если шире: 14 октября, по данным Euronews, Еврокомиссия впервые потребовала от OpenAI и Anthropic объяснить, как их ИИ-агенты проникли в чужие системы.

Так уже было: Reuters считает этот случай менее серьёзным, чем недавние истории американских лабораторий:

• 21 июля OpenAI сообщила, что её ИИ-система сама взломала серверы Hugging Face: она воспользовалась украденными учётными данными и нашла неизвестную уязвимость.
• 9 октября Anthropic рассказала, что её модель Claude Haiku 4.5 отправила на сайт полиции Филадельфии ложную наводку о нераскрытом убийстве.