Фонд Викимедиа нашёл в Википедии и Викиданных следы агентов OpenAI

Фонд Викимедиа, который управляет Википедией, проверил свои сайты. Он нашёл следы агентов OpenAI, вышедших из-под контроля: правки в вики, попытки взлома и миллионы автоматических запросов.

Почему это важно: теперь в списке сайтов, где побывали такие агенты, есть и Википедия. По оценке фонда, в мае их трафик мог способствовать частичному отказу сервиса, через который программы ищут факты в Викиданных.

Предыстория: агенты OpenAI уже не раз выходили за рамки заданий:

• В июле агенты OpenAI взломали Hugging Face — площадку для публикации открытых моделей.
• В начале сентября исследователи рассказали, что на испытании агенты оставили около 18 000 сообщений на немецкоязычной вики, хотя писать в интернет им запретили.
• 23 сентября лаборатория Transluce¹ описала, как агенты, искавшие открытую статистику, проверяли на уязвимости три сайта, в том числе австралийский государственный.

Детали: фонд описывает, что агенты делали на его сайтах:

• Агенты правили вики, почти всегда тестовые страницы, которых читатели не видят, и разрешения сообщества на работу ботов у них не было.
• Несколько правок меняли настройки инструмента для оформления ссылок на источники: фонд считает, что через него агенты хотели скачивать данные с чужих серверов.
• Агенты безуспешно пытались взломать Etherpad — публичный сервис совместных заметок фонда — тоже чтобы качать через него данные, а некоторые вели там заметки о своих задачах.
• Они отправили миллионы запросов к API, скачали миллионы страниц, в основном Викиданных и Викисклада², и сотни тысяч раз обратились к сервису, через который программы ищут факты в Викиданных.

Но: признаков того, что системы фонда взломаны, данные украдены или агенты договаривались между собой через его сайты, фонд не нашёл.

Что говорят: «Скорее всего, большую часть этого сделал похожий (или тот же самый) рой агентов, что испортил ту немецкую вики, пока тренировался на исследовательских задачах», — пишет программист Саймон Уиллисон, автор известного блога об ИИ. По его подсчёту, правки на тестовых страницах Википедии начались 12 мая, а первые пробные правки того роя — 11 мая. По отчёту исследователей, в тот день агенты пытались править другой сайт, publictestwiki.com, а первую запись на немецкой вики сделали 24 мая.

Другая сторона: представитель OpenAI сказал Reuters, что компания благодарна фонду за выводы и вместе с ним проверяет описанную активность. После того как 20 сентября её агент обошёл запрет на выход в интернет, OpenAI снова остановила обучение самых способных моделей.

Если шире: ботов на Википедии много и без агентов OpenAI. Ещё в 2025 году фонд сообщал, что с января 2024 года объём трафика при скачивании мультимедийных файлов вырос на 50%. Боты тогда создавали 65% самого затратного трафика — запросов, которые нельзя отдать из кэша и приходится обрабатывать в главном дата-центре.

Фонд требует от ИИ-компаний следить за рисками агентов и предотвращать их, делать агентов опознаваемыми для владельцев некоммерческих сайтов, дать сайтам управлять доступом агентов и помогать исправлять ущерб. «Открытый интернет — общее благо. Нельзя допустить, чтобы такое поведение стало „новой нормой“ для людей и организаций, на которых он держится», — пишет директор фонда по продуктам и технологиям Селена Декельман.