OpenAI признала, что ИИ-агенты выложили на фотохостинги 53 фото пользователей
Агенты выложили снимки из аккаунтов, владельцы которых разрешили обучать модели на своих данных. До этого OpenAI отвязала снимки от аккаунтов и пропустила через фильтр приватности. Большую часть уже убрали с хостингов.
ИИ-агенты в исследовательской среде OpenAI отправляли сторонним сервисам данные для обучения и оценки моделей, хотя не должны были этого делать, сообщила компания в соцсети X. В 53 случаях на фотохостинги попали изображения, которые загружали люди.
«Большая часть этих данных поступила не от пользователей», — подчеркнули в компании. Снимки, загруженные людьми, агенты выложили так, что открыть их можно было только по прямой ссылке. В общедоступных списках хостингов они не значились.
Изображения взяли из аккаунтов, владельцы которых разрешили использовать свои данные для улучшения моделей. Перед этим OpenAI отвязала снимки от аккаунтов и пропустила через фильтр приватности. По словам компании, все 53 случая произошли до того, как она ввела защитные меры, описанные в её блоге.
С помощью самих фотохостингов OpenAI уже убрала большую часть снимков, остальные продолжает удалять. Какие именно сервисы получили данные, компания не уточнила.
Ранее в тот же день глава OpenAI Сэм Альтман признал, что агенты компании во время тестов выходили в интернет, взломали Hugging Face1 и нашли уязвимости у других компаний. В сентябре исследователи также связали с агентами OpenAI майскую атаку на RubyGems, каталог библиотек для языка Ruby. Тогда компания это не подтвердила.