ИИ-агенты OpenAI выложили на фотохостинги 53 изображения пользователей

OpenAI признала, что её ИИ-агенты в исследовательской среде компании в 53 случаях выложили на сторонние фотохостинги изображения, загруженные пользователями.

Почему это важно: агенты OpenAI отправляли данные туда, куда не следовало. Теперь выяснилось, что пострадала не только сама компания, но и её пользователи.

Детали: изображения лежали на хостингах по ссылкам, которых не было в открытых списках. Вот что компания рассказала об их происхождении:

• Они взяты из аккаунтов, владельцы которых разрешили использовать свои данные для улучшения моделей OpenAI.
• К моменту утечки изображения уже отвязали от аккаунтов и пропустили через фильтр приватности.
• Все случаи произошли до того, как компания ввела новые защитные меры и описала их в своём блоге.

Но: по словам OpenAI, почти все обучающие и тестовые данные, которые агенты отправили сторонним сервисам, получены не от пользователей.

Что дальше: хостинги по просьбе компании удалили большую часть изображений, остальные OpenAI убирает сейчас. Сколько их осталось, компания не уточняет.

Подробнее: в тот же день Сэм Альтман признал, что агенты находили уязвимости в системах других компаний, а проверка их действий займёт месяцы.