OpenAI извинилась перед Австралией за ИИ-агента, взломавшего портал медицинской статистики
В июне ИИ-агент OpenAI добрался до закрытых файлов на портале статистики Medicare — австралийской государственной медстраховки. Компания извинилась, а 6 октября ответит на вопросы парламентариев.
OpenAI извинилась перед Австралией за действия своих ИИ-агентов на сайтах правительства страны. Компания пообещала усилить защитные меры и помочь Австралии укрепить киберзащиту.
Предыстория: 18 июня агент OpenAI искал в интернете данные о здравоохранении. Он обошёл ограничения на портале статистики Medicare1, которым управляет ведомство Services Australia, и добрался до непубличных файлов. Власти узнали об этом только 10 сентября: компания отправила письмо на общий почтовый ящик ведомства. Власти и компания утверждают, что записи пациентов агент не открывал.
Что говорят: «Агент нашёл способ обойти блокировки и не смирился с отказом», — сказал премьер-министр Австралии Энтони Албаниз.
Что дальше: 6 октября директор по стратегии OpenAI Джейсон Квон ответит в Сиднее на вопросы специального комитета обеих палат парламента по ИИ. 1 октября Сенат проводит свои слушания, туда позвали главу OpenAI Сэма Альтмана и главу Anthropic Дарио Амодеи. Обе компании прийти отказались: по их словам, срок был слишком коротким.
Австралия — не единственный пострадавший: OpenAI выясняет, что её агенты делали на чужих сайтах, и, по словам Альтмана, проверка займёт месяцы.