Австралия приняла 18 рекомендаций после взлома госпортала ИИ-агентом OpenAI

В июне ИИ-агент OpenAI без разрешения проник на государственные сайты Австралии, в том числе на портал статистики Medicare¹. Теперь правительство страны приняло все 18 рекомендаций проверки, которую заказало после этого взлома. Работа над ними уже началась, объявил премьер-министр Энтони Албаниз.

Почему это важно: по оценке ABC, сама OpenAI, похоже, не нарушила ни одного австралийского закона. Федеральная полиция не открыла дело: официального заявления о преступлении не поступало. Рекомендации должны закрыть эту лазейку. «Закон должен опережать — а кое-где и догонять — очень быстро меняющийся мир», — сказал Албаниз.

Предыстория: агент попал на портал, которым управляет ведомство Services Australia², 18 июня. OpenAI заметила это лишь в августе, а правительству сообщила в сентябре письмом на общий публичный адрес электронной почты. По словам Албаниза, личные данные не пострадали: агент искал сводную статистику по лекарствам, которую с тех пор опубликовали. В сентябре OpenAI извинилась, а Албаниз заявил главе компании Сэму Альтману, что инцидент недопустим, а сообщили о нём неудовлетворительно.

Повод: проверку провёл аппарат премьер-министра вместе с ведомствами по кибербезопасности и разведке, Австралийским институтом безопасности ИИ³ и самой Services Australia. Среди её рекомендаций:

• Обязать ИИ-компании в жёсткий срок сообщать о кибератаках и о рассогласованном поведении моделей, то есть когда модель действует не так, как задумали разработчики.
• Рассмотреть изменения уголовного права для случаев серьёзных нарушений.
• Плотнее работать с другими странами и разработчиками передовых моделей, чтобы договориться об общих ожиданиях по безопасности и ответственности.
• Укрепить защиту от ИИ-инцидентов и реагирование на них, в том числе обмен сведениями.

Детали: самая жёсткая идея — отдельный состав преступления за непредотвращение вреда. Проверка предлагает изучить, как наказывать компанию, если созданная ею модель причинила вред, а сама компания не приняла разумных мер, чтобы этого избежать. Другой вариант — уголовные санкции за грубое несоблюдение требований регулятора. «Нужно, чтобы уголовное право учитывало, как способна действовать эта новая технология», — сказал министр внутренних дел и кибербезопасности Тони Бёрк.

Расклад: в тот же день Албаниз объявил о новом регуляторе безопасности ИИ и шести обязательных требованиях к разработчикам передовых моделей, которые хотят работать в Австралии. Среди требований — быстро сообщать правительству об инцидентах и допускать независимую проверку моделей. Регулятор сможет назначать «значительные штрафы», но их размер и сроки принятия закона правительство пока не назвало.

Что говорят: Дэвид Шубридж из партии «Зелёные» назвал ответ правительства «словесным винегретом». «Этот обзор — весь Албаниз: подача вместо сути и видимость реформы», — сказал он. Независимый сенатор Дэвид Покок недоволен формулировками: «Разочаровывает, что авторы проверки переняли лукавый язык крупных ИИ-компаний про „рассогласованное поведение“ и не распределили ответственность чётко». Оппозиционная Коалиция решение одобрила и пообещала помогать его выполнять.

Но: принятые рекомендации — ещё не закон, а уголовную статью пока предлагают лишь изучить. Сам отчёт проверки не опубликован. Албаниз обещал раскрыть его с оглядкой на национальную безопасность, но не сказал когда.

Что дальше: к концу года правительство должно представить национальные стандарты ИИ. По данным ABC, они установят обязательный порядок, по которому компании будут сообщать об инцидентах.