Австралия готовит обязательные правила безопасности для передового ИИ

Правительство Австралии готовит обязательные требования безопасности для компаний с передовыми моделями ИИ. Их распространят на все такие компании, желающие работать в стране.

Детали: требования планируют закрепить в законодательстве об австралийских стандартах ИИ. Передовыми правительство называет модели с наиболее развитыми на сегодня технологическими возможностями.

Обязанности: по плану правительства, компании должны будут:

• Обеспечивать защиту на всех этапах разработки и внедрения моделей.
• Выявлять серьёзные риски, связанные с моделями, и управлять ими.
• Допускать независимую оценку моделей.
• Быстро уведомлять правительство Австралии об инцидентах.

Прозрачность: компании также обяжут публиковать и поддерживать в актуальном состоянии правила обеспечения безопасности и защиты систем. Эти правила должны обеспечивать прозрачное управление и работу с рисками. По мере развития технологий компаниям придётся соблюдать обновлённые стандарты и нормы.

Контроль: правительство предложит создать отдельный орган надзора за безопасностью ИИ, уполномоченный применять серьёзные санкции за нарушения. Он будет работать с Австралийским институтом безопасности ИИ, который поможет с технической экспертизой и надзором по мере изменения международных стандартов.

Расчёт властей: меры должны помочь раньше замечать риски от ИИ-агентов, вышедших из-под контроля, — систем, самостоятельно выполняющих задачи. При серьёзных инцидентах правительство рассчитывает быстрее организовать совместное реагирование.

Что дальше: работа над законодательством и консультации продолжаются; подробности правительство представит позднее. Объявленный подход соответствует рекомендациям промежуточного доклада парламентского комитета по искусственному интеллекту.