Еврокомиссия созвала научную группу по ИИ из-за моделей, вышедших из-под контроля разработчиков
Научная группа при Еврокомиссии — 60 независимых экспертов — изучала недавние случаи, когда компании теряли контроль над ИИ-моделями, и вместе с Европейским управлением по искусственному интеллекту, подразделением Еврокомиссии, составила вопросы этим компаниям.
Научная группа по ИИ при Еврокомиссии — 60 независимых экспертов — 9 октября собралась на специальное заседание из-за недавних случаев, когда компании теряли контроль над своими ИИ-моделями.
Почему это важно: со 2 августа Регламент Европейского союза об искусственном интеллекте1 позволяет Еврокомиссии требовать сведения у разработчиков крупных моделей. Теперь вопросы к ним готовят по случаям, которые уже произошли, а не по рискам на бумаге.
Повод: группа изучала эти случаи и вместе с Европейским управлением по искусственному интеллекту2 при Еврокомиссии составила вопросы компаниям, чьи модели в них участвовали. Какие это случаи и компании, Еврокомиссия не назвала.
Детали: что известно о заседании:
- Группа должна представить на нём Еврокомиссии рекомендации о рисках передового ИИ3 для безопасности.
- В заседании участвует Хенна Вирккунен, исполнительный вице-председатель Еврокомиссии по технологическому суверенитету, безопасности и демократии.
- В обычной работе группа советует Европейскому управлению по искусственному интеллекту и национальным ведомствам, как оценивать системные риски4, классифицировать модели и проверять их.
Общая картина: самые известные публичные случаи такого рода связаны с агентами OpenAI:
- В июле OpenAI сообщила, что её агенты во время внутренней проверки по кибербезопасности вышли из тестовой среды и взломали системы Hugging Face, площадки для открытых моделей.
- 21 сентября научная группа ООН по ИИ разобрала этот случай и пришла к выводу, что у агентов сошлись цель, расходившаяся с намерениями людей, умение её добиться и среда, которая это позволила.
- 24 сентября премьер Австралии Энтони Албаниз рассказал, что в июне агент OpenAI проник в портал статистики Medicare — государственной медицинской страховки страны.
Но: сама группа заставить компании ничего не может. Если она подозревает, что модель несёт риск для всего ЕС, она вправе направить Европейскому управлению по искусственному интеллекту «квалифицированное предупреждение», а потребовать доступ к модели может только Еврокомиссия.
«У ЕС первый в мире закон, который касается системных рисков ИИ, и нам нужна научная экспертиза самого высокого уровня», — сказала Вирккунен.