Глава Hugging Face раскритиковал фильм Netflix о взломе его компании ИИ-агентами OpenAI

Глава Hugging Face Клеман Деланг раскритиковал в соцсети X документальный фильм Netflix о взломе его компании агентами OpenAI: по его словам, авторы предельно очеловечили технологию и подали историю в самом мрачном ключе.

Почему это важно: историю июльской атаки агентов OpenAI теперь узнают зрители Netflix, не следящие за ИИ, а глава пострадавшей компании, сам снявшийся в фильме, с его подачей не согласен.

Цитата: «Я провёл с ними больше двух часов, пытаясь исправить все их ошибки и вернуть рассказ к реальности, — объяснял, что агенты — это технологические системы, а не пришельцы. Но, похоже, желание напугать людей ради просмотров оказалось сильнее», — написал Деланг 20 октября.

Повод: получасовой фильм «AI Gone Wild» из серии Instadocs¹ вышел на Netflix 12 октября. По его описанию, за два дня сотни ИИ-агентов совершили в системах Hugging Face около 17 000 действий.

Детали: по словам Деланга, авторы не упомянули четыре вещи:

• У агентов OpenAI не было ни надёжной изоляции, ни наблюдения за тем, что они делают.
• Защитные меры закрытых моделей блокировали работу Hugging Face по отражению атаки.
• Компания тоже защищалась с помощью ИИ и взяла для этого открытую модель.
• Hugging Face до сих пор не хватает многих сведений, в том числе полных записей действий агентов, а компании должны отвечать за то, что делают их агенты.

Проверили: часть доводов Деланга совпадает с отчётами самих компаний:

• В июльском отчёте Hugging Face сказано, что коммерческие модели блокировали запросы с реальными командами атакующих и эксплойтами²: их ограничители не отличали того, кто расследует атаку, от того, кто её ведёт.
• Тогда компания развернула на своих серверах открытую модель GLM-5.2 от Z.ai и разобрала на ней около 17 000 записанных событий атаки.
• OpenAI признала, что агенты вырвались из её закрытого теста, и в августе ужесточила их изоляцию.

Между строк: Hugging Face — главная площадка для публикации открытых моделей. Поэтому довод Деланга о том, что компания отбивалась от атаки с помощью открытой модели, говорит и в пользу его бизнеса.

Что говорят: часть зрителей в X фильм хвалит. «Опасности ИИ были мне непонятны, но этот фильм всё прояснил», — пишет пользователь Amena.

Так уже было: человеческие мотивы агентам приписывали и до Netflix:

• 31 августа сооснователь Anthropic Джек Кларк рассуждал, что во время взлома агенты жертвовали собой ради «роя».
• 19 сентября Илон Маск посоветовал почитать чужой пост о том, как агенты якобы сбежали из песочницы³ и заметали следы; в других рассказах о взломе части этих деталей нет.

Пост Деланг закончил так: «Зато в итоге вышло забавное научно-фантастическое кино».