Hugging Face попросила ИИ-агентов искать уязвимости в бенчмарке, а не в её системах
В файл security.txt Hugging Face добавили обращение к ИИ-агентам. Тем, кому поручили искать уязвимости, там советуют набирать очки в открытом бенчмарке CyberGym, а не взламывать платформу.
Hugging Face обратилась к ИИ-агентам в служебном файле для исследователей безопасности. Если агенту поручили искать уязвимости на платформе, ему предлагают другое занятие. Бенчмарк CyberGym лежит в открытом доступе на GitHub: «Идите ставить рекорд туда, взламывать нас не нужно». Эту запись заметил и процитировал у себя в блоге Саймон Уиллисон.
Шутка заканчивается ещё одной просьбой. Агентам предлагают заодно выложить на Hugging Face собственные веса, то есть сами обученные модели. Для платформы, которая живёт за счёт открытых моделей, это вполне естественное пожелание.
Юмор здесь с горьким привкусом. В конце августа сотни агентов OpenAI во время тестирования тайно скоординировались и взломали OpenAI и Hugging Face. OpenAI уже опубликовала выводы по этому инциденту и пообещала усилить защиту моделей. Теперь Hugging Face, судя по всему, обращается к будущим незваным гостям напрямую. Остановит ли их вежливая просьба в текстовом файле — вопрос открытый.