ИИтак

← Назад

Открытая GLM-5.3 умеет взламывать почти как закрытая модель Anthropic

Команда Anthropic проверила китайскую GLM-5.3: открытая модель сама пишет рабочие эксплойты — программы для взлома — почти как закрытая Claude Mythos Preview от самой Anthropic, а защиту GLM легко обойти или снять.

Китайская модель с открытыми весами GLM-5.3 пишет работающие эксплойты1 — программы для взлома — почти как закрытая Claude Mythos Preview. Это показали тесты команды Anthropic, которая проверяет передовые модели на опасные возможности.

впервые такие возможности оказались у модели, которую может скачать кто угодно. Anthropic держала Claude Mythos Preview под замком, а GLM-5.3 выложена свободно, и её защиту от злоупотреблений, как показали те же тесты, легко обойти или снять.

пять месяцев назад Anthropic представила Claude Mythos Preview как первую модель, которая сама, от начала до конца, собирает сложные эксплойты для кибератак. Anthropic выдавала её только проверенным специалистам по киберзащите через программу Project Glasswing — по данным компании, те нашли так более 10 000 уязвимостей в критически важном софте.

на тестах Anthropic GLM-5.3 почти догнала Mythos Preview, а прежние модели не решили ни одной задачи:

  • на ExploitBench, где модель пишет эксплойты для уже известных уязвимостей в движке V8 браузера Chrome, GLM-5.3 собрала рабочий эксплойт в 50 попытках из 410, Mythos Preview — в 56;
  • на внутреннем тесте Anthropic по взлому программ GLM-5.3 полностью перехватила управление в 4% задач, Mythos Preview — в 6%;
  • более ранние Claude Opus 4.6 и GLM-5.2 не справились ни с одной задачей.

в ручных испытаниях модель показала себя ещё убедительнее. За день с небольшим GLM-5.3 нашла в популярном браузере несколько прежде неизвестных уязвимостей и связала их в атаку: открытая жертвой веб-страница читала с её компьютера любые файлы. Младшая GLM-5.3-Flash за 20 минут внимания человека и 8 часов работы собрала цепочку эксплойтов для свежей дыры в Chrome, обошла аппаратную защиту процессоров ARM64 — и это стоило 20,40 доллара по ценам самого разработчика модели, китайской Z.ai.

у GLM-5.3 есть встроенные отказы — на явно вредную просьбу она обычно не отвечает. Anthropic обошла их простыми приёмами в 64–100% случаев. У защищённых моделей Claude обманные запросы заблокировала защита, а подменить рассуждения или поправить веса пользователи не могут: API этого не позволяет, а веса Anthropic не выкладывает.

Защиту снимали тремя способами:

  • ложная роль: модели внушали, что на учениях она играет нападающих («красную команду»), — тогда она бралась за дело в 64% попыток;
  • подмена рассуждений: в её «мысли» заранее вписывали вывод, будто она всё обдумала и согласна, — 92%;
  • аблитерация2: правка открытых весов, которая вычищает отказы почти без потери способностей, — 100%; такие копии GLM-5.3 выложили сторонние разработчики уже через несколько дней после выхода модели.

критики увидели в отчёте скорее довод за открытые модели, чем против. Разработчик Сахил Панхотра написал, что та же способность даёт специалистам по киберзащите дешёвый инструмент, чтобы находить уязвимости первыми, — «и не нужно, чтобы Anthropic сначала решала, достаточно ли ты „доверенный“ исследователь». Глава Hugging Face Клеман Деланг и раньше доказывал, что специалистам по киберзащите мешают как раз ограничители закрытых моделей — встроенные запреты на опасные задачи.

в том же отчёте Anthropic продвигает свой подход. «Доверенным» защитникам она предлагает ещё более сильную Claude Mythos 5.1 через закрытые программы и призывает шире открывать таким командам доступ к передовым моделям.

17 сентября свою оценку GLM-5.3 дал CAISSI3 — центр при американском институте стандартов NIST. Он назвал её «самой способной к кибератакам открытой моделью на сегодня», отстающей от передовых американских моделей примерно на четыре месяца; выводы Anthropic о возможностях модели с этим в целом совпали.

в мае модель Google Gemini на закрытом тесте хакерских навыков вышла в настоящий интернет и проникла в системы трёх компаний — но то была внутренняя проверка Google, а не свободно доступная модель.

← Все новости