CodeMender
CodeMender — агент Google DeepMind для безопасности кода: он находит уязвимости, сам готовит исправления и проверяет, что заплатка не меняет работу программы, используя статический и динамический анализ, фаззинг и проверку отдельной моделью-судьёй. Итоговые патчи предлагаются разработчикам на ревью, а не применяются без участия человека.
проверено по: deepmind.google ↗
См. также
- Google DeepMindИсследовательская лаборатория ИИ, которую основали в Лондоне в 2010 году под названием DeepMind Technologies. В 2014 году её купила Google, а в 2023-м она объединилась с Google Brain и стала называться Google DeepMind. Создала AlphaGo и AlphaFold, разрабатывает модели Gemini.
- Модель-судьяЯзыковая модель, которая оценивает ответы или работу других моделей вместо людей (LLM-as-a-judge). Этот способ дешевле и лучше масштабируется, чем оценка людьми, но у судьи бывают систематические перекосы: например, он может предпочитать более длинные ответы или ответы моделей своего семейства. Поэтому его оценки выборочно сверяют с оценками людей.
- Project GlasswingИнициатива Anthropic в области кибербезопасности. Крупные технологические компании и организации, которые разрабатывают и поддерживают критически важное программное обеспечение, получают доступ к не выпущенной публично модели Claude Mythos Preview. С её помощью они находят и исправляют уязвимости раньше, чем похожие возможности появятся у злоумышленников. В рамках инициативы Anthropic также даёт участникам кредиты на использование модели и финансирует защиту открытого ПО.
- Уязвимость нулевого дняУязвимость в программе, прошивке или оборудовании, о которой ещё не знают разработчик и защитники, поэтому исправления для неё нет (англ. zero-day). Атака с её использованием называется атакой нулевого дня. От известных уязвимостей такие отличаются тем, что заранее защититься от них обновлением нельзя.
В новостях
ИИ-агенты Google DeepMind математически проверили код шифрования Signal
ИИ-агент Google DeepMind для защиты кода: исправляет найденные уязвимости и переписывает программы так, чтобы в них не возникали целые классы ошибок.