ARTEX
Программная платформа с открытым исходным кодом для автоматизированного тестирования на проникновение с помощью ИИ-агентов. Агенты на основе подключаемых языковых моделей планируют проверки, распределяют задачи и запускают реальные инструменты для поиска и проверки уязвимостей. Платформа позволяет специалисту по информационной безопасности наблюдать за ходом тестирования и вмешиваться в него.
проверено по: github.com ↗
См. также
- Тестирование на проникновениеТестирование на проникновение (penetration testing, пентест) — санкционированная владельцем имитация атаки на информационную систему, чтобы найти и продемонстрировать реально эксплуатируемые уязвимости раньше злоумышленников. В отличие от автоматического сканирования уязвимостей, пентест включает ручную эксплуатацию найденных слабых мест и завершается отчётом с рекомендациями.
- XBOWАмериканская компания из Сиэтла, которая делает автономную платформу наступательной кибербезопасности. Её ИИ-агенты постоянно атакуют приложения так, как это делают настоящие хакеры: ищут уязвимости и проверяют, можно ли их использовать. Это заменяет или дополняет разовое ручное тестирование на проникновение. Компанию основали выходцы из команды, создавшей GitHub Copilot.
- HacktronСтартап в области кибербезопасности из Сан-Франциско, основанный хакерами — участниками соревнований по взлому. Разрабатывает ИИ-платформу, которая ищет уязвимости в программах и проверяет безопасность при каждом изменении кода, а не только во время периодических ручных тестов на проникновение.
- ИИ-агентПрограмма, обычно на основе языковой модели, которая не просто отвечает на вопрос, а сама выполняет многошаговую задачу: планирует шаги, вызывает инструменты и внешние сервисы, работает с файлами и данными и учитывает промежуточные результаты. От обычного чат-бота отличается самостоятельностью: человек ставит цель, а последовательность действий агент выбирает сам.
- Ред-тимингРед-тиминг (red teaming) — метод проверки безопасности: специалисты или автоматические инструменты намеренно атакуют систему так, как это сделал бы злоумышленник, чтобы найти уязвимости до настоящей атаки. Для ИИ-систем так ищут, например, способы заставить модель выдать вредный ответ, обойти ограничения или использовать её во зло.
В новостях
Хакеры ищут на GitHub ключи к облакам компаний с помощью ИИ-агентов
Открытый фреймворк для автоматического тестирования на проникновение: агент-планировщик раздаёт задачи агентам-исполнителям, а те запускают настоящие инструменты взлома. К нему можно подключать разные ИИ-модели.