Calif
Американская компания по наступательной кибербезопасности: её исследователи ищут уязвимости в программах и инфраструктуре с помощью передовых ИИ-моделей. Проводит ред-тиминг и оценку возможностей ИИ-моделей, проверяет безопасность облачной инфраструктуры и продуктов, оценивает компании перед сделками. Среди её клиентов — крупные ИИ-лаборатории.
проверено по: calif.io ↗
См. также
- Ред-тимингРед-тиминг (red teaming) — метод проверки безопасности: специалисты или автоматические инструменты намеренно атакуют систему так, как это сделал бы злоумышленник, чтобы найти уязвимости до настоящей атаки. Для ИИ-систем так ищут, например, способы заставить модель выдать вредный ответ, обойти ограничения или использовать её во зло.
- Тестирование на проникновениеТестирование на проникновение (penetration testing, пентест) — санкционированная владельцем имитация атаки на информационную систему, чтобы найти и продемонстрировать реально эксплуатируемые уязвимости раньше злоумышленников. В отличие от автоматического сканирования уязвимостей, пентест включает ручную эксплуатацию найденных слабых мест и завершается отчётом с рекомендациями.
- Project GlasswingИнициатива Anthropic в области кибербезопасности. Крупные технологические компании и организации, которые разрабатывают и поддерживают критически важное программное обеспечение, получают доступ к не выпущенной публично модели Claude Mythos Preview. С её помощью они находят и исправляют уязвимости раньше, чем похожие возможности появятся у злоумышленников. В рамках инициативы Anthropic также даёт участникам кредиты на использование модели и финансирует защиту открытого ПО.
- XBOWАмериканская компания из Сиэтла, которая делает автономную платформу наступательной кибербезопасности. Её ИИ-агенты постоянно атакуют приложения так, как это делают настоящие хакеры: ищут уязвимости и проверяют, можно ли их использовать. Это заменяет или дополняет разовое ручное тестирование на проникновение. Компанию основали выходцы из команды, создавшей GitHub Copilot.
В новостях
Уязвимости в PHP независимо нашли две команды с моделями OpenAI и Google
Calif — калифорнийская компания по кибербезопасности, которую основали выходцы из команд безопасности Google. Она проверяет системы атаками и помогает компаниям строить защиту, в том числе ИИ-систем.
Модели OpenAI помогли найти две критические уязвимости в PHP
Калифорнийская компания по кибербезопасности, основанная выходцами из команды безопасности Google: проверяет системы учебными атаками и консультирует по криптографии.