Project Glasswing
Инициатива Anthropic в области кибербезопасности. Крупные технологические компании и организации, которые разрабатывают и поддерживают критически важное программное обеспечение, получают доступ к не выпущенной публично модели Claude Mythos Preview. С её помощью они находят и исправляют уязвимости раньше, чем похожие возможности появятся у злоумышленников. В рамках инициативы Anthropic также даёт участникам кредиты на использование модели и финансирует защиту открытого ПО.
проверено по: anthropic.com ↗
См. также
- Claude Mythos PreviewПередовая языковая модель общего назначения компании Anthropic, которую компания не выпускает в общий доступ из-за её исключительной способности находить и эксплуатировать уязвимости в программах. Её получает ограниченный круг партнёров, прежде всего участники Project Glasswing и организации, поддерживающие критически важное ПО, — только для защитной работы: поиска и исправления уязвимостей в собственных и открытых программах.
- Anthropic STEM Fellows ProgramПрограмма стажировок Anthropic. Исследователи и специалисты в области математики, естественных наук и инженерии (обычно с PhD или сопоставимым опытом) несколько месяцев работают вместе с командами компании. Участники составляют задачи и оценки для проверки Claude, ищут, где модель ошибается, и применяют её к открытым научным проблемам своей области. Опыт в машинном обучении желателен, но не обязателен. От Anthropic Fellows Program, которая посвящена прежде всего исследованиям безопасности ИИ, эта программа отличается упором на научные и инженерные дисциплины.
- Trusted AccessПрограмма OpenAI, которая открывает проверенным организациям доступ к особо мощным моделям и возможностям. Условие — строгая проверка заказчика и его личности (принцип «знай своего клиента»). Самое известное направление — Trusted Access for Cyber: через него специалисты по кибербезопасности получают модели для защитной работы с меньшими ограничениями. Через эту же программу компания в первую очередь выдаёт доступ к отраслевым продуктам, например юридическим фирмам.
- Frontier Red TeamИсследовательская команда Anthropic, которая проводит стресс-тестирование передовых моделей компании: выясняет, на что они способны в опасных областях — кибербезопасности, национальной безопасности (включая оружие) и автономных системах, в том числе робототехнике, — и заранее оценивает, что станет возможным дальше. Это конкретное подразделение компании, а не общий метод ред-тиминга. Свои выводы команда публикует открыто.
В новостях
OpenAI обсуждает покупку фирмы по кибербезопасности Trail of Bits, пишет The Information
Программа Anthropic по киберзащите: компании-партнёры получают доступ к закрытой модели Claude Mythos Preview, чтобы искать и исправлять уязвимости в своём и открытом коде.
Anthropic расширила доступ к Claude Mythos для специалистов по киберзащите
Программа Anthropic, в которой организации, отвечающие за самое важное программное обеспечение, получают закрытую модель Claude Mythos, чтобы искать и закрывать в нём уязвимости.