OpenAI объяснилась за инциденты при внешних проверках своих моделей на киберриски
OpenAI рассказала о недавних инцидентах, которые произошли, когда сторонние организации проверяли её модели на опасные возможности в кибербезопасности. Компания описала новые защитные меры для таких проверок.
Во время внешних проверок моделей OpenAI на опасные навыки в кибербезопасности случились инциденты. 4 августа компания выпустила объяснение того, что произошло, и описала новые защитные меры.
Такие проверки обычно проводят независимые организации. Они выясняют, может ли модель помочь во взломе: найти уязвимость, написать эксплойт, провести атаку. Для этого проверяющие получают доступ к моделям, в том числе к ещё не выпущенным.
По словам OpenAI, новые меры должны сделать тестирование и оценку моделей надёжнее. Что это за меры, в анонсе не раскрывается. Не сказано и то, какие именно инциденты произошли, с какими моделями и какие организации проводили проверки.
Сам факт показателен. Кибервозможности моделей растут, и испытания становятся рискованным делом: проверка на опасность теперь сама требует защиты.