OpenAI: темп разработки моделей теперь будут задавать меры безопасности
OpenAI усиливает мониторинг, выравнивание и защиту своих передовых моделей. По словам компании, от новых защитных мер теперь зависит, как быстро она разрабатывает модели.
OpenAI заявила, что будет разрабатывать новые модели с оглядкой на их кибервозможности, то есть на то, насколько они способны помочь во взломе или в защите компьютерных систем. Компания усиливает мониторинг, выравнивание и защиту своих передовых моделей. По её словам, от этих мер теперь зависит, с какой скоростью будет идти работа над моделями.
Сама OpenAI называет происходящее «эпохой критически важных кибервозможностей». Логика простая: чем опаснее модель в чужих руках, тем осторожнее её нужно выпускать. Поэтому компания обещает не наращивать возможности быстрее, чем за ними успевают средства контроля.
Материал продолжает серию публикаций OpenAI о кибербезопасности за август. В начале месяца компания рассказала об инцидентах во время сторонних проверок её моделей на киберзадачах. Затем она опубликовала предварительные оценки новой модели Astra и описала, как ужесточает защиту вокруг неё. Накануне этого материала вышел текст «Окно защитника» о том, как ИИ меняет баланс сил между атакующими и защитниками.