ИИтак

← Назад

Sakana AI создала исследовательскую группу по киберзащите

Sakana AI изучит, смогут ли ИИ-программы разных организаций предупреждать друг друга об атаках, чтобы сведения об угрозе, замеченной в одной организации, помогали защищать другие.

Четыре уровня киберзащиты Изображение: Sakana AI

Японская компания Sakana AI создала исследовательскую группу по киберзащите. Команда изучит, как организации могут вместе отражать атаки с помощью ИИ и как защищать сами ИИ-системы.

Японские организации уже обмениваются результатами анализа атак. Sakana AI хочет выяснить, можно ли ускорить этот обмен с помощью агентов, чтобы признаки атаки, замеченные в одной организации, сразу учитывали остальные. Группе предстоит определить, чем участники могут делиться, как проверять достоверность предупреждений и кто отвечает за действия агентов по таким сигналам.

Исследования защиты ИИ-систем начнут с агентов, которым поручают киберзащиту. Для установки исправлений им нужны расширенные права доступа. Команда изучит, как ограничить полномочия каждого агента его задачей и как дать специалистам возможность выяснить, почему он совершил то или иное действие.

Группа также изучит, как предотвращать уязвимости ещё при проектировании программ. В японском финансовом секторе многие организации поручают обслуживание систем подрядчикам. Банк Японии и финансовый регулятор страны попросили учреждения заранее проверять, хватит ли у подрядчиков ресурсов, если исправления понадобятся сразу нескольким клиентам. Чем меньше уязвимостей в готовых программах, тем реже подрядчикам придётся срочно обновлять системы у нескольких клиентов одновременно.

Группу возглавили Акихиро Умэгаи и Дэвид Ха. Она будет работать отдельно от коммерческой деятельности Sakana AI и открыто публиковать результаты исследований, тесты, которые смогут повторить другие команды, и практические рекомендации по защите.

← Все новости