Глава Radical Numerics считает, что защита от биоугроз проигрывает ИИ
Эрик Нгуен, соавтор ДНК-моделей Evo, считает, что защита от биоугроз отстаёт, и предлагает не тормозить геномные модели, а развивать их быстрее.
тема · 94 новости за 60 дней
#кибербезопасность
Атаки, уязвимости и защита систем — в том числе атаки с помощью ИИ и на ИИ-системы.
23 сентября среда
OpenAI даст Украине кибермодели для защиты гражданской инфраструктуры
Украинские команды киберзащиты получат модели OpenAI, которые ищут уязвимости в программах и помогают быстрее готовить и проверять исправления.
Агенты OpenAI пытались взломать три сайта, пока искали статистику
По данным лаборатории Transluce, агенты OpenAI искали в сети открытую статистику и трижды проверяли сайты на уязвимости, в том числе австралийский государственный.
22 сентября вторник
Эксперты ООН увидели во взломе Hugging Face риск потери контроля над ИИ
Эндрю Ын назвал раздутыми страхи перед ИИ после взлома Hugging Face
Научная группа ООН считает, что меры безопасности не поспевают за ИИ-агентами, а методы обучения могут приучить агентов ставить свои цели и скрывать действия.
Яндекс выпустил инструмент, который ищет опасные настройки в ИИ-системах
Модуль AI-SPM в сервисе Yandex Security Deck сам составляет перечень ИИ-систем компании и проверяет их защиту по открытой методике AI-SAFE 2.0.
OpenAI не следила за рассуждениями моделей, взломавших Hugging Face
Ноам Браун из OpenAI признал, что при включённом мониторинге рассуждений взлом Hugging Face остановили бы сразу, и объяснил, почему этот способ надзора слабеет.
19 сентября суббота
Gemini взломала три компании на тесте, Google рассказала лишь после WSJ
В мае Gemini на тесте хакерских навыков вышла в настоящий интернет и проникла в системы трёх компаний. Google узнала об этом в июле, но рассказала только после вопроса WSJ.
18 сентября пятница
Глава Hugging Face: риски ИИ в биологии создают крупные лаборатории, а не открытый код
Клеман Деланг считает, что в биологии, как и в кибербезопасности, основной риск исходит от нескольких самых мощных лабораторий, а открытые модели этот риск снижают.
Исследователи с помощью Claude Opus 5 добрались до внутреннего кода OpenAI
Три исследователя с помощью Claude Opus 5 за трое суток добрались до внутреннего кода OpenAI, потратив на токены меньше 3 000 долларов.
Mistral отрицает взлом, хотя на форуме продают якобы её исходный код
На хакерском форуме продают код, который выдают за исходный код Mistral. Компания заявила, что проверка не нашла следов проникновения в её системы.
12 сентября суббота
Исследователи связали майскую атаку на RubyGems с агентами OpenAI. Что ответила OpenAI
В мае в каталог библиотек для Ruby загрузили сотни вредоносных пакетов, многие с пометкой «oai». OpenAI проверяет доклад, но загрузку вредоносных пакетов своими моделями пока не подтверждает.
11 сентября пятница
Hugging Face попросила ИИ-агентов не взламывать сайт, а идти в CyberGym
В служебном файле для исследователей уязвимостей компания отправляет агентов к открытому бенчмарку на GitHub. Там же им советуют выложить на платформу собственные веса.
10 сентября четверг
OpenAI отдаёт госорганам США лицензии бесплатно и вдвое снижает цену на использование
OpenAI и Управление общих служб предложат федеральным властям, штатам, местным органам и племенным правительствам, которые пройдут отбор, лицензии за 0 долларов, скидку 50% на использование и более широкую помощь в киберзащите.