Институт безопасности ИИ
Государственная организация (AI Safety Institute, AISI), которая изучает риски передовых систем ИИ, проверяет модели на опасные возможности и разрабатывает методы оценки. Первые такие институты появились в Великобритании и США; позже они и аналогичные организации других стран договорились о сотрудничестве в международной сети. Отдельные институты, например британский AI Security Institute и американский CAISI, — конкретные примеры этого типа организаций.
проверено по: en.wikipedia.org ↗
См. также
- CAISSIЦентр при Национальном институте стандартов и технологий США (NIST), через который правительство США взаимодействует с разработчиками ИИ: вместе с ними испытывает передовые модели до и после выпуска, оценивает их возможности и риски для национальной безопасности, разрабатывает добровольные стандарты и руководства по безопасности, а также представляет США в международной стандартизации ИИ. Центр создан в 2023 году как Институт безопасности ИИ США (U.S. AI Safety Institute). В 2025 году его переименовали в CAISI (Center for AI Standards and Innovation), а в 2026-м — в CAISSI (Center for Advancing Innovation and Standards for Super Intelligence, «Центр развития инноваций и стандартов для сверхинтеллекта»).
- Европейское управление по искусственному интеллектуПодразделение Европейской комиссии (European AI Office), которое отвечает за исполнение Регламента ЕС об искусственном интеллекте. Только оно надзирает за моделями ИИ общего назначения: запрашивает у разработчиков документацию, проводит оценку моделей, в том числе на системный риск, и может потребовать мер вплоть до отзыва модели с рынка. Надзор за остальными системами ИИ ведут национальные органы стран ЕС.
- AI Verify FoundationНекоммерческий фонд, дочерняя организация сингапурского регулятора в сфере связи и медиа IMDA. Вместе с компаниями, разработчиками и регуляторами создаёт открытые инструменты, методики и стандарты для тестирования ИИ-систем. Среди них набор AI Verify, который проверяет модели на соответствие принципам ответственного ИИ, и Project Moonshot для оценки больших языковых моделей.
В новостях
Британия создаёт лабораторию ИИ против биоугроз с OpenAI и Anthropic
Государственная организация, которая испытывает передовые модели ИИ на опасные возможности и изучает, как снизить связанные с ними риски. Такие институты есть в Великобритании, США и ряде других стран.
Anthropic разобрала, почему Mythos 5 на тесте атаковала реальных людей
Государственная организация, которая проверяет передовые модели ИИ на опасные возможности и изучает связанные с ними риски. Такие институты есть в Великобритании, США и ряде других стран.
IBM ускорила плагин, который заглядывает внутрь модели во время ответа
Государственная организация, которая проверяет передовые модели на опасные возможности и изучает, как сделать ИИ безопаснее. Такие институты есть в Великобритании, США и ряде других стран.
Белый дом вернул Британии ранний доступ к моделям ИИ, пишет The Telegraph
Государственная организация, которая проверяет передовые модели ИИ на опасные возможности и риски злоупотреблений, часто ещё до их выхода. Британский институт создан после первого мирового саммита по безопасности ИИ в Блетчли-парке.
OpenAI призвала США возглавить работу над мировыми стандартами для ИИ
Государственная организация, которая проверяет передовые модели ИИ на опасные возможности и разрабатывает методы оценки рисков.