Передовой ИИ
Самые способные модели и системы ИИ общего назначения (англ. frontier AI): они решают широкий круг задач и достигают уровня самых продвинутых моделей своего времени или превосходят его. Их создают крупнейшие лаборатории, и именно с ними регуляторы и исследователи безопасности связывают главные риски технологии. Отдельную такую модель называют передовой моделью.
проверено по: gov.uk ↗
См. также
- Передовая модельМодель ИИ из числа самых мощных на данный момент, на переднем крае возможностей отрасли (frontier model). Понятие относительное: с выходом более сильных систем модель перестаёт быть передовой. Именно к таким моделям разработчики и регуляторы предъявляют самые строгие требования к оценке рисков и безопасности.
- Frontier Safety FrameworkНабор правил и процедур Google DeepMind для выявления и снижения тяжёлых рисков от передовых моделей ИИ. В нём заданы критические уровни возможностей — пороги в таких областях, как кибератаки, биологические угрозы, ускорение исследований в машинном обучении, вредоносная манипуляция и рассогласование. Модели регулярно проходят оценки раннего предупреждения, а при приближении к порогу компания усиливает защиту весов и ограничивает развёртывание. Похожие документы есть у других лабораторий: Preparedness Framework у OpenAI и политика ответственного масштабирования у Anthropic.
- Политика ответственного масштабированияПубличная политика компании Anthropic, связывающая уровни опасных возможностей моделей (ASL) с обязательными мерами защиты и требованиями безопасности при их разработке и выпуске. Если нужные меры не обеспечены, компания обязуется приостановить дальнейшее масштабирование; по её образцу схожие рамочные политики принимали другие лаборатории.
- СверхинтеллектГипотетический интеллект, чаще всего искусственный, который значительно превосходит человека почти во всех интеллектуальных областях: в науке, стратегическом планировании, творчестве и социальных навыках. От сильного ИИ (AGI) отличается тем, что AGI обычно понимают как ИИ, сопоставимый с человеком, а сверхинтеллект — как намного его превосходящий. Второе название — суперинтеллект (superintelligence).
В новостях
Модели OpenAI помогли найти две критические уязвимости в PHP
Самые сильные модели искусственного интеллекта своего времени, на пределе того, что умеет отрасль.
Еврокомиссия созвала научную группу по ИИ из-за моделей, вышедших из-под контроля разработчиков
Самые мощные модели ИИ своего времени, по возможностям близкие к пределу того, что умеет отрасль; именно с ними связывают главные риски для безопасности.
Британия возьмётся согласовать мировые стандарты безопасности ИИ
Самые мощные модели общего назначения, которые расширяют границы возможностей ИИ. Их создают крупнейшие лаборатории, и именно с ними регуляторы обычно связывают главные риски технологии.