Передовая модель
Модель ИИ из числа самых мощных на данный момент, на переднем крае возможностей отрасли (frontier model). Понятие относительное: с выходом более сильных систем модель перестаёт быть передовой. Именно к таким моделям разработчики и регуляторы предъявляют самые строгие требования к оценке рисков и безопасности.
проверено по: nvidia.com ↗
См. также
- Передовой ИИСамые способные модели и системы ИИ общего назначения (англ. frontier AI): они решают широкий круг задач и достигают уровня самых продвинутых моделей своего времени или превосходят его. Их создают крупнейшие лаборатории, и именно с ними регуляторы и исследователи безопасности связывают главные риски технологии. Отдельную такую модель называют передовой моделью.
- Frontier Safety FrameworkНабор правил и процедур Google DeepMind для выявления и снижения тяжёлых рисков от передовых моделей ИИ. В нём заданы критические уровни возможностей — пороги в таких областях, как кибератаки, биологические угрозы, ускорение исследований в машинном обучении, вредоносная манипуляция и рассогласование. Модели регулярно проходят оценки раннего предупреждения, а при приближении к порогу компания усиливает защиту весов и ограничивает развёртывание. Похожие документы есть у других лабораторий: Preparedness Framework у OpenAI и политика ответственного масштабирования у Anthropic.
- Preparedness FrameworkРамочная политика OpenAI по оценке и снижению рисков от продвинутых моделей в таких областях, как кибербезопасность, биология и химия, автономность. Модели оценивают по уровням опасных возможностей, и от уровня зависит, какие защитные меры обязательны и допустим ли выпуск модели вообще.
- Политика ответственного масштабированияПубличная политика компании Anthropic, связывающая уровни опасных возможностей моделей (ASL) с обязательными мерами защиты и требованиями безопасности при их разработке и выпуске. Если нужные меры не обеспечены, компания обязуется приостановить дальнейшее масштабирование; по её образцу схожие рамочные политики принимали другие лаборатории.
В новостях
OpenAI подключает агентов Dots к GPT-6.1 Terra, чтобы открыть их большему числу людей
Модель на переднем крае возможностей ИИ: самая способная на момент выхода или близкая к таким. Такие модели выпускают ведущие лаборатории.
OpenAI рассказала, как следит за поведением своих передовых моделей
Самые мощные модели ИИ своего времени: они расширяют границу того, что умеет ИИ. Поэтому ведущие лаборатории проверяют их на безопасность строже всего.
Почти 30 стран без США и Китая призвали усилить надзор за передовым ИИ
Самые мощные модели ИИ ведущих лабораторий, возможности и риски которых ещё не до конца изучены. К ним обычно применяют особые требования безопасности.
Албанезе подписал призыв Финляндии и Норвегии держать ИИ под контролем людей. США и Китай — нет
Самые мощные на данный момент модели ИИ общего назначения, которые выпускают ведущие лаборатории. Требования безопасности обычно предъявляют именно к ним: их возможности и риски труднее всего предсказать.