модель · IBM · вышла 12 ноября
Granite-4.1-3B-LLMON-preview
Экспериментальная модель IBM для текстовых помощников и агентов с явным разделением инструкций и данных
О модели
Granite-4.1-3B-LLMON-preview — экспериментальная модель IBM с тремя миллиардами параметров, дообученная на базе Granite-4.1-3B-base. Её особенность — LLMON, формат разметки, который выделяет инструкции, документы и результаты работы внешних инструментов в отдельные блоки. Дополнительный блок указывает, какую инструкцию выполнить и к каким данным она относится.
По замерам IBM, общие способности модели сопоставимы с обычной Granite 4.1 3B, а устойчивость к вредоносным командам, скрытым в документах, выше. Эти проверки касались заранее подготовленных атак; защиту от атак, меняющихся по ходу диалога, компания ещё улучшает. Соседняя Granite-4.1-8B-LLMON-preview использует тот же подход, но содержит больше параметров.
Модель предназначена для экспериментов с помощниками, которые отвечают по найденным документам, пересказывают тексты и извлекают сведения. В агентных задачах, где помощник обращается к внешним сервисам, разметка помогает отличать ответы этих сервисов от команд пользователя.
IBM рекомендует предварительную версию для исследований и оценки, но не для рабочей среды. Запросы нужно пропускать через комплектный шаблон, который преобразует сообщения в LLMON: обычный формат диалога ухудшает качество. Разделение инструкций и данных выучено моделью и не гарантирует защиты от всех атак. Русский язык не входит в заявленный список поддерживаемых языков. Модель распространяется по лицензии Apache 2.0.
Новости о модели
IBM выпустила модели Granite, обученные отделять команды от данных
Разметка LLMON помогла моделям игнорировать вредоносные инструкции внутри документов в тестах IBM, но гарантированной защиты она не даёт.
Данные: models.dev (MIT).