Granite-4.1-8B-LLMON-preview

Granite-4.1-8B-LLMON-preview — экспериментальная модель IBM с 8 млрд параметров, дообученная на основе Granite-4.1-8B-base. Её особенность — LLMON, язык разметки для явного разделения команд, документов, данных и результатов работы инструментов. Отдельный блок указывает, какую команду выполнить и к каким данным её применить. При обучении модели показывали отвлекающие инструкции, чтобы она училась отличать распоряжения от текста, который нужно обработать.

По замерам IBM, общие способности модели сопоставимы с обычной Granite 4.1, обученной следовать инструкциям, при большей устойчивости к скрытым командам во входных данных. Например, вредоносная фраза внутри найденного документа должна оставаться материалом для чтения, а не становиться новым заданием. Это более крупная из двух экспериментальных LLMON-моделей: у соседней Granite-4.1-3B-LLMON-preview 3 млрд параметров.

IBM предлагает модель для помощников, которые пересказывают документы, извлекают сведения и отвечают на вопросы с поиском по источникам. Другой сценарий — агенты, то есть системы, выполняющие задачи с помощью внешних инструментов: разметка помогает отделять полученные результаты от управляющих команд. Готовый шаблон автоматически переводит сообщения в LLMON, поэтому писать разметку вручную обычно не требуется. Передача обычного формата чата без такого преобразования, по документации IBM, снижает качество.

IBM предназначает эту предварительную версию для экспериментов и оценки, а не для рабочих систем. Разделение команд и данных снижает риск выполнения вредоносной инструкции, но не гарантирует защиту. Опубликованные проверки устойчивости касаются заранее подготовленных атак; защиту от атак, которые меняются по ходу диалога, IBM продолжает улучшать. Русский язык не входит в заявленный список поддерживаемых. Модель распространяется по лицензии Apache 2.0.

источники:Анонс IBM ↗Карточка модели ↗Документация LLMON ↗