модель · Sarvam AI · вышла 3 ноября
Sarvam Prism
Модель для выбора из заданных вариантов с оценкой вероятностей: сортировка обращений, модерация и проверка работы ИИ
О модели
Sarvam Prism — модель Sarvam AI для выбора из заранее заданных вариантов. Она создана на основе Sarvam-105B с архитектурой «смесь экспертов»: при обработке данных задействуется лишь часть параметров. В отличие от разговорной Sarvam-105B, Prism за один проход рассчитывает вероятности вариантов и не пишет текст. Ей можно задать вопрос «да или нет», предложить выбор категории или шкалу оценок.
Её выбирают для распределения обращений по отделам, модерации и проверки результатов работы ИИ. Sarvam AI заявляет, что вероятности откалиброваны: в тестах лаборатории фактическая доля ошибок была ниже предсказанной моделью. Это позволяет настроить систему так, чтобы уверенные решения принимались автоматически, а сомнительные передавались человеку. При выборе категории перестановка вариантов не влияет на ответ: перед оценкой Prism приводит их к фиксированному порядку.
Prism не объясняет, почему выбрала тот или иной ответ. Согласно документации Sarvam AI, на индийских языках она реже достигает высокого порога уверенности, чем на английском, поэтому больше решений требуют проверки человеком. Лицензия Apache 2.0 позволяет компаниям дообучать модель и встраивать её в свои продукты. В описанной лабораторией конфигурации для самостоятельного запуска нужны веса в восьмибитном формате и один графический ускоритель как минимум со 120 ГБ памяти.
Новости о модели
Индийская Sarvam AI выпустила открытую модель Prism для быстрых решений
Открытая модель Prism не пишет текст, а за 44 мс взвешивает варианты ответа и, по замерам самой Sarvam AI, ошибается реже, чем предсказывает.
Данные: models.dev (MIT).