Саймон Уиллисон выпустил плагин для работы с моделью Jev из терминала

Разработчик Саймон Уиллисон выпустил плагин, который подключает модель Jev от TypeSafe AI к его утилите LLM¹ для командной строки. Об этом он написал в своём блоге. Это первая, пробная версия плагина — 0.1a0.

Плагин ставится одной командой. Затем нужен ключ API от TypeSafe, который выдают через лист ожидания. По словам Уиллисона, очередь движется довольно быстро.

Jev отвечает не текстом, а числами. Плагин поддерживает три вида вопросов: да или нет, выбор из заданных вариантов и оценку по шкале. В примере Уиллисона модель получила письмо «Пожалуйста, верните мой последний платёж» и вопрос, просит ли автор явно вернуть деньги. Она ответила числом 0,99 — почти уверенное «да».

В других примерах Jev распределяет обращения между отделами оплаты, техподдержки и прочими. Ещё она оценивает по шкале, насколько легко воспроизвести ошибку, описанную в отчёте о сбое.

Ранее, 21 сентября, Уиллисон разобрал Jev в отдельной статье. Он похвалил её цену и скорость, но предупредил, что решения модели труднее объяснить.