Cloudflare выпустила модель Clairic для извлечения чисел и дат из текста

Cloudflare открыла предварительный доступ к Clairic на своей облачной платформе Workers AI¹. Эта модель не пишет ответ слово за словом, а за один проход достаёт из писем, чеков и таблиц суммы, даты и имена.

Почему это важно: до сих пор быстрые модели, которые не пишут текст, только выбирали ответ из заданных вариантов, а Clairic отвечает самим значением. Вопросы вроде «какая сумма в счёте» сейчас обычно отдают большим языковым моделям.

Предыстория: месяц назад стартап TypeSafe выпустил Jev — модель, которая ставит вероятность каждому заранее перечисленному варианту ответа. Такие модели назвали «Системой 1» — по книге психолога Даниэля Канемана, где так зовётся быстрое интуитивное мышление, а медленное рассуждение, как у чат-ботов, — «Системой 2». В начале октября Cloudflare выпустила свою модель этого рода, Clef.

Как это работает: разработчик передаёт текст, до четырёх картинок и список полей с типом и пояснением, а модель отвечает на все поля сразу, обычно меньше чем за секунду. Кроме того, она оценивает величины, которых в тексте нет, — например, цену дома по похожим продажам — и продолжает числовые ряды. Такие ответы приходят с медианой и диапазоном, куда значение должно попадать в восьми случаях из десяти. Платят только за текст, который получает модель, — 0,10 доллара за миллион токенов; за ответ денег не берут.

Детали: в примере Cloudflare модель разбирает письмо покупателя: заказ пришёл 28 сентября с треснувшим экраном, за него заплатили 649 долларов плюс 52,10 доллара налога, письмо написано 9 октября.

• Общую сумму оплаты модель сложила сама, хотя в письме её нет, и вернула её отдельным числом.
• Сколько дней прошло с доставки, она посчитала по двум датам из текста.
• Номера отслеживания в письме нет, и модель вернула пустое поле, а не правдоподобную выдумку.

В цифрах: Cloudflare проверила модель сама.

• Три недели подряд модель каждое утро прогнозировала, сколько людей на следующий день пройдёт досмотр в аэропортах США, и ошибалась в среднем на 3,3%.
• В 17 случаях из 21 настоящее число попало в её диапазон — примерно так и должно быть при уверенности 80%.
• Связка Clairic, Clef и языковой модели GLM-5.3 разобрала жалобу и написала ответ за 19,3 секунды, а одна GLM-5.3 на всех шагах — за 61,7 секунды.
• Связка обошлась на 49% дешевле. Оценка стоимости ремонта у Clairic во всех прогонах была одной и той же, а у GLM-5.3 менялась: 250, 250 и 220 долларов.

Но: Cloudflare сама называет слабые места ранней версии.

• Простые расчёты в одно-два действия — суммы, разности, даты — модель делает надёжно, а длинные цепочки вычислений и итоги по многим строкам таблицы ей пока не даются.
• О праздниках модель не знает: три из четырёх промахов в прогнозе досмотра пришлись на длинные выходные в честь Дня Колумба.
• На незнакомых данных диапазоны бывают слишком узкими, а ответ нужного типа ещё не значит, что ответ верный.

Что дальше: Cloudflare обещает улучшать в следующих версиях арифметику, оценки и прогнозы, а после доработки выложить открытые веса². Срок компания не называет.