Саймон Уиллисон подключил Decisions API от OpenAI к своей утилите LLM
Плагин Уиллисона к Decisions API, где модель OpenAI отвечает на вопрос вероятностью, вариантом или баллом, написала GPT-6 Astra. Сервис дороже похожей модели Jev от TypeSafe — 10 центов за миллион токенов против 4,2, — зато понимает картинки.
Саймон Уиллисон выпустил плагин, который подключает его утилиту LLM1 к Decisions API — сервису OpenAI, где модель называет вероятность того, что условие верно, выбирает вариант из списка или ставит балл.
Детали: плагин написала GPT-6 Astra. Она прочитала документацию нового API и взяла за образец прежний плагин Уиллисона для Jev — модели стартапа TypeSafe, которая работает так же.
Расклад: по словам Уиллисона, оба сервиса устроены похоже: у них одни и те же три типа вопросов, и платить нужно только за запрос, а ответ бесплатен. Миллион входных токенов у OpenAI стоит 10 центов, у Jev — 4,2 цента.
Но: Jev принимает только текст, а GPT-6 Luna, модель внутри Decisions API, понимает ещё и картинки.
OpenAI показала Decisions API на конференции для разработчиков DevDay 29 сентября и тогда же открыла пробный доступ, а 6 октября открыла сервис всем разработчикам.