DSPy
Фреймворк с открытым кодом, созданный в Стэнфорде, для программирования языковых моделей на Python вместо ручного составления запросов. Разработчик описывает входы и выходы задачи декларативно, в виде «сигнатур», и собирает из модулей конвейер. После этого оптимизаторы DSPy сами подбирают запросы или дообучают модель под выбранную метрику.
проверено по: github.com ↗
См. также
- LangChainФреймворк с открытым исходным кодом для создания приложений и ИИ-агентов на основе больших языковых моделей. Даёт единый интерфейс к моделям разных провайдеров, векторным хранилищам, поиску и инструментам, чтобы разработчики собирали из них цепочки и агентов и не писали код отдельно под каждого поставщика. Его разрабатывает одноимённая компания; её продукты LangGraph (оркестрация агентов) и LangSmith (оценка и отладка) — отдельные инструменты.
- Системный промптИнструкция, которую языковая модель или агент получает до сообщений пользователя (system prompt, также «системный запрос»). В ней задаются роль, стиль, правила и ограничения, действующие на весь разговор. Её пишет разработчик продукта, а пользователь её обычно не видит.
В новостях
Стартап TypeSafe выпустил модель Jev, которая принимает решения без текста
Фреймворк с открытым кодом из Стэнфорда. Вместо того чтобы писать запросы к языковым моделям вручную, разработчик описывает, что задача принимает на вход и что должна выдать, а фреймворк сам подбирает и оптимизирует запросы.