LLM (утилита)
Консольная программа и библиотека для Python с открытым кодом, которую написал Саймон Уиллисон. Через неё из терминала можно обращаться к языковым моделям разных компаний по API, а также к моделям, запущенным на своём компьютере. Программа сохраняет историю диалогов в SQLite, умеет строить векторные представления, а новые модели и инструменты подключаются к ней плагинами.
проверено по: llm.datasette.io ↗
См. также
- Саймон УиллисонБританский программист, один из создателей веб-фреймворка Django и автор инструмента Datasette. Ведёт блог simonwillison.net, где подробно разбирает работу больших языковых моделей и ведёт популярный раздел цитат об ИИ.
- Векторное представлениеВекторное представление (эмбеддинг, embedding) — набор чисел, которым модель описывает объект: слово, текст, изображение или страницу. Числа подобраны так, что близкие по смыслу объекты оказываются рядом в этом пространстве, поэтому на эмбеддингах строят смысловой поиск, рекомендации и кластеризацию.
- APIAPI (application programming interface) — программный интерфейс, набор описанных вызовов, через которые одна программа обращается к возможностям другой. В сфере ИИ через API разработчики встраивают модели в свои приложения, обращаясь к ним по идентификатору модели.
- DatasetteОткрытый инструмент Саймона Уиллисона для изучения и публикации данных. Превращает базу данных SQLite, а также файлы CSV или JSON в сайт с поиском, фильтрами, SQL-запросами и API. Рассчитан на журналистов данных, исследователей, архивистов и всех, кто хочет открыть свои данные; возможности расширяются плагинами.
В новостях
Саймон Уиллисон подключил Decisions API от OpenAI к своей утилите LLM
Программа для командной строки и библиотека на Python от Саймона Уиллисона. Через неё обращаются к языковым моделям разных компаний, а поддержку новых моделей и сервисов добавляют плагины.
Уиллисон выпустил плагин, который прячет ключи API от чата с агентом
Программа Саймона Уиллисона с открытым кодом для работы с языковыми моделями из командной строки. Новые модели и функции к ней подключают плагинами.