Ключи API — мимо чата с агентом: Саймон Уиллисон выпустил плагин для утилиты LLM
Новый плагин Саймона Уиллисона для утилиты LLM запускает на машине веб-страницу, где можно сохранить ключи API. Агент не видит ключ в переписке: он получает его командой в терминале.
Саймон Уиллисон выпустил первую версию нового плагина для своей утилиты LLM. Плагин решает узкую задачу: как передать ключ API на удалённую машину, не вставляя его в чат с агентом для программирования. LLM — консольная утилита Уиллисона для работы с языковыми моделями разных компаний.
Плагин понадобился Уиллисону, когда он начал работать по-новому. Он запускает агентов Codex на разных компьютерах и управляет ими с телефона через Codex Remote. Иногда на этих машинах он занимается проектами вокруг LLM, и тогда нужен ключ API. Вставлять ключи в сессию агента он не любит, а значит, и в приложение ChatGPT, через которое идёт переписка.
Теперь он просит Codex запустить плагин. Агент поднимает на машине небольшой веб-сервер и присылает адреса: локальный, в домашней сети и в сети Tailscale. Уиллисон открывает страницу на телефоне и вводит ключи там. На скриншоте видно, что сохранённые ключи страница показывает только по названиям вроде Anthropic и OpenAI. Сами значения на экран не выводятся.
Когда агенту понадобится ключ, он запросит его по названию короткой командой утилиты LLM и подставит в команду терминала. Модель при этом работает с ключом, но сам ключ не проходит через переписку в чате.