Системный промпт
Инструкция, которую языковая модель или агент получает до сообщений пользователя (system prompt, также «системный запрос»). В ней задаются роль, стиль, правила и ограничения, действующие на весь разговор. Её пишет разработчик продукта, а пользователь её обычно не видит.
проверено по: docs.anthropic.com ↗
См. также
- Промпт-инъекцияАтака на языковую модель (prompt injection): в текст, который обрабатывает модель, встраивают команды, чтобы она выполнила их вместо инструкций пользователя или разработчика. При прямой инъекции команды вводит сам пользователь, при косвенной их прячут во внешних данных — на веб-страницах, в файлах, письмах. Особенно опасна для ИИ-агентов, у которых есть доступ к инструментам и данным.
- ДжейлбрейкПриём обхода защитных ограничений ИИ-модели (jailbreak): специально составленный запрос — ролевая игра, маскировка просьбы, необычная форма вроде стихов — заставляет модель выдать то, в чём она обычно отказывает. От промпт-инъекции отличается тем, что пользователь напрямую атакует правила безопасности самой модели, а не подмешивает чужие инструкции в данные, которые она обрабатывает. Изначально так называли снятие ограничений производителя на смартфонах.
- AGENTS.mdОткрытый формат инструкций для ИИ-агентов, которые пишут код: это Markdown-файл в репозитории, где описано, как собирать и тестировать проект и каких соглашений по коду придерживаться. В отличие от README, он адресован агентам, а не людям. Формат появился благодаря совместной работе OpenAI Codex, Google Jules, Cursor, Factory и Amp; теперь его развивает Agentic AI Foundation при Linux Foundation.
В новостях
Агент Meta Muse заводит профили друзей и родных пользователя, пишет WIRED
Скрытые инструкции, которые разработчик даёт модели или агенту до начала разговора: задают роль, правила поведения и порядок работы. Пользователь их обычно не видит.
Томас Птачек призвал не брать в тексты ни одного слова от ИИ
Инструкция, которую модель получает перед разговором с пользователем. Пользователь её обычно не видит, а она задаёт роль, тон и правила ответов модели.
Уиллисон собрал с помощью GPT-6 Astra страницу для разговора с Gemini Live
Инструкция, которую разработчик задаёт модели до начала разговора: роль, тон, правила ответа. Пользователь в диалоге её обычно не видит.