Контекстное окно
Максимальный объём текста в токенах, который языковая модель может обработать за один раз. В него входят запрос, приложенные документы, история диалога и сам ответ модели. Если текст не помещается, часть приходится обрезать или сжимать. От размера окна зависит, сколько кода или документов можно дать модели разом.
проверено по: en.wikipedia.org ↗
См. также
- ТокенТокен — минимальная единица текста, которой оперирует языковая модель: обычно это часть слова, целое слово или знак препинания. В токенах измеряют длину контекста и скорость генерации (токенов в секунду), а также тарифицируют работу коммерческих моделей.
- Сжатие контекстаПриём для длинных диалогов и долгих задач ИИ-агентов (compaction): когда контекстное окно почти заполнено, старая история заменяется кратким пересказом, и дальше модель работает уже с ним. Так модель может работать дольше, чем позволяет окно, но детали при пересказе могут потеряться, а ошибка в сводке останется с моделью до конца работы. Простая очистка контекста удаляет старые сообщения, а сжатие заменяет их пересказом.
- Кэширование промптовКэширование промптов (prompt caching) — механизм API языковых моделей, при котором повторяющаяся начальная часть контекста (инструкции, код, история диалога) сохраняется на стороне провайдера и при следующих обращениях не обрабатывается заново. Это снижает задержку и стоимость входных токенов и особенно заметно в агентных сценариях с длинным неизменным контекстом.
В новостях
Qwen3.8 на ноутбуке Уиллисона определила по числовым параметрам, во что играют нейросети
Объём текста, который модель может учитывать за один раз: запрос, переписка и её собственный ответ. Измеряется в токенах.
В ответах GLM-5.3 в облаке Cloudflare две недели попадались чужие данные
Наибольший объём текста в токенах, который модель может принять и учесть за один запрос, вместе с собственным ответом.
Inception выпустила Mercury 3 — языковую модель на 1 000 токенов в секунду
Объём текста, который модель учитывает за один раз: запрос, приложенные документы и предыдущую переписку. Измеряется в токенах.
Стартап Reflection AI выложил в открытый доступ первую модель Beam для кода и ИИ-агентов
Объём текста в токенах, который модель учитывает за один раз: запрос, приложенные документы и историю разговора.
Meta выложила открытую модель Muse Spark Open для кода и агентов
Объём данных, который модель учитывает за один раз: запрос, документы, историю разговора и собственный ответ. Измеряется в токенах.
Cloudflare выпустила Clef-omni — открытый классификатор для звука и видео
Объём данных, который модель может принять и учесть за один запрос. Измеряется в токенах.
Сотрудники Google хвалят сборку Gemini 4 Carbon, пишет Business Insider
Объём текста, который модель учитывает за один раз: запрос, документы и историю разговора. Измеряется в токенах.
Google выпустила EmbeddingGemma 2 — модель для поиска по видео и звуку
Объём данных, который модель может принять и учесть за один раз; обычно измеряется в токенах.
Агент Mistral Vibe научился сам отличать рискованные команды от обычных
Объём текста, который модель учитывает за один раз: запрос, переписку, документы и код. Измеряется в токенах; всё, что не поместилось в окно, модель не видит.
Cloudflare выпустила открытые модели-классификаторы Clef для ИИ-агентов
Объём текста и других данных, который модель учитывает за один запрос. Измеряется в токенах.
Cohere выпустила Embed 5 — модели для поиска по документам компаний
Максимальный объём текста и других данных, который модель может обработать за один раз. Измеряется в токенах.
Inception выпустила Mercury Voice — модель для голосовых агентов
Объём текста в токенах, который модель учитывает за один раз: запрос, инструкции, историю разговора и собственный ответ.
Cohere начала закрытый бета-тест облачного корпоративного поиска Compass
Объём текста, который модель может учесть за один раз: запрос, приложенные документы и её собственный ответ.