ИИтак

← Назад

Словарь

Сжатие контекста

Приём для длинных диалогов и долгих задач ИИ-агентов (compaction): когда контекстное окно почти заполнено, старая история заменяется кратким пересказом, и дальше модель работает уже с ним. Так модель может работать дольше, чем позволяет окно, но детали при пересказе могут потеряться, а ошибка в сводке останется с моделью до конца работы. Простая очистка контекста удаляет старые сообщения, а сжатие заменяет их пересказом.

← Весь словарь