ИИтак
Поиск

← Назад

Рекомендации разработчика · модели DeepSeek

Режим размышлений DeepSeek

Пересказ на русском. Оригинал: «Thinking Mode» ↗ — DeepSeek, на английском.

Как включать размышления у моделей DeepSeek через API, какие настройки в этом режиме не действуют и что обязательно возвращать модели в следующих запросах.

Коротко

  • Размышления включены по умолчанию, глубина по умолчанию высокая.
  • Глубина задаётся одним из трёх уровней: low, high или max.
  • temperature и штрафы за повторы в этом режиме ничего не меняют.
  • Если в запросе есть инструменты, возвращайте модели её рассуждения за все ходы, иначе API вернёт ошибку 400.

Как включить и выбрать глубину

Параметры зависят от формата, в котором вы отправляете запрос:

  • OpenAI: thinking включает и выключает режим, reasoning_effort задаёт глубину. Через SDK OpenAI параметр thinking передают в поле extra_body.
  • Anthropic: один параметр reasoning.effort: значение none выключает режим, low, high и max задают глубину.
  • Responses API: глубину задаёт output_config.effort.

Другие значения API принимает, но сводит к трём своим:

  • minimal и low работают как low;
  • medium, high и xhigh — как high;
  • max и ultra — как max.

Какие настройки не действуют

  • temperature, presence_penalty и frequency_penalty в режиме размышлений игнорируются.
  • top_p работает только в режиме размышлений и только в пределах от 0.95 до 1.0: меньшее значение считается за 0.95.
  • Без размышлений top_p всегда равен 1.0.

Что возвращать модели

Рассуждения приходят в отдельном поле reasoning_content, ответ — в поле content. Что делать с рассуждениями дальше, зависит от того, передаёте ли вы модели инструменты (параметр tools):

  1. Без инструментов: возвращать reasoning_content не нужно — API его проигнорирует.
  2. С инструментами: возвращайте reasoning_content всех прошлых ходов целиком, даже тех, где модель ничего не вызывала. Так она продолжает прежнюю мысль между вызовами.

Вместодобавлять в историю только текст ответа, content

Лучшедобавлять сообщение модели целиком — content, reasoning_content и tool_calls

Источник: Thinking Mode (DeepSeek). Пересказ ИИтак.