DeepSeek V4.1 Flash

Что это за модель

DeepSeek V4.1 Flash — первая и самая младшая модель новой архитектуры DeepSeek. Она понимает текст и картинки, а отвечает текстом. Модель построена как смесь экспертов (mixture of experts): всего в ней 552 млрд параметров, но на каждый токен работает лишь малая часть. Сорок слоёв разделены на две половины по 20: кодировщик читает входной текст, декодер пишет ответ. При чтении задействовано 8 млрд параметров, при письме — 16 млрд. Поэтому модель особенно выгодна там, где на вход подаётся много текста, а ответ короткий: в агентных задачах и при работе с большими документами.

Главное отличие от V4 Flash — память контекста, то есть кэш, где модель хранит уже прочитанный текст. DeepSeek переделала механизм разреженного внимания и сжала кэш: на один токен он занимает около 890 байт, примерно вчетверо меньше, чем у V4 Flash. По словам компании, это заметно удешевляет работу агентов на её серверах. Модель предобучили на 45 трлн токенов текста и картинок, а при дообучении сделали упор на автоматически созданные задачи и среды для агентов. По замерам лаборатории, V4.1 Flash обходит в бенчмарках прежний флагман V4-Pro. Поэтому V4 Flash и V4 Flash Vision Exp выведены из работы, а с 14 сентября запросы к V4-Pro тоже уходят на новую модель, пока не выйдет V4.1-Pro.

Модель берут для программирования и агентов — программ, которые сами выполняют многошаговые задачи. В карточке модели DeepSeek приводит такие результаты: 90,6% в Terminal-Bench 2.1 (работа в командной строке), 74,2% в DeepSWE v1.1 (исправление кода в реальных проектах), 90,9 в GPQA Diamond (сложные вопросы по естественным наукам) и рейтинг 3471 на Codeforces. Глубину рассуждений можно плавно менять по шкале от 1 до 100: ниже — дешевле и быстрее, выше — точнее. Цена в таблице — ночной тариф: в часы пиковой нагрузки запросы стоят вдвое дороже.

Лаборатория сама отмечает слабое место: в тестах на знание фактов модель заметно уступает старшей. Например, в SimpleQA её базовая версия набирает 42,3 против 55,2 у Pro. Веса открыты под лицензией MIT, так что модель можно запускать у себя и встраивать в коммерческие продукты. Но при 552 млрд параметров для этого нужны серьёзные серверы, а не домашняя видеокарта.

Источники: Анонс DeepSeek-V4.1-Flash, Карточка модели на Hugging Face