модель · Moonshot AI · вышла 16 июля
Kimi K3
Флагманская открытая модель Moonshot AI для долгих задач программирования и агентной работы, понимает картинки и видео
О модели
Kimi K3 — самая сильная модель Moonshot AI. Компания называет её первой открытой моделью класса 3 трлн параметров: в ней 2,8 трлн параметров. Она построена как смесь экспертов (mixture of experts): модель состоит из 896 узких подсетей-«экспертов», и на каждый токен работают только 16 из них. Так в ответе участвуют около 104 млрд параметров, а не все 2,8 трлн. Для картинок и видео есть собственный визуальный кодировщик MoonViT-V2.
От Kimi K2.6 и K2.7 её отличает новая архитектура. Большая часть слоёв внимания устроена по схеме Kimi Delta Attention: это линейное внимание, которое дешевле обходится на длинных текстах. Обычное полное внимание стоит лишь в части слоёв. Модель с самого начала обучали с учётом квантизации — хранения весов в сжатом формате MXFP4. По оценке лаборатории, всё это даёт примерно в 2,5 раза больше качества на единицу вычислений, чем у Kimi K2.
Moonshot AI делала модель для долгих задач: сложного программирования, агентной работы с документами и исследованиями, задач с картинками и видео. В примерах компании — оптимизация вычислительных ядер, разработка компиляторов и игр, проектирование чипов, монтаж видео. В карточке модели приведены такие результаты: 93,5 в GPQA Diamond, 88,3 в Terminal-Bench 2.1, 91,2 в BrowseComp. Компания заявляет, что K3 заметно обходит Claude Opus 4.8 и GPT-5.5, а в оптимизации ядер держится на уровне Claude Fable 5.
Сама лаборатория признаёт, что в целом модель уступает Claude Fable 5 и GPT-5.6 Sol. Ещё две оговорки из анонса. Модель чувствительна к истории рассуждений: в многоходовом диалоге ей нужно возвращать предыдущие ответы целиком, вместе с рассуждениями. Кроме того, она бывает излишне инициативной и может принимать решения, о которых пользователь не просил. На старте модель всегда рассуждает с максимальным усилием, облегчённые режимы обещаны в следующих обновлениях. Веса выложены на Hugging Face под собственной лицензией Kimi K3 License.
источники:Анонс Kimi K3 в блоге Kimi ↗Карточка модели на Hugging Face ↗
Рейтинг Epoch AIСводная оценка общих возможностей модели: статистическая модель выводит её из результатов на многих бенчмарках с учётом их сложностиПодробнее на английском ↗
весь рейтинг12место из 268индекс 158вероятный разброс 155–161
- DTBenchВопросы с выбором ответа по теории принятия решений в задачах вроде парадокса Ньюкома, где твой выбор говорит о выборе похожих на тебяСлучайный выбор даёт около 40%, так что это нижняя планка, а не ноль.Подробнее на английском ↗85,3%максимальное
- LMCAНасколько оценки моделью доводов в философии, теории решений и безопасности ИИ совпадают с оценками экспертовБалл — корреляция с оценками экспертов, умноженная на 100; практический потолок около 85, а не 100.Подробнее на английском ↗62,0%максимальное
- Mystery Game Puzzles100 позиций из головоломочного варианта известной игры, название которой скрыто: нужно найти единственный лучший ходПодробнее на английском ↗18,5%низкое
- Surface Evolver Bench16 задач: описать для физической программы Surface Evolver форму жидкости под действием поверхностного натяжения, гравитации и ограниченийЗасчитывается частичное выполнение: отдельные баллы за корректный файл, успешный прогон симуляции и совпадение объёма, площади и энергии с эталоном.Подробнее на английском ↗95,0%максимальное
- FrontierMath-Tier-4-v2-PrivateЗакрытый набор самых трудных задач FrontierMath: исследовательская математика, на которую у специалистов уходят часы и дниПодробнее на английском ↗39,0%максимальное
- FrontierMath-Tiers-1-3-v2-PrivateСотни новых задач исследовательской математики от профессиональных математиков; эксперту на задачу нужны часы или дниПодробнее на английском ↗72,2%максимальное
- FrontierCodeМодель исправляет проблему в открытом проекте, а правку оценивают по тому, приняли бы её сопровождающие проектаБалл выставляют по критериям сопровождающих и усредняют по пяти запускам; если нарушен хотя бы один обязательный критерий, за задачу ставят ноль.Подробнее на английском ↗44,2%
- DeepSWE113 долгих задач по программированию в 91 открытом проекте на пяти языках; задачи написаны с нуля и не публиковалисьEpoch нашла, что примерно в 20% задач проверка отклоняет верные решения, поэтому реальный потолок заметно ниже 100%.Подробнее на английском ↗68,5%максимальное
- PostTrainBenchМожет ли ИИ-агент сам дообучить базовую языковую модель за 10 часов на одной видеокарте H100, без готового кода и данныхБалл — результат дообученной модели на нескольких тестах; официальные версии тех же моделей от разработчиков набирают около 51%.Подробнее на английском ↗32,0%
- ProofBench100 закрытых задач по математике уровня старших курсов и аспирантуры: модель пишет доказательство на Lean 4, его проверяет программаПодробнее на английском ↗87,0%
- APEX-Agents480 многошаговых рабочих задач из инвестбанкинга, консалтинга и корпоративного права: агент работает с файлами, почтой, таблицамиЗадача засчитывается, только если выполнены все пункты экспертного списка критериев; проверяет их другая модель.Подробнее на английском ↗50,6%
- Chess Puzzles100 новых шахматных задач, позиция дана текстом: нужно найти единственный лучший ход по оценке движка StockfishПодробнее на английском ↗35,8%низкое
- SimpleQA Verified1000 коротких вопросов на факты, на которые модель отвечает по памяти, без поиска в интернетеБалл — F1: учитываются и доля верных ответов, и точность там, где модель решилась ответить, так что честное «не знаю» лучше ошибки.Подробнее на английском ↗50,6%максимальное
- ARC-AGI-2Вторая, более трудная версия головоломок на клетках: по примерам найти скрытое правило и применить его к новой картинкеНа каждое задание даётся две попытки; люди в среднем решают около 60% заданий.Подробнее на английском ↗60,4%максимальное
- WeirdMLНеобычные задачи по машинному обучению: модель пишет код, который на выданных данных обучает классификатор, например для распознавания фигурБалл — средняя точность обученных моделью классификаторов, а не доля решённых задач.Подробнее на английском ↗82,6%максимальное
- OTIS Mock AIME 2024-202545 олимпиадных задач по математике из пробных экзаменов AIME школы OTIS; ответ — целое число от 0 до 999Подробнее на английском ↗97,2%низкое
- SimpleBenchВопросы с подвохом на здравый смысл: пространство, время, поведение людей. 213 вопросов, у каждого шесть вариантов ответаЛюди в проверке авторов набрали около 84%, а балл модели — средняя точность по пяти прогонам.Подробнее на английском ↗52,8%максимальное
- GPQA diamond198 вопросов с выбором ответа по физике, химии и биологии уровня аспирантуры — такие, что ответ не найти поискомСлучайный выбор даёт 25%, а специалисты с учёной степенью в своей области набирают около 70%.Подробнее на английском ↗90,8%низкое
- ARC-AGIГоловоломки на цветных клетках: по паре примеров нужно понять правило преобразования картинки и применить его к новойПодробнее на английском ↗94,5%максимальное
Новости о модели
все упоминания · 39Moonshot AI выложила Kimi K3.1 Pro для запуска на серверах компаний
Модель принимает текст и изображения, может учитывать за раз около миллиона коротких фрагментов текста и распространяется под собственной лицензией.
DeepSeek и Moonshot учили модели на ответах GPT-6 Astra от OpenAI, пишет The Information
По данным The Information, GPT-6 Astra стала главной моделью, на ответах которой учатся китайские лаборатории; в сентябре OpenAI связывала с Moonshot попытку выкачать рассуждения моделей OpenAI.
Moonshot AI извинилась за лимиты запросов к модели Kimi K3.1 Pro и вернула четверть квоты
Moonshot AI признала, что по её вине подписчики Kimi упирались в лимиты запросов к модели K3.1 Pro, а их квота расходовалась впустую, и вернула всем 25% месячного лимита — по её подсчёту, неделю работы.
Натан Ламберт считает, что ИИ находит больше уязвимостей не из-за открытых моделей
Исследователь Натан Ламберт считает, что многие уязвимости с помощью ИИ находят скорее специалисты, которых OpenAI и Anthropic пускают к закрытым моделям, чем пользователи моделей, выложенных для всех.
Блогерам предлагали скрытую рекламу модели Kimi K3.1 Pro, пишет VentureBeat
Судя по скриншотам рекламного задания, авторам в X велели заранее согласовывать посты о новой модели Moonshot и не ставить метку рекламы; подлинность документа не подтверждена.
Модель Kimi K3.1 Pro обошла Claude Fable 5.1 в независимом рейтинге
По замерам Artificial Analysis, уже вышедшая модель Moonshot AI отстаёт от лидера рейтинга Claude Opus 5.5 на три балла, а её веса компания обещает открыть к 4 ноября.
Данные: models.dev (MIT) и Epoch AI (CC BY 4.0).