Открытая модель Kimi K3 появилась в Amazon Bedrock: запросы можно не выпускать из США
Модель с открытыми весами Kimi K3 от пекинской Moonshot AI появилась в облачном сервисе Amazon Bedrock. При желании запросы можно не выпускать за пределы США, а за задачи, которые могут подождать, платить вдвое меньше.
Kimi K3, самая сильная модель с открытыми весами у пекинской Moonshot AI, появилась в Amazon Bedrock. Это облачный сервис, где Amazon собирает модели разных разработчиков под одним API. Kimi K3 понимает изображения и держит в контексте до миллиона токенов. Amazon предлагает её для долгой работы с большими репозиториями кода, документами и картинками.
Веса Kimi K3 Moonshot выложила в конце июля. В августе модель стало можно запускать прямо с её страницы на Hugging Face — платформе, где разработчики выкладывают открытые модели. Запросы там обрабатывает Baseten — компания из Сан-Франциско, которая запускает чужие модели в облаке и отвечает на запросы к ним. Kimi K3 — не единственная модель другого разработчика, которую Amazon недавно добавила в Bedrock: в августе там появилась Grok 4.6, флагманская модель SpaceXAI, компании Илона Маска.
В соцсети X Moonshot подаёт новость так: в Bedrock с моделью можно писать код, разбирать документы и запускать долгие процессы с агентами. Доступ, шифрование и аудит при этом контролирует платформа Amazon. Из технических деталей компания упомянула явное кэширование промптов. По умолчанию Bedrock сам сохраняет повторяющееся начало запросов. Но если разработчик прямо укажет, что кэшировать, в кэш будет попадать больше — ответы станут быстрее и дешевле. Amazon рекомендует этот режим.
Запросы к Kimi K3 можно направлять двумя путями. Профиль US Geo гоняет их только между регионами AWS в США, чтобы данные не покидали страну. Профиль Global отправляет их в любой поддерживаемый регион мира. Кроме стандартного тарифа есть Priority — самые быстрые ответы в 1,75 раза дороже. Есть и Flex — вдвое дешевле, для задач, которые могут подождать.
Обращаться к модели Amazon советует через совместимые с OpenAI интерфейсы Responses и Chat Completions: только в них работают и тарифы, и явный кэш. У собственного интерфейса Bedrock под названием Converse с этой моделью известные ограничения. Диалог из нескольких реплик падает с ошибкой, если в запрос попали рассуждения модели из прошлых ходов. А фреймворки LangChain и Strands Agents в настройках по умолчанию именно так и делают. Вложенные файлы PDF и HTML Converse не принимает.
Видео Kimi K3 в Bedrock не принимает вовсе. С картинками есть совет: если поставить изображение перед текстом, ответы бывают качественнее, хотя это зависит от запроса. Если модель решат убрать из сервиса, Amazon обещает предупредить минимум за 45 дней.