Moonshot AI вывела модель Kimi K3 в облачный сервис Amazon Bedrock
Клиенты Amazon могут подключать китайскую открытую модель по 3 доллара за миллион входных токенов и 15 долларов за миллион выходных.
Открытая модель Kimi K3 пекинской Moonshot AI, которая держит в контексте до миллиона токенов, появилась в Amazon Bedrock — облачном сервисе, через который клиенты Amazon подключают чужие модели. Об этом Moonshot сообщила в соцсети X.
Предыстория: Moonshot выложила Kimi K3 с открытыми весами1 в июле, а в августе модель подключили к сервису запуска моделей Hugging Face через Baseten2.
Детали: Moonshot предлагает модель для программирования, анализа документов и долгих задач агентов и делает упор на средства контроля Bedrock: права доступа, шифрование и журналы запросов. Миллион входных токенов стоит 3 доллара, выходных — 15 долларов. Если запросы должны обрабатываться только в регионах США, цена на 10% выше.
Но: видео модели в Bedrock отправить нельзя. Amazon советует вызывать её через интерфейсы, совместимые с OpenAI. В собственном интерфейсе Bedrock, Converse, модель не принимает PDF и выдаёт ошибку, если в диалог попадают её рассуждения с прошлых ходов.