ИИтак

← Календарь

· через 7 дней

Moonshot AI откроет веса модели Kimi K3.1 Pro

2,8 трлнпараметров в модели
104 млрдпараметров работают на каждый токен
~1,4 ТБзаймут веса в 4-битном виде

Kimi K3.1 Pro вышла 23 октября, но пока работает только в сервисах Moonshot и через её API. Теперь компания обещает выложить сами веса, то есть файлы обученной модели. После этого её можно будет запускать на своих серверах, дообучать под свои задачи и продавать к ней доступ через сторонние сервисы. Срок Moonshot назвала сама, и это крайний срок: «к 4 ноября», так что веса могут появиться и раньше.

Главный вопрос — лицензия, её до сих пор не назвали. От неё зависит, можно ли пользоваться моделью в коммерческих продуктах. Ещё стоит посмотреть, что покажет открытая версия в независимых замерах: Moonshot нарочно ослабила её в задачах на взлом. И не забывать про железо: модель такого размера по силам запустить только тем, у кого есть серьёзные вычислительные мощности.

Новости

Упоминается в новостях

Весь календарь →