Microsoft научит Windows делить работу ИИ-агентов между ПК и облаком

Microsoft перестраивает Windows так, чтобы ИИ-агенты работали на моделях внутри самого компьютера и обращались к облаку, только когда это нужно; компания называет это гибридным интеллектом. Планы описал Паван Давулури, исполнительный вице-президент Microsoft по Windows и устройствам.

Почему это важно: агенты работают часами и тратят много токенов, а потребности клиентов в ИИ, по словам Microsoft, уже обгоняют их облачные бюджеты. За работу, которую модель сделала на самом компьютере, облаку платить не нужно.

Повод: GitHub Copilot научится сам решать, какую задачу выполнить на компьютере, а какую отправить в облако. Распределять задачи будет HydraFusion — система, которую GitHub запустила в этом году, чтобы подбирать под каждую задачу подходящую облачную модель. Как это устроено, Microsoft разобрала в техническом блоге.

Режимов будет два:

• В автоматическом режиме (Auto) Copilot сам решает, где выполнить каждый шаг, и учитывает, что уже лежит в кэше, чтобы не делать готовую работу заново.
• В ручном режиме разработчик сам выбирает локальную модель: MAI Code 1.1 Flash через Windows ML, среду Windows для запуска моделей, или любую модель с локального сервера, совместимого с API OpenAI.

Детали: главная локальная модель — MAI Code 1.1 Flash. Microsoft сделала её для программирования и показала на конференции Build:

• Это смесь экспертов¹ на 137 млрд параметров, из которых при выдаче каждого токена работают только 6,8 млрд.
• Квантизацией² до 3 бит её уменьшили почти на 80%, и, по словам Microsoft, качество кода при этом сохранилось.
• Локальная версия занимает 53 ГБ и держит контекстное окно в 256 тыс. токенов.
• Ответы ускоряет спекулятивное декодирование: вспомогательная модель предлагает несколько токенов наперёд, а основная их проверяет.

Но: модели нужно много памяти. Surface Laptop Ultra работает на чипе NVIDIA RTX Spark, у которого до 128 ГБ памяти, общей для процессора и видеокарты. На этом ноутбуке модель при полном контексте занимает на пике 75,5 ГБ. Сама Microsoft признаёт, что сжатие особенно рискованно для кода: один неверный токен ломает синтаксис или вызов инструмента.

Расклад: кроме своей модели, Microsoft готовит для Windows чужие модели и более мощные компьютеры:

• Будущей модели NVIDIA из семейства Nemotron на 70 с лишним млрд параметров после сжатия хватит чуть больше 20 ГБ памяти.
• На ноутбуках с RTX Spark будет работать DeepSeek V4 Flash на 284 млрд параметров.
• Настольные суперкомпьютеры DGX Station для Windows с памятью до 748 ГБ смогут запускать модели больше чем на триллион параметров, например DeepSeek V4 Pro.
• Один такой компьютер сможет обслуживать сразу 32 агента и больше для целой команды разработчиков или исследователей.

Если шире: то же Microsoft обещает обычным пользователям Copilot на компьютерах Copilot+ PC³ — по данным компании, это уже больше 40% ноутбуков, которые выпускают для бизнеса. С разрешения пользователя ассистент будет видеть его файлы, сам раскладывать их и искать неполадки, а часть задач решать на локальных моделях. Это получат и агент Autopilot, и конструктор приложений Code, которые Microsoft добавила в Copilot в сентябре.

Что дальше:

• До конца октября экспериментальная версия с локальными моделями появится в приложении GitHub Copilot, его версии для командной строки и редакторе VS Code.
• Surface Laptop Ultra и ноутбуки ASUS, Dell, HP, Lenovo и MSI на RTX Spark уже можно заказать, отгрузки начнутся 16 октября — эту дату назвала и NVIDIA.
• DGX Station для Windows появится до конца года, а новые функции Copilot начнут выходить на Copilot+ PC в ближайшие месяцы.

На компьютере агентов ограничивает песочница⁴ MXC, которую Microsoft выпустила одновременно с анонсом. Её уже поддерживают Codex и GitHub Copilot, а среди тех, кто добавит поддержку позже, Microsoft называет Claude Code и Perplexity. Meta* скоро выпустит Muse for Windows — приложение своего личного агента со встроенной MXC.