NVIDIA позволила связать до восьми ИИ-компьютеров DGX Spark в кластер

На конференции NVIDIA GTC¹ в Берлине компания объявила, что в один кластер можно собрать до восьми настольных ИИ-компьютеров DGX Spark, а станция DGX Station для Windows выйдет в декабре.

Почему это важно: NVIDIA предлагает командам держать большие открытые модели у себя, а не в облаке. Восемь связанных DGX Spark дают 1 ТБ общей памяти, и, по словам компании, этого хватает для открытой модели передового уровня GLM 5.3 от Z.ai.

Расклад: у NVIDIA три линейки компьютеров для локального ИИ:

• RTX Spark — ноутбуки с Windows на одноимённом чипе NVIDIA с общей памятью до 128 ГБ; они поступили в продажу 16 октября.
• DGX Spark — настольный компьютер на Linux для разработчиков; версия с 64 ГБ памяти, объявленная 2 октября, появится у партнёров 23 октября.
• DGX Station — станция для команд с 748 ГБ памяти; по данным NVIDIA, она обслуживает больше 30 пользователей, а модели на ней отвечают примерно с той же скоростью, что и в облаке.

Детали: кластер из восьми DGX Spark пока настраивают вручную, а машины связывает встроенная в них сетевая карта ConnectX-7. NVIDIA рассчитывает на небольшие команды: модель работает на общем кластере, а каждый разработчик открывает к ней свои сеансы.

Интрига: модель для программирования Recursive Flint, оптимизированную для RTX Spark, NVIDIA представила в том же анонсе, и создавать её помогала система, которая сама ведёт ИИ-исследования. Лаборатория Recursive Superintelligence² выпустила Flint в тот же день с открытыми весами под лицензией Apache 2.0, а её система Eureka Machine предлагает идеи, пишет код, ставит эксперименты и по их итогам решает, что пробовать дальше.

В цифрах: что известно о Flint:

• В модели 40 млрд параметров, но на каждый токен работают только 2,5 млрд: она устроена как смесь экспертов³.
• На ноутбуке с RTX Spark и 64 ГБ памяти Flint выдаёт больше 220 токенов в секунду.
• Ядра⁴, которые Eureka Machine написала под RTX Spark, ускорили генерацию на 55%, а веса модели при этом не менялись.

Но: NVIDIA называет результаты Flint в тестах для агентов-программистов SWE-Bench Pro v2, Terminal-Bench 2.1 и SWE-bench Verified лучшими в своём классе, однако самих баллов не приводит.

Что дальше: планы NVIDIA и партнёров:

• 23 октября партнёры начнут продавать DGX Spark с 64 ГБ, а NVIDIA выпустит модель Nemotron Bolt E4B для голосовых помощников, которой хватает 4 ГБ памяти.
• До конца октября выйдет Model Launcher: в несколько кликов он скачивает подходящую модель и подключает её к открытому агенту для программирования OpenCode.
• Для DGX Station на Linux откроется ранний доступ к сервису Cloud Functions, срок NVIDIA не назвала. Через него команды смогут вносить модели со своих станций в общий каталог, а коллеги — обращаться к ним через одну точку входа, совместимую с API OpenAI, без доступа к самой машине.
• В декабре партнёры выпустят DGX Station для Windows, анонсированную в июне, с поддержкой инженерных программ Dassault Systèmes, Siemens, Synopsys и MathWorks.