компания · 6 новостей за 60 дней
Американская технологическая компания. Развивает открытые модели Granite для бизнеса.
Ускоритель Spyre для серверов IBM получил полноценную поддержку в PyTorch, самой распространённой библиотеке для ИИ-моделей: модели с площадки Hugging Face на нём запускают почти так же, как на видеокартах NVIDIA.
Новая версия открытого плагина vLLM-Hook даёт следить за моделью изнутри и править её ответ, а в опытах IBM работа замедлялась лишь на 2–6%.
Открытая система llm-d 1.0 делит видеокарты компании между людьми и ИИ-агентами; в опыте IBM и Red Hat работа 3 000 агентов-программистов вышла в 5–10 раз дешевле, чем у коммерческих сервисов с той же моделью.
Агенты на открытых моделях за 26 долларов ускорили в 52 раза схему, исправляющую ошибки квантового компьютера, на закрытых — в 204 раза, но за 299.
Первая задача — пройти по цепочке ссылок, вторая — выдать строки с нужной чётностью. Авторы подчёркивают: нынешние квантовые компьютеры малы и шумны, поэтому результат пока математический.
GLM-5.2 на 753 млрд параметров развернули на 544 видеокартах H100. По расчёту команды, токен обходится в 5–10 раз дешевле, чем у сопоставимых коммерческих API.