GLM-5.2
Большая языковая модель китайской компании Z.ai (Zhipu AI) с открытыми весами под лицензией MIT: её можно скачать, дообучить и запустить на своих серверах. Построена по схеме смеси экспертов, рассчитана на длинный контекст, программирование и агентные задачи.
проверено по: simonwillison.net ↗
См. также
- Z.aiКитайская компания — разработчик больших языковых моделей семейства GLM, выросшая из исследовательской группы Университета Цинхуа и ранее известная как Zhipu AI (Чжипу). Часть её моделей выпускается с открытыми весами, доступными для свободной загрузки и дообучения.
- Смесь экспертовАрхитектура нейросети, в которой часть слоёв разбита на много подсетей-«экспертов» (mixture of experts, MoE). Специальный маршрутизатор для каждого токена включает лишь несколько из них. Так у модели может быть очень много параметров, а вычислений на токен будет меньше, чем у «плотной» модели того же размера. Минус в том, что все эксперты всё равно приходится держать в памяти.
- Лицензия MITЛицензия MIT — одна из самых разрешительных лицензий на открытый код и открытые модели: она позволяет свободно использовать, изменять, распространять и продавать производные продукты, в том числе в закрытом виде. Единственное существенное условие — сохранять текст лицензии и уведомление об авторских правах; гарантии при этом не предоставляются.
- Открытые весаСпособ выпуска ИИ-модели, при котором её обученные параметры (веса) выкладывают в свободный доступ (open weights). Запускать, сжимать и дообучать такую модель могут не только её авторы. Небольшие модели работают на обычном компьютере, а большим нужны серверы с дорогими видеокартами: их разворачивают компании и облачные сервисы, и большинство пользуется моделью через них. В отличие от полностью открытой модели (open source), данные и код обучения при этом могут оставаться закрытыми, поэтому воспроизвести модель с нуля нельзя.
В новостях
Глава Hugging Face раскритиковал фильм Netflix о взломе его компании ИИ-агентами OpenAI
Языковая модель китайской компании Z.ai (Zhipu) из семейства GLM с открытыми весами: компании могут развернуть её на своих серверах.
Бенджио призвал в Совбезе ООН лицензировать и страховать передовой ИИ
Модель китайской компании Zhipu AI (Z.ai) из линейки GLM с открытыми весами: её можно скачать и запускать на своих серверах.
IBM и Red Hat обслужили 3 000 ИИ-агентов для кода на видеокартах H100
Открытая языковая модель китайской компании Z.ai, построенная по схеме смеси экспертов.