Z.ai собрала инфраструктуру для GLM-5.3-Flash с помощью GLM-5.3

Z.ai рассказала, как её модель GLM-5.3 помогла построить и ускорить инфраструктуру, которая обслуживает запросы к GLM-5.3-Flash — быстрой и дешёвой версии той же модели.

По словам компании, система прошла путь от первого удачного запуска до готовности к рабочей нагрузке меньше чем за две недели, а сквозная пропускная способность выросла примерно втрое относительно первого замера.

Главным компания называет плотную обратную связь: локальные проверки правильности, трассировки, микрозамеры и сквозные измерения. Они позволяли проверять конкретные предположения об узких местах, а не ориентироваться на общие показатели производительности.

Для компании это разбор собственного опыта: обслуживание больших моделей — отдельная инженерная задача, где от настройки зависит цена запроса, и здесь её решали с помощью самой же модели.