ИИтак

← Назад

Модель для картинок Qwen-Image-2.1 получила поддержку в ComfyUI и vLLM-Omni

Открытую модель Alibaba для создания и правки картинок можно запускать в ComfyUI, а vLLM-Omni на ускорителе NVIDIA GB300 рисует ею кадр 1024×1024 за 4,5 секунды.

Изображение: Qwen · X

Открытую модель Alibaba для создания и правки картинок Qwen-Image-2.1 в день выхода поддержали ComfyUI и серверный движок vLLM-Omni, а команда Qwen поблагодарила разработчиков vLLM в соцсети X.

открытые веса мало что дают, если модель трудно запустить. ComfyUI нужен тем, кто рисует на своём компьютере, а vLLM-Omni — тем, кто отдаёт картинки пользователям через API.

«Создание, правка, прозрачный фон — одна модель, готовая к работе на сервере», — написала команда Qwen в X.

команда ComfyUI описывает модель как один файл весов на 7 млрд параметров, который умеет и рисовать, и править.

  • Модель рисует сразу в разрешении 2K, без отдельного увеличения готовой картинки.
  • Она правит изображение по текстовой команде и за один проход учитывает до десяти образцов.
  • На выходе можно получить картинку с альфа-каналом, то есть с прозрачным фоном или прозрачными участками.

внутри — генерирующая часть DiT на 7,1 млрд параметров и Qwen3-VL-8B, модель, которая читает запрос вместе с образцами. Поэтому правка идёт тем же путём, что и рисование по тексту, и отдельную модель для неё загружать не нужно.

разработчики vLLM приводят замеры на одном ускорителе NVIDIA GB300.

  • Картинку 1024×1024 за 40 шагов модель рисует за 4,5 секунды, память в пике занимает 34 ГБ.
  • Повтор того же запроса обходится примерно в треть первого, потому что запрос и образцы кэшируются после первого шага.
  • С четырьмя образцами пересчитывать приходится лишь около пятой части данных, а короткий текстовый запрос от кэша почти ничего не выигрывает.
  • Если перевести в формат FP8 часть модели, которая читает текст, память сократится примерно на 6 ГБ, а генерирующую часть — на 2 ГБ. Быстрее ни то ни другое не работает.

поддержка в vLLM-Omni пока предварительная, и у неё есть оговорки.

  • Когда разработчики vLLM публиковали инструкцию, код поддержки не вошёл ни в один релиз vLLM-Omni и ещё не был принят в основную ветку проекта.
  • За один запрос сервер принимает до четырёх образцов и отклоняет пятый, хотя сама модель рассчитана на десять.
  • По умолчанию сервер делает 50 шагов, а этой модели нужно 40, поэтому число шагов советуют указывать в каждом запросе.
  • Адрес API для правки принимает только форму с файлом, а запрос в формате JSON обрывает соединение, что легко принять за поломку.

веса модели Alibaba открыла 20 сентября.

← Все новости