Диффузионная модель
Класс генеративных моделей. При обучении к данным постепенно добавляют шум, а модель учится убирать его шаг за шагом; при генерации она начинает со случайного шума и за несколько итераций превращает его в результат. Это основной подход к генерации изображений, видео и звука. Есть и текстовые диффузионные модели: в отличие от обычных языковых моделей, они не пишут текст по одному токену, а уточняют весь ответ целиком.
проверено по: en.wikipedia.org ↗
См. также
- Диффузионная языковая модельЯзыковая модель, которая порождает текст не токен за токеном слева направо, как авторегрессионные модели, а итеративно уточняет сразу всю последовательность, начиная с зашумлённого или замаскированного состояния. Подход перенесён из диффузионных генераторов изображений и позволяет параллельно исправлять весь ответ.
- РасшумлениеОсновной этап работы диффузионной модели (denoising): из случайного шума за серию шагов последовательно убирается шум, пока не получится изображение, видео или иной результат. Число шагов задаёт компромисс между скоростью генерации и качеством, поэтому методы ускорения стремятся сократить их количество.
В новостях
Ai2 научил ИИ моделировать экстремальную погоду с шагом 3 км в 300 раз дешевле физической модели
Генеративная модель, которая создаёт данные — изображения, звук, поля погоды — постепенно убирая шум из случайного начального образца.
Пользователи массово делают с Claude Opus 5.5 ролики, нарисованные кодом
Генеративная модель, которая создаёт изображение, видео или звук, шаг за шагом убирая шум из случайного сигнала. На этом принципе построено большинство генераторов картинок и видео.
Разработчики за два дня выложили шесть открытых копий модели Jev
Модель, которая создаёт результат не по одному токену слева направо, а целиком, шаг за шагом уточняя черновик из шума. Так обычно генерируют изображения, а теперь пробуют и текст.
Google Research в 12–20 раз ускорила разбор сложных поисковых запросов
Модель, которая строит результат, постепенно очищая случайный шум. Обычно так генерируют изображения, но подход применяют и к другим данным. Диффузионная модель создаёт весь ответ сразу, а не по одному токену.