Какая математическая идея у диффузионных моделей? Что такое forward и reverse process?

Диффузионные модели — это класс генеративных моделей, которые обучаются восстанавливать данные из зашумлённого состояния. Основная математическая идея заключается в том, что исходные данные постепенно «зашумляются» в процессе forward process (прямого процесса), а затем обученная модель учится обратному процессу (reverse process), восстанавливая данные из шума.

Forward process — это последовательное добавление шума к данным, обычно гауссовского, на каждом шаге. В итоге данные превращаются в почти чистый шум. Этот процесс задаётся заранее и не обучается.

Reverse process — это обучаемый стохастический процесс, который пытается по зашумлённому состоянию на каждом шаге восстановить менее зашумлённое состояние, двигаясь назад к исходным данным. Модель учится предсказывать шум или параметры распределения, чтобы постепенно «очистить» данные.

Пример упрощённой формулы forward process:

[ q(x_t | x_{t-1}) = \mathcal{N}(x_t; \sqrt{1 - \beta_t} x_{t-1}, \beta_t I) ]

где (\beta_t) — коэффициент шума на шаге t.

Reverse process моделируется как:

[ p_\theta(x_{t-1} | x_t) ]

где (\theta) — параметры нейросети, обучаемой минимизировать разницу между предсказанным и реальным шумом.

Таким образом, диффузионные модели учатся генерировать данные, начиная с шума и постепенно восстанавливая структуру, что позволяет создавать высококачественные изображения и другие данные.