ElemedexEnciclopedia de bolsillo de arquitecturas de IA

Glosario (MT) › Piezas de arquitectura

MT082

Difusión (ruido y eliminación de ruido)

También: modelo de difusión, eliminación de ruido

En inglés: Diffusion (noising and denoising)

Método generativo: se destruye un dato agregándole ruido de a poco y una red aprende a deshacer cada paso; para generar, parte de ruido puro y lo limpia.

Un modelo de difusión tiene dos procesos. El proceso directo está fijo y no se aprende: toma una imagen x₀ y le agrega ruido gaussiano en T pasos pequeños, hasta que no queda nada de la señal (Ho et al., 2020, sec. 2). Gracias a una propiedad de las gaussianas, se puede saltar directamente a cualquier paso t:

xₜ = √ᾱₜ · x₀ + √(1 − ᾱₜ) · ε, ε ~ N(0, I)

donde ᾱₜ decrece de casi 1 a casi 0. El proceso inverso es lo que se aprende: una red neuronal recibe una imagen ruidosa xₜ y el número de paso t y estima el ruido ε que se le agregó. El entrenamiento consiste en eso: tomar imágenes, ensuciarlas con un ruido conocido y pedirle a la red que lo adivine (Ho et al., 2020, sec. 3). Para generar, se parte de ruido puro y se aplica la red una y otra vez, quitando un poco de ruido en cada paso. En el trabajo de Ho y colegas, T = 1000 y la red es una U-Net (Ho et al., 2020, sec. 4).

Origen y parentesco. La idea viene de la termodinámica fuera del equilibrio (Sohl-Dickstein et al., 2015); Ho et al. (2020) la volvieron competitiva en 2020 (Modelo de difusión). Comparte con el VAE la noción de variables latentes y con la GAN el objetivo de generar imágenes, pero se entrena de manera más sencilla (2020, sec. 1): no hay dos redes compitiendo, solo una que aprende a limpiar.

Difusión latente. Difundir directamente sobre píxeles es caro. Rombach et al. (2022) trasladaron el proceso al espacio latente de un autocodificador preentrenado y agregaron capas de atención cruzada para condicionar la imagen con un texto. Así funciona Stable Diffusion, que usa las representaciones de texto de CLIP para guiar la generación (Alammar y Grootendorst, 2024, p. 265).

Un ángulo filosófico. Generar como «esculpir» a partir del ruido invita a comparaciones con la imaginación, que Buckner (2024) discute a propósito de otros modelos generativos: pasar de una representación abstracta a un ejemplar concreto, completando detalles plausibles (2024, pp. 205–211). La diferencia es que aquí el detalle se agrega de a poco y el «boceto» inicial es azar puro.

Fuentes