VAE

Вероятностный автоэнкодер: кодирует объект в распределение и учится генерировать из латентного пространства.

L = E_{q (z ∣ x)} [lo g p (x ∣ z)] - D_{KL} (q (z ∣ x) ∥ p (z))

Что означает каждый компонент

$E [lo g p (x ∣ z)]$ реконструкция: насколько хорошо декодер восстанавливает объект из латентного кода
$D_{K L}$ регуляризатор: притягивает распределение кодов к нормальному, чтобы из него можно было сэмплировать

Ключевые тезисы

Функция потерь = реконструкция + KL-дивергенция с приором.
Reparameterization trick делает сэмплирование дифференцируемым.
Латентное пространство непрерывно, поэтому интерполяция даёт осмысленные объекты.

Тема также относится к главам:Генеративный ИИСемейства моделей

Подробный разбор

2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.

Вероятностный взгляд

Кодируем не точку, а распределение.

L = реконструкция E_{q (z ∣ x)} [lo g p (x ∣ z)] - регуляризация D_{KL} (q (z ∣ x) ∥ p (z))

Обозначения

$D_{KL}$ KL-дивергенция: насколько одно распределение отличается от другого
$E [\cdot]$ математическое ожидание — среднее по распределению
$x$ объект: вектор признаков
$p$ вероятность (или плотность распределения)
$q$ распределение, предсказанное моделью
$L$ функция потерь — то, что минимизируется при обучении
$∥ \cdot ∥$ норма — длина вектора

ELBO — нижняя оценка логарифма правдоподобия

KL-слагаемое притягивает распределение кодов к стандартному нормальному. Благодаря этому латентное пространство остаётся плотным и непрерывным: можно сэмплировать $z \sim N (0, I)$ и получать осмысленные объекты.

Reparameterization trick

Как продифференцировать случайное сэмплирование.

z = μ (x) + σ (x) ⊙ ε, ε \sim N (0, I)

Обозначения

$N (μ, σ^{2})$ нормальное распределение со средним μ и дисперсией σ²
$σ (z)$ сигмоида: сжимает число в интервал от 0 до 1
$μ$ среднее значение
$ε$ малая константа для численной устойчивости
$x$ объект: вектор признаков
$n$ число объектов в выборке

Случайность выносится в независимый шум, и градиент спокойно течёт через μ и σ

На практике

Изображения VAE выходят размытыми: пиксельная MSE усредняет все правдоподобные варианты. Поэтому VAE редко используют как финальный генератор, но часто — как компонент внутри более сложных систем.

Связанные темы

Генеративные модели

Ключевые тезисы

Подробный разбор

Вероятностный взгляд

Reparameterization trick

Связанные темы

GAN80%

Diffusion Models80%

Generative Models80%

Autoregressive Models80%

VAE80%

GAN80%

Diffusion80%

Density Estimation80%