Состязательная пара сетей, дающая резкие и реалистичные изображения.
Ключевые тезисы
- Одношаговая генерация — очень быстрая по сравнению с диффузией.
- Обучение капризно: mode collapse и расхождение — обычное дело.
- StyleGAN до сих пор силён в узких доменах вроде лиц.
Подробный разбор
2 подтем — раскройте любую, чтобы увидеть объяснение, формулы, примеры и интерактивные графики.
1Где GAN всё ещё уместны
Скорость одного прохода против качества диффузии.
- Одношаговая генерация: там, где нужны миллисекунды, диффузия с 30 шагами не подходит.
- Узкие домены (лица, текстуры, аугментация медицинских снимков): StyleGAN остаётся сильным.
- Апскейл и восстановление: GAN-компонента добавляет реалистичные детали.
- Дистилляция диффузии в один шаг часто использует состязательную функцию потерь.
2Практика обучения GAN
Набор приёмов, повышающих шансы на успех.
- Спектральная нормализация дискриминатора — самый дешёвый способ стабилизации.
- Разные learning rate для генератора и дискриминатора (TTUR).
- Отслеживайте не потери, а FID на фиксированном наборе шума.
- Сохраняйте чекпойнты часто: качество может внезапно обрушиться и не восстановиться.
Связанные темы
Генеративные модели
VAE80%
Вариационный автоэнкодер · Глубокое обучениеВероятностный автоэнкодер: кодирует объект в распределение и учится генерировать из латентного пространства.
GAN80%
Генеративно-состязательные сети · Глубокое обучениеГенератор и дискриминатор обучаются в игре с нулевой суммой, повышая реалистичность выборок.
Diffusion Models80%
Диффузионные модели · Глубокое обучениеМодель учится обращать процесс постепенного зашумления, превращая шум в изображение за серию шагов.
Generative Models80%
Генеративные модели · Генеративный ИИМодели, обучающие распределение данных и умеющие порождать новые объекты из него.
Autoregressive Models80%
Авторегрессионные модели · Генеративный ИИПорождают объект по частям, каждый раз предсказывая следующий элемент по предыдущим.
VAE80%
Вариационный автоэнкодер · Генеративный ИИГенерация через непрерывное вероятностное латентное пространство.
Diffusion80%
Диффузия · Генеративный ИИИтеративное расшумление — текущий стандарт генерации изображений, видео и аудио.
Density Estimation80%
Оценка плотности · Обучение без учителяВосстановление распределения данных: где объекты встречаются часто, а где почти никогда.