Урок 82. GAN: генератор против дискриминатора

GAN обучает две сети в игре. Discriminator ищет отличие настоящего распределения от сгенерированного, generator меняет примеры по этому сигналу. Равновесие красиво на бумаге, а траектория обучения может вращаться, схлопываться и забывать целые режимы данных.

Фальшивомонетчик и эксперт

Пусть $z\sim p_z$ — простой шум, а generator $G_\theta(z)$ создаёт объект $x$ . Его распределение обозначим $p_g$ . Discriminator $D_\phi(x)\in(0,1)$ оценивает вероятность, что объект пришёл из реальных данных $p_{\mathrm{data}}$ .

Исходная minimax-игра:

\min_G\max_D V(D,G)= \mathbb E_{x\sim p_{\mathrm{data}}}\log D(x) + \mathbb E_{z\sim p_z}\log[1-D(G(z))].

$D$ максимизирует правильность различения, $G$ минимизирует её. У generator нет готового target-image для каждого $z$ : gradient приходит через discriminator.

Это adversarial learning, но не обязательно злонамеренная атака. «Соперник» служит обучаемой функцией потерь.

Схема GAN с шумом генератором реальными данными discriminator и двумя градиентами — Рис. 82.1. Две выборки входят в одну проверку
Синие реальные объекты и красные $G(z)$ поступают в discriminator. Сплошная обратная стрелка обновляет $D$ по двум классам; пунктирная проходит через замороженный на этом шаге $D$ к $G$ . Знаки stop-gradient разделяют два обновления.

Лучший discriminator и дивергенция

При фиксированном $G$ оптимальный discriminator в каждой точке:

D^*(x)= \frac{p_{\mathrm{data}}(x)} {p_{\mathrm{data}}(x)+p_g(x)}.

Подстановка даёт

V(D^*,G)= -\log4+ 2\,\operatorname{JS} (p_{\mathrm{data}}\|p_g).

Минимум достигается при $p_g=p_{\mathrm{data}}$ , тогда $D^*(x)=1/2$ . Это описание идеального равновесия при бесконечной выразительности и оптимальном $D$ на каждом шаге. Реальные сети обновляются попеременно и не достигают точного optimum.

Исчезающий gradient generator

При плохом начальном generator discriminator легко выдаёт $D(G(z))\approx0$ . Minimax loss generator

\mathcal L_G^{\mathrm{sat}} =\mathbb E_z\log[1-D(G(z))]

может насыщаться. На практике используют non-saturating loss:

\mathcal L_G^{\mathrm{NS}} =-\mathbb E_z\log D(G(z)).

У него тот же желаемый fixed point, но сильнее gradient, когда fake очевиден. Формулировка цели меняет динамику, хотя равновесие похоже.

Mode collapse

Если реальные данные имеют несколько мод — например, цифры 0–9, — generator может создавать только 1 и 7, зато очень убедительно. Качество отдельных картинок высоко, покрытие распределения низко.

Один batch discriminator видит ограниченную выборку и может не сразу наказать отсутствие редких мод. Generator получает похожие gradients для разных $z$ и отображает их в одну область.

Диагностика требует двух осей:

fidelity: насколько реалистичен отдельный объект;
diversity/coverage: сколько режимов данных представлено.

Precision–recall для generative models пытается разделить эти свойства. Одна FID смешивает их.

Реальное двумерное распределение из восьми мод и генерации на разных шагах — Рис. 82.2. Красивая выборка может покрывать одну моду
Серые контуры показывают восемь мод данных. Красные точки generator сначала разбросаны, затем покрывают пять мод и в конце схлопываются в две. Под каждой панелью приведены precision, recall и FID, чтобы показать разные диагнозы.

Лаборатория игры

Установите две моды на плоскости и обучайте игроков с разными learning rates. Если discriminator обновляется слишком быстро, generator получает бесполезную границу; если слишком медленно — следует устаревшему сигналу.

Добавьте третью редкую моду. Смотрите не только scatter последнего batch, но и долю samples около каждой моды по времени. Короткая анимация обнаруживает циклическое забывание, которое финальная картинка скрывает.

Почему обучение вращается

Рассмотрим простую игру $V(x,y)=xy$ . Первый игрок минимизирует по $x$ , второй максимизирует по $y$ . Одновременный gradient:

x_{t+1}=x_t-\eta y_t,\qquad y_{t+1}=y_t+\eta x_t

движется вокруг saddle point и даже может расходиться. У minimization одного loss gradient спускается по потенциальной поверхности; в игре векторное поле содержит вращение.

Из-за этого применяют разные частоты обновлений, momentum с осторожностью, extragradient и регуляризацию. Кривая loss GAN не обязана монотонно падать.

Wasserstein GAN

WGAN заменяет probabilistic discriminator critic-функцией $f$ и приближает Wasserstein-1:

\max_{\|f\|_L\le1} \mathbb E_{x\sim p_{\mathrm{data}}}f(x) -\mathbb E_{z}f(G(z)).

Ограничение 1-Lipschitz существенно. Gradient penalty:

\lambda\, \mathbb E_{\widehat x} \left(\|\nabla_{\widehat x}f(\widehat x)\|_2-1\right)^2

штрафует нарушение на точках между real и fake. Critic score нельзя читать как вероятность.

Wasserstein distance даёт информативный gradient даже при непересекающихся низкоразмерных распределениях, где JS может насыщаться. Но implementation details остаются важны.

Fashion-MNIST как контролируемый полигон

Fashion-MNIST содержит 28×28 grayscale изображения десяти классов одежды. Он мал, классы известны, поэтому можно измерить coverage classifier-ом. Generator не получает labels в unconditional режиме; метки используются только для аудита.

Сравните:

сетку случайных samples с фиксированными $z$ ;
nearest neighbors из train для проверки копирования;
распределение предсказанных классов;
precision/recall;
FID на features подходящего classifier;
разнообразие внутри класса.

FID, вычисленная на ImageNet features для маленькой grayscale-одежды, предметно сомнительна. Feature extractor должен соответствовать данным.

Сетка сгенерированной одежды, матрица классов и расстояния до ближайших train изображений — Рис. 82.3. Аудит генератора по трём осям
Слева samples упорядочены по predicted class, центр показывает real/generate доли классов, справа для подозрительно похожих объектов приведены nearest train neighbors и расстояния в feature space. Фигура различает realism, coverage и memorization.

Мини-исследование: различить collapse и запоминание

Generator выдаёт мало разных картинок по двум причинам. При mode collapse множество $z$ отображается почти в один output. При memorization outputs разнообразны, но подозрительно близки training examples. Нужны разные тесты.

Зафиксируйте 10 000 noise-кодов. Для каждой пары близких кодов $z,z+\delta$ измерьте perceptual distance outputs. Малый локальный Jacobian во многих областях указывает, что latent directions не меняют результат. Затем для каждого generated image найдите nearest neighbor в train и в независимом test. Если расстояния до train систематически меньше, возможна память.

Добавьте birthday-paradox test: среди большого generated set ищите почти дубликаты друг друга. Частые столкновения означают малый effective support. Но threshold perceptual distance калибруйте на реальных парах одного класса, иначе естественно похожие футболки будут считаться копиями.

Сопоставьте эти измерения с latent geometry StyleGAN. Ровный путь в latent уменьшает локальное схлопывание, но не доказывает покрытие всех data modes.

Мини-исследование: динамика, а не последний checkpoint

Сохраняйте generator каждые 500 шагов и сэмплируйте одни и те же fixed $z$ . Для каждого checkpoint вычислите coverage классов и pairwise diversity. Постройте heatmap «время обучения × класс». Она покажет, появляются ли и исчезают режимы.

Выбор лучшего checkpoint по test FID создаёт multiple comparisons. Выберите по validation protocol, а test откройте один раз. Если метрики осциллируют, сообщите диапазон последних checkpoint, а не единственное удачное число. Это продолжение честной валидации в нестационарной игре.

Сравните fixed-noise grid и fresh-noise grid. Первая показывает, как меняются одни и те же latent points, вторая — текущее распределение. Если fixed images улучшаются, а fresh coverage падает, generator точечно полирует часть пространства.

Записывайте также norm gradients обоих игроков. Резкий спад gradient generator при уверенном discriminator подтверждает saturation, рост без улучшения samples — нестабильность. Ни один diagnostic не достаточен, но совместная временная шкала помогает восстановить механизм сбоя.

Для conditional GAN постройте confusion matrix между заданным и распознанным классом. Mode collapse может происходить внутри класса, поэтому добавьте diversity по каждому. Средняя сетка маскирует слабый редкий класс так же, как средняя accuracy в классификации.

Добавьте latent interpolation между случайными парами и измерьте длину пути в feature space. Резкие скачки указывают на складки отображения, но слишком короткие пути могут означать отсутствие разнообразия. Сравните с путями между реальными nearest neighbors.

Интерполяция не доказывает density между концами: generator выдаёт объект для любого $z$ , даже если этот код почти не встречается под prior. Подписывайте prior probability along path или используйте spherical interpolation.

GAN среди других генераторов

VAE задаёт вероятностный encoder и явный компромисс реконструкции с prior. Diffusion учит много шагов denoising и обычно стабильнее, но sampling медленнее. GAN генерирует за один forward pass и способен на резкие изображения, зато обучение — хрупкая игра.

Архитектура выбирается по требованиям: скорость, likelihood, редактирование, покрытие, вычислительный бюджет. Историческая важность GAN не превращает его в универсальный лучший метод.

Равновесие не гарантирует траекторию

GAN сопоставляет два распределения через обучаемого критика. Идеальный optimum понятен, но путь к нему может вращаться и терять моды. Non-saturating loss, WGAN и регуляризация меняют gradient. Проверка обязана отдельно измерять реализм, покрытие и копирование.

Задачи

4баллов

Для discriminator outputs на четырёх real объектах $(0{,}9,0{,}8,0{,}6,0{,}7)$ и четырёх fake $(0{,}1,0{,}2,0{,}4,0{,}3)$ вычислите при натуральном логарифме нормированный minimax objective $V=\frac14\sum_{i=1}^4\log D(x_i)+\frac14\sum_{i=1}^4\log(1-D(G(z_i)))$ . Затем для тех же четырёх fake-значений найдите non-saturating generator loss $L_G=-\frac14\sum_{i=1}^4\log D(G(z_i))$ и покажите восемь логарифмических слагаемых.

5баллов

Проанализируйте bilinear game $V(x,y)=xy$ , где игрок $x$ минимизирует $V$ , а игрок $y$ максимизирует его. Для одновременного шага $x_{t+1}=x_t-\eta\,\partial V/\partial x$ и $y_{t+1}=y_t+\eta\,\partial V/\partial y$ выпишите матрицу перехода, найдите её собственные значения и множитель изменения евклидова расстояния до $(0,0)$ . Докажите, что расстояние не уменьшается при любом $\eta>0$ , и постройте по 100 шагов из $(x_0,y_0)=(1,0)$ для $\eta\in\{0{,}01;0{,}1;0{,}5\}$ .

6баллов

Сгенерируйте смесь восьми равновероятных $\mathcal N(c_k,0{,}2^2I)$ , где $c_k=2(\cos(2\pi k/8),\sin(2\pi k/8))$ , $k=0,\ldots,7$ . Для каждого training seed 8241–8245 создайте 100 000 train-точек; отдельные 20 000 real evaluation-точек имеют seed 8240. Generator: $z\in\mathbb R^{16}\to128\to128\to2$ , discriminator: $x\in\mathbb R^2\to128\to128\to1$ ; скрытые активации LeakyReLU 0,2, generator output линейный, discriminator выдаёт logit. Веса Xavier, biases нулевые.

Обучайте non-saturating GAN 30 000 шагов, batch 256, по одному обновлению каждой сети, Adam с betas $(0{,}5;0{,}999)$ . Generator learning rate равен $2\cdot10^{-4}$ , discriminator — это значение, умноженное на $0{,}5$ , 1 или 2. Индекс ratio равен 0, 1 или 2 в этом порядке; run_id=3*(training_seed-8241)+ratio_index, а checkpoint_id=step/1000 принимает значения 1–30. Каждые 1 000 шагов генерируйте 20 000 точек с seed 826000+100*run_id+checkpoint_id. Мода покрыта, если не менее 1% точек имеют её ближайшим центром и лежат в радиусе 0,6; outside-доля — расстояние до ближайшего центра больше 0,6. Precision и recall вычисляйте prdc==0.2, $k=5$ , по 20 000 real и generated точек. Временный collapse означает потерю минимум двух покрытых мод с последующим восстановлением минимум двух; покажите первый такой run по порядку seed и ratio либо сообщите, что среди 15 запусков его нет.

7баллов

Используйте официальный Fashion-MNIST: train-индексы 0–54 999 для обучения, 55 000–59 999 для validation, test только для classifier. Пиксели приведите к $[-1,1]$ . Один LeNet-5 classifier обучите на первых 55 000 изображениях 20 эпох Adam $10^{-3}$ , batch 128, seed 8250; заморозьте checkpoint с лучшей validation accuracy и используйте его предпоследний 84-мерный слой.

Для GAN и WGAN-GP общий generator получает $z\sim\mathcal N(0,I_{64})$ : linear $64\to7\cdot7\cdot128$ , затем два ConvTranspose-блока $128\to64\to1$ с kernel 4, stride 2, padding 1, BatchNorm/ReLU и конечным tanh. Discriminator/critic: Conv $1\to64\to128$ с теми же kernel/stride, LeakyReLU 0,2, затем linear в один logit; BatchNorm есть только во втором блоке обычного GAN и отсутствует в critic. Веса Xavier, biases нулевые.

Каждый метод получает ровно 30 000 generator updates, batch 128 и seeds 8251–8255. GAN: один discriminator update на шаг, non-saturating BCE, Adam $2\cdot10^{-4}$ , betas $(0{,}5;0{,}999)$ . WGAN-GP: пять critic updates, gradient penalty 10 на равномерной интерполяции, Adam $10^{-4}$ , betas $(0;0{,}9)$ . На общих 10 000 latent-векторах seed 8290 измерьте FID и prdc==0.2 precision/recall с $k=5$ в features classifier. Class coverage — число классов, получивших не менее 1% предсказаний. Для первых 1 000 samples найдите ближайший train-объект по евклидову расстоянию features. На одном названном устройстве после 20 прогревов сравните медиану времени десяти генераций по 10 000 изображений; синхронизация обязательна. Сообщите среднее и стандартное отклонение метрик по пяти seed.