Урок 35. Обучение без учителя и автокодировщик

До сих пор у каждой картинки была метка: цифра, класс, маска. А если меток нет вовсе — можно ли всё равно нащупать в данных структуру? Автокодировщик отвечает так: пусть объект сам станет и вопросом, и ответом. Сеть обязана пропустить его через узкое горло короткого кода и восстановить обратно. Что уцелеет в этом сжатии — то и есть главное в объекте.

Объект как собственная метка

В уроке 31 цифра приходила с ответом — числом от нуля до девяти. Уберём ответ. Останется картинка $8\times8$ , то есть точка в 64-мерном пространстве. Автокодировщик состоит из двух частей. Энкодер сжимает вход в короткий код

z=f_\theta(x),\qquad z\in\mathbb R^{m},\ m<64,

а декодер разворачивает код обратно в картинку $\hat x=g_\phi(z)$ . Учат обе части вместе, минимизируя ошибку восстановления по всей выборке:

L(\theta,\phi)=\frac1n\sum_{i=1}^{n}\bigl\lVert x_i-g_\phi\!\bigl(f_\theta(x_i)\bigr)\bigr\rVert^2.

Метка нигде не участвует. Сигнал для обучения сеть добывает из самого объекта — поэтому автокодировщик относят к обучению без учителя.

Здесь прячется ловушка. Если код не уже входа и сеть достаточно гибкая, она выучит тождество: просто перепишет вход в выход, ничего не поняв. Низкая ошибка тогда не значит ничего. Значит, сжатие обязано быть настоящим — код должен быть короче, чем объект.

ПриёмБутылочное горло

Узкий средний слой — «бутылочное горло». Через него не пролезает вся картинка целиком, и сеть вынуждена решать, что сохранить, а чем пожертвовать.

Чем короче код, тем грубее восстановление

Возьмём реальную цифру и сожмём её через код разной длины. Простейший линейный автокодировщик здесь совпадает с методом главных компонент, и мы можем честно посчитать, что теряется. Двумерный код превращает тройку в мутное пятно; восьми чисел хватает на грубый силуэт; шестнадцати — уже почти на чёткую цифру.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Рис. 35.1. Одна цифра сквозь коды разной длины

Одна и та же тройка проходит через код длиной 2, 8, 16 и 32. Оригинал — 64 числа. Чем длиннее код, тем ближе восстановление к исходной цифре.

Насколько именно грубее? Посчитаем среднеквадратичную ошибку восстановления по всем 1797 цифрам для каждой длины кода. Кривая падает круто, а рядом растёт доля сохранённой дисперсии — сколько разброса данных объясняет код.

Две кривые от длины кода. Красная — ошибка реконструкции MSE — падает с 0,062 при коде 1 почти до нуля при коде 64. Синяя пунктирная — сохранённая дисперсия в процентах — растёт с 15 процентов до 100. Отметка: почти всё восстановлено уже при 16 из 64 — Рис. 35.2. Короче код — грубее восстановление
Ошибка восстановления против длины кода. Уже 16 чисел из 64 удерживают около 85% дисперсии и почти всю узнаваемость. Полный код длины 64 восстанавливает точно — и ничего не сжимает.

Обрати внимание на крайние точки. Код длины 64 не сжимает ничего и восстанавливает идеально — но пользы в нём ноль. Код длины 1 сжимает сильнее всего, а цифру узнать нельзя. Всё интересное — посередине, где сжатие уже ощутимо, а смысл ещё цел.

Латентное пространство: карта, которую никто не рисовал

Сожмём каждую цифру до двух чисел и разложим точки на плоскости. Меток при построении кода не было — и всё же одинаковые цифры садятся рядом, образуя острова.

Облако из почти 1800 точек в двумерном коде, раскрашенных по истинной цифре от 0 до 9. Нули, единицы, тройки, шестёрки образуют отдельные сгустки по краям; в центре классы перемешаны. Подпись: цвет — истинная цифра, но код построен без единой метки — Рис. 35.3. Двумерный код: цифры сами собираются в группы
Каждая точка — цифра, сжатая до двух чисел. Цвет добавлен потом, для проверки; сам код метки не видел. Группы проступают там, где почерк устойчив, и смешиваются там, где цифры похожи.

Цвет здесь — только проверка нашей работы. Код построен вслепую, а структура всё равно проступила: данные о цифрах имеют форму, и сжатие её обнажает. Это и есть главная идея обучения без учителя — находить закономерность до того, как кто-то расставил метки.

Кластеры, которые никто не размечал

Насколько эта структура настоящая? Запустим по цифрам $k$ -средних с десятью кластерами — снова без единой метки. Затем спросим постфактум: какая цифра преобладает в каждом кластере. Доля «своих» в кластерах — чистота — выходит около $0{,}79$ . Почти четыре цифры из пяти сгруппированы верно, и никто не подсказывал ответ.

Линейный автокодировщик — это метод главных компонент

Не случайно наши картинки так похожи на PCA. Есть точное утверждение.

Поэтому линейный автокодировщик не открывает ничего сверх PCA — зато даёт ей понятный вид «сжал и восстановил».

Нелинейный код гнётся под данные

Настоящая сила автокодировщиков начинается там, где энкодер и декодер нелинейны. Линейный код умеет только проектировать облако точек на плоское подпространство — поэтому он и совпадает с PCA. Но реальные цифры лежат не на плоскости: тройки, восьмёрки и девятки образуют искривлённое многообразие в 64-мерном пространстве. Нелинейная сеть строит изогнутую поверхность, повторяющую эту форму, и тем же числом координат описывает данные точнее. Именно об этом выигрыше и говорили Хинтон с Салахутдиновым: многослойный автокодировщик находит коды, из которых восстановление получается заметно лучше, чем из главных компонент.

Русская линия здесь прямая. То, что на Западе называют разложением Карунена—Лоэва и главными компонентами, в советской теории случайных процессов развивалось как каноническое разложение В. С. Пугачёва: случайную функцию раскладывают по некоррелированным составляющим, и первые из них удерживают наибольшую долю разброса. Автокодировщик с бутылочным горлом делает ровно то же — оставляет несколько самых информативных направлений и выбрасывает остальное.

УпражнениеКогда сжатие бессмысленно

Автокодировщик имеет код длины $m=64$ при входе из 64 чисел, а энкодер и декодер достаточно гибкие. Какое отображение он может выучить, чтобы ошибка стала нулевой? Доказывает ли нулевая ошибка, что код нашёл полезные признаки? Что нужно добавить, чтобы задача перестала быть тривиальной?

Показать ответ

Сеть может выучить тождество $g(f(x))=x$ — например, обе части единичные матрицы, — и ошибка обратится в ноль, ничего не поняв про цифры. Нулевая ошибка здесь не значит ничего. Задача становится содержательной, когда код короче входа ( $m<64$ ), либо когда вход портят шумом, либо когда на код наложен штраф — любое из этих ограничений заставляет отбирать информацию, а не переписывать её. См. бутылочное горло как ту же идею в энкодер-декодере сегментации.

Ошибка восстановления как детектор странного

У сжатия есть неожиданное применение. Обучим автокодировщик только на обычных объектах. Тогда привычное он восстанавливает хорошо, а необычное — плохо, потому что для него в коротком коде не нашлось места. Величину

s(x)=\lVert x-\hat x\rVert

называют оценкой аномальности: чем хуже восстановление, тем подозрительнее объект.

ИдеяАномалия плохо сжимается

Обычные объекты сжимаются хорошо и дают малую ошибку; аномалии восстанавливаются плохо и уходят вправо. Порог между режимами выбирают по отложенной выборке, а не по тесту.

Приём заманчив, но хрупок. Слишком мощный декодер восстановит и невиданный объект; редкий, но нормальный случай получит высокую ошибку и поднимет ложную тревогу. Поэтому порог нельзя брать с потолка. Его выбирают по отдельной размеченной выборке, а качество меряют не одной точностью, а точностью и полнотой сразу — как при дисбалансе классов.

УпражнениеАномалия или смена условий

Автокодировщик обучен на фото исправных деталей на сером фоне. На тесте царапина честно повышает ошибку. Затем камеру сдвинули на два пикселя — и ошибка чистой детали стала ещё больше. Что теперь показывает высокая ошибка? Как отличить дефект от смены условий съёмки?

Показать ответ

После сдвига высокая ошибка сигнализирует не о дефекте, а о смене регистрации: модель не видела сдвинутых кадров и плохо их восстанавливает. Чтобы разделить причины, нужен контрольный опыт с четырьмя наборами — чистые детали в старых условиях, дефектные в старых, чистые в новых, дефектные в новых, — и сравнение карты остатка внутри детали и на фоне. Высокая ошибка по всему фону выдаёт проблему съёмки, а не дефект. Порог настраивают на отложенной выборке без настоящих тестовых дефектов.

::::

Шум как учитель: деноизирующий автокодировщик

Есть другой способ запретить сети лениться. Подадим на вход испорченную картинку $\tilde x$ , а целью оставим чистую $x$ :

\tilde x\ \longrightarrow\ z\ \longrightarrow\ \hat x\approx x.

Теперь тождество бесполезно: копировать вход — значит копировать и шум. Чтобы угадать закрытый шумом пиксель, сеть вынуждена опереться на соседей и на общий вид цифр. Учебного сигнала снова не потребовалось — портить картинку мы умеем сами.

ПримерДеноизинг: убрать шум

Вход зашумлён, цель — чистая цифра. Автокодировщик учится не копировать вход дословно, а опираться на форму цифры, и стягивает шум к правдоподобной картинке.

Важная оговорка: сеть выучивает ровно тот шум, что видела при обучении. Модель, натренированная убирать мелкую рябь, спасует перед большим закрашенным прямоугольником — под маской просто нет информации, которую можно было бы восстановить из входа. Тип повреждения — часть постановки задачи, а не мелочь.

УпражнениеЧего нет под маской

Деноизирующий автокодировщик обучали убирать независимый гауссов шум. На тесте ему дали цифру с закрашенным нулём центральным квадратом $4\times4$ . Почему модель может не восстановить закрытую область, хотя мелкую рябь убирает уверенно?

Показать ответ

Гауссов шум оставляет в каждом пикселе слабый след истинного значения — сеть усредняет соседей и след и вытягивает цифру. Сплошная маска стирает информацию полностью: под квадратом входу нечего усреднять. Восстановить область можно лишь по общей форме класса, а не по локальным соседям, и модель, обученная только на ряби, такому не научилась. Разные повреждения требуют разного обучения.

::::

Как проверить, что код полезен

Красивая карта латентного пространства обманчива: двумерная проекция способна нарисовать убедительные острова даже там, где исходное расстояние никуда не годится. Поэтому код оценивают не на глаз, а внешней задачей.

Самая честная проверка — линейный зонд. Заморозим код и обучим по нему простой линейный классификатор, дав очень мало меток: скажем, по проценту на класс. Если такой классификатор по коду обыгрывает такой же по сырым пикселям, значит, код сложил информацию о классе в доступную форму. Рядом полезно измерить качество ближайших соседей: у скольких из десяти соседей в коде та же цифра.

Отдельная тонкость — сравнивать коды двух сетей, обученных с разным начальным приближением. Покоординатно их сопоставлять нельзя: оси кода определены с точностью до поворота. Сравнивают подпространства, качество соседей или линейный зонд, но не номера координат. Неоднозначность базиса — математическое свойство задачи, а не дефект визуализации, о чём предупреждал ещё разговор о переобучении и утечке.

УпражнениеЧто значит чистота 0,79

$k$ -средних разбил цифры на десять кластеров без меток, и чистота вышла $0{,}79$ . Как эта величина посчитана и что означала бы чистота ровно $0{,}1$ ? Почему $0{,}79$ — сильный результат для обучения без учителя, но всё же не то же самое, что классификатор с точностью $0{,}79$ ?

Показать ответ

В каждом кластере находят преобладающую цифру и считают долю объектов этой цифры; чистота — усреднённая по кластерам доля «своих». Чистота $0{,}1$ отвечала бы случайному разбиению десяти равных классов — кластеры не связаны с цифрами. Значение $0{,}79$ показывает, что структура цифр найдена без разметки. Но это не классификатор: соответствие «кластер → цифра» назначено постфактум, глядя на метки, а сам метод их не знал и не смог бы назвать новую цифру по имени.

Что забрать с собой

Автокодировщик превращает объект в собственную метку и заставляет информацию протиснуться через узкое горло. Что уцелело в коротком коде — то и было главным. Линейный случай — это в точности PCA и каноническое разложение Пугачёва; нелинейный ложится на изогнутую поверхность данных. Из одной идеи вырастают сразу три инструмента: сжатие, поиск аномалий по ошибке восстановления и деноизинг. И над всеми висит одно предупреждение — низкая ошибка сама по себе не доказывает, что код осмыслен; это проверяют внешней задачей. А за словами «главные направления» и «поворот осей кода» скрывается язык линейной алгебры: дальше мы разберём матрицы как преобразования пространства и увидим, откуда берутся сами эти направления.

Двигай длину кода и уровень шума. Слева — исходная цифра, справа — восстановление, внизу — ошибка. Смотри, при какой длине кода тройка перестаёт быть узнаваемой и как шум сдвигает эту границу.

Задачи

5баллов

Четыре точки $x_1=(2,0)$ , $x_2=(0,1)$ , $x_3=(-2,0)$ , $x_4=(0,-1)$ кодируются скаляром $z_i=u^\top x_i$ при $u=(\cos\alpha,\sin\alpha)$ и восстанавливаются как $\hat x_i=z_i u$ . Выведите точную сумму квадратов ошибок $L(\alpha)=\sum_{i=1}^4\lVert x_i-\hat x_i\rVert^2$ , найдите все минимизирующие $\alpha$ на $[0,2\pi)$ и минимум. Объясните, почему $\alpha$ и $\alpha+\pi$ дают одинаковое восстановление.

4баллов

Шесть объектов в $\mathbb R^2$ : $x_1=(1,0)$ , $x_2=(0,1)$ , $x_3=(1,1)$ , $x_4=(-1,1)$ , $x_5=(-1,0)$ , $x_6=(0,-1)$ . Для матриц $A_1=I$ , $A_2=\left(\begin{smallmatrix}2&1\\0&1\end{smallmatrix}\right)$ и $A_3=\left(\begin{smallmatrix}0&-1\\1&0\end{smallmatrix}\right)$ постройте коды $z_i^{(m)}=A_m x_i$ и линейные декодеры $D_m=A_m^{-1}$ . Проверьте, что $\max_{i,m}\lVert D_m z_i^{(m)}-x_i\rVert=0$ в точной арифметике, и объясните на первой координате, почему смысл оси кода зависит от декодера.

4баллов

$k$ -средних разбил 100 объектов трёх истинных классов на три кластера. Таблица «кластер × класс»: кластер A — $(30,4,1)$ , кластер B — $(2,25,3)$ , кластер C — $(3,6,26)$ (строки — кластеры, столбцы — классы). Найдите преобладающий класс каждого кластера и общую чистоту. Приведите пример перестановки чисел в одной строке, при которой чистота падает, хотя разбиение на кластеры не менялось, и объясните, почему чистота зависит от согласия с метками.

5баллов

Автокодировщик обучен на «нормальных» объектах, оценка аномальности $s(x)=\lVert x-\hat x\rVert$ . На отложенной выборке 50 нормальных объектов имеют $s<1$ , а 50 аномалий — $s>1$ , кроме пяти нормальных с $s\in(1,2)$ и трёх аномалий с $s<1$ . Для порога $\tau=1$ постройте матрицу ошибок (нормальный/аномалия), посчитайте точность, полноту и точность-по-классу-аномалий. Объясните, почему при редких аномалиях пара «точность—полнота» информативнее общей доли верных ответов.

6баллов

На реальных цифрах $8\times8$ (sklearn.datasets.load_digits, пиксели делить на 16) сравните PCA с полным разложением и восстановление для длин кода $m\in\{2,8,16,32,64\}$ . Для каждого $m$ сообщите среднеквадратичную ошибку по всем 1797 цифрам и долю сохранённой дисперсии, проверив, что при $m=16$ ошибка около $0{,}011$ , а при $m=64$ — практически ноль. Отдельно запустите $k$ -средних на 10 кластеров и оцените чистоту относительно истинных цифр; сравните её со случайным уровнем $0{,}1$ и объясните, почему полученные $\approx0{,}79$ — это результат обучения без учителя, а не классификации.

Объект как собственная метка

Латентное пространство: карта, которую никто не рисовал

Кластеры, которые никто не размечал

Линейный автокодировщик — это метод главных компонент

Нелинейный код гнётся под данные

Ошибка восстановления как детектор странного

Шум как учитель: деноизирующий автокодировщик

Как проверить, что код полезен

Что забрать с собой

Длина кода, шум и восстановление цифры

Задачи