Максимум правдоподобия

Модель сообщает, насколько правдоподобны увиденные данные при каждом значении неизвестного параметра. Метод максимального правдоподобия поворачивает эту зависимость: данные фиксируются, параметр двигается, а вершина кривой становится оценкой. Из одного этого принципа выведутся и знакомая доля успехов, и метод наименьших квадратов, и кросс-энтропия обучения.

Монета, которую бросили двадцать раз

В двадцати бросках выпало четырнадцать орлов. Какая вероятность орла $p$ лучше согласуется с наблюдением? При независимых бросках вероятность последовательности с $h$ орлами и $t$ решками равна $P(D\mid p)=p^h(1-p)^t$. После опыта $h=14$ и $t=6$ фиксированы, и то же выражение читают как функцию параметра:

$$L(p;D)=p^{14}(1-p)^6.$$

Её называют функцией правдоподобия. Это не распределение параметра: площадь под ней не обязана равняться единице. Запись $L(p)$ лишь сравнивает значения $p$ по тому, насколько хорошо каждое объясняет одну и ту же выборку.

Правдоподобие на реальных данных

Монета — модель, но метод работает на настоящих данных так же. Возьмём реальный корпус SMS: из $5574$ сообщений спамом оказались $747$. Считая каждое сообщение испытанием Бернулли, построим правдоподобие доли спама $p$ — и для разного объёма выборки.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Максимум находится без угадывания

Произведения малых вероятностей быстро становятся машинным нулём, поэтому работают с логарифмом:

$$\ell(p)=\log L(p)=h\log p+t\log(1-p).$$

Логарифм строго возрастает и сохраняет точку максимума. Производная $\ell'(p)=h/p-t/(1-p)$ равна нулю при $h(1-p)=tp$, откуда

$$\widehat p_{\text{MLE}}=\frac{h}{h+t}.$$

Вторая производная $\ell''(p)=-h/p^2-t/(1-p)^2<0$ подтверждает, что это максимум. Знакомая доля успехов оказалась не произвольной формулой, а следствием модели Бернулли и принципа правдоподобия.

Логарифм превращает произведение в сумму

Логарифм не меняет победителя, но меняет масштаб задачи: произведения становятся суммами, машинное округление — мягче. И он делает видимой разницу между кандидатами.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Кривизна около вершины растёт примерно как $n$, поэтому характерная ширина оценки убывает как $1/\sqrt{n}$. Удобная величина — удвоенная разность логарифмов $2[\ell(\widehat p)-\ell(p)]$: она сравнивает кандидата с лучшим объяснением и при регулярных условиях даёт интервалы правдоподобия, чей частотный смысл покрытия аккуратно разберёт следующий урок.

::::

Потрогай правдоподобие

Сохраните долю успехов и увеличивайте число наблюдений: вершина останется на месте, а интервал близких значений сузится. Сравните $7/10$ и $700/1000$ — одинаковая точечная оценка несёт совершенно разную неопределённость. Наконец поставьте все успехи и ни одной неудачи: максимум уйдёт на границу $p=1$, где обычное «оценка плюс-минус ошибка» перестаёт работать.

От правдоподобия к функции потерь

Для многих независимых объектов $L(\theta)=\prod_i p_\theta(y_i\mid x_i)$, а логарифм даёт сумму $\ell(\theta)=\sum_i\log p_\theta(y_i\mid x_i)$. Максимизация $\ell$ — это то же самое, что минимизация средней отрицательной лог-правдоподобности. И тут открывается связь с машинным обучением: конкретная модель шума задаёт конкретную функцию потерь.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

::::

Граница и неразличимость

У правдоподобия есть особые случаи. Первый — граница: для данных $10/10$ функция $L(p)=p^{10}$ монотонно растёт до $p=1$, максимум лежит на краю допустимого диапазона, и симметричный интервал «оценка $\pm$ ошибка» вышел бы за пределы $[0,1]$.

Русская линия ведёт к Ю. В. Линнику — математику, чьи работы по теории оценивания и обработке наблюдений продолжили русскую школу вероятности (Чебышёв, Марков, Ляпунов, Колмогоров). Идея, что точность оценки ограничена количеством информации в данных, — прямо про ширину вершины правдоподобия.

Что MLE обещает и чего не обещает

При корректной идентифицируемой модели и достаточном объёме MLE часто сходится к истинному параметру, становится приближённо нормальной и эффективно использует информацию. Но эти свойства асимптотические: они не превращают малую выборку в большую и не проверяют модель.

Если данные собраны со смещением, MLE точно оценит параметр смещённой популяции. Если семейство распределений выбрано неверно, оптимизатор найдёт лучший параметр внутри неверной модели. Поэтому после максимизации исследуют остатки, устойчивость и смысл параметров: численная вершина — начало статистического заключения, а не его финал.

Одна оценка, две кривые разной остроты

Сравним серии $14/20$ и $70/100$: в обеих $\widehat p=0{,}7$, и таблица точечных оценок объявила бы эксперименты одинаковыми. Но возьмём конкурента $p=0{,}6$: отношение $L(0{,}6)/L(0{,}7)$ для первой серии около $0{,}65$ (значение ещё правдоподобно), а для второй — около $0{,}12$ (заметно хуже). Одинаковая доля успехов создала гораздо более острую вершину, потому что каждый из ста бросков добавил слагаемое к лог-правдоподобию. Ширина вершины несёт сведения о точности, которых нет в одной MLE.

А если последние двадцать бросков делал другой автомат, складывать серии нельзя без проверки общего $p$: узкая вершина будет уверенно оценивать несуществующее «среднее состояние». Сравнение модели с одним параметром и модели с двумя превращает вычисление максимума в проверяемый вопрос об однородности эксперимента — и это уже мост к следующим урокам об интервалах и проверке гипотез.

Задачи