Байесовское обновление

Байесовский вывод хранит не одну лучшую оценку, а целое распределение неизвестного параметра. Данные умножают прежнее распределение на правдоподобие; после нормировки получается новая карта неопределённости. Это прямое продолжение формулы Байеса и правдоподобия, только теперь неизвестен не исход, а сам параметр модели.

Две монеты и честное предварительное знание

На столе две внешне одинаковые монеты. Про первую известно, что её вероятность орла близка к $1/2$; вторую изготовили на экспериментальном станке, и её свойства неизвестны. Обе дали три орла в четырёх бросках. Максимум правдоподобия в обоих случаях даёт $\widehat p=3/4$ — но байесовский подход различит ситуации, потому что явно записывает знание до данных.

Параметр $\theta$ считают величиной с априорной плотностью $p(\theta)$. Для наблюдений $D$:

$$p(\theta\mid D)=\frac{p(D\mid\theta)\,p(\theta)}{\int p(D\mid u)\,p(u)\,du}\propto p(D\mid\theta)\,p(\theta).$$

Числитель объединяет prior и likelihood, знаменатель делает площадь posterior равной единице. Это важно: все три кривые — настоящие плотности, а не перерисованные к общей высоте.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Три распределения, три роли

Prior $p(\theta)$ описывает неопределённость до выборки. Likelihood $p(D\mid\theta)$ — функция параметра при фиксированных данных. Posterior $p(\theta\mid D)$ — распределение после обновления. Одинаковые по форме кривые играют разные логические роли, и путать их нельзя: likelihood не есть «вероятность параметра», байесовская вероятность параметра возникает только после задания prior и нормировки.

Обновление в шансах

Для двух гипотез формула прозрачна: posterior odds равны prior odds, умноженным на Bayes factor:

$$\frac{P(H_1\mid D)}{P(H_0\mid D)}=\frac{P(H_1)}{P(H_0)}\cdot\frac{P(D\mid H_1)}{P(D\mid H_0)}.$$

Каждый новый независимый пакет данных добавляет к логарифму шансов логарифм отношения правдоподобий — та же механика, что защищала от ошибки прокурора, теперь как общая схема обучения. Если данные не различают гипотезы, Bayes factor близок к единице и шансы почти не меняются; если наблюдение гораздо вероятнее при одной из гипотез, оно резко сдвигает шансы в её пользу. Удобство логарифмической записи в том, что накопление улик превращается в сложение: слабые независимые свидетельства складываются и вместе могут пересилить даже уверенный prior, а сильное одиночное наблюдение видно как большой скачок.

::::

Сила prior решает, кто победит

Насколько данные сдвинут веру, зависит от силы prior. Слабый prior уступает данным, сильный почти не двигается.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Потрогай обновление

Задайте слабый симметричный prior и добавляйте наблюдения: следите не только за движением среднего, но и за сужением распределения. Затем поставьте prior, противоречащий данным, и посмотрите, сколько однотипных наблюдений нужно, чтобы posterior пересёк середину — это число делает силу исходного предположения наглядной.

Байес на реальных данных

Метод работает не только на монетах. Оценим долю спама на настоящем корпусе SMS. Начнём с равномерного prior $\operatorname{Beta}(1,1)$ и будем добавлять сообщения порциями.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Интервал с прямым вероятностным смыслом

По posterior находят числа $a,b$, для которых $P(a\le\theta\le b\mid D)=0{,}95$. Это $95\%$ credible interval: при принятой модели и prior параметр лежит в нём с апостериорной вероятностью $0{,}95$. Он логически отличается от доверительного интервала, чьё $95\%$-е свойство относится к серии случайных границ. При большой выборке и слабом prior границы численно похожи, но интерпретации разные: байесовское утверждение условно на модели и prior, частотное — на процедуре повторения.

Предсказание нового наблюдения

Чтобы предсказать новый ответ $\widetilde Y$, параметр нельзя заменить одной оценкой — нужно усреднить прогнозы по всей апостериорной неопределённости:

$$p(\widetilde y\mid D)=\int p(\widetilde y\mid\theta)\,p(\theta\mid D)\,d\theta.$$

Это апостериорное предсказательное распределение: оно включает и случайность нового результата, и неопределённость параметра.

::::

Модель тоже является гипотезой

Формула Байеса условна на выбранном likelihood. Если монета меняет вероятность орла со временем, один постоянный $\theta$ — неверное описание, и узкий posterior означает лишь уверенность внутри тесной модели. Проверяют это апостериорной предсказательной проверкой (posterior predictive check): строят искусственные данные $D^{\text{rep}}$ из обученной модели и сравнивают их статистики с наблюдаемыми — длину серий, изменение доли по времени, число переходов. Совпадение общей доли не гарантирует совпадения структуры.

Русская линия ведёт к Р. Л. Стратоновичу — физику и математику, создателю теории нелинейной фильтрации и байесовского оценивания в реальном времени. Его взгляд «оценка — это условное среднее, а измерение сужает апостериор» — ровно то, что делает наш последовательный расчёт на SMS, только там параметр менялся бы во времени.

Итоговая схема байесовского вывода

Байесовский вывод начинается с порождающей модели: как параметр порождает наблюдения. Prior кодирует знание и ограничения до данных; likelihood сообщает, какие значения лучше объясняют увиденное; posterior соединяет оба источника; credible interval описывает неопределённость параметра, а предсказательное распределение переносит её на будущие события. Каждый слой обсуждается и проверяется отдельно — и честный анализ повторяют с несколькими разумными prior: если вывод устойчив, prior перестал играть главную роль, а если меняется, это сообщают как зависимость от неразрешённого предположения. Для сложных моделей интеграл в знаменателе не берётся вручную, и его считают численно — сеткой, методами Монте-Карло по цепям Маркова или вариационным приближением, — но вычислительная трудность не меняет сути: отделить прежнее знание, механизм данных и итоговое заключение.

Задачи