Нормальное распределение и ЦПТ

Колокол нормального распределения возникает не потому, что природа любит симметрию. Он появляется, когда результат складывается из многих малых вкладов, ни один из которых не захватывает всю сумму. Центральная предельная теорема говорит о стандартизованной сумме, а не объявляет нормальным любой столбец таблицы — и в этом уроке мы увидим её работу прямо на реальных данных.

Почему среднее десяти измерений спокойнее одного

Возьмём датчик, который выдаёт истинное значение плюс шум. Отдельное измерение может быть скошенным, но среднее десяти показаний выглядит симметричнее, среднее ста — ещё ближе к колоколу, и одновременно его разброс падает. Пусть $X_1,\ldots,X_n$ независимы, одинаково распределены, со средним $\mu$ и дисперсией $\sigma^2$. Для выборочного среднего

$$\overline X_n=\frac1n\sum_{i=1}^n X_i$$

линейность ожидания и сложение дисперсий независимых слагаемых дают

$$\mathbb E\overline X_n=\mu,\qquad \operatorname{Var}(\overline X_n)=\frac{\sigma^2}{n}.$$

Стандартное отклонение среднего равно $\sigma/\sqrt{n}$. Поэтому сто измерений уменьшают случайный разброс примерно в десять раз, а не в сто — это «правило корня» из урока о случайных величинах.

Чтобы увидеть устойчивую форму, среднее нужно правильно стандартизовать: вычесть центр $\mu$ и умножить отклонение на $\sqrt{n}$. Без этого распределение просто сожмётся в точку.

Нормальная модель

Нормальное распределение $N(\mu,\sigma^2)$ имеет плотность

$$\varphi_{\mu,\sigma}(x)=\frac{1}{\sigma\sqrt{2\pi}}\exp\!\left[-\frac{(x-\mu)^2}{2\sigma^2}\right].$$

Параметр $\mu$ задаёт центр, $\sigma$ — масштаб. После стандартизации $Z=(X-\mu)/\sigma$ получается стандартная нормаль $N(0,1)$ с известным правилом: около $68{,}3\%$ массы лежит в $\pm1\sigma$, около $95{,}4\%$ — в $\pm2\sigma$, около $99{,}7\%$ — в $\pm3\sigma$.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Квантили превратятся в границы доверительных интервалов, и понимать их лучше как площади, а не как таинственные константы из таблицы.

Центральная предельная теорема

Теорема не утверждает, что сами $X_i$ становятся нормальными, и не даёт точного равенства при конечном $n$. Скорость приближения зависит от формы исходного распределения: сильная асимметрия и тяжёлые хвосты требуют больше наблюдений. Экспонента квадрата возникает не случайно — при сложении независимых вкладов их характеристические функции перемножаются, а в разложении после центрирования первым существенным остаётся квадратичный член, связанный с дисперсией.

Русская линия здесь на самом виду. Именно А. М. Ляпунов в 1901 году дал центральной предельной теореме строгое доказательство при общих условиях (не требуя, чтобы слагаемые были одинаково распределены), введя знаменитое условие Ляпунова. До него теорему знали как эмпирический факт; после — как теорему с ясными предпосылками, продолжив линию Чебышёва и Маркова.

Потрогай теорему

Выберите исходное распределение — скошенное, равномерное или двугорбое — и усредняйте по $n$ наблюдениям. Гистограмма средних набирается из тысяч опытов и стягивается к красной нормальной кривой, тем точнее, чем больше $n$. Затем переключитесь на хвосты Коши: у него нет конечной дисперсии, и колокол не появляется никогда — наглядное напоминание, что у ЦПТ есть условия.

Биномиальный счёт становится колоколом

Пусть $S_n$ — число успехов в $n$ независимых испытаниях с вероятностью $p$. Тогда $\mathbb E S_n=np$, $\operatorname{Var}(S_n)=np(1-p)$, и при больших $np$ и $n(1-p)$ распределение $S_n$ близко к нормальному. Для целочисленного события нужна поправка на непрерывность:

$$P(S_n\le k)\approx\Phi\!\left(\frac{k+0{,}5-np}{\sqrt{np(1-p)}}\right).$$

Половинка появляется потому, что столбец $S_n=k$ занимает интервал от $k-0{,}5$ до $k+0{,}5$; она заметно улучшает приближение при умеренном $n$.

Когда колокол подводит

ЦПТ — не заклинание, и у неё три типичных провала. Первый — зависимость: сто последовательных секунд ряда с суточным ритмом несут гораздо меньше независимой информации, чем сто случайных дней. Второй — доминирующий вклад: если одно слагаемое велико, «малость каждого» нарушается. Третий — тяжёлые хвосты: у распределения Коши нет конечных ожидания и дисперсии, и среднее независимых величин Коши имеет ту же ширину, сколько бы их ни было.

Рисунок шире экрана — проведите по немуОткрыть целиком ↗

Фраза «при $n>30$ всё нормально» — не теорема, а грубое эмпирическое правило, которое молчит и о зависимости, и о хвостах.

Проверяй, не предполагай

Раз колокол — это вывод, а не стиль графика, его нужно проверять. Простейший инструмент — квантиль-квантильный график: он сравнивает квантили данных с нормальными, и отклонение от прямой сразу выдаёт скос или тяжёлые хвосты.

Энергосистема: сумма малых вкладов

Суммарная нагрузка района складывается из тысяч приборов, и для короткого интервала отдельные включения похожи на малые случайные вклады — центральная часть распределения нагрузки часто близка к нормальной, что позволяет оценивать вероятность перегрузки подстанции. Но в жару кондиционеры включаются согласованно, а крупное предприятие даёт доминирующий вклад: независимость и «малость каждого» теряются именно в опасном хвосте. Практический вывод — не запрет колокола, а проверка: сравнить квантили модели с эмпирическими, исследовать остатки, учесть сезонность и посмотреть на периоды экстремальной погоды. Эти проверки родственны диагностике предпосылок в линейной регрессии и карте неопределённости из урока о прогнозных интервалах.

Что именно разрешает теорема

ЦПТ связывает сумму или среднее многих подходящих вкладов с нормальным распределением после центрирования и масштабирования. Она объясняет $1/\sqrt{n}$, приближённые квантили и устойчивость формы к деталям исходного распределения. Но каждое применение обязано назвать слагаемые, защитить независимость или слабую зависимость, проверить отсутствие доминирующих вкладов и отделить центр от хвостов. Колокол — вывод из устройства процесса, а не стиль графика по умолчанию.

Задачи