Центральная предельная теорема

Основная теорема теории вероятностей и статистики

В теории вероятностей центральная предельная теорема ( ЦПТ ) утверждает, что при соответствующих условиях распределение нормализованной версии выборочного среднего сходится к стандартному нормальному распределению . Это справедливо даже в том случае, если сами исходные переменные не имеют нормального распределения . Существует несколько версий CLT, каждая из которых применяется в контексте различных условий.

Теорема является ключевой концепцией теории вероятностей, поскольку она подразумевает, что вероятностные и статистические методы, работающие для нормальных распределений, могут быть применимы ко многим проблемам, связанным с другими типами распределений.

Эта теорема претерпела множество изменений в ходе формального развития теории вероятностей. Предыдущие версии теоремы датируются 1811 годом, но в современном общем виде этот фундаментальный результат теории вероятностей был точно сформулирован еще в 1920 году ^[1] , тем самым послужив мостом между классической и современной теорией вероятностей.

Элементарная форма теоремы гласит следующее. Пусть обозначает случайную выборку независимых наблюдений из совокупности с общим ожидаемым значением (средним) и конечной дисперсией , и пусть обозначает выборочное среднее этой выборки (которая сама по себе является случайной величиной ). Тогда предел распределения где является стандартным нормальным распределением. ^[2] ${\displaystyle X_{1},X_{2},\dots ,X_{n}}$ ${\displaystyle n}$ ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}}$ ${\displaystyle {\bar {X}}_{n}}$ ${\displaystyle n\to \infty }$ ${\displaystyle {\frac {{\bar {X}}_{n}-\mu }{\sigma _{{\bar {X}}_{n}}}},}$ ${\displaystyle \sigma _{{\bar {X}}_{n}}={\frac {\sigma }{\sqrt {n}}},}$

Другими словами, предположим, что получена большая выборка наблюдений , причем каждое наблюдение производится случайным образом таким образом, что не зависит от значений других наблюдений, и что вычисляется среднее (среднее арифметическое ) наблюдаемых значений. Если эта процедура выполняется много раз, в результате чего получается набор наблюдаемых средних значений, центральная предельная теорема гласит, что если размер выборки был достаточно большим, распределение вероятностей этих средних значений будет близко приближаться к нормальному распределению.

Центральная предельная теорема имеет несколько вариантов. В своей общей форме случайные величины должны быть независимыми и одинаково распределенными (iid). Это требование можно ослабить; сходимость среднего значения к нормальному распределению происходит также для неидентичных распределений или для ненезависимых наблюдений, если они соответствуют определенным условиям.

Самая ранняя версия этой теоремы о том, что нормальное распределение может использоваться как приближение к биномиальному распределению , — это теорема Муавра-Лапласа .

Независимые последовательности

Какой бы ни была форма распределения населения, выборочное распределение стремится к гауссову, а его дисперсия определяется центральной предельной теоремой. ^[3]

Классический CLT

Пусть это последовательность случайных величин iid, имеющих распределение с ожидаемым значением , заданным выражением , и конечной дисперсией, заданной выражением. Предположим, нас интересует выборочное среднее значение. ${\displaystyle \{X_{1},\ldots ,X_{n}}\}$ ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}.}$

$${\displaystyle {\bar {X}}_{n}\equiv {\frac {X_{1}+\cdots +X_{n}}{n}}.}$$

По закону больших чисел выборочное среднее почти наверняка сходится (и, следовательно, также сходится по вероятности ) к ожидаемому значению как ${\displaystyle \mu }$ ${\displaystyle n\to \infty .}$

Классическая центральная предельная теорема описывает размер и форму распределения стохастических флуктуаций вокруг детерминированного числа во время этой сходимости. Точнее, он утверждает , что по мере увеличения распределение разницы между средним значением выборки и ее пределом при умножении на коэффициент ( то есть ) приближается к нормальному распределению со средним значением и дисперсией . При достаточно больших размерах распределение становится сколь угодно близким к нормальное распределение со средним и дисперсией ${\displaystyle \mu }$ ${\displaystyle n}$ ${\displaystyle {\bar {X}}_{n}}$ ${\displaystyle \mu ,}$ ${\displaystyle {\sqrt {n}}}$ ${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$ ${\displaystyle 0}$ ${\displaystyle \sigma ^{2}.}$ ${\displaystyle n,}$ ${\displaystyle {\bar {X}}_{n}}$ ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}/n.}$

Полезность теоремы состоит в том, что распределение приближается к нормальности независимо от формы распределения отдельных лиц . Формально теорему можно сформулировать следующим образом: ${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$ ${\displaystyle X_{i}.}$

CLT Линдеберга – Леви.  Предположим  , что это последовательность iid случайных величин с и Затем, по мере приближения к бесконечности, случайные величины сходятся в распределении к нормальному : ^[4] ${\displaystyle X_{1},X_{2},X_{3}\ldots }$ ${\displaystyle \operatorname {E} [X_{i}]=\mu }$ ${\displaystyle \operatorname {Var} [X_{i}]=\sigma ^{2}<\infty .}$ ${\displaystyle n}$ ${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$ ${\displaystyle {\mathcal {N}}(0,\sigma ^{2})}$

$${\displaystyle {\sqrt {n}}\left({\bar {X}}_{n}-\mu \right)\ \xrightarrow {d} \ {\mathcal {N}}\left(0,\sigma ^{2}\right).}$$

В этом случае сходимость по распределению означает, что кумулятивные функции распределения сходятся поточечно к функции распределения распределения : для каждого действительного числа ${\displaystyle \sigma >0,}$ ${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$ ${\displaystyle {\mathcal {N}}(0,\sigma ^{2})}$ ${\displaystyle z,}$

$${\displaystyle \lim _{n\to \infty }\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]=\lim _{n\to \infty }\mathbb {P} \left[{\frac {{\sqrt {n}}({\bar {X}}_{n}-\mu )}{\sigma }}\leq {\frac {z}{\sigma }}\right]=\Phi \left({\frac {z}{\sigma }}\right),}$$

${\displaystyle \Phi (z)}$ ${\displaystyle z.}$ ${\displaystyle z}$

$${\displaystyle \lim _{n\to \infty }\;\sup _{z\in \mathbb {R} }\;\left|\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]-\Phi \left({\frac {z}{\sigma }}\right)\right|=0~,}$$

верхнюю границу^[5] ${\displaystyle \sup }$

Ляпунов ЦЛТ

Теорема названа в честь российского математика Александра Ляпунова . В этом варианте центральной предельной теоремы случайные величины должны быть независимыми, но не обязательно одинаково распределенными. Теорема также требует, чтобы случайные величины имели моменты некоторого порядка и чтобы скорость роста этих моментов ограничивалась условием Ляпунова, приведенным ниже. ${\textstyle X_{i}}$ ${\textstyle \left|X_{i}\right|}$ ${\textstyle (2+\delta )}$

Ляпунов CLT ^[6]  —  Предположим , это последовательность независимых случайных величин, каждая из которых имеет конечное ожидаемое значение и дисперсию . Определять ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$ ${\textstyle \mu _{i}}$ ${\textstyle \sigma _{i}^{2}}$

$${\displaystyle s_{n}^{2}=\sum _{i=1}^{n}\sigma _{i}^{2}.}$$

Если для некоторых , то условие Ляпунова ${\textstyle \delta >0}$

$${\displaystyle \lim _{n\to \infty }\;{\frac {1}{s_{n}^{2+\delta }}}\,\sum _{i=1}^{n}\operatorname {E} \left[\left|X_{i}-\mu _{i}\right|^{2+\delta }\right]=0}$$

выполняется, то сумма сходится по распределению к стандартной нормальной случайной величине, стремясь к бесконечности: ${\textstyle {\frac {X_{i}-\mu _{i}}{s_{n}}}}$ ${\textstyle n}$

$${\displaystyle {\frac {1}{s_{n}}}\,\sum _{i=1}^{n}\left(X_{i}-\mu _{i}\right)\ \xrightarrow {d} \ {\mathcal {N}}(0,1).}$$

На практике обычно проще всего проверить условие Ляпунова при . ${\textstyle \delta =1}$

Если последовательность случайных величин удовлетворяет условию Ляпунова, то она удовлетворяет и условию Линдеберга. Обратный вывод, однако, не имеет места.

Линдеберг CLT

В той же постановке и с теми же обозначениями, что и выше, условие Ляпунова можно заменить следующим, более слабым (от Линдеберга в 1920 г.).

Предположим, что для каждого ${\textstyle \varepsilon >0}$

$${\displaystyle \lim _{n\to \infty }{\frac {1}{s_{n}^{2}}}\sum _{i=1}^{n}\operatorname {E} \left[(X_{i}-\mu _{i})^{2}\cdot \mathbf {1} _{\left\{X_{i}:\left|X_{i}-\mu _{i}\right|>\varepsilon s_{n}\right\}}\right]=0}$$

функция ${\textstyle \mathbf {1} _{\{\ldots \}}}$

$${\displaystyle {\frac {1}{s_{n}}}\sum _{i=1}^{n}\left(X_{i}-\mu _{i}\right)}$$

. ${\textstyle {\mathcal {N}}(0,1)}$

Многомерный CLT

Доказательства, в которых используются характеристические функции, могут быть распространены на случаи, когда каждый индивидуум представляет собой случайный вектор в со средним вектором и ковариационной матрицей (среди компонентов вектора), и эти случайные векторы независимы и одинаково распределены. Суммирование этих векторов производится покомпонентно. Многомерная центральная предельная теорема утверждает, что при масштабировании суммы сходятся к многомерному нормальному распределению . ^[7] ${\textstyle \mathbf {X} _{i}}$ ${\textstyle \mathbb {R} ^{k}}$ ${\textstyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} _{i}]}$ ${\textstyle \mathbf {\Sigma } }$

Позволять

$${\displaystyle \mathbf {X} _{i}={\begin{bmatrix}X_{i(1)}\\\vdots \\X_{i(k)}\end{bmatrix}}}$$

kсумма ${\textstyle \mathbf {X} _{i}}$

$${\displaystyle {\begin{bmatrix}X_{1(1)}\\\vdots \\X_{1(k)}\end{bmatrix}}+{\begin{bmatrix}X_{2(1)}\\\vdots \\X_{2(k)}\end{bmatrix}}+\cdots +{\begin{bmatrix}X_{n(1)}\\\vdots \\X_{n(k)}\end{bmatrix}}={\begin{bmatrix}\sum _{i=1}^{n}\left[X_{i(1)}\right]\\\vdots \\\sum _{i=1}^{n}\left[X_{i(k)}\right]\end{bmatrix}}=\sum _{i=1}^{n}\mathbf {X} _{i}}$$

$${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}\mathbf {X} _{i}={\frac {1}{n}}{\begin{bmatrix}\sum _{i=1}^{n}X_{i(1)}\\\vdots \\\sum _{i=1}^{n}X_{i(k)}\end{bmatrix}}={\begin{bmatrix}{\bar {X}}_{i(1)}\\\vdots \\{\bar {X}}_{i(k)}\end{bmatrix}}=\mathbf {{\bar {X}}_{n}} }$$

$${\displaystyle {\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}\left[\mathbf {X} _{i}-\operatorname {E} \left(\mathbf {X} _{i}\right)\right]={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}(\mathbf {X} _{i}-{\boldsymbol {\mu }})={\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right)~.}$$

Многомерная центральная предельная теорема утверждает, что

$${\displaystyle {\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right)\,\xrightarrow {D} \ {\mathcal {N}}_{k}(0,{\boldsymbol {\Sigma }})}$$

ковариационная матрица ${\displaystyle {\boldsymbol {\Sigma }}}$

$${\displaystyle {\boldsymbol {\Sigma }}={\begin{bmatrix}{\operatorname {Var} \left(X_{1(1)}\right)}&\operatorname {Cov} \left(X_{1(1)},X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(1)},X_{1(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1(1)},X_{1(k)}\right)\\\operatorname {Cov} \left(X_{1(2)},X_{1(1)}\right)&\operatorname {Var} \left(X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(2)},X_{1(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1(2)},X_{1(k)}\right)\\\operatorname {Cov} \left(X_{1(3)},X_{1(1)}\right)&\operatorname {Cov} \left(X_{1(3)},X_{1(2)}\right)&\operatorname {Var} \left(X_{1(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1(3)},X_{1(k)}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\operatorname {Cov} \left(X_{1(k)},X_{1(1)}\right)&\operatorname {Cov} \left(X_{1(k)},X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(k)},X_{1(3)}\right)&\cdots &\operatorname {Var} \left(X_{1(k)}\right)\\\end{bmatrix}}~.}$$

Скорость сходимости определяется следующим результатом типа Берри – Эссеена :

Теорема ^[8]  —  Пусть это независимые -значные случайные векторы, каждый из которых имеет нулевое среднее значение. «Написать и предположить » обратимо. Пусть будет -мерным гауссианом с тем же средним значением и той же ковариационной матрицей, что и . Тогда для всех выпуклых множеств ${\displaystyle X_{1},\dots ,X_{n},\dots }$ ${\displaystyle \mathbb {R} ^{d}}$ ${\displaystyle S=\sum _{i=1}^{n}X_{i}}$ ${\displaystyle \Sigma =\operatorname {Cov} [S]}$ ${\displaystyle Z\sim {\mathcal {N}}(0,\Sigma )}$ ${\displaystyle d}$ ${\displaystyle S}$ ${\displaystyle U\subseteq \mathbb {R} ^{d}}$

$${\displaystyle \left|\mathbb {P} [S\in U]-\mathbb {P} [Z\in U]\right|\leq C\,d^{1/4}\gamma ~,}$$

где – универсальная константа, и обозначает евклидову норму на . ${\displaystyle C}$ ${\displaystyle \gamma =\sum _{i=1}^{n}\operatorname {E} \left[\left\|\Sigma ^{-1/2}X_{i}\right\|_{2}^{3}\right]}$ ${\displaystyle \|\cdot \|_{2}}$ ${\displaystyle \mathbb {R} ^{d}}$

Неизвестно, необходим ли этот фактор. ^[9] ${\textstyle d^{1/4}}$

Обобщенная центральная предельная теорема

Обобщенная центральная предельная теорема (GCLT) была результатом усилий нескольких математиков ( Бернштейна , Линдеберга , Леви , Феллера , Колмогорова и других) в период с 1920 по 1937 год. ^[10] Первое опубликованное полное доказательство GCLT было в 1937 году. Поля Леви на французском языке. ^[11] Английская версия полного доказательства GCLT доступна в переводе книги Гнеденко и Колмогорова 1954 года. ^[12]

Заявление GCLT следующее: ^[13]

Невырожденная случайная величина Z является α -стабильной для некоторого 0 < α ≤ 2 тогда и только тогда, когда существует независимая, одинаково распределенная последовательность случайных величин X ₁ , X ₂ , X ₃ , ... и констант a _n > 0, bn _∈ ℝ с

а _п ( Икс ₁ + ... + Икс _п ) - б _п → Z .

Здесь → означает, что последовательность сумм случайных величин сходится по распределению; т. е. соответствующие распределения удовлетворяют F _n ( y ) → F ( y ) во всех точках непрерывности F.

Другими словами, если суммы независимых, одинаково распределенных случайных величин сходятся по распределению к некоторому Z , то Z должно быть стабильным распределением .

Зависимые процессы

CLT при слабой зависимости

Полезным обобщением последовательности независимых, одинаково распределенных случайных величин является случайный процесс смешивания в дискретном времени; Грубо говоря, «смешивание» означает, что случайные величины, находящиеся далеко друг от друга во времени, почти независимы. Несколько видов смешивания используются в эргодической теории и теории вероятностей. См. особенно сильное смешивание (также называемое α-смешиванием), определяемое где – так называемый коэффициент сильного смешивания . ${\textstyle \alpha (n)\to 0}$ ${\textstyle \alpha (n)}$

Упрощенная формулировка центральной предельной теоремы при сильном перемешивании такова: ^[14]

Теорема  .  Предположим, что является стационарным и -перемешивающимся с и что и . Обозначим , тогда предел ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$ ${\displaystyle \alpha }$ ${\textstyle \alpha _{n}=O\left(n^{-5}\right)}$ ${\textstyle \operatorname {E} [X_{n}]=0}$ ${\textstyle \operatorname {E} [X_{n}^{12}]<\infty }$ ${\textstyle S_{n}=X_{1}+\cdots +X_{n}}$

$${\displaystyle \sigma ^{2}=\lim _{n\rightarrow \infty }{\frac {\operatorname {E} \left(S_{n}^{2}\right)}{n}}}$$

существует, и если то сходится по распределению к . ${\textstyle \sigma \neq 0}$ ${\textstyle {\frac {S_{n}}{\sigma {\sqrt {n}}}}}$ ${\textstyle {\mathcal {N}}(0,1)}$

Фактически,

$${\displaystyle \sigma ^{2}=\operatorname {E} \left(X_{1}^{2}\right)+2\sum _{k=1}^{\infty }\operatorname {E} \left(X_{1}X_{1+k}\right),}$$

Предположение нельзя опустить, поскольку асимптотическая нормальность не выполняется для где – другая стационарная последовательность . ${\textstyle \sigma \neq 0}$ ${\textstyle X_{n}=Y_{n}-Y_{n-1}}$ ${\textstyle Y_{n}}$

Существует более сильная версия теоремы: ^[15] предположение заменяется на , а предположение заменяется на ${\textstyle \operatorname {E} \left[X_{n}^{12}\right]<\infty }$ ${\textstyle \operatorname {E} \left[{\left|X_{n}\right|}^{2+\delta }\right]<\infty }$ ${\textstyle \alpha _{n}=O\left(n^{-5}\right)}$

$${\displaystyle \sum _{n}\alpha _{n}^{\frac {\delta }{2(2+\delta )}}<\infty .}$$

Наличие таковых обеспечивает заключение. Энциклопедическое изложение предельных теорем в условиях смешивания см. (Bradley 2007). ${\textstyle \delta >0}$

Разница Мартингейла CLT

Теорема  .  Пусть мартингал удовлетворяет ${\textstyle M_{n}}$

• ${\displaystyle {\frac {1}{n}}\sum _{k=1}^{n}\operatorname {E} \left[\left(M_{k}-M_{k-1}\right)^{2}\mid M_{1},\dots ,M_{k-1}\right]\to 1}$ по вероятности при n → ∞ ,
• для любого ε > 0 , при n → ∞ , ${\displaystyle {\frac {1}{n}}\sum _{k=1}^{n}{\operatorname {E} \left[\left(M_{k}-M_{k-1}\right)^{2}\mathbf {1} \left[|M_{k}-M_{k-1}|>\varepsilon {\sqrt {n}}\right]\right]}\to 0}$

затем сходится по распределению к as . ^{[16] [17]} ${\textstyle {\frac {M_{n}}{\sqrt {n}}}}$ ${\textstyle {\mathcal {N}}(0,1)}$ ${\textstyle n\to \infty }$

Примечания

Доказательство классической ЦПТ

Центральная предельная теорема имеет доказательство с использованием характеристических функций . ^[18] Это похоже на доказательство (слабого) закона больших чисел .

Предположим , что это независимые и одинаково распределенные случайные величины, каждая из которых имеет среднее значение и конечную дисперсию . Сумма имеет среднее значение и дисперсию . Рассмотрим случайную величину ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$ ${\textstyle \mu }$ ${\textstyle \sigma ^{2}}$ ${\textstyle X_{1}+\cdots +X_{n}}$ ${\textstyle n\mu }$ ${\textstyle n\sigma ^{2}}$

$${\displaystyle Z_{n}={\frac {X_{1}+\cdots +X_{n}-n\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {X_{i}-\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {1}{\sqrt {n}}}Y_{i},}$$

,( ).функция ${\textstyle Y_{i}={\frac {X_{i}-\mu }{\sigma }}}$ ${\textstyle \operatorname {var} (Y)=1}$ ${\textstyle Z_{n}}$

$${\displaystyle \varphi _{Z_{n}}\!(t)=\varphi _{\sum _{i=1}^{n}{{\frac {1}{\sqrt {n}}}Y_{i}}}\!(t)\ =\ \varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\varphi _{Y_{2}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\cdots \varphi _{Y_{n}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\ =\ \left[\varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\right]^{n},}$$

теореме Тейлора ${\textstyle Y_{i}}$ ${\textstyle Y_{1}}$

$${\displaystyle \varphi _{Y_{1}}\!\left({\frac {t}{\sqrt {n}}}\right)=1-{\frac {t^{2}}{2n}}+o\!\left({\frac {t^{2}}{n}}\right),\quad \left({\frac {t}{\sqrt {n}}}\right)\to 0}$$

маленькое обозначение o.функции ( ) ${\textstyle o(t^{2}/n)}$ ${\textstyle t}$ ${\textstyle t^{2}/n}$ ${\textstyle e^{x}=\lim _{n\to \infty }\left(1+{\frac {x}{n}}\right)^{n}}$ ${\displaystyle Z_{n}}$

$${\displaystyle \varphi _{Z_{n}}(t)=\left(1-{\frac {t^{2}}{2n}}+o\left({\frac {t^{2}}{n}}\right)\right)^{n}\rightarrow e^{-{\frac {1}{2}}t^{2}},\quad n\to \infty .}$$

Все члены высшего порядка в пределе исчезают . Правая часть равна характеристической функции стандартного нормального распределения , что, согласно теореме Леви о непрерывности, подразумевает , что распределение будет приближаться к . Таким образом, среднее выборочное ${\textstyle n\to \infty }$ ${\textstyle {\mathcal {N}}(0,1)}$ ${\textstyle Z_{n}}$ ${\textstyle {\mathcal {N}}(0,1)}$ ${\textstyle n\to \infty }$

$${\displaystyle {\bar {X}}_{n}={\frac {X_{1}+\cdots +X_{n}}{n}}}$$

$${\displaystyle {\frac {\sqrt {n}}{\sigma }}({\bar {X}}_{n}-\mu )=Z_{n}}$$

, ${\textstyle {\mathcal {N}}(0,1)}$

Сходимость к пределу

Центральная предельная теорема дает только асимптотическое распределение . В качестве приближения для конечного числа наблюдений оно обеспечивает разумное приближение только тогда, когда оно близко к пику нормального распределения; чтобы дойти до хвостов, требуется очень большое количество наблюдений. ^{[ нужна цитата ]}

Сходимость в центральной предельной теореме равномерна , поскольку предельная кумулятивная функция распределения непрерывна. Если третий центральный момент существует и конечен, то скорость сходимости не ниже порядка (см. теорему Берри–Эссеена ). Метод Стейна ^[19] можно использовать не только для доказательства центральной предельной теоремы, но и для оценки скорости сходимости выбранных метрик. ^[20] ${\textstyle \operatorname {E} \left[(X_{1}-\mu )^{3}\right]}$ ${\textstyle 1/{\sqrt {n}}}$

Сходимость к нормальному распределению монотонна в том смысле, что энтропия монотонно возрастает до уровня нормального распределения. ^[21] ${\textstyle Z_{n}}$

Центральная предельная теорема применяется, в частности, к суммам независимых и одинаково распределенных дискретных случайных величин . Сумма дискретных случайных величин по-прежнему остается дискретной случайной величиной , так что мы сталкиваемся с последовательностью дискретных случайных величин , чья кумулятивная функция распределения вероятностей сходится к кумулятивной функции распределения вероятностей, соответствующей непрерывной переменной (а именно, функции нормального распределения ) . Это означает, что если мы построим гистограмму реализаций суммы n независимых одинаковых дискретных переменных, то кусочно-линейная кривая, соединяющая центры верхних граней прямоугольников, образующих гистограмму, сходится к кривой Гаусса при приближении n к бесконечности; это соотношение известно как теорема Муавра – Лапласа . В статье о биномиальном распределении подробно описано такое применение центральной предельной теоремы в простом случае, когда дискретная переменная принимает только два возможных значения.

Распространенные заблуждения

Исследования показали, что центральная предельная теорема подвержена нескольким распространённым, но серьёзным заблуждениям, некоторые из которых встречаются в широко используемых учебниках. ^{[22] [23] [24]} К ним относятся убеждения, которые:

• Теорема применима к случайной выборке любой переменной, а не к средним значениям (или суммам) случайных величин iid , извлеченным из совокупности путем повторной выборки. То есть теорема предполагает, что случайная выборка создает выборочное распределение, сформированное из различных значений средних (или сумм) таких случайных величин.
• Теорема гарантирует, что случайная выборка приводит к возникновению нормального распределения для достаточно больших выборок любой случайной величины, независимо от распределения совокупности. В действительности такая выборка асимптотически воспроизводит свойства популяции, что является интуитивным результатом, подкрепленным теоремой Гливенко-Кантелли .
• Теорема приводит к хорошей аппроксимации нормального распределения для размеров выборки более 30, ^[25] позволяя делать надежные выводы независимо от характера генеральной совокупности. На самом деле это эмпирическое правило не имеет веского обоснования и может привести к серьезно ошибочным выводам.

Связь с законом больших чисел

Закон больших чисел _, а также центральная предельная теорема являются частичным решением общей проблемы: «Каково предельное поведение Sn при стремлении n к бесконечности?» В математическом анализе асимптотические ряды являются одним из самых популярных инструментов, используемых для решения таких вопросов.

Предположим, что у нас есть асимптотическое разложение : ${\textstyle f(n)}$

$${\displaystyle f(n)=a_{1}\varphi _{1}(n)+a_{2}\varphi _{2}(n)+O{\big (}\varphi _{3}(n){\big )}\qquad (n\to \infty ).}$$

Разделив обе части на φ ₁ ( n ) и приняв предел, получим 1 _, коэффициент члена высшего порядка в разложении, который представляет скорость, с которой f ( n ) изменяется в своем ведущем члене.

$${\displaystyle \lim _{n\to \infty }{\frac {f(n)}{\varphi _{1}(n)}}=a_{1}.}$$

_{Неформально} можно сказать: « f ( n ) растет примерно как a ₁ φ1 ( n ) ». Взяв разницу между f ( n ) и ее аппроксимацией, а затем разделив ее на следующий член разложения, мы придем к более уточненному утверждению о f ( n ) :

$${\displaystyle \lim _{n\to \infty }{\frac {f(n)-a_{1}\varphi _{1}(n)}{\varphi _{2}(n)}}=a_{2}.}$$

Здесь можно сказать, что разница между функцией и ее аппроксимацией растет примерно как a ₂ φ ₂ ( n ) . Идея состоит в том, что деление функции на соответствующие нормализующие функции и рассмотрение предельного поведения результата может многое рассказать нам о предельном поведении самой исходной функции.

Неформально, нечто подобное происходит, когда сумма Sn независимых одинаково распределенных случайных величин X ₁ , ..., X _n исследуется в классической теории вероятностей _. ^{[ нужна цитата ]} Если каждый X _i имеет конечное среднее µ , то по закону больших чисел,С _н/н→ мкм . ^[26] Если, кроме того, каждое X _i имеет конечную дисперсию σ ² , то по центральной предельной теореме

$${\displaystyle {\frac {S_{n}-n\mu }{\sqrt {n}}}\to \xi ,}$$

ξN (0, σ ² )

$${\displaystyle S_{n}\approx \mu n+\xi {\sqrt {n}}.}$$

В случае, когда X _i не имеет конечного среднего значения или дисперсии, сходимость сдвинутой и масштабированной суммы также может происходить с различными коэффициентами центрирования и масштабирования:

$${\displaystyle {\frac {S_{n}-a_{n}}{b_{n}}}\rightarrow \Xi ,}$$

$${\displaystyle S_{n}\approx a_{n}+\Xi b_{n}.}$$

Распределения Ξ , которые могут возникнуть таким образом, называются устойчивыми . ^[27] Очевидно, что нормальное распределение стабильно, но существуют и другие стабильные распределения, такие как распределение Коши , для которых среднее значение или дисперсия не определены. Коэффициент масштабирования b _n может быть пропорционален n ^c для любого c ≥1/2; его также можно умножить на медленно меняющуюся функцию n . ^{[28] [29]}

Закон повторного логарифма определяет то, что происходит «между» законом больших чисел и центральной предельной теоремой. В частности, там говорится, что нормализующая функция √ n log log n , промежуточная по размеру между n закона больших чисел и √ n центральной предельной теоремы, обеспечивает нетривиальное предельное поведение.

Альтернативные утверждения теоремы

Функции плотности

Плотность суммы двух или более независимых переменных представляет собой свертку их плотностей (если эти плотности существуют). Таким образом, центральную предельную теорему можно интерпретировать как утверждение о свойствах функций плотности при свертке: свертка ряда функций плотности стремится к нормальной плотности по мере неограниченного увеличения числа функций плотности. Эти теоремы требуют более сильных гипотез, чем приведенные выше формы центральной предельной теоремы. Теоремы этого типа часто называют локальными предельными теоремами. См. у Петрова ^[30] конкретную локальную предельную теорему для сумм независимых и одинаково распределенных случайных величин .

Характеристические функции

Поскольку характеристическая функция свертки является произведением характеристических функций участвующих плотностей, центральная предельная теорема имеет еще одну формулировку: произведение характеристических функций ряда функций плотности становится близким к характеристической функции нормальной плотности. поскольку число функций плотности неограниченно увеличивается в условиях, изложенных выше. В частности, к аргументу характеристической функции необходимо применить соответствующий масштабный коэффициент.

Эквивалентное утверждение можно сделать и о преобразованиях Фурье , поскольку характеристическая функция по сути является преобразованием Фурье.

Вычисление дисперсии

Пусть S _n — сумма n случайных величин. Многие центральные предельные теоремы обеспечивают такие условия, что Sn / √ Var( S _n ) сходится по распределению к N (0,1) (нормальному распределению со средним значением 0, дисперсией 1) при _n → ∞ . В некоторых случаях можно найти константу σ ² и функцию f( _n ) такие, что Sn /(σ √ n⋅f ( n ) ) сходится по распределению к N (0,1) при n → ∞ .

Лемма ^[31]  —  Предположим , это последовательность действительных и строго стационарных случайных величин с для всех , и . Построить ${\displaystyle X_{1},X_{2},\dots }$ ${\displaystyle \operatorname {E} (X_{i})=0}$ ${\displaystyle i}$ ${\displaystyle g:[0,1]\to \mathbb {R} }$ ${\displaystyle S_{n}=\sum _{i=1}^{n}g\left({\tfrac {i}{n}}\right)X_{i}}$

$${\displaystyle \sigma ^{2}=\operatorname {E} (X_{1}^{2})+2\sum _{i=1}^{\infty }\operatorname {E} (X_{1}X_{1+i})}$$

1. Если абсолютно сходится, то , и тогда что и где . ${\displaystyle \sum _{i=1}^{\infty }\operatorname {E} (X_{1}X_{1+i})}$ ${\displaystyle \left|\int _{0}^{1}g(x)g'(x)\,dx\right|<\infty }$ ${\displaystyle 0<\int _{0}^{1}(g(x))^{2}dx<\infty }$ ${\displaystyle \mathrm {Var} (S_{n})/(n\gamma _{n})\to \sigma ^{2}}$ ${\displaystyle n\to \infty }$ ${\displaystyle \gamma _{n}={\frac {1}{n}}\sum _{i=1}^{n}\left(g\left({\tfrac {i}{n}}\right)\right)^{2}}$
2. Если кроме того и сходится по распределению к as , то также сходится по распределению к as . ${\displaystyle \sigma >0}$ ${\displaystyle S_{n}/{\sqrt {\mathrm {Var} (S_{n})}}}$ ${\displaystyle {\mathcal {N}}(0,1)}$ ${\displaystyle n\to \infty }$ ${\displaystyle S_{n}/(\sigma {\sqrt {n\gamma _{n}}})}$ ${\displaystyle {\mathcal {N}}(0,1)}$ ${\displaystyle n\to \infty }$

Расширения

Произведения положительных случайных величин

Логарифм произведения — это просто сумма логарифмов множителей. Следовательно, когда логарифм произведения случайных величин, принимающих только положительные значения, приближается к нормальному распределению, само произведение приближается к логнормальному распределению . Многие физические величины (особенно масса или длина, которые зависят от масштаба и не могут быть отрицательными) являются продуктами различных случайных факторов, поэтому они подчиняются логарифмически нормальному распределению. Эту мультипликативную версию центральной предельной теоремы иногда называют законом Жибрата .

В то время как центральная предельная теорема для сумм случайных величин требует условия конечной дисперсии, соответствующая теорема для произведений требует соответствующего условия интегрируемости функции плотности с квадратом. ^[32]

За пределами классических рамок

Асимптотическая нормальность, то есть сходимость к нормальному распределению после соответствующего сдвига и изменения масштаба, представляет собой явление гораздо более общее, чем рассмотренная выше классическая модель, а именно суммы независимых случайных величин (или векторов). Время от времени открываются новые рамки; на данный момент не существует единой объединяющей структуры.

Выпуклое тело

Теорема  .  Существует последовательность ε _n ↓ 0 , для которой выполнено следующее. Пусть n ≥ 1 и случайные величины X ₁ , ..., X _n имеют логарифмически вогнутую плотность соединений f такую, что f ( x ₁ , ..., x _n ) = f (| x ₁ |, .. ., | x _n |) для всех x ₁ , ..., x _n и E( X²
_тыс.) = 1 для всех k = 1, ..., n . Тогда распределение

$${\displaystyle {\frac {X_{1}+\cdots +X_{n}}{\sqrt {n}}}}$$

ε _n -близок к по общему расстоянию вариации . ^[33] ${\textstyle {\mathcal {N}}(0,1)}$

Эти два ε _n -близких распределения имеют плотности (фактически логарифмически вогнутые плотности), таким образом, общее дисперсионное расстояние между ними представляет собой интеграл от абсолютного значения разности между плотностями. Сходимость в общей вариации сильнее, чем слабая.

Важным примером логарифмически вогнутой плотности является функция, постоянная внутри данного выпуклого тела и исчезающая снаружи; оно соответствует равномерному распределению на выпуклом теле, что объясняет термин «центральная предельная теорема для выпуклых тел».

Другой пример: f ( x ₁ , ..., x _n ) = const · exp(−(| x ₁ | ^α + ⋯ + | x _n | ^α ) ^β ) , где α > 1 и αβ > 1 . Если β = 1 , то f ( x ₁ , ..., x _n ) разлагается на const · exp (−| x ₁ | ^α ) … exp(−| x _n | ^α ), что означает X ₁ , ..., X _n независимы. Однако в целом они зависимы.

Условие f ( x ₁ , ..., x _n ) = f (| x ₁ |, ..., | x _n |) гарантирует, что X ₁ , ..., x _n имеют нулевое среднее и некоррелированы ; ^{[ нужна цитата ]} тем не менее, они не обязательно должны быть независимыми или даже попарно независимыми . ^{[ нужна цитата ]} Кстати, попарная независимость не может заменить независимость в классической центральной предельной теореме. ^[34]

Вот результат типа Берри-Эссеена .

Теорема  .  Пусть X ₁ , ..., X _n удовлетворяют условиям предыдущей теоремы, тогда ^[35]

$${\displaystyle \left|\mathbb {P} \left(a\leq {\frac {X_{1}+\cdots +X_{n}}{\sqrt {n}}}\leq b\right)-{\frac {1}{\sqrt {2\pi }}}\int _{a}^{b}e^{-{\frac {1}{2}}t^{2}}\,dt\right|\leq {\frac {C}{n}}}$$

для всех a < b ; здесь C — универсальная (абсолютная) константа . Более того, для любых c ₁ , ..., c _n ∈ R таких, что c²
₁+ ⋯ + с²
_н= 1 ,

$${\displaystyle \left|\mathbb {P} \left(a\leq c_{1}X_{1}+\cdots +c_{n}X_{n}\leq b\right)-{\frac {1}{\sqrt {2\pi }}}\int _{a}^{b}e^{-{\frac {1}{2}}t^{2}}\,dt\right|\leq C\left(c_{1}^{4}+\dots +c_{n}^{4}\right).}$$

РаспределениеХ ₁ + ⋯ + Х _н/√ нне обязательно должно быть приблизительно нормальным (на самом деле оно может быть однородным). ^[36] Однако распределение c ₁ X ₁ + ⋯ + c _n X _n близко к (по общему расстоянию вариации) для большинства векторов ( c ₁ , ..., c _n ) согласно равномерному распределению на сфера с ${\textstyle {\mathcal {N}}(0,1)}$²
₁+ ⋯ + с²
_н= 1 .

Лакунарный тригонометрический ряд

Теорема ( Салем – Зигмунд )  —  Пусть U — случайная величина, распределенная равномерно на (0,2π) , и X _k = r _k cos( n _k U + a _k ) , где

• nk удовлетворяют условию лакунарности: существует q > 1 _такое , что nk _{+ 1} ≥ qnk для всех _k ,
• r _k таковы, что
  $${\displaystyle r_{1}^{2}+r_{2}^{2}+\cdots =\infty \quad {\text{ and }}\quad {\frac {r_{k}^{2}}{r_{1}^{2}+\cdots +r_{k}^{2}}}\to 0,}$$
• 0 ≤ а _k < 2π .

Тогда ^{[37] [38]}

$${\displaystyle {\frac {X_{1}+\cdots +X_{k}}{\sqrt {r_{1}^{2}+\cdots +r_{k}^{2}}}}}$$

сходится по распределению к . ${\textstyle {\mathcal {N}}{\big (}0,{\frac {1}{2}}{\big )}}$

Гауссовы многогранники

Теорема  .  Пусть A ₁ , ..., An _— независимые случайные точки на плоскости R ² , каждая из которых имеет двумерное стандартное нормальное распределение. Пусть Kn _— выпуклая оболочка этих точек, а Xn _— площадь Kn _. Тогда ^[39]

$${\displaystyle {\frac {X_{n}-\operatorname {E} (X_{n})}{\sqrt {\operatorname {Var} (X_{n})}}}}$$

сходится по распределению к при стремлении n к бесконечности. ${\textstyle {\mathcal {N}}(0,1)}$

То же самое справедливо и для всех размерностей, больших 2.

Многогранник K n называется гауссовским случайным многогранником _.

Аналогичный результат справедлив для количества вершин (гауссова многогранника), количества ребер и, фактически, граней всех измерений. ^[40]

Линейные функции ортогональных матриц

Линейная функция матрицы M — это линейная комбинация ее элементов (с заданными коэффициентами), M ↦ tr( AM ), где A — матрица коэффициентов; см. Трассировка (линейная алгебра)#Внутренний продукт .

Говорят, что случайная ортогональная матрица распределена равномерно, если ее распределение является нормализованной мерой Хаара на ортогональной группе O( n , R ) ; см. Матрицу вращения#Равномерные матрицы случайного вращения .

Теорема  .  Пусть M — случайная ортогональная матрица размера n × n , распределенная равномерно, а A — фиксированная матрица размера n × n такая, что tr( AA *) = n , и пусть X = tr( AM ) . Тогда ^[41] распределение X близко к в метрике полной вариации до ^{[ необходимы пояснения ]} ${\textstyle {\mathcal {N}}(0,1)}$ 2 √ 3/п - 1.

Подпоследовательности

Теорема  .  Пусть случайные величины X ₁ , X ₂ , ... ∈ L ₂ (Ω) таковы, что X _n → 0 слабо в L ₂ (Ω) и X
_н→ 1 слабо в L ₁ (Ω) . Тогда существуют целые числа n ₁ < n ₂ < ⋯ такие, что

$${\displaystyle {\frac {X_{n_{1}}+\cdots +X_{n_{k}}}{\sqrt {k}}}}$$

сходится по распределению к , когда k стремится к бесконечности. ^[42] ${\textstyle {\mathcal {N}}(0,1)}$

Случайное блуждание по кристаллической решетке

Центральная предельная теорема может быть установлена ​​для простого случайного блуждания по кристаллической решетке (бесконечнократного абелева графа, накрывающего конечный граф) и используется для проектирования кристаллических структур. ^{[43] [44]}

Приложения и примеры

Простой пример центральной предельной теоремы — бросок множества одинаковых несмещенных игральных костей. Распределение суммы (или среднего) выпавших чисел будет хорошо аппроксимироваться нормальным распределением. Поскольку реальные величины часто представляют собой сбалансированную сумму многих ненаблюдаемых случайных событий, центральная предельная теорема также частично объясняет преобладание нормального распределения вероятностей. Это также оправдывает приближение статистики большой выборки к нормальному распределению в контролируемых экспериментах.

Еще одно моделирование с использованием биномиального распределения. Были сгенерированы случайные 0 и 1, а затем их средние значения рассчитаны для размеров выборки от 1 до 512. Обратите внимание, что по мере увеличения размера выборки хвосты становятся тоньше, а распределение становится более концентрированным вокруг среднего значения.

Регрессия

Регрессионный анализ , и в частности обычный метод наименьших квадратов , определяет, что зависимая переменная зависит в соответствии с некоторой функцией от одной или нескольких независимых переменных с аддитивной ошибкой . Различные типы статистических выводов по регрессии предполагают, что член ошибки имеет нормальное распределение. Это предположение можно оправдать, если предположить, что член ошибки на самом деле представляет собой сумму многих независимых членов ошибки; даже если отдельные члены ошибок не распределены нормально, согласно центральной предельной теореме их сумма может быть хорошо аппроксимирована нормальным распределением.

Другие иллюстрации

Учитывая ее важность для статистики, доступен ряд статей и компьютерных пакетов, демонстрирующих сходимость, связанную с центральной предельной теоремой. ^[45]

История

Голландский математик Хенк Теймс пишет: ^[46]

Центральная предельная теорема имеет интересную историю. Первая версия этой теоремы была постулирована математиком французского происхождения Абрахамом де Муавром , который в замечательной статье, опубликованной в 1733 году, использовал нормальное распределение для аппроксимации распределения числа орлов в результате множества подбрасываний честной монеты. Это открытие намного опередило свое время и было почти забыто, пока знаменитый французский математик Пьер-Симон Лаплас не спас его от безвестности в своей монументальной работе « Аналитическая теория вероятностей» , опубликованной в 1812 году. Лаплас расширил открытие Де Муавра, аппроксимировав биномиальное уравнение распределение с нормальным распределением. Но, как и в случае с Муавром, открытие Лапласа в его время не привлекло особого внимания. Лишь в конце девятнадцатого века важность центральной предельной теоремы была осознана, когда в 1901 году русский математик Александр Ляпунов определил ее в общих чертах и ​​точно доказал, как она работает математически. В настоящее время центральная предельная теорема считается неофициальным правителем теории вероятностей.

Сэр Фрэнсис Гальтон так описал центральную предельную теорему: ^[47]

Я едва ли знаю что-либо, столь же способное поразить воображение, как чудесная форма космического порядка, выраженная «Законом частоты ошибок». Закон был бы персонифицирован греками и обожествлен, если бы они знали о нем. Оно царит безмятежно и в полном самоуничижении, среди дикой неразберихи. Чем огромнее толпа и чем больше кажущаяся анархия, тем совершеннее ее власть. Это высший закон Неразумия. Всякий раз, когда большая выборка хаотических элементов берется в руки и распределяется по порядку их величины, оказывается, что неожиданная и самая красивая форма регулярности все время была скрытой.

Фактический термин «центральная предельная теорема» (по-немецки: «zentraler Grenzwertsatz») впервые был использован Джорджем Полиа в 1920 году в названии статьи. ^{[48] ​​[49]} Пойа назвал эту теорему «центральной» из-за ее важности в теории вероятностей. По мнению Ле Кама, французская школа вероятности интерпретирует слово « центральный» в том смысле, что «оно описывает поведение центра распределения, а не его хвостов». ^[49] Аннотация к статье Пойа ^{[48] 1920 года} «О центральной предельной теореме исчисления вероятностей и проблеме моментов» переводится следующим образом.

Появление гауссовой плотности вероятности 1 = е ^{- х 2} в повторных экспериментах, в ошибках измерений, приводящих к совокупности очень многих и очень малых элементарных ошибок, в диффузионных процессах и т. д. можно объяснить, как и известно по той же предельной теореме, которая играет центральную роль в исчислении вероятностей. Фактического первооткрывателя этой предельной теоремы следует назвать Лапласом; вероятно, что ее строгое доказательство было впервые дано Чебышевым, а наиболее резкую ее формулировку можно найти, насколько мне известно, в статье Ляпунова . ...

Подробный отчет об истории теоремы, подробно описывающий основополагающую работу Лапласа, а также вклад Коши , Бесселя и Пуассона , предоставлен Хальдом. ^[50] Два исторических отчета, один из которых охватывает развитие от Лапласа до Коши, а второй - вклад фон Мизеса , Полиа , Линдеберга , Леви и Крамера в 1920-е годы, предоставлены Гансом Фишером. ^[51] Ле Кам описывает период около 1935 года. ^[49] Бернштейн ^[52] представляет историческую дискуссию, посвященную работе Пафнутия Чебышева и его учеников Андрея Маркова и Александра Ляпунова , которая привела к первым доказательствам ЦПТ в общих условиях. .

Любопытное примечание к истории центральной предельной теоремы состоит в том, что доказательство результата, аналогичного CLT Линдеберга 1922 года, было предметом стипендиальной диссертации Алана Тьюринга в 1934 году для Королевского колледжа Кембриджского университета . Только после отправки работы Тьюринг узнал, что она уже доказана. Следовательно, диссертация Тьюринга не была опубликована. ^[53]

Смотрите также

• Свойство асимптотического равнораспределения
• Асимптотическое распределение
• Распределение Бейтса
• Закон Бенфорда – результат распространения ЦПТ на произведение случайных величин.
• Теорема Берри – Эссеена
• Центральная предельная теорема для направленной статистики - Центральная предельная теорема, примененная к случаю направленной статистики
• Метод дельты – для вычисления предельного распределения функции случайной величины.
• Теорема Эрдеша – Каца - связывает количество простых множителей целого числа с нормальным распределением вероятностей.
• Теорема Фишера-Типпета-Гнеденко - предельная теорема для экстремальных значений (таких как max{ X _n } )
• Распределение Ирвина – Холла
• Центральная предельная теорема цепи Маркова
• Нормальное распределение
• Теорема о сходимости Твиди - теорема, которую можно рассматривать как связующее звено между центральной предельной теоремой и теоремой о сходимости Пуассона ^[54]

Примечания

1. Фишер (2011), с.  ^{[ нужна страница ]} .
2. Монтгомери, Дуглас С.; Рангер, Джордж К. (2014). Прикладная статистика и вероятность для инженеров (6-е изд.). Уайли. п. 241. ИСБН 9781118539712.
3. Руо, Матье (2013). Вероятность, статистика и оценка (PDF) . п. 10. Архивировано (PDF) из оригинала 9 октября 2022 г.
4. Биллингсли (1995), с. 357.
5. Бауэр (2001), с. 199, Теорема 30.13.
6. Биллингсли (1995), с. 362.
7. ван дер Ваарт, AW (1998). Асимптотическая статистика . Нью-Йорк, штат Нью-Йорк: Издательство Кембриджского университета. ISBN 978-0-521-49603-2. LCCN  98015176.
8. О'Доннелл, Райан (2014). «Теорема 5.38». Архивировано из оригинала 8 апреля 2019 г. Проверено 18 октября 2017 г.
9. Бенткус, В. (2005). «Ляпуновский переплет ». Теория вероятностей. Приложение . 49 (2): 311–323. дои : 10.1137/S0040585X97981123. ${\displaystyle \mathbb {R} ^{d}}$
10. Ле Кам, Л. (февраль 1986 г.). «Центральная предельная теорема около 1935 года». Статистическая наука . 1 (1): 78–91. JSTOR  2245503.
11. Леви, Поль (1937). Теория сложения непредсказуемых переменных . Париж: Готье-Виллар.
12. Гнеденко, Борис Владимирович; Кологоров Андрей Николаевич; Дуб, Джозеф Л.; Сюй, Пао-Лу (1968). Предельные распределения сумм независимых случайных величин . Ридинг, Массачусетс: Аддисон-Уэсли.
13. Нолан, Джон П. (2020). Одномерные устойчивые распределения, модели для данных с тяжелыми хвостами. Серия Springer по исследованию операций и финансовой инженерии. Швейцария: Шпрингер. дои : 10.1007/978-3-030-52915-4. ISBN 978-3-030-52914-7. S2CID  226648987.
14. Биллингсли (1995), Теорема 27.4.
15. Дарретт (2004), разд. 7.7(в), Теорема 7.8.
16. Дарретт (2004), разд. 7.7, теорема 7.4.
17. Биллингсли (1995), Теорема 35.12.
18. Лимоны, Дон (2003). Введение в случайные процессы в физике. дои : 10.56021/9780801868665. ISBN 9780801876387. Проверено 11 августа 2016 г. {{cite book}}: |website=игнорируется ( помощь )
19. Штейн, К. (1972). «Оценка ошибки нормального приближения распределения суммы зависимых случайных величин». Труды шестого симпозиума Беркли по математической статистике и теории вероятностей . 6 (2): 583–602. МР  0402873. Збл  0278.60026.
20. Чен, LHY; Гольдштейн, Л.; Шао, КМ (2011). Нормальное приближение методом Штейна . Спрингер. ISBN 978-3-642-15006-7.
21. Артштейн, С .; Болл, К .; Барт, Ф .; Наор, А. (2004). «Решение проблемы Шеннона о монотонности энтропии». Журнал Американского математического общества . 17 (4): 975–982. дои : 10.1090/S0894-0347-04-00459-X .
22. Брюэр, Дж. К. (1985). «Учебники по поведенческой статистике: источник мифов и заблуждений?». Журнал образовательной статистики . 10 (3): 252–268. дои : 10.3102/10769986010003252. S2CID  119611584.
23. Ю, К.; Беренс, Дж.; Спенсер, А. Выявление заблуждений в центральной предельной теореме и связанных с ней концепциях, лекция Американской ассоциации исследований в области образования , 19 апреля 1995 г.
24. Сотос, AEC; Ванхоф, С.; Ван ден Ноортгейт, В.; Онгена, П. (2007). «Заблуждения студентов о статистических выводах: обзор эмпирических данных исследований в области статистического образования». Обзор образовательных исследований . 2 (2): 98–113. doi :10.1016/j.edurev.2007.04.001.
25. «Выборочное распределение выборочного среднего (видео) | Академия Хана» . 2 июня 2023 г. Архивировано из оригинала 2 июня 2023 г. Проверено 8 октября 2023 г.
26. Розенталь, Джеффри Сет (2000). Первый взгляд на строгую теорию вероятностей . Всемирная научная. Теорема 5.3.4, с. 47. ИСБН 981-02-4322-7.
27. Джонсон, Оливер Томас (2004). Теория информации и центральная предельная теорема . Издательство Имперского колледжа. п. 88. ИСБН 1-86094-473-6.
28. Учайкин, Владимир В.; Золотарев, В.М. (1999). Случайность и стабильность: Стабильные дистрибутивы и их приложения . ВСП. стр. 61–62. ISBN 90-6764-301-7.
29. Бородин, АН; Ибрагимов И.А.; Судаков В.Н. (1995). Предельные теоремы для функционалов случайных блужданий . Книжный магазин АМС. Теорема 1.1, с. 8. ISBN 0-8218-0438-3.
30. Петров, В.В. (1976). Суммы независимых случайных величин. Нью-Йорк-Гейдельберг: Springer-Verlag. гл. 7. ISBN 9783642658099.
31. Хью, Патрик Чисан (2017). «Асимптотическое распределение вознаграждений, накопленных в результате чередующихся процессов обновления». Статистика и вероятностные буквы . 129 : 355–359. дои : 10.1016/j.spl.2017.06.027.
32. Ремпала, Г.; Весоловский, Дж. (2002). «Асимптотика произведений сумм и U-статистика» (PDF) . Электронные коммуникации в теории вероятности . 7 : 47–54. дои : 10.1214/ecp.v7-1046 .
33. Клартаг (2007), Теорема 1.2.
34. Дарретт (2004), раздел 2.4, пример 4.5.
35. Клартаг (2008), Теорема 1.
36. Клартаг (2007), Теорема 1.1.
37. Зигмунд, Антони (2003) [1959]. Тригонометрический ряд . Издательство Кембриджского университета. том. II, разд. XVI.5, Теорема 5-5. ISBN 0-521-89053-5.
38. Гапошкин (1966), Теорема 2.1.13.
39. Барань и Ву (2007), Теорема 1.1.
40. Барань и Ву (2007), Теорема 1.2.
41. Мекес, Элизабет (2008). «Линейные функции на классических группах матриц». Труды Американского математического общества . 360 (10): 5355–5366. arXiv : math/0509441 . дои : 10.1090/S0002-9947-08-04444-9. S2CID  11981408.
42. Гапошкин (1966), Разд. 1,5.
43. Котани, М.; Сунада, Тошиказу (2003). Спектральная геометрия кристаллических решеток . Том. 338. Современная математика. стр. 271–305. ISBN 978-0-8218-4269-0.
44. Сунада, Тошиказу (2012). Топологическая кристаллография – с точки зрения дискретного геометрического анализа . Обзоры и учебные пособия по прикладным математическим наукам. Том. 6. Спрингер. ISBN 978-4-431-54177-6.
45. Марасингхе, М.; Микер, В.; Кук, Д.; Шин, Т.С. (август 1994 г.). Использование графики и моделирования для обучения статистическим понятиям . Ежегодное собрание Американской ассоциации статистиков, Торонто, Канада.
46. Хенк, Таймс (2004). Понимание вероятности: правила случая в повседневной жизни . Кембридж: Издательство Кембриджского университета. п. 169. ИСБН 0-521-54036-4.
47. Гальтон, Ф. (1889). Естественное наследование. п. 66.
48. Полиа, Джордж (1920). «Über den zentralen Grenzwertsatz der Wahrscheinlichkeitsrechnung und das Momentenproblem» [О центральной предельной теореме вычисления вероятностей и проблеме моментов]. Mathematische Zeitschrift (на немецком языке). 8 (3–4): 171–181. дои : 10.1007/BF01206525. S2CID  123063388.
49. Le Cam, Люсьен (1986). «Центральная предельная теорема около 1935 года». Статистическая наука . 1 (1): 78–91. дои : 10.1214/ss/1177013818 .
50. Хальд, Андреас (22 апреля 1998 г.). История математической статистики с 1750 по 1930 год (PDF) . Уайли. глава 17. ISBN 978-0471179122. Архивировано (PDF) из оригинала 9 октября 2022 г. {{cite book}}: |website=игнорируется ( помощь )
51. Фишер (2011), Глава 2; Глава 5.2.
52. Бернштейн, SN (1945). "О работах П. Л. Чебышева по теории вероятностей". В Бернштейне., СН (ред.). Научное наследие П.Л. Чебышева. Выпуск Первый: Математика . Научное наследие П.Л. Чебышева. Часть I: Математика . Москва и Ленинград: Академия наук СССР. п. 174.
53. Забелл, SL (1995). «Алан Тьюринг и центральная предельная теорема». Американский математический ежемесячник . 102 (6): 483–494. дои : 10.1080/00029890.1995.12004608.
54. Йоргенсен, Бент (1997). Теория моделей дисперсии . Чепмен и Холл. ISBN 978-0412997112.

Рекомендации

• Барань, Имре ; Ву, Ван (2007). «Центральные предельные теоремы для гауссовских многогранников». Анналы вероятности . Институт математической статистики. 35 (4): 1593–1621. arXiv : математика/0610192 . дои : 10.1214/009117906000000791. S2CID  9128253.
• Бауэр, Хайнц (2001). Теория меры и интегрирования . Берлин: де Грюйтер. ISBN 3110167190.
• Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). Джон Уайли и сыновья. ISBN 0-471-00710-2.
• Брэдли, Ричард (2005). «Основные свойства условий сильного смешивания. Обзор и некоторые открытые вопросы». Вероятностные исследования . 2 : 107–144. arXiv : math/0511078 . Бибкод : 2005math.....11078B. дои : 10.1214/154957805100000104. S2CID  8395267.
• Брэдли, Ричард (2007). Введение в условия сильного смешивания (1-е изд.). Хибер-Сити, Юта: Кендрик Пресс. ISBN 978-0-9740427-9-4.
• Динов, Иво; Кристу, Николя; Санчес, Хуана (2008). «Центральная предельная теорема: новый апплет SOCR и демонстрационная деятельность». Журнал статистического образования . КАК. 16 (2): 1–15. дои : 10.1080/10691898.2008.11889560. ПМК  3152447 . PMID  21833159. Архивировано из оригинала 3 марта 2016 г. Проверено 23 августа 2008 г.
• Дарретт, Ричард (2004). Вероятность: теория и примеры (3-е изд.). Издательство Кембриджского университета. ISBN 0521765390.
• Фишер, Ганс (2011). История центральной предельной теоремы: от классической к современной теории вероятностей (PDF) . Источники и исследования по истории математики и физических наук. Нью-Йорк: Спрингер. дои : 10.1007/978-0-387-87857-7. ISBN 978-0-387-87856-0. МР  2743162. Збл  1226.60004. Архивировано (PDF) из оригинала 31 октября 2017 г.
• Гапошкин, В.Ф. (1966). «Лакунарный ряд и независимые функции». Российские математические обзоры . 21 (6): 1–82. Бибкод :1966РуМаС..21....1Г. doi : 10.1070/RM1966v021n06ABEH001196. S2CID  250833638..
• Клартаг, Боаз (2007). «Центральная предельная теорема для выпуклых множеств». Математические изобретения . 168 (1): 91–131. arXiv : математика/0605014 . Бибкод : 2007InMat.168...91K. дои : 10.1007/s00222-006-0028-8. S2CID  119169773.
• Клартаг, Боаз (2008). «Неравенство типа Берри – Эссеена для выпуклых тел с безусловным базисом». Теория вероятностей и смежные области . 145 (1–2): 1–33. arXiv : 0705.0832 . дои : 10.1007/s00440-008-0158-6. S2CID  10163322.

Внешние ссылки

• Центральная предельная теорема в Академии Хана
• «Центральная предельная теорема», Математическая энциклопедия , EMS Press , 2001 [1994]
• Вайсштейн, Эрик В. «Центральная предельная теорема». Математический мир .
• Музыкальное видео Карла МакТэга, демонстрирующее центральную предельную теорему с доской Гальтона.