Теорема в статистике
В статистике теорема Басу утверждает, что любая ограниченно полная минимальная достаточная статистика не зависит от любой вспомогательной статистики . Это результат Дебабраты Басу 1955 года . [1]
Он часто используется в статистике как инструмент для доказательства независимости двух статистических данных: сначала доказывается, что одна является достаточно полной, а другая является вспомогательной, а затем обращается к теореме. [2] Примером этого является демонстрация того, что выборочное среднее и выборочная дисперсия нормального распределения являются независимыми статистическими данными, что сделано в разделе «Примеры» ниже. Это свойство (независимость выборочного среднего и выборочной дисперсии) характеризует нормальное распределение.
Заявление
Пусть — семейство распределений на измеримом пространстве и статистика , отображающаяся из в некоторое измеримое пространство . Если является ограниченно полной достаточной статистикой для и является вспомогательной для , то при условии , не зависит от . То есть, .
![{\displaystyle Т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle (X, {\mathcal {A}})}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle (Y, {\mathcal {B}})}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle Т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\ displaystyle \ theta }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle А}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\ displaystyle \ theta }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\ displaystyle \ theta }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle Т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle А}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle T\perp \!\!\!\perp A|\theta }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Доказательство
Пусть и будут маргинальными распределениями и соответственно.![{\displaystyle P_{\theta }^{T}}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle P_{\theta }^{A}}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle Т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle А}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Обозначим через прообраз множества под картой . Для любого измеримого множества имеем![{\displaystyle A^{-1}(B)}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle B}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle А}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle B\in {\mathcal {B}}}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle P_{\theta }^{A}(B)=P_{\theta }(A^{-1}(B))=\int _{Y}P_{\theta }(A^{-1 }(B)\mid T=t)\ P_{\theta }^{T}(dt).}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Распределение не зависит от т.к. является вспомогательным. Аналогично, не зависит от того, что достаточно. Поэтому![{\displaystyle P_{\theta }^{A}}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\ displaystyle \ theta }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle А}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle P_{\theta }(\cdot \mid T=t)}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\ displaystyle \ theta }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle Т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle \int _{Y}{\big [}P(A^{-1}(B)\mid T=t)-P^{A}(B){\big ]}\ P_{\theta }^{T}(dt)=0.}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Обратите внимание, что подынтегральная функция (функция внутри интеграла) является функцией , а не . Следовательно, поскольку функция ограниченно полна![{\displaystyle т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\ displaystyle \ theta }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle Т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle g(t)=P(A^{-1}(B)\mid T=t)-P^{A}(B)}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
равно нулю почти для всех значений и, следовательно,![{\displaystyle P_{\theta }^{T}}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle P(A^{-1}(B)\mid T=t)=P^{A}(B)}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
почти для всех . Следовательно, не зависит от .![{\displaystyle т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle А}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle Т}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Пример
Независимость выборочного среднего и выборочной дисперсии нормального распределения
Пусть X 1 , X 2 , ..., X n — независимые, одинаково распределенные нормальные случайные величины со средним значением µ и дисперсией σ 2 .
Тогда относительно параметра µ можно показать, что
![{\displaystyle {\widehat {\mu }}={\frac {\sum X_{i}}{n}},}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
выборочное среднее — это полная и достаточная статистика — это вся информация, которую можно получить для оценки μ, и не более того — и
![{\displaystyle {\widehat {\sigma }}^{2}={\frac {\sum \left(X_{i}-{\bar {X}}\right)^{2}}{n-1} },}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
выборочная дисперсия является вспомогательной статистикой – ее распределение не зависит от μ.
Поэтому из теоремы Басу следует, что эти статистики независимы при условии от , условно от .![{\displaystyle \mu }](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
![{\displaystyle \sigma ^{2}}](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
Этот результат независимости также может быть доказан с помощью теоремы Кокрена .
Кроме того, это свойство (то, что выборочное среднее и выборочная дисперсия нормального распределения независимы) характеризует нормальное распределение – ни одно другое распределение не обладает этим свойством. [3]
Примечания
- ^ Басу (1955)
- ^ Гош, малайский; Мукхопадхьяй, Нитис; Сен, Пранаб Кумар (2011), Последовательная оценка, Ряд Уайли по вероятности и статистике, том. 904, Джон Уайли и сыновья, с. 80, ISBN 9781118165911Следующая
теорема Басу ... помогает нам доказать независимость между определенными типами статистики без фактического вывода совместных и маргинальных распределений задействованных статистических данных. Это очень мощный инструмент и его часто используют...
- ^ Гири, RC (1936). «Распределение коэффициента «Студента» для ненормальных выборок». Приложение к журналу Королевского статистического общества . 3 (2): 178–184. дои : 10.2307/2983669. ЖФМ 63.1090.03. JSTOR 2983669.
Рекомендации
- Басу, Д. (1955). «О статистике, независимой от полной достаточной статистики». Санкхья . 15 (4): 377–380. JSTOR 25048259. MR 0074745. Збл 0068.13401.
- Мухопадьяй, Нитис (2000). Вероятность и статистический вывод . Статистика: Серия учебников и монографий. 162 . Флорида: CRC Press США. ISBN 0-8247-0379-0 .
- Боос, Деннис Д.; Оливер, Жаклин М. Хьюз (август 1998 г.). «Применения теоремы Басу». Американский статистик . 52 (3): 218–221. дои : 10.2307/2685927. JSTOR 2685927. MR 1650407.
- Гош, малайский (октябрь 2002 г.). «Теорема Басу с приложениями: персоналистический обзор». Санкхья: Индийский статистический журнал, серия A. 64 (3): 509–531. JSTOR 25051412. MR 1985397.