Равномерно самый мощный тест

Проверка гипотезы

При статистической проверке гипотез равномерно наиболее мощный тест ( UMP ) — это тест гипотезы , который имеет наибольшую мощность среди всех возможных тестов заданного размера α . Например, согласно лемме Неймана–Пирсона , тест отношения правдоподобия представляет собой UMP для проверки простых (точечных) гипотез. ${\displaystyle 1-\beta }$

Параметр

Пусть обозначает случайный вектор (соответствующий измерениям), взятый из параметризованного семейства функций плотности вероятности или функций массы вероятности , который зависит от неизвестного детерминированного параметра . Пространство параметров разделено на два непересекающихся множества и . Пусть обозначает гипотезу о том , что , и пусть обозначает гипотезу о том, что . Бинарная проверка гипотез выполняется с использованием тестовой функции с областью отклонения (подмножеством пространства измерений). ${\displaystyle X}$ ${\displaystyle f_{\theta }(x)}$ ${\displaystyle \theta \in \Theta }$ ${\displaystyle \Theta }$ ${\displaystyle \Theta _{0}}$ ${\displaystyle \Theta _{1}}$ ${\displaystyle H_{0}}$ ${\displaystyle \theta \in \Theta _{0}}$ ${\displaystyle H_{1}}$ ${\displaystyle \theta \in \Theta _{1}}$ ${\displaystyle \varphi (x)}$ ${\displaystyle R}$

${\displaystyle \varphi (x)={\begin{cases}1&{\text{if }}x\in R\\0&{\text{if }}x\in R^{c}\end{cases}}}$

это означает, что действует, если измерение , и что действует, если измерение . Заметим, что это непересекающееся покрытие пространства измерений. ${\displaystyle H_{1}}$ ${\displaystyle X\in R}$ ${\displaystyle H_{0}}$ ${\displaystyle X\in R^{c}}$ ${\displaystyle R\cup R^{c}}$

Формальное определение

Тестовая функция имеет размер UMP, если для любой другой тестовой функции удовлетворяется ${\displaystyle \varphi (x)}$ ${\displaystyle \alpha }$ ${\displaystyle \varphi '(x)}$

${\displaystyle \sup _{\theta \in \Theta _{0}}\;\operatorname {E} [\varphi '(X)|\theta ]=\alpha '\leq \alpha =\sup _{\theta \in \Theta _{0}}\;\operatorname {E} [\varphi (X)|\theta ]\,}$

у нас есть

${\displaystyle \forall \theta \in \Theta _{1},\quad \operatorname {E} [\varphi '(X)|\theta ]=1-\beta '(\theta )\leq 1-\beta (\theta )=\operatorname {E} [\varphi (X)|\theta ].}$

Теорема Карлина–Рубина

Теорему Карлина–Рубина можно рассматривать как расширение леммы Неймана–Пирсона для сложных гипотез. ^[1] Рассмотрим скалярное измерение, имеющее функцию плотности вероятности, параметризованную скалярным параметром θ , и определим отношение правдоподобия . Если монотонно не убывает в , для любой пары (это означает, что чем больше , тем более вероятно ), то пороговый тест: ${\displaystyle l(x)=f_{\theta _{1}}(x)/f_{\theta _{0}}(x)}$ ${\displaystyle l(x)}$ ${\displaystyle x}$ ${\displaystyle \theta _{1}\geq \theta _{0}}$ ${\displaystyle x}$ ${\displaystyle H_{1}}$

${\displaystyle \varphi (x)={\begin{cases}1&{\text{if }}x>x_{0}\\0&{\text{if }}x<x_{0}\end{cases}}}$

где выбрано такое, что ${\displaystyle x_{0}}$ ${\displaystyle \operatorname {E} _{\theta _{0}}\varphi (X)=\alpha }$

— это тест UMP размера α для тестирования ${\displaystyle H_{0}:\theta \leq \theta _{0}{\text{ vs. }}H_{1}:\theta >\theta _{0}.}$

Обратите внимание, что точно такой же тест также является UMP для тестирования. ${\displaystyle H_{0}:\theta =\theta _{0}{\text{ vs. }}H_{1}:\theta >\theta _{0}.}$

Важный случай: экспоненциальное семейство

Хотя теорема Карлина-Рубина может показаться слабой из-за ее ограничения скалярным параметром и скалярным измерением, оказывается, что существует множество задач, для которых эта теорема справедлива. В частности, одномерное экспоненциальное семейство функций плотности вероятности или функций массы вероятности с

${\displaystyle f_{\theta }(x)=g(\theta )h(x)\exp(\eta (\theta )T(x))}$

имеет монотонное неубывающее отношение правдоподобия в достаточной статистике при условии, что оно не убывает. ${\displaystyle T(x)}$ ${\displaystyle \eta (\theta )}$

Пример

Обозначим iid нормально распределенные трехмерные случайные векторы со средним значением и ковариационной матрицей . Тогда у нас есть ${\displaystyle X=(X_{0},\ldots ,X_{M-1})}$ ${\displaystyle N}$ ${\displaystyle \theta m}$ ${\displaystyle R}$

${\displaystyle {\begin{aligned}f_{\theta }(X)={}&(2\pi )^{-MN/2}|R|^{-M/2}\exp \left\{-{\frac {1}{2}}\sum _{n=0}^{M-1}(X_{n}-\theta m)^{T}R^{-1}(X_{n}-\theta m)\right\}\\[4pt]={}&(2\pi )^{-MN/2}|R|^{-M/2}\exp \left\{-{\frac {1}{2}}\sum _{n=0}^{M-1}\left(\theta ^{2}m^{T}R^{-1}m\right)\right\}\\[4pt]&\exp \left\{-{\frac {1}{2}}\sum _{n=0}^{M-1}X_{n}^{T}R^{-1}X_{n}\right\}\exp \left\{\theta m^{T}R^{-1}\sum _{n=0}^{M-1}X_{n}\right\}\end{aligned}}}$

что в точности соответствует форме экспоненциального семейства, показанного в предыдущем разделе, с достаточной статистикой

${\displaystyle T(X)=m^{T}R^{-1}\sum _{n=0}^{M-1}X_{n}.}$

Таким образом, мы приходим к выводу, что тест

${\displaystyle \varphi (T)={\begin{cases}1&T>t_{0}\\0&T<t_{0}\end{cases}}\qquad \operatorname {E} _{\theta _{0}}\varphi (T)=\alpha }$

— это тест размера UMP для тестирования по сравнению с ${\displaystyle \alpha }$ ${\displaystyle H_{0}:\theta \leqslant \theta _{0}}$ ${\displaystyle H_{1}:\theta >\theta _{0}}$

Дальнейшее обсуждение

Наконец, отметим, что вообще не существует тестов UMP для векторных параметров или для двусторонних тестов (тест, в котором одна гипотеза лежит по обе стороны альтернативы). Причина в том, что в таких ситуациях самый мощный тест заданного размера для одного возможного значения параметра (например, где ) отличается от самого мощного теста того же размера для другого значения параметра (например, где ). В результате ни один тест не является наиболее эффективным в таких ситуациях. ${\displaystyle \theta _{1}}$ ${\displaystyle \theta _{1}>\theta _{0}}$ ${\displaystyle \theta _{2}}$ ${\displaystyle \theta _{2}<\theta _{0}}$

Рекомендации

1. Казелла, Г.; Бергер, Р.Л. (2008), Статистический вывод , Брукс/Коул. ISBN  0-495-39187-5 (теорема 8.3.17)

дальнейшее чтение

• Фергюсон, Т.С. (1967). «Раздел 5.2: Равномерно наиболее мощные тесты ». Математическая статистика: подход теории принятия решений . Нью-Йорк: Академическая пресса.
• Настроение, утро; Грейбилл, ФА; Боес, округ Колумбия (1974). «Раздел IX.3.2: Равномерно наиболее мощные тесты ». Введение в теорию статистики (3-е изд.). Нью-Йорк: МакГроу-Хилл.
• Л.Л. Шарф, Статистическая обработка сигналов , Аддисон-Уэсли, 1991, раздел 4.7.