Тест Андерсона-Дарлинга

Статистический тест

Тест Андерсона–Дарлинга — это статистический тест , проверяющий, взята ли заданная выборка данных из заданного распределения вероятностей . В своей базовой форме тест предполагает, что в проверяемом распределении нет параметров для оценки, в этом случае тест и его набор критических значений являются свободными от распределения. Однако тест чаще всего используется в контекстах, где проверяется семейство распределений, в этом случае параметры этого семейства необходимо оценить, и это необходимо учитывать при корректировке либо статистики теста, либо его критических значений. При применении к проверке того, адекватно ли нормальное распределение описывает набор данных, он является одним из самых мощных статистических инструментов для обнаружения большинства отклонений от нормальности . ^{[1] [2]} Тесты Андерсона–Дарлинга для k -выборок доступны для проверки того, можно ли смоделировать несколько наборов наблюдений как поступающих из одной популяции, где функция распределения не обязательно должна быть указана.

Помимо использования в качестве теста соответствия распределений, его можно использовать при оценке параметров в качестве основы для процедуры оценки минимального расстояния .

Тест назван в честь Теодора Уилбура Андерсона (1918–2016) и Дональда А. Дарлинга (1915–2014), которые изобрели его в 1952 году. ^[3]

Тест с одним образцом

Статистики Андерсона–Дарлинга и Крамера–фон Мизеса относятся к классу квадратичных статистик EDF (тесты, основанные на эмпирической функции распределения ). ^[2] Если предполагаемое распределение равно , а эмпирическая (выборочная) кумулятивная функция распределения равна , то квадратичные статистики EDF измеряют расстояние между и по ${\displaystyle F}$ ${\displaystyle F_{n}}$ ${\displaystyle F}$ ${\displaystyle F_{n}}$

${\displaystyle n\int _{-\infty }^{\infty }(F_{n}(x)-F(x))^{2}\,w(x)\,dF(x),}$

где — число элементов в выборке, а — весовая функция. Когда весовая функция равна , статистика — это статистика Крамера–фон Мизеса . Тест Андерсона–Дарлинга (1954) ^[4] основан на расстоянии ${\displaystyle n}$ ${\displaystyle w(x)}$ ${\displaystyle w(x)=1}$

${\displaystyle A^{2}=n\int _{-\infty }^{\infty }{\frac {(F_{n}(x)-F(x))^{2}}{F(x)\;(1-F(x))}}\,dF(x),}$

что получается, когда весовая функция равна . Таким образом, по сравнению с расстоянием Крамера–фон Мизеса расстояние Андерсона–Дарлинга придает больший вес наблюдениям в хвостах распределения. ${\displaystyle w(x)=[F(x)\;(1-F(x))]^{-1}}$

Базовая статистика теста

Тест Андерсона-Дарлинга оценивает, происходит ли выборка из определенного распределения. Он использует тот факт, что при задании гипотетического базового распределения и предположении, что данные действительно возникают из этого распределения, можно предположить, что кумулятивная функция распределения (CDF) данных следует равномерному распределению . Затем данные можно проверить на однородность с помощью теста расстояния (Шапиро, 1980). Формула для тестовой статистики для оценки того, происходят ли данные (обратите внимание, что данные должны быть упорядочены) из CDF, следующая : ${\displaystyle A}$ ${\displaystyle \{Y_{1}<\cdots <Y_{n}\}}$ ${\displaystyle F}$

${\displaystyle A^{2}=-n-S\,,}$

где

${\displaystyle S=\sum _{i=1}^{n}{\frac {2i-1}{n}}\left[\ln(F(Y_{i}))+\ln \left(1-F(Y_{n+1-i})\right)\right].}$

Затем тестовую статистику можно сравнить с критическими значениями теоретического распределения. В этом случае никакие параметры не оцениваются относительно кумулятивной функции распределения . ${\displaystyle F}$

Тесты для семейств распределений

По сути, та же самая тестовая статистика может быть использована при проверке соответствия семейства распределений, но затем ее необходимо сравнивать с критическими значениями, соответствующими этому семейству теоретических распределений, а также в зависимости от метода, используемого для оценки параметров.

Тест на нормальность

Эмпирическое тестирование показало ^[5] , что тест Андерсона–Дарлинга не так хорош, как тест Шапиро–Уилка , но лучше других тестов. Стивенс ^[1] обнаружил , что это одна из лучших статистик эмпирической функции распределения для обнаружения большинства отклонений от нормальности. ${\displaystyle A^{2}}$

Расчеты различаются в зависимости от того, что известно о распределении: ^[6]

• Случай 0: известны и среднее значение , и дисперсия . ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}}$
• Случай 1: Дисперсия известна, но среднее значение неизвестно. ${\displaystyle \sigma ^{2}}$ ${\displaystyle \mu }$
• Случай 2: Среднее значение известно, но дисперсия неизвестна. ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}}$
• Случай 3: И среднее значение , и дисперсия неизвестны. ${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}}$

Наблюдения n , , для , переменной должны быть отсортированы таким образом, что и обозначения в следующем предположении предполагают, что X _i представляет упорядоченные наблюдения. Пусть ${\displaystyle X_{i}}$ ${\displaystyle i=1,\ldots n}$ ${\displaystyle X}$ ${\displaystyle X_{1}\leq X_{2}\leq ...\leq X_{n}}$

${\displaystyle {\hat {\mu }}={\begin{cases}\mu ,&{\text{if the mean is known.}}\\{\bar {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i},&{\text{otherwise.}}\end{cases}}}$

${\displaystyle {\hat {\sigma }}^{2}={\begin{cases}\sigma ^{2},&{\text{if the variance is known.}}\\{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2},&{\text{if the variance is not known, but the mean is.}}\\{\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2},&{\text{otherwise.}}\end{cases}}}$

Значения стандартизируются для создания новых значений , заданных ${\displaystyle X_{i}}$ ${\displaystyle Y_{i}}$

${\displaystyle Y_{i}={\frac {X_{i}-{\hat {\mu }}}{\hat {\sigma }}}.}$

При использовании стандартного нормального CDF рассчитывается с использованием ${\displaystyle \Phi }$ ${\displaystyle A^{2}}$

${\displaystyle A^{2}=-n-{\frac {1}{n}}\sum _{i=1}^{n}(2i-1)(\ln \Phi (Y_{i})+\ln(1-\Phi (Y_{n+1-i}))).}$

Альтернативное выражение, в котором на каждом этапе суммирования рассматривается только одно наблюдение, имеет вид:

${\displaystyle A^{2}=-n-{\frac {1}{n}}\sum _{i=1}^{n}\left[(2i-1)\ln \Phi (Y_{i})+(2(n-i)+1)\ln(1-\Phi (Y_{i}))\right].}$

Модифицированную статистику можно рассчитать с помощью

${\displaystyle A^{*2}={\begin{cases}A^{2}\left(1+{\frac {4}{n}}-{\frac {25}{n^{2}}}\right),&{\text{if the variance and the mean are both unknown.}}\\A^{2},&{\text{otherwise.}}\end{cases}}}$

Если или превышает заданное критическое значение, то гипотеза о нормальности отвергается с некоторым уровнем значимости. Критические значения приведены в таблице ниже для значений . ^{[1] [7]} ${\displaystyle A^{2}}$ ${\displaystyle A^{*2}}$ ${\displaystyle A^{*2}}$

Примечание 1: Если = 0 или любое (0 или 1), то не может быть вычислено и не определено. ${\displaystyle {\hat {\sigma }}}$ ${\displaystyle \Phi (Y_{i})=}$ ${\displaystyle A^{2}}$

Примечание 2: Приведенная выше формула корректировки взята из Shorack & Wellner (1986, стр. 239). Необходимо соблюдать осторожность при сравнении различных источников, поскольку часто конкретная формула корректировки не указывается.

Примечание 3: Стивенс ^[1] отмечает, что тест становится лучше, когда параметры вычисляются на основе данных, даже если они известны.

Примечание 4: Марсалья и Марсалья ^[7] дают более точный результат для случая 0 — 85% и 99%.

В качестве альтернативы для случая 3 выше (и среднее, и дисперсия неизвестны), Д'Агостино (1986) ^[6] в Таблице 4.7 на стр. 123 и на страницах 372–373 приводит скорректированную статистику:

${\displaystyle A^{*2}=A^{2}\left(1+{\frac {0.75}{n}}+{\frac {2.25}{n^{2}}}\right).}$

и нормальность отклоняется, если превышает 0,631, 0,754, 0,884, 1,047 или 1,159 при уровнях значимости 10%, 5%, 2,5%, 1% и 0,5% соответственно; процедура действительна для размера выборки не менее n=8. Формулы для вычисления p -значений для других значений приведены в таблице 4.9 на стр. 127 той же книги. ${\displaystyle A^{*2}}$ ${\displaystyle A^{*2}}$

Тесты для других дистрибутивов

Выше предполагалось, что переменная проверяется на нормальное распределение. Любое другое семейство распределений может быть проверено, но тест для каждого семейства реализуется с использованием другой модификации базовой тестовой статистики, и это относится к критическим значениям, специфичным для этого семейства распределений. Модификации статистики и таблицы критических значений приведены Стивенсом (1986) ^[2] для экспоненциального, экстремального значений, Вейбулла, гамма, логистического, Коши и фон Мизеса. Тесты для (двухпараметрического) логнормального распределения могут быть реализованы путем преобразования данных с использованием логарифма и использования вышеуказанного теста на нормальность. Подробная информация о требуемых модификациях тестовой статистики и критических значениях для нормального распределения и экспоненциального распределения была опубликована Пирсоном и Хартли (1972, таблица 54). Подробности для этих распределений, с добавлением распределения Гумбеля , также приведены Shorack & Wellner (1986, стр. 239). Подробности для логистического распределения приведены Stephens (1979). Тест для (двухпараметрического) распределения Вейбулла может быть получен с использованием того факта, что логарифм переменной Вейбулла имеет распределение Гумбеля . ${\displaystyle X_{i}}$

Непараметрическийк-примерные тесты

Фриц Шольц и Майкл А. Стивенс (1987) обсуждают тест, основанный на мере согласия между распределениями Андерсона–Дарлинга, для того, могли ли несколько случайных выборок с возможно разными размерами выборки возникнуть из одного и того же распределения, где это распределение не указано. ^[8] Пакет R kSamples и пакет Python Scipy реализуют этот ранговый тест для сравнения k выборок среди нескольких других подобных ранговых тестов. ^{[9] [10]}

Для выборок статистику можно вычислить следующим образом, предполагая, что функция распределения -й выборки непрерывна ${\displaystyle k}$ ${\displaystyle F_{i}}$ ${\displaystyle i}$

${\displaystyle A_{kN}^{2}={\frac {1}{N}}\sum _{i=1}^{k}{\frac {1}{n_{i}}}\sum _{j=1}^{N-1}{\frac {(NM_{ij}-jn_{i})^{2}}{j(N-j)}}}$

где

• ${\displaystyle n_{i}}$- число наблюдений в -й выборке ${\displaystyle i}$
• ${\displaystyle N}$общее количество наблюдений во всех выборках
• ${\displaystyle Z_{1}<\cdots <Z_{N}}$это объединенная упорядоченная выборка
• ${\displaystyle M_{ij}}$— это число наблюдений в -й выборке, которые не превышают . ^[8] ${\displaystyle i}$ ${\displaystyle Z_{j}}$

Смотрите также

• Тест Колмогорова-Смирнова
• тест Койпера
• Тест Шапиро-Уилка
• Тест Харке-Бера
• Качество соответствия

Ссылки

1. Stephens, MA (1974). "Статистика EDF для качества соответствия и некоторых сравнений". Журнал Американской статистической ассоциации . 69 (347): 730–737. doi :10.2307/2286009. JSTOR  2286009.
2. MA Stephens (1986). "Тесты, основанные на статистике EDF". В D'Agostino, RB; Stephens, MA (ред.). Методы проверки соответствия . Нью-Йорк: Marcel Dekker. ISBN 0-8247-7487-6.
3. Андерсон, TW ; Дарлинг, DA (1952). «Асимптотическая теория некоторых критериев «доброты соответствия», основанных на стохастических процессах». Annals of Mathematical Statistics . 23 (2): 193–212. doi : 10.1214/aoms/1177729437 .
4. Андерсон, TW; Дарлинг, DA (1954). «Тест на соответствие». Журнал Американской статистической ассоциации . 49 (268): 765–769. doi :10.2307/2281537. JSTOR  2281537.
5. Разали, Норнадиа; Вах, Яп Би (2011). «Сравнение мощностей тестов Шапиро–Уилка, Колмогорова–Смирнова, Лиллиефорса и Андерсона–Дарлинга». Журнал статистического моделирования и аналитики . 2 (1): 21–33.
6. Ralph B. D'Agostino (1986). "Тесты для нормального распределения". В D'Agostino, RB; Stephens, MA (ред.). Методы проверки соответствия . Нью-Йорк: Marcel Dekker. ISBN 0-8247-7487-6.
7. Marsaglia, G. (2004). «Оценка распределения Андерсона-Дарлинга». Журнал статистического программного обеспечения . 9 (2): 730–737. CiteSeerX 10.1.1.686.1363 . doi : 10.18637/jss.v009.i02 . 
8. Scholz, FW; Stephens, MA (1987). "K-sample Anderson–Darling Tests". Журнал Американской статистической ассоциации . 82 (399): 918–924. doi :10.1080/01621459.1987.10478517.
9. "kSamples: Тесты рангов K-выборки и их комбинации". Проект R.
10. "Тест Андерсона-Дарлинга для k-выборок. Пакет Scipy".

Дальнейшее чтение

• Кордер, Г. В., Форман, Д. И. (2009). Непараметрическая статистика для нестатистиков: пошаговый подход Wiley, ISBN 978-0-470-45461-9 
• Мехта, С. (2014) Статистические темы ISBN 978-1499273533 
• Пирсон ES, Хартли HO (редакторы) (1972) Таблицы биометрики для статистиков , том II. CUP. ISBN 0-521-06937-8 . 
• Шапиро, С.С. (1980) Как проверить нормальность и другие предположения о распределении. В: Основные ссылки ASQC по контролю качества: статистические методы 3, стр. 1–78.
• Шорак, Г. Р. , Уэлнер, Дж. А. (1986) Эмпирические процессы и их применение в статистике , Wiley. ISBN 0-471-86725-X . 
• Стивенс, М.А. (1979) Тест соответствия для логистического распределения на основе эмпирической функции распределения , Biometrika, 66(3), 591–5.

Внешние ссылки

• Справочник по статистике Национального института стандартов и технологий США