Асимптотическая теория (статистика)

В статистике асимптотическая теория или теория большой выборки является основой для оценки свойств оценщиков и статистических тестов . В рамках этой концепции часто предполагается, что размер выборки $n$ может расти бесконечно; затем свойства оценок и тестов оцениваются в пределе $n \to \infty$ . На практике оценка пределов считается приблизительно справедливой и для больших выборок конечного размера. ^[1]

Обзор

Большинство статистических проблем начинаются с набора данных размера $n$ . Асимптотическая теория исходит из предположения, что можно (в принципе) продолжать сбор дополнительных данных, при этом размер выборки растет бесконечно, т. е. $n \to \infty$ . В этом предположении можно получить многие результаты, недоступные для выборок конечного размера. Примером может служить слабый закон больших чисел . Закон гласит, что для последовательности независимых и одинаково распределенных (IID) случайных величин $X 1, X 2, ...$ , если из каждой случайной величины извлекается одно значение и среднее из первых $n$ значений вычисляется как $X n$ , тогда $X n$ сходятся по вероятности к среднему значению генеральной совокупности $E[X i]$ при $n \to \infty$ . ^[2]

В асимптотической теории стандартный подход — $n \to \infty$ . Для некоторых статистических моделей могут использоваться несколько иные подходы к асимптотике. Например, для панельных данных обычно предполагается, что одно измерение в данных остается фиксированным, тогда как другое измерение растет: $T = константа$ и $N \to \infty$ , или наоборот. ^[2]

Помимо стандартного подхода к асимптотике, существуют и другие альтернативные подходы:

В рамках локальной асимптотической нормальности предполагается, что значение «истинного параметра» в модели слегка меняется в зависимости от $n$ , так что $n$ -я модель соответствует $θ$ $n$ $=$ $θ$ $+$ $h$ $/$ $\sqrt$ $n$ . Этот подход позволяет изучать регулярность оценок .
Когда статистические тесты изучаются на предмет их способности различать альтернативы, близкие к нулевой гипотезе, это делается в рамках так называемых «локальных альтернатив»: нулевая гипотеза равна $H 0 : θ = θ 0$ , а альтернатива — $ЧАС 1 : θ знак равно θ 0 + час / \sqrt п$ . Этот подход особенно популярен для тестов модульного корня .
Существуют модели, в которых размерность пространства параметров $Θ n$ медленно расширяется с увеличением $n$ , что отражает тот факт, что чем больше наблюдений, тем больше структурных эффектов может быть реально включено в модель.
В оценке плотности ядра и регрессии ядра предполагается дополнительный параметр — полоса пропускания $h$ . В этих моделях обычно считается, что $h \to 0$ при $n \to \infty$ . Однако скорость сходимости следует выбирать осторожно, обычно $h \propto n -1/5$ .

Во многих случаях высокоточные результаты для конечных выборок можно получить с помощью численных методов (т. е. компьютеров); Однако даже в таких случаях асимптотический анализ может оказаться полезным. Эту точку зрения высказал Смолл (2010, §1.4) следующим образом.

Основная цель асимптотического анализа — получить более глубокое качественное понимание количественных инструментов. Выводы асимптотического анализа часто дополняют выводы, которые можно получить численными методами.

Режимы сходимости случайных величин

Асимптотические свойства

Оценщики

Последовательность

Последовательность оценок называется состоятельной , если она сходится по вероятности к истинному значению оцениваемого параметра:

{\hat {\theta }}_{n}\ {\xrightarrow {\overset {}{p}}}\ \theta _{0}.

То есть, грубо говоря, при бесконечном объеме данных оценщик (формула для формирования оценок) почти наверняка даст правильный результат для оцениваемого параметра. ^[2]

Асимптотическое распределение

Если можно найти последовательности неслучайных констант ${a n$ }, ${b n$ } (возможно, в зависимости от значения $θ 0$ ) и невырожденное распределение $G$ такое, что

b_{n}({\hat {\theta }}_{n}-a_{n})\ {\xrightarrow {d}}\ G,

тогда говорят, что последовательность оценок имеет асимптотическое распределение G . $\textstyle {\hat {\theta }}_{n}$

Чаще всего встречающиеся на практике оценки являются $асимптотически$ нормальными , то есть их асимптотическое распределение является нормальным распределением с $a n = θ 0$ , $bn = \sqrt n$ и $G = N (0, V)$ :

{\sqrt {n}}({\hat {\theta }}_{n}-\theta _{0})\ {\xrightarrow {d}}\ {\mathcal {N}}(0, В).

Асимптотические доверительные области

Асимптотические теоремы

Смотрите также

Библиография

Балакришнан, Н.; Ибрагимов, ИАВБ; Невзоров В.Б. (ред.). (2001), Асимптотические методы в теории вероятностей и статистике с приложениями, Биркхойзер , ISBN 9781461202097
Боровков А.А. ; Боровков, К.А. (2010), Асимптотический анализ случайных блужданий, Cambridge University Press.
Булдыгин В.В.; Солнцев С. (1997), Асимптотическое поведение линейно преобразованных сумм случайных величин, Springer, ISBN 9789401155687
Ле Кам, Люсьен ; Ян, Грейс Ло (2000), Асимптотика в статистике (2-е изд.), Springer
Доусон, Д.; Кулик Р.; Оулд Хэй, М.; Шишкович, Б.; Чжао Ю., ред. (2015), Асимптотические законы и методы в стохастике , Springer-Verlag
Хёпфнер, Р. (2014), Асимптотическая статистика , Вальтер де Грюйтер
Линьков, Ю. Н. (2001), Асимптотические статистические методы для случайных процессов , Американское математическое общество.
Оливейра, PE (2012), Асимптотика связанных случайных величин , Springer
Петров В.В. (1995), Предельные теоремы теории вероятностей , Oxford University Press.
Сен, ПК; Сингер, Дж. М.; Педросо де Лима, AC (2009), От конечной выборки к асимптотическим методам в статистике , Cambridge University Press
Ширяев А.Н.; Спокойный, В.Г. (2000), Статистические эксперименты и решения: асимптотическая теория , World Scientific
Смолл, CG (2010), Разложения и асимптотики для статистики , Чепмен и Холл
ван дер Ваарт, AW (1998), Асимптотическая статистика , издательство Кембриджского университета