Обратное распределение Гаусса

Семейство непрерывных распределений вероятностей

В теории вероятностей обратное гауссовское распределение (также известное как распределение Вальда ) представляет собой двухпараметрическое семейство непрерывных распределений вероятностей с носителем на (0,∞).

Его функция плотности вероятности определяется выражением

${\displaystyle f(x;\mu ,\lambda )={\sqrt {\frac {\lambda }{2\pi x^{3}}}}\exp {\biggl (}-{\frac {\lambda (x-\mu )^{2}}{2\mu ^{2}x}}{\biggr )}}$

для x > 0, где — среднее значение, а — параметр формы. ^[1] ${\displaystyle \mu >0}$ ${\displaystyle \lambda >0}$

Обратное гауссово распределение имеет несколько свойств, аналогичных гауссовскому распределению. Название может ввести в заблуждение: оно является «обратным» только в том смысле, что, в то время как гауссово распределение описывает уровень броуновского движения в фиксированное время, обратная гауссовская функция описывает распределение времени, которое требуется броуновскому движению с положительным дрейфом для достижения фиксированного положительного уровня.

Ее кумулянтная производящая функция (логарифм характеристической функции) ^{[ противоречиво ]} является обратной кумулянтной производящей функцией гауссовой случайной величины.

Чтобы указать, что случайная величина X распределена обратно по Гауссу со средним значением μ и параметром формы λ, мы записываем . ${\displaystyle X\sim \operatorname {IG} (\mu ,\lambda )\,\!}$

Характеристики

Форма с одним параметром

Функция плотности вероятности (pdf) обратного гауссовского распределения имеет однопараметрическую форму, заданную формулой

${\displaystyle f(x;\mu ,\mu ^{2})={\frac {\mu }{\sqrt {2\pi x^{3}}}}\exp {\biggl (}-{\frac {(x-\mu )^{2}}{2x}}{\biggr )}.}$

В этой форме среднее значение и дисперсия распределения равны, ${\displaystyle \mathbb {E} [X]={\text{Var}}(X).}$

Кроме того, кумулятивная функция распределения (cdf) однопараметрического обратного гауссовского распределения связана со стандартным нормальным распределением соотношением

${\displaystyle {\begin{aligned}\Pr(X<x)&=\Phi (-z_{1})+e^{2\mu }\Phi (-z_{2}),\end{aligned}}}$

где , а - cdf стандартного нормального распределения. Переменные и связаны друг с другом тождеством ${\displaystyle z_{1}={\frac {\mu }{x^{1/2}}}-x^{1/2}}$ ${\displaystyle z_{2}={\frac {\mu }{x^{1/2}}}+x^{1/2},}$ ${\displaystyle \Phi }$ ${\displaystyle z_{1}}$ ${\displaystyle z_{2}}$ ${\displaystyle z_{2}^{2}=z_{1}^{2}+4\mu .}$

В однопараметрической форме MGF упрощается до

${\displaystyle M(t)=\exp[\mu (1-{\sqrt {1-2t}})].}$

Обратное гауссово распределение в двухпараметрической форме может быть преобразовано в однопараметрическую форму путем соответствующего масштабирования , где ${\displaystyle f(x;\mu ,\lambda )}$ ${\displaystyle f(y;\mu _{0},\mu _{0}^{2})}$ ${\displaystyle y={\frac {\mu ^{2}x}{\lambda }},}$ ${\displaystyle \mu _{0}=\mu ^{3}/\lambda .}$

Стандартная форма обратного гауссовского распределения:

${\displaystyle f(x;1,1)={\frac {1}{\sqrt {2\pi x^{3}}}}\exp {\biggl (}-{\frac {(x-1)^{2}}{2x}}{\biggr )}.}$

Суммирование

Если X _i имеет распределение для i = 1, 2  , ...,  n и все X _i независимы , то ${\displaystyle \operatorname {IG} (\mu _{0}w_{i},\lambda _{0}w_{i}^{2})\,\!}$

${\displaystyle S=\sum _{i=1}^{n}X_{i}\sim \operatorname {IG} \left(\mu _{0}\sum w_{i},\lambda _{0}\left(\sum w_{i}\right)^{2}\right).}$

Обратите внимание, что

${\displaystyle {\frac {\operatorname {Var} (X_{i})}{\operatorname {E} (X_{i})}}={\frac {\mu _{0}^{2}w_{i}^{2}}{\lambda _{0}w_{i}^{2}}}={\frac {\mu _{0}^{2}}{\lambda _{0}}}}$

является постоянным для всех i . Это необходимое условие для суммирования. В противном случае S не было бы распределено обратно гауссовым образом.

Масштабирование

Для любого t > 0 справедливо следующее:

${\displaystyle X\sim \operatorname {IG} (\mu ,\lambda )\,\,\,\,\,\,\Rightarrow \,\,\,\,\,\,tX\sim \operatorname {IG} (t\mu ,t\lambda ).}$

Экспоненциальная семья

Обратное гауссово распределение представляет собой двухпараметрическое экспоненциальное семейство с натуральными параметрами − λ /(2 μ ² ) и − λ /2, а также натуральными статистиками X и 1/ X .

Для фиксированного значения это также однопараметрическое естественное экспоненциальное распределение семейства ^[2], где базовое распределение имеет плотность ${\displaystyle \lambda >0}$

${\displaystyle h(x)={\sqrt {\frac {\lambda }{2\pi x^{3}}}}\exp \left(-{\frac {\lambda }{2x}}\right)\mathbb {1} _{[0,\infty )}(x)\,.}$

Действительно, с , ${\displaystyle \theta \leq 0}$

${\displaystyle p(x;\theta )={\frac {\exp(\theta x)h(x)}{\int \exp(\theta y)h(y)dy}}}$

это плотность по действительным числам. Оценивая интеграл, получаем

${\displaystyle p(x;\theta )={\sqrt {\frac {\lambda }{2\pi x^{3}}}}\exp \left(-{\frac {\lambda }{2x}}+\theta x-{\sqrt {-2\lambda \theta }}\right)\mathbb {1} _{[0,\infty )}(x)\,.}$

Подстановка делает приведенное выше выражение равным . ${\displaystyle \theta =-\lambda /(2\mu ^{2})}$ ${\displaystyle f(x;\mu ,\lambda )}$

Связь с броуновским движением

Пример остановленных случайных блужданий с . Верхний рисунок показывает гистограмму времени ожидания вместе с прогнозом согласно обратному гауссовскому распределению. Нижний рисунок показывает траектории. ${\displaystyle \alpha =1,\nu =0.1,\sigma =0.2}$

Пусть стохастический процесс X _t задается выражением

${\displaystyle X_{0}=0\quad }$

${\displaystyle X_{t}=\nu t+\sigma W_{t}\quad \quad \quad \quad }$

где W _t — стандартное броуновское движение . То есть, X _t — броуновское движение с дрейфом . ${\displaystyle \nu >0}$

Тогда время первого прохождения фиксированного уровня X t распределяется по обратному гауссовскому закону _: ${\displaystyle \alpha >0}$

${\displaystyle T_{\alpha }=\inf\{t>0\mid X_{t}=\alpha \}\sim \operatorname {IG} \left({\frac {\alpha }{\nu }},\left({\frac {\alpha }{\sigma }}\right)^{2}\right)={\frac {\alpha }{\sigma {\sqrt {2\pi x^{3}}}}}\exp {\biggl (}-{\frac {(\alpha -\nu x)^{2}}{2\sigma ^{2}x}}{\biggr )}}$

то есть

${\displaystyle P(T_{\alpha }\in (T,T+dT))={\frac {\alpha }{\sigma {\sqrt {2\pi T^{3}}}}}\exp {\biggl (}-{\frac {(\alpha -\nu T)^{2}}{2\sigma ^{2}T}}{\biggr )}dT}$

(ср. Шредингер ^[3], уравнение 19, Смолуховский ^[4] , уравнение 8, и Фолкс ^[5] , уравнение 1).

Когда дрейф равен нулю

Обычный частный случай вышеизложенного возникает, когда броуновское движение не имеет дрейфа. В этом случае параметр μ стремится к бесконечности, а время первого прохождения для фиксированного уровня α имеет функцию плотности вероятности

${\displaystyle f\left(x;0,\left({\frac {\alpha }{\sigma }}\right)^{2}\right)={\frac {\alpha }{\sigma {\sqrt {2\pi x^{3}}}}}\exp \left(-{\frac {\alpha ^{2}}{2\sigma ^{2}x}}\right)}$

(см. также Башелье ^{[6] : 74  [7] : 39} ). Это распределение Леви с параметрами и . ${\displaystyle c=\left({\frac {\alpha }{\sigma }}\right)^{2}}$ ${\displaystyle \mu =0}$

Максимальная вероятность

Модель, где

${\displaystyle X_{i}\sim \operatorname {IG} (\mu ,\lambda w_{i}),\,\,\,\,\,\,i=1,2,\ldots ,n}$

при всех известных w _i , неизвестных ( μ ,  λ ) и независимых X _i имеет следующую функцию правдоподобия

${\displaystyle L(\mu ,\lambda )=\left({\frac {\lambda }{2\pi }}\right)^{\frac {n}{2}}\left(\prod _{i=1}^{n}{\frac {w_{i}}{X_{i}^{3}}}\right)^{\frac {1}{2}}\exp \left({\frac {\lambda }{\mu }}\sum _{i=1}^{n}w_{i}-{\frac {\lambda }{2\mu ^{2}}}\sum _{i=1}^{n}w_{i}X_{i}-{\frac {\lambda }{2}}\sum _{i=1}^{n}w_{i}{\frac {1}{X_{i}}}\right).}$

Решение уравнения правдоподобия дает следующие оценки максимального правдоподобия:

${\displaystyle {\widehat {\mu }}={\frac {\sum _{i=1}^{n}w_{i}X_{i}}{\sum _{i=1}^{n}w_{i}}},\,\,\,\,\,\,\,\,{\frac {1}{\widehat {\lambda }}}={\frac {1}{n}}\sum _{i=1}^{n}w_{i}\left({\frac {1}{X_{i}}}-{\frac {1}{\widehat {\mu }}}\right).}$

${\displaystyle {\widehat {\mu }}}$и являются независимыми и ${\displaystyle {\widehat {\lambda }}}$

${\displaystyle {\widehat {\mu }}\sim \operatorname {IG} \left(\mu ,\lambda \sum _{i=1}^{n}w_{i}\right),\qquad {\frac {n}{\widehat {\lambda }}}\sim {\frac {1}{\lambda }}\chi _{n-1}^{2}.}$

Выборка из обратного гауссовского распределения

Можно использовать следующий алгоритм. ^[8]

Сгенерировать случайную величину из нормального распределения со средним значением 0 и стандартным отклонением, равным 1

${\displaystyle \displaystyle \nu \sim N(0,1).}$

Возведите значение в квадрат

${\displaystyle \displaystyle y=\nu ^{2}}$

и используем соотношение

${\displaystyle x=\mu +{\frac {\mu ^{2}y}{2\lambda }}-{\frac {\mu }{2\lambda }}{\sqrt {4\mu \lambda y+\mu ^{2}y^{2}}}.}$

Сгенерировать еще одну случайную переменную, на этот раз выбранную из равномерного распределения от 0 до 1.

${\displaystyle \displaystyle z\sim U(0,1).}$

Если тогда вернуть иначе вернуть ${\displaystyle z\leq {\frac {\mu }{\mu +x}}}$ ${\displaystyle \displaystyle x}$ ${\displaystyle {\frac {\mu ^{2}}{x}}.}$

Пример кода на Java :

public double inverseGaussian ( double mu , double lambda ) { Random rand = new Random (); double v = rand . nextGaussian (); // Выборка из нормального распределения со средним значением 0 и стандартным отклонением 1 double y = v * v ; double x = mu + ( mu * mu * y ) / ( 2 * lambda ) - ( mu / ( 2 * lambda )) * Math . sqrt ( 4 * mu * lambda * y + mu * mu * y * y ); double test = rand . nextDouble (); // Выборка из равномерного распределения между 0 и 1 if ( test <= ( mu ) / ( mu + x )) return x ; else return ( mu * mu ) / x ; }                                                                                

Распределение Вальда с использованием Python с помощью matplotlib и NumPy

А чтобы построить распределение Вальда на Python, воспользуемся matplotlib и NumPy :

импортировать  matplotlib.pyplot  как  plt импортировать  numpy  как  nph  =  plt.history ( np.random.wald ( 3,2,100000 ) , bins = 200 , density = True )​​​​​​​​​    plt . показать ()

Связанные дистрибутивы

• Если , то для любого числа ^[1] ${\displaystyle X\sim \operatorname {IG} (\mu ,\lambda )}$ ${\displaystyle kX\sim \operatorname {IG} (k\mu ,k\lambda )}$ ${\displaystyle k>0.}$
• Если тогда ${\displaystyle X_{i}\sim \operatorname {IG} (\mu ,\lambda )\,}$ ${\displaystyle \sum _{i=1}^{n}X_{i}\sim \operatorname {IG} (n\mu ,n^{2}\lambda )\,}$
• Если для тогда ${\displaystyle X_{i}\sim \operatorname {IG} (\mu ,\lambda )\,}$ ${\displaystyle i=1,\ldots ,n\,}$ ${\displaystyle {\bar {X}}\sim \operatorname {IG} (\mu ,n\lambda )\,}$
• Если тогда ${\displaystyle X_{i}\sim \operatorname {IG} (\mu _{i},2\mu _{i}^{2})\,}$ ${\displaystyle \sum _{i=1}^{n}X_{i}\sim \operatorname {IG} \left(\sum _{i=1}^{n}\mu _{i},2\left(\sum _{i=1}^{n}\mu _{i}\right)^{2}\right)\,}$
• Если , то . ^[9] ${\displaystyle X\sim \operatorname {IG} (\mu ,\lambda )}$ ${\displaystyle \lambda (X-\mu )^{2}/\mu ^{2}X\sim \chi ^{2}(1)}$

Свертка обратного гауссовского распределения (распределение Вальда) и экспоненциального (экс-распределение Вальда) используется в качестве модели для времени реакции в психологии ^[10] , одним из примеров является визуальный поиск. ^[11]

История

Это распределение, по-видимому, было впервые выведено в 1900 году Луи Башелье ^{[6] [7]} как время, когда акция впервые достигает определенной цены. В 1915 году его независимо использовали Эрвин Шредингер ^[3] и Мариан фон Смолуховский ^[4] как время до первого прохождения броуновского движения. В области моделирования воспроизводства оно известно как функция Хадвигера, в честь Хьюго Хадвигера , который описал его в 1940 году. ^[12] Авраам Вальд повторно вывел это распределение в 1944 году ^[13] как предельную форму выборки в последовательном тесте отношения вероятностей. Название обратное гауссово было предложено Морисом Твиди в 1945 году . ^[14] Твиди исследовал это распределение в 1956 ^[15] и 1957 годах ^{[16] [17]} и установил некоторые его статистические свойства. Распределение было тщательно рассмотрено Фолксом и Чхикарой в 1978 году. ^[5]

Оцененное обратное гауссовское распределение

Предполагая, что временные интервалы между появлениями случайного явления следуют обратному гауссовскому распределению, распределение вероятностей для числа появлений этого события в течение указанного временного окна называется номинальным обратным гауссовым . ^[18] В то время как первый и второй моменты этого распределения вычисляются, вывод функции генерации моментов остается открытой проблемой.

Численные вычисления и программное обеспечение

Несмотря на простую формулу для функции плотности вероятности, численные вычисления вероятности для обратного гауссовского распределения тем не менее требуют особой осторожности для достижения полной машинной точности в арифметике с плавающей точкой для всех значений параметров. ^[19] Функции для обратного гауссовского распределения предоставляются для языка программирования R несколькими пакетами, включая rmutil, ^{[20] [21]} SuppDists, ^[22] STAR, ^[23] invGauss, ^[24] LaplacesDemon, ^[25] и statmod. ^[26]

Смотрите также

• Обобщенное обратное гауссовское распределение
• Распределения Твиди — обратное гауссовское распределение является членом семейства моделей экспоненциальной дисперсии Твиди.
• Остановка времени

Ссылки

1. Chhikara, Raj S.; Folks, J. Leroy (1989), Обратное гауссовское распределение: теория, методология и приложения , Нью-Йорк, США: Marcel Dekker, Inc, ISBN 0-8247-7997-5
2. Сешадри, В. (1999), Обратное гауссовское распределение , Springer-Verlag, ISBN 978-0-387-98618-0
3. Шредингер, Эрвин (1915), «Zur Theorie der Fall- und Steigversuche an Teilchen mit Brownscher Bewegung» [О теории экспериментов по падению и подъему частиц с броуновским движением], Physikalische Zeitschrift (на немецком языке), 16 (16) ): 289–295
4. Smoluchowski, Мариан (1915), «Notiz über die Berechnung der Brownschen Molekularbewegung bei der Ehrenhaft-Millikanschen Versuchsanordnung» [Заметка о расчете броуновского молекулярного движения в экспериментальной установке Эренхафта-Милликана], Physikalische Zeitschrift (на немецком языке) , 16 (17/18): 318–321
5. Folks, J. Leroy; Chhikara, Raj S. (1978), "Обратное гауссовское распределение и его статистическое применение — обзор", Журнал Королевского статистического общества , Серия B (Методическая), 40 (3): 263–275, doi :10.1111/j.2517-6161.1978.tb01039.x, JSTOR  2984691, S2CID  125337421
6. Башелье, Луи (1900), «Теория спекуляций» [Теория спекуляций] (PDF) , Ann. наук. Эк. Норм. Супер. (на французском языке), Серия 3, 17: 21–89, doi : 10.24033/asens.476
7. Bachelier, Louis (1900), "The Theory of Speculation", Ann. Sci. Éc. Norm. Supér. , Serie 3, 17: 21–89 (перевод на английский язык Дэвида Р. Мэя, 2011), doi : 10.24033/asens.476
8. Майкл, Джон Р.; Шукани, Уильям Р.; Хаас, Рой В. (1976), «Генерация случайных величин с использованием преобразований с несколькими корнями», The American Statistician , 30 (2): 88–90, doi :10.1080/00031305.1976.10479147, JSTOR  2683801
9. Шустер, Дж. (1968). «Об обратной функции распределения Гаусса». Журнал Американской статистической ассоциации . 63 (4): 1514–1516. doi :10.1080/01621459.1968.10480942.
10. Шварц, Вольфганг (2001), «Распределение ex-Wald как описательная модель времени реакции», Методы исследования поведения, приборы и компьютеры , 33 (4): 457–469, doi : 10.3758/bf03195403 , PMID  11816448
11. Палмер, Э.М.; Горовиц, Т.С.; Торральба, А.; Вулф, Дж.М. (2011). «Каковы формы распределений времени ответа при визуальном поиске?». Журнал экспериментальной психологии: восприятие и производительность человека . 37 (1): 58–71. doi :10.1037/a0020747. PMC 3062635. PMID  21090905 . 
12. Хадвигер, Х. (1940). «Аналитическая функция воспроизводства для биологических знаний». Скандинавский Актуариетидскрайт . 7 (3–4): 101–113. дои : 10.1080/03461238.1940.10404802.
13. Вальд, Абрахам (1944), «О кумулятивных суммах случайных величин», Annals of Mathematical Statistics , 15 (3): 283–296, doi : 10.1214/aoms/1177731235 , JSTOR  2236250
14. Tweedie, MCK (1945). "Обратные статистические переменные". Nature . 155 (3937): 453. Bibcode :1945Natur.155..453T. doi : 10.1038/155453a0 . S2CID  4113244.
15. Tweedie, MCK (1956). «Некоторые статистические свойства обратных гауссовых распределений». Virginia Journal of Science . Новая серия. 7 (3): 160–165.
16. Tweedie, MCK (1957). "Статистические свойства обратных гауссовых распределений I". Annals of Mathematical Statistics . 28 (2): 362–377. doi : 10.1214/aoms/1177706964 . JSTOR  2237158.
17. Tweedie, MCK (1957). "Статистические свойства обратных гауссовых распределений II". Annals of Mathematical Statistics . 28 (3): 696–705. doi : 10.1214/aoms/1177706881 . JSTOR  2237229.
18. Мощность на единицу затрат, достигающая входного распределения номинального обратного гауссовского биологического нейрона M Nasiraee, HM Kordy, J Kazemitabar IEEE Transactions on Communications 70 (6), 3788-3803
19. Гинер, Гёкнур; Смит, Гордон (август 2016 г.). "statmod: Расчеты вероятностей для обратного гауссовского распределения". The R Journal . 8 (1): 339–351. arXiv : 1603.06687 . doi : 10.32614/RJ-2016-024 .
20. Линдси, Джеймс (09.09.2013). «rmutil: Утилиты для нелинейной регрессии и моделей повторных измерений».
21. Суихарт, Брюс; Линдси, Джеймс (2019-03-04). «rmutil: Утилиты для нелинейной регрессии и моделей повторных измерений».
22. Уиллер, Роберт (23.09.2016). «SuppDists: Дополнительные дистрибутивы».
23. Пуза, Кристоф (2015-02-19). «STAR: Анализ последовательности скачков с R».
24. Gjessing, Hakon K. (2014-03-29). «Пороговая регрессия, которая соответствует (рандомизированному дрейфу) обратному гауссовскому распределению для данных о выживании».
25. Холл, Байрон; Холл, Мартина; Statisticat, LLC; Браун, Эрик; Хермансон, Ричард; Шарпантье, Эммануэль; Хек, Дэниел; Лоран, Стефан; Гронау, Квентин Ф.; Сингманн, Хенрик (29.03.2014). «LaplacesDemon: Полная среда для байесовского вывода».
26. Гинер, Гёкнур; Смит, Гордон (18.06.2017). «statmod: Статистическое моделирование».

Дальнейшее чтение

• Хёйланд, Арнльот ; Раусанд, Марвин (1994). Теория надежности систем . Нью-Йорк: Wiley. ISBN 978-0-471-59397-3.
• Сешадри, В. (1993). Обратное гауссовское распределение . Oxford University Press. ISBN 978-0-19-852243-0.

Внешние ссылки

• Обратное распределение Гаусса на сайте Wolfram.