Обратное гамма-распределение

Двухпараметрическое семейство непрерывных распределений вероятностей

В теории вероятностей и статистике обратное гамма-распределение — это двухпараметрическое семейство непрерывных распределений вероятностей на положительной действительной прямой , представляющее собой распределение обратной величины переменной, распределенной в соответствии с гамма-распределением .

Возможно, основное применение обратного гамма-распределения — в байесовской статистике , где распределение возникает как маргинальное апостериорное распределение для неизвестной дисперсии нормального распределения , если используется неинформативное априорное распределение , и как аналитически трактуемое сопряженное априорное распределение , если требуется информативное априорное распределение. ^[1] Среди некоторых байесовцев принято рассматривать альтернативную параметризацию нормального распределения в терминах точности , определяемой как обратная величина дисперсии, что позволяет использовать гамма-распределение непосредственно в качестве сопряженного априорного распределения. Другие байесовцы предпочитают параметризовать обратное гамма-распределение иначе, как масштабированное обратное хи-квадрат распределение .

Характеристика

Функция плотности вероятности

Функция плотности вероятности обратного гамма-распределения определяется по опорному множеству ${\displaystyle x>0}$

${\displaystyle f(x;\alpha ,\beta )={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}(1/x)^{\alpha +1}\exp \left(-\beta /x\right)}$

с параметром формы и параметром масштаба . ^[2] Здесь обозначает гамма-функцию . ${\displaystyle \alpha }$ ${\displaystyle \beta }$ ${\displaystyle \Gamma (\cdot )}$

В отличие от гамма-распределения , которое содержит несколько похожий экспоненциальный член, является параметром масштаба, поскольку функция плотности удовлетворяет: ${\displaystyle \beta }$

${\displaystyle f(x;\alpha ,\beta )={\frac {f(x/\beta ;\alpha ,1)}{\beta }}}$

Кумулятивная функция распределения

Кумулятивная функция распределения — это регуляризованная гамма-функция

${\displaystyle F(x;\alpha ,\beta )={\frac {\Gamma \left(\alpha ,{\frac {\beta }{x}}\right)}{\Gamma (\alpha )}}=Q\left(\alpha ,{\frac {\beta }{x}}\right)\!}$

где числитель — верхняя неполная гамма-функция , а знаменатель — гамма-функция . Многие математические пакеты позволяют напрямую вычислять , регуляризованную гамма-функцию. ${\displaystyle Q}$

Моменты

При условии , что -й момент обратного гамма-распределения определяется выражением ^[3] ${\displaystyle \alpha >n}$ ${\displaystyle n}$

${\displaystyle \mathrm {E} [X^{n}]=\beta ^{n}{\frac {\Gamma (\alpha -n)}{\Gamma (\alpha )}}={\frac {\beta ^{n}}{(\alpha -1)\cdots (\alpha -n)}}.}$

Характерная функция

Обратное гамма-распределение имеет характеристическую функцию , где — модифицированная функция Бесселя 2-го рода. $${\displaystyle {\frac {2\left(-i\beta t\right)^{\!\!{\frac {\alpha }{2}}}}{\Gamma (\alpha )}}K_{\alpha }\left({\sqrt {-4i\beta t}}\right)}$$ ${\displaystyle K_{\alpha }}$

Характеристики

Для и , ${\displaystyle \alpha >0}$ ${\displaystyle \beta >0}$

${\displaystyle \mathbb {E} [\ln(X)]=\ln(\beta )-\psi (\alpha )\,}$

и

${\displaystyle \mathbb {E} [X^{-1}]={\frac {\alpha }{\beta }},\,}$

Информационная энтропия — это

${\displaystyle {\begin{aligned}\operatorname {H} (X)&=\operatorname {E} [-\ln(p(X))]\\&=\operatorname {E} \left[-\alpha \ln(\beta )+\ln(\Gamma (\alpha ))+(\alpha +1)\ln(X)+{\frac {\beta }{X}}\right]\\&=-\alpha \ln(\beta )+\ln(\Gamma (\alpha ))+(\alpha +1)\ln(\beta )-(\alpha +1)\psi (\alpha )+\alpha \\&=\alpha +\ln(\beta \Gamma (\alpha ))-(\alpha +1)\psi (\alpha ).\end{aligned}}}$

где - дигамма-функция . ${\displaystyle \psi (\alpha )}$

Расхождение Кульбака -Лейблера обратной гаммы( α _p , β _p ) от обратной гаммы ( α _q , β _q ) такое же, как КЛ-дивергенция гаммы ( α _p , β _p ) от гаммы ( α _q , β _q ):

${\displaystyle D_{\mathrm {KL} }(\alpha _{p},\beta _{p};\alpha _{q},\beta _{q})=\mathbb {E} \left[\log {\frac {\rho (X)}{\pi (X)}}\right]=\mathbb {E} \left[\log {\frac {\rho (1/Y)}{\pi (1/Y)}}\right]=\mathbb {E} \left[\log {\frac {\rho _{G}(Y)}{\pi _{G}(Y)}}\right],}$

где — плотности вероятности обратных гамма-распределений, — плотности вероятности гамма-распределений, — распределено ли гамма( α _p , β _p ). ${\displaystyle \rho ,\pi }$ ${\displaystyle \rho _{G},\pi _{G}}$ ${\displaystyle Y}$

${\displaystyle {\begin{aligned}D_{\mathrm {KL} }(\alpha _{p},\beta _{p};\alpha _{q},\beta _{q})={}&(\alpha _{p}-\alpha _{q})\psi (\alpha _{p})-\log \Gamma (\alpha _{p})+\log \Gamma (\alpha _{q})+\alpha _{q}(\log \beta _{p}-\log \beta _{q})+\alpha _{p}{\frac {\beta _{q}-\beta _{p}}{\beta _{p}}}.\end{aligned}}}$

Связанные дистрибутивы

• Если тогда , для ${\displaystyle X\sim {\mbox{Inv-Gamma}}(\alpha ,\beta )}$ ${\displaystyle kX\sim {\mbox{Inv-Gamma}}(\alpha ,k\beta )\,}$ ${\displaystyle k>0}$
• Если тогда ( обратное распределение хи-квадрат ) ${\displaystyle X\sim {\mbox{Inv-Gamma}}(\alpha ,{\tfrac {1}{2}})}$ ${\displaystyle X\sim {\mbox{Inv-}}\chi ^{2}(2\alpha )\,}$
• Если тогда ( масштабированное обратное распределение хи-квадрат ) ${\displaystyle X\sim {\mbox{Inv-Gamma}}({\tfrac {\alpha }{2}},{\tfrac {1}{2}})}$ ${\displaystyle X\sim {\mbox{Scaled Inv-}}\chi ^{2}(\alpha ,{\tfrac {1}{\alpha }})\,}$
• Если тогда ( распределение Леви ) ${\displaystyle X\sim {\textrm {Inv-Gamma}}({\tfrac {1}{2}},{\tfrac {c}{2}})}$ ${\displaystyle X\sim {\textrm {Levy}}(0,c)\,}$
• Если то ( Экспоненциальное распределение ) ${\displaystyle X\sim {\textrm {Inv-Gamma}}(1,c)}$ ${\displaystyle {\tfrac {1}{X}}\sim {\textrm {Exp}}(c)\,}$
• Если ( гамма-распределение с параметром скорости ), то (подробности см. в следующем параграфе) ${\displaystyle X\sim {\mbox{Gamma}}(\alpha ,\beta )\,}$ ${\displaystyle \beta }$ ${\displaystyle {\tfrac {1}{X}}\sim {\mbox{Inv-Gamma}}(\alpha ,\beta )\,}$
• Обратите внимание, что если (гамма-распределение с параметром масштаба ), то ${\displaystyle X\sim {\mbox{Gamma}}(k,\theta )}$ ${\displaystyle \theta }$ ${\displaystyle 1/X\sim {\mbox{Inv-Gamma}}(k,1/\theta )}$
• Обратное гамма-распределение является частным случаем распределения Пирсона типа 5.
• Многомерным обобщением обратного гамма-распределения является обратное распределение Уишарта .
• О распределении суммы независимых инвертированных гамма-переменных см. Witkovsky (2001)

Вывод из гамма-распределения

Пусть , и напомним, что плотность распределения гамма-излучения равна ${\displaystyle X\sim {\mbox{Gamma}}(\alpha ,\beta )}$

${\displaystyle f_{X}(x)={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}x^{\alpha -1}e^{-\beta x}}$, . ${\displaystyle x>0}$

Обратите внимание, что это параметр скорости с точки зрения гамма-распределения. ${\displaystyle \beta }$

Определим преобразование . Тогда pdf будет ${\displaystyle Y=g(X)={\tfrac {1}{X}}}$ ${\displaystyle Y}$

${\displaystyle {\begin{aligned}f_{Y}(y)&=f_{X}\left(g^{-1}(y)\right)\left|{\frac {d}{dy}}g^{-1}(y)\right|\\[6pt]&={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\left({\frac {1}{y}}\right)^{\alpha -1}\exp \left({\frac {-\beta }{y}}\right){\frac {1}{y^{2}}}\\[6pt]&={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\left({\frac {1}{y}}\right)^{\alpha +1}\exp \left({\frac {-\beta }{y}}\right)\\[6pt]&={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\left(y\right)^{-\alpha -1}\exp \left({\frac {-\beta }{y}}\right)\\[6pt]\end{aligned}}}$

Обратите внимание, что является параметром масштаба с точки зрения обратного гамма-распределения. Это можно наглядно продемонстрировать, увидев, что удовлетворяет условиям для того, чтобы быть параметром масштаба . ${\displaystyle {\beta }}$ ${\displaystyle {\beta }}$

${\displaystyle {\begin{aligned}{\frac {f(y/\beta ;\alpha ,1)}{\beta }}&={\frac {1}{\beta }}{\frac {1}{\Gamma (\alpha )}}\left({\frac {y}{\beta }}\right)^{-\alpha -1}\exp(-{\frac {1}{\frac {y}{\beta }}})\\[6pt]&={\frac {\beta ^{\alpha }}{\Gamma (\alpha )}}\left(y\right)^{-\alpha -1}\exp(-{\frac {\beta }{y}})\\[6pt]&=f(y;\alpha ,\beta )\end{aligned}}}$

Происшествие

• Распределение времени достижения винеровского процесса следует распределению Леви , которое является частным случаем обратного гамма-распределения с . ^[4] ${\displaystyle \alpha =0.5}$

Смотрите также

• Гамма-распределение
• Обратное распределение хи-квадрат
• Нормальное распределение
• распределение Пирсона

Ссылки

1. Хофф, П. (2009). «Нормальная модель». Первый курс по байесовским статистическим методам . Springer. С. 67–88. ISBN 978-0-387-92299-7.
2. "InverseGammaDistribution—Wolfram Language Documentation". reference.wolfram.com . Получено 9 апреля 2018 г. .
3. Джон Д. Кук (3 октября 2008 г.). "InverseGammaDistribution" (PDF) . Получено 3 декабря 2018 г.
4. Ludkovski, Mike (2007). "Math 526: Brownian Motion Notes" (PDF) . Калифорнийский университет в Санта-Барбаре. стр. 5–6. Архивировано из оригинала (PDF) 2022-01-26 . Получено 2021-04-13 .

• Витковский, В. (2001). «Вычисление распределения линейной комбинации инвертированных гамма-переменных». Kybernetika . 37 (1): 79–90. MR  1825758. Zbl  1263.62022.