Дирихле отрицательное мультиномиальное распределение

Вероятностное многомерное распределение

В теории вероятностей и статистике отрицательное мультиномиальное распределение Дирихле является многомерным распределением неотрицательных целых чисел. Это многомерное расширение бета -отрицательного биномиального распределения . Это также обобщение отрицательного мультиномиального распределения (NM( k ,  p )), допускающее неоднородность или сверхдисперсию в векторе вероятности. Оно используется в количественных маркетинговых исследованиях для гибкого моделирования числа транзакций домохозяйств по нескольким брендам.

Если параметры распределения Дирихле равны , и если ${\displaystyle {\boldsymbol {\alpha }}}$

${\displaystyle X\mid p\sim \operatorname {NM} (x_{0},\mathbf {p} ),}$

где

${\displaystyle \mathbf {p} \sim \operatorname {Dir} (\alpha _{0},{\boldsymbol {\alpha }}),}$

тогда предельное распределение X является отрицательным полиномиальным распределением Дирихле:

${\displaystyle X\sim \operatorname {DNM} (x_{0},\alpha _{0},{\boldsymbol {\alpha }}).}$

В приведенном выше примере — отрицательное полиномиальное распределение , а — распределение Дирихле . ${\displaystyle \operatorname {NM} (x_{0},\mathbf {p} )}$ ${\displaystyle \operatorname {Dir} (\alpha _{0},{\boldsymbol {\alpha }})}$

Мотивация

Отрицательный многочлен Дирихле как сложное распределение

Распределение Дирихле является сопряженным распределением отрицательному полиномиальному распределению. Этот факт приводит к аналитически трактуемому составному распределению . Для случайного вектора количества категорий , распределенного в соответствии с отрицательным полиномиальным распределением , составное распределение получается путем интегрирования по распределению для p , которое можно рассматривать как случайный вектор, следующий распределению Дирихле: ${\displaystyle \mathbf {x} =(x_{1},\dots ,x_{m})}$

${\displaystyle \Pr(\mathbf {x} \mid x_{0},\alpha _{0},{\boldsymbol {\alpha }})=\int _{\mathbf {p} }\mathrm {NegMult} (\mathbf {x} \mid x_{0},\mathbf {p} )\mathrm {Dir} (\mathbf {p} \mid \alpha _{0},{\boldsymbol {\alpha }}){\textrm {d}}\mathbf {p} }$

${\displaystyle \Pr(\mathbf {x} \mid x_{0},\alpha _{0},{\boldsymbol {\alpha }})={\frac {\Gamma \left(\sum _{i=0}^{m}{x_{i}}\right)}{\Gamma (x_{0})\prod _{i=1}^{m}x_{i}!}}{\frac {1}{\mathrm {B} ({\boldsymbol {\alpha }}_{+})}}\int _{\mathbf {p} }\prod _{i=0}^{m}p_{i}^{x_{i}+\alpha _{i}-1}{\textrm {d}}\mathbf {p} }$

что приводит к следующей формуле:

${\displaystyle \Pr(\mathbf {x} \mid x_{0},\alpha _{0},{\boldsymbol {\alpha }})={\frac {\Gamma \left(\sum _{i=0}^{m}{x_{i}}\right)}{\Gamma (x_{0})\prod _{i=1}^{m}x_{i}!}}{\frac {{\mathrm {B} }(\mathbf {x_{+}} +{\boldsymbol {\alpha }}_{+})}{\mathrm {B} ({\boldsymbol {\alpha }}_{+})}}}$

где и являются размерными векторами, созданными путем добавления скаляров и к размерным векторам и соответственно, а является многомерной версией бета -функции . Мы можем записать это уравнение явно как ${\displaystyle \mathbf {x_{+}} }$ ${\displaystyle {\boldsymbol {\alpha }}_{+}}$ ${\displaystyle m+1}$ ${\displaystyle x_{0}}$ ${\displaystyle \alpha _{0}}$ ${\displaystyle m}$ ${\displaystyle \mathbf {x} }$ ${\displaystyle {\boldsymbol {\alpha }}}$ ${\displaystyle \mathrm {B} }$

${\displaystyle \Pr(\mathbf {x} \mid x_{0},\alpha _{0},{\boldsymbol {\alpha }})=x_{0}{\frac {\Gamma (\sum _{i=0}^{m}x_{i})\Gamma (\sum _{i=0}^{m}\alpha _{i})}{\Gamma (\sum _{i=0}^{m}(x_{i}+\alpha _{i}))}}\prod _{i=0}^{m}{\frac {\Gamma (x_{i}+\alpha _{i})}{\Gamma (x_{i}+1)\Gamma (\alpha _{i})}}.}$

Существуют альтернативные формулировки. Одно удобное представление ^[1] —

${\displaystyle \Pr(\mathbf {x} \mid x_{0},\alpha _{0},{\boldsymbol {\alpha }})={\frac {\Gamma (x_{\bullet })}{\Gamma (x_{0})\prod _{i=1}^{m}\Gamma (x_{i}+1)}}\times {\frac {\Gamma (\alpha _{\bullet })}{\prod _{i=0}^{m}\Gamma (\alpha _{i})}}\times {\frac {\prod _{i=0}^{m}\Gamma (x_{i}+\alpha _{i})}{\Gamma (x_{\bullet }+\alpha _{\bullet })}}}$

где и . ${\displaystyle x_{\bullet }=x_{0}+x_{1}+\cdots +x_{m}}$ ${\displaystyle \alpha _{\bullet }=\alpha _{0}+\alpha _{1}+\cdots +\alpha _{m}}$

Это также можно записать

${\displaystyle \Pr(\mathbf {x} \mid x_{0},\alpha _{0},{\boldsymbol {\alpha }})={\frac {\mathrm {B} (x_{\bullet },\alpha _{\bullet })}{\mathrm {B} (x_{0},\alpha _{0})}}\prod _{i=1}^{m}{\frac {\Gamma (x_{i}+\alpha _{i})}{x_{i}!\Gamma (\alpha _{i})}}.}$

Характеристики

Предельные распределения

Чтобы получить маргинальное распределение по подмножеству случайных величин Дирихле с отрицательным мультиномиальным распределением, нужно только удалить нерелевантные ' (переменные, которые нужно исключить) из вектора. Совместное распределение оставшихся случайных величин равно , где — вектор с удаленными '. Говорят, что одномерные маргинальные величины имеют бета-отрицательное биномиальное распределение. ${\displaystyle \alpha _{i}}$ ${\displaystyle {\boldsymbol {\alpha }}}$ ${\displaystyle \mathrm {DNM} (x_{0},\alpha _{0},{\boldsymbol {\alpha _{(-)}}})}$ ${\displaystyle {\boldsymbol {\alpha _{(-)}}}}$ ${\displaystyle \alpha _{i}}$

Условные распределения

Если m -мерный x разбить следующим образом

${\displaystyle \mathbf {x} ={\begin{bmatrix}\mathbf {x} ^{(1)}\\\mathbf {x} ^{(2)}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(m-q)\times 1\end{bmatrix}}}$

и соответственно ${\displaystyle {\boldsymbol {\alpha }}}$

${\displaystyle {\boldsymbol {\alpha }}={\begin{bmatrix}{\boldsymbol {\alpha }}^{(1)}\\{\boldsymbol {\alpha }}^{(2)}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(m-q)\times 1\end{bmatrix}}}$

тогда условное распределение на будет где ${\displaystyle \mathbf {X} ^{(1)}}$ ${\displaystyle \mathbf {X} ^{(2)}=\mathbf {x} ^{(2)}}$ ${\displaystyle \mathrm {DNM} (x_{0}^{\prime },\alpha _{0}^{\prime },{\boldsymbol {\alpha }}^{(1)})}$

${\displaystyle x_{0}^{\prime }=x_{0}+\sum _{i=1}^{m-q}x_{i}^{(2)}}$

и

${\displaystyle \alpha _{0}^{\prime }=\alpha _{0}+\sum _{i=1}^{m-q}\alpha _{i}^{(2)}}$.

То есть,

${\displaystyle \Pr(\mathbf {x} ^{(1)}\mid \mathbf {x} ^{(2)},x_{0},\alpha _{0},{\boldsymbol {\alpha }})={\frac {\mathrm {B} (x_{\bullet },\alpha _{\bullet })}{\mathrm {B} (x_{0}^{\prime },\alpha _{0}^{\prime })}}\prod _{i=1}^{q}{\frac {\Gamma (x_{i}^{(1)}+\alpha _{i}^{(1)})}{(x_{i}^{(1)}!)\Gamma (\alpha _{i}^{(1)})}}}$

При условии суммы

Условное распределение отрицательного полиномиального распределения Дирихле на — это полиномиальное распределение Дирихле с параметрами и . То есть ${\displaystyle \sum _{i=1}^{m}x_{i}=n}$ ${\displaystyle n}$ ${\displaystyle {\boldsymbol {\alpha }}}$

${\displaystyle \Pr(\mathbf {x} \mid \sum _{i=1}^{m}x_{i}=n,x_{0},\alpha _{0},{\boldsymbol {\alpha }})={\frac {n!\Gamma \left(\sum _{i=1}^{m}\alpha _{i}\right)}{\Gamma \left(n+\sum _{i=1}^{m}\alpha _{i}\right)}}\prod _{i=1}^{m}{\frac {\Gamma (x_{i}+\alpha _{i})}{x_{i}!\Gamma (\alpha _{i})}}}$.

Обратите внимание, что выражение не зависит от или . ${\displaystyle x_{0}}$ ${\displaystyle \alpha _{0}}$

Агрегация

Если

${\displaystyle X=(X_{1},\ldots ,X_{m})\sim \operatorname {DNM} (x_{0},\alpha _{0},\alpha _{1},\ldots ,\alpha _{m})}$

тогда, если случайные величины с положительными индексами i и j исключить из вектора и заменить их суммой,

${\displaystyle X'=(X_{1},\ldots ,X_{i}+X_{j},\ldots ,X_{m})\sim \operatorname {DNM} \left(x_{0},\alpha _{0},\alpha _{1},\ldots ,\alpha _{i}+\alpha _{j},\ldots ,\alpha _{m}\right).}$

Матрица корреляции

Для записей корреляционной матрицы есть ${\displaystyle \alpha _{0}>2}$

${\displaystyle \rho (X_{i},X_{i})=1.}$

${\displaystyle \rho (X_{i},X_{j})={\frac {\operatorname {cov} (X_{i},X_{j})}{\sqrt {\operatorname {var} (X_{i})\operatorname {var} (X_{j})}}}={\sqrt {\frac {\alpha _{i}\alpha _{j}}{(\alpha _{0}+\alpha _{i}-1)(\alpha _{0}+\alpha _{j}-1)}}}.}$

Тяжелый хвост

Отрицательный многочлен Дирихле — это распределение с тяжелым хвостом . Он не имеет конечного среднего для и имеет бесконечную ковариационную матрицу для . Поэтому функция, производящая моменты, не существует. ${\displaystyle \alpha _{0}\leq 1}$ ${\displaystyle \alpha _{0}\leq 2}$

Приложения

Отрицательный многочлен Дирихле как модель урны Пойя

В случае, когда параметры и являются положительными целыми числами, отрицательный многочлен Дирихле также может быть мотивирован моделью урны - или, более конкретно, базовой моделью урны Пойа . Рассмотрим урну, изначально содержащую шары разных цветов, включая красные шары (цвет остановки). Вектор дает соответствующие подсчеты других шаров разных некрасных цветов. На каждом шаге модели шар вытаскивается из урны случайным образом и заменяется вместе с одним дополнительным шаром того же цвета. Процесс повторяется снова и снова, пока не будут вытащены красные шары. Случайный вектор наблюдаемых вытягиваний других некрасных цветов распределяется в соответствии с . Обратите внимание, что в конце эксперимента урна всегда содержит фиксированное количество красных шаров, одновременно содержа случайное количество других цветов. ${\displaystyle m+2}$ ${\displaystyle x_{0},\alpha _{0}}$ ${\displaystyle {\boldsymbol {\alpha }}}$ ${\displaystyle \sum _{i=0}^{m}{\alpha _{i}}}$ ${\displaystyle m+1}$ ${\displaystyle \alpha _{0}}$ ${\displaystyle {\boldsymbol {\alpha }}}$ ${\displaystyle m}$ ${\displaystyle x_{0}}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle m}$ ${\displaystyle \mathrm {DNM} (x_{0},\alpha _{0},{\boldsymbol {\alpha }})}$ ${\displaystyle x_{0}+\alpha _{0}}$ ${\displaystyle \mathbf {X} +{\boldsymbol {\alpha }}}$ ${\displaystyle m}$

Смотрите также

• Бета-отрицательное биномиальное распределение
• Отрицательное мультиномиальное распределение
• Дирихле-мультиномиальное распределение

Ссылки

1. Farewell, Daniel & Farewell, Vernon. (2012). Отрицательная мультиномиальная регрессия Дирихле для сверхдисперсных коррелированных данных подсчета. Biostatistics (Оксфорд, Англия). 14. 10.1093/biostatistics/kxs050.