Цепное правило (вероятность)

Концепция теории вероятностей

В теории вероятностей цепное правило ^[1] (также называемое общим правилом произведения ^{[2] [3]} ) описывает, как вычислить вероятность пересечения, не обязательно независимых , событий или совместного распределения случайных величин соответственно, используя условные вероятности . Это правило особенно используется в контексте дискретных случайных процессов и в приложениях, например, при изучении байесовских сетей , которые описывают распределение вероятностей в терминах условных вероятностей.

Правило цепочки событий

Два события

Для двух событий и правило цепочки гласит, что ${\displaystyle A}$ ${\displaystyle B}$

${\displaystyle \mathbb {P} (A\cap B)=\mathbb {P} (B\mid A)\mathbb {P} (A)}$,

где обозначает условную вероятность данного . ${\displaystyle \mathbb {P} (B\mid A)}$ ${\displaystyle B}$ ${\displaystyle A}$

Пример

В урне А находится 1 черный шар и 2 белых шара, а в другой урне Б — 1 черный шар и 3 белых шара. Предположим, мы наугад выбираем урну, а затем выбираем из этой урны шар. Пусть событием будет выбор первой урны, т.е. где дополнительное событие . Пусть событием будет шанс, что мы выберем белый шар. Шанс выбора белого шара, учитывая, что мы выбрали первую урну, равен Пересечение тогда описывает выбор первой урны и белого шара из нее. Вероятность можно рассчитать по цепному правилу следующим образом: ${\displaystyle A}$ ${\displaystyle \mathbb {P} (A)=\mathbb {P} ({\overline {A}})=1/2}$ ${\displaystyle {\overline {A}}}$ ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle \mathbb {P} (B|A)=2/3.}$ ${\displaystyle A\cap B}$

${\displaystyle \mathbb {P} (A\cap B)=\mathbb {P} (B\mid A)\mathbb {P} (A)={\frac {2}{3}}\cdot {\frac {1}{2}}={\frac {1}{3}}.}$

Конечное количество событий

Для событий , пересечение которых не имеет нулевой вероятности, правило цепочки гласит: ${\displaystyle A_{1},\ldots ,A_{n}}$

${\displaystyle {\begin{aligned}\mathbb {P} \left(A_{1}\cap A_{2}\cap \ldots \cap A_{n}\right)&=\mathbb {P} \left(A_{n}\mid A_{1}\cap \ldots \cap A_{n-1}\right)\mathbb {P} \left(A_{1}\cap \ldots \cap A_{n-1}\right)\\&=\mathbb {P} \left(A_{n}\mid A_{1}\cap \ldots \cap A_{n-1}\right)\mathbb {P} \left(A_{n-1}\mid A_{1}\cap \ldots \cap A_{n-2}\right)\mathbb {P} \left(A_{1}\cap \ldots \cap A_{n-2}\right)\\&=\mathbb {P} \left(A_{n}\mid A_{1}\cap \ldots \cap A_{n-1}\right)\mathbb {P} \left(A_{n-1}\mid A_{1}\cap \ldots \cap A_{n-2}\right)\cdot \ldots \cdot \mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{1})\\&=\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\cdot \ldots \cdot \mathbb {P} (A_{n}\mid A_{1}\cap \dots \cap A_{n-1})\\&=\prod _{k=1}^{n}\mathbb {P} (A_{k}\mid A_{1}\cap \dots \cap A_{k-1})\\&=\prod _{k=1}^{n}\mathbb {P} \left(A_{k}\,{\Bigg |}\,\bigcap _{j=1}^{k-1}A_{j}\right).\end{aligned}}}$

Пример 1

Для , то есть четырех событий, правило цепочки гласит: ${\displaystyle n=4}$

${\displaystyle {\begin{aligned}\mathbb {P} (A_{1}\cap A_{2}\cap A_{3}\cap A_{4})&=\mathbb {P} (A_{4}\mid A_{3}\cap A_{2}\cap A_{1})\mathbb {P} (A_{3}\cap A_{2}\cap A_{1})\\&=\mathbb {P} (A_{4}\mid A_{3}\cap A_{2}\cap A_{1})\mathbb {P} (A_{3}\mid A_{2}\cap A_{1})\mathbb {P} (A_{2}\cap A_{1})\\&=\mathbb {P} (A_{4}\mid A_{3}\cap A_{2}\cap A_{1})\mathbb {P} (A_{3}\mid A_{2}\cap A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{1})\end{aligned}}}$.

Пример 2

Из колоды в 52 карты случайным образом вытягиваем 4 карты без замены. Какова вероятность того, что мы выбрали 4 туза?

Сначала устанавливаем . Очевидно, мы получаем следующие вероятности ${\textstyle A_{n}:=\left\{{\text{draw an ace in the }}n^{\text{th}}{\text{ try}}\right\}}$

${\displaystyle \mathbb {P} (A_{1})={\frac {4}{52}},\qquad \mathbb {P} (A_{2}\mid A_{1})={\frac {3}{51}},\qquad \mathbb {P} (A_{3}\mid A_{1}\cap A_{2})={\frac {2}{50}},\qquad \mathbb {P} (A_{4}\mid A_{1}\cap A_{2}\cap A_{3})={\frac {1}{49}}}$.

Применяя правило цепочки,

${\displaystyle \mathbb {P} (A_{1}\cap A_{2}\cap A_{3}\cap A_{4})={\frac {4}{52}}\cdot {\frac {3}{51}}\cdot {\frac {2}{50}}\cdot {\frac {1}{49}}}$.

Формулировка теоремы и доказательство

Пусть — вероятностное пространство. Напомним , что условная вероятность данного определяется как ${\displaystyle (\Omega ,{\mathcal {A}},\mathbb {P} )}$ ${\displaystyle A\in {\mathcal {A}}}$ ${\displaystyle B\in {\mathcal {A}}}$

${\displaystyle {\begin{aligned}\mathbb {P} (A\mid B):={\begin{cases}{\frac {\mathbb {P} (A\cap B)}{\mathbb {P} (B)}},&\mathbb {P} (B)>0,\\0&\mathbb {P} (B)=0.\end{cases}}\end{aligned}}}$

Тогда мы имеем следующую теорему.

Цепное правило  —  Пусть это вероятностное пространство. Позволять . Затем ${\displaystyle (\Omega ,{\mathcal {A}},\mathbb {P} )}$ ${\displaystyle A_{1},...,A_{n}\in {\mathcal {A}}}$

${\displaystyle {\begin{aligned}\mathbb {P} \left(A_{1}\cap A_{2}\cap \ldots \cap A_{n}\right)&=\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\cdot \ldots \cdot \mathbb {P} (A_{n}\mid A_{1}\cap \dots \cap A_{n-1})\\&=\mathbb {P} (A_{1})\prod _{j=2}^{n}\mathbb {P} (A_{j}\mid A_{1}\cap \dots \cap A_{j-1}).\end{aligned}}}$

Доказательство

Формула немедленно следует из рекурсии

${\displaystyle {\begin{aligned}(1)&&&\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})&=&\qquad \mathbb {P} (A_{1}\cap A_{2})\\(2)&&&\mathbb {P} (A_{1})\mathbb {P} (A_{2}\mid A_{1})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})&=&\qquad \mathbb {P} (A_{1}\cap A_{2})\mathbb {P} (A_{3}\mid A_{1}\cap A_{2})\\&&&&=&\qquad \mathbb {P} (A_{1}\cap A_{2}\cap A_{3}),\end{aligned}}}$

где мы использовали определение условной вероятности на первом этапе.

Цепное правило для дискретных случайных величин

Две случайные величины

Для двух дискретных случайных величин мы используем события и в приведенном выше определении и находим совместное распределение как ${\displaystyle X,Y}$ ${\displaystyle A:=\{X=x\}}$ ${\displaystyle B:=\{Y=y\}}$

${\displaystyle \mathbb {P} (X=x,Y=y)=\mathbb {P} (X=x\mid Y=y)\mathbb {P} (Y=y),}$

или

${\displaystyle \mathbb {P} _{(X,Y)}(x,y)=\mathbb {P} _{X\mid Y}(x\mid y)\mathbb {P} _{Y}(y),}$

где распределение вероятностей и условное распределение вероятностей заданных . ${\displaystyle \mathbb {P} _{X}(x):=\mathbb {P} (X=x)}$ ${\displaystyle X}$ ${\displaystyle \mathbb {P} _{X\mid Y}(x\mid y)}$ ${\displaystyle X}$ ${\displaystyle Y}$

Конечное число случайных величин

Пусть – случайные величины и . По определению условной вероятности, ${\displaystyle X_{1},\ldots ,X_{n}}$ ${\displaystyle x_{1},\dots ,x_{n}\in \mathbb {R} }$

${\displaystyle \mathbb {P} \left(X_{n}=x_{n},\ldots ,X_{1}=x_{1}\right)=\mathbb {P} \left(X_{n}=x_{n}|X_{n-1}=x_{n-1},\ldots ,X_{1}=x_{1}\right)\mathbb {P} \left(X_{n-1}=x_{n-1},\ldots ,X_{1}=x_{1}\right)}$

и используя цепное правило, где мы установили , мы можем найти совместное распределение как ${\displaystyle A_{k}:=\{X_{k}=x_{k}\}}$

${\displaystyle {\begin{aligned}\mathbb {P} \left(X_{1}=x_{1},\ldots X_{n}=x_{n}\right)&=\mathbb {P} \left(X_{1}=x_{1}\mid X_{2}=x_{2},\ldots ,X_{n}=x_{n}\right)\mathbb {P} \left(X_{2}=x_{2},\ldots ,X_{n}=x_{n}\right)\\&=\mathbb {P} (X_{1}=x_{1})\mathbb {P} (X_{2}=x_{2}\mid X_{1}=x_{1})\mathbb {P} (X_{3}=x_{3}\mid X_{1}=x_{1},X_{2}=x_{2})\cdot \ldots \\&\qquad \cdot \mathbb {P} (X_{n}=x_{n}\mid X_{1}=x_{1},\dots ,X_{n-1}=x_{n-1})\\\end{aligned}}}$

Пример

Для , т.е. с учетом трех случайных величин. Тогда правило цепочки гласит: ${\displaystyle n=3}$

${\displaystyle {\begin{aligned}\mathbb {P} _{(X_{1},X_{2},X_{3})}(x_{1},x_{2},x_{3})&=\mathbb {P} (X_{1}=x_{1},X_{2}=x_{2},X_{3}=x_{3})\\&=\mathbb {P} (X_{3}=x_{3}\mid X_{2}=x_{2},X_{1}=x_{1})\mathbb {P} (X_{2}=x_{2},X_{1}=x_{1})\\&=\mathbb {P} (X_{3}=x_{3}\mid X_{2}=x_{2},X_{1}=x_{1})\mathbb {P} (X_{2}=x_{2}\mid X_{1}=x_{1})\mathbb {P} (X_{1}=x_{1})\\&=\mathbb {P} _{X_{3}\mid X_{2},X_{1}}(x_{3}\mid x_{2},x_{1})\mathbb {P} _{X_{2}\mid X_{1}}(x_{2}\mid x_{1})\mathbb {P} _{X_{1}}(x_{1}).\end{aligned}}}$

Библиография

• Рене Л. Шиллинг (2021), Мера, интеграл, вероятность и процессы - вероятностный (илилистический) теоретический минимум (1-е изд.), Технический университет Дрездена, Германия, ISBN 979-8-5991-0488-9{{citation}}: CS1 maint: location missing publisher (link)
• Уильям Феллер (1968), Введение в теорию вероятностей и ее приложения , том. Я (3-е изд.), Нью-Йорк / Лондон / Сидней: Wiley, ISBN 978-0-471-25708-0
• Рассел, Стюарт Дж .; Норвиг, Питер (2003), Искусственный интеллект: современный подход (2-е изд.), Аппер-Сэддл-Ривер, Нью-Джерси: Прентис-Холл, ISBN 0-13-790395-2, п. 496.

Рекомендации

1. Шиллинг, Рене Л. (2021). Мера, интеграл, вероятность и процессы — вероятностный теоретический минимум . Технический университет Дрездена, Германия. п. 136 и далее. ISBN 979-8-5991-0488-9.{{cite book}}: CS1 maint: location missing publisher (link)
2. Шум, Дэвид А. (1994). Доказательные основы вероятностного рассуждения . Издательство Северо-Западного университета. п. 49. ИСБН 978-0-8101-1821-8.
3. Клу, Генри Э. (2013). Статистика: Основы исследований (3-е изд.). Психология Пресс. п. 149. ИСБН 978-1-134-92862-0.