Уравнение Чепмена–Колмогорова

Уравнение из теории вероятностей

В математике , в частности в теории марковских случайных процессов в теории вероятностей , уравнение Чепмена–Колмогорова (CKE) представляет собой тождество, связывающее совместные распределения вероятностей различных наборов координат на стохастическом процессе. Уравнение было выведено независимо британским математиком Сиднеем Чепменом и российским математиком Андреем Колмогоровым . CKE широко используется в недавних вариационных байесовских методах .

Математическое описание

Предположим, что { f _i } — это индексированный набор случайных величин , то есть стохастический процесс. Пусть

${\displaystyle p_{i_{1},\ldots ,i_{n}}(f_{1},\ldots ,f_{n})}$

будет функцией плотности вероятности значений случайных величин от f ₁ до f _n . Тогда уравнение Чепмена–Колмогорова будет иметь вид

${\displaystyle p_{i_{1},\ldots ,i_{n-1}}(f_{1},\ldots ,f_{n-1})=\int _{-\infty }^{\infty }p_{i_{1},\ldots ,i_{n}}(f_{1},\ldots ,f_{n})\,df_{n}}$

т.е. прямая маргинализация по мешающей переменной .

(Обратите внимание, что пока ничего не предполагалось относительно временного (или любого другого) порядка случайных величин — приведенное выше уравнение в равной степени применимо к маргинализации любой из них.)

В терминах ядер Маркова

Если мы рассмотрим марковские ядра, индуцированные переходами марковского процесса , уравнение Чепмена-Колмогорова можно рассматривать как дающее способ составления ядра, обобщающий способ составления стохастических матриц . При наличии измеримого пространства и марковского ядра двухшаговое переходное ядро ​​задается как ${\displaystyle (X,{\mathcal {A}})}$ ${\displaystyle k:(X,{\mathcal {A}})\to (X,{\mathcal {A}})}$ ${\displaystyle k^{2}:(X,{\mathcal {A}})\to (X,{\mathcal {A}})}$

${\displaystyle k^{2}(A|x)=\int _{Y}k(A|x')\,k(dx'|x)}$

для всех и . ^[1] Это можно интерпретировать как сумму по всем промежуточным состояниям пар независимых вероятностных переходов. ${\displaystyle x\in X}$ ${\displaystyle A\in {\mathcal {A}}}$

В более общем случае, учитывая измеримые пространства , и , а также марковские ядра и , мы получаем составное ядро ​​по формуле ${\displaystyle (X,{\mathcal {A}})}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle (Z,{\mathcal {C}})}$ ${\displaystyle k:(X,{\mathcal {A}})\to (Y,{\mathcal {B}})}$ ${\displaystyle h:(Y,{\mathcal {B}})\to (Z,{\mathcal {C}})}$ ${\displaystyle h\circ k:(X,{\mathcal {A}})\to (Z,{\mathcal {C}})}$

${\displaystyle (h\circ k)(C|x)=\int _{Y}h(C|y)\,k(dy|x)}$

для всех и . ${\displaystyle x\in X}$ ${\displaystyle C\in {\mathcal {C}}}$

По этой причине марковские ядра , как и стохастические матрицы , образуют категорию .

Применение к растянутым во времени цепям Маркова

Когда рассматриваемый стохастический процесс является марковским , уравнение Чепмена–Колмогорова эквивалентно тождеству на переходных плотностях. В случае цепей Маркова предполагается, что i ₁  < ... <  i _n . Тогда, из-за свойства Маркова ,

${\displaystyle p_{i_{1},\ldots ,i_{n}}(f_{1},\ldots ,f_{n})=p_{i_{1}}(f_{1})p_{i_{2};i_{1}}(f_{2}\mid f_{1})\cdots p_{i_{n};i_{n-1}}(f_{n}\mid f_{n-1}),}$

где условная вероятность — это вероятность перехода между моментами времени . Таким образом, уравнение Чепмена–Колмогорова принимает вид ${\displaystyle p_{i;j}(f_{i}\mid f_{j})}$ ${\displaystyle i>j}$

${\displaystyle p_{i_{3};i_{1}}(f_{3}\mid f_{1})=\int _{-\infty }^{\infty }p_{i_{3};i_{2}}(f_{3}\mid f_{2})p_{i_{2};i_{1}}(f_{2}\mid f_{1})\,df_{2}.}$

Неформально это означает, что вероятность перехода из состояния 1 в состояние 3 можно найти из вероятностей перехода из 1 в промежуточное состояние 2, а затем из 2 в 3, путем суммирования по всем возможным промежуточным состояниям 2.

Когда распределение вероятностей в пространстве состояний цепи Маркова дискретно, а цепь Маркова однородна, уравнения Чепмена–Колмогорова можно выразить через (возможно, бесконечномерное) матричное умножение , таким образом:

${\displaystyle P(t+s)=P(t)P(s)\,}$

где P ( t ) — матрица перехода скачка t , т. е. P ( t ) — это матрица, такая, что запись (i,j) содержит вероятность перехода цепи из состояния i в состояние j за t шагов.

Как следствие, для вычисления матрицы перехода скачка t достаточно возвести матрицу перехода скачка один в степень t , то есть

${\displaystyle P(t)=P^{t}.\,}$

Дифференциальная форма уравнения Чепмена–Колмогорова известна как основное уравнение .

Смотрите также

• Уравнение Фоккера–Планка (также известное как прямое уравнение Колмогорова)
• Обратное уравнение Колмогорова
• Примеры цепей Маркова
• Категория ядер Маркова

Цитаты

1. Перроне (2024), стр. 10–11

Дальнейшее чтение

• Павлиотис, Григориос А. (2014). «Марковские процессы и уравнение Чепмена–Колмогорова». Стохастические процессы и приложения . Нью-Йорк: Springer. С. 33–38. ISBN 978-1-4939-1322-0.
• Росс, Шелдон М. (2014). "Глава 4.2: Уравнения Чепмена-Колмогорова". Введение в вероятностные модели (11-е изд.). Academic Press. стр. 187. ISBN 978-0-12-407948-9.
• Перроне, Паоло (2024). Начальная теория категорий. World Scientific. стр. 10, 11. doi :10.1142/9789811286018_0005. ISBN 978-981-12-8600-1.

Внешние ссылки

• Вайсштейн, Эрик В. «Уравнение Чепмена–Колмогорова». MathWorld .