марковское ядро

Понятие в теории вероятностей

В теории вероятностей ядро ​​Маркова (также известное как стохастическое ядро ​​или ядро ​​вероятности ) представляет собой отображение, которое в общей теории марковских процессов играет ту же роль, что и матрица перехода в теории марковских процессов с конечным пространством состояний . ^[1]

Формальное определение

Пусть и будут измеримыми пространствами . Марковское ядро ​​с источником и целью , иногда записываемое как , является функцией со следующими свойствами: ${\displaystyle (X,{\mathcal {A}})}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle (X,{\mathcal {A}})}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle \kappa :(X,{\mathcal {A}})\to (Y,{\mathcal {B}})}$ ${\displaystyle \kappa :{\mathcal {B}}\times X\to [0,1]}$

1. Для каждого (фиксированного) , карта - измерима ${\displaystyle B_{0}\in {\mathcal {B}}}$ ${\displaystyle x\mapsto \kappa (B_{0},x)}$ ${\displaystyle {\mathcal {A}}}$
2. Для каждого (фиксированного) , карта является вероятностной мерой на ${\displaystyle x_{0}\in X}$ ${\displaystyle B\mapsto \kappa (B,x_{0})}$ ${\displaystyle (Y,{\mathcal {B}})}$

Другими словами, он сопоставляет каждой точке вероятностную меру на , такую, что для каждого измеримого множества отображение измеримо относительно -алгебры . ^[2] ${\displaystyle x\in X}$ ${\displaystyle \kappa (dy|x):B\mapsto \kappa (B,x)}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle B\in {\mathcal {B}}}$ ${\displaystyle x\mapsto \kappa (B,x)}$ ${\displaystyle \sigma }$ ${\displaystyle {\mathcal {A}}}$

Примеры

Простое случайное блужданиена целых числах

Возьмем , и ( множество мощности ). Тогда ядро ​​Маркова полностью определяется вероятностью, которую оно назначает синглтонам для каждого : ${\displaystyle X=Y=\mathbb {Z} }$ ${\displaystyle {\mathcal {A}}={\mathcal {B}}={\mathcal {P}}(\mathbb {Z} )}$ ${\displaystyle \mathbb {Z} }$ ${\displaystyle \{m\},\,m\in Y=\mathbb {Z} }$ ${\displaystyle n\in X=\mathbb {Z} }$

${\displaystyle \kappa (B|n)=\sum _{m\in B}\kappa (\{m\}|n),\qquad \forall n\in \mathbb {Z} ,\,\forall B\in {\mathcal {B}}}$.

Теперь случайное блуждание , которое идет вправо с вероятностью и влево с вероятностью, определяется как ${\displaystyle \kappa }$ ${\displaystyle p}$ ${\displaystyle 1-p}$

${\displaystyle \kappa (\{m\}|n)=p\delta _{m,n+1}+(1-p)\delta _{m,n-1},\quad \forall n,m\in \mathbb {Z} }$

где — дельта Кронекера . Вероятности перехода для случайного блуждания эквивалентны ядру Маркова. ${\displaystyle \delta }$ ${\displaystyle P(m|n)=\kappa (\{m\}|n)}$

ОбщийМарковские процессысо счетным пространством состояний

В более общем случае берем и оба счетных и . Опять же, ядро ​​Маркова определяется вероятностью, которую оно назначает одноэлементным наборам для каждого ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle {\mathcal {A}}={\mathcal {P}}(X),\ {\mathcal {B}}={\mathcal {P}}(Y)}$ ${\displaystyle i\in X}$

${\displaystyle \kappa (B|i)=\sum _{j\in B}\kappa (\{j\}|i),\qquad \forall i\in X,\,\forall B\in {\mathcal {B}}}$,

Мы определяем марковский процесс, определяя вероятность перехода , где числа определяют (счетную) стохастическую матрицу , т.е. ${\displaystyle P(j|i)=K_{ji}}$ ${\displaystyle K_{ji}}$ ${\displaystyle (K_{ji})}$

${\displaystyle {\begin{aligned}K_{ji}&\geq 0,\qquad &\forall (j,i)\in Y\times X,\\\sum _{j\in Y}K_{ji}&=1,\qquad &\forall i\in X.\\\end{aligned}}}$

Затем мы определяем

${\displaystyle \kappa (\{j\}|i)=K_{ji}=P(j|i),\qquad \forall i\in X,\quad \forall B\in {\mathcal {B}}}$.

Опять же, вероятность перехода, стохастическая матрица и ядро ​​Маркова являются эквивалентными переформулировками.

Ядро Маркова определяется функцией ядра и мерой

Пусть будет мерой на и измеримой функцией относительно произведения -алгебры такой, что ${\displaystyle \nu }$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle k:Y\times X\to [0,\infty ]}$ ${\displaystyle \sigma }$ ${\displaystyle {\mathcal {A}}\otimes {\mathcal {B}}}$

${\displaystyle \int _{Y}k(y,x)\nu (\mathrm {d} y)=1,\qquad \forall x\in X}$,

то есть отображение ${\displaystyle \kappa (dy|x)=k(y,x)\nu (dy)}$

${\displaystyle {\begin{cases}\kappa :{\mathcal {B}}\times X\to [0,1]\\\kappa (B|x)=\int _{B}k(y,x)\nu (\mathrm {d} y)\end{cases}}}$

определяет марковское ядро. ^[3] Этот пример обобщает пример счетного марковского процесса, где была счетная мера . Более того, он охватывает другие важные примеры, такие как ядра свертки, в частности марковские ядра, определяемые уравнением теплопроводности. Последний пример включает гауссово ядро ​​на со стандартной мерой Лебега и ${\displaystyle \nu }$ ${\displaystyle X=Y=\mathbb {R} }$ ${\displaystyle \nu (dx)=dx}$

${\displaystyle k_{t}(y,x)={\frac {1}{{\sqrt {2\pi }}t}}e^{-(y-x)^{2}/(2t^{2})}}$.

Измеримые функции

Возьмем произвольные измеримые пространства, и пусть будет измеримой функцией. Теперь определим ie ${\displaystyle (X,{\mathcal {A}})}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle f:X\to Y}$ ${\displaystyle \kappa (dy|x)=\delta _{f(x)}(dy)}$

${\displaystyle \kappa (B|x)=\mathbf {1} _{B}(f(x))=\mathbf {1} _{f^{-1}(B)}(x)={\begin{cases}1&{\text{if }}f(x)\in B\\0&{\text{otherwise}}\end{cases}}}$для всех . ${\displaystyle B\in {\mathcal {B}}}$

Обратите внимание, что индикаторная функция является измеримой для всех тогда и только тогда, когда она является измеримой. ${\displaystyle \mathbf {1} _{f^{-1}(B)}}$ ${\displaystyle {\mathcal {A}}}$ ${\displaystyle B\in {\mathcal {B}}}$ ${\displaystyle f}$

Этот пример позволяет нам думать о ядре Маркова как об обобщенной функции с (в общем случае) случайным, а не определенным значением. То есть, это многозначная функция , где значения не имеют одинакового веса.

Процесс Гальтона-Уотсона

В качестве менее очевидного примера возьмем , и действительные числа со стандартной сигма-алгеброй борелевских множеств . Тогда ${\displaystyle X=\mathbb {N} ,{\mathcal {A}}={\mathcal {P}}(\mathbb {N} )}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle \mathbb {R} }$

${\displaystyle \kappa (B|n)={\begin{cases}\mathbf {1} _{B}(0)&n=0\\\Pr(\xi _{1}+\cdots +\xi _{x}\in B)&n\neq 0\\\end{cases}}}$

где — число элементов в состоянии , — случайные величины iid (обычно со средним 0) и где — индикаторная функция. Для простого случая подбрасывания монеты это моделирует различные уровни доски Гальтона . ${\displaystyle x}$ ${\displaystyle n}$ ${\displaystyle \xi _{i}}$ ${\displaystyle \mathbf {1} _{B}}$

Состав марковских ядер

Учитывая измеримые пространства , мы рассматриваем марковское ядро ​​как морфизм . Интуитивно, вместо того, чтобы приписывать каждому четко определенную точку, ядро ​​приписывает "размытую" точку, в которой известно только с некоторым уровнем неопределенности, как в реальных физических измерениях. Если у нас есть третье измеримое пространство , и вероятностные ядра и , мы можем определить композицию с помощью уравнения Чепмена-Колмогорова ${\displaystyle (X,{\mathcal {A}})}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle \kappa :{\mathcal {B}}\times X\to [0,1]}$ ${\displaystyle \kappa :X\to Y}$ ${\displaystyle x\in X}$ ${\displaystyle y\in Y}$ ${\displaystyle Y}$ ${\displaystyle (Z,{\mathcal {C}})}$ ${\displaystyle \kappa :X\to Y}$ ${\displaystyle \lambda :Y\to Z}$ ${\displaystyle \lambda \circ \kappa :X\to Z}$

${\displaystyle (\lambda \circ \kappa )(dz|x)=\int _{Y}\lambda (dz|y)\kappa (dy|x)}$.

Композиция ассоциативна по теореме о монотонной сходимости, а единичная функция, рассматриваемая как марковское ядро ​​(т.е. дельта-мера ), является единицей этой композиции. ${\displaystyle \kappa _{1}(dx'|x)=\delta _{x}(dx')}$

Эта композиция определяет структуру категории на измеримых пространствах с марковскими ядрами в качестве морфизмов, впервые определенную Ловером ^[4] , категорию марковских ядер .

Вероятностное пространство, определяемое распределением вероятностей и ядром Маркова

Композиция вероятностного пространства и вероятностного ядра определяет вероятностное пространство , где вероятностная мера задается выражением ${\displaystyle (X,{\mathcal {A}},P_{X})}$ ${\displaystyle \kappa :(X,{\mathcal {A}})\to (Y,{\mathcal {B}})}$ ${\displaystyle (Y,{\mathcal {B}},P_{Y}=\kappa \circ P_{X})}$

${\displaystyle P_{Y}(B)=\int _{X}\int _{B}\kappa (dy|x)P_{X}(dx)=\int _{X}\kappa (B|x)P_{X}(dx)=\mathbb {E} _{P_{X}}\kappa (B|\cdot ).}$

Характеристики

Полупрямое произведение

Пусть — вероятностное пространство и марковское ядро ​​от до некоторого . Тогда существует единственная мера на , такая что: ${\displaystyle (X,{\mathcal {A}},P)}$ ${\displaystyle \kappa }$ ${\displaystyle (X,{\mathcal {A}})}$ ${\displaystyle (Y,{\mathcal {B}})}$ ${\displaystyle Q}$ ${\displaystyle (X\times Y,{\mathcal {A}}\otimes {\mathcal {B}})}$

${\displaystyle Q(A\times B)=\int _{A}\kappa (B|x)\,P(dx),\quad \forall A\in {\mathcal {A}},\quad \forall B\in {\mathcal {B}}.}$

Регулярное условное распределение

Пусть будет борелевским пространством , -значной случайной величиной на пространстве мер и под- -алгеброй. Тогда существует марковское ядро ​​из в , такое, что является версией условного ожидания для каждого , т.е. ${\displaystyle (S,Y)}$ ${\displaystyle X}$ ${\displaystyle (S,Y)}$ ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle {\mathcal {G}}\subseteq {\mathcal {F}}}$ ${\displaystyle \sigma }$ ${\displaystyle \kappa }$ ${\displaystyle (\Omega ,{\mathcal {G}})}$ ${\displaystyle (S,Y)}$ ${\displaystyle \kappa (\cdot ,B)}$ ${\displaystyle \mathbb {E} [\mathbf {1} _{\{X\in B\}}\mid {\mathcal {G}}]}$ ${\displaystyle B\in Y}$

${\displaystyle P(X\in B\mid {\mathcal {G}})=\mathbb {E} \left[\mathbf {1} _{\{X\in B\}}\mid {\mathcal {G}}\right]=\kappa (\cdot ,B),\qquad P{\text{-a.s.}}\,\,\forall B\in {\mathcal {G}}.}$

Это называется регулярным условным распределением данных и не является однозначно определенным. ${\displaystyle X}$ ${\displaystyle {\mathcal {G}}}$

Обобщения

Ядра перехода обобщают ядра Маркова в том смысле, что для всех отображение ${\displaystyle x\in X}$

${\displaystyle B\mapsto \kappa (B|x)}$

может быть любым типом (неотрицательной) меры, не обязательно вероятностной мерой.

Внешние ссылки

• Ядро Маркова в nLab.

Ссылки

1. Рейсс, RD (1993). Курс по точечным процессам . Springer Series in Statistics. doi :10.1007/978-1-4613-9308-5. ISBN 978-1-4613-9310-8.
2. Кленке, Ахим (2014). Теория вероятностей: всеобъемлющий курс . Universitext (2-е изд.). Springer. стр. 180. doi :10.1007/978-1-4471-5361-0. ISBN 978-1-4471-5360-3.
3. Эрхан, Цинлар (2011). Вероятность и стохастика . Нью-Йорк: Springer. С. 37–38. ISBN 978-0-387-87858-4.
4. FW Lawvere (1962). «Категория вероятностных отображений» (PDF) .

• Бауэр, Хайнц (1996), Теория вероятностей , де Грюйтер, ISBN 3-11-013935-9

§ 36. Ядра и полугруппы ядер

Смотрите также

• Категория ядер Маркова