схема Бернулли

Обобщение процесса Бернулли на более чем два возможных результата

В математике схема Бернулли или сдвиг Бернулли является обобщением процесса Бернулли на более чем два возможных результата. ^{[1] [2]} Схемы Бернулли естественным образом появляются в символической динамике и, таким образом, важны при изучении динамических систем . Многие важные динамические системы (такие как системы Аксиомы А ) демонстрируют репеллер , который является произведением множества Кантора и гладкого многообразия , а динамика на множестве Кантора изоморфна динамике сдвига Бернулли. ^[3] По сути, это марковское разбиение . Термин сдвиг относится к оператору сдвига , который может использоваться для изучения схем Бернулли. Теорема Орнштейна об изоморфизме ^{[4] [5]} показывает, что сдвиги Бернулли изоморфны, когда их энтропия равна.

Определение

Схема Бернулли — это дискретный во времени стохастический процесс , в котором каждая независимая случайная величина может принимать одно из N различных возможных значений, при этом результат i наступает с вероятностью , где i  = 1, ...,  N и ${\displaystyle p_{i}}$

${\displaystyle \sum _{i=1}^{N}p_{i}=1.}$

Пространство выборки обычно обозначается как

${\displaystyle X=\{1,\ldots ,N\}^{\mathbb {Z} }}$

как сокращение для

${\displaystyle X=\{x=(\ldots ,x_{-1},x_{0},x_{1},\ldots ):x_{k}\in \{1,\ldots ,N\}\;\forall k\in \mathbb {Z} \}.}$

Соответствующая мера называется мерой Бернулли ^[6]

${\displaystyle \mu =\{p_{1},\ldots ,p_{N}\}^{\mathbb {Z} }}$

σ -алгебра на X является произведением сигма-алгебр; то есть, это (счетное) прямое произведение σ-алгебр конечного множества {1, ...,  N }. Таким образом, триплет ${\displaystyle {\mathcal {A}}}$

${\displaystyle (X,{\mathcal {A}},\mu )}$

является мерным пространством . Базисом являются цилиндрические множества . Учитывая цилиндрическое множество , его мера есть ${\displaystyle {\mathcal {A}}}$ ${\displaystyle [x_{0},x_{1},\ldots ,x_{n}]}$

${\displaystyle \mu \left([x_{0},x_{1},\ldots ,x_{n}]\right)=\prod _{i=0}^{n}p_{x_{i}}}$

Эквивалентное выражение, использующее обозначения теории вероятностей, имеет вид

${\displaystyle \mu \left([x_{0},x_{1},\ldots ,x_{n}]\right)=\mathrm {Pr} (X_{0}=x_{0},X_{1}=x_{1},\ldots ,X_{n}=x_{n})}$

для случайных величин ${\displaystyle \{X_{k}\}}$

Схему Бернулли, как и любой стохастический процесс, можно рассматривать как динамическую систему , наделив ее оператором сдвига T , где

${\displaystyle T(x_{k})=x_{k+1}.}$

Поскольку результаты независимы, сдвиг сохраняет меру, и, таким образом, T является преобразованием, сохраняющим меру . Квадруплет

${\displaystyle (X,{\mathcal {A}},\mu ,T)}$

является динамической системой, сохраняющей меру , и называется схемой Бернулли или сдвигом Бернулли . Часто обозначается как

${\displaystyle BS(p)=BS(p_{1},\ldots ,p_{N}).}$

Схема Бернулли N = 2 называется процессом Бернулли . Сдвиг Бернулли можно понимать как частный случай сдвига Маркова , где все элементы в матрице смежности равны единице, а соответствующий граф, таким образом, является кликой .

Совпадения и метрики

Расстояние Хэмминга обеспечивает естественную метрику на схеме Бернулли. Другая важная метрика — это так называемая метрика, определяемая через супремум по совпадениям строк . ^[7] ${\displaystyle {\overline {f}}}$

Пусть и будут двумя строками символов. Соответствием называется последовательность M пар индексов в строке, т.е. пар, которые понимаются как полностью упорядоченные. То есть каждая отдельная подпоследовательность и упорядочена: и аналогично ${\displaystyle A=a_{1}a_{2}\cdots a_{m}}$ ${\displaystyle B=b_{1}b_{2}\cdots b_{n}}$ ${\displaystyle (i_{k},j_{k})}$ ${\displaystyle a_{i_{k}}=b_{j_{k}},}$ ${\displaystyle (i_{k})}$ ${\displaystyle (j_{k})}$ ${\displaystyle 1\leq i_{1}<i_{2}<\cdots <i_{r}\leq m}$ ${\displaystyle 1\leq j_{1}<j_{2}<\cdots <j_{r}\leq n.}$

Расстояние между и равно ​​ ${\displaystyle {\overline {f}}}$ ${\displaystyle A}$ ${\displaystyle B}$

${\displaystyle {\overline {f}}(A,B)=1-{\frac {2\sup |M|}{m+n}}}$

где супремум берется по всем совпадениям между и . Это удовлетворяет неравенству треугольника только тогда, когда и поэтому не является вполне истинной метрикой; несмотря на это, в литературе ее обычно называют «расстоянием». ${\displaystyle M}$ ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle m=n,}$

Обобщения

Большинство свойств схемы Бернулли вытекают из счетного прямого произведения , а не из конечного базового пространства. Таким образом, можно взять базовое пространство как любое стандартное вероятностное пространство и определить схему Бернулли как ${\displaystyle (Y,{\mathcal {B}},\nu )}$

${\displaystyle (X,{\mathcal {A}},\mu )=(Y,{\mathcal {B}},\nu )^{\mathbb {Z} }}$

Это работает, поскольку счетное прямое произведение стандартного вероятностного пространства снова является стандартным вероятностным пространством.

В качестве дальнейшего обобщения можно заменить целые числа счетной дискретной группой , так что ${\displaystyle \mathbb {Z} }$ ${\displaystyle G}$

${\displaystyle (X,{\mathcal {A}},\mu )=(Y,{\mathcal {B}},\nu )^{G}}$

В этом последнем случае оператор сдвига заменяется групповым действием

${\displaystyle gx(f)=x(g^{-1}f)}$

для групповых элементов и понимается как функция (любое прямое произведение может пониматься как набор функций , поскольку это экспоненциальный объект ). Мера берется как мера Хаара , которая инвариантна относительно группового действия: ${\displaystyle f,g\in G}$ ${\displaystyle x\in Y^{G}}$ ${\displaystyle x:G\to Y}$ ${\displaystyle Y^{G}}$ ${\displaystyle [G\to Y]}$ ${\displaystyle \mu }$

${\displaystyle \mu (gx)=\mu (x).\,}$

Эти обобщения также обычно называют схемами Бернулли, поскольку они по-прежнему разделяют большинство свойств с конечным случаем.

Характеристики

Я. Синай показал, что энтропия Колмогорова схемы Бернулли определяется выражением ^{[8] [9]}

${\displaystyle H=-\sum _{i=1}^{N}p_{i}\log p_{i}.}$

Это можно рассматривать как результат общего определения энтропии декартова произведения вероятностных пространств, которое следует из свойства асимптотического равнораспределения . Для случая общего базового пространства ( т.е. базового пространства, которое не является счетным) обычно рассматривают относительную энтропию . Так, например, если имеется счетное разбиение базы Y , такое что , можно определить энтропию как ${\displaystyle (Y,{\mathcal {B}},\nu )}$ ${\displaystyle Y'\subset Y}$ ${\displaystyle \nu (Y')=1}$

${\displaystyle H_{Y'}=-\sum _{y'\in Y'}\nu (y')\log \nu (y').}$

В общем случае эта энтропия будет зависеть от разбиения; однако для многих динамических систем символическая динамика не зависит от разбиения (или, скорее, существуют изоморфизмы, связывающие символическую динамику различных разбиений, оставляя меру инвариантной), и поэтому такие системы могут иметь четко определенную энтропию, независимую от разбиения.

Теорема изоморфизма Орнштейна

Теорема Орнштейна об изоморфизме утверждает, что две схемы Бернулли с одинаковой энтропией изоморфны . ^[4] Результат точен, ^[10] в том, что очень похожие, несхемные системы, такие как автоморфизмы Колмогорова , не обладают этим свойством.

Теорема об изоморфизме Орнштейна на самом деле значительно глубже: она дает простой критерий, по которому можно судить о том, что многие различные динамические системы, сохраняющие меру , изоморфны схемам Бернулли. Результат оказался неожиданным, поскольку многие системы, которые ранее считались не связанными, оказались изоморфными. К ним относятся все конечные ^{[ необходимо разъяснение ]} стационарные стохастические процессы , подсдвиги конечного типа , конечные цепи Маркова , потоки Аносова и биллиарды Синая : все они изоморфны схемам Бернулли.

Для обобщенного случая теорема Орнштейна об изоморфизме по-прежнему верна, если группа G является счетно бесконечной аменабельной группой . ^{[11] [12]}

Автоморфизм Бернулли

Обратимое, сохраняющее меру преобразование стандартного вероятностного пространства (пространства Лебега) называется автоморфизмом Бернулли, если оно изоморфно сдвигу Бернулли . ^[13]

Бернулли в свободном виде

Система называется «в общих чертах бернуллиевской», если она эквивалентна по Какутани сдвигу Бернулли; в случае нулевой энтропии — если она эквивалентна по Какутани иррациональному повороту окружности.

Смотрите также

• Сдвиг конечного типа
• цепь Маркова
• Скрытая модель Бернулли

Ссылки

1. П. Шилдс, Теория сдвигов Бернулли , Издательство Чикагского университета (1973)
2. Майкл С. Кин, "Эргодическая теория и подсдвиги конечного типа", (1991), появляющаяся как Глава 2 в Ergodic Theory, Symbolic Dynamics and Hyperbolic Spaces , Tim Bedford, Michael Keane and Caroline Series, Eds. Oxford University Press, Оксфорд (1991). ISBN  0-19-853390-X
3. Пьер Гаспар, Хаос, рассеяние и статистическая механика (1998), Cambridge University Press
4. Орнштейн, Дональд (1970). «Сдвиги Бернулли с одинаковой энтропией изоморфны». Успехи в математике . 4 : 337–352. doi : 10.1016/0001-8708(70)90029-0 .
5. DS Ornstein (2001) [1994], "Теорема Орнштейна об изоморфизме", Энциклопедия математики , EMS Press
6. Кленке, Ахим (2006). Теория вероятностей . Springer-Verlag. ISBN 978-1-84800-047-6.
7. Фельдман, Якоб (1976). «Новые K {\displaystyle K} -автоморфизмы и проблема Какутани». Israel Journal of Mathematics . 24 (1): 16–38. doi : 10.1007/BF02761426 .
8. Я. Г. Синай, (1959) «О понятии энтропии динамической системы», Доклады РАН 124 , стр. 768–771.
9. Я. Г. Синай, (2007) "Метрическая энтропия динамической системы"
10. Хоффман, Кристофер (1999). "AK {\displaystyle K} Контрпримерная машина". Труды Американского математического общества . 351 : 4263–4280.
11. Орнштейн, Дональд С .; Вайс, Бенджамин (1987). «Теоремы об энтропии и изоморфизме для действий аменабельных групп». Journal d'Analyse Mathématique . 48 : 1–141. doi : 10.1007/BF02790325 .
12. Боуэн, Льюис (2012). «Каждая счетно бесконечная группа почти Орнштейна». Contemporary Mathematics . 567 : 67–78. arXiv : 1103.4424 .
13. Питер Уолтерс (1982) Введение в эргодическую теорию , Springer-Verlag, ISBN 0-387-90599-5