Вероятностное пространство

Математическая концепция

В теории вероятностей вероятностное пространство или вероятностная тройка — это математическая конструкция , которая обеспечивает формальную модель случайного процесса или «эксперимента». Например, можно определить вероятностное пространство, которое моделирует бросание игральной кости . ${\displaystyle (\Omega ,{\mathcal {F}},P)}$

Вероятностное пространство состоит из трех элементов: ^{[1] [2]}

1. Пространство выборки , представляющее собой набор всех возможных результатов . ${\displaystyle \Omega }$
2. Пространство событий , представляющее собой набор событий , где событие представляет собой набор результатов в пространстве выборки. ${\displaystyle {\mathcal {F}}}$
3. Вероятностная функция , которая присваивает каждому событию в пространстве событий вероятность , которая представляет собой число от 0 до 1 (включительно). ${\displaystyle P}$

Чтобы обеспечить модель вероятности, эти элементы должны удовлетворять аксиомам вероятности .

В примере с броском стандартной игральной кости

1. Пространство выборки обычно представляет собой набор , где каждый элемент в наборе является меткой, которая представляет собой результат приземления игральной кости на эту метку. Например, представляет собой результат, при котором игральная кость приземляется на 1. ${\displaystyle \Omega }$ ${\displaystyle \{1,2,3,4,5,6\}}$ ${\displaystyle 1}$
2. Пространство событий может быть множеством всех подмножеств пространства выборок, которое затем будет содержать простые события, такие как («на игральной кости выпадает 5»), а также сложные события, такие как («на игральной кости выпадает четное число»). ${\displaystyle {\mathcal {F}}}$ ${\displaystyle \{5\}}$ ${\displaystyle \{2,4,6\}}$
3. Функция вероятности затем сопоставила бы каждое событие с числом исходов этого события, деленным на 6, — например, было бы сопоставлено с , а было бы сопоставлено с . ${\displaystyle P}$ ${\displaystyle \{5\}}$ ${\displaystyle 1/6}$ ${\displaystyle \{2,4,6\}}$ ${\displaystyle 3/6=1/2}$

Когда проводится эксперимент, он приводит ровно к одному результату из выборочного пространства . Все события в пространстве событий , которые содержат выбранный результат, считаются «произошедшими». Функция вероятности должна быть определена таким образом, чтобы при повторении эксперимента произвольное количество раз количество появлений каждого события как доля от общего числа экспериментов, скорее всего, стремилось к вероятности, назначенной этому событию. ${\displaystyle \omega }$ ${\displaystyle \Omega }$ ${\displaystyle {\mathcal {F}}}$ ${\displaystyle \omega }$ ${\displaystyle P}$

Советский математик Андрей Колмогоров ввел понятие вероятностного пространства и аксиомы вероятности в 1930-х годах. В современной теории вероятностей существуют альтернативные подходы к аксиоматизации, такие как алгебра случайных величин .

Введение

Пространство вероятностей для двух последовательных бросаний игральной кости: Пространство выборки состоит из всех 36 возможных результатов; показаны три различных события (цветные многоугольники) с соответствующими им вероятностями (предполагая дискретное равномерное распределение ). ${\displaystyle \Omega }$

Вероятностное пространство — это математический триплет , который представляет собой модель для определенного класса ситуаций реального мира. Как и в случае с другими моделями, его автор в конечном итоге определяет, какие элементы , и будут содержать. ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle \Omega }$ ${\displaystyle {\mathcal {F}}}$ ${\displaystyle P}$

• Пространство выборки — это набор всех возможных результатов. Результат — это результат одного выполнения модели. Результатами могут быть состояния природы, возможности, экспериментальные результаты и т. п. Каждый случай реальной ситуации (или прогон эксперимента) должен давать ровно один результат. Если результаты разных прогонов эксперимента отличаются каким-либо существенным образом, то они являются разными результатами. Какие именно различия имеют значение, зависит от типа анализа, который мы хотим провести. Это приводит к разным выборам пространства выборки. ${\displaystyle \Omega }$
• σ -алгебра — это совокупность всех событий, которые мы хотели бы рассмотреть. Эта совокупность может включать или не включать каждое из элементарных событий. Здесь «событие» — это набор из нуля или более результатов; то есть подмножество выборочного пространства. Событие считается «произошедшим» во время эксперимента, когда результат последнего является элементом события. Поскольку один и тот же результат может быть элементом многих событий, возможно, что произошло много событий при наличии одного результата. Например, когда испытание состоит из бросания двух игральных костей, набор всех результатов с суммой 7 очков может составлять событие, тогда как результаты с нечетным числом очков могут составлять другое событие. Если результат является элементом элементарного события из двух очков на первой кости и пяти на второй, то оба события, «7 очков» и «нечетное число очков», считаются произошедшими. ${\displaystyle {\mathcal {F}}}$
• Вероятностная мера — это функция множества, возвращающая вероятность события . Вероятность — это действительное число между нулем (невозможные события имеют нулевую вероятность, хотя события с нулевой вероятностью не обязательно невозможны) и единицей (событие происходит почти наверняка , с почти полной уверенностью). Таким образом, — это функция Функция вероятностной меры должна удовлетворять двум простым требованиям: во-первых, вероятность счетного объединения взаимоисключающих событий должна быть равна счетной сумме вероятностей каждого из этих событий. Например, вероятность объединения взаимоисключающих событий и в случайном эксперименте с одним подбрасыванием монеты, , является суммой вероятности для и вероятности для , . Во-вторых, вероятность выборочного пространства должна быть равна 1 (что учитывает тот факт, что при выполнении модели должен произойти какой-то результат). В предыдущем примере вероятность набора результатов должна быть равна единице, поскольку совершенно определенно, что результатом будет либо или (модель игнорирует любую другую возможность) при одном подбрасывании монеты. ${\displaystyle P}$ ${\displaystyle P}$ ${\displaystyle P:{\mathcal {F}}\to [0,1].}$ ${\displaystyle {\text{Head}}}$ ${\displaystyle {\text{Tail}}}$ ${\displaystyle P({\text{Head}}\cup {\text{Tail}})}$ ${\displaystyle {\text{Head}}}$ ${\displaystyle {\text{Tail}}}$ ${\displaystyle P({\text{Head}})+P({\text{Tail}})}$ ${\displaystyle \Omega }$ ${\displaystyle P(\{{\text{Head}},{\text{Tail}}\})}$ ${\displaystyle {\text{Head}}}$ ${\displaystyle {\text{Tail}}}$

Не каждое подмножество пространства выборки обязательно должно считаться событием: некоторые из подмножеств просто не представляют интереса, другие не могут быть «измерены» . Это не так очевидно в случае с подбрасыванием монеты. В другом примере можно рассмотреть длины бросков копья, где событиями обычно являются интервалы типа «между 60 и 65 метрами» и объединения таких интервалов, но не множества типа «иррациональных чисел между 60 и 65 метрами». ${\displaystyle \Omega }$

Определение

Короче говоря, вероятностное пространство — это такое мерное пространство , что мера всего пространства равна единице.

Расширенное определение выглядит следующим образом: вероятностное пространство — это тройка, состоящая из: ${\displaystyle (\Omega ,{\mathcal {F}},P)}$

• выборочное пространство – произвольное непустое множество , ${\displaystyle \Omega }$
• σ -алгебра (также называемая σ-полем) – набор подмножеств , называемых событиями , такой, что: ${\displaystyle {\mathcal {F}}\subseteq 2^{\Omega }}$ ${\displaystyle \Omega }$
  • ${\displaystyle {\mathcal {F}}}$содержит выборочное пространство: , ${\displaystyle \Omega \in {\mathcal {F}}}$
  • ${\displaystyle {\mathcal {F}}}$замкнуто относительно дополнений : если , то также , ${\displaystyle A\in {\mathcal {F}}}$ ${\displaystyle (\Omega \setminus A)\in {\mathcal {F}}}$
  • ${\displaystyle {\mathcal {F}}}$замкнуто относительно счетных объединений : если для , то также ${\displaystyle A_{i}\in {\mathcal {F}}}$ ${\displaystyle i=1,2,\dots }$ ${\textstyle (\bigcup _{i=1}^{\infty }A_{i})\in {\mathcal {F}}}$
    • Следствие из предыдущих двух свойств и закона Де Моргана состоит в том, что также замкнуто относительно счетных пересечений : если для , то также ${\displaystyle {\mathcal {F}}}$ ${\displaystyle A_{i}\in {\mathcal {F}}}$ ${\displaystyle i=1,2,\dots }$ ${\textstyle (\bigcap _{i=1}^{\infty }A_{i})\in {\mathcal {F}}}$
• вероятностная мера – функция от такая, что: ${\displaystyle P:{\mathcal {F}}\to [0,1]}$ ${\displaystyle {\mathcal {F}}}$
  • P является счетно-аддитивным (также называется σ-аддитивным): если — счетный набор попарно непересекающихся множеств , то ${\displaystyle \{A_{i}\}_{i=1}^{\infty }\subseteq {\mathcal {F}}}$ ${\textstyle P(\bigcup _{i=1}^{\infty }A_{i})=\sum _{i=1}^{\infty }P(A_{i}),}$
  • мера всего выборочного пространства равна единице: . ${\displaystyle P(\Omega )=1}$

Дискретный случай

Дискретная теория вероятностей нуждается только в не более чем счетных выборочных пространствах . Вероятности могут быть приписаны точкам с помощью функции массы вероятности, такой что . Все подмножества из могут рассматриваться как события (таким образом, является множеством мощности ). Вероятностная мера принимает простую форму ${\displaystyle \Omega }$ ${\displaystyle \Omega }$ ${\displaystyle p:\Omega \to [0,1]}$ ${\textstyle \sum _{\omega \in \Omega }p(\omega )=1}$ ${\displaystyle \Omega }$ ${\displaystyle {\mathcal {F}}=2^{\Omega }}$

Наибольшая σ-алгебра описывает полную информацию. В общем случае σ-алгебра соответствует конечному или счетному разбиению , общая форма события . См. также примеры. ${\displaystyle {\mathcal {F}}=2^{\Omega }}$ ${\displaystyle {\mathcal {F}}\subseteq 2^{\Omega }}$ ${\displaystyle \Omega =B_{1}\cup B_{2}\cup \dots }$ ${\displaystyle A\in {\mathcal {F}}}$ ${\displaystyle A=B_{k_{1}}\cup B_{k_{2}}\cup \dots }$

Этот случай допускается определением, но используется редко, поскольку его можно безопасно исключить из выборочного пространства. ${\displaystyle p(\omega )=0}$ ${\displaystyle \omega }$

Общий случай

Если Ω несчетно , все равно может случиться, что P ( ω ) ≠ 0 для некоторого ω ; такие ω называются атомами . Они представляют собой не более чем счетное (возможно, пустое ) множество, вероятность которого равна сумме вероятностей всех атомов. Если эта сумма равна 1, то все остальные точки можно безопасно исключить из выборочного пространства, что возвращает нас к дискретному случаю. В противном случае, если сумма вероятностей всех атомов находится между 0 и 1, то вероятностное пространство распадается на дискретную (атомарную) часть (возможно, пустую) и неатомарную часть.

Неатомный случай

Если P ( ω ) = 0 для всех ω ∈ Ω (в этом случае Ω должно быть несчетным, потому что в противном случае P(Ω) = 1 не могло бы быть удовлетворено), то уравнение ( ⁎ ) не выполняется: вероятность множества не обязательно является суммой вероятностей его элементов, поскольку суммирование определено только для счетного числа элементов. Это делает теорию вероятностного пространства гораздо более технической. Применима формулировка, более сильная, чем суммирование, теория меры . Первоначально вероятности приписываются некоторым «генераторным» множествам (см. примеры). Затем ограничивающая процедура позволяет назначать вероятности множествам, которые являются пределами последовательностей генераторных множеств или пределами пределов и т. д. Все эти множества являются σ-алгеброй . Технические подробности см. в теореме о расширении Каратеодори . Множества, принадлежащие , называются измеримыми . В целом они намного сложнее, чем генераторные множества, но намного лучше, чем неизмеримые множества . ${\displaystyle {\mathcal {F}}}$ ${\displaystyle {\mathcal {F}}}$

Полное вероятностное пространство

Говорят, что вероятностное пространство является полным вероятностным пространством, если для всех с и всех выполняется . Часто изучение вероятностных пространств ограничивается полными вероятностными пространствами. ${\displaystyle (\Omega ,\;{\mathcal {F}},\;P)}$ ${\displaystyle B\in {\mathcal {F}}}$ ${\displaystyle P(B)=0}$ ${\displaystyle A\;\subset \;B}$ ${\displaystyle A\in {\mathcal {F}}}$

Примеры

Отдельные примеры

Пример 1

Если эксперимент состоит всего из одного подбрасывания честной монеты , то результатом будет либо орел, либо решка: . σ-алгебра содержит события, а именно: («орел»), («решка»), («ни орел, ни решка») и («либо орел, либо решка»); другими словами, . Существует пятьдесят процентов вероятности выпадения орла и пятьдесят процентов — решки, поэтому мера вероятности в этом примере равна , , , . ${\displaystyle \Omega =\{{\text{H}},{\text{T}}\}}$ ${\displaystyle {\mathcal {F}}=2^{\Omega }}$ ${\displaystyle 2^{2}=4}$ ${\displaystyle \{{\text{H}}\}}$ ${\displaystyle \{{\text{T}}\}}$ ${\displaystyle \{\}}$ ${\displaystyle \{{\text{H}},{\text{T}}\}}$ ${\displaystyle {\mathcal {F}}=\{\{\},\{{\text{H}}\},\{{\text{T}}\},\{{\text{H}},{\text{T}}\}\}}$ ${\displaystyle P(\{\})=0}$ ${\displaystyle P(\{{\text{H}}\})=0.5}$ ${\displaystyle P(\{{\text{T}}\})=0.5}$ ${\displaystyle P(\{{\text{H}},{\text{T}}\})=1}$

Пример 2

Честная монета подбрасывается три раза. Возможны 8 исходов: Ω = {HHH, HHT, HTH, HTT, THH, THT, TTH, TTT} (здесь, например, "HTH" означает, что в первый раз монета упала орлом, во второй раз решкой, а в последний раз снова орлом). Полная информация описывается σ-алгеброй 2 8 ⁼ 256 событий, где каждое из событий является подмножеством Ω. ${\displaystyle {\mathcal {F}}=2^{\Omega }}$

Алиса знает результат только второго броска. Таким образом, ее неполная информация описывается разбиением Ω = A ₁ ⊔ A ₂ = {HHH, HHT, THH, THT} ⊔ {HTH, HTT, TTH, TTT} , где ⊔ — это непересекающееся объединение , и соответствующей σ-алгеброй . Брайан знает только общее количество решек. Его разбиение содержит четыре части: Ω = B ₀ ⊔ B ₁ ⊔ B ₂ ⊔ B ₃ = {HHH} ⊔ {HHT, HTH, THH} ⊔ {TTH, THT, HTT} ⊔ {TTT} ; соответственно, его σ-алгебра содержит 2 ^{· 4} = 16 событий. ${\displaystyle {\mathcal {F}}_{\text{Alice}}=\{\{\},A_{1},A_{2},\Omega \}}$ ${\displaystyle {\mathcal {F}}_{\text{Bryan}}}$

Две σ-алгебры несравнимы : ни одна, ни ; обе являются под-σ-алгебрами 2 ^Ω . ${\displaystyle {\mathcal {F}}_{\text{Alice}}\subseteq {\mathcal {F}}_{\text{Bryan}}}$ ${\displaystyle {\mathcal {F}}_{\text{Bryan}}\subseteq {\mathcal {F}}_{\text{Alice}}}$

Пример 3

Если бы 100 избирателей были выбраны случайным образом из всех избирателей Калифорнии и им задали вопрос, за кого они будут голосовать на выборах губернатора, то множество всех последовательностей из 100 калифорнийских избирателей было бы пространством выборки Ω. Мы предполагаем, что используется выборка без замены : разрешены только последовательности из 100 различных избирателей. Для простоты рассматривается упорядоченная выборка, то есть последовательность (Элис, Брайан) отличается от (Брайан, Элис). Мы также считаем само собой разумеющимся, что каждый потенциальный избиратель точно знает свой будущий выбор, то есть он/она не выбирает случайно.

Алиса знает только, получил ли Арнольд Шварценеггер по крайней мере 60 голосов. Ее неполная информация описывается σ-алгеброй , которая содержит: (1) множество всех последовательностей в Ω, где по крайней мере 60 человек голосуют за Шварценеггера; (2) множество всех последовательностей, где менее 60 голосуют за Шварценеггера; (3) все выборочное пространство Ω; и (4) пустое множество ∅. ${\displaystyle {\mathcal {F}}_{\text{Alice}}}$

Брайан знает точное число избирателей, которые собираются голосовать за Шварценеггера. Его неполная информация описывается соответствующим разбиением Ω = B ₀ ⊔ B ₁ ⊔ ⋯ ⊔ B ₁₀₀ , а σ-алгебра состоит из 2 ¹⁰¹ событий. ${\displaystyle {\mathcal {F}}_{\text{Bryan}}}$

В этом случае σ-алгебра Алисы является подмножеством σ-алгебры Брайана: . σ-алгебра Брайана, в свою очередь, является подмножеством гораздо большей «полной информационной» σ-алгебры 2 ^Ω , состоящей из 2 ^{n ( n −1)⋯( n −99)} событий, где n — число всех потенциальных избирателей в Калифорнии. ${\displaystyle {\mathcal {F}}_{\text{Alice}}\subset {\mathcal {F}}_{\text{Bryan}}}$

Неатомарные примеры

Пример 4

Случайным образом равномерно выбирается число от 0 до 1. Здесь Ω = [0,1] — σ-алгебра борелевских множеств на Ω, а P — мера Лебега на [0,1]. ${\displaystyle {\mathcal {F}}}$

В этом случае в качестве наборов генераторов можно взять открытые интервалы вида ( a , b ) , где 0 < a < b < 1. Каждому такому набору можно приписать вероятность P (( a , b )) = ( b − a ) , которая порождает меру Лебега на [0,1] и σ-алгебру Бореля на Ω.

Пример 5

Честная монета подбрасывается бесконечно. Здесь можно взять Ω = {0,1} ^∞ , множество всех бесконечных последовательностей чисел 0 и 1. Цилиндрические множества {( x ₁ , x ₂ , ...) ∈ Ω : x ₁ = a ₁ , ..., x _n = a _n } могут быть использованы в качестве генераторных множеств. Каждое такое множество описывает событие, в котором первые n подбрасываний привели к фиксированной последовательности ( a ₁ , ..., a _n ) , а остальная часть последовательности может быть произвольной. Каждому такому событию можно естественным образом присвоить вероятность 2 ^{− n} .

Эти два неатомарных примера тесно связаны: последовательность ( x ₁ , x ₂ , ...) ∈ {0,1} ^∞ приводит к числу 2 ⁻¹ x ₁ + 2 ⁻² x ₂ + ⋯ ∈ [0,1] . Однако это не однозначное соответствие между {0,1} ^∞ и [0,1] : это изоморфизм по модулю ноль , который позволяет рассматривать два вероятностных пространства как две формы одного и того же вероятностного пространства. Фактически, все непатологические неатомарные вероятностные пространства одинаковы в этом смысле. Это так называемые стандартные вероятностные пространства . Основные приложения вероятностных пространств нечувствительны к стандартности. Однако недискретное обусловливание легко и естественно на стандартных вероятностных пространствах, в противном случае оно становится неясным.

Связанные концепции

Распределение вероятностей

Случайные величины

Случайная величина X — это измеримая функция X : Ω → S из пространства выборок Ω в другое измеримое пространство S, называемое пространством состояний .

Если A ⊂ S , то обозначение Pr( X ∈ A ) является общепринятым сокращением для . ${\displaystyle P(\{\omega \in \Omega :X(\omega )\in A\})}$

Определение событий с точки зрения выборочного пространства

Если Ω счетно , мы почти всегда определяем как множество мощности Ω, т.е. которое тривиально является σ-алгеброй и самой большой, которую мы можем создать с помощью Ω. Поэтому мы можем опустить и просто написать (Ω,P) для определения вероятностного пространства. ${\displaystyle {\mathcal {F}}}$ ${\displaystyle {\mathcal {F}}=2^{\Omega }}$ ${\displaystyle {\mathcal {F}}}$

С другой стороны, если Ω несчетно и мы используем , то сталкиваемся с трудностями при определении нашей вероятностной меры P, поскольку она слишком «большая», т. е. часто будут существовать множества, которым невозможно присвоить уникальную меру. В этом случае нам придется использовать меньшую σ-алгебру , например, алгебру Бореля Ω, которая является наименьшей σ-алгеброй, делающей все открытые множества измеримыми. ${\displaystyle {\mathcal {F}}=2^{\Omega }}$ ${\displaystyle {\mathcal {F}}}$ ${\displaystyle {\mathcal {F}}}$

Условная вероятность

Определение вероятностных пространств Колмогоровым порождает естественное понятие условной вероятности. Каждое множество A с ненулевой вероятностью (то есть P ( A ) > 0 ) определяет другую вероятностную меру на пространстве. Обычно это произносится как «вероятность B при условии A ». $${\displaystyle P(B\mid A)={P(B\cap A) \over P(A)}}$$

Для любого события A такого, что P ( A ) > 0 , функция Q, определяемая формулой Q ( B ) = P ( B  |  A ) для всех событий B, сама по себе является вероятностной мерой.

Независимость

Два события A и B называются независимыми, если P ( A ∩ B ) = P ( A ) P ( B ) .

Две случайные величины, X и Y , называются независимыми, если любое событие, определенное в терминах X, не зависит от любого события, определенного в терминах Y. Формально они порождают независимые σ-алгебры, где две σ-алгебры G и H , являющиеся подмножествами F , называются независимыми, если любой элемент G независим от любого элемента H.

Взаимная исключительность

Два события, A и B, называются взаимоисключающими или несовместными , если наступление одного из них подразумевает ненаступление другого, т. е. их пересечение пусто. Это более сильное условие, чем вероятность того, что их пересечение равно нулю.

Если A и B — несовместные события, то P ( A ∪ B ) = P ( A ) + P ( B ) . Это распространяется на (конечную или счетно бесконечную) последовательность событий. Однако вероятность объединения несчетного множества событий не является суммой их вероятностей. Например, если Z — нормально распределенная случайная величина, то P ( Z = x ) равно 0 для любого x , но P ( Z ∈ R ) = 1 .

Событие A ∩ B обозначается как « A и B », а событие A ∪ B — как « A или B ».

Смотрите также

• Космос (математика)
• Измерение пространства
• Теория нечеткой меры
• Фильтрованное вероятностное пространство
• Неравенство концентрации Талагранда

Ссылки

1. Лоэв, Мишель. Теория вероятностей, т. 1. Нью-Йорк: D. Van Nostrand Company, 1955.
2. Stroock, DW (1999). Теория вероятностей: аналитический взгляд. Cambridge University Press.

Библиография

• Пьер Симон де Лаплас (1812) Аналитическая теория вероятностей

Первый крупный трактат, сочетающий исчисление с теорией вероятностей, первоначально на французском языке: Théorie Analytique des Probabilités .

• Андрей Николаевич Колмогоров (1950) Основы теории вероятностей

Современное теоретико-мерное основание теории вероятностей; оригинальная немецкая версия ( Grundbegriffe der Wahrscheinlichkeitrechnung ) появилась в 1933 году.

• Гарольд Джеффрис (1939) Теория вероятностей

Эмпирический, байесовский подход к основам теории вероятностей.

• Эдвард Нельсон (1987) Радикально элементарная теория вероятностей

Основы теории вероятностей на основе нестандартного анализа. Загружаемый. http://www.math.princeton.edu/~nelson/books.html

• Патрик Биллингсли : Вероятность и мера , John Wiley and Sons, Нью-Йорк, Торонто, Лондон, 1979.
• Хенк Теймс (2004) Понимание вероятности

Живое введение в теорию вероятностей для начинающих, Cambridge Univ. Press.

• Дэвид Уильямс (1991) Вероятность с мартингалами

Введение в теорию вероятности на основе меры для студентов, Cambridge Univ. Press.

• Гут, Аллан (2005). Вероятность: курс для выпускников . Springer. ISBN 0-387-22833-0.

Внешние ссылки

• Сазонов, В.В. (2001) [1994], "Вероятностное пространство", Энциклопедия математики , Издательство ЭМС
• Анимация, демонстрирующая вероятностное пространство игральных костей
• Виртуальные лаборатории по вероятностям и статистике (главный автор Кайл Сигрист), в частности, вероятностные пространства
• Гражданство
• Полное вероятностное пространство
• Вайсштейн, Эрик В. «Вероятностное пространство». MathWorld .