Функция массы вероятности

Распределение вероятностей дискретной переменной

График функции вероятностной массы. Все значения этой функции должны быть неотрицательными и в сумме давать 1.

В теории вероятности и статистике функция массы вероятности (иногда называемая функцией вероятности или функцией частоты ^[1] ) — это функция, которая дает вероятность того, что дискретная случайная величина в точности равна некоторому значению. ^[2] Иногда ее также называют дискретной функцией плотности вероятности . Функция массы вероятности часто является основным средством определения дискретного распределения вероятностей , и такие функции существуют как для скалярных , так и для многомерных случайных величин , область определения которых дискретна.

Функция массы вероятности отличается от функции плотности вероятности (PDF) тем, что последняя связана с непрерывными, а не дискретными случайными величинами. PDF должен быть проинтегрирован по интервалу, чтобы получить вероятность. ^[3]

Значение случайной величины, имеющее наибольшую массу вероятности, называется модой .

Формальное определение

Функция массы вероятности представляет собой распределение вероятностей дискретной случайной величины и определяет возможные значения и связанные с ними вероятности. Это функция , определяемая ${\displaystyle p:\mathbb {R} \to [0,1]}$

${\displaystyle p_{X}(x)=P(X=x)}$

для , ^[3] где – вероятностная мера . также можно упростить как . ^[4] ${\displaystyle -\infty <x<\infty }$ ${\displaystyle P}$ ${\displaystyle p_{X}(x)}$ ${\displaystyle p(x)}$

Вероятности, связанные со всеми (гипотетическими) значениями, должны быть неотрицательными и в сумме достигать 1.

$${\displaystyle \sum _{x}p_{X}(x)=1}$$

$${\displaystyle p_{X}(x)\geq 0.}$$

Представление о вероятности как о массе помогает избежать ошибок, поскольку физическая масса сохраняется, как и общая вероятность для всех гипотетических результатов . ${\displaystyle x}$

Теоретическая формулировка меры

Массовую функцию вероятности дискретной случайной величины можно рассматривать как частный случай двух более общих теоретико-мерных конструкций: распределения и функции плотности вероятности относительно считающей меры . Ниже мы уточним это. ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X}$

Предположим, что это вероятностное пространство и это измеримое пространство, основная σ-алгебра которого дискретна, поэтому, в частности, содержит одноэлементные множества . В этом случае случайная величина дискретна, если ее образ счетен. Мера прямого действия , называемая в этом контексте распределением , представляет собой вероятностную меру , ограничение которой на одноэлементные множества вызывает функцию массы вероятности (как упоминалось в предыдущем разделе), поскольку для каждого . ${\displaystyle (A,{\mathcal {A}},P)}$ ${\displaystyle (B,{\mathcal {B}})}$ ${\displaystyle B}$ ${\displaystyle X\colon A\to B}$ ${\displaystyle X_{*}(P)}$ ${\displaystyle X}$ ${\displaystyle B}$ ${\displaystyle f_{X}\colon B\to \mathbb {R} }$ ${\displaystyle f_{X}(b)=P(X^{-1}(b))=P(X=b)}$ ${\displaystyle b\in B}$

Теперь предположим, что это пространство с мерой , снабженное считающей мерой µ. Функция плотности вероятности относительно считающей меры, если она существует, является производной Радона – Никодима прямой меры (относительно считающей меры), поэтому и является функцией от до неотрицательных действительных чисел. Как следствие, для любого имеющегося у нас ${\displaystyle (B,{\mathcal {B}},\mu )}$ ${\displaystyle f}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle f=dX_{*}P/d\mu }$ ${\displaystyle f}$ ${\displaystyle B}$ ${\displaystyle b\in B}$

$${\displaystyle P(X=b)=P(X^{-1}(b))=X_{*}(P)(b)=\int _{b}fd\mu =f(b),}$$

демонстрируя, что это на самом деле функция массы вероятности. ${\displaystyle f}$

Когда существует естественный порядок среди потенциальных результатов , может быть удобно присвоить им числовые значения (или n -кортежи в случае дискретной многомерной случайной величины ) и рассматривать также значения, не соответствующие образу . То есть может быть определено для всех действительных чисел и для всех , как показано на рисунке. ${\displaystyle x}$ ${\displaystyle X}$ ${\displaystyle f_{X}}$ ${\displaystyle f_{X}(x)=0}$ ${\displaystyle x\notin X(S)}$

Образ имеет счетное подмножество, на котором функция массы вероятности равна единице. Следовательно, функция массы вероятности равна нулю для всех, кроме счетного числа значений . ${\displaystyle X}$ ${\displaystyle f_{X}(x)}$ ${\displaystyle x}$

Разрыв функций массы вероятности связан с тем, что кумулятивная функция распределения дискретной случайной величины также является разрывной. Если – дискретная случайная величина, то это означает, что случайное событие достоверно (оно верно в 100% случаев); наоборот, означает, что случайное событие всегда невозможно. Это утверждение неверно для непрерывной случайной величины , для которой для любого возможного . Дискретизация – это процесс преобразования непрерывной случайной величины в дискретную. ${\displaystyle X}$ ${\displaystyle P(X=x)=1}$ ${\displaystyle (X=x)}$ ${\displaystyle P(X=x)=0}$ ${\displaystyle (X=x)}$ ${\displaystyle X}$ ${\displaystyle P(X=x)=0}$ ${\displaystyle x}$

Примеры

Конечный

Связано три основных распределения: распределение Бернулли , биномиальное распределение и геометрическое распределение .

• Распределение Бернулли: ber(p) используется для моделирования эксперимента только с двумя возможными результатами. Эти два результата часто кодируются как 1 и 0.
  $${\displaystyle p_{X}(x)={\begin{cases}p,&{\text{if }}x{\text{ is 1}}\\1-p,&{\text{if }}x{\text{ is 0}}\end{cases}}}$$
  Примером распределения Бернулли является подбрасывание монеты. Предположим, что это выборочное пространство всех результатов одного подбрасывания честной монеты и случайная величина, определенная при присвоении 0 категории «решка» и 1 категории «орёл». Поскольку монета честная, функция массы вероятности равна ${\displaystyle S}$ ${\displaystyle X}$ ${\displaystyle S}$
  $${\displaystyle p_{X}(x)={\begin{cases}{\frac {1}{2}},&x=0,\\{\frac {1}{2}},&x=1,\\0,&x\notin \{0,1\}.\end{cases}}}$$
• Биномиальное распределение моделирует количество успехов, когда кто-то вытягивает n раз с заменой. Каждый розыгрыш или эксперимент независим и имеет два возможных результата. Соответствующая функция массы вероятности равна . ${\textstyle {\binom {n}{k}}p^{k}(1-p)^{n-k}}$

  

  Массовая функция вероятности игральной кости . Все числа на кубике имеют равные шансы оказаться сверху, когда кубик перестанет катиться.

  Примером биномиального распределения является вероятность выпадения ровно одной шестерки, если кто-то трижды бросит честную игральную кость.
• Геометрическое распределение описывает количество попыток, необходимых для достижения одного успеха. Его функция массы вероятности равна . ${\textstyle p_{X}(k)=(1-p)^{k-1}p}$
  Пример — подбрасывание монеты до тех пор, пока не выпадет первый «орёл». обозначает вероятность выпадения «орла» и обозначает количество необходимых бросков монеты. ${\displaystyle p}$ ${\displaystyle k}$
  Другими распределениями, которые можно смоделировать с помощью функции вероятностной массы, являются категориальное распределение (также известное как обобщенное распределение Бернулли) и полиномиальное распределение .
• Если дискретное распределение имеет две или более категории, одна из которых может возникнуть, независимо от того, имеют ли эти категории естественный порядок или нет, то при наличии только одной попытки (розыгрыша) это категориальное распределение.
• Примером многомерного дискретного распределения и его функции вероятностной массы является полиномиальное распределение . Здесь множественные случайные величины представляют собой количество успехов в каждой из категорий после заданного количества испытаний, а каждая ненулевая вероятностная масса дает вероятность определенной комбинации чисел успехов в различных категориях.

бесконечный

Следующее экспоненциально убывающее распределение является примером распределения с бесконечным числом возможных результатов — все положительные целые числа:

$${\displaystyle {\text{Pr}}(X=i)={\frac {1}{2^{i}}}\qquad {\text{for }}i=1,2,3,\dots }$$

Многомерный случай

Две или более дискретных случайных величин имеют совместную массовую функцию вероятности, которая дает вероятность каждой возможной комбинации реализаций случайных величин.

Рекомендации

1. 7.2 - Функции массы вероятности | STAT 414 - PennState - Научный колледж Эберли
2. Стюарт, Уильям Дж. (2011). Вероятность, цепи Маркова, очереди и моделирование: математическая основа моделирования производительности. Издательство Принстонского университета. п. 105. ИСБН 978-1-4008-3281-1.
3. Современное введение в вероятность и статистику: понимание почему и как . Деккинг, Мишель (1946 г.р.). Лондон: Спрингер. 2005. ISBN 978-1-85233-896-1. ОСЛК  262680588.{{cite book}}: CS1 maint: другие ( ссылка )
4. Рао, Сингиресу С. (1996). Инженерная оптимизация: теория и практика (3-е изд.). Нью-Йорк: Уайли. ISBN 0-471-55034-5. ОСЛК  62080932.

дальнейшее чтение

• Джонсон, Нидерланды; Коц, С.; Кемп, А. (1993). Одномерные дискретные распределения (2-е изд.). Уайли. п. 36. ISBN 0-471-54897-9.