Функция массы вероятности

Дискретно-переменное распределение вероятностей

График функции массы вероятности. Все значения этой функции должны быть неотрицательными и в сумме давать 1.

В вероятности и статистике функция массы вероятности (иногда называемая функцией вероятности или функцией частоты ^[1] ) — это функция, которая дает вероятность того, что дискретная случайная величина точно равна некоторому значению. ^[2] Иногда ее также называют дискретной функцией плотности вероятности . Функция массы вероятности часто является основным средством определения дискретного распределения вероятностей , и такие функции существуют как для скалярных , так и для многомерных случайных величин, область определения которых является дискретной.

Функция массы вероятности отличается от функции плотности вероятности (PDF) тем, что последняя связана с непрерывными, а не дискретными случайными величинами. PDF должна быть интегрирована по интервалу, чтобы получить вероятность. ^[3]

Значение случайной величины, имеющей наибольшую вероятностную массу, называется модой .

Формальное определение

Функция массы вероятности — это распределение вероятностей дискретной случайной величины , и предоставляет возможные значения и связанные с ними вероятности. Это функция, определяемая как ${\displaystyle p:\mathbb {R} \to [0,1]}$

${\displaystyle p_{X}(x)=P(X=x)}$

для , ^[3] где — вероятностная мера . также может быть упрощена до . ^[4] ${\displaystyle -\infty <x<\infty }$ ${\displaystyle P}$ ${\displaystyle p_{X}(x)}$ ${\displaystyle p(x)}$

Вероятности, связанные со всеми (гипотетическими) значениями, должны быть неотрицательными и в сумме давать 1,

$${\displaystyle \sum _{x}p_{X}(x)=1}$$и $${\displaystyle p_{X}(x)\geq 0.}$$

Рассмотрение вероятности как массы помогает избежать ошибок, поскольку физическая масса сохраняется , как и общая вероятность всех гипотетических результатов . ${\displaystyle x}$

Теоретическая формулировка меры

Вероятностную массовую функцию дискретной случайной величины можно рассматривать как частный случай двух более общих конструкций теории меры: распределения и функции плотности вероятности относительно меры подсчета . Ниже мы уточним это. ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X}$

Предположим, что — вероятностное пространство и что — измеримое пространство, базовая σ-алгебра которого дискретна, поэтому, в частности, содержит одноэлементные множества . В этой настройке случайная величина дискретна, если ее образ счетен. Мера прямого продвижения — называемая распределением в этом контексте — является вероятностной мерой, ограничение которой одноэлементными множествами индуцирует функцию массы вероятности (как упоминалось в предыдущем разделе), поскольку для каждого . ${\displaystyle (A,{\mathcal {A}},P)}$ ${\displaystyle (B,{\mathcal {B}})}$ ${\displaystyle B}$ ${\displaystyle X\colon A\to B}$ ${\displaystyle X_{*}(P)}$ ${\displaystyle X}$ ${\displaystyle B}$ ${\displaystyle f_{X}\colon B\to \mathbb {R} }$ ${\displaystyle f_{X}(b)=P(X^{-1}(b))=P(X=b)}$ ${\displaystyle b\in B}$

Теперь предположим, что — это мерное пространство, снабженное мерой подсчета . Функция плотности вероятности относительно меры подсчета, если она существует, является производной Радона–Никодима меры прямого переноса (относительно меры подсчета), поэтому и является функцией от до неотрицательных действительных чисел. Как следствие, для любого мы имеем ${\displaystyle (B,{\mathcal {B}},\mu )}$ ${\displaystyle \mu }$ ${\displaystyle f}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle f=dX_{*}P/d\mu }$ ${\displaystyle f}$ ${\displaystyle B}$ ${\displaystyle b\in B}$ $${\displaystyle P(X=b)=P(X^{-1}(b))=X_{*}(P)(b)=\int _{b}fd\mu =f(b),}$$

демонстрируя, что на самом деле это функция массы вероятности. ${\displaystyle f}$

Когда среди потенциальных результатов существует естественный порядок , может быть удобно присвоить им числовые значения (или n -кортежи в случае дискретной многомерной случайной величины ) и рассмотреть также значения, не попадающие в изображение . То есть, может быть определено для всех действительных чисел и для всех , как показано на рисунке. ${\displaystyle x}$ ${\displaystyle X}$ ${\displaystyle f_{X}}$ ${\displaystyle f_{X}(x)=0}$ ${\displaystyle x\notin X(S)}$

Образ имеет счетное подмножество, на котором функция массы вероятности равна единице. Следовательно, функция массы вероятности равна нулю для всех, кроме счетного числа значений . ${\displaystyle X}$ ${\displaystyle f_{X}(x)}$ ${\displaystyle x}$

Разрывность функций массы вероятности связана с тем, что кумулятивная функция распределения дискретной случайной величины также разрывна. Если — дискретная случайная величина, то означает, что случайное событие достоверно (оно верно в 100% случаев); напротив, означает, что случайное событие всегда невозможно. Это утверждение неверно для непрерывной случайной величины , для которой для любого возможного . Дискретизация — это процесс преобразования непрерывной случайной величины в дискретную. ${\displaystyle X}$ ${\displaystyle P(X=x)=1}$ ${\displaystyle (X=x)}$ ${\displaystyle P(X=x)=0}$ ${\displaystyle (X=x)}$ ${\displaystyle X}$ ${\displaystyle P(X=x)=0}$ ${\displaystyle x}$

Примеры

Конечный

Существует три основных распределения: распределение Бернулли , биномиальное распределение и геометрическое распределение .

• Распределение Бернулли: ber(p) , используется для моделирования эксперимента только с двумя возможными результатами. Два результата часто кодируются как 1 и 0. Примером распределения Бернулли является подбрасывание монеты. Предположим, что — выборочное пространство всех результатов одного подбрасывания честной монеты , а — случайная величина, определенная путем присвоения 0 категории «решка» и 1 категории «орел». Поскольку монета честная, функция массы вероятности равна $${\displaystyle p_{X}(x)={\begin{cases}p,&{\text{if }}x{\text{ is 1}}\\1-p,&{\text{if }}x{\text{ is 0}}\end{cases}}}$$ ${\displaystyle S}$ ${\displaystyle X}$ ${\displaystyle S}$ $${\displaystyle p_{X}(x)={\begin{cases}{\frac {1}{2}},&x=0,\\{\frac {1}{2}},&x=1,\\0,&x\notin \{0,1\}.\end{cases}}}$$
• Биномиальное распределение моделирует количество успехов, когда кто-то вытягивает n раз с заменой. Каждый вытягивание или эксперимент независимы, с двумя возможными результатами. Соответствующая функция массы вероятности равна . ${\textstyle {\binom {n}{k}}p^{k}(1-p)^{n-k}}$

  

  Функция массы вероятности честной игральной кости . Все числа на игральной кости имеют равные шансы оказаться сверху, когда кость перестает катиться.

  Примером биномиального распределения является вероятность выпадения ровно одного числа 6 при трехкратном подбрасывании игральной кости.
• Геометрическое распределение описывает количество попыток, необходимых для получения одного успеха. Его функция массы вероятности равна . ${\textstyle p_{X}(k)=(1-p)^{k-1}p}$
  Примером может служить подбрасывание монеты до тех пор, пока не выпадет первый «орёл». обозначает вероятность выпадения «орла», а обозначает количество необходимых подбрасываний монеты. ${\displaystyle p}$ ${\displaystyle k}$
  Другими распределениями, которые можно моделировать с помощью функции массы вероятности, являются категориальное распределение (также известное как обобщенное распределение Бернулли) и полиномиальное распределение .
• Если дискретное распределение имеет две или более категорий, одна из которых может иметь место, независимо от того, имеют ли эти категории естественный порядок или нет, когда имеется только одно испытание (выборка), то это категориальное распределение.
• Примером многомерного дискретного распределения и его функции массы вероятности является полиномиальное распределение . Здесь множественные случайные величины представляют собой числа успехов в каждой из категорий после заданного числа испытаний, а каждая ненулевая масса вероятности дает вероятность определенной комбинации чисел успехов в различных категориях.

Бесконечный

Следующее экспоненциально убывающее распределение является примером распределения с бесконечным числом возможных результатов — все положительные целые числа: Несмотря на бесконечное число возможных результатов, общая вероятностная масса составляет 1/2 + 1/4 + 1/8 + ⋯ = 1, что удовлетворяет требованию единичной общей вероятности для распределения вероятностей. $${\displaystyle {\text{Pr}}(X=i)={\frac {1}{2^{i}}}\qquad {\text{for }}i=1,2,3,\dots }$$

Многомерный случай

Две или более дискретных случайных величин имеют совместную функцию массы вероятности, которая определяет вероятность каждой возможной комбинации реализаций случайных величин.

Ссылки

1. 7.2 - Вероятностные массовые функции | STAT 414 - PennState - Eberly College of Science
2. Стюарт, Уильям Дж. (2011). Вероятность, цепи Маркова, очереди и моделирование: математическая основа моделирования производительности. Princeton University Press. стр. 105. ISBN 978-1-4008-3281-1.
3. Современное введение в вероятность и статистику: понимание почему и как . Деккинг, Мишель, 1946-. Лондон: Springer. 2005. ISBN 978-1-85233-896-1. OCLC  262680588.{{cite book}}: CS1 maint: другие ( ссылка )
4. Рао, Сингиресу С. (1996). Инженерная оптимизация: теория и практика (3-е изд.). Нью-Йорк: Wiley. ISBN 0-471-55034-5. OCLC  62080932.

Дальнейшее чтение

• Джонсон, Н. Л.; Коц, С.; Кемп, А. (1993). Одномерные дискретные распределения (2-е изд.). Wiley. стр. 36. ISBN 0-471-54897-9.