Случайная величина

Переменная, представляющая случайное явление

Случайная величина (также называемая случайной величиной , алеаторной переменной или стохастической переменной ) — это математическая формализация величины или объекта, которая зависит от случайных событий. ^[1] Термин «случайная величина» в его математическом определении не относится ни к случайности, ни к изменчивости ^[2] , а вместо этого является математической функцией , в которой

• домен — это множество возможных результатов в пространстве выборки (например, множество , которое является возможными верхними сторонами перевернутой монеты — орлом или решкой в ​​результате подбрасывания монеты); и ${\displaystyle \{H,T\}}$ ${\displaystyle H}$ ${\displaystyle T}$
• диапазон - это измеримое пространство (например, соответствующий области выше, диапазон может быть множеством, если, скажем, головы отображены в -1 и отображены в 1). Обычно диапазон случайной величины - это подмножество действительных чисел . ${\displaystyle \{-1,1\}}$ ${\displaystyle H}$ ${\displaystyle T}$

Этот график показывает, как случайная величина является функцией от всех возможных результатов до действительных значений. Он также показывает, как случайная величина используется для определения функций массы вероятности.

Неформально, случайность обычно представляет собой некий фундаментальный элемент случайности, например, в броске игральной кости ; она также может представлять собой неопределенность, например, ошибку измерения . ^[1] Однако интерпретация вероятности философски сложна, и даже в конкретных случаях не всегда проста. Чисто математический анализ случайных величин независим от таких трудностей интерпретации и может быть основан на строгой аксиоматической установке.

На формальном математическом языке теории меры случайная величина определяется как измеримая функция из пространства меры вероятности (называемого пространством выборки ) в измеримое пространство . Это позволяет рассмотреть меру pushforward , которая называется распределением случайной величины; распределение, таким образом, является вероятностной мерой на множестве всех возможных значений случайной величины. Две случайные величины могут иметь идентичные распределения, но существенно различаться; например, они могут быть независимыми .

Обычно рассматриваются особые случаи дискретных случайных величин и абсолютно непрерывных случайных величин , соответствующие тому, оценивается ли случайная величина в счетном подмножестве или в интервале действительных чисел . Существуют и другие важные возможности, особенно в теории стохастических процессов , где естественно рассматривать случайные последовательности или случайные функции . Иногда случайная величина считается автоматически оцениваемой в действительных числах, а более общие случайные величины вместо этого называются случайными элементами .

По словам Джорджа Макки , Пафнутий Чебышев был первым человеком, «который мыслил систематически в терминах случайных величин» ^{[3] .}

Определение

Случайная величина — это измеримая функция из выборочного пространства как набора возможных результатов в измеримое пространство . Техническое аксиоматическое определение требует, чтобы выборочное пространство было выборочным пространством тройки вероятностей (см. определение теории меры). Случайная величина часто обозначается заглавными латинскими буквами , например . ^[4] ${\displaystyle X}$ ${\displaystyle X\colon \Omega \to E}$ ${\displaystyle \Omega }$ ${\displaystyle E}$ ${\displaystyle \Omega }$ ${\displaystyle (\Omega ,{\mathcal {F}},\operatorname {P} )}$ ${\displaystyle X,Y,Z,T}$

Вероятность того, что она принимает значение в измеримом множестве, записывается как ${\displaystyle X}$ ${\displaystyle S\subseteq E}$

${\displaystyle \operatorname {P} (X\in S)=\operatorname {P} (\{\omega \in \Omega \mid X(\omega )\in S\})}$.

Стандартный случай

Во многих случаях имеет действительное значение , т. е . . В некоторых контекстах термин случайный элемент (см. расширения) используется для обозначения случайной величины не этой формы. ${\displaystyle X}$ ${\displaystyle E=\mathbb {R} }$

Когда изображение (или диапазон) конечно или бесконечно счетно , случайная величина называется дискретной случайной величиной ^{[5] : 399} и ее распределение является дискретным распределением вероятностей , т.е. может быть описано функцией массы вероятности , которая назначает вероятность каждому значению в изображении . Если изображение несчетно бесконечно (обычно интервал ), то называется непрерывной случайной величиной . ^{[6] [7]} В особом случае, когда оно абсолютно непрерывно , его распределение может быть описано функцией плотности вероятности , которая назначает вероятности интервалам; в частности, каждая отдельная точка обязательно должна иметь нулевую вероятность для абсолютно непрерывной случайной величины. Не все непрерывные случайные величины являются абсолютно непрерывными. ^[8] ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X}$

Любую случайную величину можно описать ее кумулятивной функцией распределения , которая описывает вероятность того, что случайная величина будет меньше или равна определенному значению.

Расширения

Термин «случайная величина» в статистике традиционно ограничивается действительным случаем ( ). В этом случае структура действительных чисел позволяет определить такие величины, как математическое ожидание и дисперсия случайной величины, ее кумулятивная функция распределения и моменты ее распределения. ${\displaystyle E=\mathbb {R} }$

Однако, определение выше справедливо для любого измеримого пространства значений. Таким образом, можно рассматривать случайные элементы других множеств , такие как случайные булевы значения , категориальные значения , комплексные числа , векторы , матрицы , последовательности , деревья , множества , формы , многообразия и функции . Затем можно конкретно ссылаться на случайную величину типа или -значную случайную величину . ${\displaystyle E}$ ${\displaystyle E}$ ${\displaystyle E}$ ${\displaystyle E}$

Эта более общая концепция случайного элемента особенно полезна в таких дисциплинах, как теория графов , машинное обучение , обработка естественного языка и других областях дискретной математики и компьютерных наук , где часто интересуются моделированием случайного изменения нечисловых структур данных . В некоторых случаях, тем не менее, удобно представлять каждый элемент , используя одно или несколько действительных чисел. В этом случае случайный элемент может быть факультативно представлен как вектор действительных случайных величин (все они определены на одном и том же базовом вероятностном пространстве , что позволяет различным случайным величинам ковариировать ). Например: ${\displaystyle E}$ ${\displaystyle \Omega }$

• Случайное слово может быть представлено как случайное целое число, которое служит индексом в словаре возможных слов. Альтернативно, его можно представить как случайный вектор-индикатор, длина которого равна размеру словаря, где единственными значениями положительной вероятности являются , , а позиция 1 указывает на слово. ${\displaystyle (1\ 0\ 0\ 0\ \cdots )}$ ${\displaystyle (0\ 1\ 0\ 0\ \cdots )}$ ${\displaystyle (0\ 0\ 1\ 0\ \cdots )}$
• Случайное предложение заданной длины можно представить в виде вектора случайных слов. ${\displaystyle N}$ ${\displaystyle N}$
• Случайный граф на заданных вершинах можно представить в виде матрицы случайных величин, значения которых задают матрицу смежности случайного графа. ${\displaystyle N}$ ${\displaystyle N\times N}$
• Случайную функцию можно представить как набор случайных величин , дающих значения функции в различных точках области определения функции. Это обычные действительные случайные величины при условии, что функция является действительной. Например, стохастический процесс является случайной функцией времени, случайный вектор является случайной функцией некоторого набора индексов, такого как , а случайное поле является случайной функцией на любом наборе (обычно времени, пространства или дискретного набора). ${\displaystyle F}$ ${\displaystyle F(x)}$ ${\displaystyle x}$ ${\displaystyle F(x)}$ ${\displaystyle 1,2,\ldots ,n}$

Функции распределения

Если задана случайная величина, определенная на вероятностном пространстве , мы можем задать вопросы типа «Насколько вероятно, что значение равно 2?». Это то же самое, что вероятность события , которое часто записывается как или для краткости. ${\displaystyle X\colon \Omega \to \mathbb {R} }$ ${\displaystyle (\Omega ,{\mathcal {F}},\operatorname {P} )}$ ${\displaystyle X}$ ${\displaystyle \{\omega :X(\omega )=2\}\,\!}$ ${\displaystyle P(X=2)\,\!}$ ${\displaystyle p_{X}(2)}$

Запись всех этих вероятностей выходов случайной величины дает распределение вероятностей . Распределение вероятностей «забывает» о конкретном вероятностном пространстве, используемом для определения , и записывает только вероятности различных выходных значений . Такое распределение вероятностей, если оно имеет вещественные значения, всегда может быть получено с помощью его кумулятивной функции распределения ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X}$

${\displaystyle F_{X}(x)=\operatorname {P} (X\leq x)}$

и иногда также с использованием функции плотности вероятности , . В терминах теории меры мы используем случайную величину для «проталкивания» меры на к мере на . Мера называется «распределением (вероятности) » или «законом ». ^[9] Плотность , производная Радона–Никодима от относительно некоторой эталонной меры на (часто эта эталонная мера является мерой Лебега в случае непрерывных случайных величин или счетной мерой в случае дискретных случайных величин). Базовое вероятностное пространство — это техническое устройство, используемое для гарантии существования случайных величин, иногда для их построения и для определения таких понятий, как корреляция и зависимость или независимость, основанных на совместном распределении двух или более случайных величин в одном и том же вероятностном пространстве. На практике часто полностью избавляются от пространства и просто накладывают меру на , которая назначает меру 1 всей действительной прямой, т. е. работают с распределениями вероятностей вместо случайных величин. См. статью о квантильных функциях для более полного развития. ${\displaystyle f_{X}}$ ${\displaystyle X}$ ${\displaystyle P}$ ${\displaystyle \Omega }$ ${\displaystyle p_{X}}$ ${\displaystyle \mathbb {R} }$ ${\displaystyle p_{X}}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle f_{X}=dp_{X}/d\mu }$ ${\displaystyle p_{X}}$ ${\displaystyle \mu }$ ${\displaystyle \mathbb {R} }$ ${\displaystyle \Omega }$ ${\displaystyle \Omega }$ ${\displaystyle \mathbb {R} }$

Примеры

Дискретная случайная величина

Рассмотрим эксперимент, в котором человек выбирается случайным образом. Примером случайной величины может быть рост человека. Математически случайная величина интерпретируется как функция, которая сопоставляет человека с его ростом. Со случайной величиной связано распределение вероятностей, которое позволяет вычислить вероятность того, что рост находится в любом подмножестве возможных значений, например, вероятность того, что рост находится между 180 и 190 см, или вероятность того, что рост либо меньше 150, либо больше 200 см.

Другой случайной величиной может быть количество детей у человека; это дискретная случайная величина с неотрицательными целыми значениями. Она позволяет вычислять вероятности для отдельных целых значений — функцию массы вероятности (PMF) — или для наборов значений, включая бесконечные наборы. Например, интересующим событием может быть «четное количество детей». Как для конечных, так и для бесконечных наборов событий их вероятности можно найти, сложив PMF элементов; то есть вероятность четного количества детей равна бесконечной сумме . ${\displaystyle \operatorname {PMF} (0)+\operatorname {PMF} (2)+\operatorname {PMF} (4)+\cdots }$

В таких примерах выборочное пространство часто подавляется, поскольку его математически трудно описать, и возможные значения случайных величин затем рассматриваются как выборочное пространство. Но когда две случайные величины измеряются на одном и том же выборочном пространстве результатов, например, рост и количество детей вычисляются на одних и тех же случайных лицах, легче отслеживать их взаимосвязь, если признать, что и рост, и количество детей исходят от одного и того же случайного лица, например, так что можно задать вопросы о том, коррелируют ли такие случайные величины или нет.

Если — счетные множества действительных чисел, и , то — дискретная функция распределения. Здесь для , для . Взяв, например, перечисление всех рациональных чисел как , получаем дискретную функцию, которая не обязательно является ступенчатой ​​функцией (кусочно-постоянной). ${\textstyle \{a_{n}\},\{b_{n}\}}$ ${\textstyle b_{n}>0}$ ${\textstyle \sum _{n}b_{n}=1}$ ${\textstyle F=\sum _{n}b_{n}\delta _{a_{n}}(x)}$ ${\displaystyle \delta _{t}(x)=0}$ ${\displaystyle x<t}$ ${\displaystyle \delta _{t}(x)=1}$ ${\displaystyle x\geq t}$ ${\displaystyle \{a_{n}\}}$

Подбрасывание монеты

Возможные результаты для одного подбрасывания монеты можно описать с помощью выборочного пространства . Мы можем ввести действительную случайную величину , которая моделирует выплату в $1 за успешную ставку на орла следующим образом: ${\displaystyle \Omega =\{{\text{heads}},{\text{tails}}\}}$ ${\displaystyle Y}$ $${\displaystyle Y(\omega )={\begin{cases}1,&{\text{if }}\omega ={\text{heads}},\\[6pt]0,&{\text{if }}\omega ={\text{tails}}.\end{cases}}}$$

Если монета является честной , то Y имеет функцию массы вероятности, заданную следующим образом: ${\displaystyle f_{Y}}$ $${\displaystyle f_{Y}(y)={\begin{cases}{\tfrac {1}{2}},&{\text{if }}y=1,\\[6pt]{\tfrac {1}{2}},&{\text{if }}y=0,\end{cases}}}$$

Бросок костей

Если выборочное пространство представляет собой множество возможных чисел, выпавших на двух игральных костях, а интересующая нас случайная величина представляет собой сумму S чисел на двух игральных костях, то S является дискретной случайной величиной, распределение которой описывается функцией массы вероятности , представленной здесь как высота столбцов изображения.

Случайная величина также может быть использована для описания процесса бросания игральных костей и возможных результатов. Наиболее очевидным представлением для случая двух игральных костей является взятие набора пар чисел n ₁ и n ₂ из {1, 2, 3, 4, 5, 6} (представляющих числа на двух игральных костях) в качестве выборочного пространства. Общее выпавшее число (сумма чисел в каждой паре) является тогда случайной величиной X, заданной функцией, которая отображает пару в сумму: и (если игральные кости честные ) имеет функцию массы вероятности f _X, заданную как: $${\displaystyle X((n_{1},n_{2}))=n_{1}+n_{2}}$$ $${\displaystyle f_{X}(S)={\frac {\min(S-1,13-S)}{36}},{\text{ for }}S\in \{2,3,4,5,6,7,8,9,10,11,12\}}$$

Непрерывная случайная величина

Формально, непрерывная случайная величина — это случайная величина, кумулятивная функция распределения которой непрерывна всюду. ^[10] Не существует « пробелов », которые соответствовали бы числам, имеющим конечную вероятность появления . Вместо этого непрерывные случайные величины почти никогда не принимают точно предписанного значения c (формально, ), но существует положительная вероятность того, что ее значение будет лежать в определенных интервалах , которые могут быть сколь угодно малыми . Непрерывные случайные величины обычно допускают функции плотности вероятности (PDF), которые характеризуют их CDF и меры вероятности ; такие распределения также называются абсолютно непрерывными ; но некоторые непрерывные распределения являются сингулярными или смесями абсолютно непрерывной части и сингулярной части. ${\textstyle \forall c\in \mathbb {R} :\;\Pr(X=c)=0}$

Примером непрерывной случайной величины может быть та, которая основана на счетчике, который может выбирать горизонтальное направление. Тогда значения, принимаемые случайной величиной, являются направлениями. Мы могли бы представить эти направления как Север, Запад, Восток, Юг, Юго-Восток и т. д. Однако обычно удобнее сопоставлять пространство выборки со случайной величиной, которая принимает значения, являющиеся действительными числами. Это можно сделать, например, сопоставив направление с направлением в градусах по часовой стрелке от Севера. Затем случайная величина принимает значения, являющиеся действительными числами из интервала [0, 360), причем все части диапазона являются «одинаково вероятными». В этом случае X = угол вращения. Любое действительное число имеет нулевую вероятность выбора, но положительную вероятность можно присвоить любому диапазону значений. Например, вероятность выбора числа в [0, 180] равна 1 ⁄ 2 . Вместо того чтобы говорить о функции массы вероятности, мы говорим, что плотность вероятности X равна 1/360. Вероятность подмножества [0, 360) можно вычислить, умножив меру множества на 1/360. В общем случае вероятность множества для заданной непрерывной случайной величины можно вычислить, проинтегрировав плотность по заданному множеству.

Более формально, если задан любой интервал , случайная величина называется « непрерывной равномерной случайной величиной» (CURV), если вероятность того, что она примет значение в подынтервале, зависит только от длины подынтервала. Это означает, что вероятность попадания в любой подынтервал пропорциональна длине подынтервала , то есть , если a ≤ c ≤ d ≤ b , то ${\textstyle I=[a,b]=\{x\in \mathbb {R} :a\leq x\leq b\}}$ ${\displaystyle X_{I}\sim \operatorname {U} (I)=\operatorname {U} [a,b]}$ ${\displaystyle X_{I}}$ ${\displaystyle [c,d]\subseteq [a,b]}$

$${\displaystyle \Pr \left(X_{I}\in [c,d]\right)={\frac {d-c}{b-a}}}$$

где последнее равенство следует из аксиомы унитарности вероятности. Функция плотности вероятности CURV задается индикаторной функцией ее интервала поддержки , нормализованной по длине интервала: Особый интерес представляет равномерное распределение на единичном интервале . Образцы любого желаемого распределения вероятности могут быть получены путем вычисления квантильной функции на случайно сгенерированном числе, равномерно распределенном на единичном интервале. Это использует свойства кумулятивных функций распределения , которые являются объединяющей структурой для всех случайных величин. ${\displaystyle X\sim \operatorname {U} [a,b]}$ $${\displaystyle f_{X}(x)={\begin{cases}\displaystyle {1 \over b-a},&a\leq x\leq b\\0,&{\text{otherwise}}.\end{cases}}}$$ ${\displaystyle [0,1]}$ ${\displaystyle \operatorname {D} }$ ${\displaystyle \operatorname {D} }$

Смешанный тип

Смешанная случайная величина — это случайная величина, кумулятивная функция распределения которой не является ни дискретной , ни всюду непрерывной . ^[10] Она может быть реализована как смесь дискретной случайной величины и непрерывной случайной величины; в этом случае CDF будет средневзвешенным CDF компонентных переменных. ^[10]

Пример случайной величины смешанного типа будет основан на эксперименте, в котором монета подбрасывается, а вертушка раскручивается только в том случае, если результатом подбрасывания монеты является орел. Если результатом является решка, X = −1; в противном случае X = значение вертушки, как в предыдущем примере. Существует вероятность 1 ⁄ 2 , что эта случайная величина будет иметь значение −1. Другие диапазоны значений будут иметь половину вероятностей последнего примера.

В самом общем случае каждое распределение вероятностей на действительной прямой представляет собой смесь дискретной части, сингулярной части и абсолютно непрерывной части; см. теорему Лебега о разложении § Уточнение . Дискретная часть сосредоточена на счетном множестве, но это множество может быть плотным (как множество всех рациональных чисел).

Теоретико-мерное определение

Наиболее формальное, аксиоматическое определение случайной величины включает в себя теорию меры . Непрерывные случайные величины определяются в терминах множеств чисел, а также функций, которые отображают такие множества в вероятности. Из-за различных трудностей (например, парадокса Банаха-Тарского ), которые возникают, если такие множества недостаточно ограничены, необходимо ввести то, что называется сигма-алгеброй, чтобы ограничить возможные множества, по которым могут быть определены вероятности. Обычно используется конкретная такая сигма-алгебра, σ-алгебра Бореля , которая позволяет определять вероятности по любым множествам, которые могут быть получены либо непосредственно из непрерывных интервалов чисел, либо с помощью конечного или счетного бесконечного числа объединений и/или пересечений таких интервалов. ^[11]

Теоретико-мерное определение выглядит следующим образом.

Пусть будет вероятностным пространством и измеримым пространством . Тогда -значная случайная величина является измеримой функцией , что означает, что для каждого подмножества его прообраз -измерим ; , где . ^[12] Это определение позволяет нам измерить любое подмножество в целевом пространстве, глядя на его прообраз, который по предположению измерим. ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle (E,{\mathcal {E}})}$ ${\displaystyle (E,{\mathcal {E}})}$ ${\displaystyle X\colon \Omega \to E}$ ${\displaystyle B\in {\mathcal {E}}}$ ${\displaystyle {\mathcal {F}}}$ ${\displaystyle X^{-1}(B)\in {\mathcal {F}}}$ ${\displaystyle X^{-1}(B)=\{\omega :X(\omega )\in B\}}$ ${\displaystyle B\in {\mathcal {E}}}$

В более интуитивно понятных терминах, член является возможным результатом, член является измеримым подмножеством возможных результатов, функция дает вероятность каждого такого измеримого подмножества, представляет набор значений, которые может принимать случайная величина (например, набор действительных чисел), а член является «хорошо себя ведущим» (измеримым) подмножеством (теми, для которых вероятность может быть определена). Случайная величина тогда является функцией от любого результата к величине, такой, что результаты, приводящие к любому полезному подмножеству величин для случайной величины, имеют хорошо определенную вероятность. ${\displaystyle \Omega }$ ${\displaystyle {\mathcal {F}}}$ ${\displaystyle P}$ ${\displaystyle E}$ ${\displaystyle {\mathcal {E}}}$ ${\displaystyle E}$

Когда является топологическим пространством , то наиболее распространенным выбором для σ-алгебры является σ-алгебра Бореля , которая является σ-алгеброй, порожденной совокупностью всех открытых множеств в . В таком случае -значная случайная величина называется -значной случайной величиной . Более того, когда пространство является действительной прямой , то такая действительнозначная случайная величина называется просто случайной величиной . ${\displaystyle E}$ ${\displaystyle {\mathcal {E}}}$ ${\displaystyle {\mathcal {B}}(E)}$ ${\displaystyle E}$ ${\displaystyle (E,{\mathcal {E}})}$ ${\displaystyle E}$ ${\displaystyle E}$ ${\displaystyle \mathbb {R} }$

Действительные случайные величины

В этом случае пространство наблюдения — это множество действительных чисел. Напомним, — это вероятностное пространство. Для действительного пространства наблюдения функция является действительной случайной величиной, если ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ ${\displaystyle X\colon \Omega \rightarrow \mathbb {R} }$

${\displaystyle \{\omega :X(\omega )\leq r\}\in {\mathcal {F}}\qquad \forall r\in \mathbb {R} .}$

Это определение является частным случаем вышеприведенного, поскольку множество порождает борелевскую σ-алгебру на множестве действительных чисел, и достаточно проверить измеримость на любом порождающем множестве. Здесь мы можем доказать измеримость на этом порождающем множестве, используя тот факт, что . ${\displaystyle \{(-\infty ,r]:r\in \mathbb {R} \}}$ ${\displaystyle \{\omega :X(\omega )\leq r\}=X^{-1}((-\infty ,r])}$

Моменты

Распределение вероятностей случайной величины часто характеризуется небольшим числом параметров, которые также имеют практическую интерпретацию. Например, часто достаточно знать, каково ее «среднее значение». Это отражается в математической концепции ожидаемого значения случайной величины, обозначаемой , а также называемой первым моментом . В общем случае не равно . Как только «среднее значение» известно, можно спросить, насколько далеки от этого среднего значения значения , на этот вопрос отвечают дисперсия и стандартное отклонение случайной величины. можно интуитивно рассматривать как среднее значение, полученное из бесконечной совокупности, члены которой являются частными оценками . ${\displaystyle \operatorname {E} [X]}$ ${\displaystyle \operatorname {E} [f(X)]}$ ${\displaystyle f(\operatorname {E} [X])}$ ${\displaystyle X}$ ${\displaystyle \operatorname {E} [X]}$ ${\displaystyle X}$

Математически это известно как (обобщенная) проблема моментов : для заданного класса случайных величин найти набор функций, такой, чтобы значения ожиданий полностью характеризовали распределение случайной величины . ${\displaystyle X}$ ${\displaystyle \{f_{i}\}}$ ${\displaystyle \operatorname {E} [f_{i}(X)]}$ ${\displaystyle X}$

Моменты могут быть определены только для действительных функций случайных величин (или комплексных и т. д.). Если случайная величина сама является действительной, то могут быть взяты моменты самой переменной, которые эквивалентны моментам функции тождества случайной величины. Однако даже для недействительных случайных величин могут быть взяты моменты действительных функций этих переменных. Например, для категориальной случайной величины X , которая может принимать номинальные значения «красный», «синий» или «зеленый», может быть построена действительная функция ; она использует скобку Айверсона и имеет значение 1, если имеет значение «зеленый», и 0 в противном случае. Затем можно определить ожидаемое значение и другие моменты этой функции. ${\displaystyle f(X)=X}$ ${\displaystyle [X={\text{green}}]}$ ${\displaystyle X}$

Функции случайных величин

Новая случайная величина Y может быть определена путем применения действительной измеримой функции Бореля к результатам действительной случайной величины . То есть, . Тогда кумулятивная функция распределения равна ${\displaystyle g\colon \mathbb {R} \rightarrow \mathbb {R} }$ ${\displaystyle X}$ ${\displaystyle Y=g(X)}$ ${\displaystyle Y}$

${\displaystyle F_{Y}(y)=\operatorname {P} (g(X)\leq y).}$

Если функция обратима (т.е. существует, где — обратная функция ) и либо возрастает, либо убывает , то предыдущее соотношение можно расширить, получив ${\displaystyle g}$ ${\displaystyle h=g^{-1}}$ ${\displaystyle h}$ ${\displaystyle g}$

${\displaystyle F_{Y}(y)=\operatorname {P} (g(X)\leq y)={\begin{cases}\operatorname {P} (X\leq h(y))=F_{X}(h(y)),&{\text{if }}h=g^{-1}{\text{ increasing}},\\\\\operatorname {P} (X\geq h(y))=1-F_{X}(h(y)),&{\text{if }}h=g^{-1}{\text{ decreasing}}.\end{cases}}}$

При тех же гипотезах обратимости , предполагая также дифференцируемость , соотношение между функциями плотности вероятности может быть найдено путем дифференцирования обеих частей приведенного выше выражения по , чтобы получить ^[10] ${\displaystyle g}$ ${\displaystyle y}$

${\displaystyle f_{Y}(y)=f_{X}{\bigl (}h(y){\bigr )}\left|{\frac {dh(y)}{dy}}\right|.}$

Если обратимость отсутствует, но каждый из них допускает не более счетного числа корней (т.е. конечное или счетно бесконечное число таких, что ), то предыдущее соотношение между функциями плотности вероятности можно обобщить с помощью ${\displaystyle g}$ ${\displaystyle y}$ ${\displaystyle x_{i}}$ ${\displaystyle y=g(x_{i})}$

${\displaystyle f_{Y}(y)=\sum _{i}f_{X}(g_{i}^{-1}(y))\left|{\frac {dg_{i}^{-1}(y)}{dy}}\right|}$

где , согласно теореме об обратной функции . Формулы для плотностей не требуют возрастания. ${\displaystyle x_{i}=g_{i}^{-1}(y)}$ ${\displaystyle g}$

В аксиоматическом подходе к вероятности , основанном на теории меры , если случайная величина на и измеримая по Борелю функция , то также является случайной величиной на , поскольку композиция измеримых функций также измерима . (Однако это не обязательно верно, если является измеримой по Лебегу . ^{[ необходима ссылка ]} ) Та же процедура, которая позволила перейти от вероятностного пространства к , может быть использована для получения распределения . ${\displaystyle X}$ ${\displaystyle \Omega }$ ${\displaystyle g\colon \mathbb {R} \rightarrow \mathbb {R} }$ ${\displaystyle Y=g(X)}$ ${\displaystyle \Omega }$ ${\displaystyle g}$ ${\displaystyle (\Omega ,P)}$ ${\displaystyle (\mathbb {R} ,dF_{X})}$ ${\displaystyle Y}$

Пример 1

Пусть — действительная, непрерывная случайная величина и пусть . ${\displaystyle X}$ ${\displaystyle Y=X^{2}}$

${\displaystyle F_{Y}(y)=\operatorname {P} (X^{2}\leq y).}$

Если , то , так что ${\displaystyle y<0}$ ${\displaystyle P(X^{2}\leq y)=0}$

${\displaystyle F_{Y}(y)=0\qquad {\hbox{if}}\quad y<0.}$

Если , то ${\displaystyle y\geq 0}$

${\displaystyle \operatorname {P} (X^{2}\leq y)=\operatorname {P} (|X|\leq {\sqrt {y}})=\operatorname {P} (-{\sqrt {y}}\leq X\leq {\sqrt {y}}),}$

так

${\displaystyle F_{Y}(y)=F_{X}({\sqrt {y}})-F_{X}(-{\sqrt {y}})\qquad {\hbox{if}}\quad y\geq 0.}$

Пример 2

Предположим, что это случайная величина с кумулятивным распределением ${\displaystyle X}$

${\displaystyle F_{X}(x)=P(X\leq x)={\frac {1}{(1+e^{-x})^{\theta }}}}$

где - фиксированный параметр. Рассмотрим случайную величину Тогда, ${\displaystyle \theta >0}$ ${\displaystyle Y=\mathrm {log} (1+e^{-X}).}$

${\displaystyle F_{Y}(y)=P(Y\leq y)=P(\mathrm {log} (1+e^{-X})\leq y)=P(X\geq -\mathrm {log} (e^{y}-1)).\,}$

Последнее выражение можно рассчитать с точки зрения кумулятивного распределения так ${\displaystyle X,}$

${\displaystyle {\begin{aligned}F_{Y}(y)&=1-F_{X}(-\log(e^{y}-1))\\[5pt]&=1-{\frac {1}{(1+e^{\log(e^{y}-1)})^{\theta }}}\\[5pt]&=1-{\frac {1}{(1+e^{y}-1)^{\theta }}}\\[5pt]&=1-e^{-y\theta }.\end{aligned}}}$

которая является кумулятивной функцией распределения (CDF) экспоненциального распределения .

Пример 3

Предположим, что есть случайная величина со стандартным нормальным распределением , плотность которой равна ${\displaystyle X}$

${\displaystyle f_{X}(x)={\frac {1}{\sqrt {2\pi }}}e^{-x^{2}/2}.}$

Рассмотрим случайную величину. Мы можем найти плотность, используя приведенную выше формулу для замены переменных: ${\displaystyle Y=X^{2}.}$

${\displaystyle f_{Y}(y)=\sum _{i}f_{X}(g_{i}^{-1}(y))\left|{\frac {dg_{i}^{-1}(y)}{dy}}\right|.}$

В этом случае изменение не является монотонным , поскольку каждому значению соответствуют два значения (одно положительное и одно отрицательное). Однако из-за симметрии обе половины преобразуются одинаково, т.е. ${\displaystyle Y}$ ${\displaystyle X}$

${\displaystyle f_{Y}(y)=2f_{X}(g^{-1}(y))\left|{\frac {dg^{-1}(y)}{dy}}\right|.}$

Обратное преобразование:

${\displaystyle x=g^{-1}(y)={\sqrt {y}}}$

и его производная

${\displaystyle {\frac {dg^{-1}(y)}{dy}}={\frac {1}{2{\sqrt {y}}}}.}$

Затем,

${\displaystyle f_{Y}(y)=2{\frac {1}{\sqrt {2\pi }}}e^{-y/2}{\frac {1}{2{\sqrt {y}}}}={\frac {1}{\sqrt {2\pi y}}}e^{-y/2}.}$

Это распределение хи-квадрат с одной степенью свободы .

Пример 4

Предположим, что есть случайная величина с нормальным распределением , плотность которой равна ${\displaystyle X}$

${\displaystyle f_{X}(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-(x-\mu )^{2}/(2\sigma ^{2})}.}$

Рассмотрим случайную величину. Мы можем найти плотность, используя приведенную выше формулу для замены переменных: ${\displaystyle Y=X^{2}.}$

${\displaystyle f_{Y}(y)=\sum _{i}f_{X}(g_{i}^{-1}(y))\left|{\frac {dg_{i}^{-1}(y)}{dy}}\right|.}$

В этом случае изменение не является монотонным , поскольку каждое значение имеет два соответствующих значения (одно положительное и одно отрицательное). В отличие от предыдущего примера, в этом случае, однако, нет симметрии, и нам нужно вычислить два различных члена: ${\displaystyle Y}$ ${\displaystyle X}$

${\displaystyle f_{Y}(y)=f_{X}(g_{1}^{-1}(y))\left|{\frac {dg_{1}^{-1}(y)}{dy}}\right|+f_{X}(g_{2}^{-1}(y))\left|{\frac {dg_{2}^{-1}(y)}{dy}}\right|.}$

Обратное преобразование:

${\displaystyle x=g_{1,2}^{-1}(y)=\pm {\sqrt {y}}}$

и его производная

${\displaystyle {\frac {dg_{1,2}^{-1}(y)}{dy}}=\pm {\frac {1}{2{\sqrt {y}}}}.}$

Затем,

${\displaystyle f_{Y}(y)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}{\frac {1}{2{\sqrt {y}}}}(e^{-({\sqrt {y}}-\mu )^{2}/(2\sigma ^{2})}+e^{-(-{\sqrt {y}}-\mu )^{2}/(2\sigma ^{2})}).}$

Это нецентральное распределение хи-квадрат с одной степенью свободы .

Некоторые свойства

• Распределение вероятностей суммы двух независимых случайных величин представляет собой свертку каждого из их распределений.
• Распределения вероятностей не являются векторным пространством — они не замкнуты относительно линейных комбинаций , поскольку они не сохраняют неотрицательность или полный интеграл 1, — но они замкнуты относительно выпуклой комбинации , тем самым образуя выпуклое подмножество пространства функций (или мер).

Эквивалентность случайных величин

Существует несколько различных смыслов, в которых случайные величины можно считать эквивалентными. Две случайные величины могут быть равны, равны почти наверняка или равны по распределению.

Ниже приводится точное определение этих понятий эквивалентности в порядке возрастания их силы.

Равенство в распределении

Если выборочное пространство является подмножеством действительной прямой, случайные величины X и Y равны по распределению (обозначается ), если они имеют одинаковые функции распределения: ${\displaystyle X{\stackrel {d}{=}}Y}$

${\displaystyle \operatorname {P} (X\leq x)=\operatorname {P} (Y\leq x)\quad {\text{for all }}x.}$

Чтобы быть равными в распределении, случайные величины не обязательно должны быть определены на одном и том же вероятностном пространстве. Две случайные величины, имеющие равные функции генерации моментов, имеют одинаковое распределение. Это обеспечивает, например, полезный метод проверки равенства определенных функций независимых, одинаково распределенных (IID) случайных величин . Однако функция генерации моментов существует только для распределений, которые имеют определенное преобразование Лапласа .

Почти наверняка равенство

Две случайные величины X и Y равны почти наверняка (обозначается ) , если и только если вероятность того, что они различны, равна нулю : ${\displaystyle X\;{\stackrel {\text{a.s.}}{=}}\;Y}$

${\displaystyle \operatorname {P} (X\neq Y)=0.}$

Для всех практических целей в теории вероятностей это понятие эквивалентности так же сильно, как и фактическое равенство. Оно связано со следующим расстоянием:

${\displaystyle d_{\infty }(X,Y)=\operatorname {ess} \sup _{\omega }|X(\omega )-Y(\omega )|,}$

где «ess sup» представляет собой существенный супремум в смысле теории меры .

Равенство

Наконец, две случайные величины X и Y равны , если они равны как функции в их измеримом пространстве:

${\displaystyle X(\omega )=Y(\omega )\qquad {\hbox{for all }}\omega .}$

Это понятие, как правило, наименее полезно в теории вероятностей, поскольку на практике и в теории базовое пространство измерений эксперимента редко бывает явно охарактеризовано или даже поддается характеристике.

Конвергенция

Важной темой в математической статистике является получение результатов сходимости для определенных последовательностей случайных величин, например, закона больших чисел и центральной предельной теоремы .

Существуют различные смыслы, в которых последовательность случайных величин может сходиться к случайной величине . Они объясняются в статье о сходимости случайных величин . ${\displaystyle X_{n}}$ ${\displaystyle X}$

Смотрите также

• Математический портал

• Алеаторика
• Алгебра случайных величин
• Событие (теория вероятностей)
• Многомерная случайная величина
• Попарно независимые случайные величины
• Наблюдаемая переменная
• Случайный компактный набор
• Случайный элемент
• Случайная функция
• Случайная мера
• Генератор случайных чисел
• Случайная величина
• Случайный вектор
• Случайность
• Случайный процесс
• Взаимосвязи между распределениями вероятностей

Ссылки

Встроенные цитаты

1. Блицштейн, Джо; Хванг, Джессика (2014). Введение в теорию вероятностей . CRC Press. ISBN 9781466575592.
2. Deisenroth, Marc Peter (2020). Математика для машинного обучения. A. Aldo Faisal, Cheng Soon Ong. Кембридж, Великобритания: Cambridge University Press. ISBN 978-1-108-47004-9. OCLC  1104219401.
3. Джордж Макки (июль 1980 г.). «Гармонический анализ как эксплуатация симметрии – исторический обзор». Бюллетень Американского математического общества . Новая серия. 3 (1).
4. "Случайные величины". www.mathsisfun.com . Получено 21.08.2020 .
5. Йейтс, Дэниел С.; Мур, Дэвид С.; Старнс, Дарен С. (2003). Практика статистики (2-е изд.). Нью-Йорк: Freeman . ISBN 978-0-7167-4773-4. Архивировано из оригинала 2005-02-09.
6. "Случайные величины". www.stat.yale.edu . Получено 21.08.2020 .
7. Деккинг, Фредерик Мишель; Краайкамп, Корнелис; Лопухаа, Хендрик Пауль; Местер, Людольф Эрвин (2005). «Современное введение в вероятность и статистику». Тексты Спрингера в статистике . дои : 10.1007/1-84628-168-7. ISBN 978-1-85233-896-1. ISSN  1431-875X.
8. Л. Кастанеда; В. Аруначалам и С. Дхармараджа (2012). Введение в теорию вероятностей и стохастических процессов с приложениями. Wiley. стр. 67. ISBN 9781118344941.
9. Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). Wiley. стр. 187. ISBN 9781466575592.
10. Берцекас, Дмитрий П. (2002). Введение в вероятность . Цициклис, Джон Н., Τσιτσικλής, Γιάννης Ν. Бельмонт, Массачусетс: Athena Scientific. ISBN 188652940X. OCLC  51441829.
11. Штайгервальд, Дуглас Г. "Экономика 245A – Введение в теорию меры" (PDF) . Калифорнийский университет, Санта-Барбара . Получено 26 апреля 2013 г. .
12. Фристедт и Грей (1996, стр. 11)

Литература

• Фристедт, Берт; Грей, Лоуренс (1996). Современный подход к теории вероятностей. Бостон: Birkhäuser. ISBN 3-7643-3807-5.
• Биллингсли, Патрик (1995). Вероятность и мера. Нью-Йорк: Wiley. ISBN 8126517719.
• Калленберг, Олав (1986). Случайные меры (4-е изд.). Берлин: Академия Верлаг . ISBN 0-12-394960-2. МР  0854102.
• Калленберг, Олав (2001). Основы современной вероятности (2-е изд.). Берлин: Springer Verlag . ISBN 0-387-95313-2.
• Папулис, Афанасиос (1965). Вероятность, случайные величины и стохастические процессы (9-е изд.). Токио: McGraw–Hill . ISBN 0-07-119981-0.

Внешние ссылки

• «Случайная величина», Энциклопедия математики , EMS Press , 2001 [1994]
• Цукерман, Моше (2014), Введение в теорию очередей и стохастические модели телетрафика (PDF) , arXiv : 1307.2968
• Цукерман, Моше (2014), Основные темы теории вероятностей (PDF)