Ожидаемое значение

Среднее значение случайной величины

В теории вероятностей ожидаемое значение (также называемое ожиданием , ожиданием , оператором ожидания , математическим ожиданием , средним значением , значением ожидания или первым моментом ) является обобщением средневзвешенного значения . Неформально ожидаемое значение — это среднее арифметическое возможных значений, которые может принять случайная величина , взвешенное с учетом вероятности этих результатов. Поскольку ожидаемое значение получается арифметическим путем, иногда оно может даже не включаться в выборочный набор данных; это не та ценность, которую вы «ожидаете» получить в реальности.

Ожидаемое значение случайной величины с конечным числом исходов представляет собой средневзвешенное значение всех возможных исходов. В случае континуума возможных результатов ожидание определяется интеграцией . В аксиоматической основе вероятности, обеспечиваемой теорией меры , ожидание задается интеграцией Лебега .

Ожидаемое значение случайной величины X часто обозначается E( X ) , E[ X ] или EX , причем E также часто стилизовано как E или ^{[1] [2] [3]} ${\displaystyle \mathbb {E} .}$

История

Идея ожидаемой ценности возникла в середине 17 века в результате изучения так называемой проблемы очков , которая стремится справедливо разделить ставки между двумя игроками, которые должны закончить свою игру до того, как она будет должным образом завершена. законченный. ^[4] Эта проблема обсуждалась на протяжении веков. За годы, когда французский писатель и математик-любитель Шевалье де Мере предложил эту задачу Блезу Паскалю, в течение многих лет было предложено множество противоречивых предложений и решений . Мере утверждал, что эта проблема не может быть решена и что она показывает, насколько ошибочной была математика, когда дело дошло до применения в реальном мире. Паскаль, будучи математиком, был спровоцирован и полон решимости решить проблему раз и навсегда.

Он начал обсуждать проблему в знаменитой серии писем Пьеру де Ферма . Вскоре они оба независимо друг от друга нашли решение. Они решили проблему разными вычислительными способами, но их результаты были идентичны, поскольку их вычисления были основаны на одном и том же фундаментальном принципе. Принцип заключается в том, что ценность будущего выигрыша должна быть прямо пропорциональна шансу его получить. Этот принцип, казалось, был естественен для них обоих. Они были очень довольны тем фактом, что нашли по существу одно и то же решение, а это, в свою очередь, сделало их абсолютно убежденными в том, что они решили проблему окончательно; однако они не опубликовали свои выводы. Они проинформировали об этом лишь небольшой круг общих научных друзей в Париже. ^[5]

В книге голландского математика Христиана Гюйгенса он рассмотрел проблему точек и представил решение, основанное на том же принципе, что и решения Паскаля и Ферма. Гюйгенс опубликовал свой трактат в 1657 году (см. Гюйгенс (1657)) « Deatiociniis in ludo aleæ » по теории вероятностей сразу после посещения Парижа. Книга расширила концепцию ожидания, добавив правила расчета ожиданий в более сложных ситуациях, чем исходная задача (например, для трех и более игроков), и ее можно рассматривать как первую успешную попытку заложить основы теории . вероятности .

В предисловии к своему трактату Гюйгенс писал:

Следует также сказать, что некоторые из лучших математиков Франции с некоторых пор занимались такого рода исчислениями, чтобы никто не приписал мне честь первого изобретения. Это не принадлежит мне. Но эти ученые, хотя и подвергали друг друга испытанию, предлагая друг другу множество трудноразрешимых вопросов, скрывали свои методы. Поэтому мне пришлось самому изучить и углубиться в этот вопрос, начав с элементов, и по этой причине для меня невозможно утверждать, что я вообще начал с того же принципа. Но в конце концов я обнаружил, что мои ответы во многих случаях не отличаются от их ответов.

-  Эдвардс (2002)

Во время своего визита во Францию ​​в 1655 году Гюйгенс узнал о проблеме де Мере . Из своей переписки с Каркавайном год спустя (в 1656 году) он понял, что его метод по сути такой же, как у Паскаля. Поэтому он знал о приоритете Паскаля в этой теме еще до того, как его книга вышла в печать в ^{1657 году .}

В середине девятнадцатого века Пафнутий Чебышев стал первым человеком, который систематически мыслил с точки зрения ожиданий случайных величин . ^[6]

Этимология

Ни Паскаль, ни Гюйгенс не использовали термин «ожидание» в его современном смысле. В частности, Гюйгенс пишет: ^[7]

Что любой шанс или ожидание выигрыша какой-либо вещи стоит ровно такую ​​сумму, которую можно было бы получить с помощью того же шанса и ожидания при честном предложении. ... Если я ожидаю a или b и имею равные шансы на их получение, мое ожидание равно (a+b)/2.

Более чем сто лет спустя, в 1814 году, Пьер-Симон Лаплас опубликовал свой трактат « Аналитическая теория вероятностей », где понятие ожидаемой ценности было определено явно: ^[8]

… это преимущество в теории шансов является произведением суммы надежды на вероятность ее получения; это частичная сумма, которая должна получиться, когда мы не хотим идти на риск, связанный с событием, предполагая, что деление производится пропорционально вероятностям. Это разделение является единственно справедливым, когда устранены все странные обстоятельства; потому что равная степень вероятности дает равное право на получение желаемой суммы. Мы назовем это преимущество математической надеждой.

Обозначения

Использование буквы E для обозначения «ожидаемой стоимости» восходит к У.А. Уитворту в 1901 году. ^[9] С тех пор этот символ стал популярным среди английских писателей. В немецком языке E означает Erwartungswert , в испанском — esperanza matemática , а во французском — espérance mathématique. ^[10]

Когда «E» используется для обозначения «ожидаемого значения», авторы используют множество стилизаций: оператор ожидания может быть стилизован как E (прямой), E (курсив) или ( жирным шрифтом на доске ), в то время как различные обозначения скобок (например , E( X ) , E[ X ] и EX ). ${\displaystyle \mathbb {E} }$

Другое популярное обозначение — µ _X , тогда как ⟨ X ⟩ , ⟨ X ⟩ _av , и обычно используются в физике, ^[11] и M( X ) в русскоязычной литературе. ${\displaystyle {\overline {X}}}$

Определение

Как обсуждалось выше, существует несколько контекстно-зависимых способов определения ожидаемого значения. Самое простое и оригинальное определение касается случая конечного числа возможных результатов, например, при подбрасывании монеты. С помощью теории бесконечных рядов это можно распространить на случай счетного числа возможных исходов. Также очень часто рассматривают отдельный случай случайных величин, диктуемых (кусочно-) непрерывными функциями плотности вероятности , поскольку они возникают во многих естественных контекстах. Все эти конкретные определения можно рассматривать как частные случаи общего определения, основанного на математических инструментах теории меры и интегрирования Лебега , которые обеспечивают этим различным контекстам аксиоматическую основу и общий язык.

Любое определение ожидаемого значения может быть расширено для определения ожидаемого значения многомерной случайной величины, т.е. случайного вектора X. Он определяется покомпонентно, как E[ X ] _i = E[ X _i ] . Аналогично, можно определить ожидаемое значение случайной матрицы X с компонентами X _ij как E[ X ] _ij = E[ X _ij ] .

Случайные величины с конечным числом результатов

Рассмотрим случайную величину X с конечным списком x ₁ , ..., x _k возможных исходов, каждый из которых (соответственно) имеет вероятность p ₁ , ..., p _k наступления. Ожидание X определяется как ^[12]

${\displaystyle \operatorname {E} [X]=x_{1}p_{1}+x_{2}p_{2}+\cdots +x_{k}p_{k}.}$

Поскольку вероятности должны удовлетворять p ₁ + ⋅⋅⋅ + p _k = 1 , естественно интерпретировать E[ X ] как средневзвешенное значение xi с _весами , заданными их вероятностями p _i .

В особом случае, когда все возможные результаты равновероятны ( т. е. p ₁ = ⋅⋅⋅ = p _k ), средневзвешенное значение определяется стандартным средним значением . В общем случае ожидаемое значение учитывает тот факт, что некоторые исходы более вероятны, чем другие.

Примеры

Иллюстрация сходимости средних значений последовательности бросков игральной кости к ожидаемому значению 3,5 по мере увеличения количества бросков (испытаний).

• Представим результат броска честного шестигранного игрального кубика . Точнее, это будет количество очков , отображаемых на верхней грани кубика после броска. Возможные значения : 1, 2, 3, 4, 5 и 6, все из которых одинаково вероятны с вероятностью ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X}$1/6. Ожидание _ ${\displaystyle X}$

${\displaystyle \operatorname {E} [X]=1\cdot {\frac {1}{6}}+2\cdot {\frac {1}{6}}+3\cdot {\frac {1}{6}}+4\cdot {\frac {1}{6}}+5\cdot {\frac {1}{6}}+6\cdot {\frac {1}{6}}=3.5.}$

Если бросить кубик несколько раз и вычислить среднее (среднее арифметическое ) результатов, то по мере роста среднее почти наверняка будет сходиться к ожидаемому значению — факт, известный как сильный закон больших чисел . ${\displaystyle n}$ ${\displaystyle n}$

• Игра в рулетку состоит из небольшого шарика и колеса с 38 пронумерованными лунками по краям. При вращении колеса шарик хаотично подпрыгивает, пока не оседает в одной из лунок. Предположим, случайная величина представляет собой (денежный) результат ставки в 1 доллар на одно число («ставка «прямо вверх»). Если ставка выиграет (что происходит с вероятностью ${\displaystyle X}$1/38в американской рулетке) выигрыш составляет 35 долларов; в противном случае игрок теряет ставку. Ожидаемая прибыль от такой ставки составит

${\displaystyle \operatorname {E} [\,{\text{gain from }}\$1{\text{ bet}}\,]=-\$1\cdot {\frac {37}{38}}+\$35\cdot {\frac {1}{38}}=-\${\frac {1}{19}}.}$

То есть ожидаемая сумма выигрыша по ставке в 1 доллар равна −$.1/19. Таким образом, при 190 ставках чистый убыток, вероятно, составит около 10 долларов.

Случайные величины со счетным и бесконечным числом исходов

Неформально математическое ожидание случайной величины с исчисляемым бесконечным набором возможных результатов определяется аналогично как средневзвешенное значение всех возможных результатов, где веса задаются вероятностями реализации каждого заданного значения. Это значит, что

${\displaystyle \operatorname {E} [X]=\sum _{i=1}^{\infty }x_{i}\,p_{i},}$

где x ₁ , x ₂ , ... - возможные результаты случайной величины X, а p ₁ , p ₂ , ... - их соответствующие вероятности. Во многих нематематических учебниках это представлено как полное определение ожидаемых значений в этом контексте. ^[13]

Однако при бесконечном суммировании есть некоторые тонкости, поэтому приведенная выше формула не подходит в качестве математического определения. В частности, теорема математического анализа о рядах Римана показывает, что значение некоторых бесконечных сумм, включающих положительные и отрицательные слагаемые, зависит от порядка, в котором эти слагаемые заданы. Поскольку результаты случайной величины не имеют естественно заданного порядка, это создает трудности в точном определении ожидаемого значения.

По этой причине во многих учебниках математики рассматривается только случай, когда приведенная выше бесконечная сумма сходится абсолютно , что означает, что бесконечная сумма представляет собой конечное число, не зависящее от порядка слагаемых. ^[14] В альтернативном случае, когда бесконечная сумма не сходится абсолютно, говорят, что случайная величина не имеет конечного математического ожидания. ^[14]

Примеры

• Предположим , и где - масштабный коэффициент, который приводит к тому, что сумма вероятностей равна 1. Тогда мы имеем ${\displaystyle x_{i}=i}$ ${\displaystyle p_{i}={\tfrac {c}{i2^{i}}}}$ ${\displaystyle i=1,2,3,\ldots ,}$ ${\displaystyle c={\tfrac {1}{\ln 2}}}$
  $${\displaystyle \operatorname {E} [X]\,=\sum _{i}x_{i}p_{i}=1({\tfrac {c}{2}})+2({\tfrac {c}{8}})+3({\tfrac {c}{24}})+\cdots \,=\,{\tfrac {c}{2}}+{\tfrac {c}{4}}+{\tfrac {c}{8}}+\cdots \,=\,c\,=\,{\tfrac {1}{\ln 2}}.}$$

Случайные величины с плотностью

Теперь рассмотрим случайную величину X , которая имеет функцию плотности вероятности , заданную функцией f на прямой числовой линии . Это означает, что вероятность того, что X примет значение в любом заданном открытом интервале , определяется интегралом от f по этому интервалу. Тогда математическое ожидание X определяется интегралом ^[15]

${\displaystyle \operatorname {E} [X]=\int _{-\infty }^{\infty }xf(x)\,dx.}$

Общая и математически точная формулировка этого определения использует теорию меры и интегрирование Лебега , а соответствующая теория абсолютно непрерывных случайных величин описана в следующем разделе. Функции плотности многих распространенных распределений кусочно-непрерывны , и поэтому теория часто разрабатывается в этой ограниченной ситуации. ^[16] Для таких функций достаточно рассмотреть только стандартное интегрирование Римана . Иногда непрерывные случайные величины определяются как соответствующие этому специальному классу плотностей, хотя разные авторы используют этот термин по-разному.

Аналогично счетно-бесконечному случаю, описанному выше, в этом выражении есть свои тонкости из-за бесконечной области интегрирования. Такие тонкости можно увидеть конкретно, если распределение X задается распределением Коши Коши (0, π) , так что f ( x ) = ( x ² + π ² ) ⁻¹ . В этом случае несложно вычислить, что

${\displaystyle \int _{a}^{b}xf(x)\,dx=\int _{a}^{b}{\frac {x}{x^{2}+\pi ^{2}}}\,dx={\frac {1}{2}}\ln {\frac {b^{2}+\pi ^{2}}{a^{2}+\pi ^{2}}}.}$

Предела этого выражения при a → −∞ и b → ∞ не существует: если пределы взяты так, что a = − b , то предел равен нулю, а если взято ограничение 2 a = − b , то предел - ln(2) .

Чтобы избежать подобных двусмысленностей, в учебниках по математике принято требовать, чтобы данный интеграл сходился абсолютно , а в противном случае E[ X ] оставляли неопределенным. ^[17] Однако понятия теории меры, приведенные ниже, могут быть использованы для систематического определения E[ X ] для более общих случайных величин X .

Произвольные вещественные случайные величины

Все определения ожидаемой стоимости могут быть выражены на языке теории меры . В общем, если X — случайная величина с действительным знаком , определенная в вероятностном пространстве (Ω, Σ, P) , то ожидаемое значение X , обозначаемое E[ X ] , определяется как интеграл Лебега ^[18]

${\displaystyle \operatorname {E} [X]=\int _{\Omega }X\,d\operatorname {P} .}$

Несмотря на новую абстрактную ситуацию, это определение по своей природе чрезвычайно похоже на простейшее определение ожидаемых значений, данное выше, как неких средневзвешенных значений. Это связано с тем, что в теории меры значение интеграла Лебега от X определяется через средневзвешенные значения аппроксимаций X , которые принимают конечное число значений. ^[19] Более того, если дана случайная величина с конечным или счетным числом возможных значений, теория ожидания Лебега идентична формулам суммирования, приведенным выше. Однако теория Лебега проясняет сферу применения теории функций плотности вероятности. Случайная величина X называется абсолютно непрерывной , если выполняется любое из следующих условий:

• существует неотрицательная измеримая функция f на вещественной прямой такая, что

${\displaystyle {\text{P}}(X\in A)=\int _{A}f(x)\,dx,}$

для любого борелевского множества A , в котором интеграл лебегов.

• кумулятивная функция распределения X абсолютно непрерывна .
• для любого борелевского множества A действительных чисел с мерой Лебега, равной нулю, вероятность того, что X будет иметь значение в A , также равна нулю.
• для любого положительного числа ε существует положительное число δ такое, что: если A — борелевское множество с мерой Лебега меньше δ , то вероятность того, что X будет оценен в A , меньше ε .

Все эти условия эквивалентны, хотя установить это нетривиально. ^[20] В этом определении f называется функцией плотности вероятности X (относительно меры Лебега). Согласно формуле замены переменных для интегрирования Лебега ^[21] в сочетании с законом бессознательного статистика ^[22] следует, что

${\displaystyle \operatorname {E} [X]\equiv \int _{\Omega }X\,d\operatorname {P} =\int _{\mathbb {R} }xf(x)\,dx}$

для любой абсолютно непрерывной случайной величины X. Таким образом, приведенное выше обсуждение непрерывных случайных величин является частным случаем общей теории Лебега, поскольку каждая кусочно-непрерывная функция измерима.

Ожидаемое значение любой вещественной случайной величины также может быть определено на графике ее кумулятивной функции распределения посредством равенства площадей. Фактически, с действительным числом тогда и только тогда, когда две поверхности в -плоскости , описываемые формулой ${\displaystyle X}$ ${\displaystyle F}$ ${\displaystyle \operatorname {E} [X]=\mu }$ ${\displaystyle \mu }$ ${\displaystyle x}$ ${\displaystyle y}$

${\displaystyle x\leq \mu ,\;\,0\leq y\leq F(x)\quad }$или ${\displaystyle \quad x\geq \mu ,\;\,F(x)\leq y\leq 1}$

соответственно, имеют одинаковую конечную площадь, т.е. если

${\displaystyle \int _{-\infty }^{\mu }F(x)\,dx=\int _{\mu }^{\infty }{\big (}1-F(x){\big )}\,dx}$

и оба несобственных интеграла Римана сходятся. Наконец, это эквивалентно представлению

${\displaystyle \operatorname {E} [X]=\int _{0}^{\infty }{\big (}1-F(x){\big )}\,dx-\int _{-\infty }^{0}F(x)\,dx,}$

также со сходящимися интегралами. ^{[23] [24]}

Бесконечные ожидаемые значения

Ожидаемые значения, определенные выше, автоматически являются конечными числами. Однако во многих случаях крайне важно иметь возможность учитывать ожидаемые значения ±∞ . Это интуитивно понятно, например, в случае петербургского парадокса , в котором рассматривается случайная величина с возможными исходами x _i = 2 ⁱ и соответствующими вероятностями p _i = 2 ^{− i} для i , охватывающего все положительные целые числа. . Согласно формуле суммирования в случае случайных величин со счетным числом исходов имеем

$${\displaystyle \operatorname {E} [X]=\sum _{i=1}^{\infty }x_{i}\,p_{i}=2\cdot {\frac {1}{2}}+4\cdot {\frac {1}{4}}+8\cdot {\frac {1}{8}}+16\cdot {\frac {1}{16}}+\cdots =1+1+1+1+\cdots .}$$

+∞

В основе таких идей лежит строгая математическая теория, которую часто принимают за часть определения интеграла Лебега. ^[19] Первое фундаментальное наблюдение заключается в том, что какое бы из приведенных выше определений ни применялось, любой неотрицательной случайной величине можно придать однозначное ожидаемое значение; всякий раз, когда абсолютная сходимость не удалась, ожидаемое значение можно определить как +∞ . Второе фундаментальное наблюдение состоит в том, что любую случайную величину можно записать как разность двух неотрицательных случайных величин. Для данной случайной величины X положительная и отрицательная части определяются как X ⁺ = max( X , 0) и X ⁻ = −min( X , 0) . Это неотрицательные случайные величины, и можно непосредственно проверить, что X = X ⁺ − X ⁻ . Поскольку E[ X ⁺ ] и E[ X ⁻ ] оба определяются либо как неотрицательные числа, либо как +∞ , тогда естественно определить:

$${\displaystyle \operatorname {E} [X]={\begin{cases}\operatorname {E} [X^{+}]-\operatorname {E} [X^{-}]&{\text{if }}\operatorname {E} [X^{+}]<\infty {\text{ and }}\operatorname {E} [X^{-}]<\infty ;\\+\infty &{\text{if }}\operatorname {E} [X^{+}]=\infty {\text{ and }}\operatorname {E} [X^{-}]<\infty ;\\-\infty &{\text{if }}\operatorname {E} [X^{+}]<\infty {\text{ and }}\operatorname {E} [X^{-}]=\infty ;\\{\text{undefined}}&{\text{if }}\operatorname {E} [X^{+}]=\infty {\text{ and }}\operatorname {E} [X^{-}]=\infty .\end{cases}}}$$

Согласно этому определению, E[ X ] существует и конечен тогда и только тогда, когда E[ X ⁺ ] и E[ X ⁻ ] оба конечны. По формуле | Х | = X ⁺ + X ⁻ , это имеет место тогда и только тогда, когда E| Х | конечно, и это эквивалентно условиям абсолютной сходимости в приведенных выше определениях. По существу, настоящие соображения не определяют конечные ожидаемые значения ни в каких ранее не рассмотренных случаях; они полезны только для бесконечных ожиданий.

• В случае петербургского парадокса X ⁻ = 0 и, следовательно, E[ X ] = +∞ , как и хотелось.
• Предположим, что случайная величина X принимает значения 1, −2,3, −4, ... с соответствующими вероятностями 6π ⁻² , 6(2π) ⁻² , 6(3π) ⁻² , 6(4π) ⁻² , .. . . Тогда следует, что X ⁺ принимает значение 2 k −1 с вероятностью 6((2 k −1)π) ⁻² для каждого натурального числа k и принимает значение 0 с оставшейся вероятностью. Аналогично, X ⁻ принимает значение 2 k с вероятностью 6(2 k π) ⁻² для каждого положительного целого числа k и принимает значение 0 с оставшейся вероятностью. Используя определение неотрицательных случайных величин, можно показать, что как E[ X ⁺ ] = ∞ , так и E[ X ⁻ ] = ∞ (см. Гармонический ряд ). Следовательно, в этом случае математическое ожидание X не определено.
• Точно так же распределение Коши, как обсуждалось выше, имеет неопределенное математическое ожидание.

Ожидаемые значения общих распределений

В следующей таблице приведены ожидаемые значения некоторых часто встречающихся распределений вероятностей . В третьем столбце приведены ожидаемые значения как в форме, непосредственно заданной определением, так и в упрощенной форме, полученной путем вычислений на его основе. Подробности этих вычислений, которые не всегда однозначны, можно найти в указанных ссылках.

Характеристики

Основные свойства, приведенные ниже (их имена выделены жирным шрифтом), повторяют свойства интеграла Лебега или непосредственно следуют из них . Обратите внимание, что буквы «as» означают « почти наверняка » — центральное свойство интеграла Лебега. По сути, говорят, что неравенство типа истинно почти наверняка, когда мера вероятности приписывает нулевую массу дополнительному событию. ${\displaystyle X\geq 0}$ ${\displaystyle \left\{X<0\right\}.}$

• Неотрицательность: Если (как), то ${\displaystyle X\geq 0}$ ${\displaystyle \operatorname {E} [X]\geq 0.}$

• Линейность ожидания: ^[35] Оператор ожидаемого значения (или оператор ожидания ) является линейным в том смысле, что для любых случайных величин и и константы ${\displaystyle \operatorname {E} [\cdot ]}$ ${\displaystyle X}$ ${\displaystyle Y,}$ ${\displaystyle a,}$
  $${\displaystyle {\begin{aligned}\operatorname {E} [X+Y]&=\operatorname {E} [X]+\operatorname {E} [Y],\\\operatorname {E} [aX]&=a\operatorname {E} [X],\end{aligned}}}$$

всякий раз, когда правая часть четко определена. По индукции это означает, что ожидаемое значение суммы любого конечного числа случайных величин является суммой ожидаемых значений отдельных случайных величин, а ожидаемое значение масштабируется линейно с мультипликативной константой. Символически, для случайных величин и констант мы имеем : Если мы думаем о наборе случайных величин с конечным ожидаемым значением как о формирующем векторное пространство, то линейность ожидания подразумевает, что ожидаемое значение представляет собой линейную форму в этом векторном пространстве. ${\displaystyle N}$ ${\displaystyle X_{i}}$ ${\displaystyle a_{i}(1\leq i\leq N),}$ ${\textstyle \operatorname {E} \left[\sum _{i=1}^{N}a_{i}X_{i}\right]=\sum _{i=1}^{N}a_{i}\operatorname {E} [X_{i}].}$

• Монотонность: Если (as) и оба и существуют, то ${\displaystyle X\leq Y}$ ${\displaystyle \operatorname {E} [X]}$ ${\displaystyle \operatorname {E} [Y]}$ ${\displaystyle \operatorname {E} [X]\leq \operatorname {E} [Y].}$
  Доказательство следует из линейности и свойства неотрицательности для поскольку (as). ${\displaystyle Z=Y-X,}$ ${\displaystyle Z\geq 0}$
• Невырожденность: Если то (как). ${\displaystyle \operatorname {E} [|X|]=0,}$ ${\displaystyle X=0}$
• Если (as) , то Другими словами, если X и Y — случайные величины, принимающие разные значения с нулевой вероятностью, то математическое ожидание X будет равняться математическому ожиданию Y. ${\displaystyle X=Y}$ ${\displaystyle \operatorname {E} [X]=\operatorname {E} [Y].}$
• Если (как) для некоторого действительного числа c , то В частности, для случайной величины с четко определенным математическим ожиданием. Четко определенное математическое ожидание подразумевает, что существует одно число, или, скорее, одна константа, которая определяет ожидаемое значение. Отсюда следует, что математическое ожидание этой константы — это всего лишь исходное ожидаемое значение. ${\displaystyle X=c}$ ${\displaystyle \operatorname {E} [X]=c.}$ ${\displaystyle X}$ ${\displaystyle \operatorname {E} [\operatorname {E} [X]]=\operatorname {E} [X].}$
• Как следствие формулы | Х | = X ⁺ + X ⁻ , как обсуждалось выше, вместе с неравенством треугольника следует, что для любой случайной величины с четко определенным математическим ожиданием имеет место ${\displaystyle X}$ ${\displaystyle |\operatorname {E} [X]|\leq \operatorname {E} |X|.}$
• Пусть 1 _A обозначает индикаторную функцию события A , тогда E[ 1 A _] определяется вероятностью A . Это не что иное, как другой способ выразить математическое ожидание случайной величины Бернулли , рассчитанное в таблице выше.
• Формулы в терминах CDF: Если – кумулятивная функция распределения случайной величины X , то ${\displaystyle F(x)}$

$${\displaystyle \operatorname {E} [X]=\int _{-\infty }^{\infty }x\,dF(x),}$$

где значения с обеих сторон четко определены или не определены одновременно, а интеграл берется в смысле Лебега-Стилтьеса . В результате интегрирования по частям применительно к этому представлению E[ X ] можно доказать, что

$${\displaystyle \operatorname {E} [X]=\int _{0}^{\infty }(1-F(x))\,dx-\int _{-\infty }^{0}F(x)\,dx,}$$

с интегралами, взятыми по Лебегу. ^[24] В частном случае для любой случайной величины X , имеющей целые неотрицательные значения {0, 1, 2, 3, ... }, имеем

$${\displaystyle \operatorname {E} [X]=\sum _{n=0}^{\infty }\operatorname {P} (X>n),}$$

где P обозначает основную вероятностную меру.

• Немультипликативность: В общем, ожидаемое значение не является мультипликативным, т.е. не обязательно равно. Если и независимы, то можно показать, что если случайные величины являются зависимыми , то , как правило, хотя в особых случаях зависимости равенство может сохраняться. ${\displaystyle \operatorname {E} [XY]}$ ${\displaystyle \operatorname {E} [X]\cdot \operatorname {E} [Y].}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \operatorname {E} [XY]=\operatorname {E} [X]\operatorname {E} [Y].}$ ${\displaystyle \operatorname {E} [XY]\neq \operatorname {E} [X]\operatorname {E} [Y],}$
• Закон бессознательного статистика : ожидаемое значение измеримой функции данного, имеющей функцию плотности вероятности, определяется внутренним произведением и : ^[35] ${\displaystyle X,}$ ${\displaystyle g(X),}$ ${\displaystyle X}$ ${\displaystyle f(x),}$ ${\displaystyle f}$ ${\displaystyle g}$
  $${\displaystyle \operatorname {E} [g(X)]=\int _{\mathbb {R} }g(x)f(x)\,dx.}$$
  Эта формула справедлива и в многомерном случае, когда – функция нескольких случайных величин, а – их совместная плотность . ^{[35] [36]} ${\displaystyle g}$ ${\displaystyle f}$

Неравенства

Неравенства концентрации контролируют вероятность того, что случайная величина примет большие значения. Неравенство Маркова является одним из самых известных и простых для доказательства: для неотрицательной случайной величины X и любого положительного числа a оно утверждает, что ^[37]

$${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} [X]}{a}}.}$$

Если X — любая случайная величина с конечным математическим ожиданием, то неравенство Маркова можно применить к случайной величине | Икс −Е[ Икс ]| ² , чтобы получить неравенство Чебышева

$${\displaystyle \operatorname {P} (|X-{\text{E}}[X]|\geq a)\leq {\frac {\operatorname {Var} [X]}{a^{2}}},}$$

Varдисперсия^[37]стандартных отклонений^[38]Колмогорова^[39]

Следующие три неравенства имеют фундаментальное значение в области математического анализа и его приложений к теории вероятностей.

• Неравенство Йенсена : пусть f : ℝ → ℝ — выпуклая функция , а X — случайная величина с конечным математическим ожиданием. Тогда ^[40]
  $${\displaystyle f(\operatorname {E} (X))\leq \operatorname {E} (f(X)).}$$

Часть утверждения состоит в том, что отрицательная часть f ( X ) имеет конечное математическое ожидание, так что правая часть четко определена (возможно, бесконечна). Выпуклость f можно сформулировать так: выходное средневзвешенное значение двух входных данных недооценивает одно и то же средневзвешенное значение двух выходных данных; Неравенство Йенсена распространяет это на установку совершенно общих средневзвешенных значений, представленных математическим ожиданием. В частном случае, когда f ( x ) = | х | ^{t / s} для положительных чисел s < t , получаем неравенство Ляпунова ^[41]

$${\displaystyle \left(\operatorname {E} |X|^{s}\right)^{1/s}\leq \left(\operatorname {E} |X|^{t}\right)^{1/t}.}$$

Это также можно доказать с помощью неравенства Гёльдера. ^{[40] В теории меры это особенно} примечательно для доказательства включения L ^s ⊂ L ^t пространств L p в частном случае вероятностных пространств .

• Неравенство Гёльдера : если p > 1 и q > 1 — числа, удовлетворяющие p ⁻¹ + q ⁻¹ = 1 , то
  $${\displaystyle \operatorname {E} |XY|\leq (\operatorname {E} |X|^{p})^{1/p}(\operatorname {E} |Y|^{q})^{1/q}.}$$

для любых случайных величин X и Y . ^[40] Частный случай p = q = 2 называется неравенством Коши–Шварца и особенно хорошо известен. ^[40]

• Неравенство Минковского : для любого числа p ≥ 1 для любых случайных величин X и Y с E| Х | ^р и Е| Ю | ^p оба конечны, отсюда следует, что E| Х + Y | ^p также конечно и ^[42]
  $${\displaystyle {\Bigl (}\operatorname {E} |X+Y|^{p}{\Bigr )}^{1/p}\leq {\Bigl (}\operatorname {E} |X|^{p}{\Bigr )}^{1/p}+{\Bigl (}\operatorname {E} |Y|^{p}{\Bigr )}^{1/p}.}$$

Неравенства Гельдера и Минковского могут быть распространены на общие пространства с мерой и часто приводятся в этом контексте. Напротив, неравенство Йенсена является специфическим для случая вероятностных пространств.

Ожидания при сходимости случайных величин

В общем, это не так, даже если точечно. Таким образом, невозможно поменять местами пределы и ожидания без дополнительных условий на случайные величины. Чтобы убедиться в этом, пусть – случайная величина, распределенная равномерно на. For определим последовательность случайных величин ${\displaystyle \operatorname {E} [X_{n}]\to \operatorname {E} [X]}$ ${\displaystyle X_{n}\to X}$ ${\displaystyle U}$ ${\displaystyle [0,1].}$ ${\displaystyle n\geq 1,}$

${\displaystyle X_{n}=n\cdot \mathbf {1} \left\{U\in \left(0,{\tfrac {1}{n}}\right)\right\},}$

будучи индикаторной функцией события. Далее следует это поточечно. Но для каждого Следовательно, ${\displaystyle {\mathbf {1} }\{A\}}$ ${\displaystyle A.}$ ${\displaystyle X_{n}\to 0}$ ${\displaystyle \operatorname {E} [X_{n}]=n\cdot \operatorname {P} \left(U\in \left[0,{\tfrac {1}{n}}\right]\right)=n\cdot {\tfrac {1}{n}}=1}$ ${\displaystyle n.}$ ${\displaystyle \lim _{n\to \infty }\operatorname {E} [X_{n}]=1\neq 0=\operatorname {E} \left[\lim _{n\to \infty }X_{n}\right].}$

Аналогично, для общей последовательности случайных величин оператор ожидаемого значения не является -аддитивным, т.е. ${\displaystyle \{Y_{n}:n\geq 0\},}$ ${\displaystyle \sigma }$

${\displaystyle \operatorname {E} \left[\sum _{n=0}^{\infty }Y_{n}\right]\neq \sum _{n=0}^{\infty }\operatorname {E} [Y_{n}].}$

Пример легко получить, установив и forwhere , как в предыдущем примере. ${\displaystyle Y_{0}=X_{1}}$ ${\displaystyle Y_{n}=X_{n+1}-X_{n}}$ ${\displaystyle n\geq 1,}$ ${\displaystyle X_{n}}$

Ряд результатов конвергенции определяют точные условия, которые позволяют менять пределы и ожидания, как указано ниже.

• Теорема о монотонной сходимости : Пусть это последовательность случайных величин, где (as) для каждой. Кроме того, пусть поточечно. Тогда теорема монотонной сходимости утверждает, что ${\displaystyle \{X_{n}:n\geq 0\}}$ ${\displaystyle 0\leq X_{n}\leq X_{n+1}}$ ${\displaystyle n\geq 0.}$ ${\displaystyle X_{n}\to X}$ ${\displaystyle \lim _{n}\operatorname {E} [X_{n}]=\operatorname {E} [X].}$
  Используя теорему о монотонной сходимости, можно показать, что математическое ожидание действительно удовлетворяет счетной аддитивности для неотрицательных случайных величин. В частности, пусть – неотрицательные случайные величины. Из теоремы монотонной сходимости следует, что ${\displaystyle \{X_{i}\}_{i=0}^{\infty }}$
  $${\displaystyle \operatorname {E} \left[\sum _{i=0}^{\infty }X_{i}\right]=\sum _{i=0}^{\infty }\operatorname {E} [X_{i}].}$$
• Лемма Фату : Пусть – последовательность неотрицательных случайных величин. Лемма Фату утверждает, что ${\displaystyle \{X_{n}\geq 0:n\geq 0\}}$
  $${\displaystyle \operatorname {E} [\liminf _{n}X_{n}]\leq \liminf _{n}\operatorname {E} [X_{n}].}$$
  Следствие. Пусть с для всех Если (как), то ${\displaystyle X_{n}\geq 0}$ ${\displaystyle \operatorname {E} [X_{n}]\leq C}$ ${\displaystyle n\geq 0.}$ ${\displaystyle X_{n}\to X}$ ${\displaystyle \operatorname {E} [X]\leq C.}$
  Доказательство состоит в наблюдении этого (как) и применении леммы Фату. ${\textstyle X=\liminf _{n}X_{n}}$
• Теорема о доминируемой сходимости : Пусть это последовательность случайных величин. Если поточечно (as), (as) и Тогда, согласно теореме о доминируемой сходимости, ${\displaystyle \{X_{n}:n\geq 0\}}$ ${\displaystyle X_{n}\to X}$ ${\displaystyle |X_{n}|\leq Y\leq +\infty }$ ${\displaystyle \operatorname {E} [Y]<\infty .}$
  • ${\displaystyle \operatorname {E} |X|\leq \operatorname {E} [Y]<\infty }$;
  • ${\displaystyle \lim _{n}\operatorname {E} [X_{n}]=\operatorname {E} [X]}$
  • ${\displaystyle \lim _{n}\operatorname {E} |X_{n}-X|=0.}$
• Равномерная интегрируемость . В некоторых случаях равенство сохраняется, когда последовательность равномерно интегрируема. ${\displaystyle \lim _{n}\operatorname {E} [X_{n}]=\operatorname {E} [\lim _{n}X_{n}]}$ ${\displaystyle \{X_{n}\}}$

Связь с характеристической функцией

Функция плотности вероятности скалярной случайной величины связана с ее характеристической функцией формулой обращения: ${\displaystyle f_{X}}$ ${\displaystyle X}$ ${\displaystyle \varphi _{X}}$

${\displaystyle f_{X}(x)={\frac {1}{2\pi }}\int _{\mathbb {R} }e^{-itx}\varphi _{X}(t)\,\mathrm {d} t.}$

Для ожидаемого значения (где – функция Бореля ) мы можем использовать эту формулу обращения, чтобы получить ${\displaystyle g(X)}$ ${\displaystyle g:{\mathbb {R} }\to {\mathbb {R} }}$

${\displaystyle \operatorname {E} [g(X)]={\frac {1}{2\pi }}\int _{\mathbb {R} }g(x)\left[\int _{\mathbb {R} }e^{-itx}\varphi _{X}(t)\,\mathrm {d} t\right]\,\mathrm {d} x.}$

Если конечно, изменив порядок интегрирования, получим в соответствии с теоремой Фубини– Тонелли ${\displaystyle \operatorname {E} [g(X)]}$

${\displaystyle \operatorname {E} [g(X)]={\frac {1}{2\pi }}\int _{\mathbb {R} }G(t)\varphi _{X}(t)\,\mathrm {d} t,}$

где

${\displaystyle G(t)=\int _{\mathbb {R} }g(x)e^{-itx}\,\mathrm {d} x}$

является преобразованием Фурье . Выражение для также следует непосредственно из теоремы Планшереля . ${\displaystyle g(x).}$ ${\displaystyle \operatorname {E} [g(X)]}$

Использование и применение

Ожидание случайной величины играет важную роль в различных контекстах.

В статистике , где ищутся оценки неизвестных параметров на основе доступных данных, полученных из выборок , выборочное среднее служит оценкой ожидания и само по себе является случайной величиной. В таких условиях считается, что выборочное среднее соответствует желаемому критерию «хорошей» оценки, поскольку оно является несмещенным ; то есть ожидаемое значение оценки равно истинному значению базового параметра.

Другой пример: в теории принятия решений часто предполагается, что агент, делающий оптимальный выбор в контексте неполной информации, максимизирует ожидаемое значение своей функции полезности .

Можно построить ожидаемое значение, равное вероятности события, взяв математическое ожидание индикаторной функции , которое равно единице, если событие произошло, и нулю в противном случае. Это соотношение можно использовать для перевода свойств ожидаемых значений в свойства вероятностей, например, используя закон больших чисел для обоснования оценки вероятностей по частотам .

Ожидаемые значения степеней X называются моментами X ; моменты относительно среднего значения X являются ожидаемыми значениями степеней X − E[ X ] . Моменты некоторых случайных величин можно использовать для определения их распределений через их производящие функции .

Чтобы эмпирически оценить ожидаемое значение случайной величины, необходимо неоднократно измерять наблюдения за переменной и вычислять среднее арифметическое результатов. Если ожидаемое значение существует, эта процедура оценивает истинное ожидаемое значение беспристрастно и имеет свойство минимизировать сумму квадратов остатков ( сумму квадратов разностей между наблюдениями и оценкой). Закон больших чисел показывает (в достаточно мягких условиях), что по мере увеличения размера выборки дисперсия этой оценки уменьшается.

Это свойство часто используется в самых разных приложениях, включая общие задачи статистической оценки и машинного обучения , для оценки (вероятностных) интересующих величин с помощью методов Монте-Карло , поскольку большинство интересующих величин можно записать в терминах ожидания, например, где – индикаторная функция множества ${\displaystyle \operatorname {P} ({X\in {\mathcal {A}}})=\operatorname {E} [{\mathbf {1} }_{\mathcal {A}}],}$ ${\displaystyle {\mathbf {1} }_{\mathcal {A}}}$ ${\displaystyle {\mathcal {A}}.}$

Масса распределения вероятностей сбалансирована по ожидаемому значению, здесь бета-распределение (α, β) с ожидаемым значением α/(α+β).

В классической механике центр масс является понятием, аналогичным математическому ожиданию. Например, предположим, что X — дискретная случайная величина со значениями x _i и соответствующими вероятностями p _i . Теперь рассмотрим невесомый стержень, на котором в точках x _i вдоль стержня размещены гири, имеющие массы p _i (сумма которых равна единице). Точка, в которой стержень балансирует, — это E[ X ].

Ожидаемые значения также можно использовать для вычисления дисперсии с помощью вычислительной формулы для дисперсии

${\displaystyle \operatorname {Var} (X)=\operatorname {E} [X^{2}]-(\operatorname {E} [X])^{2}.}$

Очень важное применение математического ожидания находится в области квантовой механики . Ожидаемое значение квантово-механического оператора, действующего на вектор квантового состояния, записывается как Неопределенность в может быть рассчитана по формуле . ${\displaystyle {\hat {A}}}$ ${\displaystyle |\psi \rangle }$ ${\displaystyle \langle {\hat {A}}\rangle =\langle \psi |A|\psi \rangle .}$ ${\displaystyle {\hat {A}}}$ ${\displaystyle (\Delta A)^{2}=\langle {\hat {A}}^{2}\rangle -\langle {\hat {A}}\rangle ^{2}}$

Смотрите также

• Главная тенденция
• Условное ожидание
• Ожидание (эпистемическое)
• Закон общего ожидания - ожидаемое значение условного ожидаемого значения X при условии Y такое же, как и ожидаемое значение X.
• Нелинейное ожидание - обобщение ожидаемого значения.
• Средняя численность населения
• Прогнозируемое значение
• Уравнение Вальда - уравнение для расчета ожидаемого значения случайного числа случайных величин.

Рекомендации

1. «Ожидание | Среднее | Среднее» . www.probabilitycourse.com . Проверено 11 сентября 2020 г.
2. Хансен, Брюс. «ВЕРОЯТНОСТЬ И СТАТИСТИКА ДЛЯ ЭКОНОМИСТОВ» (PDF) . Архивировано из оригинала (PDF) 19 января 2022 г. Проверено 20 июля 2021 г.
3. Вассерман, Ларри (декабрь 2010 г.). Вся статистика: краткий курс статистических выводов . Тексты Спрингера в статистике. п. 47. ИСБН 9781441923226.
4. История вероятности и статистики и их применения до 1750 года . Ряд Уайли по вероятности и статистике. 1990. doi : 10.1002/0471725161. ISBN 9780471725169.
5. Оре, Эйстейн (1960). «Ор, Паскаль и изобретение теории вероятностей». Американский математический ежемесячник . 67 (5): 409–419. дои : 10.2307/2309286. JSTOR  2309286.
6. Джордж Макки (июль 1980 г.). «ГАРМОНИЧЕСКИЙ АНАЛИЗ КАК ИСПОЛЬЗОВАНИЕ СИММЕТРИИ – ИСТОРИЧЕСКИЙ ОБЗОР». Бюллетень Американского математического общества . Новая серия. 3 (1): 549.
7. Гюйгенс, Кристиан. «Ценность шансов в играх удачи. Английский перевод» (PDF) .
8. Лаплас, Пьер Симон, маркиз де, 1749–1827. (1952) [1951]. Философское эссе о вероятностях . Дуврские публикации. ОСЛК  475539.{{cite book}}: CS1 maint: multiple names: authors list (link) CS1 maint: numeric names: authors list (link)
9. Уитворт, Вашингтон (1901) Выбор и шанс с тысячей упражнений. Пятое издание. Дейтон Белл, Кембридж. [Перепечатано Hafner Publishing Co., Нью-Йорк, 1959 г.]
10. «Самые ранние использования символов в вероятности и статистике».
11. Феллер 1968, с. 221.
12. Биллингсли 1995, с. 76.
13. Росс 2019, раздел 2.4.1.
14. Feller 1968, раздел IX.2.
15. Папулис и Пиллаи 2002, раздел 5-3; Росс 2019, раздел 2.4.2.
16. Феллер 1971, Раздел I.2.
17. Феллер 1971, с. 5.
18. Биллингсли 1995, с. 273.
19. Биллингсли 1995, раздел 15.
20. Биллингсли 1995, теоремы 31.7 и 31.8 и стр. 422.
21. Биллингсли 1995, Теорема 16.13.
22. Биллингсли 1995, Теорема 16.11.
23. Уль, Роланд (2023). Характеристики Erwartungswertes am Graphen der Verteilungsfunktion . Высшая техническая школа Бранденбурга. дои : 10.25933/opus4-2986.стр. 2–4.
24. Feller 1971, Раздел V.6.
25. Казелла и Бергер 2001, с. 89; Росс 2019, Пример 2.16.
26. Казелла и Бергер 2001, пример 2.2.3; Росс 2019, Пример 2.17.
27. Биллингсли 1995, пример 21.4; Казелла и Бергер 2001, с. 92; Росс 2019, Пример 2.19.
28. Казелла и Бергер 2001, с. 97; Росс 2019, Пример 2.18.
29. Казелла и Бергер 2001, с. 99; Росс 2019, Пример 2.20.
30. Биллингсли 1995, пример 21.3; Казелла и Бергер 2001, пример 2.2.2; Росс 2019, Пример 2.21.
31. Казелла и Бергер 2001, с. 103; Росс 2019, Пример 2.22.
32. Биллингсли 1995, пример 21.1; Казелла и Бергер 2001, с. 103.
33. Джонсон, Коц и Балакришнан 1994, Глава 20.
34. Феллер 1971, Раздел II.4.
35. Вайсштейн, Эрик В. «Ожидаемая ценность». mathworld.wolfram.com . Проверено 11 сентября 2020 г.
36. Папулис и Пиллаи 2002, раздел 6-4.
37. Feller 1968, раздел IX.6; Феллер 1971, раздел V.7; Папулис и Пиллаи, 2002 г., раздел 5-4; Росс 2019, раздел 2.8.
38. Феллер 1968, раздел IX.6.
39. Феллер 1968, раздел IX.7.
40. Feller 1971, Раздел V.8.
41. Биллингсли 1995, стр. 81, 277.
42. Биллингсли 1995, раздел 19.

Библиография

• Эдвардс, AWF (2002). Арифметический треугольник Паскаля: история математической идеи (2-е изд.). Джу Пресс. ISBN 0-8018-6946-3.
• Гюйгенс, Христиан (1657). Derationciniis in ludo aleæ (английский перевод, опубликован в 1714 году) .
• Биллингсли, Патрик (1995). Вероятность и мера . Серия Уайли по вероятности и математической статистике (третье издание оригинального издания 1979 г.). Нью-Йорк: ISBN John Wiley & Sons, Inc. 0-471-00710-2. МР  1324786.
• Казелла, Джордж ; Бергер, Роджер Л. (2001). Статистические выводы . Duxbury Advanced Series (второе издание оригинального издания 1990 г.). Пасифик Гроув, Калифорния: Даксбери. ISBN 0-534-11958-1.
• Феллер, Уильям (1968). Введение в теорию вероятностей и ее приложения. Том I (Третье издание оригинального издания 1950 г.). Нью-Йорк – Лондон – Сидней: John Wiley & Sons, Inc. MR  0228020.
• Феллер, Уильям (1971). Введение в теорию вероятностей и ее приложения. Том II (второе издание оригинальной редакции 1966 г.). Нью-Йорк – Лондон – Сидней: John Wiley & Sons, Inc. MR  0270403.
• Джонсон, Норман Л .; Коц, Сэмюэл ; Балакришнан, Н. (1994). Непрерывные одномерные распределения. Том 1 . Серия Уайли по вероятности и математической статистике (второе издание оригинального издания 1970 г.). Нью-Йорк: ISBN John Wiley & Sons, Inc. 0-471-58495-9. МР  1299979.
• Папулис, Афанасиос ; Пиллаи, С. Унникришна (2002). Вероятность, случайные величины и случайные процессы (Четвертое издание оригинальной редакции 1965 г.). Нью-Йорк: МакГроу-Хилл. ISBN 0-07-366011-6. (Ошибка: [1])
• Росс, Шелдон М. (2019). Введение в вероятностные модели (двенадцатое издание оригинальной редакции 1972 г.). Лондон: Академическая пресса. дои : 10.1016/C2017-0-01324-1. ISBN 978-0-12-814346-9. МР  3931305.