Неравенство Маркова

Концепция теории вероятностей

Неравенство Маркова дает верхнюю оценку меры набора (обозначено красным), где превышает заданный уровень . Граница объединяет уровень со средним значением . ${\displaystyle f(x)}$ ${\displaystyle \varepsilon }$ ${\displaystyle \varepsilon }$ ${\displaystyle f}$

В теории вероятностей неравенство Маркова дает верхнюю границу вероятности того , что неотрицательная случайная величина больше или равна некоторой положительной константе . Неравенство Маркова является точным в том смысле, что для каждой выбранной положительной константы существует случайная величина, такая что неравенство фактически является равенством. ^[1]

Оно названо в честь русского математика Андрея Маркова , хотя ранее оно появилось в работах Пафнутия Чебышева (учителя Маркова), и во многих источниках, особенно в анализе , его называют неравенством Чебышева (иногда называя его первым неравенством Чебышева, тогда как ссылаясь на неравенство Чебышева как на второе неравенство Чебышева) или неравенство Бьенеме .

Неравенство Маркова (и другие подобные неравенства) связывают вероятности с ожиданиями и обеспечивают (часто неточные, но все же полезные) границы кумулятивной функции распределения случайной величины. Неравенство Маркова также можно использовать для определения верхней границы математического ожидания неотрицательной случайной величины с точки зрения ее функции распределения.

Заявление

Если X — неотрицательная случайная величина и a  > 0 , то вероятность того, что X равна по крайней мере a, равна не более чем математическому ожиданию X , делённому на a : ^[1]

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}.}$

Когда , мы можем взять for переписать предыдущее неравенство как ${\displaystyle \operatorname {E} (X)>0}$ ${\displaystyle a={\tilde {a}}\cdot \operatorname {E} (X)}$ ${\displaystyle {\tilde {a}}>0}$

${\displaystyle \operatorname {P} (X\geq {\tilde {a}}\cdot \operatorname {E} (X))\leq {\frac {1}{\tilde {a}}}.}$

На языке теории меры неравенство Маркова гласит, что если ( X , Σ,  µ ) — пространство с мерой , измеримая расширенная вещественная функция и ε > 0 , то ${\displaystyle f}$

${\displaystyle \mu (\{x\in X:|f(x)|\geq \varepsilon \})\leq {\frac {1}{\varepsilon }}\int _{X}|f|\,d\mu .}$

Это теоретико-мерное определение иногда называют неравенством Чебышева . ^[2]

Расширенная версия для неубывающих функций

Если φ — неубывающая неотрицательная функция, X — случайная величина (не обязательно неотрицательная) и φ ( a ) > 0 , то ^[3]

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (\varphi (X))}{\varphi (a)}}.}$

Непосредственным следствием использования более высоких моментов X , поддерживаемых значениями больше 0, является

${\displaystyle \operatorname {P} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|^{n})}{a^{n}}}.}$

Равномерно рандомизированное неравенство Маркова

Если X — неотрицательная случайная величина и a  > 0 , а U — равномерно распределенная случайная величина, независимая от X , то ^[4] ${\displaystyle [0,1]}$

${\displaystyle \operatorname {P} (X\geq Ua)\leq {\frac {\operatorname {E} (X)}{a}}.}$

Поскольку U почти наверняка меньше единицы, эта оценка строго сильнее неравенства Маркова. Примечательно, что U нельзя заменить какой-либо константой меньше единицы, а это означает, что детерминированные улучшения неравенства Маркова вообще не могут существовать. В то время как неравенство Маркова справедливо для распределений, поддерживаемых на , вышеупомянутый рандомизированный вариант справедлив для любого распределения, ограниченного на . ${\displaystyle \{0,a\}}$ ${\displaystyle [0,a]}$

Доказательства

Мы отделяем случай, когда пространство меры является вероятностным пространством, от более общего случая, поскольку вероятностный случай более доступен для обычного читателя.

Интуиция

${\displaystyle \operatorname {E} (X)=\operatorname {P} (X<a)\cdot \operatorname {E} (X|X<a)+\operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)}$где больше или равно 0, поскольку случайная величина неотрицательна и больше или равна, поскольку условное ожидание учитывает только значения, большие или равные которым может принимать rv . ${\displaystyle \operatorname {E} (X|X<a)}$ ${\displaystyle X}$ ${\displaystyle \operatorname {E} (X|X\geq a)}$ ${\displaystyle a}$ ${\displaystyle a}$ ${\displaystyle X}$

Отсюда интуитивно , что напрямую ведет к . ${\displaystyle \operatorname {E} (X)\geq \operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$ ${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}}$

Теоретико-вероятностное доказательство

Метод 1: Из определения ожидания:

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx}$

Однако X является неотрицательной случайной величиной, поэтому

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx=\int _{0}^{\infty }xf(x)\,dx}$

Из этого мы можем вывести,

${\displaystyle \operatorname {E} (X)=\int _{0}^{a}xf(x)\,dx+\int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }af(x)\,dx=a\int _{a}^{\infty }f(x)\,dx=a\operatorname {Pr} (X\geq a)}$

Отсюда деление на позволяет нам увидеть, что ${\displaystyle a}$

${\displaystyle \Pr(X\geq a)\leq \operatorname {E} (X)/a}$

Метод 2: Для любого события пусть будет индикаторной случайной величиной , то есть, если оно происходит и в противном случае. ${\displaystyle E}$ ${\displaystyle I_{E}}$ ${\displaystyle E}$ ${\displaystyle I_{E}=1}$ ${\displaystyle E}$ ${\displaystyle I_{E}=0}$

Используя эту запись, мы имеем, если событие произошло, и если . Тогда, учитывая , ${\displaystyle I_{(X\geq a)}=1}$ ${\displaystyle X\geq a}$ ${\displaystyle I_{(X\geq a)}=0}$ ${\displaystyle X<a}$ ${\displaystyle a>0}$

${\displaystyle aI_{(X\geq a)}\leq X}$

что становится ясно, если мы рассмотрим два возможных значения . Если , то и так . В противном случае имеем , для чего и так . ${\displaystyle X\geq a}$ ${\displaystyle X<a}$ ${\displaystyle I_{(X\geq a)}=0}$ ${\displaystyle aI_{(X\geq a)}=0\leq X}$ ${\displaystyle X\geq a}$ ${\displaystyle I_{X\geq a}=1}$ ${\displaystyle aI_{X\geq a}=a\leq X}$

Поскольку это монотонно возрастающая функция, математическое ожидание обеих частей неравенства не может обратить ее вспять. Поэтому, ${\displaystyle \operatorname {E} }$

${\displaystyle \operatorname {E} (aI_{(X\geq a)})\leq \operatorname {E} (X).}$

Теперь, используя линейность ожиданий, левая часть этого неравенства такая же, как

${\displaystyle a\operatorname {E} (I_{(X\geq a)})=a(1\cdot \operatorname {P} (X\geq a)+0\cdot \operatorname {P} (X<a))=a\operatorname {P} (X\geq a).}$

Таким образом, мы имеем

${\displaystyle a\operatorname {P} (X\geq a)\leq \operatorname {E} (X)}$

и поскольку a  > 0, мы можем разделить обе части на  a .

Теоретико-мерное доказательство

Можно считать, что функция неотрицательна, поскольку в уравнение входит только ее абсолютное значение. Теперь рассмотрим вещественную функцию s на X , заданную формулой ${\displaystyle f}$

${\displaystyle s(x)={\begin{cases}\varepsilon ,&{\text{if }}f(x)\geq \varepsilon \\0,&{\text{if }}f(x)<\varepsilon \end{cases}}}$

Затем . По определению интеграла Лебега ${\displaystyle 0\leq s(x)\leq f(x)}$

${\displaystyle \int _{X}f(x)\,d\mu \geq \int _{X}s(x)\,d\mu =\varepsilon \mu (\{x\in X:\,f(x)\geq \varepsilon \})}$

и поскольку обе части можно разделить на , получив ${\displaystyle \varepsilon >0}$ ${\displaystyle \varepsilon }$

${\displaystyle \mu (\{x\in X:\,f(x)\geq \varepsilon \})\leq {1 \over \varepsilon }\int _{X}f\,d\mu .}$

Дискретный случай

Теперь мы предоставим доказательство для особого случая, когда – дискретная случайная величина, которая принимает только неотрицательные целые значения. ${\displaystyle X}$

Пусть будет положительным целым числом. По определению ${\displaystyle a}$ ${\displaystyle a\operatorname {Pr} (X>a)}$ ${\displaystyle =a\operatorname {Pr} (X=a+1)+a\operatorname {Pr} (X=a+2)+a\operatorname {Pr} (X=a+3)+...}$ ${\displaystyle \leq a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$ ${\displaystyle \leq \operatorname {Pr} (X=1)+2\operatorname {Pr} (X=2)+3\operatorname {Pr} (X=3)+...}$ ${\displaystyle +a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$ ${\displaystyle =\operatorname {E} (X)}$

Деление на дает желаемый результат. ${\displaystyle a}$

Следствия

Неравенство Чебышева

Неравенство Чебышева использует дисперсию для ограничения вероятности того, что случайная величина отклоняется далеко от среднего значения. Конкретно,

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)\leq {\frac {\operatorname {Var} (X)}{a^{2}}},}$

для любого а > 0 . ^[3] Здесь Var( X ) — это дисперсия X, определяемая как:

${\displaystyle \operatorname {Var} (X)=\operatorname {E} [(X-\operatorname {E} (X))^{2}].}$

Неравенство Чебышева следует из неравенства Маркова при рассмотрении случайной величины

${\displaystyle (X-\operatorname {E} (X))^{2}}$

и константа , для которой неравенство Маркова имеет вид ${\displaystyle a^{2},}$

${\displaystyle \operatorname {P} ((X-\operatorname {E} (X))^{2}\geq a^{2})\leq {\frac {\operatorname {Var} (X)}{a^{2}}}.}$

Этот аргумент можно резюмировать (где «MI» указывает на использование неравенства Маркова):

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)=\operatorname {P} \left((X-\operatorname {E} (X))^{2}\geq a^{2}\right)\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} \left((X-\operatorname {E} (X))^{2}\right)}{a^{2}}}={\frac {\operatorname {Var} (X)}{a^{2}}}.}$

Другие следствия

1. «Монотонный» результат можно продемонстрировать:

   ${\displaystyle \operatorname {P} (|X|\geq a)=\operatorname {P} {\big (}\varphi (|X|)\geq \varphi (a){\big )}\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (\varphi (|X|))}{\varphi (a)}}}$

2. Результат, что для неотрицательной случайной величины X функция квантиля X удовлетворяет :

   ${\displaystyle Q_{X}(1-p)\leq {\frac {\operatorname {E} (X)}{p}},}$

   доказательство с использованием

   ${\displaystyle p\leq \operatorname {P} (X\geq Q_{X}(1-p))\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (X)}{Q_{X}(1-p)}}.}$

3. Пусть – самосопряженная матричная случайная величина и . Затем ${\displaystyle M\succeq 0}$ ${\displaystyle A\succ 0}$

   ${\displaystyle \operatorname {P} (M\npreceq A)\leq \operatorname {tr} (\operatorname {E} (X)A^{-1})}$

   что можно доказать аналогично. ^[5]

Примеры

Если предположить, что никакой доход не является отрицательным, неравенство Маркова показывает, что не более 10% (1/10) населения могут иметь доход, более чем в 10 раз превышающий средний доход. ^[6]

Другой простой пример таков: Эндрю делает в среднем 4 ошибки в случайном тесте курса «Статистика». Наилучшая верхняя граница вероятности того, что Эндрю сделает не менее 10 ошибок, равна 0,4. Обратите внимание, что Эндрю может совершить ровно 10 ошибок с вероятностью 0,4 и не совершить ошибок с вероятностью 0,6; ожидание составляет ровно 4 ошибки. ${\displaystyle \operatorname {P} (X\geq 10)\leq {\frac {\operatorname {E} (X)}{\alpha }}={\frac {4}{10}}.}$

Смотрите также

• Неравенство Пэли – Зигмунда - соответствующая нижняя оценка
• Неравенство концентрации - сводка хвостовых границ случайных величин.

Рекомендации

1. Хубер, Марк (26 ноября 2019 г.). «Уменьшение пополам границ неравенств Маркова, Чебышева и Чернова с помощью сглаживания». Американский математический ежемесячник . 126 (10): 915–927. arXiv : 1803.06361 . дои : 10.1080/00029890.2019.1656484. ISSN  0002-9890.
2. Штейн, Э.М .; Шакарчи, Р. (2005), Реальный анализ , Принстонские лекции по анализу , том. 3 (1-е изд.), с. 91.
3. Линь, Чжэнъянь (2010). Вероятностные неравенства . Спрингер. п. 52.
4. Рамдас, Аадитья; Маноле, Тюдор, Рандомизированные и заменяемые улучшения неравенств Маркова, Чебышева и Чернова, arXiv : 2304.02611.
5. Ту, Стивен (04 ноября 2017 г.). «Неравенство Маркова для матриц» . Проверено 27 мая 2024 г.
6. Росс, Кевин. 5.4 Вероятностные неравенства | Введение в вероятность и моделирование.

Внешние ссылки

• Формальное доказательство неравенства Маркова в системе Мицара .