Распределение Коши

Распределение вероятностей

Распределение Коши , названное в честь Огюстена-Луи Коши , является непрерывным распределением вероятностей . Оно также известно, особенно среди физиков , как распределение Лоренца (в честь Хендрика Лоренца ), распределение Коши–Лоренца , функция Лоренца (японская) или распределение Брейта–Вигнера . Распределение Коши — это распределение пересечения оси x луча, выходящего из с равномерно распределенным углом. Это также распределение отношения двух независимых нормально распределенных случайных величин со средним значением нуль. ${\displaystyle f(x;x_{0},\gamma )}$ ${\displaystyle (x_{0},\gamma )}$

Распределение Коши часто используется в статистике как канонический пример « патологического » распределения, поскольку и его ожидаемое значение , и его дисперсия не определены (но см. § Моменты ниже). Распределение Коши не имеет конечных моментов порядка, большего или равного единице; существуют только дробные абсолютные моменты. ^[1] Распределение Коши не имеет функции, производящей моменты .

В математике оно тесно связано с ядром Пуассона , которое является фундаментальным решением уравнения Лапласа в верхней полуплоскости .

Это одно из немногих устойчивых распределений с функцией плотности вероятности, которую можно выразить аналитически, остальные — это нормальное распределение и распределение Леви .

История

Оценка среднего и стандартного отклонения через выборку из распределения Коши (внизу) не сходится по мере увеличения размера выборки, как в нормальном распределении (вверху). Могут быть произвольно большие скачки в оценках, как видно на графиках внизу. (Нажмите, чтобы развернуть)

Функция с формой функции плотности распределения Коши была изучена геометрически Ферма в 1659 году и позже была известна как ведьма Аньези , после того как Аньези включила ее в качестве примера в свой учебник по исчислению 1748 года. Несмотря на свое название, первый явный анализ свойств распределения Коши был опубликован французским математиком Пуассоном в 1824 году, а Коши стал ассоциироваться с ним только во время академической полемики в 1853 году. ^[2] Пуассон заметил, что если взять среднее значение наблюдений, следующих за таким распределением, средняя ошибка ^{[ необходимо дальнейшее объяснение ]} не сходится ни к какому конечному числу. Таким образом, использование Лапласом центральной предельной теоремы с таким распределением было неуместным, поскольку она предполагала конечное среднее значение и дисперсию. Несмотря на это, Пуассон не считал этот вопрос важным, в отличие от Бьенеме , который должен был вовлечь Коши в долгий спор по этому вопросу.

Конструкции

Вот наиболее важные конструкции.

Вращательная симметрия

Если встать перед линией и бить по мячу ногой в случайном направлении (точнее, под углом) равномерно по направлению к линии, то распределение точек, в которых мяч касается линии, является распределением Коши.

Более формально, рассмотрим точку в плоскости xy и выберем линию, проходящую через точку, с ее направлением (углом с осью -), выбранным равномерно (между -90° и +90°) случайным образом. Пересечение линии с осью x является распределением Коши с местоположением и масштабом . ${\displaystyle (x_{0},\gamma )}$ ${\displaystyle x}$ ${\displaystyle x_{0}}$ ${\displaystyle \gamma }$

Это определение дает простой способ сделать выборку из стандартного распределения Коши. Пусть будет выборкой из равномерного распределения из , тогда мы можем сгенерировать выборку из стандартного распределения Коши, используя ${\displaystyle u}$ ${\displaystyle [0,1]}$ ${\displaystyle x}$

${\displaystyle x=\tan \left(\pi (u-{\frac {1}{2}})\right)}$

Когда и являются двумя независимыми нормально распределенными случайными величинами с ожидаемым значением 0 и дисперсией 1, то отношение имеет стандартное распределение Коши. ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle U/V}$

В более общем случае, если — вращательно-симметричное распределение на плоскости, то отношение имеет стандартное распределение Коши. ${\displaystyle (U,V)}$ ${\displaystyle U/V}$

Функция плотности вероятности (PDF)

Распределение Коши — это распределение вероятностей со следующей функцией плотности вероятности (PDF) ^{[1] [3]}

${\displaystyle f(x;x_{0},\gamma )={\frac {1}{\pi \gamma \left[1+\left({\frac {x-x_{0}}{\gamma }}\right)^{2}\right]}}={1 \over \pi }\left[{\gamma \over (x-x_{0})^{2}+\gamma ^{2}}\right],}$

где — параметр местоположения , определяющий местоположение пика распределения, а — параметр масштаба , определяющий полуширину на половине максимума (HWHM), или полную ширину на половине максимума (FWHM). также равен половине межквартильного размаха и иногда называется вероятной ошибкой . Эта функция также известна как функция Лоренца ^[4] и является примером зарождающейся дельта-функции , и, следовательно, приближается к дельта-функции Дирака в пределе как . Огюстен-Луи Коши использовал такую ​​функцию плотности в 1827 году с бесконечно малым параметром масштаба, определив эту дельта-функцию Дирака . ${\displaystyle x_{0}}$ ${\displaystyle \gamma }$ ${\displaystyle 2\gamma }$ ${\displaystyle \gamma }$ ${\displaystyle \gamma \to 0}$

Свойства PDF-файла

Максимальное значение или амплитуда функции плотности вероятности Коши составляет , расположенное при . ${\displaystyle {\frac {1}{\pi \gamma }}}$ ${\displaystyle x=x_{0}}$

Иногда удобно выразить PDF через комплексный параметр ${\displaystyle \psi =x_{0}+i\gamma }$

${\displaystyle f(x;\psi )={\frac {1}{\pi }}\,{\textrm {Im}}\left({\frac {1}{x-\psi }}\right)={\frac {1}{\pi }}\,{\textrm {Re}}\left({\frac {-i}{x-\psi }}\right)}$

Частный случай, когда и называется стандартным распределением Коши с функцией плотности вероятности ^{[5] [6]} ${\displaystyle x_{0}=0}$ ${\displaystyle \gamma =1}$

${\displaystyle f(x;0,1)={\frac {1}{\pi (1+x^{2})}}.\!}$

В физике часто используется трехпараметрическая функция Лоренца:

${\displaystyle f(x;x_{0},\gamma ,I)={\frac {I}{\left[1+\left({\frac {x-x_{0}}{\gamma }}\right)^{2}\right]}}=I\left[{\gamma ^{2} \over (x-x_{0})^{2}+\gamma ^{2}}\right],}$

где - высота пика. Указанная трехпараметрическая функция Лоренца в общем случае не является функцией плотности вероятности, поскольку она не интегрируется до 1, за исключением особого случая, когда ${\displaystyle I}$ ${\displaystyle I={\frac {1}{\pi \gamma }}.\!}$

Кумулятивная функция распределения (CDF)

Распределение Коши — это распределение вероятностей со следующей кумулятивной функцией распределения (CDF):

${\displaystyle F(x;x_{0},\gamma )={\frac {1}{\pi }}\arctan \left({\frac {x-x_{0}}{\gamma }}\right)+{\frac {1}{2}}}$

а функция квантиля (обратная cdf ) распределения Коши равна

${\displaystyle Q(p;x_{0},\gamma )=x_{0}+\gamma \,\tan \left[\pi \left(p-{\tfrac {1}{2}}\right)\right].}$

Отсюда следует, что первый и третий квартили равны , и, следовательно, межквартильный размах равен . ${\displaystyle (x_{0}-\gamma ,x_{0}+\gamma )}$ ${\displaystyle 2\gamma }$

Для стандартного распределения кумулятивная функция распределения упрощается до функции арктангенса : ${\displaystyle \arctan(x)}$

${\displaystyle F(x;0,1)={\frac {1}{\pi }}\arctan \left(x\right)+{\frac {1}{2}}}$

Другие конструкции

Стандартное распределение Коши представляет собой t -распределение Стьюдента с одной степенью свободы, и поэтому его можно построить любым методом, который строит t-распределение Стьюдента. ^[7]

Если — положительно-полуопределенная ковариационная матрица со строго положительными диагональными элементами, то для независимых и одинаково распределенных и любого случайного -вектора, независимого от и такого, что и (определяющего категориальное распределение ), справедливо следующее: ${\displaystyle \Sigma }$ ${\displaystyle p\times p}$ ${\displaystyle X,Y\sim N(0,\Sigma )}$ ${\displaystyle p}$ ${\displaystyle w}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle w_{1}+\cdots +w_{p}=1}$ ${\displaystyle w_{i}\geq 0,i=1,\ldots ,p,}$

${\displaystyle \sum _{j=1}^{p}w_{j}{\frac {X_{j}}{Y_{j}}}\sim \mathrm {Cauchy} (0,1).}$^[8]

Характеристики

Распределение Коши является примером распределения, которое не имеет определенного среднего значения , дисперсии или высших моментов . Его мода и медиана хорошо определены и оба равны . ${\displaystyle x_{0}}$

Распределение Коши — это бесконечно делимое распределение вероятностей . Оно также является строго устойчивым распределением. ^[9]

Как и все устойчивые распределения, семейство масштабов местоположения , к которому принадлежит распределение Коши, замкнуто относительно линейных преобразований с действительными коэффициентами. Кроме того, семейство случайных величин, распределенных по Коши, замкнуто относительно дробно-линейных преобразований с действительными коэффициентами. ^[10] В этой связи см. также параметризацию распределений Коши МакКаллага .

Сумма случайных величин, распределенных по закону Коши

Если мы являемся выборкой IID из стандартного распределения Коши, то их выборочное среднее также является стандартным распределением Коши. В частности, среднее не сходится к среднему, и поэтому стандартное распределение Коши не подчиняется закону больших чисел. ${\displaystyle X_{1},X_{2},\ldots ,X_{n}}$ ${\displaystyle {\bar {X}}={\frac {1}{n}}\sum _{i}X_{i}}$

Это можно доказать путем повторного интегрирования с функцией плотности вероятности или, что более удобно, с помощью характеристической функции стандартного распределения Коши (см. ниже): При этом мы имеем , и поэтому имеем стандартное распределение Коши. $${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[e^{iXt}\right]=e^{-|t|}.}$$ ${\displaystyle \varphi _{\sum _{i}X_{i}}(t)=e^{-n|t|}}$ ${\displaystyle {\bar {X}}}$

В более общем случае, если независимы и распределены Коши с параметрами местоположения и масштабами , и являются действительными числами, то распределены Коши с местоположением и масштабом . Мы видим, что не существует закона больших чисел для любой взвешенной суммы независимых распределений Коши. ${\displaystyle X_{1},X_{2},\ldots ,X_{n}}$ ${\displaystyle x_{1},\ldots ,x_{n}}$ ${\displaystyle \gamma _{1},\ldots ,\gamma _{n}}$ ${\displaystyle a_{1},\ldots ,a_{n}}$ ${\displaystyle \sum _{i}a_{i}X_{i}}$ ${\displaystyle \sum _{i}a_{i}x_{i}}$ ${\displaystyle \sum _{i}|a_{i}|\gamma _{i}}$

Это показывает, что условие конечной дисперсии в центральной предельной теореме не может быть отброшено. Это также пример более обобщенной версии центральной предельной теоремы, которая характерна для всех устойчивых распределений , частным случаем которых является распределение Коши.

Центральная предельная теорема

Если и выборка IID с плотностью распределения такая, что конечна, но ненулевая, то сходится по распределению к распределению Коши с масштабом . ^[11] ${\displaystyle X_{1},X_{2},\ldots }$ ${\displaystyle \rho }$ ${\displaystyle \lim _{c\to \infty }{\frac {1}{c}}\int _{-c}^{c}x^{2}\rho (x)\,dx={\frac {2\gamma }{\pi }}}$ ${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$ ${\displaystyle \gamma }$

Характерная функция

Пусть обозначает случайную величину, распределенную по закону Коши. Характеристическая функция распределения Коши задается выражением ${\displaystyle X}$

${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[e^{iXt}\right]=\int _{-\infty }^{\infty }f(x;x_{0},\gamma )e^{ixt}\,dx=e^{ix_{0}t-\gamma |t|}.}$

что является просто преобразованием Фурье плотности вероятности. Исходная плотность вероятности может быть выражена через характеристическую функцию, по сути, с помощью обратного преобразования Фурье:

${\displaystyle f(x;x_{0},\gamma )={\frac {1}{2\pi }}\int _{-\infty }^{\infty }\varphi _{X}(t;x_{0},\gamma )e^{-ixt}\,dt\!}$

N - й момент распределения — это n -я производная характеристической функции, вычисленная при . Обратите внимание, что характеристическая функция не дифференцируема в начале координат: это соответствует тому факту, что распределение Коши не имеет четко определенных моментов выше нулевого момента. ${\displaystyle t=0}$

Расхождение Кульбака–Лейблера

Расхождение Кульбака –Лейблера между двумя распределениями Коши имеет следующую симметричную формулу в замкнутой форме: ^[12]

${\displaystyle \mathrm {KL} \left(p_{x_{0,1},\gamma _{1}}:p_{x_{0,2},\gamma _{2}}\right)=\log {\frac {\left(\gamma _{1}+\gamma _{2}\right)^{2}+\left(x_{0,1}-x_{0,2}\right)^{2}}{4\gamma _{1}\gamma _{2}}}.}$

Любое f-расхождение между двумя распределениями Коши симметрично и может быть выражено как функция расхождения хи-квадрат. ^[13] Доступны выражения в замкнутой форме для полной вариации , расхождения Йенсена–Шеннона , расстояния Хеллингера и т. д.

Энтропия

Энтропия распределения Коши определяется по формуле:

${\displaystyle {\begin{aligned}H(\gamma )&=-\int _{-\infty }^{\infty }f(x;x_{0},\gamma )\log(f(x;x_{0},\gamma ))\,dx\\[6pt]&=\log(4\pi \gamma )\end{aligned}}}$

Производная функции квантиля , функции плотности квантиля, для распределения Коши равна:

${\displaystyle Q'(p;\gamma )=\gamma \,\pi \,{\sec }^{2}\left[\pi \left(p-{\tfrac {1}{2}}\right)\right].\!}$

Дифференциальную энтропию распределения можно определить через его квантильную плотность ^[14] , а именно:

${\displaystyle H(\gamma )=\int _{0}^{1}\log \,(Q'(p;\gamma ))\,\mathrm {d} p=\log(4\pi \gamma )}$

Распределение Коши — это распределение вероятности максимальной энтропии для случайной величины , для которой ^[15] ${\displaystyle X}$

${\displaystyle \operatorname {E} [\log(1+(X-x_{0})^{2}/\gamma ^{2})]=\log 4}$

Моменты

Распределение Коши обычно используется в качестве наглядного контрпримера в элементарных курсах теории вероятностей как распределение без четко определенных (или «неопределенных») моментов.

Примеры моментов

Если мы возьмем выборку IID из стандартного распределения Коши, то последовательность их выборочного среднего будет , что также имеет стандартное распределение Коши. Следовательно, независимо от того, сколько членов мы возьмем, выборочное среднее не сойдется. ${\displaystyle X_{1},X_{2},\ldots }$ ${\displaystyle S_{n}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$

Аналогично, выборочная дисперсия также не сходится. ${\displaystyle V_{n}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-S_{n})^{2}}$

Типичная траектория выборочных средних выглядит как длительные периоды медленной сходимости к нулю, прерываемые большими скачками от нуля, но никогда не уходящие слишком далеко. Типичная траектория выборочных дисперсий выглядит похоже, но скачки накапливаются быстрее, чем распад, расходясь до бесконечности.

Типичная траектория выглядит как длительные периоды медленной конвергенции к нулю, прерываемые большими скачками от нуля, но никогда не уходящие слишком далеко. Типичная траектория выглядит похоже, но скачки накапливаются быстрее, чем распад, расходясь к бесконечности. Эти два вида траекторий изображены на рисунке. ${\displaystyle S_{1},S_{2},...}$ ${\displaystyle V_{1},V_{2},...}$

Моменты выборки ниже порядка 1 будут сходиться к нулю. Моменты выборки выше порядка 2 будут расходиться к бесконечности даже быстрее, чем дисперсия выборки.

Иметь в виду

Если распределение вероятностей имеет функцию плотности , то среднее значение, если оно существует, определяется как ${\displaystyle f(x)}$

Мы можем оценить этот двусторонний несобственный интеграл , вычислив сумму двух односторонних несобственных интегралов. То есть,

для произвольного действительного числа . ${\displaystyle a}$

Для того чтобы интеграл существовал (даже как бесконечное значение), по крайней мере один из членов в этой сумме должен быть конечным, или оба должны быть бесконечными и иметь одинаковый знак. Но в случае распределения Коши оба члена в этой сумме ( 2 ) бесконечны и имеют противоположные знаки. Следовательно, ( 1 ) не определено, и, следовательно, не определено и среднее значение. ^[16] Когда среднее значение функции распределения вероятностей (PDF) не определено, никто не может вычислить надежное среднее значение по точкам экспериментальных данных, независимо от размера выборки.

Обратите внимание, что главное значение Коши среднего значения распределения Коши равно нулю. С другой стороны, соответствующий интеграл не равен нулю, как можно увидеть, вычислив интеграл. Это снова показывает, что среднее значение ( 1 ) не может существовать. $${\displaystyle \lim _{a\to \infty }\int _{-a}^{a}xf(x)\,dx}$$ $${\displaystyle \lim _{a\to \infty }\int _{-2a}^{a}xf(x)\,dx}$$

Различные результаты теории вероятностей относительно ожидаемых значений , такие как усиленный закон больших чисел , не применимы к распределению Коши. ^[16]

Меньшие моменты

Определены абсолютные моменты для . Для нас есть ${\displaystyle p\in (-1,1)}$ ${\displaystyle X\sim \mathrm {Cauchy} (0,\gamma )}$

${\displaystyle \operatorname {E} [|X|^{p}]=\gamma ^{p}\mathrm {sec} (\pi p/2).}$

Высшие моменты

Распределение Коши не имеет конечных моментов любого порядка. Некоторые из высших сырых моментов существуют и имеют значение бесконечности, например, сырой второй момент:

${\displaystyle {\begin{aligned}\operatorname {E} [X^{2}]&\propto \int _{-\infty }^{\infty }{\frac {x^{2}}{1+x^{2}}}\,dx=\int _{-\infty }^{\infty }1-{\frac {1}{1+x^{2}}}\,dx\\[8pt]&=\int _{-\infty }^{\infty }dx-\int _{-\infty }^{\infty }{\frac {1}{1+x^{2}}}\,dx=\int _{-\infty }^{\infty }dx-\pi =\infty .\end{aligned}}}$

Переставляя формулу, можно увидеть, что второй момент по сути является бесконечным интегралом константы (здесь 1). Более высокие четные степенные сырые моменты также будут оцениваться как бесконечность. Однако нечетные степенные сырые моменты не определены, что отчетливо отличается от существования со значением бесконечности. Нечетные степенные сырые моменты не определены, потому что их значения по сути эквивалентны, поскольку обе половины интеграла расходятся и имеют противоположные знаки. Первый сырой момент является средним значением, которое, будучи нечетным, не существует. (См. также обсуждение выше по этому поводу.) Это, в свою очередь, означает, что все центральные моменты и стандартизированные моменты не определены, поскольку все они основаны на среднем значении. Дисперсия, которая является вторым центральным моментом, также не существует (несмотря на то, что сырой второй момент существует со значением бесконечности). ${\displaystyle \infty -\infty }$

Результаты для более высоких моментов следуют из неравенства Гёльдера , которое подразумевает, что более высокие моменты (или половины моментов) расходятся, если расходятся более низкие.

Моменты усеченных распределений

Рассмотрим усеченное распределение , определенное путем ограничения стандартного распределения Коши интервалом [−10 ¹⁰⁰ , 10 ¹⁰⁰ ] . Такое усеченное распределение имеет все моменты (и центральная предельная теорема применима для независимых случайных наблюдений из него); тем не менее, для почти всех практических целей оно ведет себя как распределение Коши. ^[17]

Оценка параметров

Поскольку параметры распределения Коши не соответствуют среднему значению и дисперсии, попытка оценить параметры распределения Коши с использованием выборочного среднего значения и выборочной дисперсии не увенчается успехом. ^[18] Например, если из распределения Коши взята недифференцированная выборка размера n , можно вычислить выборочное среднее значение следующим образом:

${\displaystyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$

Хотя значения выборки будут концентрироваться вокруг центрального значения , среднее значение выборки будет становиться все более изменчивым по мере того, как будет сделано больше наблюдений, из-за возросшей вероятности встретить точки выборки с большим абсолютным значением. Фактически, распределение среднего значения выборки будет равно распределению самих наблюдений; т. е. среднее значение выборки большой выборки не является лучшей (или худшей) оценкой, чем любое отдельное наблюдение из выборки. Аналогично, вычисление дисперсии выборки приведет к значениям, которые будут расти по мере того, как будет сделано больше наблюдений. ${\displaystyle x_{i}}$ ${\displaystyle x_{0}}$ ${\displaystyle x_{0}}$

Поэтому необходимы более надежные средства оценки центрального значения и параметра масштабирования . Один простой метод заключается в том, чтобы взять медианное значение выборки в качестве оценки и половину выборочного межквартильного размаха в качестве оценки . Были разработаны другие, более точные и надежные методы ^{[19] [20]} Например, усеченное среднее средних 24% выборочных порядковых статистик дает оценку для , которая более эффективна, чем использование либо выборочной медианы, либо полного выборочного среднего. ^{[21] [ 22]} Однако из-за толстых хвостов распределения Коши эффективность оценки снижается, если используется более 24% выборки. ^{[21] [22]} ${\displaystyle x_{0}}$ ${\displaystyle \gamma }$ ${\displaystyle x_{0}}$ ${\displaystyle \gamma }$ ${\displaystyle x_{0}}$

Максимальное правдоподобие также может быть использовано для оценки параметров и . Однако это, как правило, осложняется тем фактом, что для этого требуется нахождение корней полинома высокой степени, и может быть несколько корней, которые представляют локальные максимумы. ^[23] Кроме того, хотя оценка максимального правдоподобия асимптотически эффективна, она относительно неэффективна для небольших выборок. ^{[24] [25]} Функция логарифмического правдоподобия для распределения Коши для размера выборки имеет вид: ${\displaystyle x_{0}}$ ${\displaystyle \gamma }$ ${\displaystyle n}$

${\displaystyle {\hat {\ell }}(x_{1},\dotsc ,x_{n}\mid \!x_{0},\gamma )=-n\log(\gamma \pi )-\sum _{i=1}^{n}\log \left(1+\left({\frac {x_{i}-x_{0}}{\gamma }}\right)^{2}\right)}$

Максимизация логарифмической функции правдоподобия относительно и путем взятия первой производной дает следующую систему уравнений: ${\displaystyle x_{0}}$ ${\displaystyle \gamma }$

${\displaystyle {\frac {d\ell }{dx_{0}}}=\sum _{i=1}^{n}{\frac {2(x_{i}-x_{0})}{\gamma ^{2}+\left(x_{i}-\!x_{0}\right)^{2}}}=0}$

${\displaystyle {\frac {d\ell }{d\gamma }}=\sum _{i=1}^{n}{\frac {2\left(x_{i}-x_{0}\right)^{2}}{\gamma (\gamma ^{2}+\left(x_{i}-x_{0}\right)^{2})}}-{\frac {n}{\gamma }}=0}$

Обратите внимание, что

${\displaystyle \sum _{i=1}^{n}{\frac {\left(x_{i}-x_{0}\right)^{2}}{\gamma ^{2}+\left(x_{i}-x_{0}\right)^{2}}}}$

является монотонной функцией в и что решение должно удовлетворять ${\displaystyle \gamma }$ ${\displaystyle \gamma }$

${\displaystyle \min |x_{i}-x_{0}|\leq \gamma \leq \max |x_{i}-x_{0}|.}$

Решение только для требует решения многочлена степени , ^[23] а решение только для требует решения многочлена степени . Поэтому, независимо от того, решается ли для одного параметра или для обоих параметров одновременно, обычно требуется численное решение на компьютере. Преимущество оценки максимального правдоподобия заключается в асимптотической эффективности; оценка с использованием выборочной медианы всего на 81% асимптотически эффективна, как оценка по максимальному правдоподобию. ^{[22] [26]} Усеченное выборочное среднее с использованием статистики среднего 24%-го порядка асимптотически эффективно примерно на 88% в качестве оценки в качестве оценки максимального правдоподобия. ^[22] Когда метод Ньютона используется для поиска решения для оценки максимального правдоподобия, статистика среднего 24%-го порядка может использоваться в качестве начального решения для . ${\displaystyle x_{0}}$ ${\displaystyle 2n-1}$ ${\displaystyle \,\!\gamma }$ ${\displaystyle 2n}$ ${\displaystyle x_{0}}$ ${\displaystyle x_{0}}$ ${\displaystyle x_{0}}$ ${\displaystyle x_{0}}$

Форму можно оценить с помощью медианы абсолютных значений, так как для местоположения 0 переменные Коши имеют параметр формы. ${\displaystyle X\sim \mathrm {Cauchy} (0,\gamma )}$ ${\displaystyle \operatorname {median} (|X|)=\gamma }$

Многомерное распределение Коши

Говорят, что случайный вектор имеет многомерное распределение Коши, если каждая линейная комбинация его компонентов имеет распределение Коши. То есть, для любого постоянного вектора случайная величина должна иметь одномерное распределение Коши. ^[27] Характеристическая функция многомерного распределения Коши определяется как: ${\displaystyle X=(X_{1},\ldots ,X_{k})^{T}}$ ${\displaystyle Y=a_{1}X_{1}+\cdots +a_{k}X_{k}}$ ${\displaystyle a\in \mathbb {R} ^{k}}$ ${\displaystyle Y=a^{T}X}$

${\displaystyle \varphi _{X}(t)=e^{ix_{0}(t)-\gamma (t)},\!}$

где и — действительные функции с однородной функцией первой степени и положительной однородной функцией первой степени. ^[27] Более формально: ^[27] ${\displaystyle x_{0}(t)}$ ${\displaystyle \gamma (t)}$ ${\displaystyle x_{0}(t)}$ ${\displaystyle \gamma (t)}$

${\displaystyle x_{0}(at)=ax_{0}(t),}$

${\displaystyle \gamma (at)=|a|\gamma (t),}$

для всех . ${\displaystyle t}$

Пример двумерного распределения Коши можно привести следующим образом: ^[28]

${\displaystyle f(x,y;x_{0},y_{0},\gamma )={1 \over 2\pi }\left[{\gamma \over ((x-x_{0})^{2}+(y-y_{0})^{2}+\gamma ^{2})^{3/2}}\right].}$

Обратите внимание, что в этом примере, даже несмотря на то, что ковариация между и равна 0, и не являются статистически независимыми . ^[28] ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle x}$ ${\displaystyle y}$

Мы также можем записать эту формулу для комплексной переменной. Тогда функция плотности вероятности комплексного Коши будет:

${\displaystyle f(z;z_{0},\gamma )={1 \over 2\pi }\left[{\gamma \over (|z-z_{0}|^{2}+\gamma ^{2})^{3/2}}\right].}$

Подобно тому, как стандартное распределение Коши является распределением Стьюдента с одной степенью свободы, многомерная плотность Коши является многомерным распределением Стьюдента с одной степенью свободы. Плотность размерного распределения Стьюдента с одной степенью свободы равна: ${\displaystyle k}$

${\displaystyle f({\mathbf {x} };{\mathbf {\mu } },{\mathbf {\Sigma } },k)={\frac {\Gamma \left({\frac {1+k}{2}}\right)}{\Gamma ({\frac {1}{2}})\pi ^{\frac {k}{2}}\left|{\mathbf {\Sigma } }\right|^{\frac {1}{2}}\left[1+({\mathbf {x} }-{\mathbf {\mu } })^{T}{\mathbf {\Sigma } }^{-1}({\mathbf {x} }-{\mathbf {\mu } })\right]^{\frac {1+k}{2}}}}.}$

Свойства многомерного распределения Коши являются тогда частными случаями многомерного распределения Стьюдента.

Свойства трансформации

• Если тогда ^[29] ${\displaystyle X\sim \operatorname {Cauchy} (x_{0},\gamma )}$ ${\displaystyle kX+\ell \sim {\textrm {Cauchy}}(x_{0}k+\ell ,\gamma |k|)}$
• Если и независимы, то и ${\displaystyle X\sim \operatorname {Cauchy} (x_{0},\gamma _{0})}$ ${\displaystyle Y\sim \operatorname {Cauchy} (x_{1},\gamma _{1})}$ ${\displaystyle X+Y\sim \operatorname {Cauchy} (x_{0}+x_{1},\gamma _{0}+\gamma _{1})}$ ${\displaystyle X-Y\sim \operatorname {Cauchy} (x_{0}-x_{1},\gamma _{0}+\gamma _{1})}$
• Если тогда ${\displaystyle X\sim \operatorname {Cauchy} (0,\gamma )}$ ${\displaystyle {\tfrac {1}{X}}\sim \operatorname {Cauchy} (0,{\tfrac {1}{\gamma }})}$
• Параметризация МакКаллага распределений Коши : ^[30] Выражая распределение Коши через один комплексный параметр , определим , что означает . Если тогда: где , , и — действительные числа. ${\displaystyle \psi =x_{0}+i\gamma }$ ${\displaystyle X\sim \operatorname {Cauchy} (\psi )}$ ${\displaystyle X\sim \operatorname {Cauchy} (x_{0},|\gamma |)}$ ${\displaystyle X\sim \operatorname {Cauchy} (\psi )}$ $${\displaystyle {\frac {aX+b}{cX+d}}\sim \operatorname {Cauchy} \left({\frac {a\psi +b}{c\psi +d}}\right)}$$ ${\displaystyle a}$ ${\displaystyle b}$ ${\displaystyle c}$ ${\displaystyle d}$
• Используя то же соглашение, что и выше, если тогда: ^[30] где — круговое распределение Коши . ${\displaystyle X\sim \operatorname {Cauchy} (\psi )}$ $${\displaystyle {\frac {X-i}{X+i}}\sim \operatorname {CCauchy} \left({\frac {\psi -i}{\psi +i}}\right)}$$ ${\displaystyle \operatorname {CCauchy} }$

мера Леви

Распределение Коши является устойчивым распределением индекса 1. Представление Леви–Хинчина такого устойчивого распределения параметра задается формулой: ${\displaystyle \gamma }$ ${\displaystyle X\sim \operatorname {Stable} (\gamma ,0,0)\,}$

${\displaystyle \operatorname {E} \left(e^{ixX}\right)=\exp \left(\int _{\mathbb {R} }(e^{ixy}-1)\Pi _{\gamma }(dy)\right)}$

где

${\displaystyle \Pi _{\gamma }(dy)=\left(c_{1,\gamma }{\frac {1}{y^{1+\gamma }}}1_{\left\{y>0\right\}}+c_{2,\gamma }{\frac {1}{|y|^{1+\gamma }}}1_{\left\{y<0\right\}}\right)\,dy}$

и может быть выражено явно. ^[31] В случае распределения Коши имеем . ${\displaystyle c_{1,\gamma },c_{2,\gamma }}$ ${\displaystyle \gamma =1}$ ${\displaystyle c_{1,\gamma }=c_{2,\gamma }}$

Это последнее представление является следствием формулы

${\displaystyle \pi |x|=\operatorname {PV} \int _{\mathbb {R} \smallsetminus \lbrace 0\rbrace }(1-e^{ixy})\,{\frac {dy}{y^{2}}}}$

Связанные дистрибутивы

• ${\displaystyle \operatorname {Cauchy} (0,1)\sim {\textrm {t}}(\mathrm {df} =1)\,}$ Распределение Стьюдента​
• ${\displaystyle \operatorname {Cauchy} (\mu ,\sigma )\sim {\textrm {t}}_{(\mathrm {df} =1)}(\mu ,\sigma )\,}$ нестандартизированное распределение Стьюдента
• Если независимы, то ${\displaystyle X,Y\sim {\textrm {N}}(0,1)\,X,Y}$ ${\displaystyle {\tfrac {X}{Y}}\sim {\textrm {Cauchy}}(0,1)\,}$
• Если тогда ${\displaystyle X\sim {\textrm {U}}(0,1)\,}$ ${\displaystyle \tan \left(\pi \left(X-{\tfrac {1}{2}}\right)\right)\sim {\textrm {Cauchy}}(0,1)\,}$
• Если тогда ${\displaystyle X\sim \operatorname {Log-Cauchy} (0,1)}$ ${\displaystyle \ln(X)\sim {\textrm {Cauchy}}(0,1)}$
• Если тогда ${\displaystyle X\sim \operatorname {Cauchy} (x_{0},\gamma )}$ ${\displaystyle {\tfrac {1}{X}}\sim \operatorname {Cauchy} \left({\tfrac {x_{0}}{x_{0}^{2}+\gamma ^{2}}},{\tfrac {\gamma }{x_{0}^{2}+\gamma ^{2}}}\right)}$
• Распределение Коши является предельным случаем распределения Пирсона типа 4 ^{[ требуется ссылка ]}
• Распределение Коши является частным случаем распределения Пирсона типа 7. ^[1]
• Распределение Коши является устойчивым распределением : если , то . ${\displaystyle X\sim {\textrm {Stable}}(1,0,\gamma ,\mu )}$ ${\displaystyle X\sim \operatorname {Cauchy} (\mu ,\gamma )}$
• Распределение Коши является сингулярным пределом гиперболического распределения ^{[ требуется ссылка ]}
• Обернутое распределение Коши , принимающее значения на окружности, выводится из распределения Коши путем обертывания его вокруг окружности.
• Если , , то . Для полураспределений Коши соотношение выполняется, если положить . ${\displaystyle X\sim {\textrm {N}}(0,1)}$ ${\displaystyle Z\sim \operatorname {Inverse-Gamma} (1/2,s^{2}/2)}$ ${\displaystyle Y=\mu +X{\sqrt {Z}}\sim \operatorname {Cauchy} (\mu ,s)}$ ${\displaystyle X\sim {\textrm {N}}(0,1)I\{X\geq 0\}}$

Релятивистское распределение Брейта-Вигнера

В ядерной физике и физике элементарных частиц энергетический профиль резонанса описывается релятивистским распределением Брейта-Вигнера , в то время как распределение Коши является (нерелятивистским) распределением Брейта-Вигнера. ^{[ необходима ссылка ]}

Возникновение и применение

• В спектроскопии распределение Коши описывает форму спектральных линий , которые подвержены однородному расширению , в котором все атомы взаимодействуют одинаковым образом с диапазоном частот, содержащимся в форме линии. Многие механизмы вызывают однородное расширение, наиболее заметное из которых — уширение при столкновениях . ^[32] Уширение в течение жизни или естественное уширение также приводит к форме линии, описываемой распределением Коши.
• Приложения распределения Коши или его преобразования можно найти в областях, работающих с экспоненциальным ростом . В статье Уайта 1958 года ^[33] была выведена тестовая статистика для оценок для уравнения , и где оценка максимального правдоподобия находится с использованием обычных наименьших квадратов, было показано, что выборочное распределение статистики является распределением Коши. ${\displaystyle {\hat {\beta }}}$ ${\displaystyle x_{t+1}=\beta {x}_{t}+\varepsilon _{t+1},\beta >1}$

Подогнанное кумулятивное распределение Коши к максимальному количеству осадков за один день с использованием CumFreq , см. также подгонку распределения ^[34]

• Распределение Коши часто является распределением наблюдений для вращающихся объектов. Классическая ссылка на это называется задачей о маяке Гулла ^[35] и, как в предыдущем разделе, распределением Брейта–Вигнера в физике элементарных частиц.
• В гидрологии распределение Коши применяется к экстремальным событиям, таким как годовые максимальные однодневные осадки и речные сбросы. Синяя картинка иллюстрирует пример подгонки распределения Коши к ранжированным ежемесячным максимальным однодневным осадкам, показывая также 90% доверительный пояс на основе биномиального распределения . Данные об осадках представлены путем построения позиций в рамках кумулятивного частотного анализа .
• Выражение для мнимой части комплексной диэлектрической проницаемости , согласно модели Лоренца, представляет собой распределение Коши.
• В качестве дополнительного распределения для моделирования толстых хвостов в вычислительных финансах , распределения Коши могут использоваться для моделирования VAR ( стоимости под риском ), создавая гораздо большую вероятность экстремального риска, чем распределение Гаусса . ^[36]

Смотрите также

• Полет Леви и процесс Леви
• Распределение Лапласа , преобразование Фурье распределения Коши
• процесс Коши
• Стабильный процесс
• Распределение косой черты

Ссылки

1. NL Johnson; S. Kotz; N. Balakrishnan (1994). Непрерывные одномерные распределения, том 1. Нью-Йорк: Wiley., Глава 16.
2. Коши и ведьма Аньези в Статистике на столе , SM Stigler Гарвард 1999 Глава 18
3. Феллер, Уильям (1971). Введение в теорию вероятностей и ее приложения, том II (2-е изд.). Нью-Йорк: John Wiley & Sons Inc. стр. 704. ISBN 978-0-471-25709-7.
4. "Функция Лоренца". MathWorld . Wolfram Research . Получено 27 октября 2024 г. .
5. Райли, Кен Ф.; Хобсон, Майкл П.; Бенс, Стивен Дж. (2006). Математические методы для физики и инженерии (3-е изд.). Кембридж, Великобритания: Cambridge University Press. стр. 1333. ISBN 978-0-511-16842-0.
6. Балакришнан, Н.; Неврозов, В.Б. (2003). Учебник статистических распределений (1-е изд.). Хобокен, Нью-Джерси: John Wiley & Sons Inc., стр. 305. ISBN 0-471-42798-5.
7. Ли, Руи; Надараджа, Саралис (2020-03-01). «Обзор распределения Стьюдента и его обобщений». Эмпирическая экономика . 58 (3): 1461–1490. doi :10.1007/s00181-018-1570-0. ISSN  1435-8921.
8. Пиллаи Н.; Мэн, XL (2016). «Неожиданная встреча с Коши и Леви». Анналы статистики . 44 (5): 2089–2097. arXiv : 1505.01957 . doi : 10.1214/15-AOS1407. S2CID  31582370.
9. Кэмпбелл Б. Рид; Н. Балакришнан; Брани Видакович; Сэмюэл Коц (2006). Энциклопедия статистических наук (2-е изд.). Джон Уайли и сыновья . п. 778. ИСБН 978-0-471-15044-2.
10. Найт, Франк Б. (1976). «Характеристика типа Коши». Труды Американского математического общества . 55 (1): 130–135. doi : 10.2307/2041858 . JSTOR  2041858.
11. «Обновления центрального предела Коши». Квантовое исчисление . 13 ноября 2022 г. Получено 21 июня 2023 г.
12. Фредерик, Чизак; Нильсен, Франк (2019). «Формула замкнутой формы для расхождения Кульбака-Лейблера между распределениями Коши». arXiv : 1905.10965 [cs.IT].
13. Нильсен, Франк; Окамура, Казуки (2023). «О f-расхождениях между распределениями Коши». Труды IEEE по теории информации . 69 (5): 3150–3171. arXiv : 2101.12459 . doi : 10.1109/TIT.2022.3231645. S2CID  231728407.
14. Васичек, Олдрич (1976). «Тест на нормальность на основе выборочной энтропии». Журнал Королевского статистического общества, серия B. 38 ( 1): 54–59. doi :10.1111/j.2517-6161.1976.tb01566.x.
15. Park, Sung Y.; Bera, Anil K. (2009). "Модель условной гетероскедастичности с максимальной энтропией" (PDF) . Journal of Econometrics . 150 (2). Elsevier: 219–230. doi :10.1016/j.jeconom.2008.12.014. Архивировано из оригинала (PDF) 2011-09-30 . Получено 2011-06-02 .
16. Kyle Siegrist. "Распределение Коши". Случайно . Архивировано из оригинала 9 июля 2021 г. Получено 5 июля 2021 г.
17. Хампель, Фрэнк (1998), «Слишком ли сложна статистика?» (PDF) , Канадский журнал статистики , 26 (3): 497–513, doi : 10.2307/3315772, hdl : 20.500.11850/145503 , JSTOR  3315772, S2CID  53117661, заархивировано из оригинала 25.01.2022 , извлечено 25.09.2019.
18. "Иллюстрация нестабильности выборочных средних". Архивировано из оригинала 2017-03-24 . Получено 2014-11-22 .
19. Кейн, Гвенда Дж. (1974). «Линейная оценка параметров распределения Коши на основе выборочных квантилей». Журнал Американской статистической ассоциации . 69 (345): 243–245. doi :10.1080/01621459.1974.10480163. JSTOR  2285535.
20. Чжан, Цзинь (2010). «Высокоэффективная L-оценка для параметра местоположения распределения Коши». Computational Statistics . 25 (1): 97–105. doi :10.1007/s00180-009-0163-y. S2CID  123586208.
21. Rothenberg, Thomas J.; Fisher, Franklin, M.; Tilanus, CB (1964). «Заметка об оценке по выборке Коши». Журнал Американской статистической ассоциации . 59 (306): 460–463. doi :10.1080/01621459.1964.10482170.{{cite journal}}: CS1 maint: multiple names: authors list (link)
22. Блох, Дэниел (1966). «Заметка об оценке параметров местоположения распределения Коши». Журнал Американской статистической ассоциации . 61 (316): 852–855. doi :10.1080/01621459.1966.10480912. JSTOR  2282794.
23. Фергюсон, Томас С. (1978). «Оценки максимального правдоподобия параметров распределения Коши для выборок размера 3 и 4». Журнал Американской статистической ассоциации . 73 (361): 211–213. doi :10.1080/01621459.1978.10480031. JSTOR  2286549.
24. Cohen Freue, Gabriella V. (2007). "Оценка Питмана параметра местоположения Коши" (PDF) . Журнал статистического планирования и вывода . 137 (6): 1901. doi :10.1016/j.jspi.2006.05.002. Архивировано из оригинала (PDF) 2011-08-16.
25. Уилкокс, Рэнд (2012). Введение в надежную оценку и проверку гипотез . Elsevier.
26. Барнетт, В. Д. (1966). «Оценки порядка статистики расположения распределения Коши». Журнал Американской статистической ассоциации . 61 (316): 1205–1218. doi :10.1080/01621459.1966.10482205. JSTOR  2283210.
27. Ferguson, Thomas S. (1962). «Представление симметричного двумерного распределения Коши». Анналы математической статистики . 33 (4): 1256–1266. doi : 10.1214/aoms/1177704357 . JSTOR  2237984. Получено 07.01.2017 .
28. Molenberghs, Geert; Lesaffre, Emmanuel (1997). "Нелинейные интегральные уравнения для аппроксимации двумерных плотностей с заданными маргиналами и функцией зависимости" (PDF) . Statistica Sinica . 7 : 713–738. Архивировано из оригинала (PDF) 2009-09-14.
29. Лемонс, Дон С. (2002), «Введение в стохастические процессы в физике», Американский журнал физики , 71 (2), Издательство Университета Джонса Хопкинса: 35, Bibcode : 2003AmJPh..71..191L, doi : 10.1119/1.1526134, ISBN 0-8018-6866-1
30. McCullagh, P. , «Условный вывод и модели Коши», Biometrika , том 79 (1992), страницы 247–259. PDF Архивировано 10 июня 2010 г. на Wayback Machine с домашней страницы McCullagh.
31. Киприану, Андреас (2009). Процессы Леви и ветвящиеся процессы с непрерывным состоянием: часть I (PDF) . стр. 11. Архивировано (PDF) из оригинала 2016-03-03 . Получено 2016-05-04 .
32. Э. Хехт (1987). Оптика (2-е изд.). Эддисон-Уэсли . стр. 603.
33. Уайт, Дж. С. (декабрь 1958 г.). «Предельное распределение коэффициента последовательной корреляции в случае взрывчатых веществ». Анналы математической статистики . 29 (4): 1188–1197. doi : 10.1214/aoms/1177706450 .
34. "CumFreq, бесплатное программное обеспечение для кумулятивного частотного анализа и подгонки распределения вероятностей". Архивировано из оригинала 21.02.2018.
35. Gull, SF (1988) Байесовский индуктивный вывод и максимальная энтропия. Kluwer Academic Publishers, Берлин. https://doi.org/10.1007/978-94-009-3049-0_4 Архивировано 25 января 2022 г. на Wayback Machine
36. Тонг Лю (2012), Промежуточное распределение между гауссовым и распределением Коши. https://arxiv.org/pdf/1208.5109.pdf Архивировано 24.06.2020 на Wayback Machine

Внешние ссылки

• «Распределение Коши», Энциклопедия математики , EMS Press , 2001 [1994]
• Раннее использование: В статье о распределении Коши содержится некоторая историческая информация.
• Вайсштейн, Эрик В. «Распределение Коши». MathWorld .
• Научная библиотека GNU – Справочное руководство
• Отношения нормальных переменных Джорджа Марсальи