Характеристическая функция (теория вероятностей)

Преобразование Фурье функции плотности вероятности

Характеристическая функция равномерной случайной величины U (–1,1). Эта функция является действительной, поскольку она соответствует случайной величине, симметричной относительно начала координат; однако характеристические функции, как правило, могут быть комплексными.

В теории вероятностей и статистике характеристическая функция любой действительной случайной величины полностью определяет ее распределение вероятностей . Если случайная величина допускает функцию плотности вероятности , то характеристическая функция является преобразованием Фурье (с обратным знаком) функции плотности вероятности. Таким образом, она обеспечивает альтернативный путь к аналитическим результатам по сравнению с работой напрямую с функциями плотности вероятности или кумулятивными функциями распределения . Существуют особенно простые результаты для характеристических функций распределений, определяемых взвешенными суммами случайных величин.

Помимо одномерных распределений , характеристические функции могут быть определены для векторных или матричных случайных величин, а также могут быть расширены на более общие случаи.

Характеристическая функция всегда существует, если рассматривать ее как функцию действительного аргумента, в отличие от функции, генерирующей моменты . Существуют связи между поведением характеристической функции распределения и свойствами распределения, такими как существование моментов и существование функции плотности.

Введение

Характеристическая функция — это способ описания случайной величины . Характеристическая функция ,

${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right],}$

функция от t , определяет поведение и свойства распределения вероятностей случайной величины X . Она эквивалентна функции плотности вероятности или кумулятивной функции распределения в том смысле, что зная одну из функций, всегда можно найти другие, однако они дают разное представление о свойствах случайной величины. Более того, в отдельных случаях могут быть различия в том, могут ли эти функции быть представлены в виде выражений, включающих простые стандартные функции.

Если случайная величина допускает функцию плотности , то характеристическая функция является ее Фурье-дуальной , в том смысле, что каждая из них является преобразованием Фурье другой. Если случайная величина имеет функцию, генерирующую момент , то область определения характеристической функции может быть расширена до комплексной плоскости, и ${\displaystyle M_{X}(t)}$

${\displaystyle \varphi _{X}(-it)=M_{X}(t).}$^[1]

Однако следует отметить, что характеристическая функция распределения хорошо определена для всех действительных значений t , даже если функция , генерирующая моменты, хорошо определена для всех действительных значений t .

Подход характеристической функции особенно полезен при анализе линейных комбинаций независимых случайных величин: классическое доказательство Центральной предельной теоремы использует характеристические функции и теорему Леви о непрерывности . Другое важное приложение — теория разложимости случайных величин.

Определение

Для скалярной случайной величины X характеристическая функция определяется как ожидаемое значение e ^itX , где i — мнимая единица , а t ∈ R — аргумент характеристической функции:

${\displaystyle {\begin{cases}\displaystyle \varphi _{X}\!:\mathbb {R} \to \mathbb {C} \\\displaystyle \varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right]=\int _{\mathbb {R} }e^{itx}\,dF_{X}(x)=\int _{\mathbb {R} }e^{itx}f_{X}(x)\,dx=\int _{0}^{1}e^{itQ_{X}(p)}\,dp\end{cases}}}$

Здесь F _X — кумулятивная функция распределения X , f _X — соответствующая функция плотности вероятности , Q _X ( p ) — соответствующая обратная кумулятивная функция распределения, также называемая функцией квантиля , ^[2] а интегралы имеют вид Римана–Стилтьеса . Если случайная величина X имеет функцию плотности вероятности , то характеристическая функция — это ее преобразование Фурье с обратным знаком в комплексной экспоненте ^{[3] [ нужна страница ]} . ^[4] Это соглашение для констант, появляющихся в определении характеристической функции, отличается от обычного соглашения для преобразования Фурье. ^[5] Например, некоторые авторы ^[6] определяют φ _X ( t ) = E[ e ^{−2 πitX} ] , что по сути является заменой параметра. В литературе можно встретить и другие обозначения: как характеристическую функцию для вероятностной меры p или как характеристическую функцию, соответствующую плотности f . ${\displaystyle \scriptstyle {\hat {p}}}$ ${\displaystyle \scriptstyle {\hat {f}}}$

Обобщения

Понятие характеристической функции обобщается на многомерные случайные величины и более сложные случайные элементы . Аргумент характеристической функции всегда будет принадлежать непрерывному сопряженному пространству, в котором случайная величина X принимает свои значения. Для общих случаев такие определения перечислены ниже:

• Если X — k -мерный случайный вектор , то для t ∈ R ^{k ,} где — транспонированный вектор   , $${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp(it^{T}\!X)\right],}$$ ${\textstyle t^{T}}$ ${\textstyle t}$
• Если X — случайная матрица размерности k × p , то для t ∈ R ^{k × p,} где — оператор следа , $${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {tr} (t^{T}\!X)\right)\right],}$$ ${\textstyle \operatorname {tr} (\cdot )}$
• Если X — комплексная случайная величина , то для t ∈ C ^[7] где — комплексно сопряженная величина  , а — действительная часть комплексного числа , $${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {Re} \left({\overline {t}}X\right)\right)\right],}$$ ${\textstyle {\overline {t}}}$ ${\textstyle t}$ ${\textstyle \operatorname {Re} (z)}$ ${\textstyle z}$
• Если X — k -мерный комплексный случайный вектор , то для t ∈ C ^{k   [8]} где — сопряженное транспонирование вектора   , $${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp(i\operatorname {Re} (t^{*}\!X))\right],}$$ ${\textstyle t^{*}}$ ${\textstyle t}$
• Если X ( s ) — случайный процесс , то для всех функций t ( s ) таких, что интеграл сходится для почти всех реализаций X ^[9] ${\textstyle \int _{\mathbb {R} }t(s)X(s)\,\mathrm {d} s}$ $${\displaystyle \varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\int _{\mathbf {R} }t(s)X(s)\,ds\right)\right].}$$

Примеры

Оберхеттингер (1973) приводит обширные таблицы характеристических функций.

Характеристики

• Характеристическая функция действительной случайной величины всегда существует, поскольку она является интегралом ограниченной непрерывной функции по пространству, мера которого конечна.
• Характеристическая функция равномерно непрерывна на всем пространстве.
• Он не обращается в нуль в области около нуля: φ (0) = 1 .
• Он ограничен: | φ ( t ) | ≤ 1 .
• Она эрмитова : φ (− t ) = φ ( t ) . В частности, характеристическая функция симметричной (вокруг начала координат) случайной величины является действительной и четной .
• Существует биекция между распределениями вероятностей и характеристическими функциями. То есть, для любых двух случайных величин X ₁ , X ₂ , обе имеют одинаковое распределение вероятностей тогда и только тогда, когда . ^{[ необходима цитата ]} ${\displaystyle \varphi _{X_{1}}=\varphi _{X_{2}}}$
• Если случайная величина X имеет моменты до k -го порядка, то характеристическая функция φ _X k раз непрерывно дифференцируема на всей действительной прямой. В этом случае $${\displaystyle \operatorname {E} [X^{k}]=i^{-k}\varphi _{X}^{(k)}(0).}$$
• Если характеристическая функция φ _X имеет k -ю производную в нуле, то случайная величина X имеет все моменты до k , если k четное, но только до k – 1 , если k нечетное. ^[11] $${\displaystyle \varphi _{X}^{(k)}(0)=i^{k}\operatorname {E} [X^{k}]}$$
• Если X ₁ , ..., X _n — независимые случайные величины, а a ₁ , ..., a _n — некоторые константы, то характеристическая функция линейной комбинации переменных X _i равна Одним из частных случаев является сумма двух независимых случайных величин X ₁ и X _{2 ,} в этом случае имеем $${\displaystyle \varphi _{a_{1}X_{1}+\cdots +a_{n}X_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\cdots \varphi _{X_{n}}(a_{n}t).}$$ $${\displaystyle \varphi _{X_{1}+X_{2}}(t)=\varphi _{X_{1}}(t)\cdot \varphi _{X_{2}}(t).}$$
• Пусть и — две случайные величины с характеристическими функциями и . И независимы тогда и только тогда, когда . ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \varphi _{X}}$ ${\displaystyle \varphi _{Y}}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \varphi _{X,Y}(s,t)=\varphi _{X}(s)\varphi _{Y}(t)\quad {\text{ for all }}\quad (s,t)\in \mathbb {R} ^{2}}$
• Поведение хвоста характеристической функции определяет гладкость соответствующей функции плотности.
• Пусть случайная величина будет линейным преобразованием случайной величины . Характеристическая функция есть . Для случайных векторов и (где A — постоянная матрица, а B — постоянный вектор) имеем . ^[12] ${\displaystyle Y=aX+b}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle \varphi _{Y}(t)=e^{itb}\varphi _{X}(at)}$ ${\displaystyle X}$ ${\displaystyle Y=AX+B}$ ${\displaystyle \varphi _{Y}(t)=e^{it^{\top }B}\varphi _{X}(A^{\top }t)}$

Непрерывность

Указанная выше биекция между распределениями вероятностей и характеристическими функциями является последовательно непрерывной . То есть, всякий раз, когда последовательность функций распределения F _j ( x ) сходится (слабо) к некоторому распределению F ( x ) , соответствующая последовательность характеристических функций φ _j ( t ) также будет сходиться, и предел φ ( t ) будет соответствовать характеристической функции закона F . Более формально это формулируется как

Теорема Леви о непрерывности : Последовательность X _j n -мерныхслучайных величин сходится по распределению к случайной величине X тогда и только тогда, когда последовательность φ _{X j} сходится поточечно к функции φ, которая непрерывна в начале координат. Где φ — характеристическая функция X . ^[13]

Эту теорему можно использовать для доказательства закона больших чисел и центральной предельной теоремы .

Формула обращения

Между кумулятивными функциями распределения и характеристическими функциями существует взаимно-однозначное соответствие , поэтому можно найти одну из этих функций, если мы знаем другую. Формула в определении характеристической функции позволяет нам вычислить φ , когда мы знаем функцию распределения F (или плотность f ). Если, с другой стороны, мы знаем характеристическую функцию φ и хотим найти соответствующую функцию распределения, то можно использовать одну из следующих теорем обращения .

Теорема . Если характеристическая функция φ _X случайной величины X интегрируема , то F _X абсолютно непрерывна, и поэтому X имеет функцию плотности вероятности . В одномерном случае (т.е. когда X имеет скалярное значение) функция плотности имеет вид $${\displaystyle f_{X}(x)=F_{X}'(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{-itx}\varphi _{X}(t)\,dt.}$$

В многомерном случае это $${\displaystyle f_{X}(x)={\frac {1}{(2\pi )^{n}}}\int _{\mathbf {R} ^{n}}e^{-i(t\cdot x)}\varphi _{X}(t)\lambda (dt)}$$

где — скалярное произведение . ${\textstyle t\cdot x}$

Функция плотности представляет собой производную Радона–Никодима распределения μ _X по мере Лебега λ : $${\displaystyle f_{X}(x)={\frac {d\mu _{X}}{d\lambda }}(x).}$$

Теорема (Леви) . ^{[примечание 1]} Если φ _X является характеристической функцией функции распределения F _X , две точки a < b таковы, что { x | a < x < b } является множеством непрерывности μ _X (в одномерном случае это условие эквивалентно непрерывности F _X в точках a и b ), то

• Если X скалярно: Эту формулу можно переформулировать в форме, более удобной для численных вычислений, как ^[14] Для случайной величины, ограниченной снизу, можно получить, взяв такое, что В противном случае, если случайная величина не ограничена снизу, предел для дает , но численно непрактичен. ^[14] $${\displaystyle F_{X}(b)-F_{X}(a)={\frac {1}{2\pi }}\lim _{T\to \infty }\int _{-T}^{+T}{\frac {e^{-ita}-e^{-itb}}{it}}\,\varphi _{X}(t)\,dt.}$$ $${\displaystyle {\frac {F(x+h)-F(x-h)}{2h}}={\frac {1}{2\pi }}\int _{-\infty }^{\infty }{\frac {\sin ht}{ht}}e^{-itx}\varphi _{X}(t)\,dt.}$$ ${\displaystyle F(b)}$ ${\displaystyle a}$ ${\displaystyle F(a)=0.}$ ${\displaystyle a\to -\infty }$ ${\displaystyle F(b)}$
• Если X — векторная случайная величина: $${\displaystyle \mu _{X}{\big (}\{a<x<b\}{\big )}={\frac {1}{(2\pi )^{n}}}\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\int \limits _{-T_{1}\leq t_{1}\leq T_{1}}\cdots \int \limits _{-T_{n}\leq t_{n}\leq T_{n}}\prod _{k=1}^{n}\left({\frac {e^{-it_{k}a_{k}}-e^{-it_{k}b_{k}}}{it_{k}}}\right)\varphi _{X}(t)\lambda (dt_{1}\times \cdots \times dt_{n})}$$

Теорема . Если a (возможно) является атомом X (в одномерном случае это означает точку разрыва F _X ), то

• Если X скаляр: $${\displaystyle F_{X}(a)-F_{X}(a-0)=\lim _{T\to \infty }{\frac {1}{2T}}\int _{-T}^{+T}e^{-ita}\varphi _{X}(t)\,dt}$$
• Если X — векторная случайная величина: ^[15] $${\displaystyle \mu _{X}(\{a\})=\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\left(\prod _{k=1}^{n}{\frac {1}{2T_{k}}}\right)\int \limits _{[-T_{1},T_{1}]\times \dots \times [-T_{n},T_{n}]}e^{-i(t\cdot a)}\varphi _{X}(t)\lambda (dt)}$$

Теорема (Жиль-Пелаес) . ^[16] Для одномерной случайной величины X , если x является точкой непрерывности F _X, то

${\displaystyle F_{X}(x)={\frac {1}{2}}-{\frac {1}{\pi }}\int _{0}^{\infty }{\frac {\operatorname {Im} [e^{-itx}\varphi _{X}(t)]}{t}}\,dt}$

где мнимая часть комплексного числа определяется выражением . ${\displaystyle z}$ ${\displaystyle \mathrm {Im} (z)=(z-z^{*})/2i}$

И его функция плотности:

${\displaystyle f_{X}(x)={\frac {1}{\pi }}\int _{0}^{\infty }\operatorname {Re} [e^{-itx}\varphi _{X}(t)]\,dt}$

Интеграл может не быть интегрируемым по Лебегу ; например, когда X — дискретная случайная величина , которая всегда равна 0, он становится интегралом Дирихле .

Доступны формулы инверсии для многомерных распределений. ^{[14] [17]}

Критерии характеристических функций

Множество всех характеристических функций замкнуто относительно некоторых операций:

• Выпуклая линейная комбинация (при ) конечного или счетного числа характеристических функций также является характеристической функцией. ${\textstyle \sum _{n}a_{n}\varphi _{n}(t)}$ ${\textstyle a_{n}\geq 0,\ \sum _{n}a_{n}=1}$
• Произведение конечного числа характеристических функций также является характеристической функцией. То же самое справедливо и для бесконечного произведения при условии, что оно сходится к функции, непрерывной в начале координат.
• Если φ — характеристическая функция, а α — действительное число, то , Re( φ ), | φ | ² и φ ( αt ) также являются характеристическими функциями. ${\displaystyle {\bar {\varphi }}}$

Хорошо известно, что любая неубывающая функция càdlàg F с пределами F (−∞) = 0 , F (+∞) = 1 соответствует кумулятивной функции распределения некоторой случайной величины. Также интересно найти подобные простые критерии для случая, когда заданная функция φ может быть характеристической функцией некоторой случайной величины. Центральным результатом здесь является теорема Бохнера , хотя ее полезность ограничена, поскольку основное условие теоремы, неотрицательная определенность , очень трудно проверить. Существуют и другие теоремы, такие как теоремы Хинчина, Матиаса или Крамера, хотя их применение столь же сложно. Теорема Полиа , с другой стороны, обеспечивает очень простое условие выпуклости, которое является достаточным, но не необходимым. Характеристические функции, которые удовлетворяют этому условию, называются функциями типа Полиа. ^[18]

Теорема Бохнера . Произвольная функция φ  : R ⁿ → C является характеристической функцией некоторой случайной величины тогда и только тогда, когда φ положительно определена , непрерывна в начале координат и если φ (0) = 1 .

Критерий Хинчина . Комплекснозначная, абсолютно непрерывная функция φ , при φ (0) = 1 , является характеристической функцией тогда и только тогда, когда она допускает представление

${\displaystyle \varphi (t)=\int _{\mathbf {R} }g(t+\theta ){\overline {g(\theta )}}\,d\theta .}$

Теорема Матиаса . Действительная, четная, непрерывная, абсолютно интегрируемая функция φ , при φ (0) = 1 , является характеристической функцией тогда и только тогда, когда

${\displaystyle (-1)^{n}\left(\int _{\mathbf {R} }\varphi (pt)e^{-t^{2}/2}H_{2n}(t)\,dt\right)\geq 0}$

для n = 0,1,2,... и всех p > 0. Здесь H _{2 n} обозначает многочлен Эрмита степени 2 n .

Теорему Полиа можно использовать для построения примера двух случайных величин, характеристические функции которых совпадают на конечном интервале, но различны в других местах.

Теорема Полиа . Если — вещественная, четная, непрерывная функция, удовлетворяющая условиям ${\displaystyle \varphi }$

• ${\displaystyle \varphi (0)=1}$,
• ${\displaystyle \varphi }$является выпуклым для , ${\displaystyle t>0}$
• ${\displaystyle \varphi (\infty )=0}$,

тогда φ ( t ) является характеристической функцией абсолютно непрерывного распределения, симметричного относительно 0.

Использует

Из-за теоремы о непрерывности характеристические функции используются в наиболее часто встречающемся доказательстве центральной предельной теоремы . Основной метод, используемый при выполнении вычислений с характеристической функцией, заключается в распознавании функции как характеристической функции конкретного распределения.

Базовые манипуляции с распределениями

Характеристические функции особенно полезны для работы с линейными функциями независимых случайных величин. Например, если X ₁ , X ₂ , ..., X _n — это последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и

${\displaystyle S_{n}=\sum _{i=1}^{n}a_{i}X_{i},\,\!}$

где a _i — константы, тогда характеристическая функция для S _n определяется выражением

${\displaystyle \varphi _{S_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\varphi _{X_{2}}(a_{2}t)\cdots \varphi _{X_{n}}(a_{n}t)\,\!}$

В частности, φ _X+Y ( t ) = φ _X ( t ) φ _Y ( t ) . Чтобы увидеть это, запишем определение характеристической функции:

${\displaystyle \varphi _{X+Y}(t)=\operatorname {E} \left[e^{it(X+Y)}\right]=\operatorname {E} \left[e^{itX}e^{itY}\right]=\operatorname {E} \left[e^{itX}\right]\operatorname {E} \left[e^{itY}\right]=\varphi _{X}(t)\varphi _{Y}(t)}$

Для установления равенства третьего и четвертого выражений требуется независимость X и Y.

Другой особый случай, представляющий интерес для одинаково распределенных случайных величин, — это когда a _i = 1 / n , а затем S _n — это выборочное среднее. В этом случае, записывая X для среднего,

${\displaystyle \varphi _{\overline {X}}(t)=\varphi _{X}\!\left({\tfrac {t}{n}}\right)^{n}}$

Моменты

Характеристические функции также могут быть использованы для нахождения моментов случайной величины. При условии, что n - ^й момент существует, характеристическую функцию можно дифференцировать n раз:

$${\displaystyle \operatorname {E} \left[X^{n}\right]=i^{-n}\left[{\frac {d^{n}}{dt^{n}}}\varphi _{X}(t)\right]_{t=0}=i^{-n}\varphi _{X}^{(n)}(0),\!}$$

Это можно формально записать с использованием производных дельта-функции Дирака : что позволяет формально решить проблему моментов . Например, предположим, что X имеет стандартное распределение Коши . Тогда φ _X ( t ) = e ^{−| t |} . Это не дифференцируемо при t = 0 , что показывает, что распределение Коши не имеет ожидания . Кроме того, характеристическая функция выборочного среднего X из n независимых наблюдений имеет характеристическую функцию φ _X ( t ) = ( e ^{−| t |/ n} ) ⁿ = e ^{−| t |} , используя результат из предыдущего раздела. Это характеристическая функция стандартного распределения Коши: таким образом, выборочное среднее имеет то же распределение, что и сама популяция. $${\displaystyle f_{X}(x)=\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!}}\delta ^{(n)}(x)\operatorname {E} [X^{n}]}$$

В качестве еще одного примера предположим, что X следует гауссовскому распределению , т.е. Тогда и ${\displaystyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2})}$ ${\displaystyle \varphi _{X}(t)=e^{\mu it-{\frac {1}{2}}\sigma ^{2}t^{2}}}$

${\displaystyle \operatorname {E} \left[X\right]=i^{-1}\left[{\frac {d}{dt}}\varphi _{X}(t)\right]_{t=0}=i^{-1}\left[(i\mu -\sigma ^{2}t)\varphi _{X}(t)\right]_{t=0}=\mu }$

Подобный расчет показывает и его легче выполнить, чем применять определение ожидания и использовать интегрирование по частям для оценки . ${\displaystyle \operatorname {E} \left[X^{2}\right]=\mu ^{2}+\sigma ^{2}}$ ${\displaystyle \operatorname {E} \left[X^{2}\right]}$

Логарифм характеристической функции — это функция, производящая кумулянты , которая полезна для нахождения кумулянтов ; некоторые вместо этого определяют функцию, производящую кумулянты, как логарифм функции, производящей момент , и называют логарифм характеристической функции второй функцией, производящей кумулянты.

Анализ данных

Характеристические функции могут использоваться как часть процедур для подгонки распределений вероятностей к выборкам данных. Случаи, когда это обеспечивает практически осуществимый вариант по сравнению с другими возможностями, включают подгонку устойчивого распределения , поскольку выражения в замкнутой форме для плотности недоступны, что затрудняет реализацию оценки максимального правдоподобия . Доступны процедуры оценки, которые сопоставляют теоретическую характеристическую функцию с эмпирической характеристической функцией , рассчитанной по данным. Полсон и др. (1975) ^[19] и Хиткот (1977) ^[20] предоставляют некоторую теоретическую основу для такой процедуры оценки. Кроме того, Ю (2004) ^[21] описывает применение эмпирических характеристических функций для подгонки моделей временных рядов , где процедуры правдоподобия непрактичны. Эмпирические характеристические функции также использовались Ансари и др. (2020) ^[22] и Ли и др. (2020) ^[23] для обучения генеративно-состязательных сетей .

Пример

Гамма -распределение с параметром масштаба θ и параметром формы k имеет характеристическую функцию

${\displaystyle (1-\theta it)^{-k}.}$

Теперь предположим, что у нас есть

${\displaystyle X~\sim \Gamma (k_{1},\theta ){\mbox{ and }}Y\sim \Gamma (k_{2},\theta )}$

где X и Y независимы друг от друга, и мы хотим знать, каково распределение X + Y. Характеристические функции имеют вид

${\displaystyle \varphi _{X}(t)=(1-\theta it)^{-k_{1}},\,\qquad \varphi _{Y}(t)=(1-\theta it)^{-k_{2}}}$

что в силу независимости и основных свойств характеристической функции приводит к

${\displaystyle \varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)=(1-\theta it)^{-k_{1}}(1-\theta it)^{-k_{2}}=\left(1-\theta it\right)^{-(k_{1}+k_{2})}.}$

Это характеристическая функция параметра масштаба гамма-распределения θ и параметра формы k ₁ + k ₂ , и поэтому мы заключаем

${\displaystyle X+Y\sim \Gamma (k_{1}+k_{2},\theta )}$

Результат можно расширить до n независимых гамма-распределенных случайных величин с тем же параметром масштаба, и мы получим

${\displaystyle \forall i\in \{1,\ldots ,n\}:X_{i}\sim \Gamma (k_{i},\theta )\qquad \Rightarrow \qquad \sum _{i=1}^{n}X_{i}\sim \Gamma \left(\sum _{i=1}^{n}k_{i},\theta \right).}$

Полные характеристические функции

Как определено выше, аргумент характеристической функции рассматривается как действительное число: однако некоторые аспекты теории характеристических функций развиваются путем расширения определения на комплексную плоскость с помощью аналитического продолжения в случаях, когда это возможно. ^[24]

Связанные концепции

Связанные концепции включают функцию генерации момента и функцию генерации вероятности . Характеристическая функция существует для всех распределений вероятности. Это не относится к функции генерации момента.

Характеристическая функция тесно связана с преобразованием Фурье : характеристическая функция функции плотности вероятности p ( x ) является комплексно сопряженной функцией непрерывного преобразования Фурье p ( x ) (согласно обычному соглашению; см. непрерывное преобразование Фурье – другие соглашения ).

${\displaystyle \varphi _{X}(t)=\langle e^{itX}\rangle =\int _{\mathbf {R} }e^{itx}p(x)\,dx={\overline {\left(\int _{\mathbf {R} }e^{-itx}p(x)\,dx\right)}}={\overline {P(t)}},}$

где P ( t ) обозначает непрерывное преобразование Фурье функции плотности вероятности p ( x ) . Аналогично, p ( x ) может быть восстановлено из φ _X ( t ) посредством обратного преобразования Фурье:

${\displaystyle p(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}P(t)\,dt={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}{\overline {\varphi _{X}(t)}}\,dt.}$

Действительно, даже когда случайная величина не имеет плотности, характеристическую функцию можно рассматривать как преобразование Фурье меры, соответствующей случайной величине.

Другая связанная концепция — представление распределений вероятностей как элементов воспроизводящего ядра гильбертова пространства через вложение ядра распределений . Эту структуру можно рассматривать как обобщение характеристической функции при определенных вариантах выбора функции ядра .

Смотрите также

• Субнезависимость — более слабое условие, чем независимость, которое определяется в терминах характеристических функций.
• Кумулянт — член кумулятивных генерирующих функций , которые являются логарифмами характеристических функций.

Примечания

1. назван в честь французского математика Поля Леви

Ссылки

Цитаты

1. Лукач (1970), стр. 196.
2. Шоу, У. Т.; МакКейб, Дж. (2009). «Выборка Монте-Карло с учетом характеристической функции: квантильная механика в импульсном пространстве». arXiv : 0903.1592 [q-fin.CP].
3. Статистическая и адаптивная обработка сигналов (2005)
4. Биллинсли (1995).
5. Пинский (2002).
6. Бохнер (1955).
7. Андерсен и др. (1995), Определение 1.10.
8. Андерсен и др. (1995), Определение 1.20.
9. Собчик (2001), стр. 20.
10. Kotz & Nadarajah (2004), стр. 37, используя 1 как число степеней свободы для восстановления распределения Коши
11. Лукач (1970), Следствие 1 к теореме 2.3.1.
12. "Совместная характеристическая функция". www.statlect.com . Получено 7 апреля 2018 г. .
13. Куппенс (1975), Теорема 2.6.9.
14. Шепард (1991a).
15. Куппенс (1975), Теорема 2.3.2.
16. Вендель (1961).
17. Шепард (1991b).
18. Лукач (1970), стр. 84.
19. Полсон, Холкомб и Лейтч (1975).
20. Хиткот (1977).
21. Ю (2004).
22. Ансари, Скарлетт и Со (2020).
23. Ли и др. (2020).
24. Лукач (1970), Глава 7.

Источники

• Андерсен, Х.Х.; Хойбьерре, М.; Соренсен, Д.; Эриксен, П.С. (1995). Линейные и графические модели многомерного комплексного нормального распределения . Конспекты лекций по статистике 101. Нью-Йорк: Springer-Verlag. ISBN 978-0-387-94521-7.
• Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). John Wiley & Sons. ISBN 978-0-471-00710-4.
• Bisgaard, TM; Sasvári, Z. (2000). Характеристические функции и последовательности моментов . Nova Science.
• Бохнер, Саломон (1955). Гармонический анализ и теория вероятностей . Издательство Калифорнийского университета.
• Куппенс, Р. (1975). Разложение многомерных вероятностей . Academic Press. ISBN 9780121994501.
• Хиткот, CR (1977). «Оценка интегрированной квадратичной ошибки параметров». Biometrika . 64 (2): 255–264. doi :10.1093/biomet/64.2.255.
• Лукач, Э. (1970). Характерные функции . Лондон: Гриффин.
• Коц, Сэмюэл; Надараджа, Саралис (2004). Многомерные распределения T и их применение . Cambridge University Press.
• Манолакис, Димитрис Г.; Ингл, Винай К.; Когон, Стивен М. (2005). Статистическая и адаптивная обработка сигналов: спектральная оценка, моделирование сигналов, адаптивная фильтрация и обработка массивов. Artech House. ISBN 978-1-58053-610-3.
• Оберхеттингер, Фриц (1973). Преобразования Фурье распределений и их обратные; сборник таблиц . Нью-Йорк: Academic Press. ISBN 9780125236508.
• Paulson, AS; Holcomb, EW; Leitch, RA (1975). «Оценка параметров устойчивых законов». Biometrika . 62 (1): 163–170. doi :10.1093/biomet/62.1.163.
• Пинский, Марк (2002). Введение в анализ Фурье и вейвлеты . Брукс/Коул. ISBN 978-0-534-37660-4.
• Собчик, Казимеж (2001). Стохастические дифференциальные уравнения . Академическое издательство Kluwer . ISBN 978-1-4020-0345-5.
• Вендель, Дж. Г. (1961). «Неабсолютная сходимость интеграла обращения Жиля-Пелаеса». Анналы математической статистики . 32 (1): 338–339. doi : 10.1214/aoms/1177705164 .
• Ю, Дж. (2004). "Оценка эмпирической характеристической функции и ее применение" (PDF) . Econometric Reviews . 23 (2): 93–1223. doi :10.1081/ETC-120039605. S2CID  9076760.
• Шепард, НГ (1991a). «От характеристической функции к функции распределения: простая структура теории». Эконометрическая теория . 7 (4): 519–529. doi :10.1017/s0266466600004746. S2CID  14668369.
• Шепард, НГ (1991б). «Численные правила интегрирования для многомерных инверсий». Журнал статистических вычислений и моделирования . 39 (1–2): 37–46. doi :10.1080/00949659108811337.
• Ансари, Абдул Фатир; Скарлетт, Джонатан; Сох, Гарольд (2020). «Подход на основе характеристических функций к глубокому неявному генеративному моделированию». Труды конференции IEEE/CVF по компьютерному зрению и распознаванию образов (CVPR), 2020. С. 7478–7487.
• Ли, Шэнси; Ю, Цзэян; Сян, Мин; Мандич, Данило (2020). «Взаимносостязательное обучение с помощью характеристических функций». Достижения в области нейронных систем обработки информации 33 (NeurIPS 2020) .

Внешние ссылки

• «Характеристическая функция», Энциклопедия математики , EMS Press , 2001 [1994]