Ковариация

Мера совместной изменчивости

Знак ковариации двух случайных величин X и Y

Ковариация в теории вероятностей и статистике — это мера совместной изменчивости двух случайных величин . ^[1]

Знак ковариации, таким образом, показывает тенденцию в линейной связи между переменными. Если большие значения одной переменной в основном соответствуют большим значениям другой переменной, и то же самое справедливо для меньших значений (то есть переменные имеют тенденцию демонстрировать схожее поведение), ковариация положительна. ^[2] В противоположном случае, когда большие значения одной переменной в основном соответствуют меньшим значениям другой (то есть переменные имеют тенденцию демонстрировать противоположное поведение), ковариация отрицательна. Величина ковариации является геометрическим средним дисперсий, которые являются общими для двух случайных величин. Коэффициент корреляции нормализует ковариацию путем деления на геометрическое среднее общих дисперсий для двух случайных величин.

Необходимо провести различие между (1) ковариацией двух случайных величин, которая является параметром совокупности , который можно рассматривать как свойство совместного распределения вероятностей , и (2) выборочной ковариацией, которая, помимо того, что служит дескриптором выборки, также служит оценочным значением параметра совокупности.

Определение

Для двух совместно распределенных действительных случайных величин с конечными вторыми моментами ковариация определяется как ожидаемое значение (или среднее) произведения их отклонений от их индивидуальных ожидаемых значений: ^{[3] [4] : 119} ${\displaystyle X}$ ${\displaystyle Y}$

$${\displaystyle \operatorname {cov} (X,Y)=\operatorname {E} {{\big [}(X-\operatorname {E} [X])(Y-\operatorname {E} [Y]){\big ]}}}$$

где — ожидаемое значение , также известное как среднее значение . Ковариация также иногда обозначается или , по аналогии с дисперсией . Используя свойство линейности ожиданий, это можно упростить до ожидаемого значения их произведения минус произведение их ожидаемых значений: но это уравнение подвержено катастрофическому сокращению (см. раздел о численных вычислениях ниже). ${\displaystyle \operatorname {E} [X]}$ ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle \sigma _{XY}}$ ${\displaystyle \sigma (X,Y)}$ $${\displaystyle {\begin{aligned}\operatorname {cov} (X,Y)&=\operatorname {E} \left[\left(X-\operatorname {E} \left[X\right]\right)\left(Y-\operatorname {E} \left[Y\right]\right)\right]\\&=\operatorname {E} \left[XY-X\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]Y+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right],\end{aligned}}}$$

Единицами измерения ковариации являются единицы измерения, умноженные на . Напротив, коэффициенты корреляции , которые зависят от ковариации, являются безразмерной мерой линейной зависимости. (На самом деле, коэффициенты корреляции можно просто понимать как нормализованную версию ковариации.) ${\displaystyle \operatorname {cov} (X,Y)}$ ${\displaystyle X}$ ${\displaystyle Y}$

Сложные случайные величины

Ковариация между двумя сложными случайными величинами определяется как ^{[4] : ​​119} ${\displaystyle Z,W}$ $${\displaystyle \operatorname {cov} (Z,W)=\operatorname {E} \left[(Z-\operatorname {E} [Z]){\overline {(W-\operatorname {E} [W])}}\right]=\operatorname {E} \left[Z{\overline {W}}\right]-\operatorname {E} [Z]\operatorname {E} \left[{\overline {W}}\right]}$$

Обратите внимание на комплексное сопряжение второго множителя в определении.

Можно также определить связанную псевдоковариацию .

Дискретные случайные величины

Если (реальная) случайная переменная пара может принимать значения для с равными вероятностями , то ковариацию можно эквивалентно записать в терминах средних значений и как ${\displaystyle (X,Y)}$ ${\displaystyle (x_{i},y_{i})}$ ${\displaystyle i=1,\ldots ,n}$ ${\displaystyle p_{i}=1/n}$ ${\displaystyle \operatorname {E} [X]}$ ${\displaystyle \operatorname {E} [Y]}$ $${\displaystyle \operatorname {cov} (X,Y)={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-E(X))(y_{i}-E(Y)).}$$

Это также можно эквивалентно выразить, не ссылаясь напрямую на средства, как ^[5] $${\displaystyle \operatorname {cov} (X,Y)={\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}{\frac {1}{2}}(x_{i}-x_{j})(y_{i}-y_{j})={\frac {1}{n^{2}}}\sum _{i}\sum _{j>i}(x_{i}-x_{j})(y_{i}-y_{j}).}$$

В более общем случае, если существуют возможные реализации , а именно, но с возможно неравными вероятностями для , то ковариация равна ${\displaystyle n}$ ${\displaystyle (X,Y)}$ ${\displaystyle (x_{i},y_{i})}$ ${\displaystyle p_{i}}$ ${\displaystyle i=1,\ldots ,n}$ $${\displaystyle \operatorname {cov} (X,Y)=\sum _{i=1}^{n}p_{i}(x_{i}-E(X))(y_{i}-E(Y)).}$$

В случае, когда две дискретные случайные величины и имеют совместное распределение вероятностей, представленное элементами, соответствующими совместным вероятностям , ковариация вычисляется с помощью двойного суммирования по индексам матрицы: ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle p_{i,j}}$ ${\displaystyle P(X=x_{i},Y=y_{j})}$

$${\displaystyle \operatorname {cov} (X,Y)=\sum _{i=1}^{n}\sum _{j=1}^{n}p_{i,j}(x_{i}-E[X])(y_{j}-E[Y]).}$$

Примеры

Рассмотрим три независимые случайные величины и две константы . В частном случае и ковариация между и является просто дисперсией и название ковариация вполне уместно. ${\displaystyle A,B,C}$ ${\displaystyle q,r}$ $${\displaystyle {\begin{aligned}X&=qA+B\\Y&=rA+C\\\operatorname {cov} (X,Y)&=qr\operatorname {var} (A)\end{aligned}}}$$ ${\displaystyle q=1}$ ${\displaystyle r=1}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle A}$

Геометрическая интерпретация примера ковариации. Каждый кубоид — это ограничивающий прямоугольник, выровненный по осям его точки ( x , y , f  ( x , y )), а X и Y — средние значения (пурпурная точка). Ковариация — это сумма объемов кубоидов в 1-м и 3-м квадрантах (красные) за вычетом объемов во 2-м и 4-м (синие).

Предположим, что и имеют следующую совместную вероятностную массовую функцию ^[6] , в которой шесть центральных ячеек дают дискретные совместные вероятности шести гипотетических реализаций : ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle f(x,y)}$ ${\displaystyle (x,y)\in S=\left\{(5,8),(6,8),(7,8),(5,9),(6,9),(7,9)\right\}}$

${\displaystyle X}$может принимать три значения (5, 6 и 7), а может принимать два (8 и 9). Их средние значения и . Тогда, ${\displaystyle Y}$ ${\displaystyle \mu _{X}=5(0.3)+6(0.4)+7(0.1+0.2)=6}$ ${\displaystyle \mu _{Y}=8(0.4+0.1)+9(0.3+0.2)=8.5}$ $${\displaystyle {\begin{aligned}\operatorname {cov} (X,Y)={}&\sigma _{XY}=\sum _{(x,y)\in S}f(x,y)\left(x-\mu _{X}\right)\left(y-\mu _{Y}\right)\\[4pt]={}&(0)(5-6)(8-8.5)+(0.4)(6-6)(8-8.5)+(0.1)(7-6)(8-8.5)+{}\\[4pt]&(0.3)(5-6)(9-8.5)+(0)(6-6)(9-8.5)+(0.2)(7-6)(9-8.5)\\[4pt]={}&{-0.1}\;.\end{aligned}}}$$

Характеристики

Ковариация с самим собой

Дисперсия является частным случаем ковариации, в котором две переменные идентичны: [ ^{4] : 121} $${\displaystyle \operatorname {cov} (X,X)=\operatorname {var} (X)\equiv \sigma ^{2}(X)\equiv \sigma _{X}^{2}.}$$

Ковариация линейных комбинаций

Если , , , и являются действительными случайными величинами и действительными константами, то следующие факты являются следствием определения ковариации: ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle W}$ ${\displaystyle V}$ ${\displaystyle a,b,c,d}$ $${\displaystyle {\begin{aligned}\operatorname {cov} (X,a)&=0\\\operatorname {cov} (X,X)&=\operatorname {var} (X)\\\operatorname {cov} (X,Y)&=\operatorname {cov} (Y,X)\\\operatorname {cov} (aX,bY)&=ab\,\operatorname {cov} (X,Y)\\\operatorname {cov} (X+a,Y+b)&=\operatorname {cov} (X,Y)\\\operatorname {cov} (aX+bY,cW+dV)&=ac\,\operatorname {cov} (X,W)+ad\,\operatorname {cov} (X,V)+bc\,\operatorname {cov} (Y,W)+bd\,\operatorname {cov} (Y,V)\end{aligned}}}$$

Для последовательности случайных величин в действительных числах и константах имеем ${\displaystyle X_{1},\ldots ,X_{n}}$ ${\displaystyle a_{1},\ldots ,a_{n}}$ $${\displaystyle \operatorname {var} \left(\sum _{i=1}^{n}a_{i}X_{i}\right)=\sum _{i=1}^{n}a_{i}^{2}\sigma ^{2}(X_{i})+2\sum _{i,j\,:\,i<j}a_{i}a_{j}\operatorname {cov} (X_{i},X_{j})=\sum _{i,j}{a_{i}a_{j}\operatorname {cov} (X_{i},X_{j})}}$$

Ковариационное тождество Хеффдинга

Полезным тождеством для вычисления ковариации между двумя случайными величинами является ковариационное тождество Хеффдинга: ^[7] где — совместная кумулятивная функция распределения случайного вектора , а — маргинальные значения . ${\displaystyle X,Y}$ $${\displaystyle \operatorname {cov} (X,Y)=\int _{\mathbb {R} }\int _{\mathbb {R} }\left(F_{(X,Y)}(x,y)-F_{X}(x)F_{Y}(y)\right)\,dx\,dy}$$ ${\displaystyle F_{(X,Y)}(x,y)}$ ${\displaystyle (X,Y)}$ ${\displaystyle F_{X}(x),F_{Y}(y)}$

Некоррелированность и независимость

Случайные величины, ковариация которых равна нулю, называются некоррелированными . ^{[4] : 121} Аналогично, компоненты случайных векторов, ковариационная матрица которых равна нулю в каждой записи за пределами главной диагонали, также называются некоррелированными.

Если и являются независимыми случайными величинами , то их ковариация равна нулю. ^{[4] : 123  [8]} Это следует из того, что при независимости ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle \operatorname {E} [XY]=\operatorname {E} [X]\cdot \operatorname {E} [Y].}$$

Обратное, однако, в общем случае неверно. Например, пусть равномерно распределены в и пусть . Очевидно, и не являются независимыми, но ${\displaystyle X}$ ${\displaystyle [-1,1]}$ ${\displaystyle Y=X^{2}}$ ${\displaystyle X}$ ${\displaystyle Y}$ $${\displaystyle {\begin{aligned}\operatorname {cov} (X,Y)&=\operatorname {cov} \left(X,X^{2}\right)\\&=\operatorname {E} \left[X\cdot X^{2}\right]-\operatorname {E} [X]\cdot \operatorname {E} \left[X^{2}\right]\\&=\operatorname {E} \left[X^{3}\right]-\operatorname {E} [X]\operatorname {E} \left[X^{2}\right]\\&=0-0\cdot \operatorname {E} [X^{2}]\\&=0.\end{aligned}}}$$

В этом случае связь между и нелинейна, тогда как корреляция и ковариация являются мерами линейной зависимости между двумя случайными величинами. Этот пример показывает, что если две случайные величины некоррелированы, это в общем случае не означает, что они независимы. Однако, если две переменные совместно нормально распределены (но не если они просто индивидуально нормально распределены ), некоррелированность подразумевает независимость. ^[9] ${\displaystyle Y}$ ${\displaystyle X}$

${\displaystyle X}$и ковариация которых положительна, называются положительно коррелированными, что подразумевает, что если то вероятно . Наоборот, и с отрицательной ковариацией коррелируют отрицательно, и если то вероятно . ${\displaystyle Y}$ ${\displaystyle X>E[X]}$ ${\displaystyle Y>E[Y]}$ ${\displaystyle X}$ ${\displaystyle Y}$ ${\displaystyle X>E[X]}$ ${\displaystyle Y<E[Y]}$

Связь с внутренними продуктами

Многие свойства ковариации можно извлечь элегантно, наблюдая, что она удовлетворяет свойствам, аналогичным свойствам внутреннего произведения :

1. билинейный : для констант и случайных величин ${\displaystyle a}$ ${\displaystyle b}$ ${\displaystyle X,Y,Z,}$ ${\displaystyle \operatorname {cov} (aX+bY,Z)=a\operatorname {cov} (X,Z)+b\operatorname {cov} (Y,Z)}$
2. симметричный: ${\displaystyle \operatorname {cov} (X,Y)=\operatorname {cov} (Y,X)}$
3. положительно полуопределенный : для всех случайных величин , и подразумевает, что он постоянен почти наверняка . ${\displaystyle \sigma ^{2}(X)=\operatorname {cov} (X,X)\geq 0}$ ${\displaystyle X}$ ${\displaystyle \operatorname {cov} (X,X)=0}$ ${\displaystyle X}$

Фактически эти свойства подразумевают, что ковариация определяет скалярное произведение по факторному векторному пространству , полученному путем взятия подпространства случайных величин с конечным вторым моментом и идентификации любых двух, которые отличаются на константу. (Эта идентификация превращает положительную полуопределенность выше в положительную определенность.) Это факторное векторное пространство изоморфно подпространству случайных величин с конечным вторым моментом и нулевым средним; на этом подпространстве ковариация является в точности внутренним произведением L 2 вещественных функций на пространстве выборки.

В результате для случайных величин с конечной дисперсией выполняется неравенство Коши–Шварца . $${\displaystyle \left|\operatorname {cov} (X,Y)\right|\leq {\sqrt {\sigma ^{2}(X)\sigma ^{2}(Y)}}}$$

Доказательство: Если , то выполняется тривиально. В противном случае пусть случайная величина ${\displaystyle \sigma ^{2}(Y)=0}$ $${\displaystyle Z=X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y.}$$

Тогда у нас есть $${\displaystyle {\begin{aligned}0\leq \sigma ^{2}(Z)&=\operatorname {cov} \left(X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y,\;X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y\right)\\[12pt]&=\sigma ^{2}(X)-{\frac {(\operatorname {cov} (X,Y))^{2}}{\sigma ^{2}(Y)}}\\\implies (\operatorname {cov} (X,Y))^{2}&\leq \sigma ^{2}(X)\sigma ^{2}(Y)\\\left|\operatorname {cov} (X,Y)\right|&\leq {\sqrt {\sigma ^{2}(X)\sigma ^{2}(Y)}}\end{aligned}}}$$

Расчет выборочной ковариации

Выборочные ковариации между переменными, основанные на наблюдениях каждой из них, взятых из иным образом ненаблюдаемой совокупности, задаются матрицей с записями ${\displaystyle K}$ ${\displaystyle N}$ ${\displaystyle K\times K}$ ${\displaystyle \textstyle {\overline {\mathbf {q} }}=\left[q_{jk}\right]}$

${\displaystyle q_{jk}={\frac {1}{N-1}}\sum _{i=1}^{N}\left(X_{ij}-{\bar {X}}_{j}\right)\left(X_{ik}-{\bar {X}}_{k}\right),}$

что является оценкой ковариации между переменной и переменной . ${\displaystyle j}$ ${\displaystyle k}$

Выборочное среднее и выборочная ковариационная матрица являются несмещенными оценками среднего и ковариационной матрицы случайного вектора , вектора, j -й элемент которого является одной из случайных величин. Причина, по которой выборочная ковариационная матрица имеет в знаменателе , а не , заключается в том , что среднее значение совокупности неизвестно и заменяется выборочным средним . Если среднее значение совокупности известно, то аналогичная несмещенная оценка задается как ${\displaystyle \textstyle \mathbf {X} }$ ${\displaystyle (j=1,\,\ldots ,\,K)}$ ${\displaystyle \textstyle N-1}$ ${\displaystyle \textstyle N}$ ${\displaystyle \operatorname {E} (\mathbf {X} )}$ ${\displaystyle \mathbf {\bar {X}} }$ ${\displaystyle \operatorname {E} (\mathbf {X} )}$

${\displaystyle q_{jk}={\frac {1}{N}}\sum _{i=1}^{N}\left(X_{ij}-\operatorname {E} \left(X_{j}\right)\right)\left(X_{ik}-\operatorname {E} \left(X_{k}\right)\right)}$.

Обобщения

Автоковариационная матрица реальных случайных векторов

Для вектора совместно распределенных случайных величин с конечными вторыми моментами его автоковариационная матрица (также известная как матрица дисперсии-ковариации или просто ковариационная матрица ) (также обозначается как или ) определяется как ^{[10] : 335} ${\displaystyle \mathbf {X} ={\begin{bmatrix}X_{1}&X_{2}&\dots &X_{m}\end{bmatrix}}^{\mathrm {T} }}$ ${\displaystyle m}$ ${\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}$ ${\displaystyle \Sigma (\mathbf {X} )}$ ${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {X} )}$ $${\displaystyle {\begin{aligned}\operatorname {K} _{\mathbf {XX} }=\operatorname {cov} (\mathbf {X} ,\mathbf {X} )&=\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\mathrm {T} }\right]\\&=\operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{\mathrm {T} }.\end{aligned}}}$$

Пусть будет случайным вектором с ковариационной матрицей Σ , и пусть A будет матрицей, которая может действовать на слева. Ковариационная матрица произведения матрицы на вектор AX равна: ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {X} }$ $${\displaystyle {\begin{aligned}\operatorname {cov} (\mathbf {AX} ,\mathbf {AX} )&=\operatorname {E} \left[\mathbf {AX(A} \mathbf {X)} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {AX} ]\operatorname {E} \left[(\mathbf {A} \mathbf {X} )^{\mathrm {T} }\right]\\&=\operatorname {E} \left[\mathbf {AXX} ^{\mathrm {T} }\mathbf {A} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {AX} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\mathbf {A} ^{\mathrm {T} }\right]\\&=\mathbf {A} \operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]\mathbf {A} ^{\mathrm {T} }-\mathbf {A} \operatorname {E} [\mathbf {X} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\right]\mathbf {A} ^{\mathrm {T} }\\&=\mathbf {A} \left(\operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {X} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\right]\right)\mathbf {A} ^{\mathrm {T} }\\&=\mathbf {A} \Sigma \mathbf {A} ^{\mathrm {T} }.\end{aligned}}}$$

Это является прямым результатом линейности ожидания и полезно при применении линейного преобразования , например, отбеливающего преобразования , к вектору.

Матрица кросс-ковариации действительных случайных векторов

Для действительных случайных векторов и матрица кросс-ковариации равна ^{[10] : 336} ${\displaystyle \mathbf {X} \in \mathbb {R} ^{m}}$ ${\displaystyle \mathbf {Y} \in \mathbb {R} ^{n}}$ ${\displaystyle m\times n}$

где — транспонированный вектор (или матрица) . ${\displaystyle \mathbf {Y} ^{\mathrm {T} }}$ ${\displaystyle \mathbf {Y} }$

-й элемент этой матрицы равен ковариации между i -й скалярной компонентой и j -й скалярной компонентой . В частности, является транспонированной матрицей . ${\displaystyle (i,j)}$ ${\displaystyle \operatorname {cov} (X_{i},Y_{j})}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle \operatorname {cov} (\mathbf {Y} ,\mathbf {X} )}$ ${\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}$

Кросс-ковариационная полуторалинейная форма случайных векторов в действительном или комплексном гильбертовом пространстве

В более общем случае пусть и , будут гильбертовыми пространствами над или с антилинейным по первой переменной, и пусть будут соответственно значимыми случайными величинами. Тогда ковариация и является полуторалинейной формой на (антилинейным по первой переменной), заданной как ${\displaystyle H_{1}=(H_{1},\langle \,,\rangle _{1})}$ ${\displaystyle H_{2}=(H_{2},\langle \,,\rangle _{2})}$ ${\displaystyle \mathbb {R} }$ ${\displaystyle \mathbb {C} }$ ${\displaystyle \langle \,,\rangle }$ ${\displaystyle \mathbf {X} ,\mathbf {Y} }$ ${\displaystyle H_{1}}$ ${\displaystyle H_{2}}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle \mathbf {Y} }$ ${\displaystyle H_{1}\times H_{2}}$ $${\displaystyle {\begin{aligned}\operatorname {K} _{X,Y}(h_{1},h_{2})=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )(h_{1},h_{2})&=\operatorname {E} \left[\langle h_{1},(\mathbf {X} -\operatorname {E} [\mathbf {X} ])\rangle _{1}\langle (\mathbf {Y} -\operatorname {E} [\mathbf {Y} ]),h_{2}\rangle _{2}\right]\\&=\operatorname {E} [\langle h_{1},\mathbf {X} \rangle _{1}\langle \mathbf {Y} ,h_{2}\rangle _{2}]-\operatorname {E} [\langle h,\mathbf {X} \rangle _{1}]\operatorname {E} [\langle \mathbf {Y} ,h_{2}\rangle _{2}]\\&=\langle h_{1},\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {Y} -\operatorname {E} [\mathbf {Y} ])^{\dagger }\right]h_{2}\rangle _{1}\\&=\langle h_{1},\left(\operatorname {E} [\mathbf {X} \mathbf {Y} ^{\dagger }]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{\dagger }\right)h_{2}\rangle _{1}\\\end{aligned}}}$$

Численные вычисления

Когда , уравнение склонно к катастрофическому сокращению, если и не вычисляются точно, и поэтому его следует избегать в компьютерных программах, когда данные не были центрированы ранее. ^[11] В этом случае следует отдавать предпочтение численно устойчивым алгоритмам . ^[12] ${\displaystyle \operatorname {E} [XY]\approx \operatorname {E} [X]\operatorname {E} [Y]}$ ${\displaystyle \operatorname {cov} (X,Y)=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]}$ ${\displaystyle \operatorname {E} \left[XY\right]}$ ${\displaystyle \operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]}$

Комментарии

Ковариацию иногда называют мерой «линейной зависимости» между двумя случайными величинами. Это не то же самое, что в контексте линейной алгебры (см. линейная зависимость ). Когда ковариация нормализована, получается коэффициент корреляции Пирсона , который дает качество подгонки для наилучшей возможной линейной функции, описывающей связь между переменными. В этом смысле ковариация является линейной мерой зависимости.

Приложения

В генетике и молекулярной биологии

Ковариация является важной мерой в биологии . Некоторые последовательности ДНК сохраняются больше, чем другие среди видов, и, таким образом, для изучения вторичных и третичных структур белков или структур РНК , последовательности сравниваются у близкородственных видов. Если обнаруживаются изменения последовательностей или не обнаруживается никаких изменений в некодирующей РНК (например, микроРНК ), последовательности оказываются необходимыми для общих структурных мотивов, таких как петля РНК. В генетике ковариация служит основой для вычисления матрицы генетических связей (GRM) (также известной как матрица родства), что позволяет делать выводы о структуре популяции из образца без известных близких родственников, а также делать выводы об оценке наследуемости сложных признаков.

В теории эволюции и естественного отбора уравнение цены описывает, как генетический признак изменяется в частоте с течением времени. Уравнение использует ковариацию между признаком и приспособленностью , чтобы дать математическое описание эволюции и естественного отбора. Оно дает способ понять эффекты, которые передача генов и естественный отбор оказывают на пропорцию генов в каждом новом поколении популяции. ^{[13] [14]}

В финансовой экономике

Ковариации играют ключевую роль в финансовой экономике , особенно в современной теории портфеля и в модели ценообразования капитальных активов . Ковариации между доходностями различных активов используются для определения, при определенных предположениях, относительных объемов различных активов, которые инвесторы должны (в нормативном анализе ) или, как прогнозируется (в позитивном анализе ), выбрать для удержания в контексте диверсификации .

В ассимиляции метеорологических и океанографических данных

Ковариационная матрица важна для оценки начальных условий, необходимых для запуска моделей прогноза погоды, процедуры, известной как ассимиляция данных . «Ковариационная матрица ошибок прогноза» обычно строится между возмущениями вокруг среднего состояния (климатического или ансамблевого среднего). «Ковариационная матрица ошибок наблюдений» строится для представления величины объединенных ошибок наблюдений (по диагонали) и коррелированных ошибок между измерениями (вне диагонали). Это пример ее широко распространенного применения к фильтрации Калмана и более общей оценке состояния для изменяющихся во времени систем.

В микрометеорологии

Метод вихревой ковариации является ключевым методом измерения атмосферных параметров, в котором ковариация между мгновенным отклонением вертикальной скорости ветра от среднего значения и мгновенным отклонением концентрации газа является основой для расчета вертикальных турбулентных потоков.

В обработке сигналов

Ковариационная матрица используется для фиксации спектральной изменчивости сигнала. ^[15]

В статистике и обработке изображений

Ковариационная матрица используется в анализе главных компонентов для уменьшения размерности признаков при предварительной обработке данных .

Смотрите также

• Алгоритмы расчета ковариации
• Анализ ковариации
• Автоковариация
• Ковариационная функция
• Ковариационная матрица
• Ковариационный оператор
• Ковариация расстояний , или броуновская ковариация.
• Закон полной ковариации
• Распространение неопределенности

Ссылки

1. Райс, Джон (2007). Математическая статистика и анализ данных . Brooks/Cole Cengage Learning. стр. 138. ISBN 9780534399429.
2. Вайсштейн, Эрик В. «Ковариация». MathWorld .
3. Оксфордский словарь статистики, Oxford University Press, 2002, стр. 104.
4. Park, Kun Il (2018). Основы вероятности и стохастических процессов с приложениями к коммуникациям . Springer. ISBN 9783319680743.
5. Юли Чжан; Хуайюй У; Лэй Чэн (июнь 2012 г.). «Некоторые новые формулы деформации дисперсии и ковариации». Труды 4-й Международной конференции по моделированию, идентификации и управлению (ICMIC2012) . стр. 987–992.
6. "Ковариация X и Y | STAT 414/415". Университет штата Пенсильвания. Архивировано из оригинала 17 августа 2017 г. Получено 4 августа 2019 г.
7. Папулис (1991). Вероятность, случайные величины и стохастические процессы . McGraw-Hill.
8. Siegrist, Kyle. «Ковариация и корреляция». Университет Алабамы в Хантсвилле . Получено 3 октября 2022 г.
9. Деккинг, Мишель, ред. (2005). Современное введение в вероятность и статистику: понимание почему и как . Тексты Springer по статистике. Лондон [Гейдельберг]: Springer. ISBN 978-1-85233-896-1.
10. Губнер, Джон А. (2006). Вероятность и случайные процессы для инженеров-электриков и компьютерщиков . Cambridge University Press. ISBN 978-0-521-86470-1.
11. Дональд Э. Кнут (1998). Искусство программирования , том 2: Получисленные алгоритмы , 3-е изд., стр. 232. Бостон: Addison-Wesley.
12. Шуберт, Эрих; Герц, Михаэль (2018). «Численно устойчивое параллельное вычисление (ко-)вариации». Труды 30-й Международной конференции по управлению научными и статистическими базами данных . Больцано-Больцано, Италия: ACM Press. стр. 1–12. doi :10.1145/3221269.3223036. ISBN 978-1-4503-6505-5. S2CID  49665540.
13. Прайс, Джордж (1970). «Отбор и ковариация». Nature (журнал) . 227 (5257): 520–521. Bibcode : 1970Natur.227..520P. doi : 10.1038/227520a0. PMID  5428476. S2CID  4264723.
14. Харман, Орен (2020). «Когда наука отражает жизнь: о происхождении уравнения Прайса». Philosophical Transactions of the Royal Society B: Biological Sciences . 375 (1797). royalsocietypublishing.org: 1–7. doi : 10.1098/rstb.2019.0352 . PMC 7133509. PMID  32146891 . 
15. Sahidullah, Md.; Kinnunen, Tomi (март 2016). «Локальные спектральные характеристики изменчивости для проверки говорящего». Цифровая обработка сигналов . 50 : 1–11. doi :10.1016/j.dsp.2015.10.011.