Идемпотентная матрица

Матрица, которая в квадрате равна самой себе

В линейной алгебре идемпотентная матрица — это матрица , которая при умножении сама на себя дает себя. ^{[1] [2]} То есть матрица идемпотентна тогда и только тогда, когда . Чтобы это произведение было определено , оно обязательно должно быть квадратной матрицей . С этой точки зрения идемпотентные матрицы являются идемпотентными элементами колец матриц . ${\displaystyle A}$ ${\displaystyle A^{2}=A}$ ${\displaystyle A^{2}}$ ${\displaystyle A}$

Пример

Примеры идемпотентных матриц: ${\displaystyle 2\times 2}$

$${\displaystyle {\begin{bmatrix}1&0\\0&1\end{bmatrix}}\qquad {\begin{bmatrix}3&-6\\1&-2\end{bmatrix}}}$$

Примеры идемпотентных матриц: ${\displaystyle 3\times 3}$

$${\displaystyle {\begin{bmatrix}1&0&0\\0&1&0\\0&0&1\end{bmatrix}}\qquad {\begin{bmatrix}2&-2&-4\\-1&3&4\\1&-2&-3\end{bmatrix}}}$$

Реальный случай 2 × 2

Если матрица идемпотентна, то ${\displaystyle {\begin{pmatrix}a&b\\c&d\end{pmatrix}}}$

• ${\displaystyle a=a^{2}+bc,}$
• ${\displaystyle b=ab+bd,}$подразумевая это или ${\displaystyle b(1-a-d)=0}$ ${\displaystyle b=0}$ ${\displaystyle d=1-a,}$
• ${\displaystyle c=ca+cd,}$подразумевая это или ${\displaystyle c(1-a-d)=0}$ ${\displaystyle c=0}$ ${\displaystyle d=1-a,}$
• ${\displaystyle d=bc+d^{2}.}$

Таким образом, необходимым условием идемпотентности матрицы является то, что она либо диагональна , либо ее след равен 1. Для идемпотентных диагональных матриц он должен быть либо 1, либо 0. ${\displaystyle 2\times 2}$ ${\displaystyle a}$ ${\displaystyle d}$

Если , матрица будет идемпотентной при условии , что a удовлетворяет квадратному уравнению ${\displaystyle b=c}$ ${\displaystyle {\begin{pmatrix}a&b\\b&1-a\end{pmatrix}}}$ ${\displaystyle a^{2}+b^{2}=a,}$

${\displaystyle a^{2}-a+b^{2}=0,}$или ${\displaystyle \left(a-{\frac {1}{2}}\right)^{2}+b^{2}={\frac {1}{4}}}$

который представляет собой круг с центром (1/2, 0) и радиусом 1/2. С точки зрения угла θ,

${\displaystyle A={\frac {1}{2}}{\begin{pmatrix}1-\cos \theta &\sin \theta \\\sin \theta &1+\cos \theta \end{pmatrix}}}$является идемпотентным.

Однако это не является необходимым условием: любая матрица ${\displaystyle b=c}$

${\displaystyle {\begin{pmatrix}a&b\\c&1-a\end{pmatrix}}}$с является идемпотентным. ${\displaystyle a^{2}+bc=a}$

Характеристики

Необычность и регулярность

Единственной несингулярной идемпотентной матрицей является единичная матрица ; то есть, если неединичная матрица идемпотентна, количество ее независимых строк (и столбцов) меньше количества строк (и столбцов).

Это можно увидеть, написав , предполагая, что A имеет полный ранг (не является сингулярным), и предварительно умножив на, чтобы получить . ${\displaystyle A^{2}=A}$ ${\displaystyle A^{-1}}$ ${\displaystyle A=IA=A^{-1}A^{2}=A^{-1}A=I}$

Когда идемпотентная матрица вычитается из единичной матрицы, результат также идемпотентен. Это справедливо с тех пор, как

${\displaystyle (I-A)(I-A)=I-A-A+A^{2}=I-A-A+A=I-A.}$

Если матрица A идемпотентна, то для всех натуральных чисел n, . Это можно показать, используя доказательство по индукции. Очевидно, что у нас есть результат для , as . Предположим, что . Тогда , поскольку A идемпотент. Отсюда по принципу индукции следует результат. ${\displaystyle A^{n}=A}$ ${\displaystyle n=1}$ ${\displaystyle A^{1}=A}$ ${\displaystyle A^{k-1}=A}$ ${\displaystyle A^{k}=A^{k-1}A=AA=A}$

Собственные значения

Идемпотентная матрица всегда диагонализуема . ^[3] Его собственные значения равны 0 или 1: если это ненулевой собственный вектор некоторой идемпотентной матрицы и связанного с ней собственного значения, то из этого следует, что определитель идемпотентной матрицы всегда равен 0 или 1. Как указано выше, если определитель равен единице, матрица обратима и, следовательно, является единичной матрицей . ${\displaystyle \mathbf {x} }$ ${\displaystyle A}$ ${\displaystyle \lambda }$ ${\textstyle \lambda \mathbf {x} =A\mathbf {x} =A^{2}\mathbf {x} =A\lambda \mathbf {x} =\lambda A\mathbf {x} =\lambda ^{2}\mathbf {x} ,}$ ${\displaystyle \lambda \in \{0,1\}.}$

След

След идемпотентной матрицы — сумма элементов на ее главной диагонали — равен рангу матрицы и, следовательно, всегда является целым числом . Это обеспечивает простой способ вычисления ранга или, альтернативно, простой способ определения следа матрицы, элементы которой конкретно не известны (что полезно в статистике , например, при определении степени систематической ошибки при использовании выборочной дисперсии как оценка генеральной дисперсии ).

Отношения между идемпотентными матрицами

Известно , что в регрессионном анализе матрица дает остатки от регрессии вектора зависимых переменных на матрицу ковариат . (См. раздел «Приложения».) Теперь пусть – матрица, сформированная из подмножества столбцов , и пусть . Легко показать, что оба и идемпотентны, но несколько удивительным является тот факт, что . Это потому , что или, другими словами, остатки регрессии столбцов on равны 0, поскольку их можно идеально интерполировать, поскольку они являются подмножествами (путем прямой подстановки это также легко показать ). Это приводит к двум другим важным результатам: один состоит в том, что симметричен и идемпотент, а другой в том, что , т. е. ортогонально . Эти результаты играют ключевую роль, например, при выводе F-теста. ${\displaystyle M=I-X(X'X)^{-1}X'}$ ${\displaystyle e}$ ${\displaystyle y}$ ${\displaystyle X}$ ${\displaystyle X_{1}}$ ${\displaystyle X}$ ${\displaystyle M_{1}=I-X_{1}(X_{1}'X_{1})^{-1}X_{1}'}$ ${\displaystyle M}$ ${\displaystyle M_{1}}$ ${\displaystyle MM_{1}=M}$ ${\displaystyle MX_{1}=0}$ ${\displaystyle X_{1}}$ ${\displaystyle X}$ ${\displaystyle X_{1}}$ ${\displaystyle X}$ ${\displaystyle MX=0}$ ${\displaystyle (M_{1}-M)}$ ${\displaystyle (M_{1}-M)M=0}$ ${\displaystyle (M_{1}-M)}$ ${\displaystyle M}$

Любые подобные матрицы идемпотентной матрицы также идемпотентны. Идемпотентность сохраняется при изменении базиса . Это можно показать путем умножения преобразованной матрицы на идемпотентность: . ${\displaystyle SAS^{-1}}$ ${\displaystyle A}$ ${\displaystyle (SAS^{-1})^{2}=(SAS^{-1})(SAS^{-1})=SA(S^{-1}S)AS^{-1}=SA^{2}S^{-1}=SAS^{-1}}$

Приложения

Идемпотентные матрицы часто возникают в регрессионном анализе и эконометрике . Например, в обычном методе наименьших квадратов проблема регрессии состоит в том, чтобы выбрать вектор β оценок коэффициентов так, чтобы минимизировать сумму квадратов остатков (ошибочных прогнозов) e _i : в матричной форме,

Минимизировать ${\displaystyle (y-X\beta )^{\textsf {T}}(y-X\beta )}$

где – вектор наблюдений зависимой переменной , а – матрица, каждый из столбцов которой представляет собой столбец наблюдений одной из независимых переменных . Полученная оценка ${\displaystyle y}$ ${\displaystyle X}$

${\displaystyle {\hat {\beta }}=\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}y}$

где верхний индекс T указывает на транспонирование , а вектор остатков равен ^[2]

${\displaystyle {\hat {e}}=y-X{\hat {\beta }}=y-X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}y=\left[I-X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}\right]y=My.}$

Здесь обе и (последняя известна как шляпная матрица ) являются идемпотентными и симметричными матрицами, что позволяет упростить вычисление суммы квадратов остатков: ${\displaystyle M}$ ${\displaystyle X\left(X^{\textsf {T}}X\right)^{-1}X^{\textsf {T}}}$

${\displaystyle {\hat {e}}^{\textsf {T}}{\hat {e}}=(My)^{\textsf {T}}(My)=y^{\textsf {T}}M^{\textsf {T}}My=y^{\textsf {T}}MMy=y^{\textsf {T}}My.}$

Идемпотентность играет роль и в других вычислениях, например, при определении дисперсии оценки . ${\displaystyle M}$ ${\displaystyle {\hat {\beta }}}$

Идемпотентный линейный оператор — это оператор проектирования пространства значений вдоль его нулевого пространства . является оператором ортогонального проектирования тогда и только тогда, когда он идемпотентен и симметричен . ${\displaystyle P}$ ${\displaystyle R(P)}$ ${\displaystyle N(P)}$ ${\displaystyle P}$

Смотрите также

• Идемпотентность
• Нильпотентный
• Проекция (линейная алгебра)
• Матрица шляпы

Рекомендации

1. Чан, Альфа К. (1984). Фундаментальные методы математической экономики (3-е изд.). Нью-Йорк: МакГроу-Хилл. п. 80. ИСБН 0070108137.
2. Грин, Уильям Х. (2003). Эконометрический анализ (5-е изд.). Река Аппер-Сэддл, Нью-Джерси: Прентис-Холл. стр. 808–809. ISBN 0130661899.
3. Хорн, Роджер А.; Джонсон, Чарльз Р. (1990). Матричный анализ . Издательство Кембриджского университета. п. п. 148. ИСБН 0521386322.