Проекция (линейная алгебра)

Идемпотентное линейное преобразование векторного пространства в себя

Преобразование P — это ортогональная проекция на прямую m .

В линейной алгебре и функциональном анализе проекция — это линейное преобразование векторного пространства в себя ( эндоморфизм ) такое , что . То есть, всякий раз, когда оно применяется дважды к любому вектору, оно дает тот же результат, как если бы оно применялось один раз (т. е. является идемпотентным ). Он оставляет свой имидж неизменным. ^[1] Это определение «проекции» формализует и обобщает идею графической проекции . Можно также рассмотреть влияние проекции на геометрический объект, исследуя влияние проекции на точки объекта. ${\displaystyle P}$ ${\displaystyle P\circ P=P}$ ${\displaystyle P}$ ${\displaystyle P}$

Определения

Проекция на векторное пространство — это линейный оператор такой, что . ${\displaystyle V}$ ${\displaystyle P\colon V\to V}$ ${\displaystyle P^{2}=P}$

Когда имеет внутренний продукт и является полным , т.е. когда является гильбертовым пространством , можно использовать концепцию ортогональности . Проекция на гильбертово пространство называется ортогональной, если она удовлетворяет всем требованиям . Проекция на гильбертово пространство, не ортогональная, называется наклонной проекцией . ${\displaystyle V}$ ${\displaystyle V}$ ${\displaystyle P}$ ${\displaystyle V}$ ${\displaystyle \langle P\mathbf {x} ,\mathbf {y} \rangle =\langle \mathbf {x} ,P\mathbf {y} \rangle }$ ${\displaystyle \mathbf {x} ,\mathbf {y} \in V}$

Матрица проекции

• Квадратная матрица называется матрицей проекции , если она равна своему квадрату, т. е. если . ^{[2] : с. 38} ${\displaystyle P}$ ${\displaystyle P^{2}=P}$
• Квадратная матрица называется матрицей ортогонального проектирования, если для действительной матрицы и соответственно для комплексной матрицы, где обозначает транспонирование и обозначает присоединенное или эрмитово транспонирование . ^{[2] : с. 223} ${\displaystyle P}$ ${\displaystyle P^{2}=P=P^{\mathrm {T} }}$ ${\displaystyle P^{2}=P=P^{*}}$ ${\displaystyle P^{\mathrm {T} }}$ ${\displaystyle P}$ ${\displaystyle P^{*}}$ ${\displaystyle P}$
• Матрица проекции, которая не является ортогональной матрицей проекции, называется матрицей наклонной проекции .

Собственные значения матрицы проекции должны быть 0 или 1.

Примеры

Ортогональная проекция

Например, функция, которая отображает точку в трехмерном пространстве в точку, является ортогональной проекцией на плоскость xy . Эта функция представлена ​​матрицей ${\displaystyle (x,y,z)}$ ${\displaystyle \mathbb {R} ^{3}}$ ${\displaystyle (x,y,0)}$

$${\displaystyle P={\begin{bmatrix}1&0&0\\0&1&0\\0&0&0\end{bmatrix}}.}$$

Действие этой матрицы на произвольный вектор равно

$${\displaystyle P{\begin{bmatrix}x\\y\\z\end{bmatrix}}={\begin{bmatrix}x\\y\\0\end{bmatrix}}.}$$

Чтобы убедиться, что это действительно проекция, т.е. , мы вычисляем ${\displaystyle P}$ ${\displaystyle P=P^{2}}$

$${\displaystyle P^{2}{\begin{bmatrix}x\\y\\z\end{bmatrix}}=P{\begin{bmatrix}x\\y\\0\end{bmatrix}}={\begin{bmatrix}x\\y\\0\end{bmatrix}}=P{\begin{bmatrix}x\\y\\z\end{bmatrix}}.}$$

Наблюдение за этим показывает, что проекция является ортогональной. ${\displaystyle P^{\mathrm {T} }=P}$

Косая проекция

Простой пример неортогональной (наклонной) проекции:

$${\displaystyle P={\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}.}$$

Путем умножения матриц можно увидеть, что

$${\displaystyle P^{2}={\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}{\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}={\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}=P.}$$

${\displaystyle P}$

Проекция ортогональна тогда и только тогда, когда потому, что только тогда ${\displaystyle P}$ ${\displaystyle \alpha =0}$ ${\displaystyle P^{\mathrm {T} }=P.}$

Свойства и классификация

Преобразование T — это проекция вдоль k на m . Диапазон T равен m , а ядро ​​— k .

Идемпотентность

По определению, проекция идемпотентна (т.е. ) . ${\displaystyle P}$ ${\displaystyle P^{2}=P}$

Открыть карту

Каждая проекция представляет собой открытую карту , то есть она отображает каждое открытое множество в домене в открытое множество в топологии подпространства изображения . ^{[ нужна цитата ]} То есть для любого вектора и любого шара (с положительным радиусом) с центром в , существует шар (с положительным радиусом) с центром в который полностью содержится в изображении . ${\displaystyle \mathbf {x} }$ ${\displaystyle B_{\mathbf {x} }}$ ${\displaystyle \mathbf {x} }$ ${\displaystyle B_{P\mathbf {x} }}$ ${\displaystyle P\mathbf {x} }$ ${\displaystyle P(B_{\mathbf {x} })}$

Дополнительность образа и ядра

Пусть – конечномерное векторное пространство и – проекция на . Предположим, что подпространства и являются образом и ядром соответственно . Тогда имеет следующие свойства: ${\displaystyle W}$ ${\displaystyle P}$ ${\displaystyle W}$ ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle P}$ ${\displaystyle P}$

1. ${\displaystyle P}$является оператором идентификации : ${\displaystyle I}$ ${\displaystyle U}$
   $${\displaystyle \forall \mathbf {x} \in U:P\mathbf {x} =\mathbf {x} .}$$
2. У нас есть прямая сумма . Каждый вектор может быть разложен однозначно, как с и , и где ${\displaystyle W=U\oplus V}$ ${\displaystyle \mathbf {x} \in W}$ ${\displaystyle \mathbf {x} =\mathbf {u} +\mathbf {v} }$ ${\displaystyle \mathbf {u} =P\mathbf {x} }$ ${\displaystyle \mathbf {v} =\mathbf {x} -P\mathbf {x} =\left(I-P\right)\mathbf {x} }$ ${\displaystyle \mathbf {u} \in U,\mathbf {v} \in V.}$

Образ и ядро ​​проекции дополняют друг друга , как и . Оператор также является проекцией, поскольку образ и ядро ​​становятся ядром и образом, и наоборот. Мы говорим , что это проекция на (ядро/изображение) и это проекция на . ${\displaystyle P}$ ${\displaystyle Q=I-P}$ ${\displaystyle Q}$ ${\displaystyle P}$ ${\displaystyle Q}$ ${\displaystyle P}$ ${\displaystyle V}$ ${\displaystyle U}$ ${\displaystyle Q}$ ${\displaystyle U}$ ${\displaystyle V}$

Спектр

В бесконечномерных векторных пространствах спектр проекции содержится в виде ${\displaystyle \{0,1\}}$

$${\displaystyle (\lambda I-P)^{-1}={\frac {1}{\lambda }}I+{\frac {1}{\lambda (\lambda -1)}}P.}$$

собственным значениемположительной полуопределенной матрицейсобственные пространства ${\displaystyle P}$ ${\displaystyle V}$ ${\displaystyle V}$

Если проекция нетривиальна, она имеет минимальный полином , который разлагается на различные линейные факторы, и, таким образом, является диагонализуемой . ${\displaystyle x^{2}-x=x(x-1)}$ ${\displaystyle P}$

Продукт прогнозов

Произведение проекций вообще не является проекцией, даже если они ортогональны. Если две проекции коммутируют , то их произведение является проекцией, но обратное неверно: произведение двух некоммутирующих проекций может быть проекцией.

Если две ортогональные проекции коммутируют, то их произведение является ортогональной проекцией. Если произведение двух ортогональных проекций является ортогональным проектором, то два ортогональных проектора коммутируют (в более общем смысле: два самосопряженных эндоморфизма коммутируют тогда и только тогда, когда их произведение самосопряжено).

Ортогональные проекции

Когда векторное пространство имеет внутренний продукт и является полным (является гильбертовым пространством ) , можно использовать концепцию ортогональности . Ортогональная проекция — это проекция, для которой образ и ядро ​​являются ортогональными подпространствами . Таким образом, для каждого и в , . Эквивалентно: ${\displaystyle W}$ ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle \mathbf {x} }$ ${\displaystyle \mathbf {y} }$ ${\displaystyle W}$ ${\displaystyle \langle P\mathbf {x} ,(\mathbf {y} -P\mathbf {y} )\rangle =\langle (\mathbf {x} -P\mathbf {x} ),P\mathbf {y} \rangle =0}$

$${\displaystyle \langle \mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,\mathbf {y} \rangle .}$$

Проекция ортогональна тогда и только тогда, когда она самосопряжена . Используя самосопряженные и идемпотентные свойства , для любого и в мы имеем , и ${\displaystyle P}$ ${\displaystyle \mathbf {x} }$ ${\displaystyle \mathbf {y} }$ ${\displaystyle W}$ ${\displaystyle P\mathbf {x} \in U}$ ${\displaystyle \mathbf {y} -P\mathbf {y} \in V}$

$${\displaystyle \langle P\mathbf {x} ,\mathbf {y} -P\mathbf {y} \rangle =\langle \mathbf {x} ,\left(P-P^{2}\right)\mathbf {y} \rangle =0}$$

^[3] ${\displaystyle \langle \cdot ,\cdot \rangle }$ ${\displaystyle W}$ ${\displaystyle P}$ ${\displaystyle I-P}$ ${\displaystyle P}$ ${\displaystyle \langle (\mathbf {x} -P\mathbf {x} ),P\mathbf {y} \rangle =\langle P\mathbf {x} ,(\mathbf {y} -P\mathbf {y} )\rangle =0}$

$${\displaystyle \langle \mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,\mathbf {y} \rangle =\langle \mathbf {x} ,P^{*}\mathbf {y} \rangle }$$

${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle W}$ ${\displaystyle P=P^{*}}$

Существование ортогонального проектирования на замкнутое подпространство следует из теоремы о проектировании Гильберта .

Свойства и особые случаи

Ортогональный проектор — ограниченный оператор . Это связано с тем, что для каждого в векторном пространстве по неравенству Коши – Шварца имеем : ${\displaystyle \mathbf {v} }$

$${\displaystyle \left\|P\mathbf {v} \right\|^{2}=\langle P\mathbf {v} ,P\mathbf {v} \rangle =\langle P\mathbf {v} ,\mathbf {v} \rangle \leq \left\|P\mathbf {v} \right\|\cdot \left\|\mathbf {v} \right\|}$$

${\displaystyle \left\|P\mathbf {v} \right\|\leq \left\|\mathbf {v} \right\|}$

Для конечномерных комплексных или вещественных векторных пространств стандартное скалярное произведение можно заменить на . ${\displaystyle \langle \cdot ,\cdot \rangle }$

Формулы

Простой случай возникает, когда ортогональная проекция находится на прямой. Если единичный вектор на прямой, то проекция задается внешним произведением ${\displaystyle \mathbf {u} }$

$${\displaystyle P_{\mathbf {u} }=\mathbf {u} \mathbf {u} ^{\mathsf {T}}.}$$

uu^[4] ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {x} }$ ${\displaystyle \mathbf {x} =\mathbf {x} _{\parallel }+\mathbf {x} _{\perp }}$

$${\displaystyle P_{\mathbf {u} }\mathbf {x} =\mathbf {u} \mathbf {u} ^{\mathsf {T}}\mathbf {x} _{\parallel }+\mathbf {u} \mathbf {u} ^{\mathsf {T}}\mathbf {x} _{\perp }=\mathbf {u} \left(\operatorname {sgn} \left(\mathbf {u} ^{\mathsf {T}}\mathbf {x} _{\parallel }\right)\left\|\mathbf {x} _{\parallel }\right\|\right)+\mathbf {u} \cdot \mathbf {0} =\mathbf {x} _{\parallel }}$$

произведения

Эту формулу можно обобщить на ортогональные проекции на подпространство произвольной размерности . Пусть – ортонормированный базис подпространства в предположении, что целое число , и пусть обозначает матрицу, столбцы которой равны , т. е. . Тогда проекция определяется следующим образом: ^[5] ${\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}$ ${\displaystyle U}$ ${\displaystyle k\geq 1}$ ${\displaystyle A}$ ${\displaystyle n\times k}$ ${\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}$ ${\displaystyle A={\begin{bmatrix}\mathbf {u} _{1}&\cdots &\mathbf {u} _{k}\end{bmatrix}}}$

$${\displaystyle P_{A}=AA^{\mathsf {T}}}$$

$${\displaystyle P_{A}=\sum _{i}\langle \mathbf {u} _{i},\cdot \rangle \mathbf {u} _{i}.}$$

Матрица — это частичная изометрия , которая исчезает в ортогональном дополнении к , и это изометрия, которая встраивается в базовое векторное пространство. Таким образом, диапазон является последним пространством . Также ясно, что это тождественный оператор на . ${\displaystyle A^{\mathsf {T}}}$ ${\displaystyle U}$ ${\displaystyle A}$ ${\displaystyle U}$ ${\displaystyle P_{A}}$ ${\displaystyle A}$ ${\displaystyle AA^{\mathsf {T}}}$ ${\displaystyle U}$

Условие ортонормированности также можно отбросить. Если - (не обязательно ортонормированный) базис с , и - матрица с этими векторами в качестве столбцов, то проекция: ^{[6] [7]} ${\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}$ ${\displaystyle k\geq 1}$ ${\displaystyle A}$

$${\displaystyle P_{A}=A\left(A^{\mathsf {T}}A\right)^{-1}A^{\mathsf {T}}.}$$

Матрица по-прежнему встраивается в базовое векторное пространство, но в целом больше не является изометрией. Матрица является «нормирующим фактором», восстанавливающим норму. Например, оператор ранга -1 не является проекцией, если после деления на мы получаем проекцию на подпространство, охватываемое . ${\displaystyle A}$ ${\displaystyle U}$ ${\displaystyle \left(A^{\mathsf {T}}A\right)^{-1}}$ ${\displaystyle \mathbf {u} \mathbf {u} ^{\mathsf {T}}}$ ${\displaystyle \left\|\mathbf {u} \right\|\neq 1.}$ ${\displaystyle \mathbf {u} ^{\mathsf {T}}\mathbf {u} =\left\|\mathbf {u} \right\|^{2},}$ ${\displaystyle \mathbf {u} \left(\mathbf {u} ^{\mathsf {T}}\mathbf {u} \right)^{-1}\mathbf {u} ^{\mathsf {T}}}$ ${\displaystyle u}$

В общем случае мы можем иметь произвольную положительно определенную матрицу , определяющую скалярное произведение , а проекция определяется выражением . Затем ${\displaystyle D}$ ${\displaystyle \langle x,y\rangle _{D}=y^{\dagger }Dx}$ ${\displaystyle P_{A}}$ ${\textstyle P_{A}x=\operatorname {argmin} _{y\in \operatorname {range} (A)}\left\|x-y\right\|_{D}^{2}}$

$${\displaystyle P_{A}=A\left(A^{\mathsf {T}}DA\right)^{-1}A^{\mathsf {T}}D.}$$

Когда пространство диапазонов проекции генерируется кадром ( т.е. количество образующих больше его размерности), формула проекции принимает вид: . Здесь обозначается псевдообратная задача Мура–Пенроуза . Это лишь один из многих способов построения оператора проектирования. ${\displaystyle P_{A}=AA^{+}}$ ${\displaystyle A^{+}}$

Если – неособая матрица и (т. е. является матрицей нулевого пространства ), ^[8] справедливо следующее: ${\displaystyle {\begin{bmatrix}A&B\end{bmatrix}}}$ ${\displaystyle A^{\mathsf {T}}B=0}$ ${\displaystyle B}$ ${\displaystyle A}$

$${\displaystyle {\begin{aligned}I&={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}A&B\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\&={\begin{bmatrix}A&B\end{bmatrix}}\left({\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}{\begin{bmatrix}A&B\end{bmatrix}}\right)^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\&={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}A^{\mathsf {T}}A&O\\O&B^{\mathsf {T}}B\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\[4pt]&=A\left(A^{\mathsf {T}}A\right)^{-1}A^{\mathsf {T}}+B\left(B^{\mathsf {T}}B\right)^{-1}B^{\mathsf {T}}\end{aligned}}}$$

Если условие ортогональности усиливается до неособого , выполняется следующее: ${\displaystyle A^{\mathsf {T}}WB=A^{\mathsf {T}}W^{\mathsf {T}}B=0}$ ${\displaystyle W}$

$${\displaystyle I={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}\left(A^{\mathsf {T}}WA\right)^{-1}A^{\mathsf {T}}\\\left(B^{\mathsf {T}}WB\right)^{-1}B^{\mathsf {T}}\end{bmatrix}}W.}$$

Все эти формулы справедливы и для комплексных пространств внутреннего произведения, при условии, что вместо транспонирования используется сопряженное транспонирование . Более подробную информацию о суммах проекторов можно найти у Банерджи и Роя (2014). ^[9] Также см. Banerjee (2004) ^[10] о применении сумм проекторов в базовой сферической тригонометрии .

Косые проекции

Термин «косые проекции» иногда используется для обозначения неортогональных проекций. Эти проекции также используются для изображения пространственных фигур на двумерных чертежах (см. косая проекция ), хотя и не так часто, как ортогональные проекции. В то время как для расчета подобранного значения обычной регрессии наименьших квадратов требуется ортогональная проекция, для расчета подобранного значения регрессии инструментальных переменных требуется наклонная проекция.

Проекция определяется ее ядром и базисными векторами, используемыми для характеристики ее диапазона (которые являются дополнением ядра). Когда эти базисные векторы ортогональны ядру, тогда проекция является ортогональной проекцией. Когда эти базисные векторы не ортогональны ядру, проекция является наклонной проекцией или просто проекцией.

Формула матричного представления ненулевого оператора проектирования

Пусть – линейный оператор такой , что и предположим, что он не является нулевым оператором. Пусть векторы образуют основу для диапазона и соберите эти векторы в матрицу . Следовательно, целое число , в противном случае и является нулевым оператором. Диапазон и ядро ​​являются дополнительными пространствами, поэтому ядро ​​имеет размерность . Отсюда следует, что ортогональное дополнение ядра имеет размерность . Сформируем основу для ортогонального дополнения ядра проекции и соберем эти векторы в матрицу . Тогда проекция (с условием ) имеет вид ${\displaystyle P}$ ${\displaystyle P:V\to V,}$ ${\displaystyle P^{2}=P}$ ${\displaystyle P:V\to V}$ ${\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}$ ${\displaystyle P}$ ${\displaystyle n\times k}$ ${\displaystyle A}$ ${\displaystyle k\geq 1}$ ${\displaystyle k=0}$ ${\displaystyle P}$ ${\displaystyle n-k}$ ${\displaystyle k}$ ${\displaystyle \mathbf {v} _{1},\ldots ,\mathbf {v} _{k}}$ ${\displaystyle B}$ ${\displaystyle P}$ ${\displaystyle k\geq 1}$

$${\displaystyle P=A\left(B^{\mathsf {T}}A\right)^{-1}B^{\mathsf {T}}.}$$

Это выражение обобщает приведенную выше формулу для ортогональных проекций. ^{[11] [12]} Стандартное доказательство этого выражения следующее. Для любого вектора в векторном пространстве мы можем разложить , где вектор находится в образе , и вектор So , а затем находится в ядре , которое является нулевым пространством Другими словами, вектор находится в пространстве столбцов поэтому для некоторого вектора размерности и вектора удовлетворяет конструкция . Сложив эти условия вместе, мы найдем вектор такой, что . Поскольку матрицы и по своей конструкции имеют полный ранг , -матрица обратима. Таким образом, уравнение дает вектор. Таким образом, для любого вектора и, следовательно , . ${\displaystyle \mathbf {x} }$ ${\displaystyle V}$ ${\displaystyle \mathbf {x} =\mathbf {x} _{1}+\mathbf {x} _{2}}$ ${\displaystyle \mathbf {x} _{1}=P(\mathbf {x} )}$ ${\displaystyle P}$ ${\displaystyle \mathbf {x} _{2}=\mathbf {x} -P(\mathbf {x} ).}$ ${\displaystyle P(\mathbf {x} _{2})=P(\mathbf {x} )-P^{2}(\mathbf {x} )=\mathbf {0} }$ ${\displaystyle \mathbf {x} _{2}}$ ${\displaystyle P}$ ${\displaystyle A.}$ ${\displaystyle \mathbf {x} _{1}}$ ${\displaystyle A,}$ ${\displaystyle \mathbf {x} _{1}=A\mathbf {w} }$ ${\displaystyle k}$ ${\displaystyle \mathbf {w} }$ ${\displaystyle \mathbf {x} _{2}}$ ${\displaystyle B^{\mathsf {T}}\mathbf {x} _{2}=\mathbf {0} }$ ${\displaystyle B}$ ${\displaystyle \mathbf {w} }$ ${\displaystyle B^{\mathsf {T}}(\mathbf {x} -A\mathbf {w} )=\mathbf {0} }$ ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle k}$ ${\displaystyle k\times k}$ ${\displaystyle B^{\mathsf {T}}A}$ ${\displaystyle B^{\mathsf {T}}(\mathbf {x} -A\mathbf {w} )=\mathbf {0} }$ ${\displaystyle \mathbf {w} =(B^{\mathsf {T}}A)^{-1}B^{\mathsf {T}}\mathbf {x} .}$ ${\displaystyle P\mathbf {x} =\mathbf {x} _{1}=A\mathbf {w} =A(B^{\mathsf {T}}A)^{-1}B^{\mathsf {T}}\mathbf {x} }$ ${\displaystyle \mathbf {x} \in V}$ ${\displaystyle P=A(B^{\mathsf {T}}A)^{-1}B^{\mathsf {T}}}$

В случае ортогональной проекции мы можем взять , и отсюда следует, что . Используя эту формулу, можно легко в этом убедиться . В общем, если векторное пространство находится над полем комплексных чисел, тогда используется эрмитово транспонирование и получается формула . Напомним, что можно определить обратную матрицу Мура-Пенроуза как поскольку она имеет полный ранг столбца, поэтому . ${\displaystyle P}$ ${\displaystyle A=B}$ ${\displaystyle P=A\left(A^{\mathsf {T}}A\right)^{-1}A^{\mathsf {T}}}$ ${\displaystyle P=P^{\mathsf {T}}}$ ${\displaystyle A^{*}}$ ${\displaystyle P=A\left(A^{*}A\right)^{-1}A^{*}}$ ${\displaystyle A}$ ${\displaystyle A^{+}=(A^{*}A)^{-1}A^{*}}$ ${\displaystyle A}$ ${\displaystyle P=AA^{+}}$

Сингулярные значения

Обратите внимание, что это также наклонная проекция. Сингулярные значения и могут быть вычислены с помощью ортонормированного базиса . Пусть – ортонормированный базис и пусть – ортогональное дополнение к . Обозначим сингулярные значения матрицы положительными значениями . При этом сингулярными значениями являются: ^[13] ${\displaystyle I-P}$ ${\displaystyle P}$ ${\displaystyle I-P}$ ${\displaystyle A}$ ${\displaystyle Q_{A}}$ ${\displaystyle A}$ ${\displaystyle Q_{A}^{\perp }}$ ${\displaystyle Q_{A}}$ ${\displaystyle Q_{A}^{T}A(B^{T}A)^{-1}B^{T}Q_{A}^{\perp }}$ ${\displaystyle \gamma _{1}\geq \gamma _{2}\geq \ldots \geq \gamma _{k}}$ ${\displaystyle P}$

$${\displaystyle \sigma _{i}={\begin{cases}{\sqrt {1+\gamma _{i}^{2}}}&1\leq i\leq k\\0&{\text{otherwise}}\end{cases}}}$$

${\displaystyle I-P}$

$${\displaystyle \sigma _{i}={\begin{cases}{\sqrt {1+\gamma _{i}^{2}}}&1\leq i\leq k\\1&k+1\leq i\leq n-k\\0&{\text{otherwise}}\end{cases}}}$$

матричная нормачисло обусловленности ${\displaystyle P}$ ${\displaystyle I-P}$ ${\displaystyle \kappa (I-P)={\frac {\sigma _{1}}{1}}\geq {\frac {\sigma _{1}}{\sigma _{k}}}=\kappa (P)}$

Нахождение проекции с внутренним произведением

Пусть — векторное пространство (в данном случае плоскость), натянутое на ортогональные векторы . Пусть вектор. Проекцию на можно определить как ${\displaystyle V}$ ${\displaystyle \mathbf {u} _{1},\mathbf {u} _{2},\dots ,\mathbf {u} _{p}}$ ${\displaystyle y}$ ${\displaystyle \mathbf {y} }$ ${\displaystyle V}$

$${\displaystyle \operatorname {proj} _{V}\mathbf {y} ={\frac {\mathbf {y} \cdot \mathbf {u} ^{i}}{\mathbf {u} ^{i}\cdot \mathbf {u} ^{i}}}\mathbf {u} ^{i}}$$

обозначение суммы Эйнштейнаортогональное расстояниемашинное обучение ${\displaystyle \mathbf {y} }$ ${\displaystyle \mathbf {y} =\operatorname {proj} _{V}\mathbf {y} +\mathbf {z} }$ ${\displaystyle \operatorname {proj} _{V}\mathbf {y} }$ ${\displaystyle {\hat {\mathbf {y} }}}$ ${\displaystyle \mathbf {z} }$ ${\displaystyle \mathbf {y} }$ ${\displaystyle V}$

y проецируется на векторное пространство V .

Канонические формы

Любая проекция на векторное пространство размерности над полем является диагонализируемой матрицей , поскольку ее минимальный полином делит , который распадается на отдельные линейные факторы. Таким образом, существует базис, имеющий вид ${\displaystyle P=P^{2}}$ ${\displaystyle d}$ ${\displaystyle x^{2}-x}$ ${\displaystyle P}$

${\displaystyle P=I_{r}\oplus 0_{d-r}}$

где ранг . _ _ Здесь — единичная матрица размера , — нулевая матрица размера , — оператор прямой суммы . Если векторное пространство комплексное и снабжено скалярным произведением , то существует ортонормированный базис, в котором матрица P равна ^[14] ${\displaystyle r}$ ${\displaystyle P}$ ${\displaystyle I_{r}}$ ${\displaystyle r}$ ${\displaystyle 0_{d-r}}$ ${\displaystyle d-r}$ ${\displaystyle \oplus }$

${\displaystyle P={\begin{bmatrix}1&\sigma _{1}\\0&0\end{bmatrix}}\oplus \cdots \oplus {\begin{bmatrix}1&\sigma _{k}\\0&0\end{bmatrix}}\oplus I_{m}\oplus 0_{s}.}$

где . Целые и действительные числа определяются однозначно . Обратите внимание, что . Фактор соответствует максимальному инвариантному подпространству, на котором действует как ортогональный проектор (так что само P ортогонально тогда и только тогда, когда ), а -блоки соответствуют наклонным компонентам. ${\displaystyle \sigma _{1}\geq \sigma _{2}\geq \dots \geq \sigma _{k}>0}$ ${\displaystyle k,s,m}$ ${\displaystyle \sigma _{i}}$ ${\displaystyle 2k+s+m=d}$ ${\displaystyle I_{m}\oplus 0_{s}}$ ${\displaystyle P}$ ${\displaystyle k=0}$ ${\displaystyle \sigma _{i}}$

Проекции на нормированные векторные пространства

Когда базовое векторное пространство является (не обязательно конечномерным) нормированным векторным пространством , необходимо рассмотреть аналитические вопросы, не имеющие значения в конечномерном случае. Предположим, что теперь — банахово пространство . ${\displaystyle X}$ ${\displaystyle X}$

Многие из обсуждавшихся выше алгебраических результатов сохраняются при переходе к этому контексту. Данное разложение прямой суммы на дополнительные подпространства по-прежнему определяет проекцию, и наоборот. Если – прямая сумма , то оператор, определенный как, по-прежнему является проекцией с диапазоном и ядром . Также ясно, что . Обратно, если – проекция на , т.е. , то легко проверяется, что . Другими словами, это тоже проекция. Отношение подразумевает и является прямой суммой . ${\displaystyle X}$ ${\displaystyle X}$ ${\displaystyle X=U\oplus V}$ ${\displaystyle P(u+v)=u}$ ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle P^{2}=P}$ ${\displaystyle P}$ ${\displaystyle X}$ ${\displaystyle P^{2}=P}$ ${\displaystyle (1-P)^{2}=(1-P)}$ ${\displaystyle 1-P}$ ${\displaystyle P^{2}=P}$ ${\displaystyle 1=P+(1-P)}$ ${\displaystyle X}$ ${\displaystyle \operatorname {rg} (P)\oplus \operatorname {rg} (1-P)}$

Однако, в отличие от конечномерного случая, проекции вообще не обязательно должны быть непрерывными . Если подпространство не замкнуто в топологии нормы, то проекция на не является непрерывной. Другими словами, образ непрерывной проекции должен быть замкнутым подпространством. Более того, ядро ​​непрерывного проектора (фактически, вообще непрерывного линейного оператора) замкнуто. Таким образом, непрерывная проекция дает разложение на два дополнительных замкнутых подпространства: . ${\displaystyle U}$ ${\displaystyle X}$ ${\displaystyle U}$ ${\displaystyle P}$ ${\displaystyle P}$ ${\displaystyle X}$ ${\displaystyle X=\operatorname {rg} (P)\oplus \ker(P)=\ker(1-P)\oplus \ker(P)}$

Обратное также верно, но с дополнительным предположением. Предположим , является замкнутым подпространством . Если существует замкнутое подпространство такое, что X = U ⊕ V , то проекция с образом и ядром непрерывна. Это следует из теоремы о замкнутом графике . Предположим, x _n → x и Px _n → y . Это нужно показать . Поскольку замкнуто и { Px _n } ⊂ U , y лежит в , т. е. Py = y . Кроме того, Икс _п - Px _п знак равно ( I - P ) Икс _п → Икс - y . Поскольку замкнуто и {( I − P ) x _n } ⊂ V , имеем , т.е. что и доказывает утверждение. ${\displaystyle U}$ ${\displaystyle X}$ ${\displaystyle V}$ ${\displaystyle P}$ ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle Px=y}$ ${\displaystyle U}$ ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle x-y\in V}$ ${\displaystyle P(x-y)=Px-Py=Px-y=0}$

В приведенном выше аргументе используется предположение о том, что оба и закрыты. В общем, для данного замкнутого подпространства не обязательно должно существовать дополнительное замкнутое подпространство , хотя для гильбертовых пространств это всегда можно сделать, взяв ортогональное дополнение . Для банаховых пространств одномерное подпространство всегда имеет замкнутое дополнительное подпространство. Это непосредственное следствие теоремы Хана–Банаха . Пусть – линейная оболочка . По Хану–Банаху существует ограниченный линейный функционал такой, что φ ( u ) = 1 . Оператор удовлетворяет , т.е. является проекцией. Ограниченность подразумевает непрерывность и, следовательно, является замкнутым дополнительным подпространством . ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle U}$ ${\displaystyle V}$ ${\displaystyle U}$ ${\displaystyle u}$ ${\displaystyle \varphi }$ ${\displaystyle P(x)=\varphi (x)u}$ ${\displaystyle P^{2}=P}$ ${\displaystyle \varphi }$ ${\displaystyle P}$ ${\displaystyle \ker(P)=\operatorname {rg} (I-P)}$ ${\displaystyle U}$

Приложения и дополнительные соображения

Проекции (ортогональные и другие) играют важную роль в алгоритмах решения некоторых задач линейной алгебры:

• QR-разложение (см. Преобразование Хаусхолдера и разложение Грама – Шмидта );
• Разложение по сингулярным значениям
• Приведение к форме Хессенберга (первый шаг во многих алгоритмах собственных значений )
• Линейная регрессия
• Проективные элементы матричных алгебр используются при построении некоторых K-групп в операторной K-теории.

Как говорилось выше, проекции представляют собой частный случай идемпотентов. С аналитической точки зрения ортогональные проекции являются некоммутативными обобщениями характеристических функций . Идемпотенты используются при классификации, например, полупростых алгебр , а теория меры начинается с рассмотрения характеристических функций измеримых множеств . Поэтому, как можно догадаться, проекции очень часто встречаются в контексте операторных алгебр . В частности, алгебра фон Неймана порождается своей полной решеткой проекторов.

Обобщения

В более общем смысле, учитывая карту между нормированными векторными пространствами, можно аналогичным образом потребовать, чтобы это отображение было изометрией ортогонального дополнения ядра: это была изометрия (сравните Частичную изометрию ); в частности, это должно быть на . Случай ортогональной проекции — это когда W является подпространством V. В римановой геометрии это используется при определении римановой субмерсии . ${\displaystyle T\colon V\to W,}$ ${\displaystyle (\ker T)^{\perp }\to W}$

Смотрите также

• Центрирующая матрица , которая является примером матрицы проекции.
• Алгоритм проекции Дикстры для вычисления проекции на пересечение множеств
• Инвариантное подпространство
• Спектральный анализ методом наименьших квадратов
• Ортогонализация
• Свойства трассировки

Примечания

1. Мейер, стр. 386+387.
2. Хорн, Роджер А.; Джонсон, Чарльз Р. (2013). Матричный анализ, второе издание . Издательство Кембриджского университета. ISBN 9780521839402.
3. Мейер, с. 433
4. Мейер, с. 431
5. Мейер, уравнение (5.13.4)
6. Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики, Тексты по статистическим наукам (1-е изд.), Чепмен и Холл / CRC, ISBN 978-1420095388
7. Мейер, уравнение (5.13.3)
8. См. также Линейный метод наименьших квадратов (математика) § Свойства оценок методом наименьших квадратов .
9. Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики, Тексты по статистическим наукам (1-е изд.), Чепмен и Холл / CRC, ISBN 978-1420095388
10. Банерджи, Судипто (2004), «Возвращаясь к сферической тригонометрии с ортогональными проекторами», The College Mathematics Journal , 35 (5): 375–381, doi : 10.1080/07468342.2004.11922099, S2CID  122277398
11. Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики, Тексты по статистическим наукам (1-е изд.), Чепмен и Холл / CRC, ISBN 978-1420095388
12. Мейер, уравнение (7.10.39)
13. Браст, Джей Джей; Марсия, РФ; Петра, К.Г. (2020), «Вычислительно эффективное разложение матриц наклонных проекций», SIAM Journal on Matrix Analysis and Applications , 41 (2): 852–870, doi : 10.1137/19M1288115, OSTI  1680061, S2CID  219921214
14. Докович, Д.Ж. (август 1991 г.). «Единое подобие проекторов». Математические уравнения . 42 (1): 220–224. дои : 10.1007/BF01818492. S2CID  122704926.

Рекомендации

• Банерджи, Судипто; Рой, Аниндья (2014), Линейная алгебра и матричный анализ для статистики , Тексты по статистическим наукам (1-е изд.), Чепмен и Холл / CRC, ISBN 978-1420095388
• Данфорд, Н.; Шварц, Дж.Т. (1958). Линейные операторы. Часть I: Общая теория . Межнаучный.
• Мейер, Карл Д. (2000). Матричный анализ и прикладная линейная алгебра. Общество промышленной и прикладной математики. ISBN 978-0-89871-454-8.

Внешние ссылки

• Лекция по линейной алгебре Массачусетского технологического института о матрицах проекций на YouTube , от MIT OpenCourseWare
• Линейная алгебра 15d: Преобразование проекции на YouTube , Павел Гринфельд .
• Учебное пособие по плоским геометрическим проекциям – простое учебное пособие, объясняющее различные типы плоских геометрических проекций.