Матрица Грама

Матрица внутренних произведений набора векторов

В линейной алгебре матрица Грама (или матрица Грама , Gramian ) набора векторов в пространстве скалярного произведения является эрмитовой матрицей скалярных произведений , элементы которой задаются скалярным произведением . ^[1] Если векторы являются столбцами матрицы, то матрица Грама в общем случае, когда координаты вектора являются комплексными числами, упрощается до случая, когда координаты вектора являются действительными числами. ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle G_{ij}=\left\langle v_{i},v_{j}\right\rangle }$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle X}$ ${\displaystyle X^{\dagger }X}$ ${\displaystyle X^{\top }X}$

Важным приложением является вычисление линейной независимости : набор векторов линейно независим тогда и только тогда, когда определитель Грама ( определитель матрицы Грама) отличен от нуля.

Он назван в честь Йоргена Педерсена Грама .

Примеры

Для конечномерных вещественных векторов в с обычным евклидовым скалярным произведением матрица Грама имеет вид , где — матрица, столбцы которой являются векторами , а — ее транспонированная матрица , строки которой являются векторами . Для комплексных векторов в , , где — сопряженная транспонированная матрица . ${\displaystyle \mathbb {R} ^{n}}$ ${\displaystyle G=V^{\top }V}$ ${\displaystyle V}$ ${\displaystyle v_{k}}$ ${\displaystyle V^{\top }}$ ${\displaystyle v_{k}^{\top }}$ ${\displaystyle \mathbb {C} ^{n}}$ ${\displaystyle G=V^{\dagger }V}$ ${\displaystyle V^{\dagger }}$ ${\displaystyle V}$

Для квадратично-интегрируемых функций на интервале матрица Грама имеет вид: ${\displaystyle \{\ell _{i}(\cdot ),\,i=1,\dots ,n\}}$ ${\displaystyle \left[t_{0},t_{f}\right]}$ ${\displaystyle G=\left[G_{ij}\right]}$

${\displaystyle G_{ij}=\int _{t_{0}}^{t_{f}}\ell _{i}^{*}(\tau )\ell _{j}(\tau )\,d\tau .}$

где — комплексно сопряженное число . ${\displaystyle \ell _{i}^{*}(\tau )}$ ${\displaystyle \ell _{i}(\tau )}$

Для любой билинейной формы на конечномерном векторном пространстве над любым полем мы можем определить матрицу Грама, присоединенную к набору векторов с помощью . Матрица будет симметричной, если билинейная форма симметрична. ${\displaystyle B}$ ${\displaystyle G}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle G_{ij}=B\left(v_{i},v_{j}\right)}$ ${\displaystyle B}$

Приложения

• В римановой геометрии , если задано вложенное -мерное риманово многообразие и параметризация для , то форма объема на , индуцированная вложением, может быть вычислена с использованием грамиана координатных касательных векторов: Это обобщает классический поверхностный интеграл параметризованной поверхности для : ${\displaystyle k}$ ${\displaystyle M\subset \mathbb {R} ^{n}}$ ${\displaystyle \phi :U\to M}$ ${\displaystyle (x_{1},\ldots ,x_{k})\in U\subset \mathbb {R} ^{k}}$ ${\displaystyle \omega }$ ${\displaystyle M}$ $${\displaystyle \omega ={\sqrt {\det G}}\ dx_{1}\cdots dx_{k},\quad G=\left[\left\langle {\frac {\partial \phi }{\partial x_{i}}},{\frac {\partial \phi }{\partial x_{j}}}\right\rangle \right].}$$ ${\displaystyle \phi :U\to S\subset \mathbb {R} ^{3}}$ ${\displaystyle (x,y)\in U\subset \mathbb {R} ^{2}}$ $${\displaystyle \int _{S}f\ dA=\iint _{U}f(\phi (x,y))\,\left|{\frac {\partial \phi }{\partial x}}\,{\times }\,{\frac {\partial \phi }{\partial y}}\right|\,dx\,dy.}$$
• Если векторы представляют собой центрированные случайные величины , то грамиан приблизительно пропорционален ковариационной матрице , а масштаб определяется числом элементов в векторе.
• В квантовой химии матрица Грама набора базисных векторов является матрицей перекрытия .
• В теории управления (или, в более общем смысле, теории систем ) грамиан управляемости и грамиан наблюдаемости определяют свойства линейной системы.
• Матрицы Грэма возникают при подгонке модели ковариационной структуры (см., например, Джамшидиан и Бентлер, 1993, Прикладные психологические измерения, том 18, стр. 79–94).
• В методе конечных элементов матрица Грама получается путем аппроксимации функции из конечномерного пространства; элементы матрицы Грама затем являются внутренними произведениями базисных функций конечномерного подпространства.
• В машинном обучении функции ядра часто представляются в виде матриц Грама. ^[2] (См. также ядро ​​PCA )
• Поскольку матрица Грама над вещественными числами является симметричной матрицей , она диагонализируема и ее собственные значения неотрицательны. Диагонализация матрицы Грама является разложением по сингулярным значениям .

Характеристики

Положительно-полуопределенность

Матрица Грама симметрична в случае, если скалярное произведение имеет вещественные значения; в общем, комплексном случае она эрмитова по определению скалярного произведения .

Матрица Грама положительно полуопределена , и каждая положительно полуопределенная матрица является матрицей Грама для некоторого набора векторов. Тот факт, что матрица Грама положительно полуопределена, можно увидеть из следующего простого вывода:

${\displaystyle x^{\dagger }\mathbf {G} x=\sum _{i,j}x_{i}^{*}x_{j}\left\langle v_{i},v_{j}\right\rangle =\sum _{i,j}\left\langle x_{i}v_{i},x_{j}v_{j}\right\rangle ={\biggl \langle }\sum _{i}x_{i}v_{i},\sum _{j}x_{j}v_{j}{\biggr \rangle }={\biggl \|}\sum _{i}x_{i}v_{i}{\biggr \|}^{2}\geq 0.}$

Первое равенство следует из определения умножения матриц, второе и третье — из билинейности скалярного произведения , а последнее — из положительной определенности скалярного произведения. Обратите внимание, что это также показывает, что матрица Грама положительно определена тогда и только тогда, когда векторы линейно независимы (то есть для всех ). ^[1] ${\displaystyle v_{i}}$ ${\textstyle \sum _{i}x_{i}v_{i}\neq 0}$ ${\displaystyle x}$

Нахождение векторной реализации

Если задана любая положительно полуопределенная матрица , ее можно разложить следующим образом: ${\displaystyle M}$

${\displaystyle M=B^{\dagger }B}$,

где — сопряженное транспонирование (или в действительном случае). ${\displaystyle B^{\dagger }}$ ${\displaystyle B}$ ${\displaystyle M=B^{\textsf {T}}B}$

Вот матрица , где — ранг . Различные способы получения такого разложения включают вычисление разложения Холецкого или извлечение неотрицательного квадратного корня из . ${\displaystyle B}$ ${\displaystyle k\times n}$ ${\displaystyle k}$ ${\displaystyle M}$ ${\displaystyle M}$

Столбцы можно рассматривать как n векторов в (или k -мерном евклидовом пространстве в вещественном случае). Тогда ${\displaystyle b^{(1)},\dots ,b^{(n)}}$ ${\displaystyle B}$ ${\displaystyle \mathbb {C} ^{k}}$ ${\displaystyle \mathbb {R} ^{k}}$

${\displaystyle M_{ij}=b^{(i)}\cdot b^{(j)}}$

где скалярное произведение — это обычное внутреннее произведение на . ${\textstyle a\cdot b=\sum _{\ell =1}^{k}a_{\ell }^{*}b_{\ell }}$ ${\displaystyle \mathbb {C} ^{k}}$

Таким образом, эрмитова матрица положительно полуопределена тогда и только тогда, когда она является матрицей Грама некоторых векторов . Такие векторы называются векторной реализацией . Бесконечномерным аналогом этого утверждения является теорема Мерсера . ${\displaystyle M}$ ${\displaystyle b^{(1)},\dots ,b^{(n)}}$ ${\displaystyle M}$

Уникальность векторных реализаций

Если — матрица Грама векторов в , то применение любого поворота или отражения (любого ортогонального преобразования , то есть любой евклидовой изометрии, сохраняющей 0) к последовательности векторов приводит к той же матрице Грама. То есть, для любой ортогональной матрицы матрица Грама также равна . ${\displaystyle M}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle k\times k}$ ${\displaystyle Q}$ ${\displaystyle Qv_{1},\dots ,Qv_{n}}$ ${\displaystyle M}$

Это единственный способ, которым могут различаться две действительные векторные реализации: векторы уникальны с точностью до ортогональных преобразований . Другими словами, скалярные произведения и равны тогда и только тогда, когда некоторое жесткое преобразование преобразует векторы в и 0 в 0. ${\displaystyle M}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle v_{i}\cdot v_{j}}$ ${\displaystyle w_{i}\cdot w_{j}}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle w_{1},\dots ,w_{n}}$

То же самое справедливо и в комплексном случае, с унитарными преобразованиями вместо ортогональных. То есть, если матрица Грама векторов равна матрице Грама векторов в , то существует унитарная матрица (имеется в виду ) такая, что для . ^[3] ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle w_{1},\dots ,w_{n}}$ ${\displaystyle \mathbb {C} ^{k}}$ ${\displaystyle k\times k}$ ${\displaystyle U}$ ${\displaystyle U^{\dagger }U=I}$ ${\displaystyle v_{i}=Uw_{i}}$ ${\displaystyle i=1,\dots ,n}$

Другие свойства

• Поскольку , то обязательно имеет место, что и коммутируют. То есть, действительная или комплексная матрица Грама также является нормальной матрицей . ${\displaystyle G=G^{\dagger }}$ ${\displaystyle G}$ ${\displaystyle G^{\dagger }}$ ${\displaystyle G}$
• Матрица Грама любого ортонормированного базиса является единичной матрицей. Эквивалентно, матрица Грама строк или столбцов действительной матрицы вращения является единичной матрицей. Аналогично, матрица Грама строк или столбцов унитарной матрицы является единичной матрицей.
• Ранг матрицы Грама векторов в или равен размерности пространства, охватываемого этими векторами. ^[1] ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle \mathbb {C} ^{k}}$

Определитель Грамма

Определитель Грама или грамиан — это определитель матрицы Грама: $${\displaystyle {\bigl |}G(v_{1},\dots ,v_{n}){\bigr |}={\begin{vmatrix}\langle v_{1},v_{1}\rangle &\langle v_{1},v_{2}\rangle &\dots &\langle v_{1},v_{n}\rangle \\\langle v_{2},v_{1}\rangle &\langle v_{2},v_{2}\rangle &\dots &\langle v_{2},v_{n}\rangle \\\vdots &\vdots &\ddots &\vdots \\\langle v_{n},v_{1}\rangle &\langle v_{n},v_{2}\rangle &\dots &\langle v_{n},v_{n}\rangle \end{vmatrix}}.}$$

Если являются векторами в , то это квадрат n -мерного объема параллелоэдра , образованного векторами. В частности, векторы линейно независимы тогда и только тогда, когда параллелоэдр имеет ненулевой n -мерный объем, тогда и только тогда, когда определитель Грама ненулевой, тогда и только тогда, когда матрица Грама невырожденная . Когда n > m , определитель и объем равны нулю. Когда n = m , это сводится к стандартной теореме о том, что абсолютное значение определителя n n -мерных векторов равно n -мерному объему. Определитель Грама также полезен для вычисления объема симплекса, образованного векторами; его объем равен Volume(parallelotope) / n ! . ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle \mathbb {R} ^{m}}$

Определитель Грама можно также выразить через внешнее произведение векторов:

${\displaystyle {\bigl |}G(v_{1},\dots ,v_{n}){\bigr |}=\|v_{1}\wedge \cdots \wedge v_{n}\|^{2}.}$

Когда векторы определяются из положений точек относительно некоторой опорной точки , ${\displaystyle v_{1},\ldots ,v_{n}\in \mathbb {R} ^{m}}$ ${\displaystyle p_{1},\ldots ,p_{n}}$ ${\displaystyle p_{n+1}}$

$${\displaystyle (v_{1},v_{2},\ldots ,v_{n})=(p_{1}-p_{n+1},p_{2}-p_{n+1},\ldots ,p_{n}-p_{n+1})\,,}$$

тогда определитель Грама можно записать как разность двух определителей Грама,

$${\displaystyle {\bigl |}G(v_{1},\dots ,v_{n}){\bigr |}={\bigl |}G((p_{1},1),\dots ,(p_{n+1},1)){\bigr |}-{\bigl |}G(p_{1},\dots ,p_{n+1}){\bigr |}\,,}$$

где каждая точка представляет собой соответствующую точку, дополненную значением координаты 1 для -го измерения. ^{[ необходима ссылка ]} Обратите внимание, что в общем случае, когда n = m , второй член в правой части будет равен нулю. ${\displaystyle (p_{j},1)}$ ${\displaystyle p_{j}}$ ${\displaystyle (m+1)}$

Построение ортонормированного базиса

Имея набор линейно независимых векторов с матрицей Грама, определяемой как , можно построить ортонормированный базис ${\displaystyle \{v_{i}\}}$ ${\displaystyle G}$ ${\displaystyle G_{ij}:=\langle v_{i},v_{j}\rangle }$

${\displaystyle u_{i}:=\sum _{j}{\bigl (}G^{-1/2}{\bigr )}_{ji}v_{j}.}$

В матричной записи , где имеет ортонормированные базисные векторы , а матрица состоит из заданных векторов-столбцов . ${\displaystyle U=VG^{-1/2}}$ ${\displaystyle U}$ ${\displaystyle \{u_{i}\}}$ ${\displaystyle V}$ ${\displaystyle \{v_{i}\}}$

Матрица гарантированно существует. Действительно, является эрмитовой, и поэтому может быть разложена как с унитарной матрицей и действительной диагональной матрицей. Кроме того, являются линейно независимыми тогда и только тогда, когда является положительно определенной, что подразумевает, что диагональные элементы являются положительными. поэтому однозначно определяется как . Можно проверить, что эти новые векторы ортонормальны: ${\displaystyle G^{-1/2}}$ ${\displaystyle G}$ ${\displaystyle G=UDU^{\dagger }}$ ${\displaystyle U}$ ${\displaystyle D}$ ${\displaystyle v_{i}}$ ${\displaystyle G}$ ${\displaystyle D}$ ${\displaystyle G^{-1/2}}$ ${\displaystyle G^{-1/2}:=UD^{-1/2}U^{\dagger }}$

${\displaystyle {\begin{aligned}\langle u_{i},u_{j}\rangle &=\sum _{i'}\sum _{j'}{\Bigl \langle }{\bigl (}G^{-1/2}{\bigr )}_{i'i}v_{i'},{\bigl (}G^{-1/2}{\bigr )}_{j'j}v_{j'}{\Bigr \rangle }\\[10mu]&=\sum _{i'}\sum _{j'}{\bigl (}G^{-1/2}{\bigr )}_{ii'}G_{i'j'}{\bigl (}G^{-1/2}{\bigr )}_{j'j}\\[8mu]&={\bigl (}G^{-1/2}GG^{-1/2}{\bigr )}_{ij}=\delta _{ij}\end{aligned}}}$

где мы использовали . ${\displaystyle {\bigl (}G^{-1/2}{\bigr )}^{\dagger }=G^{-1/2}}$

Смотрите также

• Управляемость Грэмиан
• Наблюдаемость Грэмиан

Ссылки

1. Horn & Johnson 2013, стр. 441, стр.441, Теорема 7.2.10
2. Ланкриет, Г. Р. Г.; Кристианини, Н.; Бартлетт, П.; Гауи, Л. Э.; Джордан, М. И. (2004). «Изучение матрицы ядра с помощью полуопределенного программирования». Журнал исследований машинного обучения . 5 : 27–72 [стр. 29].
3. Хорн и Джонсон (2013), стр. 452, Теорема 7.3.11

• Хорн, Роджер А.; Джонсон, Чарльз Р. (2013). Матричный анализ (2-е изд.). Cambridge University Press . ISBN 978-0-521-54823-6.

Внешние ссылки

• «Матрица Грама», Энциклопедия математики , EMS Press , 2001 [1994]
• Объемы параллелограммов Фрэнка Джонса