Матрица Грамма

Матрица скалярных произведений набора векторов

В линейной алгебре матрица Грама (или матрица Грама , Грамиан ) набора векторов в пространстве внутреннего произведения является эрмитовой матрицей внутренних произведений , элементы которого задаются внутренним произведением . ^[1] Если векторы являются столбцами матрицы , то матрица Грама в общем случае представляет собой комплексные числа, что упрощается до случая, когда векторные координаты являются действительными числами. ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle G_{ij}=\left\langle v_{i},v_{j}\right\rangle }$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle X}$ ${\displaystyle X^{\dagger }X}$ ${\displaystyle X^{\top }X}$

Важным применением является вычисление линейной независимости : набор векторов линейно независимы тогда и только тогда, когда определитель Грама ( определитель матрицы Грама) не равен нулю.

Он назван в честь Йоргена Педерсена Грама .

Примеры

Для конечномерных действительных векторов с обычным евклидовым скалярным произведением матрица Грама равна , где – матрица, столбцы которой являются векторами , и – ее транспонированная строка, строки которой являются векторами . Для комплексных векторов в , , где – сопряженное транспонирование . ${\displaystyle \mathbb {R} ^{n}}$ ${\displaystyle G=V^{\top }V}$ ${\displaystyle V}$ ${\displaystyle v_{k}}$ ${\displaystyle V^{\top }}$ ${\displaystyle v_{k}^{\top }}$ ${\displaystyle \mathbb {C} ^{n}}$ ${\displaystyle G=V^{\dagger }V}$ ${\displaystyle V^{\dagger }}$ ${\displaystyle V}$

Для данных функций, интегрируемых с квадратом на интервале , матрица Грама имеет вид: ${\displaystyle \{\ell _{i}(\cdot ),\,i=1,\dots ,n\}}$ ${\displaystyle \left[t_{0},t_{f}\right]}$ ${\displaystyle G=\left[G_{ij}\right]}$

${\displaystyle G_{ij}=\int _{t_{0}}^{t_{f}}\ell _{i}^{*}(\tau )\ell _{j}(\tau )\,d\tau .}$

где – комплексно-сопряженное число . ${\displaystyle \ell _{i}^{*}(\tau )}$ ${\displaystyle \ell _{i}(\tau )}$

Для любой билинейной формы в конечномерном векторном пространстве над любым полем мы можем определить матрицу Грама, прикрепленную к набору векторов с помощью . Матрица будет симметричной, если билинейная форма симметрична. ${\displaystyle B}$ ${\displaystyle G}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle G_{ij}=B\left(v_{i},v_{j}\right)}$ ${\displaystyle B}$

Приложения

• В римановой геометрии , учитывая вложенное -мерное риманово многообразие и параметризацию для , форма объема на, индуцированная вложением, может быть вычислена с использованием Грамиана координатных касательных векторов: ${\displaystyle k}$ ${\displaystyle M\subset \mathbb {R} ^{n}}$ ${\displaystyle \phi :U\to M}$ ${\displaystyle (x_{1},\ldots ,x_{k})\in U\subset \mathbb {R} ^{k}}$ ${\displaystyle \omega }$ ${\displaystyle M}$
  $${\displaystyle \omega ={\sqrt {\det G}}\ dx_{1}\cdots dx_{k},\quad G=\left[\left\langle {\frac {\partial \phi }{\partial x_{i}}},{\frac {\partial \phi }{\partial x_{j}}}\right\rangle \right].}$$
  Это обобщает классический поверхностный интеграл параметризованной поверхности для : ${\displaystyle \phi :U\to S\subset \mathbb {R} ^{3}}$ ${\displaystyle (x,y)\in U\subset \mathbb {R} ^{2}}$
  $${\displaystyle \int _{S}f\ dA=\iint _{U}f(\phi (x,y))\,\left|{\frac {\partial \phi }{\partial x}}\,{\times }\,{\frac {\partial \phi }{\partial y}}\right|\,dx\,dy.}$$
• Если векторы представляют собой центрированные случайные величины , грамиан приблизительно пропорционален ковариационной матрице , при этом масштабирование определяется количеством элементов в векторе.
• В квантовой химии матрица Грама набора базисных векторов является матрицей перекрытия .
• В теории управления (или, в более общем плане, теории систем ) Грамиан управляемости и Грамиан наблюдаемости определяют свойства линейной системы.
• Матрицы Грамиана возникают при подборе модели ковариационной структуры (см., например, Джамшидиан и Бентлер, 1993, Applied Psychoological Measurement, Volume 18, стр. 79–94).
• В методе конечных элементов матрица Грама возникает в результате аппроксимации функции из конечномерного пространства; тогда элементы матрицы Грама являются внутренними произведениями базисных функций конечномерного подпространства.
• В машинном обучении функции ядра часто представляются в виде матриц Грама. ^[2] (Также см. ядро ​​PCA )
• Поскольку матрица Грама над действительными числами является симметричной матрицей , она диагонализуема и ее собственные значения неотрицательны. Диагонализация матрицы Грама представляет собой разложение по сингулярным значениям .

Характеристики

Положительная полуопределенность

Матрица Грама симметрична в случае, если реальный продукт имеет действительную стоимость; в общем, сложном случае он является эрмитовым по определению скалярного продукта .

Матрица Грама является положительно полуопределенной , и каждая положительно полуопределенная матрица является матрицей Грама для некоторого набора векторов. Тот факт, что матрица Грамиана является положительно-полуопределенной, можно увидеть из следующего простого вывода:

${\displaystyle x^{\dagger }\mathbf {G} x=\sum _{i,j}x_{i}^{*}x_{j}\left\langle v_{i},v_{j}\right\rangle =\sum _{i,j}\left\langle x_{i}v_{i},x_{j}v_{j}\right\rangle ={\biggl \langle }\sum _{i}x_{i}v_{i},\sum _{j}x_{j}v_{j}{\biggr \rangle }={\biggl \|}\sum _{i}x_{i}v_{i}{\biggr \|}^{2}\geq 0.}$

Первое равенство следует из определения умножения матриц, второе и третье — из билинейности внутреннего продукта , а последнее — из положительной определенности внутреннего продукта. Обратите внимание, что это также показывает, что матрица Грамиана положительно определена тогда и только тогда, когда векторы линейно независимы (то есть для всех ). ^[1] ${\displaystyle v_{i}}$ ${\textstyle \sum _{i}x_{i}v_{i}\neq 0}$ ${\displaystyle x}$

Нахождение векторной реализации

Учитывая любую положительную полуопределенную матрицу , ее можно разложить как: ${\displaystyle M}$

${\displaystyle M=B^{\dagger }B}$,

где - сопряженное транспонирование ( или в реальном случае). ${\displaystyle B^{\dagger }}$ ${\displaystyle B}$ ${\displaystyle M=B^{\textsf {T}}B}$

Вот матрица , где – ранг . Различные способы получить такое разложение включают вычисление разложения Холецкого или извлечение неотрицательного квадратного корня из . ${\displaystyle B}$ ${\displaystyle k\times n}$ ${\displaystyle k}$ ${\displaystyle M}$ ${\displaystyle M}$

Столбцы можно рассматривать как n векторов в (или k - мерном евклидовом пространстве , в реальном случае). Затем ${\displaystyle b^{(1)},\dots ,b^{(n)}}$ ${\displaystyle B}$ ${\displaystyle \mathbb {C} ^{k}}$ ${\displaystyle \mathbb {R} ^{k}}$

${\displaystyle M_{ij}=b^{(i)}\cdot b^{(j)}}$

где скалярное произведение — это обычное скалярное произведение на . ${\textstyle a\cdot b=\sum _{\ell =1}^{k}a_{\ell }^{*}b_{\ell }}$ ${\displaystyle \mathbb {C} ^{k}}$

Таким образом, эрмитова матрица является положительно полуопределенной тогда и только тогда, когда она является матрицей Грама некоторых векторов . Такие векторы называются векторной реализацией . Бесконечномерным аналогом этого утверждения является теорема Мерсера . ${\displaystyle M}$ ${\displaystyle b^{(1)},\dots ,b^{(n)}}$ ${\displaystyle M}$

Единственность векторных реализаций

Если — матрица Грама векторов в, то применение любого поворота или отражения (любого ортогонального преобразования , то есть любой евклидовой изометрии, сохраняющей 0) к последовательности векторов приводит к той же матрице Грама. То есть для любой ортогональной матрицы матрица Грама также равна . ${\displaystyle M}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle k\times k}$ ${\displaystyle Q}$ ${\displaystyle Qv_{1},\dots ,Qv_{n}}$ ${\displaystyle M}$

Это единственный способ, которым могут различаться две вещественные векторные реализации: векторы уникальны с точностью до ортогональных преобразований . Другими словами, скалярные произведения и равны тогда и только тогда, когда какое-то жесткое преобразование преобразует векторы в и 0 в 0. ${\displaystyle M}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle v_{i}\cdot v_{j}}$ ${\displaystyle w_{i}\cdot w_{j}}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle w_{1},\dots ,w_{n}}$

То же самое справедливо и в комплексном случае, когда вместо ортогональных преобразований используются унитарные преобразования . То есть, если матрица Грама векторов равна матрице Грама векторов в, то существует унитарная матрица (значение ) такая, что для . ^[3] ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle w_{1},\dots ,w_{n}}$ ${\displaystyle \mathbb {C} ^{k}}$ ${\displaystyle k\times k}$ ${\displaystyle U}$ ${\displaystyle U^{\dagger }U=I}$ ${\displaystyle v_{i}=Uw_{i}}$ ${\displaystyle i=1,\dots ,n}$

Другие объекты недвижимости

• Потому что это обязательно так и добираться. То есть действительная или комплексная матрица Грама также является нормальной матрицей . ${\displaystyle G=G^{\dagger }}$ ${\displaystyle G}$ ${\displaystyle G^{\dagger }}$ ${\displaystyle G}$
• Матрица Грама любого ортонормированного базиса является единичной матрицей. Эквивалентно, матрица Грама строк или столбцов реальной матрицы вращения является единичной матрицей. Аналогично, матрица Грама строк или столбцов унитарной матрицы является единичной матрицей.
• Ранг матрицы Грама векторов равен или равен размерности пространства, охватываемого этими векторами. ^[1] ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle \mathbb {C} ^{k}}$

Определитель Грама

Определитель Грама или Грамиан является определителем матрицы Грама:

$${\displaystyle {\bigl |}G(\{v_{1},\dots ,v_{n}\}){\bigr |}={\begin{vmatrix}\langle v_{1},v_{1}\rangle &\langle v_{1},v_{2}\rangle &\dots &\langle v_{1},v_{n}\rangle \\\langle v_{2},v_{1}\rangle &\langle v_{2},v_{2}\rangle &\dots &\langle v_{2},v_{n}\rangle \\\vdots &\vdots &\ddots &\vdots \\\langle v_{n},v_{1}\rangle &\langle v_{n},v_{2}\rangle &\dots &\langle v_{n},v_{n}\rangle \end{vmatrix}}.}$$

Если - векторы в, то это квадрат n -мерного объема параллелоэдра, образованного векторами. В частности, векторы линейно независимы тогда и только тогда, когда параллелоэдр имеет ненулевой n -мерный объем, тогда и только тогда, когда определитель Грама ненулевой, тогда и только тогда, когда матрица Грама невырождена . Когда n > m, определитель и объем равны нулю. Когда n = m , это сводится к стандартной теореме о том, что абсолютное значение определителя n n -мерных векторов представляет собой n -мерный объем. Определитель Грама также полезен для вычисления объема симплекса, образованного векторами; его объем равен Volume(параллелотопу) / n ! . ${\displaystyle v_{1},\dots ,v_{n}}$ ${\displaystyle \mathbb {R} ^{m}}$

Определитель Грама также можно выразить через внешнее произведение векторов:

${\displaystyle {\bigl |}G(v_{1},\dots ,v_{n}){\bigr |}=\|v_{1}\wedge \cdots \wedge v_{n}\|^{2}.}$

Когда векторы определяются по положениям точек относительно некоторой контрольной точки , ${\displaystyle v_{1},\ldots ,v_{n}\in \mathbb {R} ^{m}}$ ${\displaystyle p_{1},\ldots ,p_{n}}$ ${\displaystyle p_{n+1}}$

$${\displaystyle (v_{1},v_{2},\ldots ,v_{n})=(p_{1}-p_{n+1},p_{2}-p_{n+1},\ldots ,p_{n}-p_{n+1})\,,}$$

тогда определитель Грама можно записать как разность двух определителей Грама:

$${\displaystyle {\bigl |}G(\{v_{1},\dots ,v_{n}\}){\bigr |}={\bigl |}G(\{(p_{1},1),\dots ,(p_{n+1},1)\}){\bigr |}-{\bigl |}G(\{p_{1},\dots ,p_{n+1}\}){\bigr |}\,,}$$

где каждая представляет собой соответствующую точку, дополненную значением координаты 1 для -го измерения. ^{[ нужна цитация ]} Обратите внимание, что в общем случае, когда n = m , второй член в правой части будет равен нулю. ${\displaystyle (p_{j},1)}$ ${\displaystyle p_{j}}$ ${\displaystyle (m+1)}$

Построение ортонормированного базиса

Учитывая набор линейно независимых векторов с матрицей Грама, определенной как , можно построить ортонормированный базис ${\displaystyle \{v_{i}\}}$ ${\displaystyle G}$ ${\displaystyle G_{ij}:=\langle v_{i},v_{j}\rangle }$

${\displaystyle u_{i}:=\sum _{j}{\bigl (}G^{-1/2}{\bigr )}_{ji}v_{j}.}$

В матричной записи , где имеет ортонормированные базисные векторы , а матрица состоит из заданных векторов-столбцов . ${\displaystyle U=VG^{-1/2}}$ ${\displaystyle U}$ ${\displaystyle \{u_{i}\}}$ ${\displaystyle V}$ ${\displaystyle \{v_{i}\}}$

Матрица гарантированно существует. Действительно, является эрмитовой и поэтому может быть разложена как на унитарную, так и на действительную диагональную матрицу. Кроме того, они линейно независимы тогда и только тогда, когда положительно определены, что означает, что диагональные элементы положительны. поэтому однозначно определяется . Можно проверить, что эти новые векторы ортонормированы: ${\displaystyle G^{-1/2}}$ ${\displaystyle G}$ ${\displaystyle G=UDU^{\dagger }}$ ${\displaystyle U}$ ${\displaystyle D}$ ${\displaystyle v_{i}}$ ${\displaystyle G}$ ${\displaystyle D}$ ${\displaystyle G^{-1/2}}$ ${\displaystyle G^{-1/2}:=UD^{-1/2}U^{\dagger }}$

${\displaystyle {\begin{aligned}\langle u_{i},u_{j}\rangle &=\sum _{i'}\sum _{j'}{\Bigl \langle }{\bigl (}G^{-1/2}{\bigr )}_{i'i}v_{i'},{\bigl (}G^{-1/2}{\bigr )}_{j'j}v_{j'}{\Bigr \rangle }\\[10mu]&=\sum _{i'}\sum _{j'}{\bigl (}G^{-1/2}{\bigr )}_{ii'}G_{i'j'}{\bigl (}G^{-1/2}{\bigr )}_{j'j}\\[8mu]&={\bigl (}G^{-1/2}GG^{-1/2}{\bigr )}_{ij}=\delta _{ij}\end{aligned}}}$

где мы использовали . ${\displaystyle {\bigl (}G^{-1/2}{\bigr )}^{\dagger }=G^{-1/2}}$

Смотрите также

• Управляемость Грамиан
• Наблюдаемость Грамиана

Рекомендации

1. Horn & Johnson 2013, с. 441, с.441, Теорема 7.2.10
2. Ланкриет, GRG; Кристианини, Н.; Бартлетт, П.; Гауи, Луизиана; Джордан, Мичиган (2004). «Изучение матрицы ядра с помощью полуопределенного программирования». Журнал исследований машинного обучения . 5 : 27–72 [с. 29].
3. Хорн и Джонсон (2013), с. 452, Теорема 7.3.11.

• Хорн, Роджер А.; Джонсон, Чарльз Р. (2013). Матричный анализ (2-е изд.). Издательство Кембриджского университета . ISBN 978-0-521-54823-6.

Внешние ссылки

• «Матрица Грамма», Математическая энциклопедия , EMS Press , 2001 [1994]
• Тома параллелограммов Фрэнка Джонса