Определенная матрица

Свойство математической матрицы

В математике симметричная матрица с действительными элементами является положительно определенной, если действительное число положительно для каждого ненулевого действительного вектора-столбца, где — транспонированный вектор -строка ^[1]. В более общем смысле, эрмитова матрица (то есть комплексная матрица, равная своему сопряженному транспонированному элементу ) является положительно определенной , если действительное число положительно для каждого ненулевого комплексного вектора-столбца , где обозначает сопряженный транспонированный элемент ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {x} ^{\top }M\mathbf {x} \ }$ ${\displaystyle \ \mathbf {x} \ ,}$ ${\displaystyle \ \mathbf {x} ^{\top }\ }$ ${\displaystyle \ \mathbf {x} ~.}$ ${\displaystyle \ \mathbf {z} ^{*}M\mathbf {z} \ }$ ${\displaystyle \ \mathbf {z} \ ,}$ ${\displaystyle \ \mathbf {z} ^{*}\ }$ ${\displaystyle \ \mathbf {z} ~.}$

Положительно-полуопределенные матрицы определяются аналогично, за исключением того, что скаляры и должны быть положительными или нулевыми (то есть неотрицательными). Отрицательно-определенные и отрицательно-полуопределенные матрицы определяются аналогично. Матрица, которая не является положительно-полуопределенной и не является отрицательно-полуопределенной, иногда называется неопределенной . ${\displaystyle \ \mathbf {x} ^{\top }M\mathbf {x} \ }$ ${\displaystyle \ \mathbf {z} ^{*}M\mathbf {z} \ }$

Последствия

Из приведенных выше определений следует, что матрица положительно определена тогда и только тогда, когда она является матрицей положительно определенной квадратичной формы или эрмитовой формы . Другими словами, матрица положительно определена тогда и только тогда, когда она определяет скалярное произведение .

Положительно-определенные и положительно-полуопределенные матрицы можно характеризовать многими способами, что может объяснить важность этого понятия в различных разделах математики. Матрица M является положительно-определенной тогда и только тогда, когда она удовлетворяет любому из следующих эквивалентных условий.

• ${\displaystyle \ M\ }$конгруэнтна диагональной матрице с положительными действительными элементами .
• ${\displaystyle \ M\ }$является симметричным или эрмитовым, и все его собственные значения действительны и положительны.
• ${\displaystyle \ M\ }$является симметричным или эрмитовым, и все его ведущие главные миноры положительны.
• Существует обратимая матрица с сопряженным транспонированием такая, что ${\displaystyle \ B\ }$ ${\displaystyle \ B^{*}\ }$ ${\displaystyle \ M=B^{*}B~.}$

Матрица является положительно полуопределенной, если она удовлетворяет аналогичным эквивалентным условиям, где «положительная» заменяется на «неотрицательная», «обратимая матрица» заменяется на «матрица», а слово «ведущая» удаляется.

Положительно-определенные и положительно-полуопределенные действительные матрицы лежат в основе выпуклой оптимизации , поскольку, если задана функция многих действительных переменных , которая дважды дифференцируема , то если ее матрица Гессе (матрица ее вторых частных производных) положительно определена в точке, то функция выпукла вблизи точки p , и, наоборот, если функция выпукла вблизи точки , то матрица Гессе положительно-полуопределена в точке ${\displaystyle \ p\ ,}$ ${\displaystyle \ p\ ,}$ ${\displaystyle \ p~.}$

Множество положительно определенных матриц представляет собой открытый выпуклый конус , тогда как множество положительно полуопределенных матриц представляет собой замкнутый выпуклый конус. ^[2]

Некоторые авторы используют более общие определения определенности, включая некоторые несимметричные действительные матрицы или неэрмитовы комплексные матрицы.

Определения

В следующих определениях — транспонирование — сопряженное транспонирование и обозначает n - мерный нулевой вектор. ${\displaystyle \ \mathbf {x} ^{\top }\ }$ ${\displaystyle \ \mathbf {x} \ ,}$ ${\displaystyle \ \mathbf {z} ^{*}\ }$ ${\displaystyle \ \mathbf {z} \ ,}$ ${\displaystyle \ \mathbf {0} \ }$

Определения для действительных матриц

Симметричная вещественная матрица называется положительно определенной, если для всех ненулевых матриц Формально , ${\displaystyle n\times n}$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {x} ^{\top }M\ \mathbf {x} >0\ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ \mathbb {R} ^{n}~.}$

${\displaystyle \ M{\text{ positive-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} >0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}\setminus \{\mathbf {0} \}\ }$

Симметричная вещественная матрица называется положительно-полуопределенной или неотрицательно-определенной, если для всех Формально , ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {x} ^{\top }M\ \mathbf {x} \geq 0\ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ \mathbb {R} ^{n}~.}$

${\displaystyle \ M{\text{ positive semi-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} \geq 0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}\ }$

Симметричная вещественная матрица называется отрицательно определенной, если для всех ненулевых матриц Формально , ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {x} ^{\top }M\ \mathbf {x} <0\ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ \mathbb {R} ^{n}~.}$

${\displaystyle \ M{\text{ negative-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} <0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}\setminus \{\mathbf {0} \}\ }$

Симметричная действительная матрица называется отрицательно-полуопределенной или неположительно-определенной, если для всех Формально , ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {x} ^{\top }M\ \mathbf {x} \leq 0\ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ \mathbb {R} ^{n}~.}$

${\displaystyle M{\text{ negative semi-definite}}\quad \iff \quad \mathbf {x} ^{\top }M\ \mathbf {x} \leq 0{\text{ for all }}\mathbf {x} \in \mathbb {R} ^{n}}$

Симметричная действительная матрица, которая не является ни положительно полуопределенной, ни отрицательно полуопределенной, называется неопределенной . ${\displaystyle n\times n}$

Определения комплексных матриц

Все следующие определения включают в себя термин Обратите внимание, что это всегда действительное число для любой эрмитовой квадратной матрицы ${\displaystyle \ \mathbf {z} ^{*}M\ \mathbf {z} ~.}$ ${\displaystyle \ M~.}$

Эрмитова комплексная матрица называется положительно определенной, если для всех ненулевых в Формально, ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {z} ^{*}M\ \mathbf {z} >0\ }$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ \mathbb {C} ^{n}~.}$

${\displaystyle \ M{\text{ positive-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} >0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\setminus \{\mathbf {0} \}\ }$

Эрмитова комплексная матрица называется положительно полуопределенной или неотрицательно определенной, если для всех из Формально, ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {z} ^{*}M\ \mathbf {z} \geq 0\ }$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ \mathbb {C} ^{n}~.}$

${\displaystyle \ M{\text{ positive semi-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} \geq 0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\ }$

Эрмитова комплексная матрица называется отрицательно определенной, если для всех ненулевых матриц Формально , ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {z} ^{*}M\ \mathbf {z} <0\ }$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ \mathbb {C} ^{n}~.}$

${\displaystyle \ M{\text{ negative-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} <0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\setminus \{\mathbf {0} \}\ }$

Эрмитова комплексная матрица называется отрицательно полуопределенной или неположительно определенной, если для всех из Формально, ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {z} ^{*}M\ \mathbf {z} \leq 0\ }$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ \mathbb {C} ^{n}~.}$

${\displaystyle \ M{\text{ negative semi-definite}}\quad \iff \quad \mathbf {z} ^{*}M\ \mathbf {z} \leq 0{\text{ for all }}\mathbf {z} \in \mathbb {C} ^{n}\ }$

Эрмитова комплексная матрица, которая не является ни положительно полуопределенной, ни отрицательно полуопределенной, называется неопределенной . ${\displaystyle \ n\times n\ }$

Согласованность между реальными и сложными определениями

Поскольку каждая действительная матрица также является комплексной матрицей, определения «определенности» для двух классов должны совпадать.

Для комплексных матриц наиболее общее определение гласит, что является положительно определенной тогда и только тогда, когда является действительной и положительной для каждого ненулевого комплексного вектора-столбца. Это условие подразумевает, что является эрмитовой (т.е. ее транспонированная матрица равна своей сопряженной), поскольку , будучи действительной, она равна своей сопряженной транспонированной матрице для каждого , что подразумевает ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {z} ^{*}M\ \mathbf {z} \ }$ ${\displaystyle \mathbf {z} ~.}$ ${\displaystyle M}$ ${\displaystyle \mathbf {z} ^{*}M\ \mathbf {z} }$ ${\displaystyle \ \mathbf {z} ^{*}\ M^{*}\ \mathbf {z} \ }$ ${\displaystyle \ \mathbf {z} \ ,}$ ${\displaystyle \ M=M^{*}~.}$

По этому определению положительно определенная вещественная матрица является эрмитовой, следовательно, симметричной; и положительна для всех ненулевых вещественных векторов-столбцов. Однако одного последнего условия недостаточно, чтобы быть положительно определенной. Например, если ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {z} ^{\top }M\ \mathbf {z} \ }$ ${\displaystyle \ \mathbf {z} ~.}$ ${\displaystyle \ M\ }$ $${\displaystyle \ M={\begin{bmatrix}~1~&~1~\\-1~&~1~\end{bmatrix}},}$$

тогда для любого действительного вектора с элементами и мы имеем который всегда положителен, если не равен нулю. Однако, если это комплексный вектор с элементами 1 и получаем ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ a\ }$ ${\displaystyle \ b\ }$ ${\displaystyle \ \mathbf {z} ^{\top }M\ \mathbf {z} =\left(a+b\right)a+\left(-a+b\right)b=a^{2}+b^{2}\ ,}$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ i\ ,}$

$${\displaystyle \mathbf {z} ^{*}M\ \mathbf {z} ={\begin{bmatrix}~1~&-i~\end{bmatrix}}\ M\ {\begin{bmatrix}~1~\\~i~\end{bmatrix}}={\begin{bmatrix}~1+i~&~1-i~\end{bmatrix}}\ {\begin{bmatrix}~1~\\~i~\end{bmatrix}}=2+2i~.}$$

что не является реальным. Следовательно, не является положительно-определенным. ${\displaystyle \ M\ }$

С другой стороны, для симметричной действительной матрицы условие « для всех ненулевых действительных векторов» подразумевает , что она положительно определена в комплексном смысле. ${\displaystyle \ M\ ,}$ ${\displaystyle \ \mathbf {z} ^{\top }M\ \mathbf {z} >0\ }$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ M\ }$

Обозначение

Если эрмитова матрица положительно полуопределена, то иногда пишут , а если положительно определена, то пишут , чтобы обозначить , что матрица отрицательно полуопределена, то пишут , а чтобы обозначить , что матрица отрицательно определена, то пишут ${\displaystyle \ M\ }$ ${\displaystyle \ M\succeq 0\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ M\succ 0~.}$ ${\displaystyle \ M\ }$ ${\displaystyle \ M\preceq 0\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ M\prec 0~.}$

Понятие пришло из функционального анализа , где положительные полуопределенные матрицы определяют положительные операторы . Если две матрицы и удовлетворяют, мы можем определить нестрогий частичный порядок , который является рефлексивным , антисимметричным и транзитивным ; Это не полный порядок , однако, как и в общем случае, может быть неопределенным. ${\displaystyle \ A\ }$ ${\displaystyle \ B\ }$ ${\displaystyle \ B-A\succeq 0\ ,}$ ${\displaystyle \ B\succeq A\ }$ ${\displaystyle \ B-A\ ,}$

Распространенной альтернативной записью является и для положительно полуопределенных и положительно определенных, отрицательно полуопределенных и отрицательно определенных матриц соответственно. Это может сбивать с толку, так как иногда неотрицательные матрицы (соответственно, неположительные матрицы) также обозначаются таким образом. ${\displaystyle \ M\geq 0\ ,}$ ${\displaystyle \ M>0\ ,}$ ${\displaystyle \ M\leq 0\ ,}$ ${\displaystyle \ M<0\ }$

Примеры

• Матрица тождества положительно определена (и, как таковая, также положительно полуопределена). Это действительная симметричная матрица, и для любого ненулевого вектора-столбца z с действительными элементами a и b имеем ${\displaystyle I={\begin{bmatrix}1&0\\0&1\end{bmatrix}}}$

  $${\displaystyle \mathbf {z} ^{\top }I\mathbf {z} ={\begin{bmatrix}a&b\end{bmatrix}}{\begin{bmatrix}1&0\\0&1\end{bmatrix}}{\begin{bmatrix}a\\b\end{bmatrix}}=a^{2}+b^{2}.}$$Рассматривая ее как комплексную матрицу, для любого ненулевого вектора-столбца z с комплексными элементами a и b имеем $${\displaystyle \mathbf {z} ^{*}I\mathbf {z} ={\begin{bmatrix}{\overline {a}}&{\overline {b}}\end{bmatrix}}{\begin{bmatrix}1&0\\0&1\end{bmatrix}}{\begin{bmatrix}a\\b\end{bmatrix}}={\overline {a}}a+{\overline {b}}b=|a|^{2}+|b|^{2}.}$$

  В любом случае результат положительный, поскольку не является нулевым вектором (то есть, по крайней мере, один из и не является нулевым). ${\displaystyle \mathbf {z} }$ ${\displaystyle a}$ ${\displaystyle b}$
• Действительная симметричная матрица является положительно определенной, поскольку для любого ненулевого вектора-столбца z с элементами a , b и c имеем Этот результат представляет собой сумму квадратов и, следовательно, неотрицателен; и равен нулю только тогда , когда — нулевой вектор. $${\displaystyle M={\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-1&2\end{bmatrix}}}$$ $${\displaystyle {\begin{aligned}\mathbf {z} ^{\top }M\mathbf {z} =\left(\mathbf {z} ^{\top }M\right)\mathbf {z} &={\begin{bmatrix}(2a-b)&(-a+2b-c)&(-b+2c)\end{bmatrix}}{\begin{bmatrix}a\\b\\c\end{bmatrix}}\\&=(2a-b)a+(-a+2b-c)b+(-b+2c)c\\&=2a^{2}-ba-ab+2b^{2}-cb-bc+2c^{2}\\&=2a^{2}-2ab+2b^{2}-2bc+2c^{2}\\&=a^{2}+a^{2}-2ab+b^{2}+b^{2}-2bc+c^{2}+c^{2}\\&=a^{2}+(a-b)^{2}+(b-c)^{2}+c^{2}\end{aligned}}}$$ ${\displaystyle \ a=b=c=0\ ,}$ ${\displaystyle \ \mathbf {z} \ }$
• Для любой действительной обратимой матрицы произведение является положительно определенной матрицей (если средние значения столбцов матрицы A равны 0, то это также называется ковариационной матрицей ). Простое доказательство состоит в том, что для любого ненулевого вектора условие , поскольку обратимость матрицы означает, что ${\displaystyle \ A\ ,}$ ${\displaystyle \ A^{\top }A\ }$ ${\displaystyle \ \mathbf {z} \ ,}$ ${\displaystyle \ \mathbf {z} ^{\top }A^{\top }A\mathbf {z} =(A\mathbf {z} )^{\top }(A\mathbf {z} )=\|A\mathbf {z} \|^{2}>0\ ,}$ ${\displaystyle A}$ ${\displaystyle A\mathbf {z} \neq 0~.}$
• Пример выше показывает, что матрица, в которой некоторые элементы отрицательны, может быть положительно определенной. Наоборот, матрица, все элементы которой положительны, не обязательно положительно определена, как, например, для которой ${\displaystyle M}$ $${\displaystyle \ N={\begin{bmatrix}1&2\\2&1\end{bmatrix}}\ ,}$$ ${\displaystyle {\begin{bmatrix}-1&1\end{bmatrix}}N{\begin{bmatrix}-1&1\end{bmatrix}}^{\top }=-2<0~.}$

Собственные значения

Пусть — эрмитова матрица (сюда входят и действительные симметричные матрицы ). Все собственные значения действительны, а их знак характеризует ее определенность: ${\displaystyle M}$ ${\displaystyle n\times n}$ ${\displaystyle M}$

• ${\displaystyle M}$положительно определена тогда и только тогда, когда все ее собственные значения положительны.
• ${\displaystyle M}$является положительно полуопределенной тогда и только тогда, когда все ее собственные значения неотрицательны.
• ${\displaystyle M}$является отрицательно определенной тогда и только тогда, когда все ее собственные значения отрицательны
• ${\displaystyle M}$является отрицательно полуопределенной тогда и только тогда, когда все ее собственные значения неположительны.
• ${\displaystyle M}$является неопределенным тогда и только тогда, когда он имеет как положительные, так и отрицательные собственные значения.

Пусть будет собственным разложением , где — унитарная комплексная матрица , столбцы которой образуют ортонормированный базис собственных векторов , а — вещественная диагональная матрица , главная диагональ которой содержит соответствующие собственные значения . Матрицу можно рассматривать как диагональную матрицу , которая была перевыражена в координатах базиса (собственных векторов) Иными словами, применение к некоторому вектору дает то же самое, что и изменение базиса на систему координат собственного вектора с помощью дает применение преобразования растяжения к результату, дает и затем изменение базиса обратно с помощью дает ${\displaystyle \ PDP^{-1}\ }$ ${\displaystyle \ M\ ,}$ ${\displaystyle \ P\ }$ ${\displaystyle \ M\ ,}$ ${\displaystyle \ D\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ D\ }$ ${\displaystyle \ P~.}$ ${\displaystyle M}$ ${\displaystyle \ \mathbf {z} \ ,}$ ${\displaystyle \ M\mathbf {z} \ ,}$ ${\displaystyle \ P^{-1}\ ,}$ ${\displaystyle \ P^{-1}\mathbf {z} \ ,}$ ${\displaystyle \ D\ }$ ${\displaystyle \ DP^{-1}\mathbf {z} \ ,}$ ${\displaystyle \ P\ ,}$ ${\displaystyle \ PDP^{-1}\mathbf {z} ~.}$

Имея это в виду, однозначная замена переменной показывает, что является действительным и положительным для любого комплексного вектора тогда и только тогда, когда является действительным и положительным для любого, другими словами, если является положительно определенным. Для диагональной матрицы это верно только в том случае, если каждый элемент главной диагонали – то есть каждое собственное значение – является положительным. Поскольку спектральная теорема гарантирует, что все собственные значения эрмитовой матрицы являются действительными, положительность собственных значений можно проверить с помощью правила Декарта чередования знаков , когда доступен характеристический многочлен действительной симметричной матрицы . ${\displaystyle \ \mathbf {y} =P\mathbf {z} \ }$ ${\displaystyle \ \mathbf {z} ^{*}M\mathbf {z} \ }$ ${\displaystyle \ \mathbf {z} \ }$ ${\displaystyle \ \mathbf {y} ^{*}D\mathbf {y} \ }$ ${\displaystyle \ y\ ;}$ ${\displaystyle \ D\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ M\ }$

Разложение

Пусть — эрмитова матрица . Она положительно полуопределена тогда и только тогда, когда ее можно разложить в произведение матрицы на ее сопряженную транспонированную матрицу . ${\displaystyle \ M\ }$ ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ $${\displaystyle \ M=B^{*}B\ }$$ ${\displaystyle \ B\ }$

Когда является действительным, может быть также действительным и разложение может быть записано как ${\displaystyle \ M\ }$ ${\displaystyle \ B\ }$ $${\displaystyle \ M=B^{\top }B~.}$$

${\displaystyle M}$положительно определена тогда и только тогда, когда существует такое разложение с обратимым . В более общем смысле, положительно полуопределена с рангом тогда и только тогда, когда существует разложение с матрицей полного ранга строки (т.е. ранга ). Более того, для любого разложения ^[3] ${\displaystyle \ B\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ k\ }$ ${\displaystyle \ k\times n\ }$ ${\displaystyle \ B\ }$ ${\displaystyle \ k\ }$ ${\displaystyle \ M=B^{*}B\ ,}$ ${\displaystyle \ \operatorname {rank} (M)=\operatorname {rank} (B)~.}$

Доказательство

Если то so положительно полуопределен. Если более того обратим, то неравенство строгое, так как so положительно определен. Если имеет ранг , то ${\displaystyle \ M=B^{*}B\ ,}$ ${\displaystyle \ x^{*}Mx=(x^{*}B^{*})(Bx)=\|Bx\|^{2}\geq 0\ ,}$ ${\displaystyle \ M\ }$ ${\displaystyle B}$ ${\displaystyle \ x\neq 0\ ,}$ ${\displaystyle M}$ ${\displaystyle B}$ ${\displaystyle k\times n}$ ${\displaystyle \ k\ ,}$ ${\displaystyle \ \operatorname {rank} (M)=\operatorname {rank} (B^{*})=k~.}$

В другом направлении, предположим, что является положительно полуопределенной. Так как является эрмитовой, она имеет собственное разложение , где является унитарным и является диагональной матрицей, элементы которой являются собственными значениями Поскольку является положительно полуопределенной, собственные значения являются неотрицательными действительными числами, поэтому можно определить как диагональную матрицу, элементы которой являются неотрицательными квадратными корнями собственных значений. Тогда для Если к тому же является положительно определенной, то собственные значения (строго) положительны, поэтому является обратимой, и, следовательно, также является обратимой. Если имеет ранг, то она имеет точно положительные собственные значения, а остальные равны нулю, следовательно, во всех, кроме строк, все обнуляются. Обрезание нулевых строк дает матрицу , такую ​​что ${\displaystyle \ M\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ M=Q^{-1}DQ\ }$ ${\displaystyle \ Q\ }$ ${\displaystyle \ D\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ D^{\frac {1}{2}}\ }$ ${\displaystyle \ M=Q^{-1}DQ=Q^{*}DQ=Q^{*}D^{\frac {1}{2}}D^{\frac {1}{2}}Q=Q^{*}D^{{\frac {1}{2}}*}D^{\frac {1}{2}}Q=B^{*}B\ }$ ${\displaystyle \ B=D^{\frac {1}{2}}Q~.}$ ${\displaystyle M}$ ${\displaystyle \ D^{\frac {1}{2}}\ }$ ${\displaystyle \ B=D^{\frac {1}{2}}Q\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ k\ ,}$ ${\displaystyle k}$ ${\displaystyle \ B=D^{\frac {1}{2}}Q\ }$ ${\displaystyle k}$ ${\displaystyle \ k\times n\ }$ ${\displaystyle \ B'\ }$ ${\displaystyle \ B'^{*}B'=B^{*}B=M~.}$

Столбцы можно рассматривать как векторы в комплексном или действительном векторном пространстве соответственно. Тогда элементы являются внутренними произведениями (то есть скалярными произведениями в действительном случае) этих векторов Другими словами, эрмитова матрица положительно полуопределена тогда и только тогда, когда она является матрицей Грама некоторых векторов Она положительно определена тогда и только тогда, когда она является матрицей Грама некоторых линейно независимых векторов. В общем случае ранг матрицы Грама векторов равен размерности пространства, охватываемого этими векторами. ^[4] ${\displaystyle \ b_{1},\dots ,b_{n}\ }$ ${\displaystyle \ B\ }$ ${\displaystyle \ \mathbb {R} ^{k}\ ,}$ ${\displaystyle M}$ $${\displaystyle \ M_{ij}=\langle b_{i},b_{j}\rangle ~.}$$ ${\displaystyle \ M\ }$ ${\displaystyle \ b_{1},\dots ,b_{n}~.}$ ${\displaystyle \ b_{1},\dots ,b_{n}\ }$

Единственность с точностью до унитарных преобразований

Разложение не является единственным: если для некоторой матрицы и если — любая унитарная матрица (имеется в виду ), то для ${\displaystyle \ M=B^{*}B\ }$ ${\displaystyle \ k\times n\ }$ ${\displaystyle \ B\ }$ ${\displaystyle \ Q\ }$ ${\displaystyle k\times k}$ ${\displaystyle \ Q^{*}Q=QQ^{*}=I\ }$ ${\displaystyle \ M=B^{*}B=B^{*}Q^{*}QB=A^{*}A\ }$ ${\displaystyle \ A=QB~.}$

Однако это единственный способ, которым два разложения могут различаться: Разложение уникально с точностью до унитарных преобразований . Более формально, если — матрица и — матрица такая, что тогда существует матрица с ортонормированными столбцами (значение ), такая, что ^[5] Когда это означает — унитарно . ${\displaystyle \ A\ }$ ${\displaystyle \ k\times n\ }$ ${\displaystyle \ B\ }$ ${\displaystyle \ \ell \times n\ }$ ${\displaystyle \ A^{*}A=B^{*}B\ ,}$ ${\displaystyle \ \ell \times k\ }$ ${\displaystyle Q}$ ${\displaystyle \ Q^{*}Q=I_{k\times k}\ }$ ${\displaystyle \ B=QA~.}$ ${\displaystyle \ell =k}$ ${\displaystyle Q}$

Это утверждение имеет интуитивную геометрическую интерпретацию в вещественном случае: пусть столбцы и будут векторами и в Действительная унитарная матрица является ортогональной матрицей , которая описывает жесткое преобразование (изометрию евклидова пространства ), сохраняющее точку 0 (т.е. вращения и отражения , без переносов). Следовательно, скалярные произведения и равны тогда и только тогда, когда некоторое жесткое преобразование преобразует векторы в (и 0 в 0). ${\displaystyle A}$ ${\displaystyle B}$ ${\displaystyle a_{1},\dots ,a_{n}}$ ${\displaystyle \ b_{1},\dots ,b_{n}\ }$ ${\displaystyle \ \mathbb {R} ^{k}~.}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle a_{i}\cdot a_{j}}$ ${\displaystyle b_{i}\cdot b_{j}}$ ${\displaystyle \mathbb {R} ^{k}}$ ${\displaystyle a_{1},\dots ,a_{n}}$ ${\displaystyle b_{1},\dots ,b_{n}}$

Квадратный корень

Эрмитова матрица положительно полуопределена тогда и только тогда, когда существует положительно полуопределенная матрица (в частности , эрмитова, поэтому ), удовлетворяющая Эта матрица уникальна, ^[6] называется неотрицательным квадратным корнем из и обозначается Когда является положительно определенной, поэтому является , поэтому она также называется положительным квадратным корнем из ${\displaystyle \ M\ }$ ${\displaystyle \ B\ }$ ${\displaystyle \ B\ }$ ${\displaystyle \ B^{*}=B\ }$ ${\displaystyle \ M=BB~.}$ ${\displaystyle \ B\ }$ ${\displaystyle \ M\ ,}$ ${\displaystyle \ B=M^{\frac {1}{2}}~.}$ ${\displaystyle M}$ ${\displaystyle \ M^{\frac {1}{2}}\ ,}$ ${\displaystyle \ M~.}$

Неотрицательный квадратный корень не следует путать с другими разложениями. Некоторые авторы используют название квадратный корень для любого такого разложения, или в частности для разложения Холецкого , или любого разложения вида; другие используют его только для неотрицательного квадратного корня. ${\displaystyle \ M=B^{*}B~.}$ ${\displaystyle M^{\frac {1}{2}}}$ ${\displaystyle \ M=BB\ ;}$

Если тогда ${\displaystyle \ M\succ N\succ 0\ }$ ${\displaystyle \ M^{\frac {1}{2}}\succ N^{\frac {1}{2}}\succ 0~.}$

Разложение Холецкого

Эрмитову положительно полуопределенную матрицу можно записать как , где — нижняя треугольная с неотрицательной диагональю (эквивалентно , где — верхняя треугольная ); это разложение Холецкого . Если — положительно определенная, то диагональ положительна и разложение Холецкого уникально. Наоборот, если — нижняя треугольная с неотрицательной диагональю , то — положительно полуопределенная. Разложение Холецкого особенно полезно для эффективных численных вычислений. Близким разложением является разложение ЛПН , где — диагональная и — нижняя унитреугольная . ${\displaystyle \ M\ }$ ${\displaystyle \ M=LL^{*}\ ,}$ ${\displaystyle \ L\ }$ ${\displaystyle M=B^{*}B}$ ${\displaystyle \ B=L^{*}\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ L\ }$ ${\displaystyle \ L\ }$ ${\displaystyle \ LL^{*}\ }$ ${\displaystyle \ M=LDL^{*}\ ,}$ ${\displaystyle D}$ ${\displaystyle \ L\ }$

Теорема Уильямсона

Любая положительно определенная эрмитова вещественная матрица может быть диагонализирована с помощью симплектических (вещественных) матриц. Точнее, теорема Уильямсона гарантирует существование симплектических и диагональных вещественных положительных матриц, таких что . ${\displaystyle 2n\times 2n}$ ${\displaystyle M}$ ${\displaystyle S\in \mathbf {Sp} (2n,\mathbb {R} )}$ ${\displaystyle D\in \mathbb {R} ^{n\times n}}$ ${\displaystyle SMS^{T}=D\oplus D}$

Другие характеристики

Пусть будет действительной симметричной матрицей , и пусть будет «единичным шаром», определяемым формулой Тогда мы имеем следующее ${\displaystyle \ M\ }$ ${\displaystyle \ n\times n\ }$ ${\displaystyle \ B_{1}(M)\equiv \{\mathbf {x} \in \mathbb {R} ^{n}:\mathbf {x} ^{\top }M\ \mathbf {x} \leq 1\}\ }$ ${\displaystyle \ M~.}$

• ${\displaystyle \ B_{1}(\mathbf {v} \ \mathbf {v} ^{\top })}$представляет собой сплошную плиту, зажатую между ${\displaystyle \ \pm \{\mathbf {w} :\langle \mathbf {w} ,\mathbf {v} \rangle =1\}~.}$
• ${\displaystyle \ M\succeq 0\ }$тогда и только тогда, когда является эллипсоидом или эллипсоидальным цилиндром. ${\displaystyle \ B_{1}(M)\ }$
• ${\displaystyle \ M\succ 0\ }$тогда и только тогда , когда ограничен, то есть является эллипсоидом. ${\displaystyle \ B_{1}(M)\ }$
• Если тогда и только тогда, если и только тогда, если ${\displaystyle \ N\succ 0\ ,}$ ${\displaystyle \ M\succeq N\ }$ ${\displaystyle \ B_{1}(M)\subseteq B_{1}(N)\ ;}$ ${\displaystyle \ M\succ N\ }$ ${\displaystyle \ B_{1}(M)\subseteq \operatorname {int} \!{\bigl (}\ B_{1}(N)\ {\bigr )}~.}$
• Если тогда для всех тогда и только тогда, когда Итак, поскольку полярный двойственный эллипсоиду также является эллипсоидом с теми же главными осями и обратными длинами, то имеем То есть, если положительно определен, то для всех тогда и только тогда, когда ${\displaystyle \ N\succ 0\ ,}$ ${\displaystyle \ M\succeq {\frac {\mathbf {v} \ \mathbf {v} ^{\top }}{\ \mathbf {v} ^{\top }N\ \mathbf {v} \ }}\ }$ ${\displaystyle v\neq 0}$ ${\textstyle \ B_{1}(M)\subset \bigcap _{\mathbf {v} ^{\top }N\ \mathbf {v} =1}B_{1}(\mathbf {v} \mathbf {v} ^{\top })~.}$ $${\displaystyle \ B_{1}(N^{-1})=\bigcap _{\mathbf {v} ^{\top }N\ \mathbf {v} =1}B_{1}(\mathbf {v} \ \mathbf {v} ^{\top })=\bigcap _{\mathbf {v} ^{\top }N\ \mathbf {v} =1}\{\mathbf {w} :|\langle \mathbf {w} ,\mathbf {v} \rangle |\leq 1\}~.}$$ ${\displaystyle \ N\ }$ ${\displaystyle \ M\succeq {\frac {\mathbf {v} \mathbf {v} ^{\top }}{\ \mathbf {v} ^{\top }N\ \mathbf {v} \ }}\ }$ ${\displaystyle \ \mathbf {v} \neq \mathbf {0} \ }$ ${\displaystyle \ M\succeq N^{-1}~.}$

Пусть — эрмитова матрица . Следующие свойства эквивалентны положительной определенности: ${\displaystyle M}$ ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$

Соответствующая полуторалинейная форма является внутренним произведением

Полуторалинейная форма , определяемая как , является функцией от до , такой что для всех и в , где — сопряженное транспонирование Для любой комплексной матрицы эта форма линейна по и полулинейна по Следовательно, форма является скалярным произведением на тогда и только тогда, когда является вещественной и положительной для всех ненулевых , то есть тогда и только тогда, когда является положительно определенной. (На самом деле, каждое скалярное произведение на возникает таким образом из эрмитовой положительно определенной матрицы.) ${\displaystyle M}$ ${\displaystyle \ \langle \cdot ,\cdot \rangle \ }$ ${\displaystyle \ \mathbb {C} ^{n}\times \mathbb {C} ^{n}\ }$ ${\displaystyle \ \mathbb {C} ^{n}\ }$ ${\displaystyle \ \langle \mathbf {x} ,\mathbf {y} \rangle \equiv \mathbf {y} ^{*}M\ \mathbf {x} \ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ \mathbf {y} \ }$ ${\displaystyle \ \mathbb {C} ^{n}\ ,}$ ${\displaystyle \ \mathbf {y} ^{*}\ }$ ${\displaystyle \ \mathbf {y} ~.}$ ${\displaystyle \ M\ ,}$ ${\displaystyle x}$ ${\displaystyle \ \mathbf {y} ~.}$ ${\displaystyle \ \mathbb {C} ^{n}\ }$ ${\displaystyle \ \langle \mathbf {z} ,\mathbf {z} \rangle \ }$ ${\displaystyle \ \mathbf {z} \ ;}$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbb {C} ^{n}\ }$

Все его главные главные второстепенные мелодии положительны

k - й ведущий главный минор матрицы является определителем ее верхней левой подматрицы. Оказывается, матрица положительно определена тогда и только тогда, когда все эти определители положительны. Это условие известно как критерий Сильвестра и обеспечивает эффективную проверку положительной определенности симметричной вещественной матрицы. А именно, матрица сводится к верхней треугольной матрице с помощью элементарных строчных операций , как в первой части метода исключения Гаусса , заботясь о сохранении знака ее определителя во время процесса поворота . Поскольку k -й ведущий главный минор треугольной матрицы является произведением ее диагональных элементов до строки, критерий Сильвестра эквивалентен проверке того, являются ли все ее диагональные элементы положительными. Это условие можно проверять каждый раз, когда получается новая строка треугольной матрицы. ${\displaystyle \ M\ }$ ${\displaystyle \ k\times k\ }$ ${\displaystyle \ k\ ,}$ ${\displaystyle \ k\ }$

Положительно полуопределенная матрица положительно определена тогда и только тогда, когда она обратима . ^[7] Матрица отрицательно (полу)определена тогда и только тогда, когда она положительно (полу)определена. ${\displaystyle \ M\ }$ ${\displaystyle \ -M\ }$

Квадратичные формы

(Чисто) квадратичная форма, связанная с действительной матрицей , — это функция , которую для всех можно считать симметричной, заменив ее на , поскольку любая асимметричная часть будет обнулена в двустороннем произведении. ${\displaystyle \ n\times n\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ Q:\mathbb {R} ^{n}\to \mathbb {R} \ }$ ${\displaystyle \ Q(\mathbf {x} )=\mathbf {x} ^{\top }M\mathbf {x} \ }$ ${\displaystyle \ \mathbf {x} ~.}$ ${\displaystyle \ M\ }$ ${\displaystyle \ {\tfrac {1}{2}}\left(M+M^{\top }\right)\ ,}$

Симметричная матрица положительно определена тогда и только тогда, когда ее квадратичная форма является строго выпуклой функцией . ${\displaystyle \ M\ }$

В более общем случае любая квадратичная функция от до может быть записана как где — симметричная матрица, — действительный вектор n , а — действительная константа. В этом случае это парабола, и, как и в случае, мы имеем ${\displaystyle \ \mathbb {R} ^{n}\ }$ ${\displaystyle \mathbb {R} }$ ${\displaystyle \ \mathbf {x} ^{\top }M\mathbf {x} +\mathbf {b} ^{\top }\mathbf {x} +c\ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ n\times n\ }$ ${\displaystyle \ \mathbf {b} \ }$ ${\displaystyle \ c\ }$ ${\displaystyle \ n=1\ }$ ${\displaystyle \ n=1\ }$

Теорема: Эта квадратичная функция строго выпукла и, следовательно, имеет единственный конечный глобальный минимум тогда и только тогда, когда она положительно определена. ${\displaystyle \ M\ }$

Доказательство: Если положительно определена, то функция строго выпукла. Ее градиент равен нулю в единственной точке, которая должна быть глобальным минимумом, поскольку функция строго выпукла. Если не положительно определена, то существует некоторый вектор такой, что функция является прямой или нисходящей параболой, то есть не строго выпуклой и не имеющей глобального минимума. ${\displaystyle \ M\ }$ ${\displaystyle \ M^{-1}\mathbf {b} \ ,}$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {v} \ }$ ${\displaystyle \ \mathbf {v} ^{\top }M\mathbf {v} \leq 0\ ,}$ ${\displaystyle \ f(t)\equiv (t\mathbf {v} )^{\top }M(t\mathbf {v} )+b^{\top }(t\mathbf {v} )+c\ }$

По этой причине положительно определенные матрицы играют важную роль в задачах оптимизации .

Одновременная диагонализация

Одну симметричную матрицу и другую матрицу, которая является как симметричной, так и положительно определенной, можно одновременно диагонализировать . Это так, хотя одновременная диагонализация не обязательно выполняется с преобразованием подобия . Этот результат не распространяется на случай трех и более матриц. В этом разделе мы пишем для действительного случая. Расширение на комплексный случай происходит немедленно.

Пусть будет симметричной и симметричной и положительно определенной матрицей. Запишем обобщенное уравнение собственных значений как , где мы накладываем , что будет нормализовано, т.е. Теперь мы используем разложение Холецкого , чтобы записать обратное как Умножая на и позволяя мы получаем что можно переписать как где Теперь манипуляция дает где — матрица, имеющая в качестве столбцов обобщенные собственные векторы и — диагональная матрица обобщенных собственных значений. Теперь предварительное умножение с дает окончательный результат: и но обратите внимание, что это больше не ортогональная диагонализация относительно внутреннего произведения , где На самом деле мы диагонализировали относительно внутреннего произведения, индуцированного ^[8] ${\displaystyle \ M\ }$ ${\displaystyle \ N\ }$ ${\displaystyle \ \left(M-\lambda N\right)\mathbf {x} =0\ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ \mathbf {x} ^{\top }N\mathbf {x} =1~.}$ ${\displaystyle \ N\ }$ ${\displaystyle \ Q^{\top }Q~.}$ ${\displaystyle \ Q\ }$ ${\displaystyle \ \mathbf {x} =Q^{\top }\mathbf {y} \ ,}$ ${\displaystyle \ Q\left(M-\lambda N\right)Q^{\top }\mathbf {y} =0\ ,}$ ${\displaystyle \ \left(QMQ^{\top }\right)\mathbf {y} =\lambda \mathbf {y} \ }$ ${\displaystyle \mathbf {y} ^{\top }\mathbf {y} =1~.}$ ${\displaystyle MX=NX\Lambda }$ ${\displaystyle X}$ ${\displaystyle \Lambda }$ ${\displaystyle X^{\top }}$ ${\displaystyle \ X^{\top }MX=\Lambda \ }$ ${\displaystyle \ X^{\top }NX=I\ ,}$ ${\displaystyle \ \mathbf {y} ^{\top }\mathbf {y} =1~.}$ ${\displaystyle \ M\ }$ ${\displaystyle \ N~.}$

Обратите внимание, что этот результат не противоречит тому, что говорится об одновременной диагонализации в статье Diagonalizable matrix , которая относится к одновременной диагонализации с помощью преобразования подобия. Наш результат здесь больше похож на одновременную диагонализацию двух квадратичных форм и полезен для оптимизации одной формы при условиях на другой.

Характеристики

Индуцированный частичный порядок

Для произвольных квадратных матриц мы пишем если то есть, является положительно полуопределенной. Это определяет частичный порядок на множестве всех квадратных матриц. Аналогично можно определить строгий частичный порядок. Порядок называется порядком Левнера . ${\displaystyle \ M\ ,}$ ${\displaystyle \ N\ }$ ${\displaystyle \ M\geq N\ }$ ${\displaystyle \ M-N\geq 0\ }$ ${\displaystyle \ M-N\ }$ ${\displaystyle \ M>N~.}$

Обратная положительно определенная матрица

Каждая положительно определенная матрица обратима , и ее обратная матрица также положительно определена. ^[9] Если то ^[10] Более того, по теореме о минимуме-максимуме k -е наибольшее собственное значение больше или равно k -му наибольшему собственному значению ${\displaystyle \ M\geq N>0\ }$ ${\displaystyle \ N^{-1}\geq M^{-1}>0~.}$ ${\displaystyle \ M\ }$ ${\displaystyle \ N~.}$

Масштабирование

Если положительно определено и является действительным числом, то положительно определено. ^[11] ${\displaystyle \ M\ }$ ${\displaystyle \ r>0\ }$ ${\displaystyle \ rM\ }$

Добавление

• Если и положительно определены, то сумма также положительно определена. ^[11] ${\displaystyle M}$ ${\displaystyle N}$ ${\displaystyle M+N}$
• Если и положительно-полуопределены, то сумма также положительно-полуопределена. ${\displaystyle M}$ ${\displaystyle N}$ ${\displaystyle M+N}$
• Если положительно определена и положительно полуопределена, то сумма также положительно определена. ${\displaystyle M}$ ${\displaystyle N}$ ${\displaystyle M+N}$

Умножение

• Если и положительно определены, то произведения и также положительно определены. Если то также положительно определено. ${\displaystyle \ M\ }$ ${\displaystyle \ N\ }$ ${\displaystyle \ MNM\ }$ ${\displaystyle NMN}$ ${\displaystyle \ MN=NM\ ,}$ ${\displaystyle \ MN\ }$
• Если положительно полуопределена, то положительно полуопределена для любой (возможно, прямоугольной) матрицы. Если положительно определена и имеет полный ранг столбца, то положительно определена. ^[12] ${\displaystyle \ M\ }$ ${\displaystyle \ A^{*}MA\ }$ ${\displaystyle \ A~.}$ ${\displaystyle \ M\ }$ ${\displaystyle A}$ ${\displaystyle \ A^{*}MA\ }$

След

Диагональные элементы положительно-полуопределенной матрицы являются действительными и неотрицательными. Как следствие , след , Кроме того, ^[13] поскольку каждая главная подматрица (в частности, 2-на-2) является положительно-полуопределенной, ${\displaystyle \ m_{ii}\ }$ ${\displaystyle \ \operatorname {tr} (M)\geq 0~.}$ $${\displaystyle \ \left|m_{ij}\right|\leq {\sqrt {m_{ii}m_{jj}}}\quad \forall i,j\ }$$

и таким образом, когда ${\displaystyle \ n\geq 1\ ,}$ $${\displaystyle \max _{i,j}\left|m_{ij}\right|\leq \max _{i}m_{ii}}$$

Эрмитова матрица положительно определена, если она удовлетворяет следующим неравенствам следов: ^[14] ${\displaystyle n\times n}$ ${\displaystyle M}$ $${\displaystyle \ \operatorname {tr} (M)>0\quad \mathrm {and} \quad {\frac {(\operatorname {tr} (M))^{2}}{\operatorname {tr} (M^{2})}}>n-1~.}$$

Другим важным результатом является то, что для любых и положительно-полуопределенных матриц Это следует из записи: Матрица является положительно-полуопределенной и, таким образом, имеет неотрицательные собственные значения, сумма которых, след, поэтому также неотрицательна. ${\displaystyle \ M\ }$ ${\displaystyle N}$ ${\displaystyle \ \operatorname {tr} (MN)\geq 0~.}$ ${\displaystyle \ \operatorname {tr} (MN)=\operatorname {tr} (M^{\frac {1}{2}}NM^{\frac {1}{2}})~.}$ ${\displaystyle M^{\frac {1}{2}}NM^{\frac {1}{2}}}$

продукт Адамара

Если хотя не обязательно положительно полуопределено, произведение Адамара равно (этот результат часто называют теоремой о произведении Шура ). ^[15] ${\displaystyle \ M,N\geq 0\ ,}$ ${\displaystyle \ MN\ }$ ${\displaystyle \ M\circ N\geq 0\ }$

Относительно произведения Адамара двух положительно полуопределенных матриц имеются два примечательных неравенства: ${\displaystyle \ M=(m_{ij})\geq 0\ ,}$ ${\displaystyle \ N\geq 0\ ,}$

• Неравенство Оппенгейма: ^[16] ${\displaystyle \ \det(M\circ N)\geq \det(N)\prod \nolimits _{i}m_{ii}~.}$
• ${\displaystyle \ \det(M\circ N)\geq \det(M)\det(N)~.}$^[17]

продукт Кронекера

Если хотя не обязательно положительно полуопределен, произведение Кронекера ${\displaystyle \ M,N\geq 0\ ,}$ ${\displaystyle \ MN\ }$ ${\displaystyle M\otimes N\geq 0~.}$

Произведение Фробениуса

Если хотя не обязательно положительно полуопределено, то скалярное произведение Фробениуса (Ланкастер–Тисменецкий, Теория матриц , стр. 218). ${\displaystyle \ M,N\geq 0\ ,}$ ${\displaystyle \ MN\ }$ ${\displaystyle \ M:N\geq 0\ }$

Выпуклость

Множество положительно полуопределенных симметричных матриц является выпуклым . То есть, если и положительно полуопределены, то для любого между 0 и 1 также положительно полуопределено. Для любого вектора : ${\displaystyle \ M\ }$ ${\displaystyle \ N\ }$ ${\displaystyle \ \alpha \ }$ ${\displaystyle \ \alpha M+\left(1-\alpha \right)N\ }$ ${\displaystyle \ \mathbf {x} \ }$ $${\displaystyle \ \mathbf {x} ^{\top }\left(\alpha M+\left(1-\alpha \right)N\right)\mathbf {x} =\alpha \mathbf {x} ^{\top }M\mathbf {x} +(1-\alpha )\mathbf {x} ^{\top }N\mathbf {x} \geq 0~.}$$

Это свойство гарантирует, что задачи полуопределенного программирования сходятся к глобально оптимальному решению.

Связь с косинусом

Положительная определенность матрицы выражает то, что угол между любым вектором и его изображением всегда равен ${\displaystyle A}$ ${\displaystyle \ \theta \ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ A\mathbf {x} \ }$ ${\displaystyle \ -\pi /2<\theta <+\pi /2\ :}$

$${\displaystyle \ \cos \theta ={\frac {\mathbf {x} ^{\top }A\mathbf {x} }{\lVert \mathbf {x} \rVert \lVert A\mathbf {x} \rVert }}={\frac {\langle \mathbf {x} ,A\mathbf {x} \rangle }{\lVert \mathbf {x} \rVert \lVert A\mathbf {x} \rVert }},\theta =\theta (\mathbf {x} ,A\mathbf {x} )\equiv {\widehat {\left(\mathbf {x} ,A\mathbf {x} \right)}}\equiv \ }$$угол между и ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ A\mathbf {x} ~.}$

Дополнительные свойства

1. Если — симметричная матрица Тёплица , т.е. элементы заданы как функция их абсолютных разностей индексов: и выполняется строгое неравенство , то является строго положительно определенной. ${\displaystyle M}$ ${\displaystyle m_{ij}}$ ${\displaystyle \ m_{ij}=h(|i-j|)\ ,}$ ${\textstyle \sum _{j\neq 0}\left|h(j)\right|<h(0)}$ ${\displaystyle M}$
2. Пусть и эрмитовы. Если (соотв., ), то (соотв., ). ^[18] ${\displaystyle M>0}$ ${\displaystyle N}$ ${\displaystyle MN+NM\geq 0}$ ${\displaystyle MN+NM>0}$ ${\displaystyle N\geq 0}$ ${\displaystyle N>0}$
3. Если является действительным, то существует такое , что где — единичная матрица . ${\displaystyle \ M>0\ }$ ${\displaystyle \ \delta >0\ }$ ${\displaystyle \ M>\delta I\ ,}$ ${\displaystyle \ I\ }$
4. Если обозначает ведущий минор, то является k -м опорным элементом при LU-разложении . ${\displaystyle M_{k}}$ ${\displaystyle \ k\times k\ }$ ${\displaystyle \ \det \left(M_{k}\right)/\det \left(M_{k-1}\right)\ }$
5. Матрица отрицательно определена, если ее старший главный минор порядка k отрицателен, когда нечетен, и положителен, когда четен. ${\displaystyle \ k\ }$ ${\displaystyle \ k\ }$
6. Если — действительная положительно определенная матрица, то существует положительное действительное число такое, что для любого вектора ${\displaystyle \ M\ }$ ${\displaystyle \ m\ }$ ${\displaystyle \ \mathbf {v} \ ,}$ ${\displaystyle \ \mathbf {v} ^{\top }M\ \mathbf {v} \geq m\ \|\mathbf {v} \|_{2}^{\ \!2}~.}$
7. Эрмитова матрица положительно полуопределена тогда и только тогда, когда все ее главные миноры неотрицательны. Однако недостаточно рассматривать только ведущие главные миноры, как это проверяется на диагональной матрице с элементами 0 и −1.

Блочные матрицы и подматрицы

Положительная матрица также может быть определена блоками : ${\displaystyle \ 2n\times 2n\ }$ $${\displaystyle \ M={\begin{bmatrix}A&B\\C&D\end{bmatrix}}\ }$$

где каждый блок Применяя условие положительности, немедленно следует, что и являются эрмитовыми, и ${\displaystyle \ n\times n~,}$ ${\displaystyle \ A\ }$ ${\displaystyle \ D\ }$ ${\displaystyle \ C=B^{*}~.}$

У нас это есть для всех комплексов и в частности для Тогда ${\displaystyle \ \mathbf {z} ^{*}M\mathbf {z} \geq 0\ }$ ${\displaystyle \ \mathbf {z} \ ,}$ ${\displaystyle \ \mathbf {z} =[\mathbf {v} ,0]^{\top }~.}$ $${\displaystyle \ {\begin{bmatrix}\mathbf {v} ^{*}&0\end{bmatrix}}{\begin{bmatrix}A&B\\B^{*}&D\end{bmatrix}}{\begin{bmatrix}\mathbf {v} \\0\end{bmatrix}}=\mathbf {v} ^{*}A\mathbf {v} \geq 0~.}$$

Аналогичный аргумент можно применить к и, таким образом, мы приходим к выводу, что и и должны быть положительно определенными. Аргумент можно расширить, чтобы показать, что любая главная подматрица сама по себе положительно определена. ${\displaystyle \ D\ ,}$ ${\displaystyle \ A\ }$ ${\displaystyle \ D\ }$ ${\displaystyle \ M\ }$

Обратные результаты можно доказать, наложив более сильные условия на блоки, например, используя дополнение Шура .

Локальные экстремумы

Общую квадратичную форму на действительных переменных всегда можно записать как где — вектор-столбец с этими переменными, а — симметричная действительная матрица. Таким образом, положительно определенная матрица означает, что имеет единственный минимум (ноль), когда — ноль, и строго положительна для любого другого ${\displaystyle f(\mathbf {x} )}$ ${\displaystyle n}$ ${\displaystyle x_{1},\ldots ,x_{n}}$ ${\displaystyle \mathbf {x} ^{\top }M\mathbf {x} }$ ${\displaystyle \mathbf {x} }$ ${\displaystyle M}$ ${\displaystyle f}$ ${\displaystyle \mathbf {x} }$ ${\displaystyle \ \mathbf {x} ~.}$

В более общем случае дважды дифференцируемая действительная функция от действительных переменных имеет локальный минимум в аргументах , если ее градиент равен нулю, а ее гессиан (матрица всех вторых производных) положительно полуопределен в этой точке. Аналогичные утверждения можно сделать для отрицательно определенных и полуопределенных матриц. ${\displaystyle f}$ ${\displaystyle n}$ ${\displaystyle x_{1},\ldots ,x_{n}}$

Ковариация

В статистике ковариационная матрица многомерного распределения вероятностей всегда является положительно полуопределенной; и она является положительно определенной, если только одна переменная не является точной линейной функцией других. Наоборот, каждая положительно полуопределенная матрица является ковариационной матрицей некоторого многомерного распределения.

Расширение для неэрмитовых квадратных матриц

Определение положительно определенной можно обобщить, обозначив любую комплексную матрицу (например, действительную несимметричную) как положительно определенную, если для всех ненулевых комплексных векторов , где обозначает действительную часть комплексного числа ^[19] Только эрмитова часть определяет, является ли матрица положительно определенной, и оценивается в более узком смысле выше. Аналогично, если и являются действительными, мы имеем для всех действительных ненулевых векторов тогда и только тогда, когда симметричная часть положительно определена в более узком смысле. Сразу ясно, что нечувствительна к транспонированию ${\displaystyle \ M\ }$ ${\displaystyle \ {\mathcal {R_{e}}}\left\{\ \mathbf {z} ^{*}M\mathbf {z} \right\}>0\ }$ ${\displaystyle \ \mathbf {z} \ ,}$ ${\displaystyle \ {\mathcal {R_{e}}}\{\ c\ \}\ }$ ${\displaystyle \ c~.}$ ${\textstyle \ {\frac {1}{2}}\left(M+M^{*}\right)\ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\displaystyle \ M\ }$ ${\displaystyle \ \mathbf {x} ^{\top }M\mathbf {x} >0\ }$ ${\displaystyle \ \mathbf {x} \ }$ ${\textstyle \ {\frac {1}{2}}\left(M+M^{\top }\right)\ }$ ${\textstyle \ \mathbf {x} ^{\top }M\mathbf {x} =\sum _{ij}x_{i}M_{ij}x_{j}\ }$ ${\displaystyle \ M~.}$

Следовательно, несимметричная вещественная матрица с только положительными собственными значениями не обязательно должна быть положительно определенной. Например, матрица имеет положительные собственные значения, но не является положительно определенной; в частности, отрицательное значение получается при выборе (который является собственным вектором, связанным с отрицательным собственным значением симметричной части ). ${\displaystyle M=\left[{\begin{smallmatrix}4&9\\1&4\end{smallmatrix}}\right]}$ ${\displaystyle \mathbf {x} ^{\top }M\mathbf {x} }$ ${\displaystyle \mathbf {x} =\left[{\begin{smallmatrix}-1\\1\end{smallmatrix}}\right]}$ ${\displaystyle M}$

Подводя итог, можно сказать, что отличительной чертой между реальным и комплексным случаем является то, что ограниченный положительный оператор в комплексном гильбертовом пространстве обязательно является эрмитовым или самосопряженным. Общее утверждение можно аргументировать с помощью тождества поляризации . В реальном случае это уже не так.

Приложения

Матрица теплопроводности

Закон теплопроводности Фурье, дающий тепловой поток в терминах градиента температуры , записывается для анизотропных сред как , в которой есть симметричная матрица теплопроводности . Отрицательное вставлено в закон Фурье, чтобы отразить ожидание того, что тепло всегда будет течь от горячего к холодному. Другими словами, поскольку градиент температуры всегда направлен от холодного к горячему, ожидается, что тепловой поток будет иметь отрицательное внутреннее произведение с , так что Подстановка закона Фурье затем дает это ожидание как подразумевающее, что матрица теплопроводности должна быть положительно определенной. ${\displaystyle \ \mathbf {q} \ }$ ${\displaystyle \ \mathbf {g} =\nabla T\ }$ ${\displaystyle \ \mathbf {q} =-K\mathbf {g} \ ,}$ ${\displaystyle \ K\ }$ ${\displaystyle \ \mathbf {g} \ }$ ${\displaystyle \ \mathbf {q} \ }$ ${\displaystyle \ \mathbf {g} \ }$ ${\displaystyle \ \mathbf {q} ^{\top }\mathbf {g} <0~.}$ ${\displaystyle \ \mathbf {g} ^{\top }K\mathbf {g} >0\ ,}$

Смотрите также

• Ковариационная матрица
• М-матрица
• Положительно-определенная функция
• Положительно-определенное ядро
• Шур дополняет
• Критерий Сильвестра
• Числовой диапазон
• Теорема Уильямсона

Ссылки

1. van den Bos, Adriaan (март 2007). "Приложение C: Положительно-полуопределенные и положительно-определенные матрицы". Оценка параметров для ученых и инженеров (.pdf) (онлайн-ред.). John Wiley & Sons. стр. 259–263. doi :10.1002/9780470173862. ISBN 978-047-017386-2.Печатное издание. ISBN 9780470147818 
2. Бойд, Стивен; Ванденберг, Ливен (8 марта 2004 г.). Выпуклая оптимизация . Cambridge University Press. doi :10.1017/cbo9780511804441. ISBN 978-0-521-83378-3.
3. Хорн и Джонсон (2013), стр. 440, Теорема 7.2.7
4. Хорн и Джонсон (2013), стр. 441, Теорема 7.2.10
5. Хорн и Джонсон (2013), стр. 452, Теорема 7.3.11
6. Хорн и Джонсон (2013), стр. 439, Теорема 7.2.6 с ${\displaystyle k=2}$
7. Хорн и Джонсон (2013), стр. 431, Следствие 7.1.7
8. Хорн и Джонсон (2013), стр. 485, Теорема 7.6.1
9. Хорн и Джонсон (2013), стр. 438, Теорема 7.2.1
10. Хорн и Джонсон (2013), стр. 495, Следствие 7.7.4(a)
11. Horn & Johnson (2013), стр. 430, Наблюдение 7.1.3
12. Хорн и Джонсон (2013), стр. 431, Наблюдение 7.1.8
13. Хорн и Джонсон (2013), стр. 430
14. Волкович, Генри; Стайн, Джордж PH (1980). «Границы собственных значений с использованием следов». Линейная алгебра и ее приложения (29). Elsevier: 471–506.
15. Хорн и Джонсон (2013), стр. 479, Теорема 7.5.3
16. Хорн и Джонсон (2013), стр. 509, Теорема 7.8.16
17. Styan, GP (1973). «Продукты Адамара и многомерный статистический анализ». Линейная алгебра и ее приложения . 6 : 217–240., Следствие 3.6, стр. 227
18. Бхатия, Раджендра (2007). Положительно определенные матрицы . Принстон, Нью-Джерси: Princeton University Press. стр. 8. ISBN  978-0-691-12918-1.
19. Weisstein, Eric W. "Положительно определенная матрица". MathWorld . Wolfram Research . Получено 26 июля 2012 г. .

Источники

• Хорн, Роджер А.; Джонсон, Чарльз Р. (2013). Матричный анализ (2-е изд.). Cambridge University Press . ISBN 978-0-521-54823-6.

• Бхатия, Раджендра (2007). Положительно определенные матрицы . Принстонская серия по прикладной математике. ISBN 978-0-691-12918-1.

• Бернштейн, Б.; Тупен, Р.А. (1962). «Некоторые свойства матрицы Гессе строго выпуклой функции». Журнал для королевы и математики . 210 : 67–72. дои : 10.1515/crll.1962.210.65.

Внешние ссылки

• «Положительно-определенная форма», Энциклопедия математики , EMS Press , 2001 [1994]
• "Положительно определенная матрица". Wolfram MathWorld . Wolfram Research.