Матричная норма

Норма на векторном пространстве матриц

В области математики нормы определяются для элементов в векторном пространстве . В частности, когда векторное пространство содержит матрицы, такие нормы называются матричными нормами . Матричные нормы отличаются от векторных норм тем, что они также должны взаимодействовать с умножением матриц.

Предварительные

Дано поле действительных или комплексных чисел , пусть будет K - векторным пространством матриц со строками и столбцами и элементами в поле . Матричная норма - это норма на . ${\displaystyle K}$ ${\displaystyle K^{m\times n}}$ ${\displaystyle m}$ ${\displaystyle n}$ ${\displaystyle K}$ ${\displaystyle K^{m\times n}}$

Нормы часто выражаются двойными вертикальными чертами (например: ). Таким образом, матричная норма — это функция , которая должна удовлетворять следующим свойствам: ^{[1] [2]} ${\displaystyle \|A\|}$ ${\displaystyle \|\cdot \|:K^{m\times n}\to \mathbb {R} }$

Для всех скаляров и матриц , ${\displaystyle \alpha \in K}$ ${\displaystyle A,B\in K^{m\times n}}$

• ${\displaystyle \|A\|\geq 0}$( положительно-значимый )
• ${\displaystyle \|A\|=0\iff A=0_{m,n}}$( определенно )
• ${\displaystyle \left\|\alpha A\right\|=\left|\alpha \right|\left\|A\right\|}$( абсолютно однородный )
• ${\displaystyle \|A+B\|\leq \|A\|+\|B\|}$( субаддитивный или удовлетворяющий неравенству треугольника )

Единственная особенность, отличающая матрицы от переставленных векторов, — это умножение . Матричные нормы особенно полезны, если они также являются субмультипликативными : ^{[1] [2] [3]}

• ${\displaystyle \left\|AB\right\|\leq \left\|A\right\|\left\|B\right\|}$^{[Примечание 1]}

Каждая норма на K ^{n × n} может быть перемасштабирована так, чтобы стать субмультипликативной; в некоторых книгах термин матричная норма зарезервирован для субмультипликативных норм. ^[4]

Матричные нормы, индуцированные векторными нормами

Предположим, что заданы векторная норма на и векторная норма на . Любая матрица A индуцирует линейный оператор из в относительно стандартного базиса, и определяется соответствующая индуцированная норма или операторная норма или подчиненная норма на пространстве всех матриц следующим образом: где обозначает супремум . Эта норма измеряет, насколько отображение, индуцированное , может растянуть векторы. В зависимости от используемых векторных норм , для операторной нормы могут использоваться обозначения, отличные от . ${\displaystyle \|\cdot \|_{\alpha }}$ ${\displaystyle K^{n}}$ ${\displaystyle \|\cdot \|_{\beta }}$ ${\displaystyle K^{m}}$ ${\displaystyle m\times n}$ ${\displaystyle K^{n}}$ ${\displaystyle K^{m}}$ ${\displaystyle K^{m\times n}}$ ${\displaystyle m\times n}$ $${\displaystyle {\begin{aligned}\|A\|_{\alpha ,\beta }&=\sup\{\|Ax\|_{\beta }:x\in K^{n}{\text{ with }}\|x\|_{\alpha }=1\}\\&=\sup \left\{{\frac {\|Ax\|_{\beta }}{\|x\|_{\alpha }}}:x\in K^{n}{\text{ with }}x\neq 0\right\}.\end{aligned}}}$$ ${\displaystyle \sup }$ ${\displaystyle A}$ ${\displaystyle \|\cdot \|_{\alpha }}$ ${\displaystyle \|\cdot \|_{\beta }}$ ${\displaystyle \|\cdot \|_{\alpha ,\beta }}$

Нормы матрицы, индуцированные векторомп-нормы

Если p -норма для векторов ( ) используется для обоих пространств , то соответствующая операторная норма равна: ^[2] Эти индуцированные нормы отличаются от p -норм «по входу» и p -норм Шаттена для матриц, рассматриваемых ниже, которые также обычно обозначаются как ${\displaystyle 1\leq p\leq \infty }$ ${\displaystyle K^{n}}$ ${\displaystyle K^{m},}$ $${\displaystyle \|A\|_{p}=\sup _{x\neq 0}{\frac {\|Ax\|_{p}}{\|x\|_{p}}}.}$$ ${\displaystyle \|A\|_{p}.}$

Геометрически говоря, можно представить себе единичный шар p -нормы в , затем применить к шару линейное отображение . В итоге он станет искаженной выпуклой формой , и будет измерять самый длинный «радиус» искаженной выпуклой формы. Другими словами, мы должны взять единичный шар p -нормы в , затем умножить его по крайней мере на , чтобы он был достаточно большим, чтобы вместить . ${\displaystyle V_{p,n}=\{x\in K^{n}:\|x\|_{p}\leq 1\}}$ ${\displaystyle K^{n}}$ ${\displaystyle A}$ ${\displaystyle AV_{p,n}\subset K^{m}}$ ${\displaystyle \|A\|_{p}}$ ${\displaystyle V_{p,m}}$ ${\displaystyle K^{m}}$ ${\displaystyle \|A\|_{p}}$ ${\displaystyle AV_{p,n}}$

п= 1, ∞

Когда , у нас есть простые формулы. которая является просто максимальной абсолютной суммой столбцов матрицы. которая является просто максимальной абсолютной суммой строк матрицы. Например, для мы имеем, что ${\displaystyle p=1,\infty }$ $${\displaystyle \|A\|_{1}=\max _{1\leq j\leq n}\sum _{i=1}^{m}|a_{ij}|,}$$ $${\displaystyle \|A\|_{\infty }=\max _{1\leq i\leq m}\sum _{j=1}^{n}|a_{ij}|,}$$ $${\displaystyle A={\begin{bmatrix}-3&5&7\\2&6&4\\0&2&8\\\end{bmatrix}},}$$ $${\displaystyle \|A\|_{1}=\max(|{-3}|+2+0;5+6+2;7+4+8)=\max(5,13,19)=19,}$$ $${\displaystyle \|A\|_{\infty }=\max(|{-3}|+5+7;2+6+4;0+2+8)=\max(15,12,10)=15.}$$

Спектральная норма (п= 2)

Когда ( евклидова норма или -норма для векторов), индуцированная матричная норма является спектральной нормой . (Эти два значения не совпадают в бесконечных измерениях — см. Спектральный радиус для дальнейшего обсуждения. Спектральный радиус не следует путать со спектральной нормой.) Спектральная норма матрицы является наибольшим сингулярным значением ( т. е. квадратным корнем наибольшего собственного значения матрицы , где обозначает сопряженное транспонирование ) : ^[5] где представляет наибольшее сингулярное значение матрицы ${\displaystyle p=2}$ ${\displaystyle \ell _{2}}$ ${\displaystyle A}$ ${\displaystyle A}$ ${\displaystyle A^{*}A,}$ ${\displaystyle A^{*}}$ ${\displaystyle A}$ $${\displaystyle \|A\|_{2}={\sqrt {\lambda _{\max }\left(A^{*}A\right)}}=\sigma _{\max }(A).}$$ ${\displaystyle \sigma _{\max }(A)}$ ${\displaystyle A.}$

Есть и другие свойства:

• ${\textstyle \|A\|_{2}=\sup\{x^{*}Ay:x\in K^{m},y\in K^{n}{\text{ with }}\|x\|_{2}=\|y\|_{2}=1\}.}$Доказано неравенством Коши–Шварца .
• ${\textstyle \|A^{*}A\|_{2}=\|AA^{*}\|_{2}=\|A\|_{2}^{2}}$. Доказано методом разложения по сингулярным значениям (SVD) на . ${\displaystyle A}$
• ${\textstyle \|A\|_{2}=\sigma _{\mathrm {max} }(A)\leq \|A\|_{\rm {F}}={\sqrt {\sum _{i}\sigma _{i}(A)^{2}}}}$, где — норма Фробениуса. Равенство имеет место тогда и только тогда, когда матрица является матрицей ранга один или нулевой матрицей. ${\displaystyle \|A\|_{\textrm {F}}}$ ${\displaystyle A}$

• ${\displaystyle \|A\|_{2}={\sqrt {\rho (A^{*}A)}}\leq {\sqrt {\|A^{*}A\|_{\infty }}}\leq {\sqrt {\|A\|_{1}\|A\|_{\infty }}}}$.

Нормы матрицы, индуцированные векторомα- иβ-нормы

Мы можем обобщить приведенное выше определение. Предположим, что у нас есть векторные нормы и для пространств и соответственно; соответствующая операторная норма есть В частности, определенное ранее является частным случаем . ${\displaystyle \|\cdot \|_{\alpha }}$ ${\displaystyle \|\cdot \|_{\beta }}$ ${\displaystyle K^{n}}$ ${\displaystyle K^{m}}$ $${\displaystyle \|A\|_{\alpha ,\beta }=\sup _{x\neq 0}{\frac {\|Ax\|_{\beta }}{\|x\|_{\alpha }}}.}$$ ${\displaystyle \|A\|_{p}}$ ${\displaystyle \|A\|_{p,p}}$

В частных случаях и индуцированные матричные нормы можно вычислить по формуле, где — i-я строка матрицы . ${\displaystyle \alpha =2}$ ${\displaystyle \beta =\infty }$ $${\displaystyle \|A\|_{2,\infty }=\max _{1\leq i\leq m}\|A_{i:}\|_{2},}$$ ${\displaystyle A_{i:}}$ ${\displaystyle A}$

В частных случаях и индуцированные матричные нормы можно вычислить по формуле, где — j-й столбец матрицы . ${\displaystyle \alpha =1}$ ${\displaystyle \beta =2}$ $${\displaystyle \|A\|_{1,2}=\max _{1\leq j\leq n}\|A_{:j}\|_{2},}$$ ${\displaystyle A_{:j}}$ ${\displaystyle A}$

Следовательно, и являются максимальной строкой и столбцом 2-нормы матрицы соответственно. ${\displaystyle \|A\|_{2,\infty }}$ ${\displaystyle \|A\|_{1,2}}$

Характеристики

Любая норма оператора согласуется с векторными нормами, которые ее индуцируют, что дает $${\displaystyle \|Ax\|_{\beta }\leq \|A\|_{\alpha ,\beta }\|x\|_{\alpha }.}$$

Предположим, что ; ; и являются нормами операторов, индуцированными соответствующими парами норм векторов ; ; и . Тогда, ${\displaystyle \|\cdot \|_{\alpha ,\beta }}$ ${\displaystyle \|\cdot \|_{\beta ,\gamma }}$ ${\displaystyle \|\cdot \|_{\alpha ,\gamma }}$ ${\displaystyle (\|\cdot \|_{\alpha },\|\cdot \|_{\beta })}$ ${\displaystyle (\|\cdot \|_{\beta },\|\cdot \|_{\gamma })}$ ${\displaystyle (\|\cdot \|_{\alpha },\|\cdot \|_{\gamma })}$

${\displaystyle \|AB\|_{\alpha ,\gamma }\leq \|A\|_{\beta ,\gamma }\|B\|_{\alpha ,\beta };}$

это следует из и $${\displaystyle \|ABx\|_{\gamma }\leq \|A\|_{\beta ,\gamma }\|Bx\|_{\beta }\leq \|A\|_{\beta ,\gamma }\|B\|_{\alpha ,\beta }\|x\|_{\alpha }}$$ $${\displaystyle \sup _{\|x\|_{\alpha }=1}\|ABx\|_{\gamma }=\|AB\|_{\alpha ,\gamma }.}$$

Квадратные матрицы

Предположим, что — операторная норма на пространстве квадратных матриц, индуцированная векторными нормами и . Тогда операторная норма — субмультипликативной матричной нормой: ${\displaystyle \|\cdot \|_{\alpha ,\alpha }}$ ${\displaystyle K^{n\times n}}$ ${\displaystyle \|\cdot \|_{\alpha }}$ ${\displaystyle \|\cdot \|_{\alpha }}$ $${\displaystyle \|AB\|_{\alpha ,\alpha }\leq \|A\|_{\alpha ,\alpha }\|B\|_{\alpha ,\alpha }.}$$

Более того, любая такая норма удовлетворяет неравенству

для всех положительных целых чисел r , где ρ ( A ) — спектральный радиус A . Для симметричного или эрмитового A мы имеем равенство в ( 1 ) для 2-нормы, поскольку в этом случае 2-норма — это в точности спектральный радиус A . Для произвольной матрицы мы можем не иметь равенства ни для какой нормы; контрпримером будет , которая имеет нулевой спектральный радиус. В любом случае, для любой матричной нормы мы имеем формулу спектрального радиуса : $${\displaystyle A={\begin{bmatrix}0&1\\0&0\end{bmatrix}},}$$ $${\displaystyle \lim _{r\to \infty }\|A^{r}\|^{1/r}=\rho (A).}$$

Последовательные и совместимые нормы

Матричная норма на называется согласованной с векторной нормой на и векторной нормой на , если: для всех и всех . В частном случае m = n и , также называется согласованной с . ${\displaystyle \|\cdot \|}$ ${\displaystyle K^{m\times n}}$ ${\displaystyle \|\cdot \|_{\alpha }}$ ${\displaystyle K^{n}}$ ${\displaystyle \|\cdot \|_{\beta }}$ ${\displaystyle K^{m}}$ $${\displaystyle \left\|Ax\right\|_{\beta }\leq \left\|A\right\|\left\|x\right\|_{\alpha }}$$ ${\displaystyle A\in K^{m\times n}}$ ${\displaystyle x\in K^{n}}$ ${\displaystyle \alpha =\beta }$ ${\displaystyle \|\cdot \|}$ ${\displaystyle \|\cdot \|_{\alpha }}$

Все индуцированные нормы согласованы по определению. Кроме того, любая субмультипликативная матричная норма на индуцирует совместимую векторную норму на , определяя . ${\displaystyle K^{n\times n}}$ ${\displaystyle K^{n}}$ ${\displaystyle \left\|v\right\|:=\left\|\left(v,v,\dots ,v\right)\right\|}$

Нормы матрицы «по входу»

Эти нормы рассматривают матрицу как вектор размера и используют одну из известных векторных норм. Например, используя p -норму для векторов, p ≥ 1 , мы получаем: ${\displaystyle m\times n}$ ${\displaystyle m\cdot n}$

${\displaystyle \|A\|_{p,p}=\|\mathrm {vec} (A)\|_{p}=\left(\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{p}\right)^{1/p}}$

Это норма, отличная от индуцированной p -нормы (см. выше) и p -нормы Шаттена (см. ниже), но обозначения те же.

Частным случаем p = 2 является норма Фробениуса, а p = ∞ дает максимальную норму.

Л 2,1иЛ п,qнормы

Пусть будут столбцами матрицы . Из исходного определения матрица представляет n точек данных в m-мерном пространстве. Норма ^[6] есть сумма евклидовых норм столбцов матрицы: ${\displaystyle (a_{1},\ldots ,a_{n})}$ ${\displaystyle A}$ ${\displaystyle A}$ ${\displaystyle L_{2,1}}$

${\displaystyle \|A\|_{2,1}=\sum _{j=1}^{n}\|a_{j}\|_{2}=\sum _{j=1}^{n}\left(\sum _{i=1}^{m}|a_{ij}|^{2}\right)^{1/2}}$

Норма как функция ошибок более надежна, поскольку ошибка для каждой точки данных (столбца) не возводится в квадрат. Она используется в надежном анализе данных и разреженном кодировании . ${\displaystyle L_{2,1}}$

При p , q ≥ 1 норму можно обобщить до нормы следующим образом: ${\displaystyle L_{2,1}}$ ${\displaystyle L_{p,q}}$

${\displaystyle \|A\|_{p,q}=\left(\sum _{j=1}^{n}\left(\sum _{i=1}^{m}|a_{ij}|^{p}\right)^{\frac {q}{p}}\right)^{\frac {1}{q}}.}$

норма Фробениуса

Когда p = q = 2 для нормы, она называется нормой Фробениуса или нормой Гильберта–Шмидта , хотя последний термин чаще используется в контексте операторов на (возможно, бесконечномерном) гильбертовом пространстве . Эта норма может быть определена различными способами: ${\displaystyle L_{p,q}}$

${\displaystyle \|A\|_{\text{F}}={\sqrt {\sum _{i}^{m}\sum _{j}^{n}|a_{ij}|^{2}}}={\sqrt {\operatorname {trace} \left(A^{*}A\right)}}={\sqrt {\sum _{i=1}^{\min\{m,n\}}\sigma _{i}^{2}(A)}},}$

где след — это сумма диагональных элементов, а — сингулярные значения . Второе равенство доказано явным вычислением . Третье равенство доказано разложением по сингулярным значениям , и тем фактом, что след инвариантен относительно круговых сдвигов. ${\displaystyle \sigma _{i}(A)}$ ${\displaystyle A}$ ${\displaystyle \mathrm {trace} (A^{*}A)}$ ${\displaystyle A}$

Норма Фробениуса является расширением евклидовой нормы и происходит от скалярного произведения Фробениуса на пространстве всех матриц. ${\displaystyle K^{n\times n}}$

Норма Фробениуса является субмультипликативной и очень полезна для числовой линейной алгебры . Субмультипликативность нормы Фробениуса может быть доказана с помощью неравенства Коши–Шварца .

Норму Фробениуса часто легче вычислить, чем индуцированные нормы, и она обладает полезным свойством инвариантности относительно вращений (и унитарных операций в целом). То есть для любой унитарной матрицы . Это свойство следует из циклической природы следа ( ): ${\displaystyle \|A\|_{\text{F}}=\|AU\|_{\text{F}}=\|UA\|_{\text{F}}}$ ${\displaystyle U}$ ${\displaystyle \operatorname {trace} (XYZ)=\operatorname {trace} (YZX)=\operatorname {trace} (ZXY)}$

${\displaystyle \|AU\|_{\text{F}}^{2}=\operatorname {trace} \left((AU)^{*}AU\right)=\operatorname {trace} \left(U^{*}A^{*}AU\right)=\operatorname {trace} \left(UU^{*}A^{*}A\right)=\operatorname {trace} \left(A^{*}A\right)=\|A\|_{\text{F}}^{2},}$

и аналогично:

${\displaystyle \|UA\|_{\text{F}}^{2}=\operatorname {trace} \left((UA)^{*}UA\right)=\operatorname {trace} \left(A^{*}U^{*}UA\right)=\operatorname {trace} \left(A^{*}A\right)=\|A\|_{\text{F}}^{2},}$

где мы использовали унитарную природу (то есть ). ${\displaystyle U}$ ${\displaystyle U^{*}U=UU^{*}=\mathbf {I} }$

Это также удовлетворяет

${\displaystyle \|A^{*}A\|_{\text{F}}=\|AA^{*}\|_{\text{F}}\leq \|A\|_{\text{F}}^{2}}$

и

${\displaystyle \|A+B\|_{\text{F}}^{2}=\|A\|_{\text{F}}^{2}+\|B\|_{\text{F}}^{2}+2\operatorname {Re} \left(\langle A,B\rangle _{\text{F}}\right),}$

где — скалярное произведение Фробениуса , а Re — действительная часть комплексного числа (не имеет значения для действительных матриц) ${\displaystyle \langle A,B\rangle _{\text{F}}}$

Макс норма

Максимальная норма — это поэлементная норма в пределе, когда p = q стремится к бесконечности:

${\displaystyle \|A\|_{\max }=\max _{i,j}|a_{ij}|.}$

Эта норма не является субмультипликативной, но изменение правой части делает ее таковой. ${\displaystyle {\sqrt {mn}}\max _{i,j}\vert a_{ij}\vert }$

Обратите внимание, что в некоторой литературе (например, « Сложность связи ») альтернативное определение максимальной нормы, также называемой -нормой , относится к норме факторизации: ${\displaystyle \gamma _{2}}$

${\displaystyle \gamma _{2}(A)=\min _{U,V:A=UV^{T}}\|U\|_{2,\infty }\|V\|_{2,\infty }=\min _{U,V:A=UV^{T}}\max _{i,j}\|U_{i,:}\|_{2}\|V_{j,:}\|_{2}}$

нормы Шаттена

P -нормы Шаттена возникают при применении p -нормы к вектору сингулярных значений матрицы. ^[2] Если сингулярные значения матрицы обозначаются как σ _i , то p -норма Шаттена определяется как ${\displaystyle m\times n}$ ${\displaystyle A}$

${\displaystyle \|A\|_{p}=\left(\sum _{i=1}^{\min\{m,n\}}\sigma _{i}^{p}(A)\right)^{1/p}.}$

Эти нормы снова имеют ту же нотацию, что и индуцированные и входные p -нормы, но они различны.

Все нормы Шаттена являются субмультипликативными. Они также унитарно инвариантны, что означает, что для всех матриц и всех унитарных матриц и . ${\displaystyle \|A\|=\|UAV\|}$ ${\displaystyle A}$ ${\displaystyle U}$ ${\displaystyle V}$

Наиболее известные случаи — это p = 1, 2, ∞. Случай p = 2 дает норму Фробениуса, введенную ранее. Случай p = ∞ дает спектральную норму, которая является операторной нормой, индуцированной векторной 2-нормой (см. выше). Наконец, p = 1 дает ядерную норму (также известную как норма следа или норма Ки Фана 'n' ^[7] ), определяемую как:

${\displaystyle \|A\|_{*}=\operatorname {trace} \left({\sqrt {A^{*}A}}\right)=\sum _{i=1}^{\min\{m,n\}}\sigma _{i}(A),}$

где обозначает положительно полуопределенную матрицу такую, что . Точнее, поскольку — положительно полуопределенная матрица , ее квадратный корень хорошо определен. Ядерная норма — это выпуклая оболочка ранговой функции , поэтому она часто используется в математической оптимизации для поиска матриц низкого ранга. ${\displaystyle {\sqrt {A^{*}A}}}$ ${\displaystyle B}$ ${\displaystyle BB=A^{*}A}$ ${\displaystyle A^{*}A}$ ${\displaystyle \|A\|_{*}}$ ${\displaystyle {\text{rank}}(A)}$

Объединение неравенства следов фон Неймана с неравенством Гёльдера для евклидова пространства дает версию неравенства Гёльдера для норм Шаттена для : ${\displaystyle 1/p+1/q=1}$

${\displaystyle \left|\operatorname {trace} (A^{*}B)\right|\leq \|A\|_{p}\|B\|_{q},}$

В частности, это подразумевает неравенство нормы Шаттена

${\displaystyle \|A\|_{F}^{2}\leq \|A\|_{p}\|A\|_{q}.}$

Монотонные нормы

Матричная норма называется монотонной , если она монотонна относительно порядка Левнера . Таким образом, матричная норма возрастает, если ${\displaystyle \|\cdot \|}$

${\displaystyle A\preccurlyeq B\Rightarrow \|A\|\leq \|B\|.}$

Примерами монотонных норм являются норма Фробениуса и спектральная норма. ^[8]

Сокращение норм

Другой источник вдохновения для матричных норм возникает при рассмотрении матрицы как матрицы смежности взвешенного ориентированного графа . ^[9] Так называемая «норма разреза» измеряет, насколько близок связанный граф к двудольному : где A ∈ K m ^{× n .} [ ^{9] [10] [11]} Эквивалентные определения (с точностью до постоянного множителя) налагают условия 2| S | > n & 2| T | > ​​m ; S = T ; или S ∩ T = ∅ . ^[10] $${\displaystyle \|A\|_{\Box }=\max _{S\subseteq [n],T\subseteq [m]}{\left|\sum _{s\in S,t\in T}{A_{t,s}}\right|}}$$

Норма разреза эквивалентна индуцированной операторной норме ‖·‖ _∞→1 , которая сама по себе эквивалентна другой норме, называемой нормой Гротендика . ^[11]

Чтобы определить норму Гротендика, сначала отметим, что линейный оператор K ¹ → K ¹ является просто скаляром и, таким образом, расширяется до линейного оператора на любом K ^k → K ^k . Более того, при любом выборе базиса для K ⁿ и K ^m любой линейный оператор K ⁿ → K ^m расширяется до линейного оператора ( K ^k ) ⁿ → ( K ^k ) ^m , позволяя каждому элементу матрицы на элементах K ^k посредством скалярного умножения. Норма Гротендика является нормой этого расширенного оператора; в символах: ^[11] $${\displaystyle \|A\|_{G,k}=\sup _{{\text{each }}u_{j},v_{j}\in K^{k};\|u_{j}\|=\|v_{j}\|=1}{\sum _{j\in [n],\ell \in [m]}{(u_{j}\cdot v_{j})A_{\ell ,j}}}}$$

Норма Гротендика зависит от выбора базиса (обычно в качестве стандартного базиса ) и k .

Эквивалентность норм

Для любых двух матричных норм и имеем: ${\displaystyle \|\cdot \|_{\alpha }}$ ${\displaystyle \|\cdot \|_{\beta }}$

${\displaystyle r\|A\|_{\alpha }\leq \|A\|_{\beta }\leq s\|A\|_{\alpha }}$

для некоторых положительных чисел r и s , для всех матриц . Другими словами, все нормы на эквивалентны ; они индуцируют одну и ту же топологию на . Это верно, поскольку векторное пространство имеет конечную размерность . ${\displaystyle A\in K^{m\times n}}$ ${\displaystyle K^{m\times n}}$ ${\displaystyle K^{m\times n}}$ ${\displaystyle K^{m\times n}}$ ${\displaystyle m\times n}$

Более того, для каждой матричной нормы на существует единственное положительное действительное число, такое что является субмультипликативной матричной нормой для каждого ; а именно, ${\displaystyle \|\cdot \|}$ ${\displaystyle \mathbb {R} ^{n\times n}}$ ${\displaystyle k}$ ${\displaystyle \ell \|\cdot \|}$ ${\displaystyle \ell \geq k}$

${\displaystyle k=\sup\{\Vert AB\Vert \,:\,\Vert A\Vert \leq 1,\Vert B\Vert \leq 1\}.}$

Норма субмультипликативной матрицы называется минимальной , если не существует другой нормы субмультипликативной матрицы, удовлетворяющей . ${\displaystyle \|\cdot \|_{\alpha }}$ ${\displaystyle \|\cdot \|_{\beta }}$ ${\displaystyle \|\cdot \|_{\beta }<\|\cdot \|_{\alpha }}$

Примеры эквивалентности норм

Давайте еще раз обратимся к норме, индуцированной векторной p -нормой (как выше в разделе «Индуцированная норма»). ${\displaystyle \|A\|_{p}}$

Для матрицы ранга справедливы следующие неравенства: ^[12] [ ^13] ${\displaystyle A\in \mathbb {R} ^{m\times n}}$ ${\displaystyle r}$

• ${\displaystyle \|A\|_{2}\leq \|A\|_{F}\leq {\sqrt {r}}\|A\|_{2}}$
• ${\displaystyle \|A\|_{F}\leq \|A\|_{*}\leq {\sqrt {r}}\|A\|_{F}}$
• ${\displaystyle \|A\|_{\max }\leq \|A\|_{2}\leq {\sqrt {mn}}\|A\|_{\max }}$
• ${\displaystyle {\frac {1}{\sqrt {n}}}\|A\|_{\infty }\leq \|A\|_{2}\leq {\sqrt {m}}\|A\|_{\infty }}$
• ${\displaystyle {\frac {1}{\sqrt {m}}}\|A\|_{1}\leq \|A\|_{2}\leq {\sqrt {n}}\|A\|_{1}.}$

Смотрите также

• Двойная норма
• Логарифмическая норма

Примечания

1. Условие применяется только тогда, когда произведение определено, например, в случае квадратных матриц ( m = n ).

Ссылки

1. Weisstein, Eric W. "Matrix Norm". mathworld.wolfram.com . Получено 24.08.2020 .
2. "Матричные нормы". fourier.eng.hmc.edu . Получено 2020-08-24 .
3. Малек-Шахмирзади, Массуд (1983). «Характеристика некоторых классов матричных норм». Линейная и полилинейная алгебра . 13 (2): 97–99. doi :10.1080/03081088308817508. ISSN  0308-1087.
4. Хорн, Роджер А. (2012). Матричный анализ . Джонсон, Чарльз Р. (2-е изд.). Кембридж: Cambridge University Press. стр. 340–341. ISBN 978-1-139-77600-4. OCLC  817236655.
5. Карл Д. Мейер, Матричный анализ и прикладная линейная алгебра, §5.2, стр.281, Общество промышленной и прикладной математики, июнь 2000 г.
6. Дин, Крис; Чжоу, Дин; Хэ, Сяофэн; Чжа, Хунъюань (июнь 2006 г.). "R1-PCA: Rotational Invariant L1-norm Principal Component Analysis for Robust Subspace Factorization". Труды 23-й Международной конференции по машинному обучению . ICML '06. Питтсбург, Пенсильвания, США: ACM. стр. 281–288. doi :10.1145/1143844.1143880. ISBN 1-59593-383-2.
7. Фань, Кентукки (1951). «Максимальные свойства и неравенства для собственных значений вполне непрерывных операторов». Труды Национальной академии наук Соединенных Штатов Америки . 37 (11): 760–766. Bibcode :1951PNAS...37..760F. doi : 10.1073/pnas.37.11.760 . PMC 1063464 . PMID  16578416. 
8. Ciarlet, Philippe G. (1989). Введение в численную линейную алгебру и оптимизацию . Кембридж, Англия: Cambridge University Press. стр. 57. ISBN 0521327881.
9. Frieze, Alan; Kannan, Ravi (1999-02-01). «Быстрое приближение матриц и его применение». Combinatorica . 19 (2): 175–220. doi :10.1007/s004930050052. ISSN  1439-6912. S2CID  15231198.
10. Lovász László (2012). "Расстояние разреза". Большие сети и пределы графов . Публикации AMS Colloquium. Том 60. Провиденс, Род-Айленд: Американское математическое общество. С. 127–131. ISBN 978-0-8218-9085-1. Обратите внимание, что Ловас масштабирует ‖ A ‖ _□ так, чтобы он лежал в [0, 1] .
11. Алон, Нога ; Наор, Ассаф (2004-06-13). «Аппроксимация нормы сечения с помощью неравенства Гротендика». Труды тридцать шестого ежегодного симпозиума ACM по теории вычислений . STOC '04. Чикаго, Иллинойс, США: Ассоциация вычислительной техники. стр. 72–80. doi :10.1145/1007352.1007371. ISBN 978-1-58113-852-8. S2CID  1667427.
12. Голуб, Джин ; Чарльз Ф. Ван Лоан (1996). Матричные вычисления – Третье издание. Балтимор: Издательство Университета Джонса Хопкинса, 56–57. ISBN 0-8018-5413-X . 
13. Роджер Хорн и Чарльз Джонсон. Анализ матриц, Глава 5, Cambridge University Press, 1985. ISBN 0-521-38632-2 . 

Библиография

• Джеймс У. Деммел , Прикладная численная линейная алгебра, раздел 1.7, опубликовано SIAM, 1997.
• Карл Д. Мейер, Матричный анализ и прикладная линейная алгебра, опубликовано SIAM, 2000. [1]
• Джон Уотроус , Теория квантовой информации, 2.3 Нормы операторов, конспект лекций, Университет Ватерлоо, 2011.
• Кендалл Аткинсон, Введение в численный анализ, опубликовано John Wiley & Sons, Inc в 1989 г.