Ранг (линейная алгебра)

В линейной алгебре ранг матрицы $A$ — это размерность векторного пространства , порожденного (или натянутого ) ее столбцами. ^[1]^[2]^[3] Это соответствует максимальному количеству линейно независимых столбцов $A$ . Это, в свою очередь, идентично размерности векторного пространства, охватываемого его строками. ^[4] Таким образом, ранг является мерой « невырожденности » системы линейных уравнений и линейного преобразования, кодируемого $A$ . Существует несколько эквивалентных определений ранга. Ранг матрицы — одна из ее наиболее фундаментальных характеристик.

Ранг обычно обозначается $Rank(A)$ или $rk(A)$ ; ^[2] иногда скобки не пишутся, как в $ранге А.$ ^[я]

Основные определения

В этом разделе мы даем некоторые определения ранга матрицы. Возможны многие определения; см. Альтернативные определения некоторых из них.

Ранг столбца A — это размерность пространства столбцов A $,$ а ранг строки $A$ $—$ это размерность пространства строк $A.$

Фундаментальный результат линейной алгебры состоит в том, что ранг столбца и ранг строки всегда равны. (Три доказательства этого результата приведены ниже в § Доказательства того $,$ что ранг столбца = ранг строки.) Это число (т. е. количество линейно независимых строк или столбцов) просто называется рангом A .

Говорят, что матрица имеет полный ранг , если ее ранг равен максимально возможному для матрицы того же размера, который является меньшим из числа строк и столбцов. Матрица называется дефектно -ранговой, если она не имеет полного ранга. Дефицит ранга матрицы — это разница между меньшим из числа строк и столбцов и рангом.

Ранг линейного отображения или оператора определяется как размерность его образа : ^[5]^[6]^[7]^[8] $\Фи$

\operatorname {rank} (\Phi):=\dim(\operatorname {img} (\Phi))

\dim

\operatorname {img}

Примеры

Матрица

{\begin{bmatrix}1&0&1\\0&1&1\\0&1&1\end{bmatrix}}

линейно независимы

Матрица

A={\begin{bmatrix}1&1&0&2\\-1&-1&0&-2\end{bmatrix}}

транспонирование

A^{\mathrm {T} }={\begin{bmatrix}1&-1\\1&-1\\0&0\\2&-2\end{bmatrix}}

A

, что ранг столбца матрицы равен рангу ее строки

,

Rank(

A

) = Rank(

A

T

)

Вычисление ранга матрицы

Ранг из форм звеньев строк

Распространенный подход к определению ранга матрицы состоит в приведении ее к более простой форме, обычно форме эшелона строк , с помощью элементарных операций над строками . Операции со строками не изменяют пространство строк (следовательно, не меняют ранг строки) и, будучи обратимыми, отображают пространство столбцов в изоморфное пространство (следовательно, не меняют ранг столбцов). В форме эшелона строк ранг явно одинаков как для ранга строки, так и для ранга столбца и равен количеству поворотных элементов (или основных столбцов), а также количеству ненулевых строк.

Например, матрица $A$ , заданная формулой

A={\begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix}}

{\begin{aligned}{\begin{bmatrix}1&2&1\\-2&-3&1\\3&5&0\end{bmatrix}}&\xrightarrow {2R_{1}+R_{2}\to R_{2}} {\begin{bmatrix}1&2&1\\0&1&3\\3&5&0\end{bmatrix}}\xrightarrow {-3R_{1}+R_{3}\to R_{3}} {\begin{bmatrix}1&2&1\\0&1&3\\0&-1&-3\end{bmatrix}}\\&\xrightarrow {R_{2}+R_{3}\to R_{3}} \,\,{\begin{bmatrix}1&2&1\\0&1&3\\0&0&0\end{bmatrix}}\xrightarrow {-2R_{2}+R_{1}\to R_{1}} {\begin{bmatrix}1&0&-5\\0&1&3\\0&0&0\end{bmatrix}}~.\end{aligned}}

A

Вычисление

При применении к вычислениям с плавающей запятой на компьютерах базовое исключение Гаусса ( LU-разложение ) может быть ненадежным, и вместо него следует использовать разложение с выявлением ранга. Эффективной альтернативой является разложение по сингулярным значениям (SVD), но есть и другие, менее затратные в вычислительном отношении варианты, такие как QR-разложение с поворотом (так называемая QR-факторизация с выявлением ранга ), которые все еще более устойчивы в числовом отношении, чем исключение Гаусса. Численное определение ранга требует критерия для принятия решения, когда значение, такое как сингулярное значение из SVD, следует рассматривать как ноль, практический выбор, который зависит как от матрицы, так и от приложения.

Доказательства того, что ранг столбца = ранг строки

Доказательство с использованием сокращения строк

Тот факт, что ранги столбца и строки любой матрицы имеют равные формы, является фундаментальным в линейной алгебре. Было приведено множество доказательств. Один из самых элементарных из них был обрисован в § Ранг из форм рядных эшелонов. Вот вариант этого доказательства:

Несложно показать, что ни ранг строки, ни ранг столбца не изменяются элементарной операцией над строкой . Поскольку исключение Гаусса происходит с помощью элементарных операций над строками, уменьшенная форма эшелона строк матрицы имеет тот же ранг строки и тот же ранг столбца, что и исходная матрица. Дальнейшие элементарные операции со столбцами позволяют представить матрицу в виде единичной матрицы, возможно, ограниченной строками и столбцами с нулями. Опять же, это не меняет ни ранг строки, ни ранг столбца. Сразу видно, что ранги строк и столбцов этой результирующей матрицы равны числу ее ненулевых элементов.

Приведем еще два доказательства этого результата. Первый использует только основные свойства линейных комбинаций векторов и действителен для любого поля . Доказательство основано на Уордлоу (2005). ^[9] Второй использует ортогональность и действителен для матриц над действительными числами ; он основан на Mackiw (1995). ^[4] Оба доказательства можно найти в книге Банерджи и Роя (2014). ^[10]

Доказательство с использованием линейных комбинаций.

Пусть $A$ — матрица размера $m \times n$ . Пусть ранг столбца $A$ равен $r$ , и пусть $c 1, ..., c r$ — любой базис пространства столбцов $A$ . Поместите их как столбцы матрицы $C размера$ $m \times r$ . Каждый столбец $A$ может быть выражен как линейная комбинация $r$ столбцов в $C.$ Это означает, что существует матрица $R размера$ $r$ $\times$ $n$ такая, что $A$ $=$ $CR$ . $R$ — матрица, $i-й$ столбец которой сформирован из коэффициентов, дающих i $-$ й столбец $A$ как линейную комбинацию $r$ столбцов $C.$ Другими словами, $R$ — это матрица, которая содержит кратные основания пространства столбцов $A$ (то есть $C$ ), которые затем используются для формирования $A$ в целом. Теперь каждая строка $A$ задается линейной комбинацией $r$ строк $R$ . Следовательно, строки $R$ образуют остовное множество пространства строк $A$ , и по лемме об обмене Стейница ранг строки $A$ не может превышать $r$ . Это доказывает, что ранг строки $A$ меньше или равен рангу столбца $A$ . Этот результат можно применить к любой матрице , поэтому примените его к транспонированию $A.$ Поскольку ранг строки транспонирования $A$ является рангом столбца $A$ , а ранг столбца транспонирования $A$ является рангом строки $A$ , это устанавливает обратное неравенство, и мы получаем равенство ранга строки и ранга столбца A . $А.$ (Также см. Факторизация рангов .)

Доказательство с использованием ортогональности

Пусть $A$ — матрица размера $m \times n$ с элементами действительных чисел , ранг строки которой равен $r$ . Следовательно, размерность пространства строк $A$ равна $r$ . Пусть $x 1, x 2, \dots, x r$ — базис пространства строк $A$ . Мы утверждаем, что векторы $A x 1, A x 2, \dots, A x r$ линейно независимы . Чтобы понять почему, рассмотрим линейное однородное отношение, включающее эти векторы со скалярными коэффициентами $c 1, c 2, \dots, c r$ :

0=c_{1}A\mathbf {x} _{1}+c_{2}A\mathbf {x} _{2}+\cdots +c_{r}A\mathbf {x} _{r}=A(c_{1}\mathbf {x} _{1}+c_{2}\mathbf {x} _{2}+\cdots +c_{r}\mathbf {x} _{r})=A\mathbf {v} ,

v знак равно c 1 Икс 1 + c 2 Икс 2 + \dots + c р Икс р

v

A

принадлежит

A

A v = 0

v

A

A

v

v

= 0

v

c_{1}\mathbf {x} _{1}+c_{2}\mathbf {x} _{2}+\cdots +c_{r}\mathbf {x} _{r}=0.

xi

были

A

c 1 знак равно c 2 знак равно \dots знак равно c р знак равно 0

A x 1, A x 2, \dots, A x r

Теперь каждый $A x i$ , очевидно, является вектором в пространстве столбцов $A$ . Итак, $A x 1, A x 2, \dots, A x r$ — это набор из $r$ линейно независимых векторов в пространстве столбцов $A$ и, следовательно, размерность пространства столбцов $A$ (т. е. ранг столбца $A$ ). должно быть не меньше $r$ . Это доказывает, что ранг строки $A$ не превышает ранг столбца $A$ . Теперь примените этот результат к транспонированию $A$ , чтобы получить обратное неравенство, и сделайте вывод, как в предыдущем доказательстве.

Альтернативные определения

Во всех определениях в этом разделе матрица $A$ считается матрицей размера $m \times n$ над произвольным полем $F$ .

Размер изображения

Данной матрице соответствует линейное отображение $A$

f:F^{n}\to F^{m}

f(x)=Ax.

A

f

Ранжирование с точки зрения недействительности

Учитывая то же линейное отображение $f,$ $что$ и выше, ранг равен $n$ минус размерность ядра f . Теорема о ранге-пустоте утверждает, что это определение эквивалентно предыдущему.

Ранг столбца – размер пространства столбца.

Ранг $A$ — это максимальное количество линейно независимых столбцов $A$ ; это размерность пространства столбцов A ( пространство столбцов представляет собой подпространство $F$ $m$ $,$ порожденное столбцами $A$ , что на самом деле является просто образом линейного отображения $f,$ связанного с $A$ ). $\mathbf {c} _{1},\mathbf {c} _{2},\dots ,\mathbf {c} _{k}$

Ранг строки – размер пространства строк.

Ранг $A$ — это максимальное количество линейно независимых строк $A$ ; это размер пространства строк $A$ .

Ранг разложения

Ранг $A$ — это наименьшее целое число $k$ такое, что $A$ можно факторизовать как , где $C$ — матрица размера $m$ $\times$ $k$ , а $R$ — матрица размера $k$ $\times$ $n$ . Фактически, для всех целых чисел $k$ следующие условия эквивалентны: $A=CR$

ранг столбца $A$ меньше или равен $k$ ,
существует $k$ столбцов размера $m$ таких, что каждый столбец $A$ представляет собой линейную комбинацию , $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$ $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$
существуют матрица $C$ и матрица $R$ такие, что (когда $k$ - ранг, это ранговая факторизация A $)$ , $m\times k$ $k\times n$ $A=CR$
существуют $k$ строк размера $n$ такие, что каждая строка $A$ представляет собой линейную комбинацию , $\mathbf {r} _{1},\ldots ,\mathbf {r} _{k}$ $\mathbf {r} _{1},\ldots ,\mathbf {r} _{k}$
ранг строки $A$ меньше или равен $k$ .

Действительно, очевидны следующие эквивалентности: . Например, чтобы доказать (3) из (2), в качестве $C$ возьмем матрицу, столбцы которой взяты из (2). Чтобы доказать (2) из (3), в качестве столбцов C возьмем $столбцы$ C . $(1)\Leftrightarrow (2)\Leftrightarrow (3)\Leftrightarrow (4)\Leftrightarrow (5)$ $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$ $\mathbf {c} _{1},\ldots ,\mathbf {c} _{k}$

Из эквивалентности следует , что ранг строки равен рангу столбца. $(1)\Leftrightarrow (5)$

Как и в случае с характеристикой «размерности изображения», это можно обобщить до определения ранга любого линейного отображения: ранг линейного отображения $f : V \to W$ — это минимальная размерность $k$ промежуточного пространства $X$ такого, что что $f$ можно записать как композицию отображения $V \to X$ и отображения $X \to W$ . К сожалению, это определение не предлагает эффективного способа вычисления ранга (для этого лучше использовать одно из альтернативных определений). Подробности см. в разделе факторизация рангов .

Ранжирование по сингулярным значениям

Ранг $A$ равен количеству ненулевых сингулярных значений , что совпадает с количеством ненулевых диагональных элементов в Σ в разложении по сингулярным значениям . $A=U\Sigma V^{*}$

Детерминантный ранг - размер наибольшего неисчезающего минора.

Ранг $A$ является наибольшим порядком любого ненулевого минора в $A$ . (Порядок минора — это длина стороны квадратной подматрицы, определителем которой он является.) Как и характеристика ранга разложения, это не дает эффективного способа вычисления ранга, но полезно теоретически: одиночный ненулевой минор свидетельствует о нижней границе (а именно о ее порядке) ранга матрицы, что может быть полезно (например) для доказательства того, что определенные операции не понижают ранг матрицы.

Ненулевой $p$ -минор ( подматрица $p \times p$ с ненулевым определителем) показывает, что строки и столбцы этой подматрицы линейно независимы, и, следовательно, эти строки и столбцы полной матрицы линейно независимы (в полной матрице). , поэтому ранг строки и столбца по крайней мере равен детерминантному рангу; однако обратное не так просто. Эквивалентность детерминантного ранга и ранга столбца является усилением утверждения о том, что если диапазон $n$ векторов имеет размерность $p$ , то $p$ этих векторов охватывают пространство (эквивалентно, что можно выбрать остовное множество, которое является подмножеством векторов ): эквивалентность подразумевает, что подмножество строк и подмножество столбцов одновременно определяют обратимую подматрицу (эквивалентно, если диапазон из $n$ векторов имеет размерность $p$ , то $p$ этих векторов охватывают пространство и существует набор из $p$ координаты, по которым они линейно независимы).

Тензорный ранг - минимальное количество простых тензоров.

Ранг $A$ — это наименьшее число $k$ , такое, что $A$ можно записать как сумму $k$ матриц ранга 1, где матрица имеет ранг 1 тогда и только тогда, когда ее можно записать как ненулевое произведение вектора-столбца $c.$ и вектор-строка $r$ . Это понятие ранга называется тензорным рангом ; его можно обобщить в интерпретации сепарабельных моделей разложения по сингулярным значениям . $c\cdot r$

Характеристики

Мы предполагаем, что $A$ — матрица размера $m \times n$ , и определяем линейное отображение $f$ как $f (x) = A x,$ как указано выше.

Ранг матрицы размера $m \times n$ является неотрицательным целым числом и не может быть больше $m$ или $n$ . То есть, $\operatorname {rank} (A)\leq \min(m,n).$ Говорят, что матрица, имеющая ранг $min(m, n), имеет$ полный ранг ; в противном случае матрица имеет недостаточный ранг .
Только нулевая матрица имеет нулевой ранг.
$f$ инъективен (или «один к одному») тогда и только тогда, когда A $имеет$ ранг $n$ (в этом случае мы говорим, что $A$ имеет полный ранг столбца ).
$f$ сюръективен (или «на») тогда и только тогда, когда A $имеет$ ранг $m$ (в этом случае мы говорим, что $A$ имеет полный ранг строки ).
Если $A$ — квадратная матрица (т. е. $m = n$ ), то $A$ обратима тогда и только тогда, когда A $имеет$ ранг $n$ (т. е. $A$ имеет полный ранг).
Если $B$ — любая матрица размера $n \times k$ , то $\operatorname {rank} (AB)\leq \min(\operatorname {rank} (A),\operatorname {rank} (B)).$
Если $B$ — матрица размера $n \times k$ $ранга n$ , то $\operatorname {rank} (AB)=\operatorname {rank} (A).$
Если $C$ — матрица размера $l \times m$ ранга $m$ , то $\operatorname {rank} (CA)=\operatorname {rank} (A).$
Ранг $A$ равен $r$ тогда и только тогда, когда существуют обратимая матрица $X размера$ $m \times m$ и обратимая матрица $Y размера$ $n$ $\times$ $n$ такие, что $XAY={\begin{bmatrix}I_{r}&0\\0&0\\\end{bmatrix}},$ где $I r$ обозначает единичную матрицу размера $r \times r$ .
Ранговое неравенство Сильвестра : если $A$ — $матрица размера m \times n$ , а $B$ — матрица размера $n \times k$ , то^[ii] $\operatorname {rank} (A)+\operatorname {rank} (B)-n\leq \operatorname {rank} (AB).$ Это частный случай следующего неравенства.
Неравенство Фробениуса : если $AB$ , $ABC$ и $BC$ определены, то ^[iii] $\operatorname {rank} (AB)+\operatorname {rank} (BC)\leq \operatorname {rank} (B)+\operatorname {rank} (ABC).$
Субаддитивность: $\operatorname {rank} (A+B)\leq \operatorname {rank} (A)+\operatorname {rank} (B)$ когда $A$ и $B$ имеют одинаковую размерность. Как следствие, матрица ранга $k$ может быть записана как сумма $k$ матриц ранга 1, но не меньше.
Ранг матрицы плюс нуль матрицы равны количеству столбцов матрицы. (Это теорема о ранге-нулевости .)
Если $A$ — матрица действительных чисел , то ранг $A$ и ранг соответствующей ей матрицы Грама равны. Таким образом, для вещественных матриц $\operatorname {rank} (A^{\mathrm {T} }A)=\operatorname {rank} (AA^{\mathrm {T} })=\operatorname {rank} (A)=\operatorname {rank} (A^{\mathrm {T} }).$ Это можно показать, доказав равенство их нулевых пространств . Нулевое пространство матрицы Грама задается векторами $x$ , для которых Если это условие выполнено, мы также имеем ^[11] $A^{\mathrm {T} }A\mathbf {x} =0.$ $0=\mathbf {x} ^{\mathrm {T} }A^{\mathrm {T} }A\mathbf {x} =\left|A\mathbf {x} \right|^{2}.$
Если $A$ — матрица комплексных чисел и обозначает комплексно-сопряженное число $A$ , а $A$ $* —$ сопряженное транспонированное число $A$ (т. е. сопряженное к $A$ ), то ${\overline {A}}$ $\operatorname {rank} (A)=\operatorname {rank} ({\overline {A}})=\operatorname {rank} (A^{\mathrm {T} })=\operatorname {rank} (A^{*})=\operatorname {rank} (A^{*}A)=\operatorname {rank} (AA^{*}).$

Приложения

Одним из полезных применений вычисления ранга матрицы является вычисление числа решений системы линейных уравнений . Согласно теореме Руше-Капелли , система несовместна, если ранг дополненной матрицы больше ранга матрицы коэффициентов . Если же ранги этих двух матриц равны, то система должна иметь хотя бы одно решение. Решение единственно тогда и только тогда, когда ранг равен числу переменных. В противном случае общее решение имеет $k$ свободных параметров, где $k$ — разница между количеством переменных и рангом. В этом случае (и при условии, что система уравнений имеет действительные или комплексные числа) система уравнений имеет бесконечно много решений.

В теории управления ранг матрицы можно использовать для определения того, является ли линейная система управляемой или наблюдаемой .

В области сложности связи ранг коммуникационной матрицы функции определяет границы объема связи, необходимой двум сторонам для вычисления функции.

Обобщение

Существуют различные обобщения понятия ранга на матрицы над произвольными кольцами , где ранг столбца, ранг строки, размерность пространства столбцов и размерность пространства строк матрицы могут отличаться от других или могут не существовать.

Если рассматривать матрицы как тензоры , то ранг тензора обобщается на произвольные тензоры; для тензоров порядка больше 2 (матрицы представляют собой тензоры порядка 2) ранг вычислить очень сложно, в отличие от матриц.

Существует понятие ранга гладких отображений между гладкими многообразиями . Он равен линейному рангу производной .

Матрицы как тензоры

Ранг матрицы не следует путать с тензорным порядком , который называется тензорным рангом. Тензорный порядок — это количество индексов, необходимых для записи тензора , и, таким образом, все матрицы имеют тензорный порядок 2. Точнее, матрицы — это тензоры типа (1,1), имеющие один индекс строки и один индекс столбца, также называемый ковариантным порядком 1. и контравариантный порядок 1; подробности см . в разделе Тензор (внутреннее определение) .

Тензорный ранг матрицы также может означать минимальное количество простых тензоров, необходимых для выражения матрицы в виде линейной комбинации, и что это определение согласуется с рангом матрицы, как здесь обсуждается.

Смотрите также

Примечания

^ Альтернативные обозначения включают Кацнельсона и Кацнельсона (2008, стр. 52, §2.5.1) и Халмоша (1974, стр. 90, § 50). $\rho (\Phi )$
^ Доказательство: примените теорему о ранге – недействительности к неравенству $\dim \ker(AB)\leq \dim \ker(A)+\dim \ker(B).$
^ Доказательство. Карта $C:\ker(ABC)/\ker(BC)\to \ker(AB)/\ker(B)$ является четко определенным и инъективным. Таким образом, мы получаем неравенство в терминах размерностей ядра, которое затем можно преобразовать в неравенство в терминах рангов с помощью теоремы о ранге–нулях . Альтернативно, если — линейное подпространство, то ; применить это неравенство к подпространству, определенному ортогональным дополнением образа в образе , размерность которого равна ; его изображение имеет размер . $M$ $\dim(AM)\leq \dim(M)$ $BC$ $B$ $\operatorname {rank} (B)-\operatorname {rank} (BC)$ $A$ $\operatorname {rank} (AB)-\operatorname {rank} (ABC)$

Источники

Экслер, Шелдон (2015). Линейная алгебра сделана правильно . Тексты для студентов по математике (3-е изд.). Спрингер . ISBN 978-3-319-11079-0.
Халмос, Пол Ричард (1974) [1958]. Конечномерные векторные пространства . Тексты для студентов по математике (2-е изд.). Спрингер . ISBN 0-387-90093-4.
Хефферон, Джим (2020). Линейная алгебра (4-е изд.). Ортогональная публикация L3C. ISBN 978-1-944325-11-4.
Кацнельсон, Ицхак ; Кацнельсон, Йонатан Р. (2008). (Краткое) Введение в линейную алгебру . Американское математическое общество . ISBN 978-0-8218-4419-9.
Роман, Стивен (2005). Продвинутая линейная алгебра . Тексты для студентов по математике (2-е изд.). Спрингер . ISBN 0-387-24766-1.
Валенца, Роберт Дж. (1993) [1951]. Линейная алгебра: введение в абстрактную математику . Тексты для студентов по математике (3-е изд.). Спрингер . ISBN 3-540-94099-5.

дальнейшее чтение

Роджер А. Хорн и Чарльз Р. Джонсон (1985). Матричный анализ . Издательство Кембриджского университета. ISBN 978-0-521-38632-6.
Кау, Аутар К. Две главы из книги «Введение в матричную алгебру»: 1. Векторы [1] и система уравнений [2]
Майк Брукс: Справочное руководство по матрицам. [3]