Векторизация (математика)

Преобразование матрицы или тензора в вектор

В математике , особенно в линейной алгебре и теории матриц , векторизация матрицы — это линейное преобразование , которое преобразует матрицу в вектор . В частности, векторизация матрицы A размером m × n , обозначаемая vec( A ), — это вектор-столбец размером mn × 1, полученный путем наложения столбцов матрицы A друг на друга: Здесь представляет элемент в i -й строке и j -м столбце матрицы A , а верхний индекс обозначает транспонирование . Векторизация выражает через координаты изоморфизм между ними (т. е. матрицами и векторами) как векторными пространствами. $${\displaystyle \operatorname {vec} (A)=[a_{1,1},\ldots ,a_{m,1},a_{1,2},\ldots ,a_{m,2},\ldots ,a_{1,n},\ldots ,a_{m,n}]^{\mathrm {T} }}$$ ${\displaystyle a_{i,j}}$ ${\displaystyle {}^{\mathrm {T} }}$ ${\displaystyle \mathbf {R} ^{m\times n}:=\mathbf {R} ^{m}\otimes \mathbf {R} ^{n}\cong \mathbf {R} ^{mn}}$

Например, для матрицы 2×2 векторизация будет иметь вид . ${\displaystyle A={\begin{bmatrix}a&b\\c&d\end{bmatrix}}}$ ${\displaystyle \operatorname {vec} (A)={\begin{bmatrix}a\\c\\b\\d\end{bmatrix}}}$

Связь между векторизацией A и векторизацией ее транспонирования задается матрицей коммутации .

Совместимость с продукцией Kronecker

Векторизация часто используется вместе с произведением Кронекера для выражения умножения матриц как линейного преобразования матриц. В частности, для матриц A , B , и C размерностей k × l , l × m , и m × n . ^{[примечание 1]} Например, если ( сопряженный эндоморфизм алгебры Ли gl( n , C ) всех матриц размера n × n с комплексными элементами), то , где — единичная матрица размера n × n . $${\displaystyle \operatorname {vec} (ABC)=(C^{\mathrm {T} }\otimes A)\operatorname {vec} (B)}$$ ${\displaystyle \operatorname {ad} _{A}(X)=AX-XA}$ ${\displaystyle \operatorname {vec} (\operatorname {ad} _{A}(X))=(I_{n}\otimes A-A^{\mathrm {T} }\otimes I_{n}){\text{vec}}(X)}$ ${\displaystyle I_{n}}$

Есть еще две полезные формулировки: $${\displaystyle {\begin{aligned}\operatorname {vec} (ABC)&=(I_{n}\otimes AB)\operatorname {vec} (C)=(C^{\mathrm {T} }B^{\mathrm {T} }\otimes I_{k})\operatorname {vec} (A)\\\operatorname {vec} (AB)&=(I_{m}\otimes A)\operatorname {vec} (B)=(B^{\mathrm {T} }\otimes I_{k})\operatorname {vec} (A)\end{aligned}}}$$

В более общем плане было показано, что векторизация представляет собой самоприсоединение в моноидальной замкнутой структуре любой категории матриц. ^[1]

Совместимость с продукцией компании Adamard

Векторизация — это гомоморфизм алгебры из пространства матриц n × n с произведением Адамара (поэлементно) в C ^{n 2} с его произведением Адамара: $${\displaystyle \operatorname {vec} (A\circ B)=\operatorname {vec} (A)\circ \operatorname {vec} (B).}$$

Совместимость с внутренними продуктами

Векторизация — это унитарное преобразование из пространства матриц n × n со скалярным произведением Фробениуса (или Гильберта–Шмидта ) в C ^{n 2} : где верхний индекс ^† обозначает сопряженное транспонирование . $${\displaystyle \operatorname {tr} (A^{\dagger }B)=\operatorname {vec} (A)^{\dagger }\operatorname {vec} (B),}$$

Векторизация как линейная сумма

Операция векторизации матрицы может быть записана в терминах линейной суммы. Пусть X будет матрицей m × n , которую мы хотим векторизовать, и пусть e _i будет i -м каноническим базисным вектором для n -мерного пространства, то есть . Пусть B _i будет блочной матрицей ( mn ) × m , определенной следующим образом: ${\textstyle \mathbf {e} _{i}=\left[0,\dots ,0,1,0,\dots ,0\right]^{\mathrm {T} }}$ $${\displaystyle \mathbf {B} _{i}={\begin{bmatrix}\mathbf {0} \\\vdots \\\mathbf {0} \\\mathbf {I} _{m}\\\mathbf {0} \\\vdots \\\mathbf {0} \end{bmatrix}}=\mathbf {e} _{i}\otimes \mathbf {I} _{m}}$$

B _i состоит из n блочных матриц размером m × m , расположенных по столбцам, и все эти матрицы равны нулю, за исключением i - й, которая является единичной матрицей I m размером m × _m .

Тогда векторизованную версию X можно выразить следующим образом: $${\displaystyle \operatorname {vec} (\mathbf {X} )=\sum _{i=1}^{n}\mathbf {B} _{i}\mathbf {X} \mathbf {e} _{i}}$$

Умножение X на e _i извлекает i -й столбец, тогда как умножение на B _i помещает его в нужную позицию в конечном векторе.

Альтернативно линейную сумму можно выразить с помощью произведения Кронекера : $${\displaystyle \operatorname {vec} (\mathbf {X} )=\sum _{i=1}^{n}\mathbf {e} _{i}\otimes \mathbf {X} \mathbf {e} _{i}}$$

Полувекторизация

Для симметричной матрицы A вектор vec( A ) содержит больше информации, чем строго необходимо, поскольку матрица полностью определяется симметрией вместе с нижней треугольной частью, то есть n ( n + 1)/2 элементами на главной диагонали и ниже . Для таких матриц полувекторизация иногда более полезна, чем векторизация. Полувекторизация vech( A ) симметричной n × n матрицы A — это вектор-столбец n ( n + 1)/2 × 1, полученный векторизацией только нижней треугольной части A : $${\displaystyle \operatorname {vech} (A)=[A_{1,1},\ldots ,A_{n,1},A_{2,2},\ldots ,A_{n,2},\ldots ,A_{n-1,n-1},A_{n,n-1},A_{n,n}]^{\mathrm {T} }.}$$

Например, для матрицы 2×2 полувекторизация равна . ${\displaystyle A={\begin{bmatrix}a&b\\b&d\end{bmatrix}}}$ ${\displaystyle \operatorname {vech} (A)={\begin{bmatrix}a\\b\\d\end{bmatrix}}}$

Существуют уникальные матрицы, преобразующие полувекторизацию матрицы в ее векторизацию и наоборот, называемые, соответственно, матрицей удвоения и матрицей исключения .

Язык программирования

Языки программирования, реализующие матрицы, могут иметь простые средства для векторизации. В Matlab / GNU Octave матрица Aможет быть векторизована с помощью A(:). GNU Octave также допускает векторизацию и полувекторизацию с помощью vec(A)и vech(A)соответственно. У Juliavec(A) также есть функция . В Python массивы NumPy реализуют flattenметод ^{[примечание 1],} тогда как в R желаемый эффект может быть достигнут с помощью функций c()или as.vector(). В R функция vec()пакета 'ks' допускает векторизацию, а функция, vech()реализованная в обоих пакетах 'ks' и 'sn', допускает полувекторизацию. ^{[2] [3] [4]}

Приложения

Векторизация используется в матричном исчислении и его приложениях для установления, например, моментов случайных векторов и матриц, асимптотик, а также матриц Якоби и Гессе. ^[5] Она также используется в локальной чувствительности и статистической диагностике. ^[6]

Примечания

1. Идентификатор векторизации по строкам: . ${\displaystyle \operatorname {vec} (ABC)=(A\otimes C^{\mathrm {T} })\operatorname {vec} (B)}$

Смотрите также

• Матрицы дублирования и исключения
• нотация Фойгта
• Упакованная матрица хранения
• Поколонный порядок
• Матризация

Ссылки

1. Маседо, HD; Оливейра, JN (2013). «Ввод линейной алгебры: подход, ориентированный на бипродукт». Science of Computer Programming . 78 (11): 2160–2191. arXiv : 1312.4818 . doi : 10.1016/j.scico.2012.07.012. S2CID  9846072.
2. Дуонг, Тарн (2018). "ks: Kernel Smoothing". Версия пакета R 1.11.0 .
3. Azzalini, Adelchi (2017). "Пакет R 'sn': асимметрично-нормальное и родственные распределения, такие как асимметричное t". Версия пакета R 1.5.1 .
4. Винод, Хришикеш Д. (2011). «Одновременное сокращение и укладка векторов». Практическая матричная алгебра с использованием R: активное и мотивированное обучение с приложениями . Сингапур: World Scientific. стр. 233–248. ISBN 978-981-4313-69-8– через Google Книги .
5. Магнус, Ян; Нойдекер, Хайнц (2019). Матричное дифференциальное исчисление с приложениями в статистике и эконометрике . Нью-Йорк: John Wiley. ISBN 9781119541202.
6. Лю, Шуанчжэ; Лейва, Виктор; Чжуан, Дэн; Ма, Тиефенг; Фигероа-Сунига, Хорхе И. (март 2022 г.). «Матричное дифференциальное исчисление с приложениями в многомерной линейной модели и его диагностика». Журнал многомерного анализа . 188 : 104849. doi : 10.1016/j.jmva.2021.104849 .