Продукт Кронекера

Математические операции над матрицами

В математике произведение Кронекера , иногда обозначаемое ⊗, представляет собой операцию над двумя матрицами произвольного размера, в результате которой получается блочная матрица . Это специализация тензорного произведения (обозначаемого тем же символом) от векторов к матрицам и дающая линейное отображение матрицы тензорного произведения относительно стандартного выбора базиса . Произведение Кронекера следует отличать от обычного умножения матриц , которое представляет собой совершенно другую операцию. Произведение Кронекера также иногда называют прямым произведением матрицы . ^[1]

Произведение Кронекера названо в честь немецкого математика Леопольда Кронекера (1823–1891), хотя существует мало свидетельств того, что он первым определил и использовал его. Произведение Кронекера также называли матрицей Цефуса , а произведением Цефуса — в честь Иоганна Георга Зефуса  [де] , который в 1858 году описал эту матричную операцию, но произведение Кронекера в настоящее время является наиболее широко используемым термином. ^{[2] [3]} Неправильная атрибуция Кронекера, а не Зефуса, произошла из-за Курта Хензеля . ^[4]

Определение

Если A — матрица размера m × n , а B — матрица размера p × q , то произведение Кронекера A ⊗ B — это блочная матрица размера pm × qn :

${\displaystyle \mathbf {A} \otimes \mathbf {B} ={\begin{bmatrix}a_{11}\mathbf {B} &\cdots &a_{1n}\mathbf {B} \\\vdots &\ddots &\vdots \\a_{m1}\mathbf {B} &\cdots &a_{mn}\mathbf {B} \end{bmatrix}},}$

более явно:

${\displaystyle {\mathbf {A} \otimes \mathbf {B} }={\begin{bmatrix}a_{11}b_{11}&a_{11}b_{12}&\cdots &a_{11}b_{1q}&\cdots &\cdots &a_{1n}b_{11}&a_{1n}b_{12}&\cdots &a_{1n}b_{1q}\\a_{11}b_{21}&a_{11}b_{22}&\cdots &a_{11}b_{2q}&\cdots &\cdots &a_{1n}b_{21}&a_{1n}b_{22}&\cdots &a_{1n}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{11}b_{p1}&a_{11}b_{p2}&\cdots &a_{11}b_{pq}&\cdots &\cdots &a_{1n}b_{p1}&a_{1n}b_{p2}&\cdots &a_{1n}b_{pq}\\\vdots &\vdots &&\vdots &\ddots &&\vdots &\vdots &&\vdots \\\vdots &\vdots &&\vdots &&\ddots &\vdots &\vdots &&\vdots \\a_{m1}b_{11}&a_{m1}b_{12}&\cdots &a_{m1}b_{1q}&\cdots &\cdots &a_{mn}b_{11}&a_{mn}b_{12}&\cdots &a_{mn}b_{1q}\\a_{m1}b_{21}&a_{m1}b_{22}&\cdots &a_{m1}b_{2q}&\cdots &\cdots &a_{mn}b_{21}&a_{mn}b_{22}&\cdots &a_{mn}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{p1}&a_{m1}b_{p2}&\cdots &a_{m1}b_{pq}&\cdots &\cdots &a_{mn}b_{p1}&a_{mn}b_{p2}&\cdots &a_{mn}b_{pq}\end{bmatrix}}.}$

Используя и для обозначения усечения целочисленного деления и остатка соответственно и нумеруя элементы матрицы, начиная с 0, получаем ${\displaystyle /\!/}$ ${\displaystyle \%}$

${\displaystyle (A\otimes B)_{pr+v,qs+w}=a_{rs}b_{vw}}$

${\displaystyle (A\otimes B)_{i,j}=a_{i/\!/p,j/\!/q}b_{i\%p,j\%q}.}$

Для обычной нумерации, начиная с 1, получаем

${\displaystyle (A\otimes B)_{p(r-1)+v,q(s-1)+w}=a_{rs}b_{vw}}$

${\displaystyle (A\otimes B)_{i,j}=a_{\lceil i/p\rceil ,\lceil j/q\rceil }b_{(i-1)\%p+1,(j-1)\%q+1}.}$

Если A и B представляют линейные преобразования V ₁ → W ₁ и V ₂ → W ₂ соответственно, то тензорное произведение двух отображений представляется как A ⊗ B , что то же самое, что V ₁ ⊗ V ₂ → W ₁ ⊗ В ₂ .

Примеры

${\displaystyle {\begin{bmatrix}1&2\\3&4\\\end{bmatrix}}\otimes {\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}={\begin{bmatrix}1{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}&2{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}\\3{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}&4{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}\\\end{bmatrix}}=\left[{\begin{array}{cc|cc}1\times 0&1\times 5&2\times 0&2\times 5\\1\times 6&1\times 7&2\times 6&2\times 7\\\hline 3\times 0&3\times 5&4\times 0&4\times 5\\3\times 6&3\times 7&4\times 6&4\times 7\\\end{array}}\right]=\left[{\begin{array}{cc|cc}0&5&0&10\\6&7&12&14\\\hline 0&15&0&20\\18&21&24&28\end{array}}\right].}$

Сходным образом:

${\displaystyle {\begin{bmatrix}1&-4&7\\-2&3&3\end{bmatrix}}\otimes {\begin{bmatrix}8&-9&-6&5\\1&-3&-4&7\\2&8&-8&-3\\1&2&-5&-1\end{bmatrix}}=\left[{\begin{array}{cccc|cccc|cccc}8&-9&-6&5&-32&36&24&-20&56&-63&-42&35\\1&-3&-4&7&-4&12&16&-28&7&-21&-28&49\\2&8&-8&-3&-8&-32&32&12&14&56&-56&-21\\1&2&-5&-1&-4&-8&20&4&7&14&-35&-7\\\hline -16&18&12&-10&24&-27&-18&15&24&-27&-18&15\\-2&6&8&-14&3&-9&-12&21&3&-9&-12&21\\-4&-16&16&6&6&24&-24&-9&6&24&-24&-9\\-2&-4&10&2&3&6&-15&-3&3&6&-15&-3\end{array}}\right]}$

Характеристики

Связь с другими матричными операциями

1. Билинейность и ассоциативность :

   Произведение Кронекера является частным случаем тензорного произведения , поэтому оно билинейно и ассоциативно :

   ${\displaystyle {\begin{aligned}\mathbf {A} \otimes (\mathbf {B} +\mathbf {C} )&=\mathbf {A} \otimes \mathbf {B} +\mathbf {A} \otimes \mathbf {C} ,\\(\mathbf {B} +\mathbf {C} )\otimes \mathbf {A} &=\mathbf {B} \otimes \mathbf {A} +\mathbf {C} \otimes \mathbf {A} ,\\(k\mathbf {A} )\otimes \mathbf {B} &=\mathbf {A} \otimes (k\mathbf {B} )=k(\mathbf {A} \otimes \mathbf {B} ),\\(\mathbf {A} \otimes \mathbf {B} )\otimes \mathbf {C} &=\mathbf {A} \otimes (\mathbf {B} \otimes \mathbf {C} ),\\\mathbf {A} \otimes \mathbf {0} &=\mathbf {0} \otimes \mathbf {A} =\mathbf {0} ,\end{aligned}}}$

   где A , B и C — матрицы, 0 — нулевая матрица, а k — скаляр.
2. Некоммутативный : _

   В общем случае A ⊗ B и B ⊗ A — разные матрицы. Однако A ⊗ B и B ⊗ A эквивалентны перестановкам, что означает, что существуют матрицы перестановок P и Q такие, что ^[5]

   ${\displaystyle \mathbf {B} \otimes \mathbf {A} =\mathbf {P} \,(\mathbf {A} \otimes \mathbf {B} )\,\mathbf {Q} .}$

   Если A и B — квадратные матрицы, то A ⊗ B и B ⊗ A являются четными перестановками, подобными , что означает, что мы можем взять P = Q ^T .

   Матрицы P и Q являются матрицами идеального тасования. ^[6] Идеальная матрица тасования Sp _{, q} может быть построена путем взятия срезов единичной _{матрицы} I _r , где . ${\displaystyle r=pq}$

   ${\displaystyle \mathbf {S} _{p,q}={\begin{bmatrix}\mathbf {I} _{r}(1:q:r,:)\\\mathbf {I} _{r}(2:q:r,:)\\\vdots \\\mathbf {I} _{r}(q:q:r,:)\end{bmatrix}}}$

   Обозначение двоеточия MATLAB используется здесь для обозначения подматриц, а I _r — единичная матрица размера r × r . Если и , то ${\displaystyle \mathbf {A} \in \mathbb {R} ^{m_{1}\times n_{1}}}$ ${\displaystyle \mathbf {B} \in \mathbb {R} ^{m_{2}\times n_{2}}}$

   ${\displaystyle \mathbf {B} \otimes \mathbf {A} =\mathbf {S} _{m_{1},m_{2}}(\mathbf {A} \otimes \mathbf {B} )\mathbf {S} _{n_{1},n_{2}}^{\textsf {T}}}$

3. Свойство смешанного продукта:

   Если A , B , C и D — матрицы такого размера, что можно образовать матричные произведения AC и BD , то ^[7]

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )(\mathbf {C} \otimes \mathbf {D} )=(\mathbf {AC} )\otimes (\mathbf {BD} ).}$

   Это называется свойством смешанного произведения , поскольку оно смешивает обычный матричный продукт и продукт Кронекера.

   Как непосредственное следствие,

   ${\displaystyle \mathbf {A} \otimes \mathbf {B} =(\mathbf {I_{m_{1}}} \otimes \mathbf {B} )(\mathbf {A} \otimes \mathbf {I_{n_{2}}} )=(\mathbf {A} \otimes \mathbf {I_{m_{2}}} )(\mathbf {I_{n_{1}}} \otimes \mathbf {B} ).}$

   В частности, используя свойство транспонирования снизу, это означает, что если

   ${\displaystyle \mathbf {A} =\mathbf {Q} \otimes \mathbf {U} }$

   и Q и U ортогональны (или унитарны ), то A также ортогональна (соответственно унитарна).

   Смешанное матрично-векторное произведение Кронекера можно записать как:

   ${\displaystyle \left(\mathbf {A} \otimes \mathbf {B} \right)\operatorname {vec} \left(\mathbf {V} \right)=\operatorname {vec} (\mathbf {B} \mathbf {V} \mathbf {A} ^{T})}$

   где применяется оператор векторизации (сформированный путем изменения формы матрицы). ${\displaystyle \operatorname {vec} (\mathbf {V} )}$ ${\displaystyle \mathbf {V} }$
4. Произведение Адамара (поэлементное умножение):

   Свойство смешанного продукта также работает для поэлементного продукта. Если A и C — матрицы одного размера, B и D — матрицы одного размера, то ^[7]

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )\circ (\mathbf {C} \otimes \mathbf {D} )=(\mathbf {A} \circ \mathbf {C} )\otimes (\mathbf {B} \circ \mathbf {D} ).}$

5. Обратное произведение Кронекера:

   Отсюда следует, что A ⊗ B обратимо тогда и только тогда, когда оба A и B обратимы, и в этом случае обратное задается формулой

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{-1}=\mathbf {A} ^{-1}\otimes \mathbf {B} ^{-1}.}$

   Свойство обратимого произведения справедливо и для псевдообратного Мура–Пенроуза ^{[7] [8]} , т.е.

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{+}=\mathbf {A} ^{+}\otimes \mathbf {B} ^{+}.}$

   На языке теории категорий свойство смешанного произведения произведения Кронекера (и более общего тензорного произведения) показывает, что категория Mat _F матриц над полем F на самом деле является моноидальной категорией с натуральными числами объектов n и морфизмами. n → m — это матрицы размера n × m с элементами в F , композиция задаётся умножением матриц, единичные стрелки — это просто единичные матрицы I n размера n × _n , а тензорное произведение задаётся произведением Кронекера. ^[9]

   Mat _F — это конкретная скелетная категория для эквивалентной категории FinVect _F конечномерных векторных пространств над F , объектами которой являются такие конечномерные векторные пространства V , стрелки — это F -линейные отображения L  : V → W , а тождественные стрелки — это тождественные отображения. пространств. Эквивалентность категорий сводится к одновременному выбору базиса в каждом конечномерном векторном пространстве V над F ; элементы матриц представляют эти отображения относительно выбранных базисов; и аналогично произведение Кронекера является представлением тензорного произведения в выбранных базисах.
6. Транспонировать :

   Транспозиция и сопряженная транспозиция дистрибутивны по произведению Кронекера:

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{\textsf {T}}=\mathbf {A} ^{\textsf {T}}\otimes \mathbf {B} ^{\textsf {T}}}$и ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{*}=\mathbf {A} ^{*}\otimes \mathbf {B} ^{*}.}$

7. Определитель :

   Пусть A — матрица размера n × n , а B — матрица размера m × m . Затем

   ${\displaystyle \left|\mathbf {A} \otimes \mathbf {B} \right|=\left|\mathbf {A} \right|^{m}\left|\mathbf {B} \right|^{n}.}$

   Показатель в | А | — порядок B и показатель степени в | Б | это заказ А.
8. Сумма Кронекера и возведение в степень :

   Если A равно n × n , B равно m × m , а I _k обозначает единичную матрицу k × k , то мы можем определить то, что иногда называют суммой Кронекера , ⊕, по формуле

   ${\displaystyle \mathbf {A} \oplus \mathbf {B} =\mathbf {A} \otimes \mathbf {I} _{m}+\mathbf {I} _{n}\otimes \mathbf {B} .}$

   Это отличается от прямой суммы двух матриц. Эта операция связана с тензорным произведением на алгебрах Ли , как подробно описано ниже (#Абстрактные свойства) в пункте «Связь с абстрактным тензорным произведением ».

   У нас есть следующая формула для матричной экспоненты , которая полезна в некоторых числовых оценках. ^[10]

   ${\displaystyle \exp({\mathbf {N} \oplus \mathbf {M} })=\exp(\mathbf {N} )\otimes \exp(\mathbf {M} )}$

   Суммы Кронекера естественным образом возникают в физике при рассмотрении ансамблей невзаимодействующих систем . ^{[ нужна цитата ]} Пусть H ^k будет гамильтонианом k- й такой системы. Тогда полный гамильтониан ансамбля равен

   ${\displaystyle H_{\mathrm {Tot} }=\bigoplus _{k}H^{k}.}$

9. Векторизация произведения Кронекера:

   Пусть будет матрица и матрица . Когда порядок произведения Кронекера и векторизация меняются местами, эти две операции могут быть связаны линейно через функцию, которая включает в себя матрицу коммутации . То есть и имеют следующие отношения: ${\displaystyle A}$ ${\displaystyle m\times n}$ ${\displaystyle B}$ ${\displaystyle p\times q}$ ${\displaystyle \mathrm {vec} (\mathrm {Kron} (A,B))}$ ${\displaystyle \mathrm {Kron} (\mathrm {vec} A,\mathrm {vec} B)}$

   ${\displaystyle \mathrm {vec} (A\otimes B)=(I_{n}\otimes K_{qm}\otimes I_{q})(\mathrm {vec} A\otimes \mathrm {vec} B).}$

   Более того, приведенное выше соотношение может быть переписано либо следующим образом: ${\displaystyle \mathrm {vec} A}$ ${\displaystyle \mathrm {vec} B}$

   ${\displaystyle \mathrm {vec} (A\otimes B)=(I_{n}\otimes G)\mathrm {vec} A=(H\otimes I_{p})\mathrm {vec} B,}$

   где

   ${\displaystyle G=(K_{qm}\otimes I_{p})(I_{m}\otimes \mathrm {vec} B){\text{ and }}H=(I_{n}\otimes K_{qm})(\mathrm {vec} A\otimes I_{q}).}$

10. Внешний продукт :
    Если и являются произвольными векторами, то внешний продукт между и определяется как . Произведение Кронекера связано с внешним произведением соотношением: . ${\displaystyle x\in \mathbb {R} ^{n}}$ ${\displaystyle y\in \mathbb {R} ^{m}}$ ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle xy^{T}}$ ${\displaystyle y\otimes x=\mathrm {vec} (xy^{T})}$

Абстрактные свойства

1. Спектр :

   Предположим, что A и B — квадратные матрицы размера n и m соответственно. Пусть λ ₁ , ..., λ _n — собственные значения оператора A , а µ ₁ , ..., µ _m — собственные значения B (перечислены в соответствии с кратностью ). Тогда собственные значения оператора A ⊗ B равны

   ${\displaystyle \lambda _{i}\mu _{j},\qquad i=1,\ldots ,n,\,j=1,\ldots ,m.}$

   Отсюда следует, что след и определитель произведения Кронекера имеют вид

   ${\displaystyle \operatorname {tr} (\mathbf {A} \otimes \mathbf {B} )=\operatorname {tr} \mathbf {A} \,\operatorname {tr} \mathbf {B} \quad {\text{and}}\quad \det(\mathbf {A} \otimes \mathbf {B} )=(\det \mathbf {A} )^{m}(\det \mathbf {B} )^{n}.}$

2. Сингулярные значения :

   Если A и B — прямоугольные матрицы, то можно рассматривать их сингулярные значения . Предположим, что A имеет r _A ненулевые сингулярные значения, а именно

   ${\displaystyle \sigma _{\mathbf {A} ,i},\qquad i=1,\ldots ,r_{\mathbf {A} }.}$

   Аналогично обозначим ненулевые сингулярные значения B через

   ${\displaystyle \sigma _{\mathbf {B} ,i},\qquad i=1,\ldots ,r_{\mathbf {B} }.}$

   Тогда произведение Кронекера A ⊗ B имеет r _A r _B ненулевые сингулярные значения, а именно

   ${\displaystyle \sigma _{\mathbf {A} ,i}\sigma _{\mathbf {B} ,j},\qquad i=1,\ldots ,r_{\mathbf {A} },\,j=1,\ldots ,r_{\mathbf {B} }.}$

   Поскольку ранг матрицы равен числу ненулевых сингулярных значений, мы находим, что

   ${\displaystyle \operatorname {rank} (\mathbf {A} \otimes \mathbf {B} )=\operatorname {rank} \mathbf {A} \,\operatorname {rank} \mathbf {B} .}$

3. Отношение к абстрактному тензорному произведению :

   Кронекеровское произведение матриц соответствует абстрактному тензорному произведению линейных отображений. В частности, если векторные пространства V , W , X и Y имеют базы { v ₁ , ..., v _m }, { w ₁ , ..., w _n }, { x ₁ , ..., x _d } и { y ₁ , ..., y _e } соответственно, и если матрицы A и B представляют собой линейные преобразования S  : V → X и T  : W → Y соответственно в соответствующих базисах, то матрица A ⊗ B представляет тензорное произведение двух отображений S ⊗ T  : V ⊗ W → X ⊗ Y относительно базиса { v ₁ ⊗ w ₁ , v ₁ ⊗ w ₂ , ..., v ₂ ⊗ w ₁ , ..., v _m ⊗ w _n } V ⊗ W и аналогично определенный базис X ⊗ Y со свойством A ⊗ B ( v _i ⊗ w _j ) = ( Av _i ) ⊗ ( Bw _j ) , где i и j — целые числа в правильном диапазоне. ^[11]

   Когда V и W — алгебры Ли , а S  : V → V и T  : W → W — гомоморфизмы алгебры Ли , сумма Кронекера A и B представляет собой индуцированные гомоморфизмы алгебры Ли V ⊗ W → V ⊗ W. ^{[ нужна цитата ]}
4. Отношение к произведениям графов :
   Кронекеровское произведение матриц смежности двух графов является матрицей смежности графа тензорного произведения . Сумма Кронекера матриц смежности двух графов представляет собой матрицу смежности графа декартового произведения . ^[12]

Матричные уравнения

Произведение Кронекера можно использовать для получения удобного представления некоторых матричных уравнений. Рассмотрим, например, уравнение AXB = C , где A , B и C — заданные матрицы, а матрица X — неизвестная. Мы можем использовать «трюк vec», чтобы переписать это уравнение как

${\displaystyle \left(\mathbf {B} ^{\textsf {T}}\otimes \mathbf {A} \right)\,\operatorname {vec} (\mathbf {X} )=\operatorname {vec} (\mathbf {AXB} )=\operatorname {vec} (\mathbf {C} ).}$

Здесь vec( X ) обозначает векторизацию матрицы X, сформированную путем укладки столбцов X в один вектор-столбец .

Теперь из свойств произведения Кронекера следует, что уравнение AXB = C имеет единственное решение тогда и только тогда, когда A и B обратимы (Horn & Johnson 1991, лемма 4.3.1).

Если X и C упорядочены по строкам в вектор-столбцы u и v соответственно, тогда (Джейн 1989, 2.8 Блочные матрицы и произведения Кронекера)

${\displaystyle \mathbf {v} =\left(\mathbf {A} \otimes \mathbf {B} ^{\textsf {T}}\right)\mathbf {u} .}$

Причина в том, что

${\displaystyle \mathbf {v} =\operatorname {vec} \left((\mathbf {AXB} )^{\textsf {T}}\right)=\operatorname {vec} \left(\mathbf {B} ^{\textsf {T}}\mathbf {X} ^{\textsf {T}}\mathbf {A} ^{\textsf {T}}\right)=\left(\mathbf {A} \otimes \mathbf {B} ^{\textsf {T}}\right)\operatorname {vec} \left(\mathbf {X^{\textsf {T}}} \right)=\left(\mathbf {A} \otimes \mathbf {B} ^{\textsf {T}}\right)\mathbf {u} .}$

Приложения

Пример применения этой формулы смотрите в статье об уравнении Ляпунова . Эта формула также пригодится, чтобы показать, что матричное нормальное распределение является частным случаем многомерного нормального распределения . Эта формула также полезна для представления операций обработки двумерных изображений в матрично-векторной форме.

Другой пример: когда матрицу можно разложить как произведение Кронекера, тогда умножение матрицы можно выполнить быстрее, используя приведенную выше формулу. Это можно применять рекурсивно, как это делается в БПФ по основанию 2 и быстром преобразовании Уолша-Адамара . Разбиение известной матрицы на произведение Кронекера двух меньших матриц известно как проблема «ближайшего произведения Кронекера» и может быть решено точно ^[13] с помощью SVD . Оптимальное разделение матрицы на произведение Кронекера более чем двух матриц является сложной проблемой и предметом текущих исследований; некоторые авторы называют это проблемой тензорного разложения. ^{[14] [15]}

В сочетании с методом наименьших квадратов произведение Кронекера можно использовать как точное решение задачи калибровки «рука-глаз» . ^[16]

Связанные матричные операции

Две связанные матричные операции — это произведения Трейси–Сингха и Хатри–Рао , которые работают с разделенными матрицами . Пусть матрица A m × n разбита на блоки A _ij m _i × n _j , а матрица B p × q на блоки B _kl p _k × q _ℓ , при этом, конечно, Σ _i m _i = m , Σ _j n _j знак равно п , Σ _k п _k знак равно п и Σ _ℓ q _ℓ знак равно q .

Продукт Трейси – Сингха

Произведение Трейси –Сингха определяется как ^{[17] [18] [19]}

${\displaystyle \mathbf {A} \circ \mathbf {B} =\left(\mathbf {A} _{ij}\circ \mathbf {B} \right)_{ij}=\left(\left(\mathbf {A} _{ij}\otimes \mathbf {B} _{kl}\right)_{kl}\right)_{ij}}$

что означает, что ( ij )-й подблок произведения mp × nq A B представляет ${\displaystyle \circ }$ собой матрицу m _i p × n _j q A _ij B ${\displaystyle \circ }$ , из которой ( kℓ )-й подблок равен m _i p _k × n _j q _ℓ матрица А _ij ⊗ B _kℓ . По сути, произведение Трейси-Сингха представляет собой попарное произведение Кронекера для каждой пары разбиений в двух матрицах.

Например, если A и B представляют собой разделенные матрицы размером 2 × 2, например:

${\displaystyle \mathbf {A} =\left[{\begin{array}{c | c}\mathbf {A} _{11}&\mathbf {A} _{12}\\\hline \mathbf {A} _{21}&\mathbf {A} _{22}\end{array}}\right]=\left[{\begin{array}{c c | c}1&2&3\\4&5&6\\\hline 7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {B} _{11}&\mathbf {B} _{12}\\\hline \mathbf {B} _{21}&\mathbf {B} _{22}\end{array}}\right]=\left[{\begin{array}{c | c c}1&4&7\\\hline 2&5&8\\3&6&9\end{array}}\right],}$

мы получаем:

${\displaystyle {\begin{aligned}\mathbf {A} \circ \mathbf {B} ={}&\left[{\begin{array}{c | c}\mathbf {A} _{11}\circ \mathbf {B} &\mathbf {A} _{12}\circ \mathbf {B} \\\hline \mathbf {A} _{21}\circ \mathbf {B} &\mathbf {A} _{22}\circ \mathbf {B} \end{array}}\right]\\={}&\left[{\begin{array}{c | c | c | c}\mathbf {A} _{11}\otimes \mathbf {B} _{11}&\mathbf {A} _{11}\otimes \mathbf {B} _{12}&\mathbf {A} _{12}\otimes \mathbf {B} _{11}&\mathbf {A} _{12}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{11}\otimes \mathbf {B} _{21}&\mathbf {A} _{11}\otimes \mathbf {B} _{22}&\mathbf {A} _{12}\otimes \mathbf {B} _{21}&\mathbf {A} _{12}\otimes \mathbf {B} _{22}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{11}&\mathbf {A} _{21}\otimes \mathbf {B} _{12}&\mathbf {A} _{22}\otimes \mathbf {B} _{11}&\mathbf {A} _{22}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{21}&\mathbf {A} _{21}\otimes \mathbf {B} _{22}&\mathbf {A} _{22}\otimes \mathbf {B} _{21}&\mathbf {A} _{22}\otimes \mathbf {B} _{22}\end{array}}\right]\\={}&\left[{\begin{array}{c c | c c c c | c | c c}1&2&4&7&8&14&3&12&21\\4&5&16&28&20&35&6&24&42\\\hline 2&4&5&8&10&16&6&15&24\\3&6&6&9&12&18&9&18&27\\8&10&20&32&25&40&12&30&48\\12&15&24&36&30&45&18&36&54\\\hline 7&8&28&49&32&56&9&36&63\\\hline 14&16&35&56&40&64&18&45&72\\21&24&42&63&48&72&27&54&81\end{array}}\right].\end{aligned}}}$

Продукт Хатри-Рао

• Блок-продукт Кронекера
• Столбцовый продукт Хатри – Рао

Продукт для разделения лица

Свойства смешанных продуктов ^[20]

${\displaystyle \mathbf {A} \otimes (\mathbf {B} \bullet \mathbf {C} )=(\mathbf {A} \otimes \mathbf {B} )\bullet \mathbf {C} ,}$

где обозначает продукт разделения граней . ^{[21] [22]} ${\displaystyle \bullet }$

${\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {C} \otimes \mathbf {D} )=(\mathbf {A} \mathbf {C} )\bullet (\mathbf {B} \mathbf {D} ),}$

Аналогично: ^[23]

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )=(\mathbf {A} \mathbf {B} \cdots \mathbf {C} )\bullet (\mathbf {L} \mathbf {M} \cdots \mathbf {S} ),}$

${\displaystyle \mathbf {c} ^{\textsf {T}}\bullet \mathbf {d} ^{\textsf {T}}=\mathbf {c} ^{\textsf {T}}\otimes \mathbf {d} ^{\textsf {T}},}$

где и – векторы , ^[24] ${\displaystyle \mathbf {c} }$ ${\displaystyle \mathbf {d} }$

${\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {c} \otimes \mathbf {d} )=(\mathbf {A} \mathbf {c} )\circ (\mathbf {B} \mathbf {d} ),}$

где и — векторы , и обозначает произведение Адамара . ${\displaystyle \mathbf {c} }$ ${\displaystyle \mathbf {d} }$ ${\displaystyle \circ }$

Сходным образом:

${\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {M} \mathbf {N} \mathbf {c} \otimes \mathbf {Q} \mathbf {P} \mathbf {d} )=(\mathbf {A} \mathbf {M} \mathbf {N} \mathbf {c} )\circ (\mathbf {B} \mathbf {Q} \mathbf {P} \mathbf {d} ),}$

${\displaystyle {\mathcal {F}}(C^{(1)}x\star C^{(2)}y)=({\mathcal {F}}C^{(1)}\bullet {\mathcal {F}}C^{(2)})(x\otimes y)={\mathcal {F}}C^{(1)}x\circ {\mathcal {F}}C^{(2)}y}$,

где — векторная свертка , а — матрица преобразования Фурье (этот результат представляет собой развитие свойств графического эскиза ^[25] ), ^{[21] [22]} ${\displaystyle \star }$ ${\displaystyle {\mathcal {F}}}$

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )(\mathbf {K} \ast \mathbf {T} )=(\mathbf {A} \mathbf {B} \cdot \mathbf {C} \mathbf {K} )\circ (\mathbf {L} \mathbf {M} \cdots \mathbf {S} \mathbf {T} ),}$

где обозначает постолбцовое произведение Хатри–Рао . ${\displaystyle \ast }$

Сходным образом:

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )(c\otimes d)=(\mathbf {A} \mathbf {B} \cdots \mathbf {C} \mathbf {c} )\circ (\mathbf {L} \mathbf {M} \cdots \mathbf {S} \mathbf {d} ),}$

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )(\mathbf {P} \mathbf {c} \otimes \mathbf {Q} \mathbf {d} )=(\mathbf {A} \mathbf {B} \cdots \mathbf {C} \mathbf {P} \mathbf {c} )\circ (\mathbf {L} \mathbf {M} \cdots \mathbf {S} \mathbf {Q} \mathbf {d} ),}$

где и – векторы . ${\displaystyle \mathbf {c} }$ ${\displaystyle \mathbf {d} }$

Смотрите также

• Обобщенная модель линейной решетки
• Произведение Адамара (матрицы)
• Коэффициент Кронекера

Примечания

1. Вайсштейн, Эрик В. «Продукт Кронекера». mathworld.wolfram.com . Проверено 6 сентября 2020 г.
2. Зефусс, Г. (1858). «Ueber eine gewisse Determinante». Zeitschrift für Mathematik und Physik . 3 : 298–301.
3. Хендерсон, Гарольд В.; Пукельсхайм, Фридрих; Сирл, Шейл Р. (1983). «К истории кронекера». Линейная и полилинейная алгебра . 14 (2): 113–120. дои : 10.1080/03081088308817548. hdl : 1813/32834 . ISSN  0308-1087.
4. Сайед, Али Х. (22 декабря 2022 г.). Выводы и обучение на основе данных: основы. Издательство Кембриджского университета. ISBN 978-1-009-21812-2.
5. Хендерсон, Х.В.; Сирл, СР (1980). «Матрица vec-перестановок, оператор vec и произведения Кронекера: обзор» (PDF) . Линейная и полилинейная алгебра . 9 (4): 271–288. дои : 10.1080/03081088108817379. hdl : 1813/32747 .
6. Ван Лоан, Чарльз Ф. (2000). «Вездесущий продукт Кронекера». Журнал вычислительной и прикладной математики . 123 (1–2): 85–100. Бибкод : 2000JCoAM.123...85L. дои : 10.1016/s0377-0427(00)00393-9 .
7. Лю, Шуанчжэ; Тренклер, Гетц; Колло, Тыну; фон Розен, Дитрих; Баксалари, Оскар Мария (2023). «Профессор Хайнц Нойдекер и матричное дифференциальное исчисление». Статистические документы . doi : 10.1007/s00362-023-01499-w.
8. Лэнгвилл, Эми Н .; Стюарт, Уильям Дж. (1 июня 2004 г.). «Произведение Кронекера и сети стохастических автоматов». Журнал вычислительной и прикладной математики . 167 (2): 429–447. Бибкод : 2004JCoAM.167..429L. дои : 10.1016/j.cam.2003.10.010 .
9. Маседо, Уго Даниэль; Оливейра, Хосе Нуно (2013). «Типизация линейной алгебры: подход, ориентированный на два произведения». Наука компьютерного программирования . 78 (11): 2160–2191. arXiv : 1312.4818 . Бибкод : 2013arXiv1312.4818M. CiteSeerX 10.1.1.747.2083 . doi : 10.1016/j.scico.2012.07.012. S2CID  9846072. 
10. Брюэр, JW (1969). «Заметка о матричных произведениях Кронекера и системах матричных уравнений». SIAM Journal по прикладной математике . 17 (3): 603–606. дои : 10.1137/0117057.
11. Даммит, Дэвид С.; Фут, Ричард М. (1999). Абстрактная алгебра (2-е изд.). Нью-Йорк: Джон Уайли и сыновья. стр. 401–402. ISBN 978-0-471-36857-1.
12. См. Кнут, DE «Предварительный выпуск 0a: Введение в комбинаторные алгоритмы» (нулевая печать, 2-е изд.). ответ на упражнение 96. Архивировано из оригинала 13 мая 2019 г. Проверено 24 октября 2007 г. ,появится в рамках книги Кнут, Д.Э. Искусство компьютерного программирования . Том. 4А.
13. Ван Лоан, К.; Пицианис, Н. (1992). Приближение произведениями Кронекера . Итака, Нью-Йорк: Издательство Корнельского университета.
14. Король Кеунг Ву; Ям, Юнг; Мэн, Хелен; Месбахи, Мехран (2016). «Аппроксимация произведения Кронекера с помощью многофакторных матриц с помощью алгоритма тензорного произведения». Международная конференция IEEE по системам, человеку и кибернетике (SMC) , 2016 г. стр. 004277–004282. дои : 10.1109/SMC.2016.7844903. ISBN 978-1-5090-1897-0. S2CID  30695585.
15. Дантас, Кассио Ф.; Коэн, Джереми Э.; Грибонваль, Реми (2018). «Изучение быстрых словарей для разреженных представлений с использованием тензорных разложений низкого ранга». Анализ скрытых переменных и разделение сигналов (PDF) . Конспекты лекций по информатике. Том. 10891. стр. 456–466. дои : 10.1007/978-3-319-93764-9_42. ISBN 978-3-319-93763-2. S2CID  46963798.
16. Ли, Алго; и другие. (4 сентября 2010 г.). «Одновременная калибровка мира роботов и глаз-рука с использованием двойных кватернионов и произведения Кронекера» (PDF) . Международный журнал физических наук . 5 (10): 1530–1536. S2CID  7446157. Архивировано из оригинала (PDF) 9 февраля 2020 года.
17. Трейси, DS; Сингх, Р.П. (1972). «Новый матричный продукт и его применение в матричной дифференциации». Статистика Неерландики . 26 (4): 143–157. doi :10.1111/j.1467-9574.1972.tb00199.x.
18. Лю, Шуанчжэ (1999). «Результаты матрицы для произведений Хатри – Рао и Трейси – Сингха». Линейная алгебра и ее приложения . 289 (1–3): 267–277. дои : 10.1016/S0024-3795(98)10209-4 .
19. Лю, Шуанчжэ; Тренклер, Гетц (2008). «Адамар, Хатри-Рао, Кронекер и другие матричные продукты». Международный журнал информационных и системных наук . 4 (1): 160–177.
20. Слюсарь, В.И. (1998) [27 декабря 1996 г.]. «Конечные продукты в матрицах радиолокационных приложений» (PDF) . Радиоэлектроника и системы связи . 41 (3): 50–53.
21. Слюсарь, Вадим (1999). «Новые матричные операции для DSP» (самостоятельная лекция). doi :10.13140/RG.2.2.31620.76164/1 – через ResearchGate . {{cite journal}}: Требуется цитировать журнал |journal=( помощь )
22. Слюсарь, VI (13 марта 1998 г.). «Семейство лицевых продуктов матриц и его свойства» (PDF) . Кибернетика и системный анализ ПК Кибернетика и Системный анализ. 1999 . 35 (3): 379–384. дои : 10.1007/BF02733426. S2CID  119661450.
23. Слюсарь, В.И. (15 сентября 1997 г.). Новые операции с матрицами для применения в радарах (PDF) . Прямые и обратные задачи теории электромагнитных и акустических волн (ДИПЕД-97), Львов. стр. 73–74.
24. Але, Томас Дибдал; Кнудсен, Якоб Бэк Тейс (3 сентября 2019 г.). «Почти оптимальный тензорный эскиз». arXiv : 1909.01821 [cs.DS].
25. Нинь, Фам; Паг, Расмус (2013). Быстрые и масштабируемые полиномиальные ядра с помощью явных карт признаков . Международная конференция SIGKDD по открытию знаний и интеллектуальному анализу данных. Ассоциация вычислительной техники. CiteSeerX 10.1.1.718.2766 . дои : 10.1145/2487575.2487591. 

Рекомендации

• Хорн, Роджер А .; Джонсон, Чарльз Р. (1991). Темы матричного анализа. Издательство Кембриджского университета. ISBN 978-0-521-46713-1.
• Джайн, Анил К. (1989). Основы цифровой обработки изображений. Прентис Холл. Бибкод : 1989fdip.book.....J. ISBN 978-0-13-336165-0.
• Стееб, Вилли-Ханс (1997). Матричное исчисление и произведение Кронекера с приложениями и программами на C++ . Мировое научное издательство. ISBN 978-981-02-3241-2.
• Стееб, Вилли-Ханс (2006). Проблемы и решения вводного и углубленного матричного исчисления. Мировое научное издательство. ISBN 978-981-256-916-5.
• Лю, Шуанчжэ; Тренклер, Гетц (2008), «Адамар, Хатри-Рао, Кронекер и другие матричные продукты», Международный журнал информационных и системных наук , 4 : 160–177.

Внешние ссылки

• «Тензорное произведение», Математическая энциклопедия , EMS Press , 2001 [1994]
• «Продукт Кронекера». ПланетаМатематика .
• «Продукт Кронекера». Математический мир .
• «Проблемы нового продукта Кронекера» (PDF) .
• «Самое раннее использование».Запись о матрицах Кронекера, Цефуса или прямом произведении содержит историческую информацию.
• вычислить произведение Кронекера двух матриц. SourceForge (общий исходный код C++ и Fortran 90). 27 июня 2015 г.
• «Продукт Кронекера». RosettaCode.org . 31 декабря 2020 г. Проверено 13 января 2021 г.Исходный код программного обеспечения на более чем 40 языках.