продукт Кронекера

Математические операции над матрицами

В математике произведение Кронекера , иногда обозначаемое как ⊗, является операцией над двумя матрицами произвольного размера, приводящей к блочной матрице . Это специализация тензорного произведения (которое обозначается тем же символом) от векторов к матрицам и дает матрицу тензорного произведения линейное отображение относительно стандартного выбора базиса . Произведение Кронекера следует отличать от обычного умножения матриц , которое является совершенно другой операцией. Произведение Кронекера также иногда называют матричным прямым произведением . ^[1]

Произведение Кронекера названо в честь немецкого математика Леопольда Кронекера (1823–1891), хотя есть мало доказательств того, что он был первым, кто определил и использовал его. Произведение Кронекера также называлось матрицей Зейфуса и произведением Зейфуса , в честь Иоганна Георга Зейфуса  [de] , который в 1858 году описал эту матричную операцию, но в настоящее время наиболее широко используемым термином является произведение Кронекера. ^{[2] [3]} Ошибочное приписывание Кронекеру, а не Зейфуссу произошло из-за Курта Гензеля . ^[4]

Определение

Если A — матрица размера m × n , а B — матрица размера p × q , то произведение Кронекера A ⊗ B — это блочная матрица размера pm × qn :

${\displaystyle \mathbf {A} \otimes \mathbf {B} ={\begin{bmatrix}a_{11}\mathbf {B} &\cdots &a_{1n}\mathbf {B} \\\vdots &\ddots &\vdots \\a_{m1}\mathbf {B} &\cdots &a_{mn}\mathbf {B} \end{bmatrix}},}$

более конкретно:

${\displaystyle {\mathbf {A} \otimes \mathbf {B} }={\begin{bmatrix}a_{11}b_{11}&a_{11}b_{12}&\cdots &a_{11}b_{1q}&\cdots &\cdots &a_{1n}b_{11}&a_{1n}b_{12}&\cdots &a_{1n}b_{1q}\\a_{11}b_{21}&a_{11}b_{22}&\cdots &a_{11}b_{2q}&\cdots &\cdots &a_{1n}b_{21}&a_{1n}b_{22}&\cdots &a_{1n}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{11}b_{p1}&a_{11}b_{p2}&\cdots &a_{11}b_{pq}&\cdots &\cdots &a_{1n}b_{p1}&a_{1n}b_{p2}&\cdots &a_{1n}b_{pq}\\\vdots &\vdots &&\vdots &\ddots &&\vdots &\vdots &&\vdots \\\vdots &\vdots &&\vdots &&\ddots &\vdots &\vdots &&\vdots \\a_{m1}b_{11}&a_{m1}b_{12}&\cdots &a_{m1}b_{1q}&\cdots &\cdots &a_{mn}b_{11}&a_{mn}b_{12}&\cdots &a_{mn}b_{1q}\\a_{m1}b_{21}&a_{m1}b_{22}&\cdots &a_{m1}b_{2q}&\cdots &\cdots &a_{mn}b_{21}&a_{mn}b_{22}&\cdots &a_{mn}b_{2q}\\\vdots &\vdots &\ddots &\vdots &&&\vdots &\vdots &\ddots &\vdots \\a_{m1}b_{p1}&a_{m1}b_{p2}&\cdots &a_{m1}b_{pq}&\cdots &\cdots &a_{mn}b_{p1}&a_{mn}b_{p2}&\cdots &a_{mn}b_{pq}\end{bmatrix}}.}$

Используя и для обозначения усечения целочисленного деления и остатка соответственно, и нумеруя элементы матрицы, начиная с 0, получаем ${\displaystyle /\!/}$ ${\displaystyle \%}$

${\displaystyle (A\otimes B)_{pr+v,qs+w}=a_{rs}b_{vw}}$

${\displaystyle (A\otimes B)_{i,j}=a_{i/\!/p,j/\!/q}b_{i\%p,j\%q}.}$

При обычной нумерации, начиная с 1, получается

${\displaystyle (A\otimes B)_{p(r-1)+v,q(s-1)+w}=a_{rs}b_{vw}}$

${\displaystyle (A\otimes B)_{i,j}=a_{\lceil i/p\rceil ,\lceil j/q\rceil }b_{(i-1)\%p+1,(j-1)\%q+1}.}$

Если A и B представляют линейные преобразования V ₁ → W ₁ и V ₂ → W ₂ соответственно, то тензорное произведение двух отображений представляется как A ⊗ B , что совпадает с V ₁ ⊗ V ₂ → W ₁ ⊗ W ₂ .

Примеры

${\displaystyle {\begin{bmatrix}1&2\\3&4\\\end{bmatrix}}\otimes {\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}={\begin{bmatrix}1{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}&2{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}\\3{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}&4{\begin{bmatrix}0&5\\6&7\\\end{bmatrix}}\\\end{bmatrix}}=\left[{\begin{array}{cc|cc}1\times 0&1\times 5&2\times 0&2\times 5\\1\times 6&1\times 7&2\times 6&2\times 7\\\hline 3\times 0&3\times 5&4\times 0&4\times 5\\3\times 6&3\times 7&4\times 6&4\times 7\\\end{array}}\right]=\left[{\begin{array}{cc|cc}0&5&0&10\\6&7&12&14\\\hline 0&15&0&20\\18&21&24&28\end{array}}\right].}$

Сходным образом:

${\displaystyle {\begin{bmatrix}1&-4&7\\-2&3&3\end{bmatrix}}\otimes {\begin{bmatrix}8&-9&-6&5\\1&-3&-4&7\\2&8&-8&-3\\1&2&-5&-1\end{bmatrix}}=\left[{\begin{array}{cccc|cccc|cccc}8&-9&-6&5&-32&36&24&-20&56&-63&-42&35\\1&-3&-4&7&-4&12&16&-28&7&-21&-28&49\\2&8&-8&-3&-8&-32&32&12&14&56&-56&-21\\1&2&-5&-1&-4&-8&20&4&7&14&-35&-7\\\hline -16&18&12&-10&24&-27&-18&15&24&-27&-18&15\\-2&6&8&-14&3&-9&-12&21&3&-9&-12&21\\-4&-16&16&6&6&24&-24&-9&6&24&-24&-9\\-2&-4&10&2&3&6&-15&-3&3&6&-15&-3\end{array}}\right]}$

Характеристики

Связь с другими матричными операциями

1. Билинейность и ассоциативность :

   Произведение Кронекера является частным случаем тензорного произведения , поэтому оно является билинейным и ассоциативным :

   ${\displaystyle {\begin{aligned}\mathbf {A} \otimes (\mathbf {B} +\mathbf {C} )&=\mathbf {A} \otimes \mathbf {B} +\mathbf {A} \otimes \mathbf {C} ,\\(\mathbf {B} +\mathbf {C} )\otimes \mathbf {A} &=\mathbf {B} \otimes \mathbf {A} +\mathbf {C} \otimes \mathbf {A} ,\\(k\mathbf {A} )\otimes \mathbf {B} &=\mathbf {A} \otimes (k\mathbf {B} )=k(\mathbf {A} \otimes \mathbf {B} ),\\(\mathbf {A} \otimes \mathbf {B} )\otimes \mathbf {C} &=\mathbf {A} \otimes (\mathbf {B} \otimes \mathbf {C} ),\\\mathbf {A} \otimes \mathbf {0} &=\mathbf {0} \otimes \mathbf {A} =\mathbf {0} ,\end{aligned}}}$

   где A , B и C — матрицы, 0 — нулевая матрица, а k — скаляр.
2. Некоммутативно :​

   В общем случае A ⊗ B и B ⊗ A — это разные матрицы. Однако A ⊗ B и B ⊗ A являются перестановочно эквивалентными, что означает, что существуют перестановочные матрицы P и Q, такие что ^[5]

   ${\displaystyle \mathbf {B} \otimes \mathbf {A} =\mathbf {P} \,(\mathbf {A} \otimes \mathbf {B} )\,\mathbf {Q} .}$

   Если A и B — квадратные матрицы, то A ⊗ B и B ⊗ A даже перестановочно подобны , что означает, что мы можем взять P = Q ^T .

   Матрицы P и Q являются матрицами идеального перемешивания. ^[6] Матрицу идеального перемешивания S _{p , q} можно построить, взяв срезы единичной матрицы I _r , где . ${\displaystyle r=pq}$

   ${\displaystyle \mathbf {S} _{p,q}={\begin{bmatrix}\mathbf {I} _{r}(1:q:r,:)\\\mathbf {I} _{r}(2:q:r,:)\\\vdots \\\mathbf {I} _{r}(q:q:r,:)\end{bmatrix}}}$

   Здесь для обозначения подматриц используется обозначение MATLAB двоеточие, а I _r — это единичная матрица r × r . Если и , то ${\displaystyle \mathbf {A} \in \mathbb {R} ^{m_{1}\times n_{1}}}$ ${\displaystyle \mathbf {B} \in \mathbb {R} ^{m_{2}\times n_{2}}}$

   ${\displaystyle \mathbf {B} \otimes \mathbf {A} =\mathbf {S} _{m_{1},m_{2}}(\mathbf {A} \otimes \mathbf {B} )\mathbf {S} _{n_{1},n_{2}}^{\textsf {T}}}$

3. Свойство смешанного продукта:

   Если A , B , C и D — матрицы такого размера, что можно образовать матричные произведения AC и BD , то ^[7]

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )(\mathbf {C} \otimes \mathbf {D} )=(\mathbf {AC} )\otimes (\mathbf {BD} ).}$

   Это называется свойством смешанного произведения , поскольку оно смешивает обычное матричное произведение и произведение Кронекера.

   Как непосредственное следствие (опять же, принимая во внимание и ), ${\displaystyle \mathbf {A} \in \mathbb {R} ^{m_{1}\times n_{1}}}$ ${\displaystyle \mathbf {B} \in \mathbb {R} ^{m_{2}\times n_{2}}}$

   ${\displaystyle \mathbf {A} \otimes \mathbf {B} =(\mathbf {I} _{m_{1}}\otimes \mathbf {B} )(\mathbf {A} \otimes \mathbf {I} _{n_{2}})=(\mathbf {A} \otimes \mathbf {I} _{m_{2}})(\mathbf {I} _{n_{1}}\otimes \mathbf {B} ).}$

   В частности, используя свойство транспонирования снизу, это означает, что если

   ${\displaystyle \mathbf {A} =\mathbf {Q} \otimes \mathbf {U} }$

   и Q и U ортогональны (или унитарны ), то A также ортогонален (соответственно, унитарен) .

   Смешанное произведение матрицы Кронекера на вектор можно записать как:

   ${\displaystyle \left(\mathbf {A} \otimes \mathbf {B} \right)\operatorname {vec} \left(\mathbf {V} \right)=\operatorname {vec} (\mathbf {B} \mathbf {V} \mathbf {A} ^{T})}$

   где — оператор векторизации, примененный к (образованный путем изменения формы матрицы). ${\displaystyle \operatorname {vec} (\mathbf {V} )}$ ${\displaystyle \mathbf {V} }$
4. Произведение Адамара (поэлементное умножение):

   Свойство смешанного произведения также работает для поэлементного произведения. Если A и C — матрицы одинакового размера, B и D — матрицы одинакового размера, то ^[7]

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )\circ (\mathbf {C} \otimes \mathbf {D} )=(\mathbf {A} \circ \mathbf {C} )\otimes (\mathbf {B} \circ \mathbf {D} ).}$

5. Обратное произведение Кронекера:

   Отсюда следует, что A ⊗ B обратимо тогда и только тогда, когда оба отображения A и B обратимы , в этом случае обратное задается формулой

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{-1}=\mathbf {A} ^{-1}\otimes \mathbf {B} ^{-1}.}$

   Свойство обратимого произведения справедливо также для псевдообратного произведения Мура–Пенроуза ^{[7] [8]} , то есть

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{+}=\mathbf {A} ^{+}\otimes \mathbf {B} ^{+}.}$

   На языке теории категорий свойство смешанного произведения произведения Кронекера (и более общего тензорного произведения) показывает, что категория Mat _F матриц над полем F на самом деле является моноидальной категорией с объектами натуральных чисел n , морфизмами n → m , представляющими собой матрицы размера n × m с элементами в F , композиция задается умножением матриц, тождественные стрелки — это просто тождественные матрицы размера n × n I _n , а тензорное произведение задается произведением Кронекера. ^[9]

   Mat _F — это конкретная скелетная категория для эквивалентной категории FinVect _F конечномерных векторных пространств над F , объектами которой являются такие конечномерные векторные пространства V , стрелки — это F -линейные отображения L  : V → W , а тождественные стрелки — это тождественные отображения пространств. Эквивалентность категорий сводится к одновременному выбору базиса в каждом конечномерном векторном пространстве V над F ; элементы матриц представляют эти отображения относительно выбранных базисов; и аналогично произведение Кронекера является представлением тензорного произведения в выбранных базисах.
6. Транспонировать :

   Транспозиция и сопряженная транспозиция дистрибутивны относительно произведения Кронекера:

   ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{\textsf {T}}=\mathbf {A} ^{\textsf {T}}\otimes \mathbf {B} ^{\textsf {T}}}$и ${\displaystyle (\mathbf {A} \otimes \mathbf {B} )^{*}=\mathbf {A} ^{*}\otimes \mathbf {B} ^{*}.}$

7. Определитель :

   Пусть A — матрица размера n × n , а B — матрица размера m × m . Тогда

   ${\displaystyle \left|\mathbf {A} \otimes \mathbf {B} \right|=\left|\mathbf {A} \right|^{m}\left|\mathbf {B} \right|^{n}.}$

   Показатель степени в | A | — это порядок B , а показатель степени в | B | — это порядок A.
8. Сумма Кронекера и возведение в степень :

   Если A равно n × n , B равно m × m , а I _k обозначает единичную матрицу k × k, то мы можем определить то, что иногда называют суммой Кронекера , ⊕, следующим образом:

   ${\displaystyle \mathbf {A} \oplus \mathbf {B} =\mathbf {A} \otimes \mathbf {I} _{m}+\mathbf {I} _{n}\otimes \mathbf {B} .}$

   Это отличается от прямой суммы двух матриц. Эта операция связана с тензорным произведением на алгебрах Ли , как подробно описано ниже (#Абстрактные свойства) в пункте "Связь с абстрактным тензорным произведением ".

   У нас есть следующая формула для матричной экспоненты , которая полезна в некоторых численных оценках. ^[10]

   ${\displaystyle \exp({\mathbf {N} \oplus \mathbf {M} })=\exp(\mathbf {N} )\otimes \exp(\mathbf {M} )}$

   Суммы Кронекера естественным образом появляются в физике при рассмотрении ансамблей невзаимодействующих систем . ^{[ требуется ссылка ]} Пусть H ^k — гамильтониан k -й такой системы. Тогда полный гамильтониан ансамбля равен

   ${\displaystyle H_{\operatorname {Tot} }=\bigoplus _{k}H^{k}.}$

9. Векторизация произведения Кронекера:

   Пусть будет матрицей и матрицей . Когда порядок произведения Кронекера и векторизации меняется местами, две операции можно связать линейно через функцию, которая включает в себя матрицу коммутации . То есть, и имеют следующую связь: ${\displaystyle A}$ ${\displaystyle m\times n}$ ${\displaystyle B}$ ${\displaystyle p\times q}$ ${\displaystyle \operatorname {vec} (\operatorname {Kron} (A,B))}$ ${\displaystyle \operatorname {Kron} (\operatorname {vec} A,\operatorname {vec} B)}$

   ${\displaystyle \operatorname {vec} (A\otimes B)=(I_{n}\otimes K_{qm}\otimes I_{p})(\operatorname {vec} A\otimes \operatorname {vec} B).}$

   Более того, приведенное выше соотношение можно переформулировать в терминах или следующим образом: ${\displaystyle \operatorname {vec} A}$ ${\displaystyle \operatorname {vec} B}$

   ${\displaystyle \operatorname {vec} (A\otimes B)=(I_{n}\otimes G)\operatorname {vec} A=(H\otimes I_{p})\operatorname {vec} B,}$

   где

   ${\displaystyle G=(K_{qm}\otimes I_{p})(I_{m}\otimes \operatorname {vec} B){\text{ and }}H=(I_{n}\otimes K_{qm})(\operatorname {vec} A\otimes I_{q}).}$

10. Внешний продукт :
    Если и — произвольные векторы, то внешнее произведение между и определяется как . Произведение Кронекера связано с внешним произведением соотношением: . ${\displaystyle x\in \mathbb {R} ^{n}}$ ${\displaystyle y\in \mathbb {R} ^{m}}$ ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle xy^{T}}$ ${\displaystyle y\otimes x=\operatorname {vec} (xy^{T})}$

Абстрактные свойства

1. Спектр :

   Предположим, что A и B — квадратные матрицы размером n и m соответственно. Пусть λ ₁ , ..., λ _n — собственные значения матрицы A , а μ ₁ , ..., μ _m — собственные значения матрицы B (перечисленные в порядке кратности ). Тогда собственные значения матрицы A ⊗ B равны

   ${\displaystyle \lambda _{i}\mu _{j},\qquad i=1,\ldots ,n,\,j=1,\ldots ,m.}$

   Отсюда следует, что след и определитель произведения Кронекера задаются формулой

   ${\displaystyle \operatorname {tr} (\mathbf {A} \otimes \mathbf {B} )=\operatorname {tr} \mathbf {A} \,\operatorname {tr} \mathbf {B} \quad {\text{and}}\quad \det(\mathbf {A} \otimes \mathbf {B} )=(\det \mathbf {A} )^{m}(\det \mathbf {B} )^{n}.}$

2. Единичные значения :

   Если A и B — прямоугольные матрицы, то можно рассмотреть их сингулярные значения . Предположим, что A имеет r _A ненулевых сингулярных значений, а именно

   ${\displaystyle \sigma _{\mathbf {A} ,i},\qquad i=1,\ldots ,r_{\mathbf {A} }.}$

   Аналогично, обозначим ненулевые сингулярные значения B через

   ${\displaystyle \sigma _{\mathbf {B} ,i},\qquad i=1,\ldots ,r_{\mathbf {B} }.}$

   Тогда произведение Кронекера A ⊗ B имеет r _A r _B ненулевых сингулярных значений, а именно

   ${\displaystyle \sigma _{\mathbf {A} ,i}\sigma _{\mathbf {B} ,j},\qquad i=1,\ldots ,r_{\mathbf {A} },\,j=1,\ldots ,r_{\mathbf {B} }.}$

   Поскольку ранг матрицы равен числу ненулевых сингулярных значений, то получаем, что

   ${\displaystyle \operatorname {rank} (\mathbf {A} \otimes \mathbf {B} )=\operatorname {rank} \mathbf {A} \,\operatorname {rank} \mathbf {B} .}$

3. Отношение к абстрактному тензорному произведению :

   Произведение Кронекера матриц соответствует абстрактному тензорному произведению линейных отображений. В частности, если векторные пространства V , W , X и Y имеют базисы { v ₁ , ..., v _m }, { w ₁ , ..., w _n }, { x ₁ , ..., x _d } и { y ₁ , ..., y _e } соответственно, и если матрицы A и B представляют линейные преобразования S  : V → X и T  : W → Y соответственно в соответствующих базисах, то матрица A ⊗ B представляет тензорное произведение двух отображений S ⊗ T  : V ⊗ W → X ⊗ Y относительно базиса { v ₁ ⊗ w ₁ , v ₁ ⊗ w ₂ , ..., v ₂ ⊗ w ₁ , ..., v _m ⊗ w _n } пространства V ⊗ W и аналогично определенного базиса X ⊗ Y с свойство, что A ⊗ B ( v _i ⊗ w _j ) = ( Av _i ) ⊗ ( Bw _j ) , где i и j — целые числа в соответствующем диапазоне. ^[11]

   Когда V и W являются алгебрами Ли , а S  : V → V и T  : W → W являются гомоморфизмами алгебр Ли , сумма Кронекера A и B представляет собой индуцированные гомоморфизмы алгебр Ли V ⊗ W → V ⊗ W. ^{[ требуется ссылка ]}
4. Отношение к произведениям графов :
   Произведение Кронекера матриц смежности двух графов является матрицей смежности графа тензорного произведения . Сумма Кронекера матриц смежности двух графов является матрицей смежности графа декартова произведения . ^[12]

Матричные уравнения

Произведение Кронекера можно использовать для получения удобного представления некоторых матричных уравнений. Рассмотрим, например, уравнение AXB = C , где A , B и C — заданные матрицы, а матрица X — неизвестная. Мы можем использовать «трюк vec», чтобы переписать это уравнение как

${\displaystyle \left(\mathbf {B} ^{\textsf {T}}\otimes \mathbf {A} \right)\,\operatorname {vec} (\mathbf {X} )=\operatorname {vec} (\mathbf {AXB} )=\operatorname {vec} (\mathbf {C} ).}$

Здесь vec( X ) обозначает векторизацию матрицы X , образованную путем объединения столбцов X в один вектор-столбец .

Теперь из свойств произведения Кронекера следует, что уравнение AXB = C имеет единственное решение тогда и только тогда, когда A и B обратимы (Horn & Johnson 1991, Lemma 4.3.1).

Если X и C упорядочены по строкам в векторах-столбцах u и v соответственно, то (Jain 1989, 2.8 Блочные матрицы и произведения Кронекера)

${\displaystyle \mathbf {v} =\left(\mathbf {A} \otimes \mathbf {B} ^{\textsf {T}}\right)\mathbf {u} .}$

Причина в том, что

${\displaystyle \mathbf {v} =\operatorname {vec} \left((\mathbf {AXB} )^{\textsf {T}}\right)=\operatorname {vec} \left(\mathbf {B} ^{\textsf {T}}\mathbf {X} ^{\textsf {T}}\mathbf {A} ^{\textsf {T}}\right)=\left(\mathbf {A} \otimes \mathbf {B} ^{\textsf {T}}\right)\operatorname {vec} \left(\mathbf {X^{\textsf {T}}} \right)=\left(\mathbf {A} \otimes \mathbf {B} ^{\textsf {T}}\right)\mathbf {u} .}$

Приложения

Пример применения этой формулы см. в статье об уравнении Ляпунова . Эта формула также полезна для демонстрации того, что матричное нормальное распределение является частным случаем многомерного нормального распределения . Эта формула также полезна для представления операций обработки двумерных изображений в матрично-векторной форме.

Другой пример — когда матрицу можно разложить на множители как произведение Кронекера, то умножение матриц можно выполнить быстрее, используя приведенную выше формулу. Это можно применять рекурсивно, как это делается в БПФ по основанию 2 и быстром преобразовании Уолша–Адамара . Разделение известной матрицы на произведение Кронекера двух меньших матриц известно как задача «ближайшего произведения Кронекера» и может быть решено точно ^[13] с помощью SVD . Разделение матрицы на произведение Кронекера более чем двух матриц оптимальным образом является сложной задачей и предметом текущих исследований; некоторые авторы рассматривают ее как задачу тензорного разложения. ^{[14] [15]}

В сочетании с методом наименьших квадратов произведение Кронекера может быть использовано в качестве точного решения проблемы калибровки руки и глаза . ^[16]

Связанные матричные операции

Две связанные матричные операции — это произведения Трейси–Сингха и Кхатри–Рао , которые работают с разделенными матрицами . Пусть матрица A размером m × n разделена на блоки A _ij размером m _i × n _j , а матрица B размером p × q — на блоки B _{kl размером} p _k × q _ℓ , при этом, конечно, Σ _i m _i = m , Σ _j n _j = n , Σ _k p _k = p и Σ _ℓ q _ℓ = q .

Продукт Трейси–Сингха

Продукт Трейси –Сингха определяется как ^{[17] [18] [19]}

${\displaystyle \mathbf {A} \circ \mathbf {B} =\left(\mathbf {A} _{ij}\circ \mathbf {B} \right)_{ij}=\left(\left(\mathbf {A} _{ij}\otimes \mathbf {B} _{kl}\right)_{kl}\right)_{ij}}$

что означает, что ( ij )-й подблок произведения mp × nq A B является ${\displaystyle \circ }$ матрицей A ij _B размера m _i p × n _j q , из которых ( kℓ )-й подблок равен матрице A _ij ⊗ B _{kℓ размера} m _i p _k × n _j q . По сути, произведение Трейси–Сингха является попарным произведением Кронекера для каждой пары разбиений в двух матрицах. ${\displaystyle \circ }$

Например, если A и B являются матрицами с разделением 2 × 2 , то:

${\displaystyle \mathbf {A} =\left[{\begin{array}{c | c}\mathbf {A} _{11}&\mathbf {A} _{12}\\\hline \mathbf {A} _{21}&\mathbf {A} _{22}\end{array}}\right]=\left[{\begin{array}{c c | c}1&2&3\\4&5&6\\\hline 7&8&9\end{array}}\right],\quad \mathbf {B} =\left[{\begin{array}{c | c}\mathbf {B} _{11}&\mathbf {B} _{12}\\\hline \mathbf {B} _{21}&\mathbf {B} _{22}\end{array}}\right]=\left[{\begin{array}{c | c c}1&4&7\\\hline 2&5&8\\3&6&9\end{array}}\right],}$

мы получаем:

${\displaystyle {\begin{aligned}\mathbf {A} \circ \mathbf {B} ={}&\left[{\begin{array}{c | c}\mathbf {A} _{11}\circ \mathbf {B} &\mathbf {A} _{12}\circ \mathbf {B} \\\hline \mathbf {A} _{21}\circ \mathbf {B} &\mathbf {A} _{22}\circ \mathbf {B} \end{array}}\right]\\={}&\left[{\begin{array}{c | c | c | c}\mathbf {A} _{11}\otimes \mathbf {B} _{11}&\mathbf {A} _{11}\otimes \mathbf {B} _{12}&\mathbf {A} _{12}\otimes \mathbf {B} _{11}&\mathbf {A} _{12}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{11}\otimes \mathbf {B} _{21}&\mathbf {A} _{11}\otimes \mathbf {B} _{22}&\mathbf {A} _{12}\otimes \mathbf {B} _{21}&\mathbf {A} _{12}\otimes \mathbf {B} _{22}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{11}&\mathbf {A} _{21}\otimes \mathbf {B} _{12}&\mathbf {A} _{22}\otimes \mathbf {B} _{11}&\mathbf {A} _{22}\otimes \mathbf {B} _{12}\\\hline \mathbf {A} _{21}\otimes \mathbf {B} _{21}&\mathbf {A} _{21}\otimes \mathbf {B} _{22}&\mathbf {A} _{22}\otimes \mathbf {B} _{21}&\mathbf {A} _{22}\otimes \mathbf {B} _{22}\end{array}}\right]\\={}&\left[{\begin{array}{c c | c c c c | c | c c}1&2&4&7&8&14&3&12&21\\4&5&16&28&20&35&6&24&42\\\hline 2&4&5&8&10&16&6&15&24\\3&6&6&9&12&18&9&18&27\\8&10&20&32&25&40&12&30&48\\12&15&24&36&30&45&18&36&54\\\hline 7&8&28&49&32&56&9&36&63\\\hline 14&16&35&56&40&64&18&45&72\\21&24&42&63&48&72&27&54&81\end{array}}\right].\end{aligned}}}$

Продукт Хатри–Рао

• Продукт Block Kronecker
• Столбцовое произведение Хатри–Рао

Продукт, разбивающий лицо

Свойства смешанных продуктов ^[20]

${\displaystyle \mathbf {A} \otimes (\mathbf {B} \bullet \mathbf {C} )=(\mathbf {A} \otimes \mathbf {B} )\bullet \mathbf {C} ,}$

где обозначает продукт разделения лица . ^{[21] [22]} ${\displaystyle \bullet }$

${\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {C} \otimes \mathbf {D} )=(\mathbf {A} \mathbf {C} )\bullet (\mathbf {B} \mathbf {D} ),}$

Аналогично: ^[23]

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )=(\mathbf {A} \mathbf {B} \cdots \mathbf {C} )\bullet (\mathbf {L} \mathbf {M} \cdots \mathbf {S} ),}$

${\displaystyle \mathbf {c} ^{\textsf {T}}\bullet \mathbf {d} ^{\textsf {T}}=\mathbf {c} ^{\textsf {T}}\otimes \mathbf {d} ^{\textsf {T}},}$

где и являются векторами , ^[24] ${\displaystyle \mathbf {c} }$ ${\displaystyle \mathbf {d} }$

${\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {c} \otimes \mathbf {d} )=(\mathbf {A} \mathbf {c} )\circ (\mathbf {B} \mathbf {d} ),}$

где и — векторы , а обозначает произведение Адамара . ${\displaystyle \mathbf {c} }$ ${\displaystyle \mathbf {d} }$ ${\displaystyle \circ }$

Сходным образом:

${\displaystyle (\mathbf {A} \bullet \mathbf {B} )(\mathbf {M} \mathbf {N} \mathbf {c} \otimes \mathbf {Q} \mathbf {P} \mathbf {d} )=(\mathbf {A} \mathbf {M} \mathbf {N} \mathbf {c} )\circ (\mathbf {B} \mathbf {Q} \mathbf {P} \mathbf {d} ),}$

${\displaystyle {\mathcal {F}}(C^{(1)}x\star C^{(2)}y)=({\mathcal {F}}C^{(1)}\bullet {\mathcal {F}}C^{(2)})(x\otimes y)={\mathcal {F}}C^{(1)}x\circ {\mathcal {F}}C^{(2)}y,}$

где — векторная свертка , а — матрица преобразования Фурье (этот результат является развитием свойств графического эскиза ^[25] ), ^{[21] [22]} ${\displaystyle \star }$ ${\displaystyle {\mathcal {F}}}$

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )(\mathbf {K} \ast \mathbf {T} )=(\mathbf {A} \mathbf {B} \cdot \mathbf {C} \mathbf {K} )\circ (\mathbf {L} \mathbf {M} \cdots \mathbf {S} \mathbf {T} ),}$

где обозначает столбцовое произведение Хатри–Рао . ${\displaystyle \ast }$

Сходным образом:

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )(c\otimes d)=(\mathbf {A} \mathbf {B} \cdots \mathbf {C} \mathbf {c} )\circ (\mathbf {L} \mathbf {M} \cdots \mathbf {S} \mathbf {d} ),}$

${\displaystyle (\mathbf {A} \bullet \mathbf {L} )(\mathbf {B} \otimes \mathbf {M} )\cdots (\mathbf {C} \otimes \mathbf {S} )(\mathbf {P} \mathbf {c} \otimes \mathbf {Q} \mathbf {d} )=(\mathbf {A} \mathbf {B} \cdots \mathbf {C} \mathbf {P} \mathbf {c} )\circ (\mathbf {L} \mathbf {M} \cdots \mathbf {S} \mathbf {Q} \mathbf {d} ),}$

где и — векторы . ${\displaystyle \mathbf {c} }$ ${\displaystyle \mathbf {d} }$

Смотрите также

• Обобщенная линейная модель массива
• Произведение Адамара (матрицы)
• коэффициент Кронекера

Примечания

1. Weisstein, Eric W. "Продукт Кронекера". mathworld.wolfram.com . Получено 2020-09-06 .
2. Зефусс, Г. (1858). «Ueber eine gewisse Determinante». Zeitschrift für Mathematik und Physik . 3 : 298–301.
3. Хендерсон, Гарольд В.; Пукельсхайм, Фридрих; Сирл, Шейл Р. (1983). «Об истории произведения Кронекера». Линейная и полилинейная алгебра . 14 (2): 113–120. doi :10.1080/03081088308817548. hdl : 1813/32834 . ISSN  0308-1087.
4. Сайед, Али Х. (2022-12-22). Вывод и обучение на основе данных: основы. Cambridge University Press. ISBN 978-1-009-21812-2.
5. Хендерсон, ХВ; Сирл, СР (1980). "Матрица vec-перестановки, оператор vec и произведения Кронекера: обзор" (PDF) . Линейная и полилинейная алгебра . 9 (4): 271–288. doi :10.1080/03081088108817379. hdl : 1813/32747 .
6. Ван Лоан, Чарльз Ф. (2000). «Вездесущий продукт Кронекера». Журнал вычислительной и прикладной математики . 123 (1–2): 85–100. Bibcode :2000JCoAM.123...85L. doi : 10.1016/s0377-0427(00)00393-9 .
7. Лю, Шуанчжэ; Тренклер, Гетц; Колло, Тыну; фон Розен, Дитрих; Баксалари, Оскар Мария (2023). «Профессор Хайнц Нойдекер и матричное дифференциальное исчисление». Статистические документы . doi : 10.1007/s00362-023-01499-w.
8. Лэнгвилл, Эми Н .; Стюарт, Уильям Дж. (1 июня 2004 г.). «Произведение Кронекера и сети стохастических автоматов». Журнал вычислительной и прикладной математики . 167 (2): 429–447. Bibcode : 2004JCoAM.167..429L. doi : 10.1016/j.cam.2003.10.010 .
9. Маседо, Уго Даниэль; Оливейра, Жозе Нуно (2013). «Ввод линейной алгебры: подход, ориентированный на бипродукт». Science of Computer Programming . 78 (11): 2160–2191. arXiv : 1312.4818 . Bibcode :2013arXiv1312.4818M. CiteSeerX 10.1.1.747.2083 . doi :10.1016/j.scico.2012.07.012. S2CID  9846072. 
10. Брюэр, Дж. В. (1969). «Заметка о матричных произведениях Кронекера и системах матричных уравнений». Журнал SIAM по прикладной математике . 17 (3): 603–606. doi :10.1137/0117057.
11. Даммит, Дэвид С.; Фут, Ричард М. (1999). Абстрактная алгебра (2-е изд.). Нью-Йорк: John Wiley and Sons. стр. 401–402. ISBN 978-0-471-36857-1.
12. См. Knuth, DE "Pre-Fascicle 0a: Introduction to Combinatorial Algorithms" (нулевая печать, пересмотр 2-го изд.). ответ на упражнение 96. Архивировано из оригинала 2019-05-13 . Получено 2007-10-24 ,появится как часть книги Кнута Д.Э. Искусство программирования . Том 4А.
13. Ван Лоан, К.; Пицианис, Н. (1992). Аппроксимация с помощью произведений Кронекера . Итака, Нью-Йорк: Издательство Корнеллского университета.
14. King Keung Wu; Yam, Yeung; Meng, Helen; Mesbahi, Mehran (2016). «Аппроксимация произведения Кронекера с помощью матриц множественных факторов с помощью алгоритма тензорного произведения». Международная конференция IEEE по системам, человеку и кибернетике (SMC) 2016 г. стр. 004277–004282. doi :10.1109/SMC.2016.7844903. ISBN 978-1-5090-1897-0. S2CID  30695585.
15. Dantas, Cássio F.; Cohen, Jérémy E.; Gribonval, Rémi (2018). «Изучение быстрых словарей для разреженных представлений с использованием низкоранговых тензорных разложений». Анализ скрытых переменных и разделение сигналов (PDF) . Конспект лекций по информатике. Том 10891. С. 456–466. doi :10.1007/978-3-319-93764-9_42. ISBN 978-3-319-93763-2. S2CID  46963798.
16. Ли, Алго и др. (4 сентября 2010 г.). «Одновременная калибровка мира робота и руки-глаза с использованием двойных кватернионов и произведения Кронекера» (PDF) . Международный журнал физических наук . 5 (10): 1530–1536. S2CID  7446157. Архивировано из оригинала (PDF) 9 февраля 2020 г.
17. Трейси, Д.С.; Сингх, Р.П. (1972). «Новый матричный продукт и его применение в матричной дифференциации». Statistica Neerlandica . 26 (4): 143–157. doi :10.1111/j.1467-9574.1972.tb00199.x.
18. Лю, Шуанчжэ (1999). «Матричные результаты для произведений Кхатри–Рао и Трейси–Сингха». Линейная алгебра и ее приложения . 289 (1–3): 267–277. doi : 10.1016/S0024-3795(98)10209-4 .
19. Лю, Шуанчжэ; Тренклер, Гётц (2008). «Адамард, Хатри-Рао, Кронекер и другие матричные продукты». Международный журнал информации и системных наук . 4 (1): 160–177.
20. Слюсарь, ВИ (1998) [27 декабря 1996]. "Конечные продукты в матрицах в радиолокационных приложениях" (PDF) . Радиоэлектроника и системы связи . 41 (3): 50–53.
21. Слюсарь, Вадим (1999). "Новые матричные операции для ЦОС" (самостоятельно опубликованная лекция). doi :10.13140/RG.2.2.31620.76164/1 – через ResearchGate . {{cite journal}}: Цитировать журнал требует |journal=( помощь )
22. Слюсарь, ВИ (13 марта 1998 г.). "Семейство гранных произведений матриц и его свойства" (PDF) . Кибернетика и системный анализ C/C журнала "Кибернетика и системный анализ" 1999 . 35 (3): 379–384. doi :10.1007/BF02733426. S2CID  119661450.
23. Слюсар, В.И. (1997-09-15). Новые операции произведения матриц для приложений радаров (PDF) . Прямые и обратные задачи теории электромагнитных и акустических волн (ДИПЭД-97), Львов. С. 73–74.
24. Але, Томас Дибдал; Кнудсен, Якоб Бэк Тейс (3 сентября 2019 г.). «Почти оптимальный тензорный эскиз». arXiv : 1909.01821 [cs.DS].
25. Нинь, Фам; Паг, Расмус (2013). Быстрые и масштабируемые полиномиальные ядра с помощью явных карт признаков . Международная конференция SIGKDD по обнаружению знаний и добыче данных. Ассоциация вычислительной техники. CiteSeerX 10.1.1.718.2766 . doi :10.1145/2487575.2487591. 

Ссылки

• Хорн, Роджер А.; Джонсон , Чарльз Р. (1991). Темы анализа матриц. Cambridge University Press. ISBN 978-0-521-46713-1.
• Джейн, Анил К. (1989). Основы цифровой обработки изображений. Prentice Hall. Bibcode :1989fdip.book.....J. ISBN 978-0-13-336165-0.
• Штиб, Вилли-Ханс (1997). Матричное исчисление и произведение Кронекера с приложениями и программами на C++ . World Scientific Publishing. ISBN 978-981-02-3241-2.
• Steeb, Willi-Hans (2006). Проблемы и решения по вводному и продвинутому матричному исчислению. World Scientific Publishing. ISBN 978-981-256-916-5.
• Лю, Шуанчжэ; Тренклер, Гётц (2008), «Адамард, Кхатри-Рао, Кронекер и другие матричные продукты», Международный журнал информационных и системных наук , 4 : 160–177

Внешние ссылки

• «Тензорное произведение», Энциклопедия математики , EMS Press , 2001 [1994]
• «Продукт Кронекера». ПланетаМатематика .
• «Произведение Кронекера». MathWorld .
• «Проблемы с новым продуктом Kronecker» (PDF) .
• «Древнейшие применения».Статья о Кронекере, Зейфусе или прямом произведении матриц содержит историческую информацию.
• вычислить произведение Кронекера двух матриц. SourceForge (общий исходный код C++ и Fortran 90). 2015-06-27.
• "Продукт Кронекера". RosettaCode.org . 31 декабря 2020 г. . Получено 13.01.2021 г.Исходный код программного обеспечения на более чем 40 языках.