Внешний продукт

Векторная операция

В линейной алгебре внешнее произведение двух координатных векторов — это матрица, все элементы которой являются произведениями элемента первого вектора на элемент второго вектора. Если два координатных вектора имеют размерности n и m , то их внешнее произведение — это матрица n × m . В более общем смысле, если даны два тензора (многомерные массивы чисел), их внешнее произведение — это тензор. Внешнее произведение тензоров также называется их тензорным произведением и может использоваться для определения тензорной алгебры .

Внешний вид продукта контрастирует с:

• Скалярное произведение (частный случай « внутреннего произведения »), которое принимает в качестве входных данных пару координатных векторов и производит скаляр
• Произведение Кронекера , которое принимает пару матриц в качестве входных данных и создает блочную матрицу
• Стандартное матричное умножение

Определение

Даны два вектора размером и соответственно ${\displaystyle m\times 1}$ ${\displaystyle n\times 1}$

$${\displaystyle \mathbf {u} ={\begin{bmatrix}u_{1}\\u_{2}\\\vdots \\u_{m}\end{bmatrix}},\quad \mathbf {v} ={\begin{bmatrix}v_{1}\\v_{2}\\\vdots \\v_{n}\end{bmatrix}}}$$

их внешнее произведение, обозначаемое , определяется как матрица, полученная путем умножения каждого элемента на каждый элемент : ^[1] ${\displaystyle \mathbf {u} \otimes \mathbf {v} ,}$ ${\displaystyle m\times n}$ ${\displaystyle \mathbf {A} }$ ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {v} }$

$${\displaystyle \mathbf {u} \otimes \mathbf {v} =\mathbf {A} ={\begin{bmatrix}u_{1}v_{1}&u_{1}v_{2}&\dots &u_{1}v_{n}\\u_{2}v_{1}&u_{2}v_{2}&\dots &u_{2}v_{n}\\\vdots &\vdots &\ddots &\vdots \\u_{m}v_{1}&u_{m}v_{2}&\dots &u_{m}v_{n}\end{bmatrix}}}$$

Или, в индексной записи:

$${\displaystyle (\mathbf {u} \otimes \mathbf {v} )_{ij}=u_{i}v_{j}}$$

Обозначим скалярное произведение следующим образом: если дан вектор , то Если дан вектор , то ${\displaystyle \,\cdot ,\,}$ ${\displaystyle n\times 1}$ ${\displaystyle \mathbf {w} ,}$ ${\displaystyle (\mathbf {u} \otimes \mathbf {v} )\mathbf {w} =(\mathbf {v} \cdot \mathbf {w} )\mathbf {u} .}$ ${\displaystyle 1\times m}$ ${\displaystyle \mathbf {x} ,}$ ${\displaystyle \mathbf {x} (\mathbf {u} \otimes \mathbf {v} )=(\mathbf {x} \cdot \mathbf {u} )\mathbf {v} ^{\operatorname {T} }.}$

Если и — векторы одной и той же размерности, большей 1, то . ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {v} }$ ${\displaystyle \det(\mathbf {u} \otimes \mathbf {v} )=0}$

Внешний продукт эквивалентен умножению матриц при условии, что он представлен как вектор-столбец и как вектор-столбец (что дает вектор-строку). ^{[2] [3]} Например, если и тогда ^[4] ${\displaystyle \mathbf {u} \otimes \mathbf {v} }$ ${\displaystyle \mathbf {u} \mathbf {v} ^{\operatorname {T} },}$ ${\displaystyle \mathbf {u} }$ ${\displaystyle m\times 1}$ ${\displaystyle \mathbf {v} }$ ${\displaystyle n\times 1}$ ${\displaystyle \mathbf {v} ^{\operatorname {T} }}$ ${\displaystyle m=4}$ ${\displaystyle n=3,}$

$${\displaystyle \mathbf {u} \otimes \mathbf {v} =\mathbf {u} \mathbf {v} ^{\textsf {T}}={\begin{bmatrix}u_{1}\\u_{2}\\u_{3}\\u_{4}\end{bmatrix}}{\begin{bmatrix}v_{1}&v_{2}&v_{3}\end{bmatrix}}={\begin{bmatrix}u_{1}v_{1}&u_{1}v_{2}&u_{1}v_{3}\\u_{2}v_{1}&u_{2}v_{2}&u_{2}v_{3}\\u_{3}v_{1}&u_{3}v_{2}&u_{3}v_{3}\\u_{4}v_{1}&u_{4}v_{2}&u_{4}v_{3}\end{bmatrix}}.}$$

Для комплексных векторов часто бывает полезно взять сопряженное транспонирование обозначенного или : ${\displaystyle \mathbf {v} ,}$ ${\displaystyle \mathbf {v} ^{\dagger }}$ ${\displaystyle \left(\mathbf {v} ^{\textsf {T}}\right)^{*}}$

$${\displaystyle \mathbf {u} \otimes \mathbf {v} =\mathbf {u} \mathbf {v} ^{\dagger }=\mathbf {u} \left(\mathbf {v} ^{\textsf {T}}\right)^{*}.}$$

Контраст с евклидовым внутренним произведением

Если тогда можно взять матричное произведение другим способом, получив скаляр (или матрицу): ${\displaystyle m=n,}$ ${\displaystyle 1\times 1}$

$${\displaystyle \left\langle \mathbf {u} ,\mathbf {v} \right\rangle =\mathbf {u} ^{\textsf {T}}\mathbf {v} }$$

что является стандартным внутренним произведением для евклидовых векторных пространств , ^[3] более известным как скалярное произведение . Скалярное произведение является следом внешнего произведения. ^[5] В отличие от скалярного произведения, внешнее произведение не является коммутативным.

Умножение вектора на матрицу можно записать в терминах скалярного произведения, используя соотношение . ${\displaystyle \mathbf {w} }$ ${\displaystyle \mathbf {u} \otimes \mathbf {v} }$ ${\displaystyle \left(\mathbf {u} \otimes \mathbf {v} \right)\mathbf {w} =\mathbf {u} \left\langle \mathbf {v} ,\mathbf {w} \right\rangle }$

Внешнее произведение тензоров

Если даны два тензора с размерностями и , их внешнее произведение представляет собой тензор с размерностями и элементами ${\displaystyle \mathbf {u} ,\mathbf {v} }$ ${\displaystyle (k_{1},k_{2},\dots ,k_{m})}$ ${\displaystyle (l_{1},l_{2},\dots ,l_{n})}$ ${\displaystyle \mathbf {u} \otimes \mathbf {v} }$ ${\displaystyle (k_{1},k_{2},\dots ,k_{m},l_{1},l_{2},\dots ,l_{n})}$

$${\displaystyle (\mathbf {u} \otimes \mathbf {v} )_{i_{1},i_{2},\dots i_{m},j_{1},j_{2},\dots ,j_{n}}=u_{i_{1},i_{2},\dots ,i_{m}}v_{j_{1},j_{2},\dots ,j_{n}}}$$

Например, если имеет порядок 3 с размерностями и имеет порядок 2 с размерностями , то их внешнее произведение имеет порядок 5 с размерностями Если имеет компонент A _{[2, 2, 4]} = 11 и имеет компонент B _{[8, 88]} = 13 , то компонент, образованный внешним произведением, равен C _{[2, 2, 4, 8, 88]} = 143 . ${\displaystyle \mathbf {A} }$ ${\displaystyle (3,5,7)}$ ${\displaystyle \mathbf {B} }$ ${\displaystyle (10,100),}$ ${\displaystyle \mathbf {C} }$ ${\displaystyle (3,5,7,10,100).}$ ${\displaystyle \mathbf {A} }$ ${\displaystyle \mathbf {B} }$ ${\displaystyle \mathbf {C} }$

Связь с продукцией Kronecker

Внешнее произведение и произведение Кронекера тесно связаны; фактически для обозначения обеих операций обычно используется один и тот же символ.

Если и , то имеем: ${\displaystyle \mathbf {u} ={\begin{bmatrix}1&2&3\end{bmatrix}}^{\textsf {T}}}$ ${\displaystyle \mathbf {v} ={\begin{bmatrix}4&5\end{bmatrix}}^{\textsf {T}}}$

$${\displaystyle {\begin{aligned}\mathbf {u} \otimes _{\text{Kron}}\mathbf {v} &={\begin{bmatrix}4\\5\\8\\10\\12\\15\end{bmatrix}},&\mathbf {u} \otimes _{\text{outer}}\mathbf {v} &={\begin{bmatrix}4&5\\8&10\\12&15\end{bmatrix}}\end{aligned}}}$$

В случае векторов-столбцов произведение Кронекера можно рассматривать как форму векторизации (или уплощения) внешнего произведения. В частности, для двух векторов-столбцов и можно записать: ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {v} }$

$${\displaystyle \mathbf {u} \otimes _{\text{Kron}}\mathbf {v} =\operatorname {vec} (\mathbf {v} \otimes _{\text{outer}}\mathbf {u} )}$$

(В правой части уравнения порядок векторов обратный.)

Еще одна похожая идентичность, которая еще больше подчеркивает сходство между операциями, — это

$${\displaystyle \mathbf {u} \otimes _{\text{Kron}}\mathbf {v} ^{\textsf {T}}=\mathbf {u} \mathbf {v} ^{\textsf {T}}=\mathbf {u} \otimes _{\text{outer}}\mathbf {v} }$$

где порядок векторов не нужно менять местами. Среднее выражение использует матричное умножение, где векторы рассматриваются как матрицы столбцов/строк.

Связь с матричным продуктом

Для пары матриц размера и размера рассмотрим матричное произведение, определенное, как обычно, как матрица размера . ${\displaystyle \mathbf {A} }$ ${\displaystyle m\times p}$ ${\displaystyle \mathbf {B} }$ ${\displaystyle p\times n}$ ${\displaystyle \mathbf {C} =\mathbf {A} \,\mathbf {B} }$ ${\displaystyle m\times n}$

Теперь пусть будет -ым вектором столбца и пусть будет -ым вектором строки . Тогда можно выразить как сумму внешних произведений столбцов за строками: ${\displaystyle \mathbf {a} _{k}^{\text{col}}}$ ${\displaystyle k}$ ${\displaystyle \mathbf {A} }$ ${\displaystyle \mathbf {b} _{k}^{\text{row}}}$ ${\displaystyle k}$ ${\displaystyle \mathbf {B} }$ ${\displaystyle \mathbf {C} }$

$${\displaystyle \mathbf {C} =\mathbf {A} \,\mathbf {B} =\left(\sum _{k=1}^{p}{A}_{ik}\,{B}_{kj}\right)_{\begin{matrix}1\leq i\leq m\\[-20pt]1\leq j\leq n\end{matrix}}={\begin{bmatrix}&&\\\mathbf {a} _{1}^{\text{col}}&\cdots &\mathbf {a} _{p}^{\text{col}}\\&&\end{bmatrix}}{\begin{bmatrix}&\mathbf {b} _{1}^{\text{row}}&\\&\vdots &\\&\mathbf {b} _{p}^{\text{row}}&\end{bmatrix}}=\sum _{k=1}^{p}\mathbf {a} _{k}^{\text{col}}\otimes \mathbf {b} _{k}^{\text{row}}}$$

Это выражение имеет двойственность с более распространенным выражением, представляющим собой матрицу, построенную с записями внутреннего произведения строк и столбцов (или скалярного произведения ): ${\displaystyle C_{ij}=\langle {\mathbf {a} _{i}^{\text{row}},\,\mathbf {b} _{j}^{\text{col}}}\rangle }$

Это соотношение актуально ^[6] при применении разложения по сингулярным значениям (SVD) (и спектрального разложения как частного случая). В частности, разложение можно интерпретировать как сумму внешних произведений каждого левого ( ) и правого ( ) сингулярных векторов, масштабированных соответствующим ненулевым сингулярным значением : ${\displaystyle \mathbf {u} _{k}}$ ${\displaystyle \mathbf {v} _{k}}$ ${\displaystyle \sigma _{k}}$

$${\displaystyle \mathbf {A} =\mathbf {U\Sigma V^{T}} =\sum _{k=1}^{\operatorname {rank} (A)}(\mathbf {u} _{k}\otimes \mathbf {v} _{k})\,\sigma _{k}}$$

Этот результат подразумевает, что может быть выражен как сумма матриц ранга 1 со спектральной нормой в порядке убывания. Это объясняет тот факт, почему, в общем, последние члены вносят меньший вклад, что мотивирует использование усеченного SVD в качестве приближения. Первый член — это наименьшие квадраты подгонки матрицы к внешнему произведению векторов. ${\displaystyle \mathbf {A} }$ ${\displaystyle \sigma _{k}}$

Характеристики

Внешнее произведение векторов удовлетворяет следующим свойствам:

$${\displaystyle {\begin{aligned}(\mathbf {u} \otimes \mathbf {v} )^{\textsf {T}}&=(\mathbf {v} \otimes \mathbf {u} )\\(\mathbf {v} +\mathbf {w} )\otimes \mathbf {u} &=\mathbf {v} \otimes \mathbf {u} +\mathbf {w} \otimes \mathbf {u} \\\mathbf {u} \otimes (\mathbf {v} +\mathbf {w} )&=\mathbf {u} \otimes \mathbf {v} +\mathbf {u} \otimes \mathbf {w} \\c(\mathbf {v} \otimes \mathbf {u} )&=(c\mathbf {v} )\otimes \mathbf {u} =\mathbf {v} \otimes (c\mathbf {u} )\end{aligned}}}$$

Внешнее произведение тензоров удовлетворяет дополнительному свойству ассоциативности :

$${\displaystyle (\mathbf {u} \otimes \mathbf {v} )\otimes \mathbf {w} =\mathbf {u} \otimes (\mathbf {v} \otimes \mathbf {w} )}$$

Ранг внешнего продукта

Если u и v оба не равны нулю, то матрица внешнего произведения uv ^T всегда имеет ранг матрицы 1. Действительно, все столбцы внешнего произведения пропорциональны u . Таким образом, все они линейно зависят от этого одного столбца, следовательно, матрица имеет ранг один.

(«Ранг матрицы» не следует путать с « порядком тензора » или «степенью тензора», которую иногда называют «рангом».)

Определение (аннотация)

Пусть V и W — два векторных пространства . Внешнее произведение и — элемент . ${\displaystyle \mathbf {v} \in V}$ ${\displaystyle \mathbf {w} \in W}$ ${\displaystyle \mathbf {v} \otimes \mathbf {w} \in V\otimes W}$

Если V — внутреннее пространство произведения , то можно определить внешнее произведение как линейное отображение V → W. В этом случае линейное отображение является элементом двойственного пространства V , поскольку оно линейно отображает вектор в его базовое поле, элементом которого является. Внешнее произведение V → W тогда задается как ${\displaystyle \mathbf {x} \mapsto \langle \mathbf {v} ,\mathbf {x} \rangle }$ ${\displaystyle \langle \mathbf {v} ,\mathbf {x} \rangle }$

$${\displaystyle (\mathbf {w} \otimes \mathbf {v} )(\mathbf {x} )=\left\langle \mathbf {v} ,\mathbf {x} \right\rangle \mathbf {w} .}$$

Это показывает, почему в комплексном случае обычно используется сопряженное транспонирование v .

В языках программирования

В некоторых языках программирования, если задана двухаргументная функция f(или бинарный оператор), внешнее произведение , fдвух одномерных массивов Aи B, является двумерным массивом, Cтаким что C[i, j] = f(A[i], B[j]). Синтаксически это представлено различными способами: в APL , как инфиксный бинарный оператор ; в J , как постфиксное наречие ; в R , как функция или специальный ; ^[7] в Mathematica , как . В MATLAB для этого произведения используется функция . Они часто обобщаются на многомерные аргументы и более двух аргументов.∘.ff/outer(A, B, f)%o%Outer[f, A, B]kron(A, B)

В библиотеке Python NumPy внешнее произведение можно вычислить с помощью функции np.outer(). ^[8] Напротив, np.kronприводит к плоскому массиву. Внешнее произведение многомерных массивов можно вычислить с помощью np.multiply.outer.

Приложения

Поскольку внешний продукт тесно связан с продуктом Кронекера , некоторые приложения продукта Кронекера используют внешние продукты. Эти приложения встречаются в квантовой теории, обработке сигналов и сжатии изображений . ^[9]

Спиноры

Предположим, что s , t , w , z ∈ C , так что ( s , t ) и ( w , z ) находятся в C2 . Тогда внешнее произведение этих комплексных 2-векторов является элементом M(2, C ) , комплексной матрицы ² × 2:

$${\displaystyle {\begin{pmatrix}sw&tw\\sz&tz\end{pmatrix}}.}$$

Определитель этой матрицы равен swtz − sztw = 0 из - за коммутативного свойства C.

В теории спиноров в трех измерениях эти матрицы связаны с изотропными векторами из-за этого нулевого свойства. Эли Картан описал эту конструкцию в 1937 году ^[10] , но она была введена Вольфгангом Паули в 1927 году ^[11], так что M(2, C ) стала называться алгеброй Паули .

Концепции

Блочная форма внешних продуктов полезна при классификации. Концептуальный анализ — это исследование, которое зависит от определенных внешних продуктов:

Когда вектор содержит только нули и единицы в качестве элементов, он называется логическим вектором , частным случаем логической матрицы . Логическая операция и занимает место умножения. Внешнее произведение двух логических векторов ( u _i ) и ( v _j ) задается логической матрицей . Этот тип матрицы используется при изучении бинарных отношений и называется прямоугольным отношением или кросс-вектором . ^[12] ${\displaystyle \left(a_{ij}\right)=\left(u_{i}\land v_{j}\right)}$

Смотрите также

• Диадики
• Трансформация домохозяина
• Норма (математика)
• исчисление Риччи
• Матрица рассеяния

Продукция

• Декартово произведение
• Перекрестное произведение
• Внешний вид продукта
• Произведение Адамара (матрицы)

Двойственность

• Обозначение скобок для внешнего продукта
• Комплексно сопряженный
• Сопряженная транспонированная операция
• Транспонировать

Ссылки

1. Лернер, РГ ; Тригг, ГЛ (1991). Энциклопедия физики (2-е изд.). VHC. ISBN 0-89573-752-3.
2. Липшуц, С.; Липсон, М. (2009). Линейная алгебра . Очерки Шаума (4-е изд.). МакГроу-Хилл. ISBN 978-0-07-154352-1.
3. Keller, Frank (23 февраля 2020 г.). "Алгебраические свойства матриц; Транспонирование; Внутреннее и внешнее произведение" (PDF) . inf.ed.ac.uk . Архивировано (PDF) из оригинала 2017-12-15 . Получено 6 сентября 2020 г. .
4. Джеймс М. Ортега (1987) Матричная теория: второй курс , стр. 7, Plenum Press ISBN 0-306-42433-9 
5. Стенгель, Роберт Ф. (1994). Оптимальное управление и оценка. Нью-Йорк: Dover Publications. стр. 26. ISBN 0-486-68200-5.
6. Трефетен, Ллойд Н .; Бау III, Дэвид (1997). Численная линейная алгебра . Филадельфия: Общество промышленной и прикладной математики. ISBN 978-0-89871-361-9.
7. "внешняя функция | Документация R". rdocumentation.org . Получено 2020-09-07 .
8. "numpy.outer — Руководство NumPy v1.19". numpy.org . Получено 2020-09-07 .
9. Steeb, Willi-Hans; Hardy, Yorick (2011). "Приложения (глава 3)". Матричное исчисление и произведение Кронекера: практический подход к линейной и полилинейной алгебре (2-е изд.). World Scientific. ISBN 978-981-4335-31-7.
10. Эли Картан (1937) Lecons sur la theorie des spineurs , перевод 1966: Теория спиноров , Герман, Париж
11. Пертти Лоунесто (1997) Алгебры и спиноры Клиффорда , стр. 51, Cambridge University Press ISBN 0-521-59916-4 
12. Ки-Ханг Ким (1982) Теория булевых матриц и ее применение , стр. 37, Марсель Деккер ISBN 0-8247-1788-0 

Дальнейшее чтение

• Карлен, Эрик; Кансейсао Карвальо, Мария (2006). «Внешние произведения и ортогональные проекции». Линейная алгебра: с самого начала . Macmillan. стр. 217–218. ISBN 9780716748946.