Внешний продукт

Векторная операция

В линейной алгебре внешним произведением двух координатных векторов является матрица, все элементы которой представляют собой произведения элемента первого вектора на элемент второго вектора. Если два координатных вектора имеют размеры n и m , то их внешнее произведение представляет собой матрицу размера n × m . В более общем смысле, если даны два тензора (многомерный массив чисел), их внешний продукт является тензором. Внешнее произведение тензоров также называется их тензорным произведением и может использоваться для определения тензорной алгебры .

Внешний вид изделия контрастирует с:

• Скалярное произведение (частный случай « внутреннего продукта »), которое принимает пару координатных векторов в качестве входных данных и выдает скаляр
• Произведение Кронекера , которое принимает на вход пару матриц и создает блочную матрицу.
• Стандартное матричное умножение

Определение

Даны два вектора размера и соответственно ${\displaystyle m\times 1}$ ${\displaystyle n\times 1}$

$${\displaystyle \mathbf {u} ={\begin{bmatrix}u_{1}\\u_{2}\\\vdots \\u_{m}\end{bmatrix}},\quad \mathbf {v} ={\begin{bmatrix}v_{1}\\v_{2}\\\vdots \\v_{n}\end{bmatrix}}}$$

их внешний продукт, обозначенный, определяется как матрица , полученная путем умножения каждого элемента на каждый элемент : ^[1] ${\displaystyle \mathbf {u} \otimes \mathbf {v} ,}$ ${\displaystyle m\times n}$ ${\displaystyle \mathbf {A} }$ ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {v} }$

$${\displaystyle \mathbf {u} \otimes \mathbf {v} =\mathbf {A} ={\begin{bmatrix}u_{1}v_{1}&u_{1}v_{2}&\dots &u_{1}v_{n}\\u_{2}v_{1}&u_{2}v_{2}&\dots &u_{2}v_{n}\\\vdots &\vdots &\ddots &\vdots \\u_{m}v_{1}&u_{m}v_{2}&\dots &u_{m}v_{n}\end{bmatrix}}}$$

Или, в индексной записи:

$${\displaystyle (\mathbf {u} \otimes \mathbf {v} )_{ij}=u_{i}v_{j}}$$

Обозначая скалярное произведение , если задан вектор, то Если задан вектор, то ${\displaystyle \,\cdot ,\,}$ ${\displaystyle n\times 1}$ ${\displaystyle \mathbf {w} ,}$ ${\displaystyle (\mathbf {u} \otimes \mathbf {v} )\mathbf {w} =(\mathbf {v} \cdot \mathbf {w} )\mathbf {u} .}$ ${\displaystyle 1\times m}$ ${\displaystyle \mathbf {x} ,}$ ${\displaystyle \mathbf {x} (\mathbf {u} \otimes \mathbf {v} )=(\mathbf {x} \cdot \mathbf {u} )\mathbf {v} ^{\operatorname {T} }.}$

Если и являются векторами одной размерности больше 1, то . ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {v} }$ ${\displaystyle \det(\mathbf {u} \otimes \mathbf {v} )=0}$

Внешний продукт эквивалентен умножению матрицы при условии, что он представлен как вектор-столбец и как вектор-столбец (который образует вектор-строку). ^{[2] [3]} Например, если и тогда ^[4] ${\displaystyle \mathbf {u} \otimes \mathbf {v} }$ ${\displaystyle \mathbf {u} \mathbf {v} ^{\operatorname {T} },}$ ${\displaystyle \mathbf {u} }$ ${\displaystyle m\times 1}$ ${\displaystyle \mathbf {v} }$ ${\displaystyle n\times 1}$ ${\displaystyle \mathbf {v} ^{\operatorname {T} }}$ ${\displaystyle m=4}$ ${\displaystyle n=3,}$

$${\displaystyle \mathbf {u} \otimes \mathbf {v} =\mathbf {u} \mathbf {v} ^{\textsf {T}}={\begin{bmatrix}u_{1}\\u_{2}\\u_{3}\\u_{4}\end{bmatrix}}{\begin{bmatrix}v_{1}&v_{2}&v_{3}\end{bmatrix}}={\begin{bmatrix}u_{1}v_{1}&u_{1}v_{2}&u_{1}v_{3}\\u_{2}v_{1}&u_{2}v_{2}&u_{2}v_{3}\\u_{3}v_{1}&u_{3}v_{2}&u_{3}v_{3}\\u_{4}v_{1}&u_{4}v_{2}&u_{4}v_{3}\end{bmatrix}}.}$$

Для сложных векторов часто бывает полезно использовать сопряженную транспонирование обозначенного или : ${\displaystyle \mathbf {v} ,}$ ${\displaystyle \mathbf {v} ^{\dagger }}$ ${\displaystyle \left(\mathbf {v} ^{\textsf {T}}\right)^{*}}$

$${\displaystyle \mathbf {u} \otimes \mathbf {v} =\mathbf {u} \mathbf {v} ^{\dagger }=\mathbf {u} \left(\mathbf {v} ^{\textsf {T}}\right)^{*}.}$$

Контраст с евклидовым внутренним произведением.

Если тогда можно взять матричное произведение другим способом, получив скаляр (или матрицу): ${\displaystyle m=n,}$ ${\displaystyle 1\times 1}$

$${\displaystyle \left\langle \mathbf {u} ,\mathbf {v} \right\rangle =\mathbf {u} ^{\textsf {T}}\mathbf {v} }$$

который является стандартным скалярным произведением для евклидовых векторных пространств , ^[3] более известным как скалярное произведение . Скалярное произведение — это след внешнего произведения. ^[5] В отличие от скалярного произведения, внешнее произведение не является коммутативным.

Умножение вектора на матрицу можно записать через скалярное произведение, используя соотношение . ${\displaystyle \mathbf {w} }$ ${\displaystyle \mathbf {u} \otimes \mathbf {v} }$ ${\displaystyle \left(\mathbf {u} \otimes \mathbf {v} \right)\mathbf {w} =\mathbf {u} \left\langle \mathbf {v} ,\mathbf {w} \right\rangle }$

Внешний продукт тензоров

Учитывая два тензора с размерностями и , их внешний продукт представляет собой тензор с размерностями и элементами. ${\displaystyle \mathbf {u} ,\mathbf {v} }$ ${\displaystyle (k_{1},k_{2},\dots ,k_{m})}$ ${\displaystyle (l_{1},l_{2},\dots ,l_{n})}$ ${\displaystyle \mathbf {u} \otimes \mathbf {v} }$ ${\displaystyle (k_{1},k_{2},\dots ,k_{m},l_{1},l_{2},\dots ,l_{n})}$

$${\displaystyle (\mathbf {u} \otimes \mathbf {v} )_{i_{1},i_{2},\dots i_{m},j_{1},j_{2},\dots ,j_{n}}=u_{i_{1},i_{2},\dots ,i_{m}}v_{j_{1},j_{2},\dots ,j_{n}}}$$

Например, если имеет порядок 3 по размерам и порядок 2 по размерам , то их внешний продукт имеет порядок 5 по размерности. Если имеет компонент A _{[2, 2, 4]} = 11 и имеет компонент B _{[8, 88] ]} = 13 , то составляющая образованная внешним произведением равна C _{[2, 2, 4, 8, 88]} = 143 . ${\displaystyle \mathbf {A} }$ ${\displaystyle (3,5,7)}$ ${\displaystyle \mathbf {B} }$ ${\displaystyle (10,100),}$ ${\displaystyle \mathbf {C} }$ ${\displaystyle (3,5,7,10,100).}$ ${\displaystyle \mathbf {A} }$ ${\displaystyle \mathbf {B} }$ ${\displaystyle \mathbf {C} }$

Соединение с продуктом Кронекера

Внешний продукт и продукт Кронекера тесно связаны между собой; на самом деле для обозначения обеих операций обычно используется один и тот же символ.

Если и , то имеем: ${\displaystyle \mathbf {u} ={\begin{bmatrix}1&2&3\end{bmatrix}}^{\textsf {T}}}$ ${\displaystyle \mathbf {v} ={\begin{bmatrix}4&5\end{bmatrix}}^{\textsf {T}}}$

$${\displaystyle {\begin{aligned}\mathbf {u} \otimes _{\text{Kron}}\mathbf {v} &={\begin{bmatrix}4\\5\\8\\10\\12\\15\end{bmatrix}},&\mathbf {u} \otimes _{\text{outer}}\mathbf {v} &={\begin{bmatrix}4&5\\8&10\\12&15\end{bmatrix}}\end{aligned}}}$$

В случае векторов-столбцов произведение Кронекера можно рассматривать как форму векторизации (или сглаживания) внешнего произведения. В частности, для двух вектор-столбцов и мы можем написать: ${\displaystyle \mathbf {u} }$ ${\displaystyle \mathbf {v} }$

$${\displaystyle \mathbf {u} \otimes _{\text{Kron}}\mathbf {v} =\operatorname {vec} (\mathbf {v} \otimes _{\text{outer}}\mathbf {u} )}$$

(Порядок векторов в правой части уравнения обратный.)

Еще одна аналогичная идентичность, которая еще больше подчеркивает сходство между операциями:

$${\displaystyle \mathbf {u} \otimes _{\text{Kron}}\mathbf {v} ^{\textsf {T}}=\mathbf {u} \mathbf {v} ^{\textsf {T}}=\mathbf {u} \otimes _{\text{outer}}\mathbf {v} }$$

где порядок векторов не нужно менять. Среднее выражение использует умножение матриц, где векторы рассматриваются как матрицы столбец/строка.

Связь с матричным продуктом

Учитывая пару матриц размера и размера , рассмотрим матричное произведение , обычно определяемое как матрица размера . ${\displaystyle \mathbf {A} }$ ${\displaystyle m\times p}$ ${\displaystyle \mathbf {B} }$ ${\displaystyle p\times n}$ ${\displaystyle \mathbf {C} =\mathbf {A} \,\mathbf {B} }$ ${\displaystyle m\times n}$

Теперь пусть будет -тый вектор-столбец и -й вектор-строка . Тогда это может быть выражено как сумма внешних произведений по столбцам: ${\displaystyle \mathbf {a} _{k}^{\text{col}}}$ ${\displaystyle k}$ ${\displaystyle \mathbf {A} }$ ${\displaystyle \mathbf {b} _{k}^{\text{row}}}$ ${\displaystyle k}$ ${\displaystyle \mathbf {B} }$ ${\displaystyle \mathbf {C} }$

$${\displaystyle \mathbf {C} =\mathbf {A} \,\mathbf {B} =\left(\sum _{k=1}^{p}{A}_{ik}\,{B}_{kj}\right)_{\begin{matrix}1\leq i\leq m\\[-20pt]1\leq j\leq n\end{matrix}}={\begin{bmatrix}&&\\\mathbf {a} _{1}^{\text{col}}&\cdots &\mathbf {a} _{p}^{\text{col}}\\&&\end{bmatrix}}{\begin{bmatrix}&\mathbf {b} _{1}^{\text{row}}&\\&\vdots &\\&\mathbf {b} _{p}^{\text{row}}&\end{bmatrix}}=\sum _{k=1}^{p}\mathbf {a} _{k}^{\text{col}}\otimes \mathbf {b} _{k}^{\text{row}}}$$

Это выражение имеет двойственность с более распространенным выражением, представляющим собой матрицу, построенную из построчных записей внутреннего продукта (или скалярного произведения ): ${\displaystyle C_{ij}=\langle {\mathbf {a} _{i}^{\text{row}},\,\mathbf {b} _{j}^{\text{col}}}\rangle }$

Это соотношение актуально ^[6] при применении разложения по сингулярным значениям (SVD) (и спектрального разложения в частном случае). В частности, разложение можно интерпретировать как сумму внешних произведений каждого левого ( ) и правого ( ) сингулярных векторов, масштабированных соответствующим ненулевым сингулярным значением : ${\displaystyle \mathbf {u} _{k}}$ ${\displaystyle \mathbf {v} _{k}}$ ${\displaystyle \sigma _{k}}$

$${\displaystyle \mathbf {A} =\mathbf {U\Sigma V^{T}} =\sum _{k=1}^{\operatorname {rank} (A)}(\mathbf {u} _{k}\otimes \mathbf {v} _{k})\,\sigma _{k}}$$

Из этого результата следует, что его можно выразить как сумму матриц ранга 1 со спектральной нормой в порядке убывания. Это объясняет тот факт, почему в целом последние члены дают меньший вклад, что мотивирует использование усеченного SVD в качестве приближения. Первый член представляет собой аппроксимацию матрицы внешним произведением векторов методом наименьших квадратов. ${\displaystyle \mathbf {A} }$ ${\displaystyle \sigma _{k}}$

Характеристики

Внешний продукт векторов удовлетворяет следующим свойствам:

$${\displaystyle {\begin{aligned}(\mathbf {u} \otimes \mathbf {v} )^{\textsf {T}}&=(\mathbf {v} \otimes \mathbf {u} )\\(\mathbf {v} +\mathbf {w} )\otimes \mathbf {u} &=\mathbf {v} \otimes \mathbf {u} +\mathbf {w} \otimes \mathbf {u} \\\mathbf {u} \otimes (\mathbf {v} +\mathbf {w} )&=\mathbf {u} \otimes \mathbf {v} +\mathbf {u} \otimes \mathbf {w} \\c(\mathbf {v} \otimes \mathbf {u} )&=(c\mathbf {v} )\otimes \mathbf {u} =\mathbf {v} \otimes (c\mathbf {u} )\end{aligned}}}$$

Внешний продукт тензоров удовлетворяет дополнительному свойству ассоциативности :

$${\displaystyle (\mathbf {u} \otimes \mathbf {v} )\otimes \mathbf {w} =\mathbf {u} \otimes (\mathbf {v} \otimes \mathbf {w} )}$$

Ранг внешнего продукта

Если u и v оба ненулевые, то матрица внешнего произведения uv ^T всегда имеет ранг матрицы 1. Действительно, все столбцы внешнего произведения пропорциональны первому столбцу. Таким образом, все они линейно зависят от этого столбца, следовательно, матрица имеет первый ранг.

(«Ранг матрицы» не следует путать с « тензорным порядком » или «тензорной степенью», которую иногда называют «рангом».)

Определение (аннотация)

Пусть V и W — два векторных пространства . Внешний продукт и является элементом . ${\displaystyle \mathbf {v} \in V}$ ${\displaystyle \mathbf {w} \in W}$ ${\displaystyle \mathbf {v} \otimes \mathbf {w} \in V\otimes W}$

Если V — пространство внутреннего продукта , то внешний продукт можно определить как линейное отображение V → W. В этом случае линейное отображение является элементом двойственного пространства V , поскольку оно линейно отображает вектор в лежащее в его основе поле, элементом которого является . Внешний продукт V → W тогда определяется выражением ${\displaystyle \mathbf {x} \mapsto \langle \mathbf {v} ,\mathbf {x} \rangle }$ ${\displaystyle \langle \mathbf {v} ,\mathbf {x} \rangle }$

$${\displaystyle (\mathbf {w} \otimes \mathbf {v} )(\mathbf {x} )=\left\langle \mathbf {v} ,\mathbf {x} \right\rangle \mathbf {w} .}$$

Это показывает, почему в комплексном случае обычно используется сопряженное транспонирование v .

В языках программирования

В некоторых языках программирования, учитывая функцию с двумя аргументами f(или бинарный оператор), внешний продукт fдвух одномерных массивов Aи Bпредставляет собой двумерный массив Cтакой, что C[i, j] = f(A[i], B[j]). Синтаксически это представлено различными способами: в APL — как инфиксный бинарный оператор ; в J , как постфиксное наречие ; в R — как функция или специальное предложение ; ^[7] в системе Mathematica , как . В MATLAB функция используется для этого продукта. Их часто обобщают на многомерные аргументы и более двух аргументов.∘.ff/outer(A, B, f)%o%Outer[f, A, B]kron(A, B)

В библиотеке Python NumPy внешний продукт можно вычислить с помощью функции np.outer(). ^[8] Напротив, в np.kronрезультате получается плоский массив. Внешний продукт многомерных массивов можно вычислить с помощью np.multiply.outer.

Приложения

Поскольку внешний продукт тесно связан с продуктом Кронекера , в некоторых приложениях продукта Кронекера используются внешние продукты. Эти приложения можно найти в квантовой теории, обработке сигналов и сжатии изображений . ^[9]

Спиноры

Предположим, что s , t , w , z ∈ C так, что ( s , t ) и ( w , z ) находятся в C ² . Тогда внешний продукт этих комплексных 2-векторов является элементом M(2, C ) , комплексных матриц 2 × 2:

$${\displaystyle {\begin{pmatrix}sw&tw\\sz&tz\end{pmatrix}}.}$$

Определителем этой матрицы является swtz − sztw = 0 из-за коммутативного свойства C .

В теории спиноров в трех измерениях эти матрицы связаны с изотропными векторами из-за этого нулевого свойства. Эли Картан описал эту конструкцию в 1937 году ^[10] , но она была введена Вольфгангом Паули в 1927 году ^[11], так что M(2, C ) стала называться алгеброй Паули .

Концепции

Блочная форма внешних продуктов полезна при классификации. Концептуальный анализ – это исследование, которое зависит от определенных внешних продуктов:

Когда вектор имеет только нули и единицы в качестве элементов, он называется логическим вектором , частным случаем логической матрицы . Логическая операция и занимает место умножения. Внешний продукт двух логических векторов ( ui ) и ₍ vj ) задается _{логической} матрицей . Этот тип матрицы используется при изучении бинарных отношений и называется прямоугольным отношением или перекрестным вектором . ^[12] ${\displaystyle \left(a_{ij}\right)=\left(u_{i}\land v_{j}\right)}$

Смотрите также

• Диадики
• Преобразование домохозяина
• Норма (математика)
• исчисление Риччи
• Матрица рассеяния

Продукты

• Декартово произведение
• Перекрестное произведение
• Экстерьер продукта
• Произведение Адамара (матрицы)

Двойственность

• Обозначение Бра-кета для внешнего продукта
• Комплексное сопряжение
• Сопряженное транспонирование
• Транспонировать

Рекомендации

1. Лернер, Р.Г .; Тригг, Г.Л. (1991). Энциклопедия физики (2-е изд.). ВХК. ISBN 0-89573-752-3.
2. Липшуц, С.; Липсон, М. (2009). Линейная алгебра . Очерки Шаума (4-е изд.). МакГроу-Хилл. ISBN 978-0-07-154352-1.
3. Келлер, Фрэнк (23 февраля 2020 г.). «Алгебраические свойства матриц; транспонирование; внутренний и внешний продукт» (PDF) . inf.ed.ac.uk. _ Архивировано (PDF) из оригинала 15 декабря 2017 г. Проверено 6 сентября 2020 г.
4. Джеймс М. Ортега (1987) Теория матриц: второй курс , страница 7, ISBN Plenum Press 0-306-42433-9 
5. Стенгель, Роберт Ф. (1994). Оптимальное управление и оценка. Нью-Йорк: Dover Publications. п. 26. ISBN 0-486-68200-5.
6. Трефетен, Ллойд Н .; Бау III, Дэвид (1997). Численная линейная алгебра . Филадельфия: Общество промышленной и прикладной математики. ISBN 978-0-89871-361-9.
7. «Внешняя функция | Документация R» . www.rdocumentation.org . Проверено 7 сентября 2020 г.
8. «numpy.outer — Руководство по NumPy v1.19». numpy.org . Проверено 7 сентября 2020 г.
9. Стееб, Вилли-Ханс; Харди, Йорик (2011). «Приложения (глава 3)». Матричное исчисление и произведение Кронекера: практический подход к линейной и полилинейной алгебре (2-е изд.). Всемирная научная. ISBN 978-981-4335-31-7.
10. Эли Картан (1937) Lecons sur la theorie des spineurs , перевод 1966: Теория спиноров , Герман, Париж
11. Пертти Лунесто (1997) Алгебры и спиноры Клиффорда , страница 51, ISBN издательства Кембриджского университета 0-521-59916-4 
12. Ки Ханг Ким (1982) Теория и приложения булевых матриц , страница 37, ISBN Марселя Деккера 0-8247-1788-0 

дальнейшее чтение

• Карлен, Эрик; Кансейсан Карвальо, Мария (2006). «Внешние произведения и ортогональные проекции». Линейная алгебра: с начала . Макмиллан. стр. 217–218. ISBN 9780716748946.