коэффициент Рэлея

Построение для эрмитовых матриц

В математике коэффициент Рэлея ^[1] ( / ˈ r eɪ . l i / ) для данной комплексной эрмитовой матрицы и ненулевого вектора определяется как: ^{[2] [3]} ${\displaystyle M}$ ${\displaystyle x}$

$${\displaystyle R(M,x)={x^{*}Mx \over x^{*}x}.}$$

,сопряженное транспонированиетранспонированиюдиагонализуема только с действительными собственными значениямисобственное значениесобственный вектор^[4] ${\displaystyle x^{*}}$ ${\displaystyle x'}$ ${\displaystyle R(M,cx)=R(M,x)}$ ${\displaystyle c}$ ${\displaystyle \lambda _{\min }}$ ${\displaystyle M}$ ${\displaystyle x}$ ${\displaystyle v_{\min }}$ ${\displaystyle R(M,x)\leq \lambda _{\max }}$ ${\displaystyle R(M,v_{\max })=\lambda _{\max }}$

Фактор Рэлея используется в теореме о мин-максе для получения точных значений всех собственных значений. Он также используется в алгоритмах собственных значений (таких как итерация коэффициента Рэлея ) для получения аппроксимации собственных значений из аппроксимации собственных векторов.

Область действия фактора Рэлея (для любой матрицы, не обязательно эрмитовой) называется числовой областью и содержит ее спектр . Когда матрица эрмитова, числовой радиус равен спектральной норме. Еще в функциональном анализе он известен как спектральный радиус . В контексте -алгебры или алгебраической квантовой механики функция, которая связывает фактор Рэлея – Ритца для фиксированного и изменяющегося в алгебре, будет называться векторным состоянием алгебры. ${\displaystyle \lambda _{\max }}$ ${\displaystyle C^{\star }}$ ${\displaystyle M}$ ${\displaystyle R(M,x)}$ ${\displaystyle x}$ ${\displaystyle M}$

В квантовой механике коэффициент Рэлея дает математическое ожидание наблюдаемой, соответствующей оператору для системы, состояние которой определяется выражением . ${\displaystyle M}$ ${\displaystyle x}$

Если мы зафиксируем комплексную матрицу , то результирующее отображение коэффициентов Рэлея (рассматриваемое как функция от ) полностью определяет через тождество поляризации ; на самом деле, это остается верным, даже если мы позволяем быть неэрмитовыми. Однако если мы ограничим поле скаляров действительными числами, то фактор Рэлея будет определять только симметричную часть . ${\displaystyle M}$ ${\displaystyle x}$ ${\displaystyle M}$ ${\displaystyle M}$ ${\displaystyle M}$

Границы для эрмитова M

Как указано во введении, для любого вектора x имеется , где - соответственно наименьшее и наибольшее собственное значение . Это сразу видно после того, как мы заметили, что коэффициент Рэлея представляет собой средневзвешенное значение собственных значений M : ${\displaystyle R(M,x)\in \left[\lambda _{\min },\lambda _{\max }\right]}$ ${\displaystyle \lambda _{\min },\lambda _{\max }}$ ${\displaystyle M}$

$${\displaystyle R(M,x)={x^{*}Mx \over x^{*}x}={\frac {\sum _{i=1}^{n}\lambda _{i}y_{i}^{2}}{\sum _{i=1}^{n}y_{i}^{2}}}}$$

x ${\displaystyle (\lambda _{i},v_{i})}$ ${\displaystyle i}$ ${\displaystyle y_{i}=v_{i}^{*}x}$ ${\displaystyle i}$ ${\displaystyle v_{\min },v_{\max }}$

Тот факт, что частное представляет собой средневзвешенное значение собственных значений, можно использовать для определения второго, третьего и... крупнейших собственных значений. Пусть – собственные значения в порядке убывания. Если и ограничено ортогональностью , в этом случае , то имеет максимальное значение , которое достигается при . ${\displaystyle \lambda _{\max }=\lambda _{1}\geq \lambda _{2}\geq \cdots \geq \lambda _{n}=\lambda _{\min }}$ ${\displaystyle n=2}$ ${\displaystyle x}$ ${\displaystyle v_{1}}$ ${\displaystyle y_{1}=v_{1}^{*}x=0}$ ${\displaystyle R(M,x)}$ ${\displaystyle \lambda _{2}}$ ${\displaystyle x=v_{2}}$

Особый случай ковариационных матриц

Эмпирическую ковариационную матрицу можно представить как произведение матрицы данных, предварительно умноженной на ее транспонирование . Будучи положительной полуопределенной матрицей, она имеет неотрицательные собственные значения и ортогональные (или ортогонализуемые) собственные векторы, что можно продемонстрировать следующим образом. ${\displaystyle M}$ ${\displaystyle A'A}$ ${\displaystyle A}$ ${\displaystyle A'}$ ${\displaystyle M}$

Во-первых, собственные значения неотрицательны: ${\displaystyle \lambda _{i}}$

$${\displaystyle {\begin{aligned}&Mv_{i}=A'Av_{i}=\lambda _{i}v_{i}\\\Rightarrow {}&v_{i}'A'Av_{i}=v_{i}'\lambda _{i}v_{i}\\\Rightarrow {}&\left\|Av_{i}\right\|^{2}=\lambda _{i}\left\|v_{i}\right\|^{2}\\\Rightarrow {}&\lambda _{i}={\frac {\left\|Av_{i}\right\|^{2}}{\left\|v_{i}\right\|^{2}}}\geq 0.\end{aligned}}}$$

Во-вторых, собственные векторы ортогональны друг другу: ${\displaystyle v_{i}}$

$${\displaystyle {\begin{aligned}&Mv_{i}=\lambda _{i}v_{i}\\\Rightarrow {}&v_{j}'Mv_{i}=v_{j}'\lambda _{i}v_{i}\\\Rightarrow {}&\left(Mv_{j}\right)'v_{i}=\lambda _{j}v_{j}'v_{i}\\\Rightarrow {}&\lambda _{j}v_{j}'v_{i}=\lambda _{i}v_{j}'v_{i}\\\Rightarrow {}&\left(\lambda _{j}-\lambda _{i}\right)v_{j}'v_{i}=0\\\Rightarrow {}&v_{j}'v_{i}=0\end{aligned}}}$$

Чтобы теперь установить, что коэффициент Рэлея максимизируется собственным вектором с наибольшим собственным значением, рассмотрим разложение произвольного вектора на основе собственных векторов : ${\displaystyle x}$ ${\displaystyle v_{i}}$

$${\displaystyle x=\sum _{i=1}^{n}\alpha _{i}v_{i},}$$

$${\displaystyle \alpha _{i}={\frac {x'v_{i}}{v_{i}'v_{i}}}={\frac {\langle x,v_{i}\rangle }{\left\|v_{i}\right\|^{2}}}}$$

${\displaystyle x}$ ${\displaystyle v_{i}}$

$${\displaystyle {\begin{aligned}R(M,x)&={\frac {x'A'Ax}{x'x}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'\left(A'A\right){\Bigl (}\sum _{i=1}^{n}\alpha _{i}v_{i}{\Bigr )}}{{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}v_{i}{\Bigr )}}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}(A'A)v_{i}{\Bigr )}}{{\Bigl (}\sum _{i=1}^{n}\alpha _{i}^{2}{v_{i}}'{v_{i}}{\Bigr )}}}\\&={\frac {{\Bigl (}\sum _{j=1}^{n}\alpha _{j}v_{j}{\Bigr )}'{\Bigl (}\sum _{i=1}^{n}\alpha _{i}\lambda _{i}v_{i}{\Bigr )}}{{\Bigl (}\sum _{i=1}^{n}\alpha _{i}^{2}\|{v_{i}}\|^{2}{\Bigr )}}}\end{aligned}}}$$

ортонормированности

$${\displaystyle {\begin{aligned}R(M,x)&={\frac {\sum _{i=1}^{n}\alpha _{i}^{2}\lambda _{i}}{\sum _{i=1}^{n}\alpha _{i}^{2}}}\\&=\sum _{i=1}^{n}\lambda _{i}{\frac {(x'v_{i})^{2}}{(x'x)(v_{i}'v_{i})^{2}}}\\&=\sum _{i=1}^{n}\lambda _{i}{\frac {(x'v_{i})^{2}}{(x'x)}}\end{aligned}}}$$

Последнее представление устанавливает, что коэффициент Рэлея представляет собой сумму квадратов косинусов углов, образованных вектором и каждым собственным вектором , взвешенных соответствующими собственными значениями. ${\displaystyle x}$ ${\displaystyle v_{i}}$

Если вектор максимизирует , то любое ненулевое скалярное кратное также максимизирует , поэтому проблему можно свести к задаче Лагранжа о максимизации при ограничении . ${\displaystyle x}$ ${\displaystyle R(M,x)}$ ${\displaystyle kx}$ ${\displaystyle R}$ ${\textstyle \sum _{i=1}^{n}\alpha _{i}^{2}\lambda _{i}}$ ${\textstyle \sum _{i=1}^{n}\alpha _{i}^{2}=1}$

Определять: . Тогда это становится линейной программой , которая всегда достигает максимума в одном из углов области. Точка максимума будет иметь и для всех (когда собственные значения упорядочены по убыванию величины). ${\displaystyle \beta _{i}=\alpha _{i}^{2}}$ ${\displaystyle \alpha _{1}=\pm 1}$ ${\displaystyle \alpha _{i}=0}$ ${\displaystyle i>1}$

Таким образом, фактор Рэлея максимизируется собственным вектором с наибольшим собственным значением.

Формулировка с использованием множителей Лагранжа

Альтернативно, этот результат может быть получен методом множителей Лагранжа . Первая часть – показать, что частное является постоянным при масштабировании , где – скаляр ${\displaystyle x\to cx}$ ${\displaystyle c}$

$${\displaystyle R(M,cx)={\frac {(cx)^{*}Mcx}{(cx)^{*}cx}}={\frac {c^{*}c}{c^{*}c}}{\frac {x^{*}Mx}{x^{*}x}}=R(M,x).}$$

Ввиду этой инвариантности достаточно изучить частный случай . Задача состоит в том, чтобы найти критические точки функции ${\displaystyle \|x\|^{2}=x^{T}x=1}$

$${\displaystyle R(M,x)=x^{\mathsf {T}}Mx,}$$

${\displaystyle \|x\|^{2}=x^{T}x=1.}$

$${\displaystyle {\mathcal {L}}(x)=x^{\mathsf {T}}Mx-\lambda \left(x^{\mathsf {T}}x-1\right),}$$

${\displaystyle \lambda }$ ${\displaystyle {\mathcal {L}}(x)}$

$${\displaystyle {\begin{aligned}&{\frac {d{\mathcal {L}}(x)}{dx}}=0\\\Rightarrow {}&2x^{\mathsf {T}}M-2\lambda x^{\mathsf {T}}=0\\\Rightarrow {}&2Mx-2\lambda x=0{\text{ (taking the transpose of both sides and noting that }}M{\text{ is Hermitian)}}\\\Rightarrow {}&Mx=\lambda x\end{aligned}}}$$

$${\displaystyle \therefore R(M,x)={\frac {x^{\mathsf {T}}Mx}{x^{\mathsf {T}}x}}=\lambda {\frac {x^{\mathsf {T}}x}{x^{\mathsf {T}}x}}=\lambda .}$$

Следовательно, собственные векторы являются критическими точками фактора Рэлея, а их соответствующие собственные значения являются стационарными значениями . Это свойство лежит в основе анализа главных компонент и канонической корреляции . ${\displaystyle x_{1},\ldots ,x_{n}}$ ${\displaystyle M}$ ${\displaystyle \lambda _{1},\ldots ,\lambda _{n}}$ ${\displaystyle {\mathcal {L}}}$

Использование в теории Штурма – Лиувилля.

Теория Штурма – Лиувилля касается действия линейного оператора

$${\displaystyle L(y)={\frac {1}{w(x)}}\left(-{\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\right]+q(x)y\right)}$$

внутреннем пространстве продукта,

$${\displaystyle \langle {y_{1},y_{2}}\rangle =\int _{a}^{b}w(x)y_{1}(x)y_{2}(x)\,dx}$$

граничным условиямточках ab

$${\displaystyle {\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}={\frac {\int _{a}^{b}y(x)\left(-{\frac {d}{dx}}\left[p(x){\frac {dy}{dx}}\right]+q(x)y(x)\right)dx}{\int _{a}^{b}{w(x)y(x)^{2}}dx}}.}$$

Иногда это представляется в эквивалентной форме, полученной путем разделения интеграла в числителе и использования интегрирования по частям :

$${\displaystyle {\begin{aligned}{\frac {\langle {y,Ly}\rangle }{\langle {y,y}\rangle }}&={\frac {\left\{\int _{a}^{b}y(x)\left(-{\frac {d}{dx}}\left[p(x)y'(x)\right]\right)dx\right\}+\left\{\int _{a}^{b}{q(x)y(x)^{2}}\,dx\right\}}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}\\&={\frac {\left\{\left.-y(x)\left[p(x)y'(x)\right]\right|_{a}^{b}\right\}+\left\{\int _{a}^{b}y'(x)\left[p(x)y'(x)\right]\,dx\right\}+\left\{\int _{a}^{b}{q(x)y(x)^{2}}\,dx\right\}}{\int _{a}^{b}w(x)y(x)^{2}\,dx}}\\&={\frac {\left\{\left.-p(x)y(x)y'(x)\right|_{a}^{b}\right\}+\left\{\int _{a}^{b}\left[p(x)y'(x)^{2}+q(x)y(x)^{2}\right]\,dx\right\}}{\int _{a}^{b}{w(x)y(x)^{2}}\,dx}}.\end{aligned}}}$$

Обобщения

1. Для данной пары ( A , B ) матриц и данного ненулевого вектора x обобщенный фактор Рэлея определяется как:
   $${\displaystyle R(A,B;x):={\frac {x^{*}Ax}{x^{*}Bx}}.}$$
   Обобщенный фактор Рэлея можно свести к коэффициенту Рэлея посредством преобразования где – разложение Холецкого эрмитовой положительно определенной матрицы B . ${\displaystyle R(D,C^{*}x)}$ ${\displaystyle D=C^{-1}A{C^{*}}^{-1}}$ ${\displaystyle CC^{*}}$
2. Для данной пары ( x , y ) ненулевых векторов и данной эрмитовой матрицы H обобщенный фактор Рэлея может быть определен как:
   $${\displaystyle R(H;x,y):={\frac {y^{*}Hx}{\sqrt {y^{*}y\cdot x^{*}x}}}}$$
   который совпадает с R ( H , x ), когда x  =  y . В квантовой механике эту величину называют «матричным элементом» или иногда «амплитудой перехода».

Смотрите также

• Поле значений
• Принцип минимакса Куранта
• Теорема Мин-Макса
• Коэффициент Рэлея в анализе вибраций
• собственное значение Дирихле

Рекомендации

1. Также известно как соотношение Рэлея-Ритца ; назван в честь Вальтера Ритца и лорда Рэлея .
2. Хорн, РА; Джонсон, Калифорния (1985). Матричный анализ. Издательство Кембриджского университета. стр. 176–180. ISBN 0-521-30586-1.
3. Парлетт, Б.Н. (1998). Симметричная проблема собственных значений . Классика прикладной математики. СИАМ. ISBN 0-89871-402-8.
4. Костин, Родика Д. (2013). «Промежуточные заметки» (PDF) . Математика 5102 Линейная математика в бесконечных измерениях, конспекты лекций . Университет штата Огайо.

дальнейшее чтение

• Ши Ю, Леон-Шарль Траншевант, Барт Мур, Ив Моро, Объединение данных на основе ядра для машинного обучения: методы и приложения в биоинформатике и анализе текста , гл. 2, Спрингер, 2011.