Матрица моментов

В математике матрица моментов — это специальная симметричная квадратная матрица, строки и столбцы которой индексируются мономами . Элементы матрицы зависят только от произведения индексирующих мономов (ср. матрицы Ганкеля ).

Матрицы моментов играют важную роль в полиномиальной подгонке , полиномиальной оптимизации (поскольку положительно полуопределенные матрицы моментов соответствуют полиномам, которые являются суммами квадратов ) ^[1] и эконометрике . ^[2]

Применение в регрессии

Модель множественной линейной регрессии можно записать как

${\displaystyle y=\beta _{0}+\beta _{1}x_{1}+\beta _{2}x_{2}+\dots \beta _{k}x_{k}+u}$

где — зависимая переменная, — независимые переменные, — ошибка, — неизвестные коэффициенты, которые необходимо оценить. Учитывая наблюдения , у нас есть система линейных уравнений, которую можно выразить в матричной записи. ^[3] ${\displaystyle y}$ ${\displaystyle x_{1},x_{2}\dots ,x_{k}}$ ${\displaystyle u}$ ${\displaystyle \beta _{0},\beta _{1}\dots ,\beta _{k}}$ ${\displaystyle \left\{y_{i},x_{i1},x_{i2},\dots ,x_{ik}\right\}_{i=1}^{n}}$ ${\displaystyle n}$

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\\vdots \\y_{n}\end{bmatrix}}={\begin{bmatrix}1&x_{11}&x_{12}&\dots &x_{1k}\\1&x_{21}&x_{22}&\dots &x_{2k}\\\vdots &\vdots &\vdots &\ddots &\vdots \\1&x_{n1}&x_{n2}&\dots &x_{nk}\\\end{bmatrix}}{\begin{bmatrix}\beta _{0}\\\beta _{1}\\\vdots \\\beta _{k}\end{bmatrix}}+{\begin{bmatrix}u_{1}\\u_{2}\\\vdots \\u_{n}\end{bmatrix}}}$

или

${\displaystyle \mathbf {y} =\mathbf {X} {\boldsymbol {\beta }}+\mathbf {u} }$

где и каждый из них является вектором размерности , является матрицей плана порядка , а является вектором размерности . В предположениях Гаусса-Маркова наилучшей линейной несмещенной оценкой является линейная оценка наименьших квадратов , включающая две матрицы моментов и определяемая как ${\displaystyle \mathbf {y} }$ ${\displaystyle \mathbf {u} }$ ${\displaystyle n\times 1}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle N\times (k+1)}$ ${\displaystyle {\boldsymbol {\beta }}}$ ${\displaystyle (k+1)\times 1}$ ${\displaystyle {\boldsymbol {\beta }}}$ ${\displaystyle \mathbf {b} =\left(\mathbf {X} ^{\mathsf {T}}\mathbf {X} \right)^{-1}\mathbf {X} ^{\mathsf {T}}\mathbf {y} }$ ${\displaystyle \mathbf {X} ^{\mathsf {T}}\mathbf {X} }$ ${\displaystyle \mathbf {X} ^{\mathsf {T}}\mathbf {y} }$

${\displaystyle \mathbf {X} ^{\mathsf {T}}\mathbf {X} ={\begin{bmatrix}n&\sum x_{i1}&\sum x_{i2}&\dots &\sum x_{ik}\\\sum x_{i1}&\sum x_{i1}^{2}&\sum x_{i1}x_{i2}&\dots &\sum x_{i1}x_{ik}\\\sum x_{i2}&\sum x_{i1}x_{i2}&\sum x_{i2}^{2}&\dots &\sum x_{i2}x_{ik}\\\vdots &\vdots &\vdots &\ddots &\vdots \\\sum x_{ik}&\sum x_{i1}x_{ik}&\sum x_{i2}x_{ik}&\dots &\sum x_{ik}^{2}\end{bmatrix}}}$

и

${\displaystyle \mathbf {X} ^{\mathsf {T}}\mathbf {y} ={\begin{bmatrix}\sum y_{i}\\\sum x_{i1}y_{i}\\\vdots \\\sum x_{ik}y_{i}\end{bmatrix}}}$

где — квадратная нормальная матрица размерности , а — вектор размерности . ${\displaystyle \mathbf {X} ^{\mathsf {T}}\mathbf {X} }$ ${\displaystyle (k+1)\times (k+1)}$ ${\displaystyle \mathbf {X} ^{\mathsf {T}}\mathbf {y} }$ ${\displaystyle (k+1)\times 1}$

Смотрите также

• Матрица дизайна
• Матрица Грэмиана
• Матрица проекции

Ссылки

1. Лассер, Жан-Бернар, 1953- (2010). Моменты, положительные многочлены и их приложения. World Scientific (Firm). Лондон: Imperial College Press. ISBN 978-1-84816-446-8. OCLC  624365972.{{cite book}}: CS1 maint: multiple names: authors list (link) CS1 maint: numeric names: authors list (link)
2. Голдбергер, Артур С. (1964). «Классическая линейная регрессия». Эконометрическая теория . Нью-Йорк: John Wiley & Sons. С. 156–212. ISBN 0-471-31101-4.
3. Хуан, Дэвид С. (1970). Регрессия и эконометрические методы. Нью-Йорк: John Wiley & Sons. С. 52–65. ISBN 0-471-41754-8.

Внешние ссылки

• «Матрица моментов», Энциклопедия математики , EMS Press , 2001 [1994]