Авторегрессионная модель

Представление типа случайного процесса

В статистике, эконометрике и обработке сигналов авторегрессионная ( AR ) модель представляет собой представление типа случайного процесса; как таковая, она используется для описания определенных изменяющихся во времени процессов в природе, экономике, поведении и т. д. Модель авторегрессии определяет, что выходная переменная линейно зависит от ее собственных предыдущих значений и от стохастического члена ( несовершенно предсказуемого термина); таким образом, модель имеет форму стохастического разностного уравнения (или рекуррентного соотношения), которое не следует путать с дифференциальным уравнением. Вместе с моделью скользящего среднего (MA) это частный случай и ключевой компонент более общих моделей временных рядов авторегрессии-скользящего среднего (ARMA) и авторегрессионного интегрированного скользящего среднего (ARIMA), которые имеют более сложную стохастические модели. состав; это также частный случай векторной авторегрессионной модели (VAR), которая состоит из системы более чем одного взаимосвязанного стохастического разностного уравнения с более чем одной развивающейся случайной величиной.

В отличие от модели скользящего среднего (MA), авторегрессионная модель не всегда стационарна, поскольку может содержать единичный корень.

Определение

Обозначения указывают на авторегрессионную модель порядка p . Модель AR( p ) определяется как ${\displaystyle AR(p)}$

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}}$

где – параметры модели, – белый шум . ^{[1] [2]} Это можно эквивалентно записать с использованием оператора обратного сдвига B как ${\displaystyle \varphi _{1},\ldots ,\varphi _{p}}$ ${\displaystyle \varepsilon _{t}}$

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}B^{i}X_{t}+\varepsilon _{t}}$

так что, перемещая член суммирования в левую часть и используя полиномиальную запись , мы имеем

${\displaystyle \phi [B]X_{t}=\varepsilon _{t}}$

Таким образом, авторегрессионную модель можно рассматривать как выходной сигнал всеполюсного фильтра с бесконечной импульсной характеристикой , входным сигналом которого является белый шум.

Некоторые ограничения параметров необходимы для того, чтобы модель оставалась стационарной в слабом смысле . Например, процессы в модели AR(1) не являются стационарными. В более общем смысле, чтобы модель AR( p ) была стационарной в слабом смысле, корни многочлена должны лежать вне единичного круга , т. е. каждый (комплексный) корень должен удовлетворять требованиям (см. стр. 89,92 ^[3] ). ${\displaystyle |\varphi _{1}|\geq 1}$ ${\displaystyle \Phi (z):=\textstyle 1-\sum _{i=1}^{p}\varphi _{i}z^{i}}$ ${\displaystyle z_{i}}$ ${\displaystyle |z_{i}|>1}$

Межвременной эффект шоков

В процессе AR однократный шок влияет на значения развивающейся переменной бесконечно далеко в будущее. Например, рассмотрим модель AR(1) . Ненулевое значение в момент времени t =1 влияет на сумму . Тогда согласно уравнению AR для , это влияет на сумму . Тогда согласно уравнению AR для , это влияет на сумму . Продолжение этого процесса показывает, что эффект никогда не заканчивается, хотя если процесс стационарен , то в пределе эффект уменьшается до нуля. ${\displaystyle X_{t}=\varphi _{1}X_{t-1}+\varepsilon _{t}}$ ${\displaystyle \varepsilon _{t}}$ ${\displaystyle X_{1}}$ ${\displaystyle \varepsilon _{1}}$ ${\displaystyle X_{2}}$ ${\displaystyle X_{1}}$ ${\displaystyle X_{2}}$ ${\displaystyle \varphi _{1}\varepsilon _{1}}$ ${\displaystyle X_{3}}$ ${\displaystyle X_{2}}$ ${\displaystyle X_{3}}$ ${\displaystyle \varphi _{1}^{2}\varepsilon _{1}}$ ${\displaystyle \varepsilon _{1}}$

Поскольку каждый шок влияет на значения X бесконечно далеко в будущем от момента их возникновения, на любое заданное значение X _t влияют потрясения, происходящие бесконечно далеко в прошлом. В этом также можно убедиться, переписав авторегрессию

${\displaystyle \phi (B)X_{t}=\varepsilon _{t}\,}$

(где постоянный член был исключен, предполагая, что переменная измерялась как отклонения от ее среднего значения) как

${\displaystyle X_{t}={\frac {1}{\phi (B)}}\varepsilon _{t}\,.}$

Когда выполняется полиномиальное деление в правой части, полином в применяемом операторе обратного сдвига имеет бесконечный порядок, то есть в правой части уравнения появляется бесконечное количество запаздывающих значений. ${\displaystyle \varepsilon _{t}}$ ${\displaystyle \varepsilon _{t}}$

Характеристический полином

Автокорреляционная функция процесса AR( p ^{) может быть} выражена ^как

${\displaystyle \rho (\tau )=\sum _{k=1}^{p}a_{k}y_{k}^{-|\tau |},}$

где корни многочлена ${\displaystyle y_{k}}$

${\displaystyle \phi (B)=1-\sum _{k=1}^{p}\varphi _{k}B^{k}}$

где B — оператор обратного сдвига , где — функция, определяющая авторегрессию, и где — коэффициенты авторегрессии. Формула действительна только в том случае, если все корни имеют ^{кратность 1 .} ${\displaystyle \phi (\cdot )}$ ${\displaystyle \varphi _{k}}$

Автокорреляционная функция процесса AR( p ) представляет собой сумму затухающих экспонент.

• Каждый действительный корень вносит в автокорреляционную функцию компонент, который затухает экспоненциально.
• Точно так же каждая пара комплексно-сопряженных корней вносит экспоненциально затухающее колебание.

Графики процессов AR( p )

АР(0); AR(1) с параметром AR 0,3; AR(1) с параметром AR 0,9; AR(2) с параметрами AR 0,3 и 0,3; и AR(2) с параметрами AR 0,9 и -0,8.

Простейшим процессом AR является AR(0), который не имеет зависимости между членами. На результат процесса влияет только фактор ошибки/инновации/шума, поэтому на рисунке AR(0) соответствует белому шуму.

Для процесса AR(1) с положительным значением на выходе вносят вклад только предыдущий член процесса и шумовой член. Если оно близко к 0, то процесс по-прежнему выглядит как белый шум, но по мере приближения к 1 вклад предыдущего члена в выходной сигнал увеличивается по сравнению с шумом. Это приводит к «сглаживанию» или интеграции выходного сигнала, подобно фильтру нижних частот . ${\displaystyle \varphi }$ ${\displaystyle \varphi }$ ${\displaystyle \varphi }$

Для процесса AR(2) два предыдущих члена и шумовой член вносят вклад в выходные данные. Если оба и положительны, выходной сигнал будет напоминать фильтр нижних частот с уменьшением высокочастотной части шума. Если положительно, а отрицательно, то процесс благоприятствует изменению знака между членами процесса. Выходной сигнал колеблется. Это можно сравнить с обнаружением края или обнаружением изменения направления. ${\displaystyle \varphi _{1}}$ ${\displaystyle \varphi _{2}}$ ${\displaystyle \varphi _{1}}$ ${\displaystyle \varphi _{2}}$

Пример: процесс AR(1)

Процесс AR(1) определяется следующим образом:

$${\displaystyle X_{t}=\varphi X_{t-1}+\varepsilon _{t}\,}$$

стационарным в слабом смыслеt ${\displaystyle \varepsilon _{t}}$ ${\displaystyle \sigma _{\varepsilon }^{2}}$ ${\displaystyle \varphi _{1}}$ ${\displaystyle |\varphi |<1}$ ${\displaystyle \varphi =1}$ ${\displaystyle X_{t}}$ ${\displaystyle |\varphi |<1}$ ${\displaystyle \operatorname {E} (X_{t})}$ ${\displaystyle \mu }$

$${\displaystyle \operatorname {E} (X_{t})=\varphi \operatorname {E} (X_{t-1})+\operatorname {E} (\varepsilon _{t}),}$$

$${\displaystyle \mu =\varphi \mu +0,}$$

${\displaystyle \mu =0.}$

Дисперсия _ _

${\displaystyle {\textrm {var}}(X_{t})=\operatorname {E} (X_{t}^{2})-\mu ^{2}={\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}},}$

где стандартное отклонение . Это можно показать, заметив, что ${\displaystyle \sigma _{\varepsilon }}$ ${\displaystyle \varepsilon _{t}}$

${\displaystyle {\textrm {var}}(X_{t})=\varphi ^{2}{\textrm {var}}(X_{t-1})+\sigma _{\varepsilon }^{2},}$

а затем заметив, что указанная выше величина является стабильной фиксированной точкой этого отношения.

Автоковариация определяется выражением

${\displaystyle B_{n}=\operatorname {E} (X_{t+n}X_{t})-\mu ^{2}={\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|n|}.}$

Можно видеть, что функция автоковариации затухает со временем затухания (также называемым постоянной времени ) . ^[4] ${\displaystyle \tau =1-\varphi }$

Функция спектральной плотности представляет собой преобразование Фурье функции автоковариации. В дискретных терминах это будет преобразование Фурье с дискретным временем:

${\displaystyle \Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,\sum _{n=-\infty }^{\infty }B_{n}e^{-i\omega n}={\frac {1}{\sqrt {2\pi }}}\,\left({\frac {\sigma _{\varepsilon }^{2}}{1+\varphi ^{2}-2\varphi \cos(\omega )}}\right).}$

Это выражение является периодическим из-за дискретного характера , который проявляется в виде косинуса в знаменателе. Если мы предположим, что время выборки ( ) намного меньше времени затухания ( ), тогда мы можем использовать континуальное приближение для : ${\displaystyle X_{j}}$ ${\displaystyle \Delta t=1}$ ${\displaystyle \tau }$ ${\displaystyle B_{n}}$

${\displaystyle B(t)\approx {\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|t|}}$

что дает лоренцев профиль спектральной плотности:

${\displaystyle \Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,{\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}}\,{\frac {\gamma }{\pi (\gamma ^{2}+\omega ^{2})}}}$

где – угловая частота, связанная со временем затухания . ${\displaystyle \gamma =1/\tau }$ ${\displaystyle \tau }$

Альтернативное выражение для можно получить, сначала подставив в определяющее уравнение. Продолжение этого процесса N раз дает ${\displaystyle X_{t}}$ ${\displaystyle \varphi X_{t-2}+\varepsilon _{t-1}}$ ${\displaystyle X_{t-1}}$

${\displaystyle X_{t}=\varphi ^{N}X_{t-N}+\sum _{k=0}^{N-1}\varphi ^{k}\varepsilon _{t-k}.}$

Если N приближается к бесконечности, будет приближаться к нулю и: ${\displaystyle \varphi ^{N}}$

${\displaystyle X_{t}=\sum _{k=0}^{\infty }\varphi ^{k}\varepsilon _{t-k}.}$

Видно, что это белый шум, свернутый с ядром плюс постоянное среднее значение. Если белый шум является гауссовским процессом , то он также является гауссовским процессом. В других случаях центральная предельная теорема указывает, что распределение будет приблизительно нормально, когда оно близко к единице. ${\displaystyle X_{t}}$ ${\displaystyle \varphi ^{k}}$ ${\displaystyle \varepsilon _{t}}$ ${\displaystyle X_{t}}$ ${\displaystyle X_{t}}$ ${\displaystyle \varphi }$

При , процесс будет представлять собой геометрическую прогрессию ( экспоненциальный рост или затухание). В этом случае решение можно найти аналитически: где – неизвестная константа ( начальное условие ). ${\displaystyle \varepsilon _{t}=0}$ ${\displaystyle X_{t}=\varphi X_{t-1}}$ ${\displaystyle X_{t}=a\varphi ^{t}}$ ${\displaystyle a}$

Явная форма среднего/разности процесса AR(1)

Модель AR(1) представляет собой аналог непрерывного процесса Орнштейна-Уленбека в дискретном времени . Поэтому иногда полезно понять свойства модели AR(1), представленной в эквивалентной форме. В этой форме модель AR(1) с параметром процесса определяется следующим образом: ${\displaystyle \theta }$

${\displaystyle X_{t+1}=X_{t}+(1-\theta )(\mu -X_{t})+\varepsilon _{t+1}}$, где и – среднее значение модели. ${\displaystyle |\theta |<1\,}$ ${\displaystyle \mu }$

Поместив это в форму , а затем расширив ряд для , можно показать, что: ${\displaystyle X_{t+1}=\phi X_{t}+\varepsilon _{t+1}}$ ${\displaystyle X_{t+n}}$

${\displaystyle \operatorname {E} (X_{t+n}|X_{t})=\mu \left[1-\theta ^{n}\right]+X_{t}\theta ^{n}}$, и

${\displaystyle \operatorname {Var} (X_{t+n}|X_{t})=\sigma ^{2}{\frac {1-\theta ^{2n}}{1-\theta ^{2}}}}$.

Выбор максимального лага

Частичная автокорреляция процесса AR(p) равна нулю при задержках, превышающих p, поэтому подходящим максимальным лагом p является тот, после которого все частичные автокорреляции равны нулю.

Расчет параметров АР

Существует много способов оценки коэффициентов, например, обычная процедура наименьших квадратов или метод моментов (с помощью уравнений Юла – Уокера).

Модель AR( p ) задается уравнением

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}.\,}$

Он основан на параметрах , где i = 1, ..., p . Существует прямое соответствие между этими параметрами и ковариационной функцией процесса, и это соответствие можно инвертировать для определения параметров из автокорреляционной функции (которая сама получается из ковариаций). Это делается с помощью уравнений Юла – Уокера. ${\displaystyle \varphi _{i}}$

Уравнения Юла – Уокера

Уравнения Юла-Уокера, названные в честь Удного Юла и Гилберта Уокера , ^{[5] [6]} представляют собой следующий набор уравнений. ^[7]

${\displaystyle \gamma _{m}=\sum _{k=1}^{p}\varphi _{k}\gamma _{m-k}+\sigma _{\varepsilon }^{2}\delta _{m,0},}$

где m  = 0,…,  p , что дает p  + 1 уравнений. Вот функция автоковариации X _t , стандартное отклонение входного шумового процесса и дельта -функция Кронекера . ${\displaystyle \gamma _{m}}$ ${\displaystyle \sigma _{\varepsilon }}$ ${\displaystyle \delta _{m,0}}$

Поскольку последняя часть отдельного уравнения отлична от нуля только в том случае, если m  = 0 , набор уравнений можно решить, представив уравнения для m  > 0 в матричной форме, получив таким образом уравнение

${\displaystyle {\begin{bmatrix}\gamma _{1}\\\gamma _{2}\\\gamma _{3}\\\vdots \\\gamma _{p}\\\end{bmatrix}}={\begin{bmatrix}\gamma _{0}&\gamma _{-1}&\gamma _{-2}&\cdots \\\gamma _{1}&\gamma _{0}&\gamma _{-1}&\cdots \\\gamma _{2}&\gamma _{1}&\gamma _{0}&\cdots \\\vdots &\vdots &\vdots &\ddots \\\gamma _{p-1}&\gamma _{p-2}&\gamma _{p-3}&\cdots \\\end{bmatrix}}{\begin{bmatrix}\varphi _{1}\\\varphi _{2}\\\varphi _{3}\\\vdots \\\varphi _{p}\\\end{bmatrix}}}$

которое можно решить для всех . Оставшееся уравнение для m = 0 имеет вид ${\displaystyle \{\varphi _{m};m=1,2,\dots ,p\}.}$

${\displaystyle \gamma _{0}=\sum _{k=1}^{p}\varphi _{k}\gamma _{-k}+\sigma _{\varepsilon }^{2},}$

которые, как только они станут известны, могут быть решены для ${\displaystyle \{\varphi _{m};m=1,2,\dots ,p\}}$ ${\displaystyle \sigma _{\varepsilon }^{2}.}$

Альтернативная формулировка заключается в использовании автокорреляционной функции . Параметры AR определяются первыми p +1 элементами автокорреляционной функции. Полную автокорреляционную функцию затем можно получить путем рекурсивного вычисления ^[8] ${\displaystyle \rho (\tau )}$

${\displaystyle \rho (\tau )=\sum _{k=1}^{p}\varphi _{k}\rho (k-\tau )}$

Примеры некоторых процессов AR( p ) низкого порядка

• р =1
  • ${\displaystyle \gamma _{1}=\varphi _{1}\gamma _{0}}$
  • Следовательно ${\displaystyle \rho _{1}=\gamma _{1}/\gamma _{0}=\varphi _{1}}$
• р =2
  • Уравнения Юла – Уокера для процесса AR (2) имеют вид

    ${\displaystyle \gamma _{1}=\varphi _{1}\gamma _{0}+\varphi _{2}\gamma _{-1}}$

    ${\displaystyle \gamma _{2}=\varphi _{1}\gamma _{1}+\varphi _{2}\gamma _{0}}$

    • Помните, что ${\displaystyle \gamma _{-k}=\gamma _{k}}$
    • Использование первого уравнения дает ${\displaystyle \rho _{1}=\gamma _{1}/\gamma _{0}={\frac {\varphi _{1}}{1-\varphi _{2}}}}$
    • Использование формулы рекурсии дает ${\displaystyle \rho _{2}=\gamma _{2}/\gamma _{0}={\frac {\varphi _{1}^{2}-\varphi _{2}^{2}+\varphi _{2}}{1-\varphi _{2}}}}$

Оценка параметров АР

Приведенные выше уравнения (уравнения Юла-Уокера) обеспечивают несколько способов оценки параметров модели AR( p ) путем замены теоретических ковариаций оценочными значениями. ^[9] Некоторые из этих вариантов можно описать следующим образом:

• Оценка автоковариаций или автокорреляций. Здесь каждый из этих членов оценивается отдельно, используя традиционные оценки. Существуют разные способы сделать это, и выбор между ними влияет на свойства схемы оценки. Например, некоторые варианты выбора могут дать отрицательные оценки дисперсии.
• Формулировка в виде задачи регрессии по методу наименьших квадратов , в которой строится обычная задача прогнозирования по методу наименьших квадратов, основанная на прогнозировании значений X _t на основе p предыдущих значений той же серии. Это можно рассматривать как схему прогнозирования. Можно увидеть, что нормальные уравнения для этой задачи соответствуют аппроксимации матричной формы уравнений Юла – Уокера, в которой каждое появление автоковариации с тем же запаздыванием заменяется несколько другой оценкой.
• Формулировка как расширенная форма обычной задачи прогнозирования методом наименьших квадратов. Здесь два набора уравнений прогнозирования объединяются в одну схему оценки и один набор нормальных уравнений. Один набор представляет собой набор уравнений прямого прогнозирования, а другой — соответствующий набор уравнений обратного прогнозирования, относящихся к обратному представлению модели AR:

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t+i}+\varepsilon _{t}^{*}\,.}$

Здесь прогнозируемые значения X _t будут основаны на будущих значениях p того же ряда. ^{[ необходимы разъяснения ]} Этот способ оценки параметров AR принадлежит Джону Паркеру Бургу ^[10] и называется методом Бурга: ^[11] Бург и более поздние авторы называли эти конкретные оценки «оценками максимальной энтропии», ^[12], но Причина этого применима к использованию любого набора оцененных параметров AR. По сравнению со схемой оценки, использующей только уравнения прямого прогнозирования, получаются разные оценки автоковариаций, и эти оценки имеют разные свойства устойчивости. Оценки Бурга особенно связаны с оценкой спектра максимальной энтропии . ^[13]

Другие возможные подходы к оценке включают оценку максимального правдоподобия . Доступны два различных варианта максимального правдоподобия: в одном (в широком смысле эквивалентном схеме наименьших квадратов прямого прогнозирования) рассматриваемая функция правдоподобия соответствует условному распределению более поздних значений в серии с учетом начальных значений p в серии; во втором случае рассматривается функция правдоподобия, соответствующая безусловному совместному распределению всех значений в наблюдаемом ряду. Существенные различия в результатах этих подходов могут возникнуть, если наблюдаемый ряд короткий или процесс близок к нестационарности.

Спектр

Спектральная плотность мощности (PSD) процесса AR( p ) с дисперсией шума равна ^[8] ${\displaystyle \mathrm {Var} (Z_{t})=\sigma _{Z}^{2}}$

${\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{|1-\sum _{k=1}^{p}\varphi _{k}e^{-i2\pi fk}|^{2}}}.}$

АР(0)

Для белого шума (AR(0))

${\displaystyle S(f)=\sigma _{Z}^{2}.}$

АР(1)

Для АР(1)

${\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{|1-\varphi _{1}e^{-2\pi if}|^{2}}}={\frac {\sigma _{Z}^{2}}{1+\varphi _{1}^{2}-2\varphi _{1}\cos 2\pi f}}}$

• Если имеется один спектральный пик при f=0, его часто называют красным шумом . По мере приближения к 1 мощность на низких частотах увеличивается, т. е. увеличиваются временные задержки. Это фильтр нижних частот: при применении к свету полного спектра все, кроме красного света, будет фильтроваться. ${\displaystyle \varphi _{1}>0}$ ${\displaystyle \varphi _{1}}$
• Если есть минимум при f=0, его часто называют синим шумом . Это аналогично действует как фильтр верхних частот: все, кроме синего света, будет фильтроваться. ${\displaystyle \varphi _{1}<0}$

АР(2)

Поведение процесса AR(2) полностью определяется корнями его характеристического уравнения , которое выражается через оператор запаздывания как:

${\displaystyle 1-\varphi _{1}B-\varphi _{2}B^{2}=0,}$

или, что эквивалентно, полюсами его передаточной функции , которая определяется в области Z следующим образом:

${\displaystyle H_{z}=(1-\varphi _{1}z^{-1}-\varphi _{2}z^{-2})^{-1}.}$

Отсюда следует, что полюса представляют собой значения z, удовлетворяющие:

${\displaystyle 1-\varphi _{1}z^{-1}-\varphi _{2}z^{-2}=0}$,

который дает:

${\displaystyle z_{1},z_{2}={\frac {1}{2\varphi _{2}}}\left(\varphi _{1}\pm {\sqrt {\varphi _{1}^{2}+4\varphi _{2}}}\right)}$.

${\displaystyle z_{1}}$и являются обратными характеристическим корням, а также собственными значениями матрицы временного обновления: ${\displaystyle z_{2}}$

${\displaystyle {\begin{bmatrix}\varphi _{1}&\varphi _{2}\\1&0\end{bmatrix}}}$

Процессы AR(2) можно разделить на три группы в зависимости от характеристик их корней/полюсов:

• Когда процесс имеет пару комплексно-сопряженных полюсов, создающих среднечастотный пик при: ${\displaystyle \varphi _{1}^{2}+4\varphi _{2}<0}$

${\displaystyle f^{*}={\frac {1}{2\pi }}\cos ^{-1}\left({\frac {\varphi _{1}}{2{\sqrt {-\varphi _{2}}}}}\right),}$

с шириной полосы около пика, обратно пропорциональной модулям полюсов:

${\displaystyle |z_{1}|=|z_{2}|={\sqrt {-\varphi _{2}}}.}$

Все члены, включающие квадратные корни, действительны в случае комплексных полюсов, поскольку они существуют только тогда, когда . ${\displaystyle \varphi _{2}<0}$

В противном случае процесс имеет реальные корни, и:

• Когда он действует как фильтр нижних частот белого шума со спектральным пиком на уровне ${\displaystyle \varphi _{1}>0}$ ${\displaystyle f=0}$
• Когда он действует как фильтр верхних частот белого шума со спектральным пиком при . ${\displaystyle \varphi _{1}<0}$ ${\displaystyle f=1/2}$

Процесс является нестационарным, когда полюса находятся на единичной окружности или за ее пределами, или, что то же самое, когда характеристические корни находятся на единичной окружности или внутри нее. Процесс устойчив, когда полюса находятся строго внутри единичного круга (корни строго вне единичного круга) или, что то же самое, когда коэффициенты находятся в треугольнике . ${\displaystyle -1\leq \varphi _{2}\leq 1-|\varphi _{1}|}$

Полную функцию PSD можно выразить в реальной форме как:

${\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{1+\varphi _{1}^{2}+\varphi _{2}^{2}-2\varphi _{1}(1-\varphi _{2})\cos(2\pi f)-2\varphi _{2}\cos(4\pi f)}}}$

Реализации в пакетах статистики

• R , пакет статистики включает функцию ar . ^[14]
• R, пакет astsa включает функцию sarima , подходящую для различных моделей, включая модели AR. ^[15]
• Пакет инструментов Econometrics Toolbox MATLAB ^[16] и System Identification Toolbox ^[17] включает модели авторегрессии ^[18]
• Matlab и Octave : набор инструментов TSA содержит несколько функций оценки для одномерных, многомерных и адаптивных авторегрессионных моделей. ^[19]
• PyMC3 : среда байесовской статистики и вероятностного программирования поддерживает режимы авторегрессии с задержками .
• bayesloop поддерживает вывод параметров и выбор модели для процесса AR-1 с изменяющимися во времени параметрами. ^[20]
• Python : реализация в моделях статистики. ^[21]

Импульсивный ответ

Импульсная реакция системы — это изменение развивающейся переменной в ответ на изменение значения шокового члена k периодов ранее в зависимости от k . Поскольку модель AR является частным случаем векторной авторегрессионной модели, здесь применяется вычисление импульсного отклика в векторной авторегрессии#импульсный отклик .

n - прогнозирование на шаг вперед

Как только параметры авторегрессии

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}\,}$

были оценены, авторегрессию можно использовать для прогнозирования произвольного числа периодов в будущем. Сначала используйте t для обозначения первого периода, по которому данные еще недоступны; подставьте известные предыдущие значения X _t-i для i = 1, ..., p в уравнение авторегрессии, установив при этом член ошибки равным нулю (поскольку мы прогнозируем, что X _t будет равен его ожидаемому значению, а ожидаемое значение ненаблюдаемого члена ошибки равен нулю). Результатом уравнения авторегрессии является прогноз на первый ненаблюдаемый период. Затем используйте t для обозначения следующего периода, за который данные еще недоступны; снова для составления прогноза используется уравнение авторегрессии, с одним отличием: значение X за период до прогнозируемого сейчас неизвестно, поэтому вместо него используется его ожидаемое значение - прогнозируемое значение, возникающее на предыдущем этапе прогнозирования. . Затем для будущих периодов используется та же процедура, каждый раз с использованием еще одного прогнозного значения в правой части прогнозного уравнения до тех пор, пока после p прогнозов все p правых значений не станут прогнозными значениями из предыдущих шагов. ${\displaystyle \varepsilon _{t}}$

Существует четыре источника неопределенности в отношении прогнозов, полученных таким образом: (1) неопределенность относительно того, является ли модель авторегрессии правильной моделью; (2) неопределенность в отношении точности прогнозируемых значений, которые используются в качестве запаздывающих значений в правой части уравнения авторегрессии; (3) неопределенность относительно истинных значений коэффициентов авторегрессии; и (4) неопределенность относительно значения ошибки для прогнозируемого периода. Каждый из последних трех показателей можно оценить количественно и объединить, чтобы получить доверительный интервал для прогнозов на n шагов вперед; доверительный интервал станет шире по мере увеличения n из-за использования все большего числа оценочных значений для правых переменных. ${\displaystyle \varepsilon _{t}\,}$

Смотрите также

• Модель скользящего среднего
• Линейное разностное уравнение
• Прогнозная аналитика
• Линейное прогнозирующее кодирование
• Резонанс
• Рекурсия Левинсона
• Процесс Орнштейна – Уленбека
• Бесконечная импульсная характеристика

Примечания

1. Бокс, Джордж EP (1994). Анализ временных рядов: прогнозирование и контроль. Гвилим М. Дженкинс, Грегори К. Рейнсель (3-е изд.). Энглвуд Клиффс, Нью-Джерси: Прентис Холл. п. 54. ИСБН 0-13-060774-6. ОКЛК  28888762.
2. Шамуэй, Роберт Х. (2000). Анализ временных рядов и его приложения. Дэвид С. Стоффер. Нью-Йорк: Спрингер. стр. 90–91. ISBN 0-387-98950-1. OCLC  42392178. Архивировано из оригинала 16 апреля 2023 г. Проверено 03 сентября 2022 г.
3. Шамуэй, Роберт Х.; Стоффер, Дэвид (2010). Анализ временных рядов и его приложения: на примерах R (3-е изд.). Спрингер. ISBN 978-1441978646.
4. Лай, Дихуэй; и Лу, Бинфэн; «Понимание модели авторегрессии для временных рядов как детерминированной динамической системы». Архивировано 24 марта 2023 г. в Wayback Machine , в журнале Predictive Analytics and Futurism , июнь 2017 г., номер 15, июнь 2017 г., страницы 7–9.
5. Юл, Г. Удни (1927) «О методе исследования периодичности в возмущенных рядах с особым упором на число солнечных пятен Вулфера». Архивировано 14 мая 2011 г. в Wayback Machine , Philosophical Transactions of the Royal Society of London , Ser. А, Том. 226, 267–298.]
6. Уокер, Гилберт (1931) «О периодичности в ряде связанных терминов». Архивировано 7 июня 2011 г. в Wayback Machine , Труды Лондонского королевского общества , сер. А, Том. 131, 518–532.
7. Теодоридис, Сергиос (10 апреля 2015 г.). «Глава 1. Вероятность и случайные процессы». Машинное обучение: байесовский подход и перспектива оптимизации . Академик Пресс, 2015. С. 9–51. ISBN 978-0-12-801522-3.
8. Фон Шторх, Ганс; Цвирс, Фрэнсис В. (2001). Статистический анализ в исследованиях климата . Издательство Кембриджского университета. дои : 10.1017/CBO9780511612336. ISBN 0-521-01230-9.^{[ нужна страница ]}
9. Эшель, Гидон. «Уравнения Юла Уокера для коэффициентов AR» (PDF) . stat.wharton.upenn.edu . Архивировано (PDF) из оригинала 13 июля 2018 г. Проверено 27 января 2019 г.
10. Бург, Джон Паркер (1968); «Новая методика анализа данных временных рядов», в « Современном спектральном анализе» (под редакцией Д.Г. Чайлдерса), Институт перспективных исследований обработки сигналов НАТО с упором на подводную акустику. IEEE Press, Нью-Йорк.
11. Брокуэлл, Питер Дж.; Дальхаус, Райнер; Триндаде, А. Александр (2005). «Модифицированные алгоритмы Бурга для авторегрессии многомерного подмножества» (PDF) . Статистика Синица . 15 : 197–213. Архивировано из оригинала (PDF) 21 октября 2012 г.
12. Бург, Джон Паркер (1967) «Спектральный анализ максимальной энтропии», Труды 37-го собрания Общества геофизиков-разведчиков , Оклахома-Сити, Оклахома.
13. Бос, Роберт; Де Ваэле, Стейн; Броерсен, Пит М.Т. (2002). «Авторегрессионная спектральная оценка путем применения алгоритма Бурга к данным с нерегулярной выборкой». Транзакции IEEE по приборостроению и измерениям . 51 (6): 1289. Бибкод : 2002ITIM...51.1289B. дои : 10.1109/TIM.2002.808031. Архивировано из оригинала 16 апреля 2023 г. Проверено 11 декабря 2019 г.
14. «Подгонка моделей авторегрессии к временным рядам». Архивировано 28 января 2016 г. в Wayback Machine (в R).
15. Стоффер, Дэвид; Яд, Ники (09 января 2023 г.), astsa: Прикладной статистический анализ временных рядов , получено 20 августа 2023 г.
16. «Набор инструментов эконометрики». www.mathworks.com . Архивировано из оригинала 16 апреля 2023 г. Проверено 16 февраля 2022 г.
17. «Панель инструментов идентификации системы» . www.mathworks.com . Архивировано из оригинала 16 февраля 2022 г. Проверено 16 февраля 2022 г.
18. «Модель авторегрессии — MATLAB и Simulink». www.mathworks.com . Архивировано из оригинала 16 февраля 2022 г. Проверено 16 февраля 2022 г.
19. «Набор инструментов анализа временных рядов (TSA) для Octave и Matlab®» . pub.ist.ac.at. _ Архивировано из оригинала 11 мая 2012 г. Проверено 3 апреля 2012 г.
20. "Кристофмарк/Бейслуп" . 7 декабря 2021 года. Архивировано из оригинала 28 сентября 2020 года . Получено 4 сентября 2018 г. - через GitHub.
21. "statsmodels.tsa.ar_model.AutoReg — документация по statsmodels 0.12.2" . www.statsmodels.org . Архивировано из оригинала 28 февраля 2021 г. Проверено 29 апреля 2021 г.

Рекомендации

• Миллс, Теренс К. (1990). Методы временных рядов для экономистов . Издательство Кембриджского университета. ISBN 9780521343398.
• Персиваль, Дональд Б.; Уолден, Эндрю Т. (1993). Спектральный анализ для физических приложений . Издательство Кембриджского университета. Бибкод : 1993sapa.book.....P.
• Пандит, Судхакар М.; Ву, Шиен-Мин (1983). Временные ряды и системный анализ с приложениями . Джон Уайли и сыновья.

Внешние ссылки

• Авторегрессионный анализ (AR) Пола Бурка
• Лекция по эконометрике (тема: Модели авторегрессии) на YouTube Марка Тома