Стационарный процесс

Тип случайного процесса

В математике и статистике стационарный процесс (или строгий/строго стационарный процесс или сильный/сильно стационарный процесс ) — это стохастический процесс , безусловное совместное распределение вероятностей которого не меняется при сдвиге во времени. Следовательно, такие параметры, как среднее значение и дисперсия, также не меняются со временем.

Поскольку стационарность является предположением, лежащим в основе многих статистических процедур, используемых в анализе временных рядов , нестационарные данные часто преобразуются в стационарные. Наиболее распространенной причиной нарушения стационарности является тренд в среднем значении, который может быть обусловлен либо наличием единичного корня , либо детерминированным трендом. В первом случае единичного корня стохастические шоки имеют постоянные эффекты, и процесс не является возвратом к среднему значению . Во втором случае детерминированного тренда процесс называется тренд-стационарным процессом , и стохастические шоки имеют только временные эффекты, после которых переменная стремится к детерминированно развивающемуся (не постоянному) среднему значению.

Процесс стационарного тренда не является строго стационарным, но может быть легко преобразован в стационарный процесс путем удаления базового тренда, который является исключительно функцией времени. Аналогично, процессы с одним или несколькими единичными корнями могут быть сделаны стационарными посредством дифференцирования. Важным типом нестационарного процесса, который не включает в себя поведение, подобное тренду, является циклостационарный процесс , который является стохастическим процессом, который циклически изменяется со временем.

Для многих приложений стационарность в строгом смысле слишком ограничительна. Тогда используются другие формы стационарности, такие как стационарность в широком смысле или стационарность N -го порядка . Определения различных видов стационарности не согласованы между разными авторами (см. Другая терминология).

Стационарность в строгом смысле

Определение

Формально, пусть будет стохастическим процессом и пусть представляет собой кумулятивную функцию распределения безусловного (т.е. без ссылки на какое-либо конкретное начальное значение) совместного распределения в моменты времени . Тогда, называется строго стационарным , сильно стационарным или стационарным в строгом смысле, если ^{[1] : стр. 155} ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle F_{X}(x_{t_{1}+\tau },\ldots ,x_{t_{n}+\tau })}$ ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle t_{1}+\tau ,\ldots ,t_{n}+\tau }$ ${\displaystyle \left\{X_{t}\right\}}$

Так как не влияет , то не зависит от времени. ${\displaystyle \tau }$ ${\displaystyle F_{X}(\cdot )}$ ${\displaystyle F_{X}}$

Примеры

Выше показаны два моделируемых процесса временных рядов, один стационарный, а другой нестационарный. Для каждого процесса сообщается статистика расширенного теста Дики–Фуллера (ADF) ; нестационарность не может быть отклонена для второго процесса на уровне значимости 5% .

Белый шум — простейший пример стационарного процесса.

Примером стационарного процесса с дискретным временем , где выборочное пространство также дискретно (так что случайная величина может принимать одно из N возможных значений), является схема Бернулли . Другие примеры стационарного процесса с дискретным временем и непрерывным выборочным пространством включают некоторые процессы авторегрессии и скользящего среднего , которые оба являются подмножествами модели авторегрессии скользящего среднего . Модели с нетривиальным авторегрессионным компонентом могут быть как стационарными, так и нестационарными, в зависимости от значений параметров, и важными нестационарными особыми случаями являются случаи, когда в модели существуют единичные корни .

Пример 1

Пусть будет любой скалярной случайной величиной , и определим временной ряд , как ${\displaystyle Y}$ ${\displaystyle \left\{X_{t}\right\}}$

${\displaystyle X_{t}=Y\qquad {\text{ for all }}t.}$

Тогда — это стационарный временной ряд, для которого реализации состоят из ряда постоянных значений, с различным постоянным значением для каждой реализации. Закон больших чисел не применяется в этом случае, поскольку предельное значение среднего из одной реализации принимает случайное значение, определяемое , а не принимает ожидаемое значение . ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle Y}$ ${\displaystyle Y}$

Среднее по времени не сходится, поскольку процесс не является эргодическим . ${\displaystyle X_{t}}$

Пример 2

В качестве еще одного примера стационарного процесса, для которого любая отдельная реализация имеет, по-видимому, свободную от шума структуру, пусть имеется равномерное распределение и временной ряд определяется как ${\displaystyle Y}$ ${\displaystyle [0,2\pi ]}$ ${\displaystyle \left\{X_{t}\right\}}$

${\displaystyle X_{t}=\cos(t+Y)\quad {\text{ for }}t\in \mathbb {R} .}$

Тогда является строго стационарным, поскольку ( по модулю ) следует тому же равномерному распределению, что и для любого . ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle (t+Y)}$ ${\displaystyle 2\pi }$ ${\displaystyle Y}$ ${\displaystyle t}$

Пример 3

Имейте в виду, что слабо белый шум не обязательно строго стационарен. Пусть будет случайной величиной, равномерно распределенной в интервале , и определите временной ряд ${\displaystyle \omega }$ ${\displaystyle (0,2\pi )}$ ${\displaystyle \left\{z_{t}\right\}}$

${\displaystyle z_{t}=\cos(t\omega )\quad (t=1,2,...)}$

Затем

${\displaystyle {\begin{aligned}\mathbb {E} (z_{t})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos(t\omega )\,d\omega =0,\\\operatorname {Var} (z_{t})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos ^{2}(t\omega )\,d\omega =1/2,\\\operatorname {Cov} (z_{t},z_{j})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos(t\omega )\cos(j\omega )\,d\omega =0\quad \forall t\neq j.\end{aligned}}}$

То же самое относится и к белому шуму в слабом смысле (среднее значение и взаимная ковариация равны нулю, а дисперсии все одинаковы), однако он не является строго стационарным. ${\displaystyle \{z_{t}\}}$

Нстационарность th-го порядка

В уравнении 1 распределение выборок стохастического процесса должно быть равно распределению выборок, сдвинутых во времени для всех . Стационарность N -го порядка является более слабой формой стационарности, где она требуется только для всех до определенного порядка . Случайный процесс называется стационарным N -го порядка , если: ^{[1] : стр. 152} ${\displaystyle n}$ ${\displaystyle n}$ ${\displaystyle n}$ ${\displaystyle N}$ ${\displaystyle \left\{X_{t}\right\}}$

Слабая или широкая стационарность

Определение

Более слабая форма стационарности, обычно используемая в обработке сигналов , известна как стационарность в слабом смысле , стационарность в широком смысле (WSS) или стационарность ковариации . Случайные процессы WSS требуют только, чтобы 1-й момент (т. е. среднее значение) и автоковариация не менялись со временем, а 2-й момент был конечным для всех времен. Любой строго стационарный процесс, который имеет конечное среднее значение и ковариацию, также является WSS. ^{[2] : стр. 299}

Таким образом, непрерывный во времени случайный процесс , который является WSS, имеет следующие ограничения на свою среднюю функцию и функцию автоковариации : ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle m_{X}(t)\triangleq \operatorname {E} [X_{t}]}$ ${\displaystyle K_{XX}(t_{1},t_{2})\triangleq \operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(X_{t_{2}}-m_{X}(t_{2}))]}$

Первое свойство подразумевает, что функция среднего должна быть постоянной. Второе свойство подразумевает, что функция автоковариации зависит только от разницы между и и должна быть индексирована только одной переменной, а не двумя переменными. ^{[1] : стр. 159} Таким образом, вместо того, чтобы писать, ${\displaystyle m_{X}(t)}$ ${\displaystyle t_{1}}$ ${\displaystyle t_{2}}$

${\displaystyle \,\!K_{XX}(t_{1}-t_{2},0)\,}$

обозначение часто сокращается путем замены : ${\displaystyle \tau =t_{1}-t_{2}}$

${\displaystyle K_{XX}(\tau )\triangleq K_{XX}(t_{1}-t_{2},0)}$

Это также означает, что автокорреляция зависит только от , то есть ${\displaystyle \tau =t_{1}-t_{2}}$

${\displaystyle \,\!R_{X}(t_{1},t_{2})=R_{X}(t_{1}-t_{2},0)\triangleq R_{X}(\tau ).}$

Третье свойство гласит, что вторые моменты должны быть конечны для любого времени . ${\displaystyle t}$

Мотивация

Главное преимущество стационарности в широком смысле заключается в том, что она помещает временной ряд в контекст гильбертовых пространств . Пусть H будет гильбертовым пространством, порожденным { x ( t )} (то есть замыканием множества всех линейных комбинаций этих случайных величин в гильбертовом пространстве всех квадратично интегрируемых случайных величин на заданном вероятностном пространстве). В силу положительной определенности автоковариационной функции из теоремы Бохнера следует , что существует положительная мера на действительной прямой, такая что H изоморфна гильбертову подпространству L ² ( μ ), порожденному { e ^{−2 π iξ⋅t} }. Это тогда дает следующее разложение типа Фурье для непрерывного во времени стационарного случайного процесса: существует случайный процесс с ортогональными приращениями такой, что для всех ${\displaystyle \mu }$ ${\displaystyle \omega _{\xi }}$ ${\displaystyle t}$

${\displaystyle X_{t}=\int e^{-2\pi i\lambda \cdot t}\,d\omega _{\lambda },}$

где интеграл в правой части интерпретируется в подходящем (римановом) смысле. Тот же результат справедлив для стационарного процесса с дискретным временем, при этом спектральная мера теперь определена на единичной окружности.

При обработке случайных сигналов WSS с помощью линейных , не зависящих от времени ( LTI ) фильтров полезно рассматривать корреляционную функцию как линейный оператор . Поскольку это циркулянтный оператор (зависит только от разности двух аргументов), его собственные функции являются комплексными экспонентами Фурье . Кроме того, поскольку собственные функции операторов LTI также являются комплексными экспонентами , обработка LTI случайных сигналов WSS очень проста в обработке — все вычисления могут быть выполнены в частотной области . Таким образом, предположение WSS широко используется в алгоритмах обработки сигналов .

Определение сложного стохастического процесса

В случае, когда - сложный стохастический процесс, функция автоковариации определяется как и, в дополнение к требованиям в уравнении 3 , требуется, чтобы функция псевдоавтоковариации зависела только от временного лага. В формулах - это WSS, если ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle K_{XX}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1})){\overline {(X_{t_{2}}-m_{X}(t_{2}))}}]}$ ${\displaystyle J_{XX}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(X_{t_{2}}-m_{X}(t_{2}))]}$ ${\displaystyle \left\{X_{t}\right\}}$

Совместная стационарность

Понятие стационарности можно распространить на два случайных процесса.

Совместная стационарность в строгом смысле

Два случайных процесса и называются совместно стационарными в строгом смысле , если их совместное кумулятивное распределение остается неизменным при сдвигах во времени, т.е. если ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle \left\{Y_{t}\right\}}$ ${\displaystyle F_{XY}(x_{t_{1}},\ldots ,x_{t_{m}},y_{t_{1}^{'}},\ldots ,y_{t_{n}^{'}})}$

Соединение (М+Н) стационарность го порядка

Два случайных процесса и называются совместно ( M  +  N )-порядковыми стационарными, если: ^{[1] : стр. 159} ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle \left\{Y_{t}\right\}}$

Совместная слабая или стационарность в широком смысле

Два стохастических процесса и называются совместно стационарными в широком смысле , если они оба стационарны в широком смысле и их функция взаимной ковариации зависит только от разницы во времени . Это можно обобщить следующим образом: ${\displaystyle \left\{X_{t}\right\}}$ ${\displaystyle \left\{Y_{t}\right\}}$ ${\displaystyle K_{XY}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(Y_{t_{2}}-m_{Y}(t_{2}))]}$ ${\displaystyle \tau =t_{1}-t_{2}}$

Соотношение между типами стационарности

• Если стохастический процесс является стационарным N -го порядка, то он также является стационарным M -го порядка для всех ⁠ ⁠ ${\displaystyle M\leq N}$ .
• Если стохастический процесс является стационарным во втором порядке ( ) и имеет конечные вторые моменты, то он также является стационарным в широком смысле. ^{[1] : стр. 159} ${\displaystyle N=2}$
• Если стохастический процесс является стационарным в широком смысле, он не обязательно является стационарным во втором порядке. ^{[1] : стр. 159}
• Если стохастический процесс является стационарным в строгом смысле и имеет конечные вторые моменты, то он является стационарным в широком смысле. ^{[2] : стр. 299}
• Если два стохастических процесса совместно стационарны ( M  +  N )-го порядка, это не гарантирует, что отдельные процессы стационарны соответственно M -го и N -го порядков. ^{[1] : стр. 159}

Другая терминология

Терминология, используемая для типов стационарности, отличных от строгой стационарности, может быть довольно смешанной. Ниже приведены некоторые примеры.

• Пристли использует стационарность до порядка m, если условия, аналогичные приведенным здесь для стационарности в широком смысле, применимы к моментам до порядка m . ^{[3] [4]} Таким образом, стационарность в широком смысле будет эквивалентна «стационарности до порядка 2», что отличается от определения стационарности второго порядка, данного здесь.
• Хонархах и Каерс также используют предположение о стационарности в контексте многоточечной геостатистики, где предполагается, что более высокие n-точечные статистики являются стационарными в пространственной области. ^[5]

Дифференциация

Один из способов сделать некоторые временные ряды стационарными — вычислить разности между последовательными наблюдениями. Это известно как дифференциация . Дифференциация может помочь стабилизировать среднее значение временного ряда, удаляя изменения в уровне временного ряда и, таким образом, устраняя тенденции. Это также может удалить сезонность, если различия будут учтены надлежащим образом (например, дифференциация наблюдений с интервалом в 1 год для удаления годовой тенденции).

Такие преобразования, как логарифмирование, могут помочь стабилизировать дисперсию временного ряда.

Одним из способов определения нестационарных временных рядов является график ACF . Иногда закономерности будут более заметны на графике ACF, чем в исходном временном ряду; однако, это не всегда так. ^[6]

Другой подход к выявлению нестационарности — это рассмотрение преобразования Лапласа ряда, которое определит как экспоненциальные тренды, так и синусоидальную сезонность (сложные экспоненциальные тренды). Связанные методы анализа сигналов, такие как вейвлет-преобразование и преобразование Фурье, также могут быть полезны.

Смотрите также

• Процесс Леви
• Стационарный эргодический процесс
• Теорема Винера–Хинчина
• Эргодичность
• Статистическая закономерность
• Автокорреляция
• Вероятность уменьшения

Ссылки

1. Park,Kun Il (2018). Основы вероятности и стохастических процессов с приложениями к коммуникациям . Springer. ISBN 978-3-319-68074-3.
2. Ionut Florescu (7 ноября 2014 г.). Вероятность и стохастические процессы . John Wiley & Sons. ISBN 978-1-118-59320-2.
3. Пристли, МБ (1981). Спектральный анализ и временные ряды . Academic Press. ISBN 0-12-564922-3.
4. Пристли, МБ (1988). Нелинейный и нестационарный анализ временных рядов . Academic Press. ISBN 0-12-564911-8.
5. Honarkhah, M.; Caers, J. (2010). «Стохастическое моделирование закономерностей с использованием моделирования закономерностей на основе расстояний». Mathematical Geosciences . 42 (5): 487–517. Bibcode :2010MatGe..42..487H. doi :10.1007/s11004-010-9276-7.
6. 8.1 Стационарность и дифференцирование | OTexts . Получено 18.05.2016 . {{cite book}}: |website=проигнорировано ( помощь )

Дальнейшее чтение

• Эндерс, Уолтер (2010). Прикладные эконометрические временные ряды (третье изд.). Нью-Йорк: Wiley. С. 53–57. ISBN 978-0-470-50539-7.
• Jestrovic, I.; Coyle, JL; Sejdic, E (2015). «Влияние повышенной вязкости жидкости на стационарные характеристики сигнала ЭЭГ у здоровых взрослых». Brain Research . 1589 : 45–53. doi :10.1016/j.brainres.2014.09.035. PMC  4253861. PMID  25245522 .
• Хайндман, Атанасопулос (2013). Прогнозирование: принципы и практика. Otexts. https://www.otexts.org/fpp/8/1

Внешние ссылки

• Спектральное разложение случайной функции (Springer)