Модель авторегрессии — скользящего среднего

Моделью ARMA(p, q), где p и q — целые числа, задающие порядок модели, называется следующий процесс генерации временного ряда ${\displaystyle \{X_{t}\}}$:

${\displaystyle X_{t}=c+\varepsilon _{t}+\sum _{i=1}^{p}\alpha _{i}X_{t-i}+\sum _{i=1}^{q}\beta _{i}\varepsilon _{t-i}}$,

где ${\displaystyle c}$ — константа, ${\displaystyle \{\varepsilon _{t}\}}$ — белый шум, то есть последовательность независимых и одинаково распределённых случайных величин (как правило, нормальных), с нулевым средним, а ${\displaystyle \alpha _{1},\ldots ,\alpha _{p}}$ и ${\displaystyle \beta _{1},\ldots ,\beta _{q}}$ — действительные числа, авторегрессионные коэффициенты и коэффициенты скользящего среднего, соответственно.

Такая модель может интерпретироваться как линейная модель множественной регрессии, в которой в качестве объясняющих переменных выступают прошлые значения самой зависимой переменной, а в качестве регрессионного остатка — скользящие средние из элементов белого шума. ARMA-процессы имеют более сложную структуру по сравнению со схожими по поведению AR- или MA-процессами в чистом виде, но при этом ARMA-процессы характеризуются меньшим количеством параметров, что является одним из их преимуществ[1].

Если ввести в рассмотрение лаговый оператор ${\displaystyle L:~Lx_{t}=x_{t-1}}$, тогда ARMA-модель можно записать следующим образом

${\displaystyle X_{t}=c+(\sum _{i=1}^{p}\alpha _{i}L^{i})X_{t}+(1+\sum _{i=1}^{q}\beta _{i}L^{i})\varepsilon _{t}}$

или, перенеся авторегрессионную часть в левую часть равенства:

${\displaystyle (1-\sum _{i=1}^{p}\alpha _{i}L^{i})X_{t}=c+(1+\sum _{i=1}^{q}\beta _{i}L^{i})\varepsilon _{t}}$

Введя сокращенные обозначения для полиномов левой и правой частей окончательно можно записать:

${\displaystyle \alpha (L)X_{t}=c+\beta (L)\varepsilon _{t}}$

Для того, чтобы процесс был стационарным, необходимо, чтобы корни характеристического многочлена авторегрессионной части ${\displaystyle \alpha (z)}$ лежали вне единичного круга в комплексной плоскости (были по модулю строго больше единицы). Стационарный ARMA-процесс можно представить как бесконечный MA-процесс:

${\displaystyle X_{t}=\alpha ^{-1}(L)c+\alpha ^{-1}(L)\beta (L)\varepsilon _{t}=c/a(1)+\sum _{i=0}^{\infty }c_{i}\varepsilon _{t-i}}$

Например, процесс ARMA(1,0)=AR(1) можно представить как MA-процесс бесконечного порядка с коэффициентами убывающей геометрической прогрессии:

${\displaystyle X_{t}=c/(1-a)+\sum _{i=0}^{\infty }a^{i}\varepsilon _{t-i}}$

Таким образом, ARMA-процессы можно считать MA-процессами бесконечного порядка с определенными ограничениями на структуру коэффициентов. Малым количеством параметров они позволяют описать процессы достаточно сложной структуры. Все стационарные процессы можно сколь угодно приблизить ARMA-моделью некоторого порядка с помощью существенно меньшего числа параметров, нежели только при использовании MA-моделей.

Для построения модели ARMA по серии наблюдений необходимо определить порядок модели (числа p и q), а затем и сами коэффициенты. Для определения порядка модели может применяться исследование таких характеристик временного ряда, как его автокорреляционная функция и частная автокорреляционная функция. Для определения коэффициентов применяются такие методы, как метод наименьших квадратов и метод максимального правдоподобия.

В классические ARMA-модели можно добавить некоторые экзогенные факторы x. Причем в общем случае в модели участвуют не только текущие значения этих факторов, но и лаговые значения. Такие модели принято обозначать ARMAX(p, q, k), где k-количество лагов экзогенных факторов. В операторной форме такие модели можно записать следующим образом (один экзогенный фактор)

${\displaystyle a(L)y_{t}=c+b(L)\varepsilon _{t}+d(L)x_{t}}$

где a(L), b(L), d(L) — полиномы порядка соответственно p, q, k от лагового оператора.

Такие модели можно интерпретировать иначе — как модели ADL(p, k) со случайными ошибками MA(q).

• ARIMA
• Авторегрессионная модель
• Модель скользящего среднего