ARIMA模型介绍

ARIMA并不是一个特定的模型，而是一类模型的总称。他的3个参数p, d, q分别表示自相关(p阶AR模型)， d次差分，滑动平均(q阶MA模型)。因此有，
- p = d = 0, ARIMA模型即MA(q)模型；
- d = q = 0, ARIMA模型即AR(p)模型；

MA模型含义

当前时刻的值可以表示为过去干扰项和当前干扰项的线性组合。

MA模型描述

符号和前提

$x_t$: t时刻的值
$\varepsilon_t: \varepsilon_t \sim WN(0, \delta^2)$，白噪声序列
$\theta_i$: 参数

MA(1): 一阶移动平均模型

推导公式

$x_t = \varepsilon_t - \theta_1\varepsilon_{t-1}, \theta_1 \neq 0.$

统计性质

$E(x_t)=E(\varepsilon_t)-\theta_1 E(\varepsilon_{t-1})=0$
$Var(x_t)=Var(\varepsilon_t)+\theta_1^2 Var(\varepsilon_{t-1})=(1+\theta^2)\sigma^2$
$\gamma_{t,s}=Cov(\varepsilon_t-\theta \varepsilon_{t-1},\varepsilon_s-\theta \varepsilon_{s-1})=Cov(\varepsilon_t,\varepsilon_s)-\theta Cov(\varepsilon_t,\varepsilon_{s-1})-\theta Cov(\varepsilon_{t-1},\varepsilon_s)+\theta^2 Cov(\varepsilon_{t-1},\varepsilon_{s-1})$

考虑时滞 k = |t -s|， 有：
$\gamma_k=\left\{ \begin{array}{l l} (1+\theta^2)\sigma^2 & (k=0) \\ -\theta \sigma^2 & (k=1) \\ 0 & (k>1) \end{array} \right.$

同样的有，自相关系数：
$\rho_k=\left\{ \begin{array}{l l} 1 & (k=0) \\ (-\theta) / (1+\theta^2) & (k=1) \\ 0 & (k>1) \end{array} \right.$

MA(q): q阶移动平均模型

推导公式

$x_t = \varepsilon_t - \theta_1\varepsilon_{t-1} - ... - \theta_q\varepsilon_{t-q}, \theta_1 \neq 0.$
注：以上我们讨论的都是去中心化的MA，针对非去中心化的MA，即其期望不为0，可简单的使 $x{_t}‘ = x_t - \mu$ 即得到去中心化的MA。

统计性质

$E(x_t) = E(\varepsilon_t - \theta_1\varepsilon_{t - 1} - ... - \theta_q\varepsilon_{t - q}) = 0$
$Var(x_t) = Var(\varepsilon_t - \theta_1\varepsilon_{t - 1} - ... - \theta_q\varepsilon_{t - q}) = (1 + \theta_1^2 + ... + \theta_q^2)\delta^2$

自协方差函数：
$\gamma_k=\left\{ \begin{array}{l l} (1+\theta_1^2 + ... + \theta_q^2)\sigma^2 & (k=0) \\ (-\theta_k + \Sigma_{i = 1}^{q - k}{\theta_i\theta_{k + i}} )\sigma^2 & (1 \le k \le q) \\ 0 & (k>q) \end{array} \right.$

自相关函数：
$\rho_k=\left\{ \begin{array}{l l} 1 & (k=0) \\ (-\theta_k + \Sigma_{i = 1}^{q - k}{\theta_i\theta_{i + k}}) / (1+\theta_1^2 + ... + \theta_q^2) & (1 \le k \le q) \\ 0 & (k>q) \end{array} \right.$

性质说明

一般的，MA(q)模型是一个平稳模型，并且在时滞大于q后没有相关性。

MA(2)示例

R代码

wn <- rnorm(100, mean=0, sd=1);
x <- c();
x[1] <- wn[1];
x[2] <- wn[2] + 0.9 * wn[1];
for (i in 3:length(wn)) {
    x[i] <- wn[i] - (-0.796) * wn[i-1] - (- 0.32) * wn[i - 2];
}
x.ts <- ts(x)
plot(x.ts main="MA(2)", type="b");

时间序列图

自相关系数图