时间序列篇

MA模型

什么是$MA模型$

具有如下结构的模型称为 $q$ 阶移动平均(moving average)模型，简记为 $MA(q)$:

$$\begin{cases} x_t = \mu + \epsilon_t - \theta_1 \epsilon_{t-1} - \theta_2 \epsilon_{t-2} - \cdots - \epsilon_q \epsilon_{t-q} \\\\ \theta_q \neq 0 \\\\ E(\epsilon_t) = 0, Var(\epsilon_t) = \sigma_{\epsilon}^2, E(\epsilon_t \epsilon_s) = 0, s \neq t \end{cases}$$
使用 $MA(q)$ 模型需要满足两个限制条件:

• 条件一: $\theta_q \neq 0$，这个限制条件保证了模型的最高阶数为 $q$

• 条件二: $E(\epsilon_t) = 0, Var(\epsilon_t) = \sigma_{\epsilon}^2, E(\epsilon_t \epsilon_s) = 0, s \neq t$ 这个条件保证了随机干扰序列 $\{\epsilon_t\}$ 为零均值白噪声序列

通常缺省默认的限制条件，把模型简记为:

$$x_t = \mu + \epsilon_t -\theta_1 \epsilon_{t-1} - \theta_2 \epsilon_{t-2} - \cdots - \theta_q \epsilon_{t-q}$$ 当 $\mu = 0$ 时，上式模型被称为中心化 $MA(q)$ 模型.对非中心化 $MA(q)$ 模型只要做一个简单的位移 $y_t = x_t - \mu$，就可以转化为中心化 $MA(q)$ 模型.这种中心化运输不会影响序列值之间的相关关系.

使用延迟算子，中心化 $MA(q)$ 模型又可以简记为:

$$x_t = \Theta(B) \epsilon_t$$ 式中，$\Theta(B) = 1 - \theta_1 B - \theta_2 B^2 - \cdots - \theta_q B^q$，称为 $q$ 阶移动平均系数多项式.

---

$MA$ 模型的统计性质

常数均值

当 $q < \infty$ 时，$MA(q)$ 模型具有常数均值

$$E(x_t) = E(\mu + \epsilon_t - \theta_1 \epsilon_{t-1} - \theta_2 \epsilon_{t-2} - \cdots - \theta_q \epsilon_{t-q}) = \mu$$ 特别地，如果该模型为中心化 $MA(q)$ 模型，该模型均值为零.

---

常数方差

$$Var(x_t) = Var(\mu + \epsilon_t - \theta_1 \epsilon_{t-1} - \theta_2 \epsilon_{t-2} - \cdots - \theta_q \epsilon_{t-q}) \\= (1+\theta_1^2 + \cdots + \theta_q^2) \sigma_{\epsilon}^2$$

---

自协方差函数只与滞后阶数有关，且 $q$ 阶截尾

$$\gamma_k = E(x_t x_{t-k}) \\\\= E[(\epsilon_t - \theta_1 \epsilon_{t-1} - \cdots - \theta_q \epsilon_{t-q})(\epsilon_{t-k} - \theta_1 \epsilon_{t-k-1} - \cdots - \theta_q \epsilon_{t-k-q})] \\\\= \begin{cases} (1+\theta_1^2 + \cdots + \theta_q^2)\sigma_{\epsilon}^2, k = 0 \\\\ \left( -\theta_k + \sum_{i=1}^{q-k}{\theta_i \theta_{k+i}} \right) \sigma_{\epsilon}^2, 1 \leq k \leq q \\\\ 0, k > q \end{cases}$$

---

自相关系数 $q$ 阶截尾

$$\rho_k = \frac{\rho_k}{\rho_0} = \begin{cases} 1, k = 0 \\ \frac{-\theta_k + \sum_{i=1}^{q-k}{\theta_i \theta_{k+i}}}{1 + \theta_1^2 + \cdots + \theta_q^2 }, 1 \leq k \leq q \\ 0, k > q \end{cases}$$

则容易验证：$MA(1)$ 模型的自相关系数为:

$$\rho_k = \begin{cases} 1, k = 0 \\ \frac{-\theta_1}{1 + \theta_1^2}, k = 1 \\ 0, k \geq 2 \end{cases}$$
$MA(2)$ 模型的自相关系数为: $$\rho_k = \begin{cases} 1, k = 0 \\ \frac{-\theta_1 + \theta_1 \theta_2 }{1 + \theta_1^2 + \theta^2} , k = 1 \\ \frac{-\theta_2}{ 1 + \theta_1^2 + \theta_2^2 }, k = 2 \\ 0, k \geq 3 \end{cases}$$

---

$MA$模型的可逆性

在前面提到：一个自相关系数未必唯一对应一个平稳时间序列模型.

这种自相关系数对应模型的不唯一性会给我们以后的工作带来麻烦.因为我们将根据样本自相关系数显示出来的特征选择合适的模型拟合序列的发展，如果自相关系数和模型之间不是一一对应的关系，就会导致拟合模型和随机序列之间不是一一对应关系.

为了保证一个给定的自相关系数能够对应唯一的 $MA$模型，我们就要给模型增加约束条件.这个约束条件称为 $MA$模型的可逆性(invertibility)条件.

---

可逆的定义

容易验证当两个 $MA(1)$ 模型具有如下结构时，它们的自相关系数正好相等:

$$模型1：x_t = \epsilon_t - \theta \epsilon_{t-1} \ \ \ \ 模型2：x_t = \epsilon_t - \frac{1}{\theta} \epsilon_{t-1}$$ 把这两个 $MA(1)$ 模型表示成两个自相关模型形式: $$模型1：\frac{x_t}{1 - \theta B} = \epsilon_t \ \ \ \ 模型2：\frac{x_t}{1 - \frac{1}{\theta} B} = \epsilon_t$$ 显然，如果 $|\theta| < 1$，模型1收敛，而模型2不收敛；如果 $|\theta| > 1$，则模型2收敛，而模型1不收敛.若一个 $MA$ 模型能够表示成收敛的 $AR$模型形式，那么该 $MA$模型称为可逆模型.一个自相关系数唯一对应一个可逆 $MA$ 模型.

---

$MA(q)$模型的可逆性条件

与分析 $AR(p)$ 模型的平稳性条件类似，$MA(q)$模型可以表示为:

$$\epsilon_t = \frac{x_t}{\Theta(B)}$$ 式中，$\Theta(B) = 1 - \theta_1 B - \cdots - \theta_q B^q$ 为移动平均系数多项式.假定 $\frac{1}{\lambda_1},\cdots,\frac{1}{\lambda_q}$是该系数多项式的 $q$ 个根，则 $\Theta(B)$ 可以分解成： $$\Theta(B) = \prod_{k=1}^q{(1 - \lambda_k B)}$$ 则可知: $$\epsilon_t = \frac{x_t}{(1-\lambda_1 B)\cdots(1-\lambda_q B)}$$ 该式收敛的充要条件是 $|\lambda_i| < 1$ ，等价于 $MA(q)$模型的系数多项式的根都在单位圆外，$\left|\frac{1}{\lambda_i}\right| > 1$这个条件也称为 $MA(q)$模型的可逆性条件.

显然，$MA(q)$模型的可逆概念和 $AR(p)$ 模型的平稳概念是完全对偶的.容易验证，$MA(1)$模型的可逆条件是: $-1 < \theta_1 < 1$；$MA(2)$模型的可逆条件是: $|\theta_2| < 1, 且 \theta_2 \overline{+} \theta_1 < 1$.

---

逆函数的递推公式

如果一个 $MA(q)$模型满足可逆性条件，它就可以写成如下两种等价形式:

$$\begin{cases} \Theta(B) \epsilon_t = x_t \\\\ \epsilon_t = I(B) \end{cases}$$ 则可得: $$\Theta(B)I(B) x_t = x_t$$ 展开上式得: $$\left( 1 - \sum_{k=1}^q{\theta_k B^k} \right)\left( 1 + \sum_{j=0}^{\infty}{I_j B^j} \right) x_t = x_t$$ 和 $Green$函数的递推公式完全类似，又待定系数法容易得到逆函数的递推公式为: $$\begin{cases} I_0 = 1 \\\\ I_j = \sum_{k=1}^j{\theta'_k I_{j-k}} , j \geq 1 \end{cases}$$ 式中： $$\theta_k' = \begin{cases} \theta_k , k \leq q \\\\ 0 , k > q \end{cases}$$

---

偏自相关系数拖尾

对于一个可逆 $MA(q)$ 模型，可以等价写成 $AR(\infty)$模型形式：

$$I(B) x_t = \epsilon_t$$ 式中： $$\begin{cases} I_0 = 1 \\\\ I_j = \sum_{k=1}^j{\theta_k' I_{j-k}} , j \geq 1 \end{cases}$$ $AR(p)$ 模型偏自相关系数 $q$ 阶截尾，所以可逆 $MA(q)$模型偏自相关系数 $\infty$ 截尾，即具有偏自相关系数拖尾性.

一个可逆 $MA(q)$ 模型一定对应一个与它具有相同自相关系数和偏自相关系数的不可逆 $MA(q)$模型，这个不可逆 $MAR(q)$ 模型也同样具有偏自相关系数拖尾性.

---

R程序演示