了解ARIMA模型,就需要先了解数据的一个平稳性。


1. 平稳性:

  • 平稳性就是要求经由样本时间序列所得到的拟合曲线,在未来的一段时间内仍能顺着现有状态“惯性”地延续下去;
  • 平稳性要求序列的均值方差不发生明显变化;

        方差越大,数据波动越大,方差计算公式如下式所示:

       

ARIMA预测模型R语言 arima模型预测原理_方差

       方差等于1,那么标准差也就是1,表示概率函数在对称轴左右偏差1的位置导数为0,即为拐点。期望为0,表示概率函数以y轴为对称轴。

平稳性分为严平稳和弱平稳

  • 严平稳:严平稳表示的分布不随时间的改变而改变,如:白噪声(正态),无论怎么取,都是期望为0,方差为1;
  • 弱平稳:期望与相关系数(依赖性)不变,未来某时刻的t值Xt就要依赖于它的过去信息,所以需要依赖性;

那么如果我们拿到的数据波动很大,那么需要平稳这个数据,如何平稳这个数据呢?

2. 差分法:时间序列在t与t-1时刻的差值

                                     

ARIMA预测模型R语言 arima模型预测原理_差分_02

             差分法:(t5-t4),(t4-t3),(t3-t2),(t2-t1),在一阶差分后就可以得到二阶差分。

明白了平稳数据方法,于是下面介绍几个定义:

3. 自回归模型(AR)

  • 描述当前值与历史值之间的关系,用变量自身的历史时间数据对自身进行预测
  • 自回归模型必须满足平稳性的要求
  • p阶自回归过程的公式定义:
  • 是当前值,是常数项,P是阶数(需要我们自己指定),是自相关系数,是误差

3.1 自回归模型(AR)的限制

  • 自回归模型是用自身的数据来进行预测
  • 必须具有平稳性
  • 必须具有自相关性,如果自相关系数小于0.5,则不宜采用
  • 自回归只适用于预测与自身前期相关的现象

4. 移动平均模型(MA)

  • 移动平均模型关注的是自回归模型中误差项的累加
  • q阶自回归过程的公式定义:
  • 移动平均法能有效消除预测中的随机波动

5. 自回归移动平均模型(ARMA)

        自回归与移动平均结合,公式定义如下,由下述公式我们可以得到,当拿到ARMA模型时,我们仅需要指定三个参数(p,d,q)d是阶数,d=1即为一阶差分,d=2为二阶差分,以此类推。

                                              

ARIMA预测模型R语言 arima模型预测原理_数据_03

6. 差分自回归移动平均模型

        ARIMA (p, d, q)模型全称为差分自回归移动平均模型(Autoregressive Integrated Moving Average Model,简记ARIMA)。

        AR是自回归,p为自回归项;MA为移动平均,q为移动平均项数,d为时间序列成为平稳时所做的差分次数。

         原理:将非平稳时间序列转换为平稳时间序列。然后将因变量仅对它滞后值(阶数)以及随机误差项的现值和滞后值进行回归所建立的模型。

6.1 自相关函数ACF(autocorrelation function)

        相关性:有序的随机变量序列与其自身相比较,自相关函数反映了自身数据在同一序列在不同时序之间的相关性

         公式:

                             

ARIMA预测模型R语言 arima模型预测原理_差分_04

        普通的相关性是,如左图,是一个正相关概念,右图是一个负相关概念,那自相关函数说的是什么呢?

                    

ARIMA预测模型R语言 arima模型预测原理_方差_05

  

ARIMA预测模型R语言 arima模型预测原理_差分_06

        自相关函数ACF(k) = Pk的取值范围为[-1,1],这个取值范围的定义如下,-1为负相关,+1为正相关,0为无相关性。如下图,是一个阶数与自相关函数ACF之间的关系:

                    

ARIMA预测模型R语言 arima模型预测原理_数据_07

        我们一般会取95%的置信区间,意思如下,也就是100个点有95%个点是落在我们的区间里面,这就是95%的置信区间。

6.2 偏自相关函数(PACF)(partial autocorrelation function)

        对于一个平稳AR(p)模型,求出滞后k自相关系数p(k)时实际上得到的并不是x(t)与x(t-k)之间单纯的相关关系:

  • x(t)同时还会受到中间k-1个随机变量x(t-1)、x(t-2)、......、x(t-k+1)的影响,而这k-1个随机变量又都和x(t-k)具有相关关系,所以自相关系数p(k)里实际掺杂了其他变量对x(t)与x(t-k)的影响;
  • ACF还包含了其他变量的影响,而偏自相关系数PACF是严格这两个变量之间的相关性;

6.3 ARIMA建模流程

  1. 将序列平稳(差分法确定d)
  2. p和q阶数确定:ACF与PACF
  3. ARIMA(p,d,q)

模型

ACF

PACF

AR(p)

衰减趋于零(几何型或振荡型)

p阶后截尾

MA(q)

q阶后结尾

衰减趋于零(几何型或振荡型)

ARMA(p,q)

q阶后衰减趋于零(几何型或振荡型)

p阶后衰减趋于零(几何型或振荡型)


       截尾:落在置信区间内(95%的点都符合该规则)

6.4 模型参数选择

      模型选择AIC与BIC:选择更简单的模型

AIC:赤池信息准则(Akaike Information Criterion,AIC)

                                    

ARIMA预测模型R语言 arima模型预测原理_方差_08

BIC:贝叶斯信息准则(Bayesian Information Criterion,BIC)

                                    

ARIMA预测模型R语言 arima模型预测原理_数据_09

       k为模型参数个数,n为样本数量,L为似然函数

6.5 模型残差检验

  • ARIMA模型的残差是否是平均值为0且方差为常熟的正态分布
  • QQ图:线性即正态分布

 



了解ARIMA模型,就需要先了解数据的一个平稳性。