数学家Herman Wold( 沃尔德1902-1950)1938年提出:任何一个平稳过程都可以分解为两个不相关(或是说相互正交)的平稳过程之和。其中一个为确定性部分,可以用过去值描述现在值的部分,也称为可预测部分(或奇异部分);另一个为纯随机性部分,也称为正则部分。

设 

为平稳随机过程,

总可以分解为:

向前逐步回归模型预测 wald向前逐步回归_正则

并且过程 

 和过程 

 相互正交,即:

向前逐步回归模型预测 wald向前逐步回归_随机过程_02

称为奇异部分(或可预测部分,或确定性部分),含义是可以用其过去值描述其现在值。即

可以表示成(3)式所示的p阶自回归差分方程。

称为正则部分(或不确定部分,或纯随机部分),含义是完全无法预测。即

可以表示成(5)式所示的q阶滑动平均差分方程。

平稳随机过程可以表示成(7)式所示的自回归-滑动平均方程。Wold将平稳过程分解为奇异和正则两部分,奇异部分是可以精确预测部分,正则部分是无法准确预测部分。Wold分解定理是一种存在性的结论。并且,分解是在最优线性预测意义下定义的,对一般性的最优估计不适用。另外,Wold 分解没有给出预测误差的界,也没有指明求解随机过程结构参数的方法。

随机过程的随机性

随机性是随机过程的最根本特征。但是,事物总有两面性,随机过程也不例外。可以说,随机过程是随机性与确定性的矛盾统一体。随机变量的随机性表现在无法用确定函数描述其样本函数,确定性表现在其统计特征可以用确定函数(或值)描述。随机过程是随机变量随时间的推演,所以随机过程的随机性与确定性表现为随机变量的随机性与确定性随着时间的推演。随着时间的推演,一方面不断有新的随机变量产生,带来新的不确定性,另一方面不确定性随时间的推演可以具有确定的规律性。

根据随机性随时间的变化情况,可以将随机过程分为奇异过程( 可预测过程)和正则过程(不可预测过程)。

奇异过程

如果过程的随机性不随时间变化,则称该过程为奇异过程。要注意的是随机性不变,不是没有随机性,只是随机性不随时间改变。按信息论的观点,随着时间的发展,奇异过程没有新的随机因素加入,过程所含信息量保持不变,不再提供任何新信息。按预测的观点,奇异过程是“可预测”过程。“可预测”的涵义是:用过程的过去值对未来值进行预测时,能够实现一致性预测,即预测的均方误差能够趋于0。在预测方法上,一般考虑线性预测。

对于随机过程

考虑用t时刻之前的p个值的线性组合对t 时刻的真值

进行线性预测:

向前逐步回归模型预测 wald向前逐步回归_差分_03

 

其中,

是常系数,

是(预测)误差。如果预测的均方误差满足:

向前逐步回归模型预测 wald向前逐步回归_向前逐步回归模型预测_04

 

 

则称过程

是可预测过程。(3)式是一个p阶自回归差分方程。我们将满足(1)式的随机过程称为p阶AR过程,记为AR(p)。

正则过程

如果任何两个不同时刻的随机性都不相同,则称该过程为正则过程。正则过程是与奇异过程特征恰好相反的过程。按信息论的观点,任一时刻的下时刻,正则过程都有新信息加入。按预测的观点,正则过程是“不可预测”过程。“不可预测”的涵义是无法实现一致性预测,

白噪声过程是正则过程的代表。对于任何分布的正则过程( 不可预测过程),总可以用白噪声过程的线性组合表示,即

向前逐步回归模型预测 wald向前逐步回归_差分_05

且:

向前逐步回归模型预测 wald向前逐步回归_向前逐步回归模型预测_06

(5)式是一个q阶滑动平均差分方程。我们将满足(5)式的随机过程称为q阶MA过程,记为

实际过程

奇异过程(可预测过程)和正则过程(纯随机过程)是随机过程的两个极端。一般随机过程的随机性、可预测性介于奇异过程和正则过程之间。因此,实际随机过程可以表示为

 

向前逐步回归模型预测 wald向前逐步回归_差分_07

 

(7)式是一个自回归-滑动平均差分方程。我们将满足(7)式的随机过程称为ARMA过程,记为 ARMA(p,q)。