随机过程机器学习 随机过程怎么学

第十章 随机过程的基本概念

10.1 随机过程的定义及分类

10.1.1 随机过程的定义

定义1

给定参数集$\(T\sub(-\infty, +\infty)\)$，对于固定 \(t\in T\)，对应有随机变量 \(X(t)\)，对应所有 \(t\in T\)，是一族随机变量 \(\{X(t)=X(e,t),t\in T\}\)，则称随机变量族 \(\{X(t)=X(e,t),t\in T\}\)

对任意给定的$\(t_1\in T,X(t_1)=X(e,t_1)\)$ 是一个随机变量，称为随机过程在 \(t=t_1\) 时的状态变量，简称状态。

定义2

设随机试验 \(E\) 的样本空间 \(E=\{e\}\)，\(T\sub (-\infty, +\infty)\) 是非空集合，若对于固定 \(e_0\in S\)，对应关于参数 \(t\) 的函数$\(X(e_0, t)=x(t)\;t\in T \sub (-\infty, +\infty)\)$ 称为随机过程的样本函数（或随机过程的一个实现，也称为一条轨道）。

对于所有的 \(e\in S\)，得到一族 \(t\) 的函数 \(\{X(e, t), t\in T, e\in S \}\)，称为随机过程，简称过程。简记为 \(\{X(t), t\in T \}\) 或 \(X(t)\).

\(T\) 称为参数集。

定义3

定义在$\(S\times T = \{(e, t) | e\in S, t\in T \}\)$ 上的二元函数 \(X(e, t)\)，对于每个固定的 \(t\)，\(X(\cdot, t)\) 是可测函数，则称 \(\{X(e,t)| e\in S, t\in T \}\)

对于固定的 \(t\)，\(X(e,t)\) 是随机变量，其所有可能的取值构成的实数空间，称为随机过程的状态空间。它是二元函数 \(X(e, t)\) 的值域，记为 \(S\)。

10.1.2 随机过程的分类

1. 按随机过程的参数集和状态空间分类

• 参数集 \(T\)
• 状态空间 \(S\)

1. \(T\) 离散，\(S\)
2. \(T\) 离散，\(S\)

参数离散随机过程是随机变量序列，简称随机序列。

一般地记 \(X_n=X(t_n)\)，于是$\(\{X(t), t=t_1, t_2, ..., t_n, ... \}=\{X_n\}\)$

3. \(T\) 连续，\(S\)
4. \(T\) 连续，\(S\)

2. 按随机过程的概率结构分类

• 二阶矩过程，包括正态过程，平稳过程等
• 马尔可夫过程

• 马尔科夫链
• 泊松过程
• 维纳过程
• 扩散过程

• 更新过程
• 鞅

10.2 随机过程的概率分布

10.2.1 一个随机过程的任意有限维概率分布

设 \(\{X(t),t\in T \}\) 是一随机过程，对于参数集 \(T\) 中的任意 \(n\) 个元素：\(t_1, t_2, ..., t_n\) 相应有过程分别在 \(t = t_1, t_2, ..., t_n\) 的 \(n\)

$\[X(t_1) = X(e, t_1),X(t_2) = X(e, t_2),...,X(t_n) = X(e, t_n) \]$

\(n\) 个状态（随机变量）的联合分布

$\[F(x_1, x_2, ..., x_n; t_1, t_2, ..., t_n) = p\{X(t_1) \leq x_1, X(t_2) \leq x_2, ..., X(t_n) \leq x_n \} \quad n = 1, 2,... \]$

称为随机过程 \(X(t)\) 的 \(n\)

如果存在非负函数 \(f(x_1, x_2, ..., x_n; t_1, t_2, ..., t_n)\)，使得：

$\[(x_1, x_2, ..., x_n; t_1, t_2, ..., t_n) = \int^{x_n}_{-\infty}...\int^{x_2}_{-\infty}\int^{x_1}_{-\infty} f(x_1, x_2, ..., x_n; t_1, t_2, ..., t_n) \,dx_1dx_2...dx_n \]$

成立，则称 \(f\) 为随机过程 \(X(t)\) 的 \(n\) 维概率密度，\(n = 1, 2, ...\)

特殊地，如果对于任何正整数 \(n\)，随机过程的任意 \(n\)

独立过程的 \(n\) 维分布函数（或 \(n\) 维概率密度）是相应 \(n\)

$\[F(x_1, x_2, ..., x_n; t_1, t_2, ...,t_n) = \prod\limits^n_{i=1}F(x_i, t_i)\quad n = 2, 3, 4, ... \]$

10.2.2 两个随机过程的有限维联合分布及独立性

设 \(\{X(t), t\in T_1 \}\) 和 \(\{Y(t), t\in T_2\}\) 是两个随机过程，由 \(X(t)\) 的任意 \(m\) 个状态 \(X(t_1),...,X(t_m)\) 和 \(Y(t)\) 的任意 \(n\) 个状态 \(Y(t_1'),...,Y(t_n')\) 组成 \(m+n\)

$\[F_{XY}(x_1, ...,x_m, y_1, ..., y_n; t_1, ..., t_m, t_1$

称为随机过程 \(X(t)\) 和 \(Y(t)\) 的 \(m+n\)

如果对于任何正整数 \(m\) 和 \(n\)，对于 \(T_1\) 和 \(T_2\)

$\[\begin{aligned} &F_{XY}(x_1, ...,x_m, y_1, ..., y_n; t_1, ..., t_m, t_1$

都成立，则称两个随机过程相互独立。

10.3 随机过程的数字特征

10.3.1 随机过程的数字特征：

参数集 \(T\sub (-\infty, +\infty)\)，随机变量族 \(\{X(t), t\in T \}\) 是一个随机过程，对于任意给定 \(t_0\in T\), 过程在 \(t_0\) 的状态 \(X(t_0)\) 是随机变量，一维概率密度 \(f(x;t_0)\)。

1. 过程在 \(t\) 的状态 \(X(t)\) 的数学期望

$\[\mu_X(t)=E[X(t)]=\int^{+\infty}_{-\infty}xf(x; t)\,dx \]$

对于一切 \(t\in T\)，\(\mu_X(t)\) 是 \(t\) 的函数，称为随机过程 \(X(t)\) 的均值函数，简称均值。

2. 过程在 \(t\) 的状态 \(X(t)\) 的二阶原点矩

$\[\Psi^2_{X}(t) = E[X^2(t)] = \int^{+\infty}_{-\infty}x^2f(x; t)\,dx \]$

称为随机过程 \(X(t)\) 的均方值函数，简称均方值

3. 过程在 \(t\) 的状态 \(X(t)\)

$\[\begin{aligned} \sigma^2_X(t) & = D[X(t)]\\ & = E[X(t) - EX(t)]^2\\ & = E[X(t) - \mu_X(t)]^2\\ & = E[X^2(t)] - \mu_X^2(t)] \end{aligned} \]$

称为随机过程 \(X(t)\) 的方差函数，简称方差。

标准差函数 \(\sigma_X(t)\)

任选 \(t_1, t_2 \in T\)，状态 \(X(t_1),X(t_2)\) 是两个随机变量，二维概率密度 \(f(x_1, x_2; t_1, t_2)\)

4. 随机过程 \(X(t)\) 的自相关函数，简称相关函数
   两个状态的二阶原点混合矩

$\[\begin{aligned} R_X(t_1, t_2) & = E[X(t_1)\cdot X(t_2)]\\ & = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty} x_1x_2f(x_1, x_2; t_1, t_2)\,dx_1dx_2 \end{aligned} \]$

5. 随机过程 \(X(t)\) 的自协方差函数，简称协方差函数
   两个状态的二阶中心混合矩

$\[\begin{aligned} C_X(t_1, t_2) &= \mathrm{cov}[X(t_1), X(t_2)]\\ &= E\{[X(t_1) - EX(t_1)]\cdot [X(t_2) - EX(t_2)]\}\\ &= E\{[X(t_1) - \mu_X(t_1)] \cdot[X(t_2) - \mu_X(t_2)] \} \end{aligned} \]$

• 均值、均方值、方差是刻画随即过程在各个状态的统计特性
• 相关函数和协方差函数是刻画随机过程的任何两个不同状态的统计特性

关系

$\[\Psi^2_X(t) = E[X^2(t)] = E[X(t)\cdot X(t)] = R_X(t,t) \]$

$\[\begin{aligned} C_X(t_1, t_2) & = \mathrm{cov}[X(t_1), X(t_2)]\\ & = E[X(t_1)\cdot X(t_2)] - EX(t_1)\cdot EX(t_2)\\ & = R_X(t_1, t_2) - \mu_X(t_1)\cdot \mu_X(t_2) \end{aligned} \]$

$\[\begin{aligned} \sigma^2_X(t) = D[X(t)] & = E[X(t) - EX(t)]^2\\ & = C_X(t, t)\\ & = R_X(t, t) - \mu^2_X(t)\\ & = \Psi^2_X(t) - \mu^2_X(t) \end{aligned} \]$

10.3.2 两个随机过程的数字特征

两个随机过程 $\(\{X(t), t\in T_1\}\) 和 \(\{Y(t), t \in T_2\}\)$，任选 \(t_1\in T_1, t_2\in T_2\)，对应有过程 \(X(t)\) 在 \(t_1\) 的状态 \(X(t_1)\)，过程 \(Y(t)\) 在 \(t_2\) 的状态 \(Y(t_2)\)。

1. \(X(t_1)\) 和 \(Y(t_2)\)

$\[R_{XY}(t_1, t_2) = E[X(t_1)Y(t_2)] \]$

称为随机过程 \(X(t)\) 和 \(Y(t)\) 的互相关函数

2. \(X(t_1)\) 和 \(Y(t_2)\)

$\[\begin{aligned} C_{XY}(t_1, t_2) & = \mathrm{cov}[X(t_1),Y(t_2)]\\ & = E\{[X(t_1) - \mu_X(t_1)][Y(t_2) - \mu_Y(t_2)] \} \end{aligned} \]$

称为随机过程 \(X(t)\) 和 \(Y(t)\) 的互协方差函数

且有$\[C_{XY}(t_1, t_2) = R_{XY}(t_1, t_2) - \mu_X(t_1)\mu_Y(t_2) \]$

3. 如果对任意 \(t_1\in T_1,t_2\in T_2\)，都有 \(C_{XY}(t_1, t_2)=0\)，亦即$\(E[X(t_1)Y(t_2)] = E[X(t_1)Y(t_2)]\)$，则称随机过程 \(X(t)\) 和 \(Y(t)\)
   显然，两个相互独立的随机过程必不相关