HMM隐马尔可夫模型

隐马尔可夫模型

文章目录

• 隐马尔可夫模型

• 定义
• HMM模型的应用
• Problem 1

• 直接计算
• 前向计算
• 后向计算

• Problem 2

定义

隐马尔科夫模型(Hidden Markov Model, HMM)是建模序列数据的图模型

在HMM模型存在隐藏状态$\{\dots,x(t-1),x(t),x(t+1),\dots\}$，以及观测状态$\{\dots,y(t-1),y(t),y(t+1),\dots\}$

设$Q$为所有隐藏状态的集合，$V$为所有观测状态的集合，即
$Q=\{q_1,q_2,\ldots,q_N\},V=\{v_1,v_2,\ldots v_M\}$
设存在长度为$T$的序列，其中$I$对应的状态序列，$Q$是对应的观察序列
$I=\{i_1,i_2,\ldots,i_T\},O=\{o_1,o_2,\ldots o_T\}\quad i_t\in Q,o_t\in V$
其中HMM满足齐次马尔科夫链假设，即即任意时刻的隐藏状态只依赖于它前一个隐藏状态，一般来说, 给定状态$q_t$，对于时刻$s<t$ 和$t<u$， 则$q_s$与$q_u$相互独立。同时满足观测独立性假设。即任意时刻的观察状态只仅仅依赖于当前时刻的隐藏状态，即给定状态$q_t$，对于输出状态$v_s$与$v_u$也相互独立

定义在$t$时刻隐藏状态为$i_t=q_i$到$t+1$时刻隐藏状态为$i_{t+1}=q_j$的转移概率为$a_{ij}$，即
$a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$
同时$a_{ij}$可以组成马尔科夫链的状态转移矩阵$A$
$A=\begin{bmatrix}a_{ij}\end{bmatrix}_{N\times N}$
定义在$t$时刻隐藏状态为$i_t=q_j$观测到$o_{t+1}=v_k$的概率为$b_j(k)$，即
$b_j(k)=P(o_t=v_k|i_t=q_j)$
同时$b_j(k)$可以组成马尔科夫链的观测概率矩阵$B$
$B=\left[b_j(k)\right]_{N\times M}$
并定义在$t=1$时刻的隐藏状态概率分布$\Pi$
$\Pi=\left[\pi(i)\right]_N\text{其中 }\pi(i)=P(i_1=q_i)$
可知一个HMM模型可以由隐藏状态初始概率分布 $\Pi$ , 状态转移概率矩阵 $A$ 和观测状态概率矩阵 $B$ 决定。$\Pi,A$ 决定状态序列，$B$ 决定观测序列。因此，HMM模型可以由一个三元组$\lambda$表示如下： $\lambda=(A,B,\Pi)$

HMM模型的应用

其中HMM主要设计到三个经典问题

problem 1： 在给定HMM模型$\lambda=(A,B,\Pi)$的的情况下，预测$O=\{o_1,o_2,\ldots o_T\}$出现的概率

problem 2： 在给定HMM模型$\lambda=(A,B,\Pi)$与观测状态$O=\{o_1,o_2,\ldots o_T\}$的情况下，预测相应的隐状态

problem 3：

Problem 1

直接计算

当给定模型HMM模型$\lambda=(A,B,\Pi)$和观测序列$O=\{o_1,o_2,\ldots o_T\}$，求观测序列$O$在HMM中出现的概率$P(O|\lambda)$

计算$I=\{i_1,i_2,\ldots,i_T\}$出现的概率
$P(I|\lambda)=\pi_{i_1}a_{i_1i_2}a_{i_2i_3}\cdots a_{i_{T-1}i_T}$
其中观测序列$O=\{o_1,o_2,\ldots o_T\}$在$I=\{i_1,i_2,\ldots,i_T\}$情况下出现的概率
$P(O|I,\lambda)=b_{i_1}(o_1)b_{i_2}(o_2).\ldots b_{i_T}(o_T)$
根据联合概率公式可得
$P(O,I|\lambda)=P(I|\lambda)P(O|I,\lambda)=\pi_{i_1}b_{i_1}(o_1)a_{i_1i_2}b_{i_2}(o_2)\ldots a_{i_{T-1}i_T}b_{i_T}(o_T)$
然后计算边缘概率
$P(O|\lambda)=\sum_{I}P(O,I|\lambda)=\sum_{i_1,i_2,..,i_T}\pi_{i_1}b_{i_1}(o_1)a_{i_1,i_2}b_{i_2}(o_2)\ldots a_{i_{T-1} i_T}b_{i_T}(o_T)$
虽然直接计算方法有效，但是如果隐藏状态数$N$ 非常多，此时预测状态有$N^T$ 种组合，算法的时间复杂度是 $O(TN^T)$

前向计算

前向概率：时刻$t$部分观测序列为$O=\{o_1,o_2,\ldots o_t\}$ ，且隐藏状态为$q_i$的概率为
$\alpha_{t}(i)=P(o_{1},o_{2},\ldots o_{t},i_{t}=q_{i}|\lambda)$
可得时刻$t$部分观测序列为$O=\{o_1,o_2,\ldots o_t\}$ ，隐藏状态为$q_j$且$t+1$时刻隐藏状态为$q_i$的概率为$\alpha_{t}(j)a_{ji}$，可推出时刻$t$部分观测序列为$O=\{o_1,o_2,\ldots o_t\}$ ，且$t+1$时刻隐藏状态为$q_i$的概率为$\sum_{j=1}^{N}\alpha_{t}(j)a_{ji}$，若$t+1$时刻的观测状态为$o_{t+1}$，则可以得到$t+1$时刻观测序列为$O=\{o_1,o_2,\ldots o_{t+1}\}$且$t+1$时刻隐藏状态为$q_i$的概率为：
$\alpha_{t+1}\left(i\right)=\left[\sum_{j=1}^{N}\alpha_{t}(j)a_{ji}\right]b_{i}\left(o_{t+1}\right.)$
由此得到了从前向概率的递推表达式

算法描述

输入：HMM模型$\lambda=(A,B,\Pi)$ ,观测序列$O=(o_1,o_2,\ldots o_T)$
输出：观测序列概率 $P(O|\lambda)$。

1. 初值

$\begin{aligned}\alpha_1(i)=\pi_ib_i(o_1),\quad i=1,2,\cdots,N\end{aligned}$

2. 递推 对$t=1,2,\cdots,T-1$

$\alpha_{t+1}\left(i\right)=\left[\sum_{j=1}^{N}\alpha_{t}(j)a_{ji}\right]b_{i}\left(o_{t+1}\right.),\quad i=1,2,\dots,N$

3. 终止

$P(O|\lambda)=\sum_{i=1}^N\alpha_T(i)$

算法时间复杂度是$O(TN^2)$

后向计算

后向概率：时刻$t+1$到最后时刻$T$的部分观测序列为$\{o_{t+1},o_{t+2},\ldots o_T\}$ ，且时刻$t$的隐藏状态为$q_i$的概率为
$\beta_{t}(i)=P(o_{t+1},o_{t+2},\ldots o_T|i_{t}=q_{i},\lambda)$
可得$t+2$到最后时刻$T$观测状态为$\{o_{t+2},o_{t+3},\ldots{o}_T\}$，$t$时刻隐藏状态为$q_i$，$t+1$时刻隐藏状态为$q_j$的概率为$a_{ij}\beta_{t+1}(j)$，当$t+1$时刻观测到的状态$o_{t+1}$，此时概率为$a_{ij}b_j(o_{t+1})\beta_{t+1}(j)$，可得时刻$t$到最后时刻$T$的部分观测序列为$\{o_{t+1},o_{t+2},\ldots o_T\}$ ，且时刻$t$的隐藏状态为$q_i$的概率为
$\sum_{j=1}^Na_{ij}b_j(o_{t+1})\beta_{t+1}(j)$
算法描述

输入：HMM模型$\lambda=(A,B,\Pi)$ ,观测序列$O=(o_1,o_2,\ldots o_T)$
输出：观测序列概率$P(O|\lambda)$

1. 初始化时刻$T$的各个隐藏状态后向概率：

$\beta_T(i)=1,\:i=1,2,\ldots N$

2. 递推时刻$T-1,T-2,\ldots1$

$\beta_t(i)=\sum_{j=1}^Na_{ij}b_j(o_{t+1})\beta_{t+1}(j),\:i=1,2,\ldots N$

3. 计算最终结果：

$P(O|\lambda)=\sum_{i=1}^N\pi_ib_i(o_1)\beta_1(i)$

算法时间复杂度是$O(TN^2)$

Problem 2

在给定HMM模型$\lambda=(A,B,\Pi)$与观测状态$O=\{o_1,o_2,\ldots o_T\}$的情况下，预测相应的隐状态

这里主要采用Viterbi算法

设在$t$时刻观测序列为$O=\{o_1,o_2,\ldots o_t\}$，隐状态为$i_t$，其中隐状态集合为$I=\{i_1,i_2,\ldots,i_T\}$

设在时刻$t$隐藏状态为$i$在观测序列为$O=\{o_1,o_2,\ldots o_t\}$且所有可能的状态转移路径$i_1,i_2,\ldots i_t$ 中的概率最大值为$\delta_{t}(i)$
$\delta_{t}(i)=\max_{i_{1},i_{2},\ldots i_{t-1}}P(i_{t}=i,i_{1},i_{2},\ldots i_{t-1},o_1,o_2,\ldots o_t|\lambda),i=1,2,\ldots N$
此时可以推导出$t+1$时刻
$\delta_{t+1}(i)=\max_{j}\delta_{t}(j)a_{ji}b_i(o_{t+1})$
为了能够回溯，定义在时刻$t$隐藏状态为$i$（其中$i$为所有可能的状态转移路径$i_1,i_2,\ldots i_t$ 中的概率最大的）从时刻$t-1$隐藏状态为$\Psi_t(i)$，则存在
$\Psi_t(i)=\arg \max_j \delta_{t-1}(j)a_{ji}b_i(o_{t})$
因为在$t$时刻的观测状态$o_t$确定所以$b_i(o_{t})$确定，于是存在
$\Psi_t(i)=\arg \max_j \delta_{t-1}(j)a_{ji}b_i(o_{t})=\arg \max_j \delta_{t-1}(j)a_{ji}$
算法描述

输入：HMM模型$\lambda=(A,B,\Pi)$ ,观测序列$O=(o_1,o_2,\ldots o_T)$

输出：最有可能的隐藏状态序列$I^*=\{i_1^*,i_2^*,\ldots i_T^*\}$

1. 初始化

$\begin{gathered}\delta_1(i)=\pi_ib_i(o_1),i=1,2...N\\\\\Psi_1(i)=0,i=1,2...N\end{gathered}$

2. 递推 对$t=2,\cdots,T-1,T$

$\begin{gathered} \delta_{t}(i)=\max_j\left[\delta_{t-1}(j)a_{ji}\right]b_{i}(0_{t}),i=1,2...N \\ \Psi_t(i)=\arg\max_j~[\delta_{t-1}(j)a_{ji}],~i=1,2...N \end{gathered}$

3. 计算$T$时刻最大的$\delta_{t}(i)$即为隐藏状态出现最大的概率，$\Psi_t(i)$为$T$时刻最有可能出现的隐藏状态

$\begin{aligned}P*&=\max_{1\leq j\leq N}\delta_T(i)\\\\i_T^*&=arg\max_{1\leq j\leq N}[\delta_T(i)]\end{aligned}$

4. 利用$\Psi_t(i)$进行回溯得到最有可能的隐藏状态序列

$i_{t}^{*}=\Psi_{t+1}\left(i_{t+1}^{*}\right.)$

最有可能的隐藏状态序列$I^*=\{i_1^*,i_2^*,\ldots i_T^*\}$