EM 算法，全称 Expectation Maximization Algorithm。期望最大算法是一种迭代算法，用于含有隐变量（Hidden Variable）的概率参数模型的最大似然估计或极大后验概率估计。

思想

EM 算法的核心思想非常简单，分为两步：Expection-Step 和 Maximization-Step。E-Step 主要通过观察数据和现有模型来估计参数，然后用这个估计的参数值来计算上述对数似然函数的期望值；而 M-Step 是寻找似然函数最大化时对应的参数。由于算法会保证在每次迭代之后似然函数都会增加，所以函数最终会收敛。

举例

我们举两个例子来直观的感受下 EM 算法。

2.1 例子 A

第一个例子我们将引用 Nature Biotech 的 EM tutorial 文章中的例子。

2.1.1 背景

假设有两枚硬币 A 和 B，他们的随机抛掷的结果如下图所示：

EM 算法 Q 函数 em算法详细例子_迭代

我们很容易估计出两枚硬币抛出正面的概率：

现在我们加入隐变量，抹去每轮投掷的硬币标记：

Coin

Statistics

Coin *

5 H, 5 T

Coin *

9 H, 1 T

Coin *

8 H, 2 T

Coin *

4 H, 6 T

Coin *

7 H, 3 T

 和 

，代表每一轮所使用的硬币，我们需要知道每一轮抛掷所使用的硬币这样才能估计   和   的值，但是估计隐变量 Z 我们又需要知道   和 

 和  ，然后用去估计 Z， 然后基于 Z 按照最大似然概率去估计新的   和  ，循环至收敛。

2.1.2 计算

 和 

；如果是硬币 B，得出的 5 正 5 反的概率为： 。我们可以算出使用是硬币 A 和硬币 B 的概率分别为：


No

Coin A

Coin B

1

0.45

0.55

2

0.80

0.20

3

0.73

0.27

4

0.35

0.65

5

0.65

0.35

从期望的角度来看，对于第一轮抛掷，使用硬币 A 的概率是 0.45，使用硬币 B 的概率是 0.55。同理其他轮。这一步我们实际上是估计出了 Z 的概率分布，这部就是 E-Step。

结合硬币 A 的概率和上一张投掷结果，我们利用期望可以求出硬币 A 和硬币 B 的贡献。以第二轮硬币 A 为例子，计算方式为：

于是我们可以得到：

No

Coin A

Coin B

1

2.2 H, 2.2 T

2.8 H, 2.8 T

2

7.2 H, 0.8 T

1.8 H, 0.2 T

3

5.9 H, 1.5 T

2.1 H, 0.5 T

4

1.4 H, 2.1 T

2.6 H, 3.9 T

5

4.5 H, 1.9 T

2.5 H, 1.1 T

total

21.3 H, 8.6 T

11.7 H, 8.4 T

 和  。

这步就对应了 M-Step，重新估计出了期望值。

如此反复迭代，我们就可以算出最终的参数值。

上述讲解对应下图：

EM 算法 Q 函数 em算法详细例子_似然函数_02

2.2 例子 B

如果说例子 A 需要计算你可能没那么直观，那就举更一个简单的例子：

，女生的身高则服从另一个正态分布：

但现在我们让情况复杂一点，就是这 50 个男生和 50 个女生混在一起了。我们拥有 100 个人的身高数据，却不知道这 100 个人每一个是男生还是女生。

这时候情况就有点尴尬，因为通常来说，我们只有知道了精确的男女身高的正态分布参数我们才能知道每一个人更有可能是男生还是女生。但从另一方面去考量，我们只有知道了每个人是男生还是女生才能尽可能准确地估计男女各自身高的正态分布的参数。

这个时候有人就想到我们必须从某一点开始，并用迭代的办法去解决这个问题：我们先设定男生身高和女生身高分布的几个参数（初始值），然后根据这些参数去判断每一个样本（人）是男生还是女生，之后根据标注后的样本再反过来重新估计参数。之后再多次重复这个过程，直至稳定。这个算法也就是 EM 算法。

推导

第一步是对极大似然函数取对数，第二步是对每个样本的每个可能的类别 z 求联合概率分布之和。如果这个 z 是已知的数，那么使用极大似然法会很容易。但如果 z 是隐变量，我们就需要用 EM 算法来求。

事实上，隐变量估计问题也可以通过梯度下降等优化算法，但事实由于求和项将随着隐变量的数目以指数级上升，会给梯度计算带来麻烦；而 EM 算法则可看作一种非梯度优化方法。

 表示样本 i 隐含变量 z 的某种分布，且   满足条件（ ）。

我们将上面的式子做以下变化：

，转换到第二步。从第二步到第三步是利用 Jensen 不等式。

我们来简单证明下：

 是凹函数，X 是随机变量，则  ，当   严格是凹函数是，则  ，凸函数反之。当 

 函数看成一个整体，由于   的二阶导数小于 0，所以原函数为凹函数。我们把   看成一个概率  ，把   看成 z 的函数  。根据期望公式有：

根据 Jensen 不等式的性质：

证明结束。

 的形式（z 为隐变量），那么我们就可以通过不断最大化   的下界来使得 

EM 算法 Q 函数 em算法详细例子_EM 算法 Q 函数_03

这张图的意思就是：首先我们固定  ，调整  ，调整  ），然后再固定  ，调整  ，一直到收敛到似然函数  。

也就是说，EM 算法通过引入隐含变量，使用 MLE（极大似然估计）进行迭代求解参数。通常引入隐含变量后会有两个参数，EM 算法首先会固定其中的第一个参数，然后使用 MLE 计算第二个变量值；接着通过固定第二个变量，再使用 MLE 估测第一个变量值，依次迭代，直至收敛到局部最优解。

但是这里有两个问题：

  1. 什么时候下界   相等？
  2. 为什么一定会收敛？

做个变换：

因此得到了：

 的计算公式就是后验概率，同时解决了   如何选择的问题。这就是我们刚刚说的 EM 算法中的 E-Step，目的是建立   的下界。接下来得到 M-Step 目的是在给定   后调整   ，从而极大化似然函数   的下界 

对于第二个问题，为什么一定会收敛？

但是要注意，迭代一定会收敛，但不一定会收敛到真实的参数值，因为可能会陷入局部最优。所以 EM 算法的结果很受初始值的影响。

另一种理解

坐标上升法（Coordinate ascent）：

EM 算法 Q 函数 em算法详细例子_迭代_04

途中直线为迭代优化路径，因为每次只优化一个变量，所以可以看到它没走一步都是平行与坐标轴的。

EM 算法类似于坐标上升法，E 步：固定参数，优化 Q；M 步：固定 Q，优化参数。交替将极值推向最大。

应用

在高斯混合模型和 K-means 中有很大的用处。

参考

[1]《机器学习》周志华 

[2] https://www.zhihu.com/question/27976634 

[3]  Do, C. B., & Batzoglou, S. (2008). What is the expectation maximization algorithm?. Nature biotechnology, 26(8), 897.