EM算法

EM算法

EM算法要解决的问题

EM算法，机器学习经典算法。

期望最大化的算法。

通过观察每一个样本，的分布，猜测什么样的参数最符合分布的规则。这就是极大似然估计要做的事。

求解出参数，使参数组成的模型最符合样本的分布规则。就是根据样本反推参数。

什么样的u，σ让分布使恰好抽出这100名学生的概率越大。

 

如何理解概率论中的独立同分布?请分别解释独立、同分布及独立同分布？

 

 

 

 

隐变量问题

 

♂，♀的μ，σ不一样。

现实生活中这类问题很多，而且不一定是两类，可能是多类，混到一起组成了数据。如何找到这些类及其隐变量（如：♂，♀）就有研究价值了。

 EM算法的求解目标就是这个。

要求解Z在0，1两种情况下的结果。

两种情况，求和相加等于1。

EM算法怎么做的？

 

 

EM算法求解实例

 

 

Jensen不等式

 

 

 

 

 

 

GMM模型

 

机器学习实际操作并不难，难在为什么这么做的理论推导。

 

说实话，没听懂????(((φ(◎ロ◎;)φ)))