关于条件随机场的一些补充

转载

SAP虾客 2018-11-23 08:21:32

文章标签 经验分享 文章分类 代码人生

原文：机器学习：《统计学习方法》笔记（二）—— 条件随机场（CRF）

参考：概率无向图模型

1. 概率无向图的因子分解

注：有一点笔者仍然不明白，《统计学习方法》是定义P(Y)的乘积是在最大团上进行，而有材料说明乘积是在极大团上进行。

无向图中的极大团的结点个数可以是不同的，只要满足“不能再加进任何一个结点”的条件，就是极大团。

因子分解是图中所有极大团的势函数的乘积规范化后的结果。计算公式如下

$关于条件随机场的一些补充_经验分享$

$关于条件随机场的一些补充_经验分享_02$

$关于条件随机场的一些补充_经验分享_03$

关于条件随机场的一些补充_经验分享_04

针对上图，最大团有 $关于条件随机场的一些补充_经验分享_05$

联合概率分布为

$关于条件随机场的一些补充_经验分享_06$
Z为每个节点所在团块的势函数乘积的和

$关于条件随机场的一些补充_经验分享_07$

上式理解为每个节点所在所有极大团的乘积和， $关于条件随机场的一些补充_经验分享_08$ 在C1中， $关于条件随机场的一些补充_经验分享_09$ 在C2中， $关于条件随机场的一些补充_经验分享_10$ 在C1、C2、C3中， $关于条件随机场的一些补充_经验分享_11$ 在C2中， $关于条件随机场的一些补充_经验分享_12$ 在C3中。