马尔可夫链算法我们第二个例子是马尔可夫链算法的实现，我们的程序以前 n(n=2)个单词串为基础随机产生一个文本串。程序的第一部分读出原文，并且对没两个单词的前缀建立一个表，这个表给出了具有那些前缀的单词的一个顺序。建表完成后，这个程序利用这张表生成一个随机的文本。在此文本中，每个单词都跟随着它的的前两个单词，这两个单词在文本中有相同的概率。这样，我们就产生了一个非常随机，但并不完全随机的文本。例如
学习了李航的《统计学习方法》中隐马尔可夫模型(Hidden Markov Model, HMM)，这里把自己对HMM的理解进行总结(大部分是书本原文，O(∩_∩)O哈哈~，主要是想利用python将其实现一遍，这样印象深刻一点儿)，并利用python将书本上的例子运行一遍。HMM是可用于标注问题的统计学习模型，描述由隐藏的马尔科夫链随机生成观测序列的过程，属于生成模型。HMM在语音识别
转载
2023-07-24 16:08:37
123阅读
预测算法还记得隐马尔可夫模型的三个问题吗？本篇介绍第三个问题：预测问题，即给定模型参数和观测序列，求最有可能的状态序列，有如下两种算法。近似算法在每个时刻t选出当前最有可能的状态 it，从而得到一个状态序列。给定隐马尔可夫模型参数 λ 和长度为T的观测序列O，在时刻 t 处于状态qi的概率为 (1)其中使用了前向算法和后向算法，于是最有可能的状态的下表 i 为
转载
2023-11-14 15:49:03
65阅读
问答总结学习问题分为哪两种，它们的条件是怎样的？在有监督的学习问题中，如何估计参数？在无监督的学习问题中，我们采用EM算法求解模型。EM算法的函数是什么？解决无监督学习问题的算法是什么? 文章目录一、目标二、监督学习方法三、无监督学习方法1、学习方法—EM2、EM方法步骤3、Baum-Welch算法参考资料 一、目标前文中说过，隐马尔可夫模型的学习问题是指:已知观测序列, 估计模型.使得在该模型下
转载
2024-02-02 09:02:34
134阅读
隐马尔可夫模型，看上去，和序列标注问题是天然适配的，所以自然而然的，早期很多做命名实体识别和词性标注的算法，都采用了这个模型。这篇文章我将基于码农场的这篇文章《层叠HMM-Viterbi角色标注模型下的机构名识别》，来做解读。但原文中的这个算法实现是融入在HanLP里面的。不过他也有相应的训练词典，所以我在这篇文章里面也给出一个python实现，做一个简单的单层HMM模型，来识别机构名。代码地址：
转载
2024-04-01 16:05:30
35阅读
隐马尔可夫模型(HMM)很多机器学习模型都有一个共同的假设：数据与数据之间是相互独立的，模型只关注当前数据的自变量与因变量之间的关系。 但是在现实生活中，会发现数据间的顺序对数据产生是有影响的。在学术上，具有这种特性的数据被称为序列数据。隐马尔可夫模型(HMM) 则可以很好地观测这类数据，它是关于时序的概率模型，用有向图表示。应用场景：在语音识别，词性自动标注，音字转换，概率文法等各个自然语言处理
转载
2023-08-28 16:36:28
105阅读
隐马尔可夫模型在语音识别，手语识别，自然语言处理等方面有着重要的应用。前向法的作用是求出某个观测序列在某个特定的隐马尔可夫模型中出现的概率。关于隐马尔可夫模型以及前向法的应用维基百科上讲得十分详细，如果您对此不太了解，又对此比较感兴趣的话，非常推荐您进行阅读：其中，前向法给出的推导过程可能稍稍有点简略，如果您对其详细推导的过程感兴趣的话，不妨看看下面的内容：一、模型描述在本次推导中，隐马尔可夫模型
转载
2023-12-10 16:50:28
57阅读
学习算法训练数据集为观测序列，此外还可能有对应的状态序列（比如人工标注），如果包含了对应的状态序列则为监督学习，否则称非监督学习。监督学习设训练数据集包含S个长度相同的观测序列和对应的状态序列{(O1,I1), (O2,I2), ... , (Os,Is)}，那么可用极大似然估计法来估计隐马尔可夫模型的参数λ=(A,B,π)注：这里暂不清楚为什么要观测序列长度相同，实际上不太可能做到观测序列的长度
转载
2024-08-06 11:50:36
57阅读
隐马尔可夫模型（Hidden Markov Model，HMM）是含有隐藏状态的马尔可夫过程的模型。隐马尔可夫模型有两种变量，不可观察到的状态和可观察到的观测。隐马尔可夫模型有两个基本假设：齐次马尔可夫性假设，即假设隐藏的马尔科夫链在任意时刻t的状态只依赖于其前一时刻的状态，与其他时刻的状态及观测无关观测独立性假设，即假设任意时刻的观测只依赖于该时刻的马尔可夫链的状态，与其他观测及状态无关.下面就
目前的博客还是侧重于数学公式，方便自己复习，等忙过秋招就尽量做到雅俗共赏~~1 HMM定义隐马尔可夫模型是什么？有什么作用？数学公式是什么？隐马尔可夫模型是一种时序（时间上的联系）的概率模型，用在词性标注，记住一个东西，例子+图。例子就是，通过可看见的推测不可看见的，比如医生问诊，根据你身体状况（可以观察的到的，外在表现）来判断疾病。韩梅梅医生不仅要看你目前的身体状况，还会问你昨天的身体状况，也就
转载
2024-01-11 22:52:48
62阅读
NLP-统计分词 隐马尔可夫模型介绍一、隐马尔可夫模型二、隐马尔可夫模型定义三、举例1.初始条件2.规则3.观测4.HMM模型5.观测序列的生成四、HMM模型的三个基本问题1.评估观察序列概率2.模型参数学习问题3.预测问题，也称为解码问题（分词关系的问题） 一、隐马尔可夫模型隐马尔科夫模型（Hidden Markov Model，以下简称HMM）是比较经典的机器学习模型了，它在语言识别，自然语
转载
2024-05-20 13:43:47
64阅读
使用隐马尔科夫模型生成数据
隐马尔科夫模型是一个强大的分析时间序列数据的分析工具。
假定被建模的系统是带有隐藏状态的马尔可夫过程，这意味着底层系统可以是一组可能的状态之一,系统经历一系列的状态转换，从而产生一系列输出。我们仅能观察输出，而无法观测状态，因为这些状态被隐藏了。我们的目标是对这些数据建模，以便我们能推断未知数据的状态转换。
转载
2023-12-12 15:56:55
53阅读
隐马尔科夫模型将会从以下几个方面进行叙述：1 隐马尔科夫模型的概率计算法 2 隐马尔科夫模型的学习算法 3 隐马尔科夫模型的预测算法 隐马尔科夫模型其实有很多重要的应用比如说：语音识别、自然语言处理、生物信息、模式识别等等 同样先说一下什么是马尔科夫，这个名字感觉就像高斯一样，无时无刻的在你的生活中，这里给出马尔科夫链的相关解释供参考：马尔可夫链是满足马尔可夫性
转载
2024-01-24 10:41:18
15阅读
了解HMM模型1.隐马尔可夫模型的定义隐马尔可夫模型是关于时序的概率模型，该模型是由隐藏的马尔可夫链生成不可观测的状态序列，再由各个状态序列生成一个观测序列的过程。（1）状态序列，I。隐藏的马尔可夫链随机生成的状态序列。（2）观测序列，O。由各个状态生成的观测序列。2.隐马尔可夫模型的三要素（1）初始状态概率向量，π。（2）状态转移矩阵，A。（3）观测概率矩阵，B。3.隐马尔可夫的三个
转载
2023-10-04 21:14:03
40阅读
先介绍一下马尔科夫模型：马尔可夫模型（Markov Model）是一种统计模型，广泛应用在语音识别，词性自动标注，音字转换，概率文法等各个自然语言处理等应用领域。经过长期发展，尤其是在语音识别中的成功应用，使它成为一种通用的统计工具。特征：有限视野、时间不变性隐性马尔可夫模型：HMM(Hidden Markov Model), 也称隐性马尔可夫模型，是一个概率模型，用来描述一个系统隐性状态的转移和
转载
2023-07-28 16:37:01
99阅读
简介 马尔可夫模型（Markov Model)描述了一类随机变量随时间而变化的随机函数。考察一个状
原创
2022-08-20 22:42:15
417阅读
理解隐马尔可夫模型：从罐子问题说起
隐马尔可夫模型（Hidden Markov Model, HMM）是一种经典的统计模型，常用于处理时序数据，如语音识别、自然语言处理和生物信息学等领域。通过一个简单的罐子问题，可以直观地理解HMM的核心思想。
罐子问题的场景
假设有一个房间，里面有3个罐子（$X_1, X_2, X_3$），每个罐子装有4种不同标签的球（$y_1, y_2, y_3, y_4$）
隐马尔可夫模型 核心结构 状态序列(隐型，不可见) I 观测序列 O 初始概率分布 pi 状态转移概率分布 A 观测概率分布 B 假设有三个骰子，分别是四面、六面、八面。现在每次随机选择一枚骰子投掷，进行十次，得到的一串数字即为观测序列，对应的每次选择的骰子为状态序列。 因为是随机选，所以三个骰子被 ...
转载
2021-09-05 10:40:00
200阅读
2评论
百科 马尔科夫模型 隐马尔科夫模型 隐马尔可夫模型 (Hidden Markov Model，HMM) 最初由 L. E. Baum 和其它一些学者发表在一系
原创
2023-07-24 17:39:54
31阅读
本文是《统计学习方法》第10章的笔记，用一段167行的Python代码实现了隐马模型观测序列的生成、前向后向算法、Baum-Welch无监督训练、维特比算法。公式与代码相互对照，循序渐进。HMM算是个特别常见的模型，早在我没有挖ML这个坑的时候，就已经在用HMM做基于字符序列标注的分词和词性标注了，甚至照葫芦画瓢实现了一个2阶的HMM分词器。但我的理解仅仅停留在“前向算法”“Viterbi”等层次
转载
2022-12-29 13:03:50
323阅读
