1.GMMGMM在语音识别的有大的作用。全名叫高斯混合分布，通俗的理解是多个高斯分布模型构成的。GMM为后面的HMM提供了一个概率分布，将不完全数据的边缘分布转换为完全数据的联合分布。单独的高斯模型有两个重要参数，一个是均值，另一个就是协方差矩阵。pi为各个高斯模型在混合模型的权重。我们设置观测变量为x，隐藏变量为z，在语言识别中，观测变量就是通过MFCC提取的每一帧的音频信号的特征，隐藏变量就是
1.GMM(guassian mixture model) 混合高斯模型，顾名思义，就是用多个带有权重的高斯密度函数来描述数据的分布情况。理论上来说，高斯分量越多，极值点越多，混合高斯密度函数可以逼近任意概率密度函数，刻画模型越精确，需要的训练数据也就越多。2.GMM模型初始化： 即模型参数的初始化，一般采用kmeans或者LBG算法。模型初始化值对模型后期的收敛有极大影响，特别是训练模型的数
转载
2023-07-03 17:44:14
628阅读
逻辑回归原理详解逻辑回归主要用于解决分类问题，并且是对于概率的分类，例如今天是雨天还是晴天，是雨天就是0概率，是晴天就是1概率。通常我们预测出的情况是今天是晴天的概率值。谈及逻辑回归的原理，需要先从广义线性回归（GLM）讲起：广义线性回归（GLM）广义线性回归满足以下的三个条件：对于参数，y|x满足指数族分布,为充分统计量，对于预测值指数族分布被称为自然参数被称为充分统计量，常用的是被称为对割函数
转载
2024-06-12 21:29:52
197阅读
算法逻辑在这里： 贴之前先说下，本来呢是打算自己写一个的，在matlab 上，不过，实在是写不出来那么高效和健壮的，网上有很多实现的代码，例如上面参考里面的，那个代码明显有问题阿，然后因为那里面的代码与逻辑分析是一致的，那在其基础上修改看看，结果发现代码健壮性实在太差了，我的数据集是 70-by-2000 的矩阵，70个样本2000维，结果协方差的逆根本算不出来，全部是i
——————1 GMM基础高斯混合模型（GMM）指的是多个高斯分布函数的线性组合，理论上GMM可以拟合出任意类型的分布，通常用于解决同一集合下的数据包含多个不同的分布的情况。灵魂的拷问：为什么GMM可以拟合出任意类型的分布？AI大语音：不仅GMM可以，只要性质不太奇怪的混合模型一般都能近似任意分布。这个思想和泰勒展开、傅里叶变换是类似的，任何波形都可以用正弦波叠加表示，而且频率还是基频
转载
2024-04-29 12:32:23
107阅读
概率论和数理统计是一对兄弟：概率论负责在已知分布函数的情况下研究样本；数理统计负责在已知样本的情况下，反推分布函数的特性。假设我们获取了样本数据，同时知道分布函数的大概形式，只是不知道分布函数的参数，那么可以使用数理统计中的点估计方法来估计分布函数的参数。点估计包括矩估计和极大似然估计。极大似然估计是很重要的点估计方法。 GMM模型即高斯混合模型，根据大数定律，在日常生活中，很多概率事件
转载
2024-03-15 14:47:52
83阅读
写在前面这几天看的深度聚类文章也不少了，在这里重点总结一下聚类的原理1. 基础知识1.1 GMM高斯混合模型1.1.1 GMM概要GMM算是比较基础的传统聚类模型，模型优化的方法是EM算法。GMM假设数据的分布是由多个高斯分布混合而成，我们要做的就是解出GMM模型的参数，包括每个component的均值和方差还有各个高斯分布的权重。为了求解GMM，我们引入了隐变量，并假设数据的生成过程是： (1)
转载
2024-08-22 15:08:09
138阅读
对于glm模型summary()输出的汇总结果，如何解读是非常重要的，它直接影响得出的结论。
例如下面这样一个输出结果，该如何理解呢？
Call:
glm(formula = bl ~ I, family = gaussian,data = anaData)
Deviance Residuals:
Min 1Q Median
转载
2024-07-06 10:09:45
306阅读
高斯混合模型GMM是一个非常基础并且应用很广的模型。对于它的透彻理解非常重要。网上的关于GMM的大多资料介绍都是大段公式，而且符号表述不太清楚，或者文笔非常生硬。本文尝试用通俗的语言全面介绍一下GMM，不足之处还望各位指正。首先给出GMM的定义这里引用李航老师《统计学习方法》上的定义，如下图：定义很好理解，高斯混合模型是一种混合模型，混合的基本分布是高
转载
2024-05-11 15:35:41
63阅读
关于GMM模型的资料和 EM 参数估算的资料，网上已经有很多了，今天想谈的是GMM的协方差矩阵的分析、GMM的参数更新方法1、GMM协方差矩阵的物理含义涉及到每个元素，是这样求算：用中文来描述就是：注意后面的那个除以（样本数-1），就是大括号外面的E求期望 （这叫无偏估计）上面公式也提到了，协方差本质上是就是很多向量之间的内积，内积的定义如下： &n
转载
2024-06-27 21:39:16
73阅读
摘要 本文通过opencv来实现一种前景检测算法——GMM，算法采用的思想来自论文[1][2][4]。在进行前景检测前，先对背景进行训练，对图像中每个背景采用一个混合高斯模型进行模拟，每个背景的混合高斯的个数可以自适应。然后在测试阶段，对新来的像素进行GMM匹配，如果该像素值能够匹配其中一个高斯，则认为是背景，否则认为是前景。由于整个过程GMM模型在不断更新学习中，所以对动态背景有一
转载
2024-04-16 21:57:56
119阅读
1.查看数据查看数据类型import pandas as pd
data = pd.read_csv ('Fremont.csv', index_col='Date', parse_dates=True)
data.head()
data.tail()绘图data.plot();数据重采样，按天进行计算data.resample('D').sum().head()数据重采样，按周进行计算，看看这两
转载
2024-06-17 21:45:05
656阅读
EM最大期望算法（Expectation-maximization algorithm，又译为期望最大化算法），是在概率模型中寻找参数最大似然估计或者最大后验估计的算法，其中概率模型依赖于无法观测的隐性变量。最大期望算法经过两个步骤交替进行计算：第一步是计算期望（E），利用对隐藏变量的现有估计值，计算其最大似然估计值；第二步是最大化（M），最大化在E步上求得的最大似然值来计算参数的值。M步上找到的
文章目录1. R中的动态回归模型（Dynamic Regression Models）2. 动态谐波回归（Dynamic Harmonic Regression）3. 软件实现3.1 动态回归3.2 动态谐波回归4.为啥叫“谐波”？5.参考资料 ——整理的动态谐波回归的一些资料，可能有片面的，仅供参考1. R中的动态回归模型（Dynamic Regression Models）对一个时间序列{y
转载
2024-08-11 10:45:29
160阅读
GMM理解： 用高斯混合模型（GMM）的最大期望（EM）聚类 使用高斯混合模型（GMM）做聚类首先假设数据点是呈高斯分布的，相对应K-Means假设数据点是圆形的，高斯分布（椭圆形）给出了更多的可能性。我们有两个参数来描述簇的形状：均值和标准差。所以这些簇可以采取任何形状的椭圆形，因为在x，y方向上都有标准差。因此，每个高斯分布被分配给单个簇。 所以要做聚类首先应该找到数据集的均值和标准差，我们将
转载
2024-08-24 20:54:32
47阅读
极大似然估计我们先从极大似然估计说起，来考虑这样的一个问题，在给定的一组样本x1,x2······xn中，已知它们来自于高斯分布N(u, σ)，那么我们来试试估计参数u，σ。首先，对于参数估计的方法主要有矩估计和极大似然估计，我们采用极大似然估计，高斯分布的概率密度函数如下：我们可以将x1，x2，······，xn带入上述式子，得： 接下来，我们对L(x)两边去对数，得到：于是，我们得到
GMP模型GMP模型的演进过程1）GM模型在Go1.0版本是Go的调度方式为GM模式，但是其有几个严重不足：限制了Go并发编程的的伸缩性 单一全局互斥锁和集中状态存储的存在导致所有goroutine相关操作都要上锁 goroutine的传递问题：经常在M之间传递“可运行”的goroutine回导致调度延迟增大，带来额外的性能损耗 每个M都做内存缓存，导致内存占用过高，数据局部性较差。 因系统调用而
2019.12.30-2020.01.05小结本周学习了《统计学习导论》的第三章，完成实验及部分习题。知识梳理区别于上周所学习的内容，第三章详细介绍了线性回归这一方法，概念变得更多，我自己看书的时候公式太多导致感觉有些混乱，在这里正好重新梳理一下。线性回归是一种有效并得到广泛应用的统计学习方法，许多方法都可以看做是线性回归的推广和扩展。首先是简单线性回归，简单线性回归是一种非常简单的根据单一预测变
在该博客中，我们提到了贾佳亚老师团队利用GMM实现颜色迁移的一个工作[1]。后来我详细的学习了该工作，发现还是有很多细节是值得深入研究的。因此，我在学习该工作的基础上，决定撰写这篇博客，分享一些学习心得，以帮助那些希望学习GMM模型的同学深入理解其算法机制。1. 简介我们在之前的博客中已经介绍过了一些主流的图像颜色迁移方法。这些方法一般通过计算全局颜色分布对应或者语义分析对应，来构建颜色迁移策略。
动机： GMM是用来拟合某种分布的。哪种？任意一种！当然，前提是参数足够多的情况下，所以实作其实并非拟合任意模型。那么一般什么样的模型会被GMM较好拟合？首先，我们思考一下一维的高斯分布（即正态分布），然后我们思考一下二维的，三维的……会发现，高斯分布在二维类似椭圆，三维类似椭球，而这也是我理解它为什么说可以拟合任意分布的原因。因为椭圆（我们从二维来说），其实就是实轴（a）和虚轴（b
转载
2024-09-03 12:46:31
36阅读
