EM算法有很多的应用:最广泛的就是GMM混合高斯模型、聚类、HMM等等.The EM Algorithm高斯混合模型（Mixtures of Gaussians）和EM算法EM算法求最大似然函数估计值的一般步骤：（1）写出似然函数；（2）对似然函数取对数，并整理；（3）求导数，令导数为0，得到似然方程；（4）解似然方程，得到的参数即为所求.期望最大化算法（EM算法）:优点：1、 简单稳定；2、 通
转载
2023-10-08 20:58:48
147阅读
GMM及EM算法标签（空格分隔）： 机器学习前言：EM(Exception Maximizition) -- 期望最大化算法，用于含有隐变量的概率模型参数的极大似然估计；GMM(Gaussian Mixture Model) -- 高斯混合模型，是一种多个高斯分布混合在一起的模型，主要应用EM算法估计其参数；本篇博客首先从简单的k-means算法给出EM算法的迭代形式，然后用GMM的求解过程给出E
转载
2024-01-02 20:27:41
0阅读
作为机器学习的十大算法之一，EM算法可谓是风头出尽，尤其是EM算法在聚类等方面的优越表现，让EM算法备受瞩目，这个星期对EM算法进行了一番了解，说实话EM算法光从教科书上的那些公式说导我觉得很难理解，在七月算法的一节关于EM算法的公开课上慢慢的对EM算法有了算是入门的了解，今天就来说说EM算法与其典型的应用：高斯混合分布 首先简略介绍一个高斯混合分布： 在一个随机分布里面，可能
转载
2024-03-20 08:33:41
54阅读
多变量高斯分布先总结一些基本结论。设有随机变量组成的向量\(X=[X_1,\cdots,X_n]^T\)，均值为\(\mu\in\mathbb{R}^n\)，协方差矩阵\(\Sigma\)为对称正定\(n\)阶矩阵。在此基础上，如果还满足概率密度函数\[p(x;\mu,\Sigma)=\frac{1}{(2\pi)^{\frac{n}{2}}|\Sigma|^{\frac{1}{2}}}\exp\
转载
2024-08-11 12:58:01
65阅读
机器学习——概率分类(三)高斯概率密度与混合高斯模型在之前的文章机器学习——概率分类(一)朴素贝叶斯模型一文中，我们主要介绍了机器学习中的概率分类问题。我们提出了简单的朴素贝叶斯模型来进行概率密度的估计。在本篇文章中，我们主要介绍概率密度估计的第二种方法——高斯密度估计。1 高斯概率密度原理1.1 高斯概率密度引入首先，我们假设样本X符合的是高斯分布，当X的维度是一维的时候，其符合的概率分布的公式
转载
2024-04-27 12:22:18
88阅读
高斯噪声图像噪声之高斯噪声（gauss noise）概述：高斯噪声是指它的概率密度函数服从高斯分布（即正态分布）的一类噪声与椒盐噪声类似（Salt And Pepper Noise），高斯噪声（gauss noise）也是数字图像的一个常见噪声。椒盐噪声是出如今随机位置、噪点深度基本固定的噪声，高斯噪声与其相反，是差点儿每一个点上都出现噪声、噪点深度随机的噪声。算法步骤：通过概率论里关于正态分布的
转载
2024-04-22 13:32:25
82阅读
EM算法作为非监督学习的一种特有优化算法，可以解决最大似然问题当中隐变量不可观测而难以优化的问题。下面我们对EM算法做一下总结。1. 引子--高斯混合模型（GMM）假设我们有m个数据 需要聚类（这些数据的类别 未知）。我们尝试给数据建立概率模型, 数据服从联合概率分布：。这里 服从多项式分布，而 服从多元高斯分布。也即有 和
转载
2024-01-08 21:35:46
80阅读
# 使用 Python 实现高斯分布随机算法
在数据科学和机器学习中，高斯（正态）分布是一种非常重要的概率分布。为了生成符合高斯分布的随机数，Python 提供了丰富的库和函数。接下来，我将为你详细介绍如何实现一个高斯分布随机算法。
## 整体流程
在开始之前，我们先来简单梳理一下实现步骤。可以参考以下表格：
| 步骤 | 描述 | 代码示例 |
|------|------|------
原创
2024-10-16 04:49:52
101阅读
看极化SAR影像时看到矩阵服从复高斯分布，不明白是什么于是查了查。正态分布又叫高斯分布 X~(μ,σ2) , μ为期望（均值），σ2为方差 遥感影像常认为服从正态分布，横坐标是影像灰度级变化，纵坐标为各灰度级像元数占整幅影像像元数的百分比，也就是对应的概率密度。复高斯分布可认为是Z=X+iY中，X,Y同时满足高斯分布，也就是复数满足高斯分布。该原理的数学基础参考下面文章高斯变量和复高斯变量基础复高
转载
2023-12-08 18:05:51
373阅读
内容来自Andrew老师课程Machine Learning的第九章内容的Multivariate Guassian Distribution(Optional)部分。一、Multivariate Gaussian Distribution（多元高斯分布） 使用高斯分布图，看一个数据中心的例子： 因为上面的原因，会带来一些误差，因此我们引入了改良版的算法： 我们不再单独地将p(x1)，
高斯分布（Gaussian distribution） 正态分布（Normal distribution），也称“常态分布”，又名高斯分布（Gaussi
转载
2023-11-10 02:25:56
321阅读
1 一维高斯分布1.1 一维高斯分布的定义1.2 一维高斯分布的曲线1.3 标准一维高斯分布 2 二维高斯分布2.1 二维高斯分布的定义 2.2 二维高斯分布的曲线3 二维高斯滤波器3.1 高斯滤波器简介高斯滤波器是一种线性滤波器，能够有效的抑制噪声，平滑图像。其作用原理和均值滤波器
转载
2023-11-27 21:05:13
147阅读
高斯分布（Gaussian distribution）：又名正态分布（Normal distribution），也称“常态分布” 一维正态分布函数： 卡尔曼滤波（Kalman filtering）：一种利用线性系统状态方程，通过系统输入输出观测数据，对系统状态进行最优估计的算法。 X(k)=A X(k-1)+B U(k)+W(k)极大似然估计方法（Maximum Likelihood Estima
转载
2023-12-14 18:39:11
162阅读
参考文献：Pattern Recognition and Machine Learning Published by Springer | January 2006https://www.microsoft.com/en-us/research/publication/pattern-recognition-machine-learning/简介在第二章中将专门研究各种概率分布以及其关键特性。在这
转载
2023-11-16 15:36:31
211阅读
二 数学基础-概率-高斯分布2.1 思维导图简述数学基础-高斯分布思维导图2.2 内容2.2.1 高斯分布的最大似然估计A 已知数据条件：是的列向量，代表一组数据。是N*p维矩阵，表示N组数据。 高斯分布： 一维高斯分布（以一维高斯分布为例）多维高斯分布B 求最大似然估计MLEC 解D 收获最大似然估计MLE: maximum likelihood estimation，由高斯提出，R.A Fis
转载
2023-11-27 21:23:33
150阅读
卷积和高斯卷积图片的类型二值化图灰度图彩色图为什么使用卷积？卷积的定义卷积的计算边缘填充边缘填充的作用边缘填充的方式几种特殊的卷积核带来的效果高斯振铃现象如何解决振铃现象--高斯内核（模板）高斯函数的定义高斯模板的性质噪声高斯噪声椒盐噪声高斯滤波&中值滤波总结 卷积图片的类型二值化图 （Binary）灰度图 （Gray Scale）彩色图（Color）二值化图二值化图每一个像素值不是1就
转载
2024-01-29 10:05:26
171阅读
高斯模糊是一种图像模糊滤波器，它用正态分布计算图像中每个像素的变换。N 维空间正态分布方程为
在二维空间定义为
其中 r 是模糊半径 (r2 = u2 + v2)，σ 是正态分布的标准偏差。在二维空间中，这个公式生成的曲面的等高线是从中心开始呈正态分布的同心圆。分布不为零的像素组成的卷积矩阵与原始图像做变换。每个像素的值都是周围相邻像素值的加权平均。原始像素的值有最大的高斯
转载
2023-10-16 08:47:31
174阅读
2.3高斯分布高斯分布又称正态分布，被广泛用于连续变量分布的模型。对于单变量x，高斯分布的形式这里表示期望，表示方差。对于一个D维向量X，其多元高斯分布形式为：这里是一个D维均值向量，是的协方差矩阵，表示的行列式。 高斯分布出现在很多应用中并可以从很多角度来阐释。比如，我们已经见过的实单变量使熵最大的分布就是高斯分布。该性质同样适用于多元高斯分布中。
转载
2023-12-14 10:43:03
93阅读
一、高斯混合模型 高斯混合模型（Gaussian Mixture Model）通常简称GMM，是一种业界广泛使用的聚类法，该方法使用了高斯分布作为参数模型，并使用了期望最大（Expectation Maximization，简EM）算法进行训练。1. 什么是高斯分布？ &n
转载
2024-03-03 22:51:25
139阅读
机器学习笔记之高斯过程——基本介绍引言高斯过程简单介绍高斯过程的参数描述 引言从本节开始，将介绍高斯过程。高斯过程简单介绍高斯过程(Gaussian Process)，从名字中很明显，它是一种和高斯分布相关的随机过程(Stochastic Process)。 从一维高斯分布开始，此时只有一个一维随机变量，它服从的高斯分布可表示为： 如果样本并不是一个特征，而是多个特征，并且这些特征均服从高斯分布
转载
2023-12-21 13:36:25
94阅读
