在无监督学习领域中我们的数据集没有标签，在这情况下我们想对其分类，这就要引出聚类算法了，而今天所说的kmeans算法就是一种经典的无监督聚类算法。kmeans算法算法思想Kmeans算法是输入聚类个数k，以及包含 n个数据对象的数据库，输出满足方差最小标准k个聚类的一种算法。k-means 算法接受输入量 k ；然后将n个数据对象划分为 k个聚类以便使得所获得的聚类满足：同一聚类中的对象相似度较高
转载
2024-02-12 20:27:56
64阅读
PAM算法的原理： 选用簇中位置最中心的对象，试图对n个对象给出k个划分；代表对象也被称为是中心点，其他对象则被称为非代表对象；最初随机选择k个对象作为中心点，该算法反复地用非代表对象来代替代表对象，试图找出更好的中心点，以改进聚类的质量；在每次迭代中，所有可能的对象对被分析，每个对中的一个对象是中心点，而另一个是非代表对象。对可能的各种组合，估算聚类结果的质量；一个对
转载
2024-06-11 21:55:48
61阅读
相关数学概念协方差矩阵 多维高斯分布 其中k=n，即x的维度。GMM的原理GMM，高斯混合模型，是一种聚类算法。 1.GMM概念： -将k个高斯模型混合在一起，每个点出现的概率是几个高斯混合的结果。 -每个 Gaussian 称为一个“Component”，这
说一下另一个很流行的算法：Gaussian Mixture Model (GMM)。事实上，GMM 和 k-means 很像，不过 GMM 是学习出一些概率密度函数来（所以 GMM 除了用在 clustering 上之外，还经常被用于 density estimation ），简单地说，k-means 的结果是每个数据点被 assign 到其中某一个 cluster 了，而 GMM 则给出这些数
前言：这几天一直都在研究模糊聚类。感觉网上的文档都没有一个详细而具体的讲解，正好今天有时间，就来聊一聊模糊聚类。一：模糊数学我们大家都知道计算机其实只认识两个数字0,1。我们平时写程序其实也是这样if 1 then do.永远这种模式，在这种模式中，一个元素要么属于这个集合，要么不属于这个集合，但是对我们现在介绍的模糊集来说，某个元素可能部分属于这个集合，又可能部分属于另外的集合，显然，例如，一个
转载
2024-07-24 17:44:05
88阅读
1.标准Kmeans经典的标准kmeans算法无需多言，每个无监督学习的开场白一般都是标准kmeans算法。具体的原理不再多言，可以参考之前的文章： 标准的kmeans的优缺点，上面的文章也有详细介绍，再详细说一说kmeans++对于初始中心点的优化kmeans++中心点初始化步骤 下面举个例子来说明怎么优化初始点。 数据集中共有8个样本，分布以及对应序号如图所示。 假设经过图2的步骤一后6号点被
转载
2024-05-06 17:00:42
43阅读
目录1.聚类概念2.聚类结果的“好坏”评价指标2.1外部指标2.2内部指标2.3距离的计算3聚类类算法3.1 k均值算法3.2 LVQ学习向量量化算法3.3 高斯混合GMM3.3.1EM算法3.3.2 GMM中参数的求解3.4 DBSCAN 密度聚类3.5 AGNES层次聚类3.6 BIRCH层次方法的平衡迭代规约和聚类（Balanced Iterative Reducing
谱聚类算法将数据集中的每个对象看作是图的顶点V，将顶点间的相似度量化作为相应顶点连接边E的权值，这样就得到一个基于相似度的无向加权图G(V, E)，于是聚类问题就可以转化为图的划分问题。基于图论的最优划分准则就是使划分成的子图内部相似度最大，子图之间的相似度最小。虽然根据不同的准则函数及谱映射方法，谱聚类算法有着不同的具体实现方法，但是这些实现方法都可以归纳为下面三个主要步骤：1) 构建表示对象集
转载
2024-05-23 17:44:09
34阅读
我讲EM算法的大概流程主要三部分：需要的预备知识、EM算法详解和对EM算法的改进。一、EM算法的预备知识1、极大似然估计（1）举例说明：经典问题——学生身高问题 我们需要调查我们学校的男生和女生的身高分布。 假设你在校园里随便找了100个男生和100个女生。他们共200个人。将他们按照性别划分为两组，然后先统计抽样得到的100个男生的身高。假设他们的身高是服从高斯分布的。
转载
2024-08-12 14:37:44
56阅读
下面是几个城市的GDP等信息，根据这些信息，写一个SOM网络，使之对下面城市进行聚类。并且，将结果画在一个二维平面上。 //表1中，X。为人均GDP(元)；X2为工业总产值(亿元)；X。为社会消费品零售总额(亿元)；x。为批发零售贸易总额(亿元)；x。为地区货运总量(万吨)，表1中数据来自2002年城市统计年鉴。//城市 X1 X2 X3 Xa X5 北京 27527 2738.30 1
转载
2024-04-19 16:22:00
50阅读
一、HMM（隐马尔科夫）1、马尔可夫过程 1、马尔可夫过程：
马尔可夫过程分为 一阶马尔科夫过程 和 n阶马尔可夫过程，要使用 隐马尔可夫HMM模型 必须认可马尔可夫过程的假设。2、隐马尔可夫模型HMM0-1、HMM其实当做一种特殊的聚类模型理解：
当做聚类模型：
观测值相当于样本 特征属性X ，预测值（HMM预测是对某个观测值序列最大概率
一.在Linux中安装RabbitMQ 虽然RabbitMQ有Windows和Mac版的，但是建议还是装在Linux中，毕竟很少有项目把Windows或Mac作为服务器使用。 安装方式一：直接在线安装 1.因为RabbitMq是使用Erlang语言编写的，所以先要配置Erlang环境 （1）安装Erlang的依赖文件yum install gcc glibc-devel make ncurses-
GMM聚类实践 GMM实例 GMM聚类
原创
2021-07-22 09:43:24
192阅读
在数据分析和机器学习领域，GMM（高斯混合模型）聚类是一种强大且灵活的无监督学习技术。它可以在处理多模态数据时提供更好的聚类效果，常用于金融分析、图像处理和自然语言处理等多个领域。本文将详细介绍如何在Python中实现GMM聚类的过程。
### 背景描述
随着数据科学的快速发展，越来越多的企业开始重视数据分析。2015年，GMM聚类作为一种有效的概率模型，在数据分析领域逐渐崭露头角。此后，无论
在数据科学中，GMM（Gaussian Mixture Model）是一种强大的聚类算法。本文将详细介绍如何使用 Python 实现 GMM 聚类，包括必要的环境准备、分步指南、配置详解、验证测试、排错指南和扩展应用。
### 环境准备
在开始之前，我们需要确保环境中安装了必要的软件包。请确保你的机器上安装了 Python 和相关的库，如 `scikit-learn` 和 `matplotli
在GMM中使用EM算法聚类我们使用k个多元高斯分布的混合高斯分布GMM来对数据进行聚类，其中每一个分布代表一个数据簇。首先，随机选择k个对象代表各个簇的均值（中心），猜测每一个簇的协方差矩阵，并假定初始状态 时每个簇的概率相等； 然后，根据多元高斯密度函数求出每一个对象属于每一个簇的概率，并求出数据的似然函数值；最后，根据每一个数据点属于每一个簇的概率，来更新每一个簇的均值，协方差矩阵，
转载
2023-08-02 23:25:26
149阅读
GMM参考这篇文章：Link 简单地说，k-means 的结果是每个数据点被 assign 到其中某一个 cluster 了，而 GMM 则给出这些数据点被 assign 到每个 cluster 的概率，又称作 soft assignment 。 通常单个点的概率都很小，许多很小的数字相乘起来在计算
转载
2017-09-23 14:28:00
239阅读
2评论
由于工作需要，最近开始弄k-means、KNN、GMM聚类。总结一下这两种聚类方法吧。1. K-means原理：这基本上是最简单也最经典的聚类方法。K是指所要聚的cluster的数量，means是指每一个cluster都有一个中心点（质心），这个质心是cluster中所有点的平均值，分别计算样本中每个点与K个质心的欧式距离，离哪个质心最近，这个点就被划到哪一类中。 K是我们预先设置的值，K-me
转载
2024-04-22 12:36:46
64阅读
一. 案例实现 这里不再赘述，详见第二篇文章，直接上代码，这是我的学生完成的作业。 数据集： 下载地址：KEEL-dataset - Basketball data set
聚类分析 | NRBO-GMM聚类优化算法
原创
2024-10-22 15:00:03
104阅读
