机器学习笔记（4）——聚类之BIRCH一、算法介绍层次聚类(Hierarchical Clustering)是聚类算法的一种，通过计算不同类别数据点间的相似度来创建一棵有层次的嵌套聚类树。在聚类树中，不同类别的原始数据点是树的最低层，树的顶层是一个聚类的根节点。创建聚类树有自下而上合并和自上而下分裂两种方法。 层次聚类使用欧式距离来计算不同类别数据点间的距离（相似度）。 二、算法流程1.
转载
2024-02-04 20:47:59
87阅读
聚类分析（层次聚类分析（Q型聚类和R型聚类）、快速聚类分析）聚类分析的实质：是建立一种分类方法，它能够将一批样本数据按照他们在性质上的亲密程度在没有先验知识的情况下自动进行分类。这里所说的类就是一个具有相似性的个体的集合，不同类之间具有明显的区别。 聚类分析的特点：聚类分析是一种探索性的分析，在分类的过程中，人们不必事先给出一个分类的标准，聚类分析能够从样本数据出发，自动进行分类。1.层次聚类分析
转载
2023-08-14 06:51:50
89阅读
今天，总结一下如何使用层次聚类算法里面的自定义距离度量层次聚类上次已经总结过。 这次仅仅说明层次聚类的距离参数，这里的距离参数可以使用自定义函数。 我们进入该函数的文档页面我们看到linkage的说明文档上面的函数scipy.cluster.hierarchy.linkage(y, method='single', metric='euclidean',optimal_ordering=False
转载
2023-08-24 02:56:28
73阅读
目录1.作者介绍2．层次聚类算法介绍2.1 层次聚类算法原理2.2 层次聚类算法步骤2.3 层次聚类算法分类3．层次聚类算法实现(代码如下)3.1 相关包导入3.2 生成测试数据集3.3 层次聚类实现&画出树状图3.4 获取聚类结果3.5完整代码3.6 对比不同方法聚类效果4.参考链接 1.作者介绍杨金花，女，西安工程大学电子信息学院，21级硕士研究生 研究方向：基于学习方法的运动目标检
转载
2023-06-13 21:30:51
285阅读
一 原理基本工作原理 给定要聚类的N的对象以及N*N的距离矩阵(或者是相似性矩阵), 层次式聚类方法的基本步骤(参看S.C. Johnson in 1967)如下: 1. 将每个对象归为一类, 共得到N类, 每类仅包含一个对象. 类与类之间的距离就是它们所包含的对象之间的距离.2.
转载
2023-06-13 21:31:54
143阅读
不管是GMM，还是k-means，都面临一个问题，就是k的个数如何选取？比如在bag-of-words模型中，用k-means训练码书，那么应该选取多少个码字呢？为了不在这个参数的选取上花费太多时间，可以考虑层次聚类。 假设有N个待聚类的样本，对于层次聚类来说，基本步骤就是： 1、（初始化）把每个样本归为一类，计算每两个类之间
转载
2024-01-22 11:27:01
6阅读
目录一、层次聚类1、层次聚类的原理及分类2、层次聚类的流程3、层次聚类的优缺点二、python实现1、sklearn实现2、scipy实现树状图分类判断一、层次聚类1、层次聚类的原理及分类1）层次法（Hierarchicalmethods）先计算样本之间的距离。每次将距离最近的点合并到同一个类。然后，再计算类与类之间的距离，将距离最近的类合并为一个大类。不停的合并，直到合成了一个类。其中类与类的距
转载
2024-08-03 16:31:30
56阅读
MFC浅谈层次聚类算法写文章的起因所用数据集及预处理划分簇的基础思维和结果开发中遇到的一些问题及算法优化预测错误率的算法写在后面的话 写文章的起因本人是一名大二的学生，原本对于人工智能方面的算法就有一定的兴趣，正巧碰上期末课设需要用到层次聚类来完成课设，就顺水推舟，用C++（准确来说是MFC）完成了层次聚类算法的课设，之所以没用python一方面是了解不够另一方面是为了照顾队友吧，然后深刻体会到
转载
2023-12-09 13:11:15
67阅读
层次聚类是一种常见的数据聚类方法，它将数据分组成具有层次结构的树状形式。在层次聚类中，数据点之间的相似度被用来构建树的结构，从而实现将数据点分组成不同的簇。
Java作为一种常用的编程语言，也提供了丰富的库和工具来实现层次聚类。在本文中，我们将介绍如何使用Java实现层次聚类，并给出一个简单的代码示例。
首先，我们需要导入相关的Java库，例如Apache Commons Math，它提供了实
原创
2024-05-03 07:14:54
91阅读
1评论
引言最近在读西瓜书，查阅了多方资料，恶补了数值代数、统计概率和线代，总算是勉强看懂了西瓜书中的公式推导。但是知道了公式以后还是要学会应用的，几经摸索发现python下的sklearn包把机器学习中经典的算法都封装好了，因此，打算写几篇博客记录一下sklearn包下的常用学习算法的使用，防止自己以后忘了，嘿嘿。1.聚类西瓜书中197页对“聚类”做了详细的解释，以下为摘录：在无监督学习中，训练样本的标
转载
2023-08-24 13:39:28
219阅读
层次聚类虽然基于划分的聚类方法如k-means可以较好的将对象集分成互斥的若干类，但有时我们想把数据划分成不同层上的组群。比如对于手写数字的识别，我们先把它聚类成每个区域只含一种数字，之后对于每个区域，我们还可以继续按手写字体划分成新的区域。层次聚类分为凝聚方法和分裂方法凝聚方法：自底向上。从假设每一个对象都是一个单独的簇开始，迭代合并，形成更大的簇分裂方法：自顶向下。开始令所有对象都在一个簇，迭
转载
2024-02-26 18:38:40
81阅读
在n个数据点中选择最近的两个，并把它们合成一个 回到第一步，直到只剩1个数据点
转载
2021-01-01 15:16:00
224阅读
2评论
样本空间有$N$个点${x_1,x_2,...,x_n}$，层次聚类的过程如下：1、将每个点都单独归为1类2、计算各个类之间的相似度/距离3、将相似度最大/...
原创
2022-11-02 09:50:47
66阅读
1. 层次聚类 层次聚类算法与之前所讲的顺序聚类有很大不同，它不再产生单一聚类，而是产生一个聚类层次。说白了就是一棵层次树。介绍层次聚类之前，要先介绍一个概念——嵌套聚类。讲的简单点，聚类的嵌套与程序的嵌套一样，一个聚类中R1包含了另一个R2，那这就是R2嵌套在R1中，或者说是R1嵌套了R2。具体说怎么算嵌套呢1,x2,...
原创
2023-11-07 11:28:22
102阅读
聚类(Clustering)是按照某个特定标准(如距离)把一个数据集分割成不同的类或簇，使得同一个簇内的数据对象的相似性尽可能大，同时不在同一个簇中的数据对象的差异性也尽可能地大。也即聚类后同一类的数据尽可能聚集到一起，不同类数据尽量分离。主要的聚类算法可以划分为如下几类：划分方法、层次方法、基于密度的方法、基于网格的方法以及基于模型的方法。K-means算法k-means是划分方法中较经典的聚类
转载
2024-05-21 12:05:26
74阅读
Hierarchicalclustering 层次聚类《机器学习》—周志华1、什么是层次聚类2、层次聚类的距离运算方式3、伪代码4、代码+结果5、数据1、层次聚类是试图在不同层次对数据集进行划分，从而形成树形的聚类结构，数据集的划分可分为采用“自底向上”的聚类策略，也可采用“自顶向下”的分拆策略。说白了就是一开始就把所有的样例作为一个簇，然后计算分别计算两个簇的距离
原创
2022-11-18 18:32:50
168阅读
最近学习层次聚类算法，厚颜转载一篇博文。
参考：层次聚类算法的原理及实现Hierarchical Clustering层次聚类(Hierarchical Clustering)是聚类算法的一种，通过计算不同类别数据点间的相似度来创建一棵有层次的嵌套聚类树。在聚类树中，不同类别的原始数据点是树的最低层，树的顶层是一个聚类的根节点。聚类模式： 1)自底向上型（agglomerative） 2)自上向
转载
2023-06-21 21:54:15
191阅读
博客上看到的，叫做层次聚类，但是《医学统计学》上叫系统聚类（chapter21）思想很简单，想象成一颗倒立的树，叶节点为样本本身，根据样本之间的距离（相似系数），将最近的两样本合并到一个根节点，计算新的根节点与其他样本的距离（类间相似系数），距离最小的合为新的根节点。以此类推对于样本X=（x1，x2，，，xm），共n个样品，m个特征，我们可以考虑两种情形聚类R型聚类：m个特征之间的聚类，可以理解为
转载
2023-12-05 18:34:42
83阅读
09 聚类算法 - 层次聚类需求: 基于scikit的API创建模拟数据，使用BIRCH算法对数据进行聚类操作，并比较n_clusters参数的作用。相关API：https://scikit-learn.org/stable/modules/generated/sklearn.cluster.Birch.html参数threshold: 代表了FC-Tree中的参数T。叶子节点中每个CF的最大半径
转载
2024-08-23 16:46:12
48阅读
前言K-means 聚类，介绍了 K-means 算法以及一些优化改进的算法，通过此了解聚类分析，接下来我们进一步的介绍聚类分析的其他方法。本篇代码可见：Github一、层次聚类\quad\quad 层次聚类技术是第二类重要的聚类方法。层次聚类方法对给定的数据集进行层次的分解，直到满足某种条件为止，传统的层次聚类算法主要分为两大类算法：凝聚的层次聚类：AGNES算法(AGglomerative N
转载
2023-08-15 14:48:49
564阅读
