51 C-均值算法：
是动态聚类方法中的一个典型方法。其目的是将一数据集, 按自然密集程度划分成C个聚类，它的准则函数是对所有C个聚类中每个数据到其各自均值的距离平方和的总和为最小
。计算距离的最简单形式是欧式距离。但也可使用其它形式的距离。迭代过程是计算这个数据, 从现属聚类转移至其它聚类, 是否能使准则函数值减小为依据，将该数据转移至合适聚类，直至这种数据转移不再发生为止。在数据转移过程中
转载
2023-11-07 07:10:29
81阅读
汇聚层（Pooling Layer）是卷积神经网络（CNN）中的一种常用操作，其作用是对卷积层输出的特征图进行下采样（缩小特征图大小），从而减少计算量和参数数量，同时提取更为重要的特征。本文将介绍汇聚层的基本原理、实现方式以及常见类型。一、汇聚层的原理汇聚层的主要作用是对卷积层输出的特征图进行下采样，通常有两种方式：最大池化（Max Pooling）和平均池化（Average Pooling）。最
转载
2023-12-14 10:47:55
96阅读
论文名称基于循环神经网络的时序数据聚类算法及其并行化，王国瑞.研究对象主要围绕时序数据聚类问题，不同于已有的时序数据聚类方法，本文献的研究是基于循环神经网络的时序数据聚类方法，研究成果可用于金融股票数据分析。研究动机在时间序列数据挖掘领域，结合循环神经网络将其应用在时间序列数据预测及聚类任务上。文献综述基于时间临近度的时序聚类：主要在于序列相似性的衡量，利用不同的相似度计算方法进行聚类。基于特征变
转载
2023-12-26 18:40:21
9阅读
聚类算法的种类： 基于划分聚类算法（partition clustering)k-means：是一种典型的划分聚类算法，它用一个聚类的中心来代表一个簇，即在迭代过程中选择的聚点不一定是聚类中的一个点，该算法只能处理数值型数据k-modes：K-Means算法的扩展，采用简单匹配方法来度量分类型数据的相似度k-prototypes：结合了K-Means和K-Modes两种算法，能够处理混合型数据k
转载
2024-01-11 13:27:09
186阅读
1.算法功能简介 神经网络是模仿人脑神经系统的组成方式与思维过程而构成的信息处理系统，具有非线性、自学性、容错性、联想记忆和可以训练性等特点。在神经网络中，知识和信息的传递是由神经元的相互连接来实现的，分类时采用非参数方法，不需对目标的概率分布函数作某种假定或估计，因此网络具备了良好的适应能力和复杂的映射能力。神经网络的运行包括两个阶段：一是训练或学习阶段（
转载
2023-12-01 11:04:12
55阅读
一提到密度聚类，脑海中立马就能呈现出一个聚类结果图，不自然的就感觉非常的简单，不就是基于密度的聚类嘛，原理不用看也懂了，但是真的实现起来，仿佛又不知道从哪里开始下手。这时候再仔细回想一下脑海中的密度聚类结果图，好像和K-means聚类的结果图是一样的，那真实的密度聚类是什么样子的呢？看了西瓜书的伪代码后还是没法实现？今天小编就带大家解决一下密度聚类的难点。
转载
2024-01-26 10:06:18
49阅读
1 聚类的类型 聚类可以通过人工神经网络来实现，也可以通过专门的聚类算法实现，例如参考资料[3]介绍了较为常见的k-means、层次聚类、SOM以及FCM四种聚类算法，其中SOM属于神经网络方法。本文重点介绍层次聚类算法。 参考资料[3]提到，根据层次分解的顺序是自底向上的还是自上向下的，层次聚类算法又可分为凝聚的层次聚类算法和分裂的
转载
2023-11-23 21:20:14
134阅读
1.算法功能简介 神经网络是模仿人脑神经系统的组成方式与思维过程而构成的信息处理系统，具有非线性、自学性、容错性、联想记忆和可以训练性等特点。在神经网络中，知识和信息的传递是由神经元的相互连接来实现的，分类时采用非参数方法，不需对目标的概率分布函数作某种假定或估计，因此网络具备了良好的适应能力和复杂的映射能力。神经网络的运行包括两个阶段：一是训练或学习阶段（
转载
2023-10-03 19:40:56
223阅读
第四章 自组织神经网络（1）自组织神经网络的典型结构 （2）自组织学习(self-organized learning) ： 通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。 自组织网络的自组织功能是通过竞争学习（competitive learning）实现的。4.1竞争学习的概念与原理4.1.1基本概念1.分类和聚类（1）分类——分类是在类别知识等导师信号的指导下，
转载
2023-10-30 23:34:32
171阅读
@TOC基本介绍有“万金油”之称。最广泛的一种解释：神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。[Kohonen,1998]最基本单元：神经元，即简单单元。 M-P神经元模型[McCulloch and Pitts 1943]，如下图: 图中原始值为，经过的转换得到当前神经元的输入值，若值大于阈值，则再通过激
转载
2023-12-08 20:58:50
152阅读
卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。
转载
2023-07-31 17:51:05
107阅读
基于神经网络的具体算法DEC 一、简介聚类特别依赖特征空间的选择；先前很少有研究来解决用于聚类的特征空间学习问题；本文提出了一种称为的聚类方法，该方法通过迭代方式来同时学习特征空间(向量表示)并完成聚类；二、聚类算法DEC 将个点聚类至个簇，每个簇均有一个质心。本文不直接在数据空间上聚类，而是通过非线性映射，将数据空间映射至特征空间，其中是可学习参数。为了避免维度灾难，的维度远远小于。至于非线性
转载
2023-10-17 23:30:04
92阅读
文章目录一、Network Pruning1.Network can be pruned2.Weight pruning3.Neuron pruning4.Why Pruning?二、Knowledge Distillation三、Parameter Quantization四、Architecture Design1.Depthwise Separable Convolution2.Low r
转载
2023-09-21 10:12:45
102阅读
0. 前言通常神经网络的问题：参数如何选择何时停止训练局部最优解1. 回声网络ESN具有以下特点：大且稀疏生物连接，RNN被当做一个动态水库动态水库可以由输入或/和输出的反馈激活水库的连接权值不会被训练改变？只有水库的输出单元的权值随训练改变，因此训练是一个线性回归任务假设有ESN是一个可调谐的sin波生成器：黑色箭头是指固定的输入和反馈连接红色箭头指可训练的输出连接灰色表示循环内连接的动态水库典
转载
2023-07-18 10:54:01
75阅读
自组织映射神经网络， 即Self Organizing Maps (SOM)， 可以对数据进行无监督学习聚类。它的思想很简单，本质上是一种只有输入层--隐藏层的神经网络。隐藏层中的一个节点代表一个需要聚成的类。训练时采用“竞争学习”的方式，每个输入的样例在隐藏层中找到一个和它最匹配的节点，称为它的激活节点，也叫“winning neuron”。 紧接着用随机梯度下降法更新激活节点的参数。同时，和激
转载
2023-08-15 14:57:47
181阅读
疫情防控的关键阶段，各种信息漫天飞，有利的、不利的，真实的、虚假的，我们需要努力分辨。雾里看花，我们需要借一双“慧眼”，“慧眼”就是以算法驱动的热点事件跟踪系统。最近，笔者参与了一个企业舆情分析系统的建设，亲身体验了疫情检测系统建设的全部过程，包括系统架构、算法设计、代码实现、系统运行等步骤。现在，向大家分享该系统设计、实现的简单经验。 企业的需求是这样的 企业希望利用该系统掌握企业舆情，并满足
转载
2023-11-21 14:35:37
58阅读
神经网络二值量化——ReActNet摘要动机方法二值基准网络结构泛化`Sign`和`PReLU`函数图示&公式代码优化分布损失公式代码训练策略实验结果消融实验可视化可学习的系数可视化激活分布可视化 本文为香港科技大学与卡内基·梅隆大学联合发表在ECCV2020。本文作者同系MetaPruning与Bi-RealNet的作者。本文基于二值网络训练精度低的问题，提出了三点优化，分别为重构二值
转载
2023-11-20 02:48:12
67阅读
图神经网络一图机器学习需要解决的任务有：节点分类 (Node classification) ：预测每个节点的类型链接预测 (Link prediction)：预测两个节点是否相连社区检测 (Community detection)：检测密集连接的节点聚类网络相似性检测 (Network similarity)：计算两个网络的相似程度前面章节介绍的是解决这些问题的传统机器学习方法，本节主要介绍图神
转载
2024-01-17 05:52:51
179阅读
随着计算机行业和互联网时代的不断发展与进步，图神经网络已经成为人工智能和大数据的重要研究领域。图神经网络是对相邻节点间信息的传播和聚合的重要技术，可以有效地将深度学习的理念应用于非欧几里德空间的数据上。本期推送围绕图神经网络与图注意力网络相关知识进行概述。1.什么是图1.1 定义图表示的是一系列实体（节点）之间的关系（边）。V：节点信息（节点标识、节点邻居数）E：边信息（边标识、边权重）U：全局信
转载
2023-08-28 13:32:23
371阅读
作者 | Harper 使用监督学习固然很好，但并不适合所有的问题。首先，你并不总是能够获得大量的标记数据。有的时候你可能也不想将你的数据分类为已经存在的类别。也许你会希望神经网络对数据进行聚类，从而识别出你从未想到过的模式。 在这种情况下，无监督学习是更
转载
2023-11-06 22:47:45
60阅读
