汇聚层（Pooling Layer）是卷积神经网络（CNN）中的一种常用操作，其作用是对卷积层输出的特征图进行下采样（缩小特征图大小），从而减少计算量和参数数量，同时提取更为重要的特征。本文将介绍汇聚层的基本原理、实现方式以及常见类型。一、汇聚层的原理汇聚层的主要作用是对卷积层输出的特征图进行下采样，通常有两种方式：最大池化（Max Pooling）和平均池化（Average Pooling）。最
转载
2023-12-14 10:47:55
96阅读
Magic Leap, ETH Zurich提出了特征点匹配网络SuperGlue，寻找两幅图像局部特征点之间的对应关系的神经网络，该网络使用图神经网络预测损失。搭配super point在室内外重定位任务中达到SOTA的精度。论文方法：首先输入图像对记为A，B，各包含了关键点和局部描述子，因此是集合形式{(p,d)}p=(x,y,c)是关键点，其中c是置信度；d是描述子，本文中是superpoi
转载
2024-01-06 08:59:06
96阅读
图数据（0,1板块）目录：
0、引入
1、图数据1.1 何为图数据
1.2 图相关的理论铺垫
1.2.1 线性代数——从矩阵的乘法到以特征向量为基的线性变换
1.2.2 谱图理论
1.3 图数据应用——谱聚类
第1板块 总结2、图卷积神经网络综述3、图卷积神经网络的实践0.引入——卷积神经网络到图数据\(\qquad\)卷积神经网
转载
2024-01-19 23:17:26
2阅读
1000 Functional Connectomes Project最为著名的脑与神经数据库之一http://fcon_1000.projects.nitrc.org/fcpClassic/FcpTable.html
ADNI提供与阿尔茨海默疾病相关的各种数据http://adni.loni.usc.edu/
Allen Brain Atlas:艾伦脑图谱http://www.brain-ma
原创
2021-09-07 15:29:00
251阅读
1000 Functional Connectomes Project最为著名的脑与神经数据库之一http://fcon_1000.projects.nitrc.org/fcpClassic/FcpTable.htmlADNI提供与阿尔茨海默疾病相关的各种数据http://adni.loni.usc.edu/Allen Brain Atlas:艾伦脑图谱http://www.brai...
原创
2022-01-25 10:34:58
1165阅读
我们都知道深度神经网络性能十分强大，但具体效果为什么这么好，权重为什么要这么分配，可能连“设计者”自己都不知道如何解释。最近，一项来自UC伯克利和波士顿大学的研究，就对这个黑箱子做了进一步的解密：经过训练和权重修剪的多层感知器 (MLP)，与具有相同权重分布的随机网络相比，通常模块化程度更高。也就是说，在特定条件下，深度神经网络是模块化(modularity)的。研究人员认为：了解神经
转载
2023-12-29 15:54:09
80阅读
论文名称基于循环神经网络的时序数据聚类算法及其并行化，王国瑞.研究对象主要围绕时序数据聚类问题，不同于已有的时序数据聚类方法，本文献的研究是基于循环神经网络的时序数据聚类方法，研究成果可用于金融股票数据分析。研究动机在时间序列数据挖掘领域，结合循环神经网络将其应用在时间序列数据预测及聚类任务上。文献综述基于时间临近度的时序聚类：主要在于序列相似性的衡量，利用不同的相似度计算方法进行聚类。基于特征变
转载
2023-12-26 18:40:21
9阅读
51 C-均值算法：
是动态聚类方法中的一个典型方法。其目的是将一数据集, 按自然密集程度划分成C个聚类，它的准则函数是对所有C个聚类中每个数据到其各自均值的距离平方和的总和为最小
。计算距离的最简单形式是欧式距离。但也可使用其它形式的距离。迭代过程是计算这个数据, 从现属聚类转移至其它聚类, 是否能使准则函数值减小为依据，将该数据转移至合适聚类，直至这种数据转移不再发生为止。在数据转移过程中
转载
2023-11-07 07:10:29
81阅读
聚类算法的种类： 基于划分聚类算法（partition clustering)k-means：是一种典型的划分聚类算法，它用一个聚类的中心来代表一个簇，即在迭代过程中选择的聚点不一定是聚类中的一个点，该算法只能处理数值型数据k-modes：K-Means算法的扩展，采用简单匹配方法来度量分类型数据的相似度k-prototypes：结合了K-Means和K-Modes两种算法，能够处理混合型数据k
转载
2024-01-11 13:27:09
186阅读
一、单层感知机模型（一）模型图（二）目的：搭建万能函数以下激活函数使用位置：隐藏层向输出层，进行输出时1、什么要使用激活函数1、容易进行求导，进行反向传播计算； 2、根据人的需要将输出Y映射到某个空间之中； 3、激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，这样神经网络就可以应用到众多的非线性模型中。2、常用激活函数和python实现1、阶跃激活函数：：以0为阀门激活，
转载
2024-01-15 11:56:09
44阅读
1.算法功能简介 神经网络是模仿人脑神经系统的组成方式与思维过程而构成的信息处理系统，具有非线性、自学性、容错性、联想记忆和可以训练性等特点。在神经网络中，知识和信息的传递是由神经元的相互连接来实现的，分类时采用非参数方法，不需对目标的概率分布函数作某种假定或估计，因此网络具备了良好的适应能力和复杂的映射能力。神经网络的运行包括两个阶段：一是训练或学习阶段（
转载
2023-12-01 11:04:12
55阅读
## 实现“SPSS类神经网络”的流程
### 1. 理解SPSS类神经网络的基本概念
在教会小白如何实现"SPSS类神经网络"之前，首先需要对SPSS类神经网络有一定的了解。SPSS（Statistical Package for the Social Sciences）是一种统计软件，它提供了各种统计分析和数据挖掘功能。类神经网络（Artificial Neural Network）是一种
原创
2024-02-01 04:31:44
79阅读
目录摘要：参考文献：1.竞争神经网路介绍：2.仿真实验：3.相关代码：摘要：基于Matalb平台，构建竞争神经网络模型，并实现无监督的数据聚类。
1.竞争神经网路介绍：
竞争型神经网络是以无教师示教方式进行网络训练的一种神经网络。它的特点是能将输入数据中隐含的特征
原创
2022-09-03 07:23:06
470阅读
@TOC基本介绍有“万金油”之称。最广泛的一种解释：神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。[Kohonen,1998]最基本单元：神经元，即简单单元。 M-P神经元模型[McCulloch and Pitts 1943]，如下图: 图中原始值为，经过的转换得到当前神经元的输入值，若值大于阈值，则再通过激
转载
2023-12-08 20:58:50
152阅读
1 聚类的类型 聚类可以通过人工神经网络来实现，也可以通过专门的聚类算法实现，例如参考资料[3]介绍了较为常见的k-means、层次聚类、SOM以及FCM四种聚类算法，其中SOM属于神经网络方法。本文重点介绍层次聚类算法。 参考资料[3]提到，根据层次分解的顺序是自底向上的还是自上向下的，层次聚类算法又可分为凝聚的层次聚类算法和分裂的
转载
2023-11-23 21:20:14
134阅读
1.算法功能简介 神经网络是模仿人脑神经系统的组成方式与思维过程而构成的信息处理系统，具有非线性、自学性、容错性、联想记忆和可以训练性等特点。在神经网络中，知识和信息的传递是由神经元的相互连接来实现的，分类时采用非参数方法，不需对目标的概率分布函数作某种假定或估计，因此网络具备了良好的适应能力和复杂的映射能力。神经网络的运行包括两个阶段：一是训练或学习阶段（
转载
2023-10-03 19:40:56
223阅读
第四章 自组织神经网络（1）自组织神经网络的典型结构 （2）自组织学习(self-organized learning) ： 通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。 自组织网络的自组织功能是通过竞争学习（competitive learning）实现的。4.1竞争学习的概念与原理4.1.1基本概念1.分类和聚类（1）分类——分类是在类别知识等导师信号的指导下，
转载
2023-10-30 23:34:32
171阅读
文章目录一、Network Pruning1.Network can be pruned2.Weight pruning3.Neuron pruning4.Why Pruning?二、Knowledge Distillation三、Parameter Quantization四、Architecture Design1.Depthwise Separable Convolution2.Low r
转载
2023-09-21 10:12:45
102阅读
0. 前言通常神经网络的问题：参数如何选择何时停止训练局部最优解1. 回声网络ESN具有以下特点：大且稀疏生物连接，RNN被当做一个动态水库动态水库可以由输入或/和输出的反馈激活水库的连接权值不会被训练改变？只有水库的输出单元的权值随训练改变，因此训练是一个线性回归任务假设有ESN是一个可调谐的sin波生成器：黑色箭头是指固定的输入和反馈连接红色箭头指可训练的输出连接灰色表示循环内连接的动态水库典
转载
2023-07-18 10:54:01
75阅读
卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。
转载
2023-07-31 17:51:05
107阅读
