第一章 绪论1.基本概念深度学习（DL）：深度学习是机器学习的一个分支，是指一类问题以及解决这类问题的方法。主要解决贡献度分配问题。神经网络（ANNs）：又称人工神经网络，是由人工神经元以及神经元之间的连接构成,其中有两类特殊的神经元: 一类是用来接受外部的信息，另一类是输出信息。神经网络可以看作是信息从输入到输出的信息处理系统。人工智能(AI)：人工智能就是要让机器的行为看起来就像是人所表现出的
转载
2023-07-24 20:48:39
119阅读
深度卷积神经网络（AlexNet）引言AlexNetAlexNet类的实现载入数据集训练使用重复元素的网络（VGG）⽹络中的⽹络（NiN）GoogLeNetGoogLeNet模型例题 引言LeNet: 在大的真实数据集上的表现并不尽如⼈意。 1.神经网络计算复杂。 2.还没有⼤量深⼊研究参数初始化和⾮凸优化算法等诸多领域。机器学习的特征提取:手工定义的特征提取函数神经网络的特征提取:通过学习得到
转载
2023-08-23 18:17:27
129阅读
人工智能：Artificial Intelligence，AI，它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能 = 大数据 + 深度学习；应用场景：机器视觉，指纹识别，人脸识别，视网膜识别，虹膜识别，掌纹识别，专家系统，自动规划，智能搜索
转载
2023-10-03 19:26:47
86阅读
神经网络训练中的几个概念Epoch, Batch, Iteration前言在读论文时一直碰到如标题的几个概念，参考网上的资料进行整理。以下是自己的一点理解，有不对的地方还请包涵。解释概念解释Epoch使用训练集的全部数据对模型进行以此完整训练，即“一代训练”Batch使用训练集中的一小部分对模型权重进行以此反向传播的参数更新Iteration对Batch数据进行一次参数更新的过程，被称为“一次训练
转载
2023-11-06 16:33:07
83阅读
文章目录AI小知识系列--第一节1、神经网络反向传播公式推导2、Batch Normalization的反向传播过程3、sigmoid的导数最大为0.254、Softmax？Hardmax？5、bagging vs boosting6、Batch-normalization与Layer-normalization7、Normalization为什么会奏效8、鲁棒性vs泛化能力9、numpy实现卷
转载
2024-02-27 11:05:12
40阅读
基于神经网络的具体算法DEC 一、简介聚类特别依赖特征空间的选择；先前很少有研究来解决用于聚类的特征空间学习问题；本文提出了一种称为的聚类方法，该方法通过迭代方式来同时学习特征空间(向量表示)并完成聚类；二、聚类算法DEC 将个点聚类至个簇，每个簇均有一个质心。本文不直接在数据空间上聚类，而是通过非线性映射，将数据空间映射至特征空间，其中是可学习参数。为了避免维度灾难，的维度远远小于。至于非线性
转载
2023-10-17 23:30:04
92阅读
人工智能的下一前沿，随需应变的大脑。在科学家研究AI的时候，一般会试图模仿大脑的运作来制造智能机器。在这个过程中，他们发现可以借助AI的力量来反向研究大脑的结构。这一新兴的AI技术被称为“神经AI（neuroAI）”。神经AI还能够在工业、艺术创意、健康改善等领域大放异彩。比如，神经AI通过生成正确的图像和声音，将帮助刚做完准分子激光手术或人工耳蜗植入手术的人更快恢复视力或听力，甚至帮助医疗卫生领
转载
2024-01-30 07:17:44
74阅读
聚类算法的种类： 基于划分聚类算法（partition clustering)k-means：是一种典型的划分聚类算法，它用一个聚类的中心来代表一个簇，即在迭代过程中选择的聚点不一定是聚类中的一个点，该算法只能处理数值型数据k-modes：K-Means算法的扩展，采用简单匹配方法来度量分类型数据的相似度k-prototypes：结合了K-Means和K-Modes两种算法，能够处理混合型数据k
转载
2024-01-11 13:27:09
186阅读
一、单层感知机模型（一）模型图（二）目的：搭建万能函数以下激活函数使用位置：隐藏层向输出层，进行输出时1、什么要使用激活函数1、容易进行求导，进行反向传播计算； 2、根据人的需要将输出Y映射到某个空间之中； 3、激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，这样神经网络就可以应用到众多的非线性模型中。2、常用激活函数和python实现1、阶跃激活函数：：以0为阀门激活，
转载
2024-01-15 11:56:09
44阅读
论文名称基于循环神经网络的时序数据聚类算法及其并行化，王国瑞.研究对象主要围绕时序数据聚类问题，不同于已有的时序数据聚类方法，本文献的研究是基于循环神经网络的时序数据聚类方法，研究成果可用于金融股票数据分析。研究动机在时间序列数据挖掘领域，结合循环神经网络将其应用在时间序列数据预测及聚类任务上。文献综述基于时间临近度的时序聚类：主要在于序列相似性的衡量，利用不同的相似度计算方法进行聚类。基于特征变
转载
2023-12-26 18:40:21
9阅读
1.1人工智能1.1.1人工智能1、人工智能：是指让机器获得像人类一样的智能机制的技术。 2、解决抽像的概念无法用具体的代码实现，比如人类对图片的识别，对语言的理解过程，无法通过既定规则模拟。为了解决这类问题，一门通过让机器自动从数据中学习规则的研究学科诞生了，称为机器学习。 3、机器学习：通过让机器自动从数据中学习规则。 4、神经网络：在机器学习中，有一门通过神经网络来学习复杂、抽象逻辑的方向，
转载
2024-01-06 08:59:49
136阅读
人工神经网络的许多算法已在智能信息处理系统中获得广泛采用，尤为突出是是以下4种算法：ART网络、LVQ网络、Kohonen网络Hopfield网络，下面就具体介绍一下这这四种算法：1．自适应谐振理论（ART）网络自适应谐振理论（ART）网络具有不同的方案。一个ART-1网络含有两层一个输入层和一个输出层。这两层完全互连，该连接沿着正向（自底向上）和反馈（自顶向下）两个方向进行。当ART-1网络在工
转载
2023-07-12 23:59:07
62阅读
从以下三个方面把握：1）网络整体结构是怎样的？2）创新点是什么？（包含网络结构的创新和比较新颖的激活函数等方法）3）创新点可以带来什么好效果？为什么？主要讨论CNN的发展，将按下图的CNN发展史进行描述：
转载
2023-10-24 15:01:56
89阅读
写在前面在训练神经网络的时候，我们难免会看到Batch、Epoch和Iteration这几个概念。曾对这几个概念感到模糊，看了网上的一些文章后，在这里做几个小小的总结。名词解释：Epoch（时期）：当一个完整的数据集通过了神经网络一次并且返回了一次，这个过程称为一次>epoch。（也就是说，所有训练样本在神经网络中都 进行了一次正向传播 和一次反向传播 ）
再通俗一点，一个Epoch就是将所
转载
2023-09-07 21:44:55
82阅读
1.算法功能简介 神经网络是模仿人脑神经系统的组成方式与思维过程而构成的信息处理系统，具有非线性、自学性、容错性、联想记忆和可以训练性等特点。在神经网络中，知识和信息的传递是由神经元的相互连接来实现的，分类时采用非参数方法，不需对目标的概率分布函数作某种假定或估计，因此网络具备了良好的适应能力和复杂的映射能力。神经网络的运行包括两个阶段：一是训练或学习阶段（
转载
2023-12-01 11:04:12
55阅读
目录1、神经网络的本质（复合函数）1.1 神经网络的任务1.2 线性神经网络例子2、损失函数（对数函数） 2.1 损失函数的本质 2.2 损失函数举例2.3 前向传播1、神经网络的本质（复合函数） 如果非要用一句话概括神经网络，我找到了一句比较合适的句子：一个多层的复合函数：
转载
2023-07-07 19:19:10
65阅读
多层网络的学习能力比单层感知机强很多，要训练多层网络，简单的感知机学习规则显然不够，需要更强大的学习算法。误差逆传播（Error BackPropagation）算法就是学习算法中的杰出代表。现实任务中使用神经网络时，大多是使用BP算法进行训练。需要注意的是，BP算法不仅可以用于多层前馈神经网络，还可以用于其他类型的神经网络。通常说BP网络时，常指利用BP算法训练的多层前馈神经网络。
转载
2023-01-11 11:19:53
324阅读
人工神经网络算法是模拟人的神经网络的一种算法.该算法像人一样，具有一定的学习能力。人工神经网络可以学会它所能表达的任何东西.该算法在模拟人类抽象思维方面较传统的算法具有优势，如图像识别 (人脸识别，车牌识别)， 声音识别方面已经有成熟的运用。 举个简单的例子可以说明人工神经网络和传统算法的差别所在 (等会也要实现):假设要解决这个问题: 写一个程序， 判断 0, 1, 2, 3 ...
转载
2023-07-19 12:56:19
132阅读
作者 | 刘忠雨 图神经网络（GNN，Graph Neural Networks）是 2019 年 AI 领域最热门的话题之一。图神经网络是用于图结构数据的深度学习架构，将端到端学习与归纳推理相结合，业界普遍认为其有望解决深度学习无法处理的因果推理、可解释性等一系列瓶颈问题，是未来 3 到 5 年的重点方向。2019 年图神经网络有哪些研究成果值得关注？2020 年它又将朝什么方向发展？让我们一起
转载
2023-12-11 09:47:15
61阅读
浅尝不辄止一.导论1.1 卷积网络是干什么的？1.2 CNN怎么进行识别呢？1.3 卷积网络各个层次结构1.4 开始引入Features二.核心内容：2.1 输入层2.2 卷积运算2.2.1 卷积2.2.2 步长（stride）2.3 pooling池化层2.4 非线性激活层2.5 全连接层2.5.1 局部感知2.5.2 参数共享2.5.3 全连接层三.神经网络的训练与优化四.CNN的优缺点优点
转载
2023-11-13 11:58:09
101阅读
