简 介: 这是love1005lin在CSDN上2021-11-19发布的一篇深度学习的卷积神经网,内容整理的精简,移动,现在将其进行转载,并发布在公众号“TSINGHUAZHUOQING”中。深度学习-卷积神经网络(CNN) : 关键词: CNN 
           基本原理 
         
           目 录 
          Contents            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-12 11:45:45
                            
                                103阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            之前被问到了CNN类基础模型的一些特性,比如1X1卷积,还有经典卷积网络发展及为什么采用此结构,结果被问住了。学习过程中其实没有做过更深层次的思考,比如为什么会选择这种架构,可不可以采用其他结构来替换,只是会用一些经典模型。到最后别人问几个为什么就不知道了。基础还是要加强呀。现在先参考别人的专栏还有论文总结一下。LeNet-5最早的卷积网络结构,引入了卷积结构提取图像特征,同时包含池化,激活函数和            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-20 18:15:09
                            
                                50阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            其实在 4 个月之前我写过一篇叫“Python · 神经网络(八)· ConvLayer”的文章,不过现在看回去觉得写的有点太概括性了;如果直接往下写的话,估计观众老爷们(以及我自己)的逻辑都理不顺 _(:з」∠)_所以我打算重写一次,而且这次会对之前 NN 系列的文章做一个汇总性说明;换句话说,我会从头开始讲如何实现 CNN 而不是接着 NN 的逻辑来讲(这也是为什么我没有接着用“神经网络”这个            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-12 11:50:46
                            
                                74阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            从广义上来说,NN(或是更美的DNN)确实可以认为包含了CNN、RNN这些具体的变种形式。在实际应用中,所谓的深度神经网络DNN,往往融合了多种已知的结构,包括卷积层或是LSTM单元。但是就题主的意思来看,这里的DNN应该特指全连接的神经元结构,并不包含卷积单元或是时间上的关联。因此,题主一定要将DNN、CNN、RNN等进行对比,也未尝不可。 其实,如果我们顺着神经网络            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-02 11:06:19
                            
                                39阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            由于深度学习的方便灵活,其受到了CV以及NLP领域的的极大关注,特别是CV领域,随着深度学习网络结构的层出不穷,CV领域的baseline被极大地提升。本文回顾总结CV领域中几种网络结构的特点及其动机。 大体有两个方向:1)有效加深网络,2)网络轻量化。1、LeNet 2层卷积,3层全连接层,现在看来该网络稀松平常、没有任何特点,但是在当时,LeNet是开创性的工作。2、AlexNet (2012            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-20 13:22:56
                            
                                0阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            1 LeNet-5 (1998) 第一个被提出的卷积网络架构,深度较浅,用于手写数字识别。 2 AlexNet (2012)架构为:CONV1 ->MAX POOL1 ->NORM1 ->CONV2 ->MAX POOL2 ->NORM2 ->CONV3->CONV4->CONV5->Max POOL3-            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-04 16:30:59
                            
                                74阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            CNN卷积神经网络详解Why CNN局部感受野(local receptive fields)权值共享(Shared weights and biases)池化(Pooling)总的来看 Why CNN首先回答这样一个问题,为什么我们要学CNN,或者说CNN为什么在很多领域收获成功?还是先拿MNIST来当例子说。MNIST数据结构不清楚的话自行百度。。我自己实验用两个hidden layer的D            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-26 15:26:27
                            
                                30阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            CNN入门学习CNN —— Convolutional Neural Network —— 卷积神经网络在2012年的ImageNet(类似计算机视觉的奥林匹克比赛),CNN崭露头角,大幅度降低了图片分类的误差。从此之后,各个科技巨头公司开始使用深度学习作为技术战略部署,体现在自己的公司文化上。比如:Facebook 运用神经网络用于自动标注算法谷歌 使用 神经网络图片搜索亚马逊使用商品推荐Pin            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-17 09:56:18
                            
                                8阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、二叉树入门之前我们实现的符号表中,不难看出,符号表的增删查操作,随着元素个数N的增多,其耗时也是线性增多的,时间复杂度都是O(n),为了提高运算效率,接下来我们学习树这种数据结构。1.1 树的基本定义树是我们计算机中非常重要的一种数据结构,同时使用树这种数据结构,可以描述现实生活中的很多事物,例如家谱、单位的组织架构、等等。树是由n(n>=1)个有限结点组成一个具有层次关系的集合。把它叫            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-10-09 21:06:22
                            
                                39阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            今天是国庆节,上午文老师和张敬老师给我们讲了模式识别,神经网络以及卷积神经网络的一些知识,学到了很多新的东西,对于之前不求甚解的逻辑性问题也懂了不少,豁然开朗的感觉,特此进行记录。  模式,PCA,SVM,神经网络,范数的作用,局部连接的神经网络,卷积神经网络,卷积神经网络的三个重点,待深入问题  1 模式识别  Pattern与feature  根据解析几何原理,画一条线,线的左边小于0,线的右            
                
         
            
            
            
                  卷积网络通常只由三种类型的层组成:CONV、POOL(除非另有说明,否则我们默认假设为Max POOL)和FC(fully connected的缩写)。我们还将把RELU激活函数显式地写为一个层,它使用非线性函数对数据进行处理。下面,我们将讨论如何将这几个层堆叠在一起以形成整个网络。   ConvNet架构最常见的形式是堆叠几个CONV-RELU层,然后在它们后面加上池化层,并重复此模            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-19 13:40:33
                            
                                44阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            NO.1卷积神经网络基本概念         CNN是第一个被成功训练的多层深度神经网络结构,具有较强的容错、自学习及并行处理能力。最初是为识别二维图像而设计的多层感知器,局部连接和权值共享网络结构类似于生物神经网络。卷积神经网络的权值共享(weight sharing)的网络结构显著降低了模型的复杂度,减少了权值的数量。神经网络NN的基本组成包括            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-30 21:58:30
                            
                                71阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            几个比较有名的卷积神经网络结构,详细的请看CS231nLeNet:第一个成功的卷积神经网络应用AlexNet:类似LeNet,但更深更大。使用了层叠的卷积层来抓取特征(通常是一个卷积层马上一个max pooling层)ZF Net:增加了中间卷积层的尺寸,让第一层的stride和filter size更小。GoogLeNet:减少parameters数量,最后一层用max pooling层代替了全            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-04 09:33:20
                            
                                50阅读
                            
                                                                             
                 
                
                             
         
            
            
            
             待学习区:1、先提一嘴,还有个正则化的没学。(减少过拟合)2、还一个 CNN反向传播没学。代码基于keras库LeNet-51、网络结构400是5*5*16个参数,经过两层全连接层Fully connected layer最后到0-9这十个神经元输出。450+6是5×5×3×6个+6个偏置,一个卷积核一个偏置。48000+120就是用120个神经元处理400个特征,120×400+12            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-20 23:10:58
                            
                                28阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             目录引言动机方法Meta Mobile BlockInverted Residual Mobile BlockEMO实验参数比对性能指标可视化效果结论 Title: Rethinking Mobile Block for Efficient Neural ModelsAuthor:Jiangning Zhang et al. (腾讯优图、浙大、北大、武大)Paper: https://arxiv            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-10-21 13:21:29
                            
                                21阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            CNN (Convolutional Neural Network) 顾名思义,将卷积用在了网络结构中,本质还是利用卷积核提取二维数组(图片)中的特征信息。其运算过程如下图,蓝色部分为输入图片,绿色部分为卷积操作之后得到的特征图,蓝色边缘虚线部分是作的填充,使得卷积之后的特征图与原图大小相同。 CNN的鼻祖是1998年Yan LeCun首次提出的神经网络LeNet-5,后来20年间没有大的突破被传            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-31 10:31:00
                            
                                45阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            文章目录经典CNN网络经典网络的改进点AlexNetZFNetVGGNetGoogleNet InceptionInception V3ResNet50MobileNetShuffleNetEffcientNet 经典CNN网络AlexNetZFNetVGGGoogleNet InceptionInception V3ResNet50MobileNetShuffleNetEffcientNet经            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-07 19:17:17
                            
                                79阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、概述论文:Densely Connected Convolutional Networks 论文链接:https://arxiv.org/pdf/1608.06993.pdf作为CVPR2017年的Best Paper, DenseNet脱离了加深网络层数(ResNet)和加宽网络结构(Inception)来提升网络性能的定式思维,从特征的角度考虑,通过特征重用和旁路(Bypass)设置,既大            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-22 15:49:31
                            
                                113阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            第九讲 CNN架构     上一章中讨论了不同的深度学习框架,包括有TensorFlow、PyTorch、Caffe,这一章中将会讨论CNN架构方面的内容。 在这里会深入探讨那些ImageNet比赛获胜者所用的最多的神经网络架构,比如AlexNet、VGG、GoogleNet和ResNet。   (1)LeNet  它可以看作是通信网络的第一个实例,并在实际应用中取得            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-16 05:07:08
                            
                                56阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            CNN的网络结构跟 TNN的网络结构是十分相似的。TNN缺点:全连接,数据大 的时候参数极多,处理十分浪费。大多的参数也会导致网络过度拟合(why?)。正因为这个缺点,CNN就出现了。CNN整体采用局部连接,实现参数共享。大量减少参数数目。1.CNN的每一层神经元排列结构与TNN的区别?CNN中每一层的的神经元排列成3个维度。2.CNN中各个层的分布:(1)输入层,输入的为原始数据大小。例如:32            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-24 19:29:15
                            
                                33阅读
                            
                                                                             
                 
                
                                
                    