小总结一下Inception v1——Inception v4的发展历程1.Inception V1通过设计一个系数网络结构，但是能够产生稠密的数据，既能增加神经网络的表现，又能保证计算资源的使用效率。通过Split-Merge包含了1 * 1,3 * 3,5 * 5的卷积，3*3的池化，可以增加网络对多尺度的适应性，当然，增加了网络的宽度。这里v1网络给人眼前一亮的是有一个Bottleneck
转载
2024-03-24 10:42:22
75阅读
原文链接：https://arxiv.org/pdf/1602.07261.pdf 文章目录0 摘要1 介绍2 相关工作3 架构选择3.1 纯Inception块3.2 残差Inception块3.3 残差的缩放4 训练方法5 实验结果6 总结 0 摘要非常深的卷积网络是近年来图像识别性能最大进步的核心。一个例子是在Inception架构，它已经被证明能够以相对较低的计算成本获得非常好的性能。最近
转载
2024-04-05 10:00:21
75阅读
YOLOv3: An Incremental ImprovementYOLOv3使用的网络比YOLOv1和YOLOv2都要大，但推断速度仍旧还算可以，与RetinaNet（另一个一阶段的网络）相比的话效果相当，但速度快了好几倍，和SSD对比也是如此。摘要和引言乃至全篇文章，写得非常口水话，更多是一篇博客而不是学术论文，本文也不避开这些口水话，尽量都翻译了。自述：作者说他这一年没做什么研究，花了大量
ResNet神经网络随着深度加深，会产生很多问题，比如梯度消失和梯度爆炸，可能还会使网络恶化性能变差，所以有时深层次的网络效果反而没有浅层网络好。深层次的网络按理说应该可以学会浅层+恒等映射的形式，这样也能达到浅层的效果，但是由于网络degradation的问题，这并不成立，也就是说，深层次网络解的集合没有包含浅层解。为了解决这一问题，Residual就被提出了。Residual 模块 从上图中可
转载
2024-04-22 19:14:17
91阅读
1 一些经典CNN模型这些经典CNN的架构已经没有学习的必要，只要知道它们引入了什么好的训练方法即可。1.1 LeNet最开始Yann Lecun发明的CNN即是LeNet，用来做手写数字的识别，LeNet-5是2层卷积+2层全连接+1层高斯连接（现在已经不怎么用了）。每层卷积操作后面还跟着下采样，这里的下采样就是使用例如隔行采样的传统下采样方法。1.2 AlexNet2012年Hinton的学生
转载
2024-06-15 22:56:25
170阅读
1 前言在计算机视觉领域，卷积神经网络（CNN）已经成为最主流的方法，比如最近的GoogLenet，VGG-19，Incepetion等模型。CNN史上的一个里程碑事件是ResNet模型的出现，ResNet可以训练出更深的CNN模型，从而实现更高的准确度。ResNet模型的核心是通过建立前面层与后面层之间的“短路连接”（shortcuts，skip connection），这有助于训练过程中梯度的
转载
2024-06-29 08:53:12
135阅读
####1. 网络结构#####1.1 不同结构的对比VGG一共提供了6个网络版本，卷积层分为5个stage，不同的是，其他结构与A相同；结构 B：在 A 的 stage2 和 stage3 分别增加一个3x3的卷积层，stage3，stage5 分别增加一个1x1的卷积层，总计16层；结构D：在 C 的基础上，stage4，有13个卷积层，stage3，stage5 分别再增加一个3x3的卷积层
转载
2024-08-15 16:07:57
64阅读
VGGNet是由牛津大学的视觉几何组（Visual Geometry Group）和谷歌旗下DeepMind团队的研究员共同研发提出的，获得了ILSVRC 2014（ 2014年ImageNet图像分类竞赛） 的第二名，将 Top-5错误率降到7.3%， 在Top-5中取得了92.3%的正确率，同年的冠军是googlenet。 目前使用比较多的网络结构主要有ResNet（152-1000层），Go
转载
2024-05-01 14:23:12
91阅读
文章目录一、两种结构的介绍二、inception 结构的tensor拼接方法三、Residual 结构的tensor相加 参考博客：图像分类：GoggLeNet网络、五分类 flower 数据集、pytorchResNet 网络结构与残差连接介绍一、两种结构的介绍GoggLeNet中的 inception 结构通过并联多个具有卷积核大小的卷积层，增加了网络层的宽度。ResNet中的 Residu
转载
2024-03-27 13:21:50
58阅读
Deep Residual Learning for Image Recognition1. 思想作者根据输入将层表示为学习残差函数。实验表明，残差网络更容易优化，并且能够通过增加相当的深度来提高准确率。核心是解决了增加深度带来的副作用（退化问题），这样能够通过单纯地增加网络深度，来提高网络性能。作者在ImageNet上实验了一个152层的残差网络，比VGG深8倍，取得了3.57%的错误率。作者通
转载
2024-05-05 15:14:50
64阅读
AlexNetAlexNet是在IMAGENET比赛中第一个获奖的CNN结构。VGGNetVGGNet和AlexNet实际上都是对最传统的CNN进行重复堆叠的实践，将效果较好的结构记录下来方便以后继续使用，常用的有vgga(11层)，vgg16和vgg19。结构如下： (示意图来自于cs231n的课件，有一点小问题，vgg16应该是3个conv层后接pool)ResNet论文原文 https:
转载
2024-03-17 15:10:39
47阅读
一.XceptionXception是在InceptionV3基础上修改的，主要引入了深度可分离卷积，将空间和通道的操作进行解耦合。与“extreme” Inception两个区别：1,1×1卷积的顺序，Xcption用于3×3之后，而Inception用于之前2,Xception在1×1和3×3之后都没用relu，而Inception都用了。3*3做空间相关性，1×1做通道相关性。
RESNET 随着网络深度增加，网络的准确度应该同步增加，当然要注意过拟合问题。但是网络深度增加的一个问题在于这些增加的层是参数更新的信号，因为梯度是从后向前传播的，增加网络深度后，比较靠前的层梯度会很小。这意味着这些层基本上学习停滞了，这就是梯度消失问题。深度网络的第二个问题在于训练，当网络更深时意味着参数空间更大，优化问题变得更难，因此简单地去增加网络深度反而
转载
2024-03-20 11:43:51
166阅读
目录1. 介绍2. tools 代码文件夹2.1 get_palette 2.2 transform 3. train 部分4. 结果展示1. 介绍本文使用resnet 34作为backbone代替传统unet的 vgg，实现对PASCAL VOC的分割训练了两百个epoch后，mean iou到达了0.4左右，没有达到预期的效果完整的下载地址：基于UNn
稠密连接网络（DENSENET）ResNet中的跨层连接设计引申出了数个后续工作。本节我们介绍其中的⼀一个：稠密连接网络（DenseNet） 。 它与ResNet的主要区别如图5.10所示。图5.10中将部分前后相邻的运算抽象为模块 A和模块B 。与ResNet的主要区别在于，DenseNet⾥模块B的输出不是像ResNet那样和模块 A的输出相加，⽽是在通道维上连结。这样模块 A的输出可以直接传
转载
2024-04-28 13:56:07
60阅读
神经网络学习小记录46——Densenet模型的复现详解学习前言什么是Densenet代码下载Densenet1、Densenet的整体结构2、DenseBlock3、Transition Layer网络实现代码 学习前言什么是DensenetResNet模型的出现使得深度学习神经网络可以变得更深，进而实现了更高的准确度。ResNet模型的核心是通过建立前面层与后面层之间的短路连接（shortc
转载
2024-08-21 11:02:20
150阅读
各个分类网络的结构(持续更新) 文章目录一、LeNet二、AlexNet三、VGG四、ResNet详解 PS: 以下内容只详细讲解ResNet网络，在其基础上，其余网络只展示基本结构 torchvision.datasets.数据集简介： (1)MNIST：10个类，60000个训练数据，10000个测试数据，(batch_size, 1, 28, 28) (2)CIFAR10：10个类，5000
转载
2024-04-02 21:35:16
900阅读
背景该篇主要介绍Inception系列，主要包含Inception V1、Inception V2、Inception V3、Inception V4、Inception-Resnet。Google家的Inception系列模型提出的初衷主要为了解决CNN分类模型的两个问题，其一是如何使得网络深度增加的同时能使得模型的分类性能随着增加，而非像简单的VGG网络那样达到一定深度后就陷入了性能饱和的困境
转载
2024-04-15 14:52:07
99阅读
神经网络与深度学习实验day12-基于ResNet18完成cifar-10图像分类任务5.5 实践：基于ResNet18网络完成图像分类任务5.5.1 数据处理5.5.1.1数据集导入5.5.1.2 划分训练集、验证集、测试集5.5.2 模型构建5.5.3 模型训练5.5.4 模型评价5.5.5 模型预测思考题1. 什么是“预训练模型”？什么是“迁移学习”？（必做）2. 比较“使用预训练模型”和
本文主要介绍一下AlexNet、VGG、GoogLeNet以及ResNet这几个经典模型。顺便附上部分PyTorch实现。网上的各种介绍很多，我也就不再重复说了。这篇文章主要是说说自己的感想。今天看AlexNet其实已经颇为平淡了，毕竟这几年在网络工程上已经有了很大的进步，AlexNet的很多设计也不再被使用，例如LRN就被BN代替。不过当年AlexNet在两个GPU上跑的设计，倒是影响了后面出现
转载
2024-04-09 23:00:39
138阅读
