一.XceptionXception是在InceptionV3基础上修改的，主要引入了深度可分离卷积，将空间和通道的操作进行解耦合。与“extreme” Inception两个区别：1,1×1卷积的顺序，Xcption用于3×3之后，而Inception用于之前2,Xception在1×1和3×3之后都没用relu，而Inception都用了。3*3做空间相关性，1×1做通道相关性。
VGGNet是由牛津大学的视觉几何组（Visual Geometry Group）和谷歌旗下DeepMind团队的研究员共同研发提出的，获得了ILSVRC 2014（ 2014年ImageNet图像分类竞赛） 的第二名，将 Top-5错误率降到7.3%， 在Top-5中取得了92.3%的正确率，同年的冠军是googlenet。 目前使用比较多的网络结构主要有ResNet（152-1000层），Go
转载
2024-05-01 14:23:12
94阅读
AlexNetAlexNet是在IMAGENET比赛中第一个获奖的CNN结构。VGGNetVGGNet和AlexNet实际上都是对最传统的CNN进行重复堆叠的实践，将效果较好的结构记录下来方便以后继续使用，常用的有vgga(11层)，vgg16和vgg19。结构如下： (示意图来自于cs231n的课件，有一点小问题，vgg16应该是3个conv层后接pool)ResNet论文原文 https:
转载
2024-03-17 15:10:39
47阅读
原文链接：https://arxiv.org/pdf/1602.07261.pdf 文章目录0 摘要1 介绍2 相关工作3 架构选择3.1 纯Inception块3.2 残差Inception块3.3 残差的缩放4 训练方法5 实验结果6 总结 0 摘要非常深的卷积网络是近年来图像识别性能最大进步的核心。一个例子是在Inception架构，它已经被证明能够以相对较低的计算成本获得非常好的性能。最近
转载
2024-04-05 10:00:21
79阅读
ResNet神经网络随着深度加深，会产生很多问题，比如梯度消失和梯度爆炸，可能还会使网络恶化性能变差，所以有时深层次的网络效果反而没有浅层网络好。深层次的网络按理说应该可以学会浅层+恒等映射的形式，这样也能达到浅层的效果，但是由于网络degradation的问题，这并不成立，也就是说，深层次网络解的集合没有包含浅层解。为了解决这一问题，Residual就被提出了。Residual 模块 从上图中可
转载
2024-04-22 19:14:17
91阅读
小总结一下Inception v1——Inception v4的发展历程1.Inception V1通过设计一个系数网络结构，但是能够产生稠密的数据，既能增加神经网络的表现，又能保证计算资源的使用效率。通过Split-Merge包含了1 * 1,3 * 3,5 * 5的卷积，3*3的池化，可以增加网络对多尺度的适应性，当然，增加了网络的宽度。这里v1网络给人眼前一亮的是有一个Bottleneck
转载
2024-03-24 10:42:22
75阅读
Deep Residual Learning for Image Recognition1. 思想作者根据输入将层表示为学习残差函数。实验表明，残差网络更容易优化，并且能够通过增加相当的深度来提高准确率。核心是解决了增加深度带来的副作用（退化问题），这样能够通过单纯地增加网络深度，来提高网络性能。作者在ImageNet上实验了一个152层的残差网络，比VGG深8倍，取得了3.57%的错误率。作者通
转载
2024-05-05 15:14:50
64阅读
文章目录一、两种结构的介绍二、inception 结构的tensor拼接方法三、Residual 结构的tensor相加 参考博客：图像分类：GoggLeNet网络、五分类 flower 数据集、pytorchResNet 网络结构与残差连接介绍一、两种结构的介绍GoggLeNet中的 inception 结构通过并联多个具有卷积核大小的卷积层，增加了网络层的宽度。ResNet中的 Residu
转载
2024-03-27 13:21:50
58阅读
稠密连接网络（DENSENET）ResNet中的跨层连接设计引申出了数个后续工作。本节我们介绍其中的⼀一个：稠密连接网络（DenseNet） 。 它与ResNet的主要区别如图5.10所示。图5.10中将部分前后相邻的运算抽象为模块 A和模块B 。与ResNet的主要区别在于，DenseNet⾥模块B的输出不是像ResNet那样和模块 A的输出相加，⽽是在通道维上连结。这样模块 A的输出可以直接传
转载
2024-04-28 13:56:07
64阅读
背景该篇主要介绍Inception系列，主要包含Inception V1、Inception V2、Inception V3、Inception V4、Inception-Resnet。Google家的Inception系列模型提出的初衷主要为了解决CNN分类模型的两个问题，其一是如何使得网络深度增加的同时能使得模型的分类性能随着增加，而非像简单的VGG网络那样达到一定深度后就陷入了性能饱和的困境
转载
2024-04-15 14:52:07
102阅读
各个分类网络的结构(持续更新) 文章目录一、LeNet二、AlexNet三、VGG四、ResNet详解 PS: 以下内容只详细讲解ResNet网络，在其基础上，其余网络只展示基本结构 torchvision.datasets.数据集简介： (1)MNIST：10个类，60000个训练数据，10000个测试数据，(batch_size, 1, 28, 28) (2)CIFAR10：10个类，5000
转载
2024-04-02 21:35:16
904阅读
神经网络与深度学习实验day12-基于ResNet18完成cifar-10图像分类任务5.5 实践：基于ResNet18网络完成图像分类任务5.5.1 数据处理5.5.1.1数据集导入5.5.1.2 划分训练集、验证集、测试集5.5.2 模型构建5.5.3 模型训练5.5.4 模型评价5.5.5 模型预测思考题1. 什么是“预训练模型”？什么是“迁移学习”？（必做）2. 比较“使用预训练模型”和
里程碑式创新：ResNet2015年何恺明推出的ResNet在ISLVRC和COCO上横扫所有选手，获得冠军。ResNet在网络结构上做了大创新，而不再是简单的堆积层数，ResNet在卷积神经网络的新思路，绝对是深度学习发展历程上里程碑式的事件。闪光点：层数非常深，已经超过百层引入残差单元来解决退化问题从前面可以看到，随着网络深度增加，网络的准确度应该同步增加，当然要注意过拟合问题。但是网络深度增
转载
2024-06-18 12:57:38
124阅读
前言 残差网络Resnet，被誉为撑起计算机视觉半边天的文章，重要性不言而喻。另外，文章作者何凯明，在2022年AI 2000人工智能最具影响力学者排行里排名第一： 为什么这篇文章影响力这么大呢？&n
转载
2024-03-27 16:05:18
117阅读
YOLO v2 v3今天由我来为大家介绍 YOLO 算法的改进，YOLO v2 和 YOLO v3。今天的报告分为三个部分，YOLO v2 , YOLO 9000, YOLO v3。v2是对v1的改进，YOLO9000是作者利用v2训练的一个可以识别出9000种物体的模型，v3是对v1v2的改进。 文章目录YOLO v2 v3YOLO v1YOLO v2anchor boxesanchor box
目录ALexNet(2012研究背景思路和主要过程网络模型数据增强主要贡献点ResNet(2015研究背景思路和主要过程Residual block(残差块)和shortcut connections(捷径连接)bottleneck block-瓶颈模块主要贡献点:Denset(2017研究背景思路和主要过程DenseBlock+Transitio结构主要贡献和启发总结与思考ALexNet(201
Inception v4由于历史的原因, Inception v3继承了太多的历史包袱,设计并非最优的,技术上的限制主要是为了模型能在DistBelief进行分布式训练。迁移到Tensorflow后,去掉不必要的历史包袱,做一个简单一致的网络设计,有了Inception v4.Inception v4网络架构其中包含了Stem、Inception、Reduction、Avarge Pooling、
转载
2024-06-20 12:59:27
23阅读
ResNeXt就是一种典型的混合模型，由基础的Inception+ResNet组合而成，本质在gruops分组卷积，核心创新点就是用一种平行堆叠相同拓扑结构的blocks代替原来 ResNet 的三层卷积的block，在不明显增加参数量级的情况下提升了模型的准确率，同时由于拓扑结构相同，超参数也减少了，便于模型移植。关于论文更详细的解读可以看我上一篇笔记：经典神经网络论文超详细解读（八）——Res
转载
2024-04-24 09:46:18
33阅读
论文名称：RepVGG: Making VGG-style ConvNets Great Again 论文下载地址：https://arxiv.org/abs/2101.03697 官方源码（Pytorch实现）：https://github.com/DingXiaoH/RepVGG 文章目录0 前言1 RepVGG Block详解2 结构重参数化2.1 融合Conv2d和BN2.2 Conv2d
前言 这段时间到了新公司，工作上开始研究DeepLearning以及TensorFlow，挺忙了，前段时间看了VGG和deep residual的paper，一直没有时间写，今天准备好好把这两篇相关的paper重读下。 VGGnet VGG解读 VGGnet是Oxford的Visual Geometry Group的team，在ILSVRC 2014上的相关工作，主要工作是证明了增加网络的深度能
