0. 摘要 众所周知，神经网络的效果和神经网络的层数有很大的关系，通常越深的网络效果越好，训练难度也就越大。但是随着深度进一步增加，网络的训练代价大幅上升，但效果却没有提升，甚至有所下降，为了解决这个问题，论文提出了深度残差模块并在此基础上形成了深度残差学习框架ResNet，网络层数更深，优化更加简单，并且能够得到和深度对应的更好的训练结果。1. 简介 深度卷积神经网络不断发展，带来了图片分类
FPN与Retina Net个人理解Retina Net前的目标检测网络存在的问题及原因：one-stage 算法如YOLO系列速度快但精度不够高原因：训练过程中类别分布不平衡,容易受到大量简单样本的支配two-stage算法如Faster RCNN精度高但是速度不够快原因: 两次的预测降低了速度FPN网络的发展演变CNN：直接使用最后一层特征图上述方法会丢失一些细节特征，因为不同层会提供不同的图
先记录下今天听到大神的言论：现在我们做的计算机视觉任务，可以分为3类， 一类是降维，比如将原始输入图像降维成类别概率向量（num_classes*1），这是分类任务，第二类是输出与输入图像具有相同的分辨率（如图像去噪，风格迁移），比如使用深度学习对图像进行去噪，第三类是输出图像的分辨率将会比输入图像高，比如super resolution超分辨率，通常情况下，
转载
2024-10-11 14:32:21
67阅读
torch环境是1.8.1import torch
from torch import nn
from torch.nn import functional as F
class ResidualBlock(nn.Module): # 定义ResidualBlock类 （11）
"""实现子modual：residualblock"""
def __init__(self,
转载
2024-06-10 07:21:14
39阅读
神经网络（CNN）神经网络主要有三个部分组成, 分别为:网络结构 —— 描述神经元的层次与连接神经元的结构.激活函数(激励函数) —— 用于加入非线性的因素, 解决线性模型所不能解决的问题.参数学习方法的选择(一般为权重值W和偏置项b)一、CNN领域划分图像处理领域
图像识别图像标注图像主题生成图像内容生成…视频处理领域
视频分类视频标准视频预测…自然语言处理（NLP）领域
对话
转载
2024-05-04 18:17:35
102阅读
【模型顺序】：LeNet-5；AlexNet；ZFNet；VGGNet；Net In Net；GoogLeNet Inception V1-V4；ResNet；DenseNet；NasNet；SE-Net；MobileNetV1-V2 【LeNet-5】1、出处：1998年；Yann LeCun；2、贡献：非常高效的手写体字符识别卷积神经网络；是其他复杂CNN的基础；3、网络
转载
2024-05-23 13:43:43
106阅读
# 引言 深度残差网络的提出是深度学习领域的里程碑事件，它使得网络可以做大做深，现在主流的网络中都有残差结构 # 问题 - ##深度网络的退化 深度网络有一个普遍的问题：随着网络层数的增加，准确率是先增后减的，准确率增加是很好理解的，毕竟网络变深之后，模型的学习能力也随之变强，结果也相应地变好，但是结果变差是反直觉的，这种现象被称为网络退化，有人给出解释：模型的参数规模超过数据规模，模型可能发生了
转载
2024-09-02 12:44:13
244阅读
作者：Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian SunImageNet Top5错误率： 3.57%主要思想：Residual，残差，名字就体现了，不学绝对值，而学差值。不去学绝对的完全重构映射，只学映射后相对于原来的偏差，即和identity的差值，绝对变相对，容易多了。前向，容易学习，后向，有了梯度高速通道，更好训练，能避免梯度消失。基本结构网
转载
2024-03-15 11:05:59
60阅读
前言 在学计算机视觉的这段时间里整理了不少的笔记，想着就把这些笔记再重新整理出来，然后写成Blog和大家一起分享。目前的计划如下（以下网络全部使用Pytorch搭建）：专题一：计算机视觉基础介绍CNN网络(计算机视觉的基础)浅谈VGG网络，介绍ResNet网络（网络特点是越来越深）介绍GoogLeNet网络（网络特点是越来越宽）介绍DenseNet网络（一个看似十分NB但是却实际上用得不多的网络
转载
2024-05-22 08:55:09
76阅读
上世纪科学家们发现了几个视觉神经特点，视神经具有局部感受野，一整张图的识别由多个局部识别点构成；不同神经元对不同形状有识别能力，且视神经具有叠加能力，高层复杂的图案可以由低层简单线条组成。之后人们发现经过conclusional的操作，可以很好反映视神经处理计算的过程，典型的是1998年LeCun发明的LeNet-5，可以极大地提升识别效果。本文主要就convolutional layer、poo
转载
2024-08-08 12:09:24
144阅读
一、对网络的理解1、网络加深之后，性能不升反降，作者在论文中对比了两种网络一种是plain net 一种即是本文提出的和plain net配置层数（34层） 参数一样的ResNet，作者猜想plain net 训练错误率更高的原因可能是因为这种深网络具有指数级低的收敛速度，且作者排除了是前向和后向传播时梯度消失或爆炸的原因，因为网络中加入了BN层；所以深网络难以训练，学起来很困难，现有的训练方法难
转载
2024-05-08 23:19:55
56阅读
AMiner论文推荐 论文标题：UCTransNet: Rethinking the Skip Connections in U-Net from a Channel-wise Perspective with Transformer 论文链接：https://www.aminer.cn/pub/613accd65244ab9dcb4169bf?f=cs 最近的很多医疗语义分割方法都采用了带有编解
转载
2024-09-29 08:10:02
60阅读
论文题目：Deep Residual Learning for Image Recognition论文题目：Identity Mappings in Deep Residual Networks\ResNet v1： DBL结构ResNet v2： post-activation or pre-activation BLD的结构， 先使用BN进行预激活。 深度学习最显著
转载
2024-03-14 17:43:53
245阅读
卷积神经网络CNN原理详解(一)——基本原理神经网络的预备知识为什么要用神经网络？特征提取的高效性。 大家可能会疑惑，对于同一个分类任务，我们可以用机器学习的算法来做，为什么要用神经网络呢？大家回顾一下，一个分类任务，我们在用机器学习算法来做时，首先要明确feature和label，然后把这个数据"灌"到算法里去训练，最后保存模型，再来预测分类的准确性。但是这就有个问题，即我们需要实
转载
2024-08-08 10:29:48
29阅读
第九讲的概述如下：这一讲就是介绍几个CNN的网络，AlexNet、VGG、GoogleNet、ResNet。1. AlexNet 第一个在ImageNet中获胜的大型卷积神经网络。 基本结构：卷积层，池化层，归一化，卷积，池化，归一化，最后是一些全连接。1.1 结构  
转载
2023-12-23 20:27:53
144阅读
1 绪论 20世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究，提出了感受野这个概念，到80年代，Fukushima在感受野概念的基础之上提出了神经认知机的概念，可以看作是卷积神经网络的第一个实现网络，神经认知机将一个视觉模式分解成许多子模式（特征），然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的
转载
2024-08-08 11:44:58
131阅读
旋转有一个绕着什么转的问题。通常的做法是以图像的中心为圆心旋转，将图像上的所有像素都旋转一个相同的角度。图像的旋转变换是图像的位置变换，但旋转后图像的大小一般会改变。和平移变换一样，既可以把转出显示区域的图像截去，也可以扩大显示区域以显示完整的图像，如下图所示。A0逆时针旋转θ变成A1，r是该点到原点的距离，则旋转前： A1的坐标为 写成矩阵的形式为： 其逆变换矩阵如下： 上面公式是旋转变换的基
转载
2024-10-11 22:11:32
59阅读
CNN(Convolutional Neural Network) 卷积神经网络（简称CNN）最早可以追溯到20世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究表明，大脑对外界获取的信息由多层的感受野(Receptive Field)激发完成的。在感受野的基础上，1980年Fukushima提出了一个理论模型Neocognitron是感受野在人工
转载
2023-10-08 07:43:52
140阅读
一 基本概念1 全连接，局部连接，权值共享 全连接：所有输入点都需要与下一个节点相连接
转载
2024-03-22 15:58:22
44阅读
简介LeNet是一个早期用来识别手写数字图像的卷积神经网络。这个名字来源于LeNet论文的第一作者Yann LeCun。LeNet展示了通过梯度下降训练卷积神经网络可以达到手写数字识别在当时最先进的结果。这个奠基性的工作第一次将卷积神经网络推上舞台，为世人所知。LeNet分为卷积层块和全连接层块两个部分，其网络结构如下图所示。卷积层块卷积层块里的基本单位是卷积层后接最大池化层：卷积层用来识别图像里
转载
2024-03-26 06:45:20
104阅读
