1 单层卷积网络（One layer of a convolutional network） 假设经过两次卷积运算，最终各自形成一个卷积神经网络层，然后增加偏差（它是一个实数），通过线性函数（ Python 的广播机制）给这 16 个元素都加上同一偏差，然后应用非线性激活函数 ReLU，输出结果是一 ...
转载
2021-07-27 20:46:00
369阅读
2评论
一、基本概念1.卷积（Convolution)卷积是一个物理和数学的概念，可以理解为，系统某一时刻的输出是由多个输入共同作用（叠加）的结果。 卷积公式如下：详细讲解可以看【从“卷积”、到“图像卷积操作”、再到“卷积神经网络”，“卷积”意义的3次改变】实质上，卷积就是对信息（信号）进行“过滤”（滤波），它能够“过滤出”我们感兴趣、对我们有用的信息。在这里的卷积和物理数学上的概念不一同，在图像的卷积操
转载
2023-10-13 00:00:54
557阅读
点赞
摘要：本文通过多种操作构建混合模型，增强视觉Transformer捕捉空间相关性的能力和其进行通道多样性表征的能力，弥补了Transformer在小数据集上从头训练的精度与传统的卷积神经网络之间的差距。作者：Hint。本文简要介绍NeurIPS 2022录用的论文“Bridging the Gap Between Vision Transformers andConvolutional Neura
转载
2023-09-13 08:34:31
154阅读
简述ResNet是一种非常成功的深度卷积神经网络结构，其具有较强的特征表达能力和较浅的网络深度，使得其在图像分类等任务中表现出了出色的性能。因此，将ResNet作为encoder替换U-Net原始结构，可以使U-Net在图像分割任务中获得更好的性能表现。U-Net是一种经典的深度卷积神经网络结构，特别适用于图像分割任务。U-Net提出的时间较早，当时并没有像ResNet等网络结构和大规模预训练权重
转载
2024-01-15 01:30:28
114阅读
过滤器大小 :堆叠两个3x3感受野相当于一个5x5,但是参数量前者少于后者；堆叠三个3x3感受野相当于一个7x7,参数量前者少于后者；通道数：通道数越多，从某个特征图中提取的信息量越多，但是其参数量也越多，容易过拟合；池化层：下采样层，压缩特征，减少参数量。提高模型的容错能力（泛化能力）。由于池化操作，卷积神经网络具有invariance(不变性)，这种不变性包括translation(平移)，r
转载
2023-10-26 21:36:54
98阅读
*# Transformer我们在10.6.2节中比较了卷积神经网络（CNN）、循环神经网络（RNN）和自注意力（self-attention）。值得注意的是，自注意力同时具有并行计算和最短的最大路径长度这两个优势。因此，使用自注意力来设计深度架构是很有吸引力的。对比之前仍然依赖循环神经网络实现输入表示的自注意力模型 Cheng.Dong.Lapata.2016,Lin.Feng.Santos.e
转载
2024-08-21 11:08:08
52阅读
文章目录1. 卷积2. 反卷积3. casual conv4. dilated conv要如何理解dilated conv呢？？5.dilated conv改进 1. 卷积卷积(Convolutional)：卷积在图像处理领域被广泛的应用，像滤波、边缘检测、图片锐化等，都是通过不同的卷积核来实现的。在卷积神经网络中通过卷积操作可以提取图片中的特征，低层的卷积层可以提取到图片的一些边缘、线条、角等
转载
2023-12-15 11:48:52
2556阅读
# 卷积神经网络卷积和池化
卷积神经网络（Convolutional Neural Network，CNN）是一种深度学习模型，在图像识别、计算机视觉等领域有广泛的应用。其中，卷积和池化是CNN中的两个重要操作，它们帮助网络提取特征、减少参数数量，提高模型性能。
## 卷积操作
卷积操作是CNN中的核心操作之一，通过卷积操作可以提取输入数据的特征。卷积操作的本质是将一个滤波器（也称为卷积核）
原创
2024-03-11 03:56:11
27阅读
0 背景在语义分割领域，unet 也是一个经典网络，尤其是在医学影像分割方面，效果很好。本文对 unet 算法进行一个解读介绍。1 FCN 网络语义分割的开山之作是 FCN 网络，具体解读可以参考《全卷积网络 FCN 详解》，归纳一下，FCN 的特点包括以下三方面：（1）全卷积网络（fully convolutional）将原本 CNN 的最后三层全连接层变成卷积层，可以适应任意尺寸的输入，也大幅
转载
2024-01-14 11:35:43
246阅读
文章目录前言一、DenseNet1.1 网络结构1.1.1 论文思路1.1.2 论文总结和亮点1.2 代码二、RegNet2.1 论文思路 前言 本文主要记录了一些经典的卷积网络架构，以及相应的pytorch代码。 提示：以下是本篇文章正文内容，下面案例可供参考一、DenseNet1.1 网络结构网络的总体结构： DenseBlock:1.1.1 论文思路概要： 由近期的研究出发，作者发
转载
2024-09-14 13:16:01
63阅读
本人对视觉Transformer(ViT)的一些总结，有不对的地方请大家指教。1. 卷积神经网络(CNN)因其自身固有的一些列优良特性，使它们很自然地适用于多种计算机视觉任务。比如平移不变性(translation equivariance)，这种特性为CNN引入了归纳偏置(inductive bias)，使之能够适应不同大小的输入图片的尺寸。2. 由于CNN中的卷积操作(convolution
转载
2023-12-06 21:40:49
257阅读
1 目标定位对象检测，它是计算机视觉领域中一个新兴的应用方向，相比前两年，它的性能越来越好。在构建对象检测之前，我们先了解一下对象定位，首先我们看看它的定义。图片分类任务我们已经熟悉了，就是算法遍历图片，判断其中的对象是不是汽车，这就是图片分类。这节课我们要学习构建神经网络的另一个问题，即定位分类问题。这意味着，我们不仅要用算法判断图片中是不是一辆汽车，还要在图片中标记出它的位置，用边框或红色方框
转载
2024-01-11 22:15:03
96阅读
Alex Krizhevsky在《
深度卷积神经网络的ImageNet分类》一文中提出了深度卷积神经网络模型
AlexNet，是LeNet的一种更深更宽的版本。这是第一次将深度卷积神经网络 (CNN)、GPU 和巨大的互联网来源数据集（ImageNet）结合在一起。
AlexNet首次在CNN中成功应用了ReLU、Dropout和LRN等Trick。AlexNet包含了6亿300
转载
2024-01-31 01:38:34
53阅读
反卷积，又称转置卷积，经常用于上采样。1. 多对一和一对多常规卷积将输入矩阵中多个元素映射到输出矩阵中的一个元素，属于“多对一”的关系；反卷积则是将输入矩阵中的一个元素映射到输出矩阵中的多个元素（即：输出矩阵中，有多个元素都跟输入矩阵中这一个元素有关），属于“一对多”的关系；之所以称反卷积为转置卷积，是因为从矩阵运算的角度来看，反卷积的卷积矩阵的形状恰好是常规卷积的卷积矩阵形状的转置；
转载
2024-01-04 08:52:31
43阅读
反卷积（Deconvolution）的概念第一次出现是Zeiler在2010年发表的论文Deconvolutional networks中，但是并没有指定反卷积这个名字，反卷积这个术语正式的使用是在其之后的Adaptive deconvolutional networks for mid and high level feature learning中。随着反卷积在神经网络可视化上的成功应用，其被
转载
2023-09-10 11:21:43
90阅读
VGG 网络可以分为两部分：第⼀部分主要由卷积层和汇聚层组成，第⼆部分由全连接层组成。论文：Very deep convolutional networks for large-scale image recognition年份：2014年一、VGG块每一个块由以下两个部分组成：（1）3 × 3 卷积核、填充为 1（保持⾼度和宽度）的卷积层，n个（2）2 × 2 池化窗口、步幅为 2（每个块后的分
转载
2023-06-26 22:57:33
483阅读
概念：受Hubel和Wiesel对猫视觉皮层电生理研究启发，有人提出卷积神经网络（CNN），Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。近年来卷积神经网络在多个方向持续发力，在语音识别、人脸识别、通用物体识别、运动分析、自然语言处理甚至脑电波分析方面均有突破。 卷积神经网络与普通神经网络的区别在于，卷积神
转载
2023-09-18 16:08:00
96阅读
猫狗识别一直都是模式识别的入门级数据集，因为其数据易采集，贴近生活，数据特征与图像规模的关联并不是特别大，预处理时图像特征容易保存，很多初学者都是以此作为提升使用各种分类器熟练度的数据集。本次实验也是想通过使用这个数据集来测试卷积网络与支持向量机相结合的效果，数据集本生并没有特殊的意义。 卷积网络是神经网路家族一个长老级的存在，在视觉，图像等领域都有广泛的应用，其本身价值在于通过卷积计算可以有效地
转载
2024-01-14 17:49:16
67阅读
上一节介绍了LeNet-5经典卷积网络模型的构成以及如何实现这样的一个网络，并且在实现的模型上达到了99%的正确率，但是LeNet-5缺乏对于更大更多图片的一个分类的功能。在2012年，有人提出了新的深度卷积神经网络模型AlexNet。在2012的ILSVRC竞赛中，AletNet模型取得了top-5错误率为15.3%的好成绩，对比于第二名16.2%的错误率，AlexNet的优势明显。从此，Ale
转载
2024-04-25 19:56:32
26阅读
1.1 CNN卷积神经网络1.1.1 什么是CNN卷积神经网络CNN（convolutional neural network）卷积神经网络是一种具有局部连接和权重共享等特性的深层前馈神经网络。简单来说神经网络都是为了提取特征。卷积提取特征的方式如下图所示，加入图片是5*5个像素
转载
2023-10-13 00:22:30
221阅读
