文章目录1 为什么要使用3×3卷积？1.1 ResNet 网络结构1.2 为什么卷积通道数逐层增加，而不是逐层减少2.3 ResidualBlock2 为什么使用1×1卷积来降维1*1卷积的应用 1 为什么要使用3×3卷积？常见的卷积核大小有1×1、3×3、5×5、7×7，有时也会看到11×11，若在卷积层提取特征，我们通常选用3×3大小的卷积。 我们知道，两个3×3卷积核一个5×5卷积的感受野
1. 卷积层（Convolution Layer）：由若干个卷积核f（filter）和偏移值b组成，（这里的卷积核相当于权值矩阵），卷积核与输入图片进行点积和累加可以得到一张feature map。卷积层的特征：（1）网络局部连接：卷积核每一次仅作用于图片的局部（2）卷积核权值共享：一个卷积层可以有多个不同的卷积核，每一个filter在与输入矩阵进行点积操作的过程中，其权值是固定不变的。 
转载
2024-03-06 15:55:16
943阅读
1 介绍在使用CNN搭建目标检测模型时，有一个很重要的步骤就是需要进行权重初始化，那么为什么需要进行权重初始化呢？2 权重初始化的原因关于为什么要进行权重初始化，请阅读知乎文章《神经网络中的权重初始化一览：从基础到Kaiming》，以下简称为《初始化概览》；原因一：防止深度神经网络在正向（前向）传播过程中层激活函数的输出损失梯度出现爆炸或消失如果发生任何一种情况，梯度值太大或太小，就无法有效地向后
转载
2024-04-27 16:24:23
266阅读
权值共享基本上有两种方法：在同一特征图和不同通道特征图都使用共享权值，这样的卷积参数是最少的，例如上一层为30*30*40，当使用3*3*120的卷积核进行卷积时，卷积参数为：3*3*120个.(卷积跟mlp有区别也有联系一个神经元是平面排列，一个是线性排列)第二种只在同一特征图上使用共享权值，根据上面的例子，则卷积参数为：3*3*40*120. 1×1的卷积大概有两个方面的作用吧：1.
转载
2024-04-15 13:36:06
45阅读
DyNet2020-arxiv-DyNet Dynamic Convolution for Accelerating Convolutional Neural NetworksInstitute：huaweiAuthor：Yikang Zhang, Qiang WangGitHub：/Citation： 4Introduction和Google 的 CondConv，Microsoft 的 Dyn
转载
2024-03-11 21:33:52
152阅读
01 卷积卷积是指在滑动中提取特征的过程，可以形象地理解为用放大镜把每步都放大并且拍下来，再把拍下来的图片拼接成一个新的大图片的过程。2D卷积是一个相当简单的操作： 我们先从一个小小的权重矩阵，也就是 卷积核（kernel） 开始，让它逐步在二维输入数据上“扫描”。卷积核“滑动”的同时，计算权重矩阵和扫描所得的数据矩阵的乘积，然后把结果汇总成一个输出像素。也就是说，【卷积操作后得到的矩阵中的每个元
转载
2024-05-07 19:30:12
213阅读
要理解卷积，首先你要理解什么是全连接和局部连接，全连接是什么？举个例子，100*100大小的图像，假设有100个隐含神经元，那么就有100*100*100个连接，太可怕，局部连接是什么，假设每个隐含神经元只局部连接10*10，那么就有10*10*100个连接。那么什么是卷积，什么又是权值共享？说道权值共享，就需要提到感受野，感受野其实就是一个隐含神经元的局部连接大小，权值共享就是感受野的权值一样，
卷积神经网络作为深度学习的典型网络，在图像处理和计算机视觉等多个领域都取得了很好的效果。为了简单起见，本文仅探讨二维卷积结构。卷积首先，定义下卷积层的结构参数。△ 卷积核为3、步幅为1和带有边界扩充的二维卷积结构卷积核大小（Kernel Size）：定义了卷积操作的感受野。在二维卷积中，通常设置为3，即卷积核大小为3×3。步幅（Stride）：定义了卷积核遍历图像时的步幅大小。其默认值通
转载
2024-06-02 09:22:11
167阅读
对于点云分割来说，最重要解决的问题基本上有两个，一个是点云的无序性问题，另一个是点云的不规则和稀疏问题。对于前者的问题，其实2017年的PointNet提出的对称函数(max pooling)就已经解决了，但是目前有很多取代之的方法。后者，很多网络利用学习邻域局部特征，编码相对位置特征解决，KPConv提出了一种可变形的Kernel，但是它的核点是固定的，针对不同的场景可能还需要进行改变，PACo
转载
2024-06-16 18:24:27
48阅读
机器学习知识点相关总结（一）——基础机器学习知识点相关总结（二）——决策树相关机器学习知识点相关总结（三）——LR相关机器学习知识点相关总结（四）——SVM相关机器学习知识点相关总结（五）——CNN相关机器学习知识点相关总结（六）——RNN,LSTM相关机器学习知识点相关总结（七）——k-means相关1.卷积层个数计算方式，CNN参数量计算，卷积计算复杂度，如果一个CNN网络的输入channel
转载
2024-03-31 06:38:53
79阅读
卷积核类型简介 一个简短的介绍卷积使用“kernel”从输入图像中提取某些“特征”。kernel是一个矩阵，可在图像上滑动并与输入相乘，从而以某种我们期望的方式增强输出。看下面的GIF。 上面的kernel可用于锐化图像。但是这个kernel有什么特别之处呢？考虑下图所示的两个输入图像。第一个图像，中心值为3 * 5 + 2 * -1 + 2 * -1 + 2 * -1 + 2 * -
转载
2024-04-15 13:37:30
141阅读
卷积函数：nn.functional.conv2d(input, weight, bias=None, stride=1, padding=0, dilation=1, groups=1)对几个输入平面组成的输入信号应用一个2D卷积. Parameters: input – 形状为 (minibatch x in_channels x iH x iW) 的输入张量 weight – 形状为 (ou
转载
2023-11-10 11:45:34
192阅读
一、卷积核与池化：1.1 卷积核（Convolutional）：将输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素，其中权值由一个函数定义，这个函数称为卷积核(滤波器)。一般可以看作对某个局部的加权求和；它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸（一般是奇数x奇数）1.2
转载
2024-03-19 13:43:45
466阅读
对图像（不同的数据窗口数据）和滤波矩阵（一组固定的权重：因为每个神经元的多个权重固定，所以又可以看做一个恒定的滤波器filter）做内积（逐个元素相乘再求和）的操作就是所谓的『卷积』操作，也是卷积神经网络的名字来源。中间的过程部分可以理解为一个滤波器，即带着一组固定权重的神经元，多个滤波器的叠加便成了卷积层。一般而言，深度卷积网络是一层又一层的。层的本质是特征图, 存贮输入数据或其中间表示值。一组
转载
2024-02-22 23:13:08
74阅读
通俗理解卷积的概念：卷积的重要的物理意义是：一个函数（如：单位响应）在另一个函数（如：输入信号）上的加权叠加。先解释一下什么是加权：通俗点就举列子把,统计学认为，在统计中计算平均数等指标时，对各个变量值具有权衡轻重作用的数值就称为权数． 还是举个例子吧 求下列数串的平均数3、4、3、3、3、2、4、4、3、3、
一般求法为（3＋4＋3＋3＋3＋2＋4＋4＋3＋3）／10＝3．2
加权求法为（6＊3
转载
2024-03-26 09:26:42
62阅读
右侧有目录，可坐电梯直达问题引入：我这个计算方法，绝对是最准确的一个，而且卷积层的参数个数跟步长strides、padding是valid还是same都毫无关系，你可以对照着model.summary（）后的Param列，一层一层验证过去，我这边举个我自己的例子计算方法：输入图像的通道数×卷积核的尺寸×卷积核的个数+偏置（数值上等于卷积核的个数）举例：模型搭建为了方便大家验证，我直接说明下我每一层
转载
2024-03-22 14:57:43
66阅读
（1）卷积：对图像元素的矩阵变换，是提取图像特征的方法，多种卷积核可以提取多种特征。一个卷积核覆盖的原始图像的范围叫做感受野（权值共享）。一次卷积运算提取的特征往往是局部的，难以提取出比较全局的特征，因此需要在一层卷积基础上继续做卷积计算，这也就是多层卷积。（2）池化：降维的方法，按照卷积计算得出的特征向量维度大的惊人，不但会带来非常大的计算量，而且容易出现过拟合，解决过拟合的办法就是让模型尽量“
转载
2024-06-04 13:05:04
16阅读
0.卷积层的理解实际上卷积核(convolution kernel)不是真的卷积,而是类似一个输入和输出之间的线性表达式.为什么叫做卷积呢, 因为两个次序上相邻的NxN卷积核有N-1的重叠. 本质上卷积核是一个线性过滤式, 比如输入时4x4的小宏块, 卷积核过滤的结果相当于一次线性计算. 卷积核之后的亚采样和池化都是为了把局部特征进行抽象化.但从数据传播的方向上来讲,卷积核进行特征提取,然后亚采样
卷积层的推导卷积层的前向计算 如下图，卷积层的输入来源于输入层或者pooling层。每一层的多个卷积核大小相同，在这个网络中，我使用的卷积核均为5*5。 如图输入为28*28的图像，经过5*5的卷积之后，得到一个(28-5+1)*(28-5+1) = 24*24、的map。卷积层2的每个map是不同卷积核在前一层每个map上进行卷积，并将每个对应位置上的值相加然后再加上一个偏置项。 每次
转载
2024-03-19 13:43:26
174阅读
一.卷积和相关函数的定义1.卷积的定义设函数是上的两个可积函数，作积分： 则称为函数的卷积。常表示为。卷积是频率分析的一种工具，其与傅里叶变换有着密切关系。2.互相关函数的定义设函数是上的两个可积函数，作积分：则称为函数的互相关函数。（容易证明与等价。）互相关函数描述了两信号之间的相关情况或 取值依赖关系。如果对一个理想测试系统的输入与输出信号求互相关函数，那么，互相关函数取得
