一、自编码器自编码器（Autoencoder）是一种旨在将它们的输入复制到的输出的神经网络。他们通过将输入压缩成一种隐藏空间表示（latent-space representation），然后这种重构这种表示的输出进行工作。这种网络由两部分组成，如下图：编码器：将输入压缩为潜在空间表示。可以用编码函数h = f（x）表示。解码器：这部分旨在重构来自隐藏空间表示的输入。可以用解码函数r = g（h）
转载
2023-07-12 00:15:11
209阅读
前言参考资料：高升博客 《CUDA C编程权威指南》 以及 CUDA官方文档 CUDA编程：基础与实践 樊哲勇 参考B站：蒙特卡洛加的树我已经更新了我的Github仓库，大家可以前往仓库下载代码我的CUDA学习仓库文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭0：CUDA Pytorch关系图片来源、详细文章参考点这里卷积计算1：CUDA卷积计算编程代码概述： （1） CHECK
转载
2024-03-30 08:10:02
75阅读
池化常在卷积神经网络中使用，可以调节数据维数，抑制噪声、降低信息冗余、降低模型计算量、防止过拟合等作用。池化没有可学习的参数，与激活函数较为相似，池化在一维或多维张量上的操作与卷积层也有相似之处。 池化最初作用是降低数据量，使模型更容易训练，称为下采样(down-sampling)或下池化
转载
2023-08-11 16:38:08
80阅读
文章目录前言一、前置知识二、torch.nn.Conv2d三、torch.nn.Conv1d 前言 本系列主要是对pytorch基础知识学习的一个记录，尽量保持博客的更新进度和自己的学习进度。本人也处于学习阶段，博客中涉及到的知识可能存在某些问题，希望大家批评指正。另外，本博客中的有些内容基于吴恩达老师深度学习课程，我会尽量说明一下，但不敢保证全面。一、前置知识 上图就是一个多过滤器（过滤
转载
2023-09-02 11:19:13
161阅读
首先先说明第一个答案，也就是PyTorch中卷积层的计算方法，其实这点很多人可能在书上已经看过图了，我只是用代码复现一遍我们把所有变量都明确，首先是输入变量，我们设为2 * 2的全1矩阵，如下： 然后初始化一个二维卷积层，并输出其weight和bias，如下：我们可以看到，weight和bias都有两个值，这是因为我们定义了输出通道为2，所以给我们分配了两个卷积核，然后可以看到权值分别为0.784
转载
2023-11-02 07:09:33
108阅读
在当今时代，机器在理解和识别图像中的特征和目标方面已经成功实现了99％的精度。我们每天都会看到这种情况-智能手机可以识别相机中的面部；使用Google图片搜索特定照片的能力；从条形码或书籍中扫描文本。借助卷积神经网络（CNN），这一切都是可能的，卷积神经网络是一种特定类型的神经网络，也称为卷积网络。如果您是一名深度学习爱好者，那么您可能已经听说过卷积神经网络，也许您甚至自己开发了一些图像分类器。像
转载
2024-05-17 09:53:04
16阅读
目前，卷积的计算大多采用间接计算的方式，主要有以下三种实现方式：im2col + GEMM。 caffe等很多框架中都使用了这种计算方式，原因是将问题转化为矩阵乘法后可以方便的使用很多矩阵运算库（如MKL、openblas、Eigen等）。FFT变换。 时域卷积等于频域相乘，因此可将问题转化为简单的乘法问题。Winograd。 这种不太熟悉，据说在GPU上效率更高。 NNPACK就是FFT和Win
转载
2024-05-22 19:56:18
357阅读
先来看看pytorch二维卷积的操作API现在继续讲讲几个卷积是如何操作的。一. 普通卷积torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True)普通卷积时group默认为1 dilation=1（这里先暂时不讨论dilati
转载
2023-09-26 18:09:29
218阅读
目录一、Conv2d 二、Conv2d中的dilation参数一、Conv2d首先我们看一下Pytorch中的Conv2d的对应函数（Tensor通道排列顺序是：[batch, channel, height, width]）：torch.nn.Conv2d(in_channels,
out_channels,
kern
转载
2023-08-10 12:43:03
325阅读
官方的api介绍：https://pytorch.org/docs/stable/nn.html?highlight=nn conv2d#torch.nn.Conv2dPytorch中nn.Conv2d的用法nn.Conv2d是二维卷积方法，相对应的还有一维卷积方法nn.Conv1d,常用于文本数据的处理，而nn.Conv2d一般用于二维图像。先看一下接口定义：class torch.nn.Con
转载
2023-11-15 20:04:23
123阅读
文章目录简介为什么要用卷积卷积神经网络的由来什么是卷积定义解释卷积运算信号分析离散卷积例子：丢骰子图像处理卷积操作 简介为什么要用卷积卷积操作是机器视觉，乃至整个深度学习的核心。首先看为什么卷积这么厉害。我们所有的图片，如灰度图，每一个像素点都有一个灰度值，构成一个矩阵。设长宽为28像素，则该矩阵大小为28*28。对于彩色图片也一样，他是由rbg三种颜色构成，我们看成三张像素图，也就是三个灰度图
转载
2023-09-10 16:32:02
198阅读
卷积函数注： 函数语法、参数介绍、shape、变量、Example，均转自 PyTorch 中文手册。 说实话 PyTorch 中文手册 对于参数in_channels和out_channels的讲解还是不够详细。 所以我参考了另一篇博客 【PyTorch学习笔记】17：2D卷积,nn.Conv2d和F.conv2d 来讲解这两个参数的意义。函数语法：一维class torch.nn.Conv1d
转载
2024-02-19 11:17:11
128阅读
PyTorch构建卷积层二维图像卷积一、 二维卷积层的实现1. 手动实现二维卷积层2. Pytorch的卷积层API实现二、 二维卷积层的填充和步幅 二维图像卷积使用全连接层来处理图片时，如果图片的尺寸比较大，那么就会出现参数爆炸的情况，模型复杂度直线提升而难以训练。为了降低模型的复杂度，提出了卷积层的概念。 卷积层是在全连接层的基础上，对于参数的取值加以限制来降低模型的复杂度。基于这样两种假设
转载
2023-08-08 09:08:08
117阅读
前言上一篇《pyTorch入门（一）——Minist手写数据识别训练全连接网络》搭建了全连接层和训练的文件，做了一个最简单的Minist训练，最终的训练结果达到了97%，这篇就来介绍一下pyTorch网络层比较常用的Api和卷积层#常用网络层函数nn.Linear对信号进行线性组合nn.Conv2d对多个二维信号进行二维卷积nn.MaxPool2d对二维信号进行最大值池化nn.ReLU最常用的激活
转载
2024-01-03 09:39:15
64阅读
【深度学习】：《PyTorch入门到项目实战》（十二）填充(padding)和步幅(stride)文章目录【深度学习】：《PyTorch入门到项目实战》（十二）填充(padding)和步幅(stride)前言1. padding2.步幅(stride)3.代码实现3.1 padding实现3.2 stride实现前言在之前，我们介绍了卷积核对输入特征的影响。假设输入特征为,核形状为，那么经过卷积核
作者 | Pegessi 编辑 | 极市平台导读本篇文章主要介绍如何利用CUDA实现一个2D卷积算子，实现过程较为简单，最终的实现效果可以在较小的尺寸下取得比cudnn快较大的性能。实测在以下参数配置下可以达到平均1.2倍cudnn的性能。前言CUDA介绍（from chatGPT） 现在深度学习大行其道，作为深度学习的基础软件设施，学习cuda也是很有
问题解答传统卷积运算是将卷积核以滑动窗口的方式在输入图上滑动，当前窗口内对应元素相乘然后求和得到结果，一个窗口一个结果。相乘然后求和恰好也是向量内积的计算方式，所以可以将每个窗口内的元素拉成向量，通过向量内积进行运算，多个窗口的向量放在一起就成了矩阵，每个卷积核也拉成向量，多个卷积核的向量排在一起也成了矩阵，于是，卷积运算转化成了矩阵乘法运算。下图很好地演示了矩阵乘法的运算过程： 将卷积
Pytorch学习 - Task5 PyTorch卷积层原理和使用1. 卷积层（1）介绍 （torch.nn下的）1) class torch.nn.Conv1d() 一维卷积层2) class torch.nn.Conv2d() 二维卷积层卷积尺寸的计算padding的两种方式空洞卷积简化版尺寸计算公式：完整版尺寸计算公式：3) class torch.nn.Conv3d() 三维卷积层（2）
转载
2023-08-28 10:24:35
752阅读
本文简单谈谈pytorch的二维卷积nn.conv2D，其主要作用为在由多个输入平面组成的输入信号上应用二维卷积。 目录文章目录前言一、卷积过程1.最简单的二维互相关 2.以RGB为例的多通道卷积二、conv2D的相关参数1.conv2D的形式：2.参数解析三、示例代码 前言本文简单谈谈pytorch的二维卷积nn.conv2D，其主要作用为在由多个输入平面组成的输入信号上应用二维卷积。
转载
2023-10-19 06:10:33
124阅读
一、1d/2d/3d卷积卷积运算：卷积核在输入信号（图像）上滑动，相应位置上进行乘加卷积核：又称为滤波器，过滤器，可认为是某种模式，某种特征。 卷积过程类似于用一个模板去图像上寻找与他相似的区域，与卷积核模式越相似，激活值越高，从而实现特征提取AlexNet卷积核可视化，发现卷积核学习到的是边缘，条纹，色彩这一些细节模式卷积维度：一般情况下，卷积核在几个维度上滑动，就是几维卷积 
转载
2024-02-24 01:26:12
32阅读
