可变形卷积：Deformable ConvNetsDCNv1论文网址：Deformable Convolutional Networks DCNv2论文网址：Deformable ConvNets v2: More Deformable, Better Results DCNv2代码：https://github.com/CharlesShang/DCNv2/tree/pytorch_0.4DCN
## PyTorch复用显存
在深度学习模型的训练过程中，显存管理是一个重要的问题。显存是模型在GPU上存储和计算的关键资源，有效地管理和复用显存可以提高模型的训练效率，并允许更大规模的模型和更长的训练时间。PyTorch提供了一些技术和工具来优化显存的使用，本文将介绍如何使用PyTorch复用显存的方法和技巧。
### Tensor和Variable
在PyTorch中，数据和模型都被表示
原创
2023-08-18 15:40:56
260阅读
11. CNN Flatten Operation Visualized - Tensor Batch Processing For Deep Learning这一节课我们将形象的对一个灰度图像张量进行flatten操作，并将展示如何在一个张量中flatten特定的轴。由于我们的张量是成批的，所以经常需要这种选择性的flatten操作。其实flatten操作是一种特殊的reshape操作，即将所有
转载
2023-08-11 09:08:13
116阅读
深度学习模型一般由各种模型层组合而成。torch.nn中内置了非常丰富的各种模型层。它们都属于nn.Module的子类，具备参数管理功能。例如：nn.Linear, nn.Flatten, nn.Dropout, nn.BatchNorm2dnn.Conv2d,nn.AvgPool2d,nn.Conv1d,nn.ConvTranspose2dnn.Embedding,nn.GRU,nn.LSTMn
转载
2023-12-19 20:14:26
72阅读
Embedding
keras.layers.Embedding(input_dim, output_dim, embeddings_initializer='uniform',
embeddings_regularizer=None, activity_regularizer=None,
转载
2023-11-07 12:44:38
154阅读
pytorch中的BN层简介简介pytorch里BN层的具体实现过程momentum的定义冻结BN及其统计数据 简介BN层在训练过程中,会将一个Batch的中的数据转变成正太分布,在推理过程中使用训练过程中的参数对数据进行处理,然而网络并不知道你是在训练还是测试阶段,因此,需要手动的加上,需要在测试和训练阶段使用如下函数。model.train() or model.eval()在Pytorch
转载
2023-06-05 15:03:43
403阅读
文章目录基于PyTorch的两层神经网络一、基于numpy的两层神经网络实现：二、基于PyTorch的两层神经网络实现：三、使用nn库实现两层神经网络四、自定义nn Modules实现两层神经网络总结 基于PyTorch的两层神经网络提示：在计算神经网络的层数时，只计算具有计算能力的层，而输入层只是将数据进行输入，无计算过程，所以层数：隐藏层层数+1个输出层。所以在此文中两层即一层隐藏层和一层输
转载
2024-02-19 02:16:02
94阅读
这位作者写得非常棒！！！1. F.pad函数定义F.pad是pytorch内置的tensor扩充函数，便于对数据集图像或中间层特征进行维度扩充，下面是pytorch官方给出的函数定义。torch.nn.functional.pad(input, pad, mode='constant', value=0)函数变量说明：input 需要扩充的tensor，可以是图像数据，抑或是特征矩阵数据pad 扩
转载
2024-05-15 14:02:00
246阅读
《动手学深度学习Pytorch版》之DenseNet代码理解一、模块介绍1、卷积块conv_block2、稠密块DenseBlock3、过渡块transition_block二、DENSNET模型1、DenseNet首先使用同ResNet⼀样的单卷积层和最大池化层2、 DenseNet使用4个稠密块3、同ResNet⼀样，最后接上全局池化层和全连接层来输出 稠密块由多个 conv_block 组
转载
2023-09-15 15:36:03
404阅读
torch.flatten(input, start_dim, end_dim).举例：一个tensor 3*2* 2 start_dim=1 output 3*4start_dim=0 end_dim=1. 6*2如果没有后面两个参数直接变为一维的
转载
2023-06-06 09:56:06
104阅读
在训练CNN网络的时候，常常会使用dropout来使得模型具有更好的泛化性，并防止过拟合。而dropout的实质则是以一定概率使得输入网络的数据某些维度上变为0，这样可以使得模型训练更加有效。但是我们需要注意dropout层在训练和测试的时候，模型架构是不同的。为什么会产生这种差别呢？一、训练和测试的不同标准的网络连接如下图： 增加了dropout层的网络结构如下图： 此处的$
转载
2023-10-30 16:33:33
131阅读
点赞
BN层存在的问题: BN层的模型效果取决于Batch_size大小，那么我的实验分别在batch_size=4和batch_size=8的情况下运行的，这些batch_size都无法让BN层真正起到作用，甚至负作用，我个人感觉4的效果比8好这就是个运气问题(下面一段我利用BN层原理对这个运气问题进行了分析)。那么同样为4的batch_size进行若干次实验，是否结果会出现很大的波动？关于这个实验我
转载
2024-02-21 11:48:41
166阅读
本次作业：Andrew Ng的CNN的搭建卷积神经网络模型以及应用（1&2）作业目录参考这位博主的整理：今天要实现的是识别手势姿势表达的数字我的Git传送门:https://github.com/VVV-LHY/deeplearning.ai/tree/master/CNN/RecognizeGestureNum本来是接着day17用了numpy编了一个卷积层和池化层的前向传播，然后后向传
# 实现"docker copy add 复用镜像层"的步骤和代码
## 介绍
在使用Docker构建镜像的过程中，我们经常需要添加文件和目录到镜像中。使用`docker cp`命令可以将文件从主机复制到容器中，但是这种方式会在每次复制时创建新的镜像层，导致镜像层的增加。为了避免不必要的镜像层增加，可以使用`docker build`命令的`ADD`指令来实现文件的复用，在构建镜像时直接将文件复
原创
2024-01-16 09:48:43
61阅读
在学习和使用深度学习框架时，复现现有项目代码是必经之路，也能加深对理论知识的理解，提高动手能力。本文参照相关博客整理项目常用组织方式，以及每部分功能，帮助更好的理解复现项目流程，文末提供分类示例项目。1 项目组织在做深度学习实验或项目时，为了得到最优的模型结果，中间往往需要很多次的尝试和修改。一般项目都包含以下几个部分：模型定义数据处理和加载训练模型（Train&Validate）训练过程
转载
2024-04-15 17:48:52
63阅读
注：本篇文章假设你已经看过CRF(条件随机场)与Viterbi(维特比)算法原理详解（侵权则删），但是对Pytorch的Tutorials中BiLSTM-CRF中关于CRF的代码还有些许的疑惑。代码分析假设有句子 “ 我爱饭 ”句子经过分词，得到 “我”、“爱”、“饭” 这三个词（意思是句子的长度为3）标签集合={‘START’ 、'N 、 ‘V’、‘END’}，START、END表示开始结束标签
转载
2023-09-17 21:40:01
201阅读
# PyTorch 占位层详解
在深度学习中，模型的构建和训练通常需要处理各种数据结构。为了简化这一过程，PyTorch 提供了多种层（Layer），其中占位层（Placeholder Layer）是一个较为重要的概念。在这篇文章中，我们将深入探讨 PyTorch 中的占位层，包括它们的作用、使用方法以及一些实际应用示例。
## 什么是占位层？
占位层通常是指在构建神经网络时，用作占位符的层
# 实现pytorch flantton层
## 简介
在深度学习中，使用PyTorch构建神经网络时，有时会需要使用Flatten层将多维数据展平成一维数据。本文将教你如何实现PyTorch中的Flatten层。
## 流程图
```mermaid
flowchart TD
A[输入数据] --> B[Flatten层]
B --> C[输出数据]
```
## 关系图
`
原创
2024-06-21 03:48:46
32阅读
# PyTorch中的Batch Normalization层
在深度学习中，Batch Normalization（BN）是一种常用的技术，用于加速神经网络的训练过程并提高模型性能。PyTorch提供了简单易用的接口来实现BN层，本文将介绍BN层的原理、用途和代码示例。
## 1. Batch Normalization的原理
BN层是通过对每个mini-batch的特征进行归一化来加速深
原创
2023-07-21 11:04:32
178阅读
在深度学习中，PyTorch 是一个极受欢迎的框架，尤其是在实现复杂模型时，它的灵活性和易用性使得研究者和开发者能够快速构建原型，并进行调整。本文将重点讨论“PYTORCH 耦合层”的相关主题，包括环境配置、编译过程、参数调优、定制开发、错误集锦和进阶指南。
```mermaid
flowchart TD
A[环境配置] --> B[编译过程]
B --> C[参数调优]
