文章目录What is PyTorch?Autograd：自动求导神经网络定义网络计算损失反向传播更新权重模型保存和加载模型保存模型加载 What is PyTorch?What is PyTorch?torch.Size本质上还是tuple，所以支持tuple的一切操作。任何一个in-place改变张量的操作后面都固定一个_。例如x.copy_(y)、x.t_()将更改x。也可以使用像标准的N
转载
2024-02-21 12:17:26
28阅读
深度学习PyTorch笔记（1）：创建Tensor1. Tensor预备知识1.1 创建Tensor1.1.1 创建未初始化的Tensor1.1.2 生成随机数1.1.3 torch.Tensor()与torch.tensor()1.1.4 一些特殊值矩阵 这是《动手学深度学习》（PyTorch版）（Dive-into-DL-PyTorch）的学习笔记，里面有一些代码是我自己拓展的。 1. T
转载
2023-12-24 08:54:18
88阅读
为了能够使用 DataLoader类，首先需要构造关于单个数据的 torch.untils.data.Dataset 类 1、构建 My_Dataset类对于数据集的处理，Pytorch 提供了 torch.utils.data.Dataset 这个抽象类，在使用时只需要继承该类，并重写 __len__() & __getitem__() 函数，便可以方便的进行数据集的迭代。Dataset
转载
2024-09-25 07:39:47
42阅读
11. CNN Flatten Operation Visualized - Tensor Batch Processing For Deep Learning这一节课我们将形象的对一个灰度图像张量进行flatten操作，并将展示如何在一个张量中flatten特定的轴。由于我们的张量是成批的，所以经常需要这种选择性的flatten操作。其实flatten操作是一种特殊的reshape操作，即将所有
转载
2023-08-11 09:08:13
116阅读
pytorch中的BN层简介简介pytorch里BN层的具体实现过程momentum的定义冻结BN及其统计数据 简介BN层在训练过程中,会将一个Batch的中的数据转变成正太分布,在推理过程中使用训练过程中的参数对数据进行处理,然而网络并不知道你是在训练还是测试阶段,因此,需要手动的加上,需要在测试和训练阶段使用如下函数。model.train() or model.eval()在Pytorch
转载
2023-06-05 15:03:43
405阅读
深度学习模型一般由各种模型层组合而成。torch.nn中内置了非常丰富的各种模型层。它们都属于nn.Module的子类，具备参数管理功能。例如：nn.Linear, nn.Flatten, nn.Dropout, nn.BatchNorm2dnn.Conv2d,nn.AvgPool2d,nn.Conv1d,nn.ConvTranspose2dnn.Embedding,nn.GRU,nn.LSTMn
转载
2023-12-19 20:14:26
72阅读
Embedding
keras.layers.Embedding(input_dim, output_dim, embeddings_initializer='uniform',
embeddings_regularizer=None, activity_regularizer=None,
转载
2023-11-07 12:44:38
154阅读
# A100 pytorch：高性能深度学习加速器
深度学习技术在如今的人工智能领域发挥着至关重要的作用，然而复杂的神经网络模型需要大量的计算资源来进行训练和推理。为了满足这些需求，许多公司和研究机构都在不断探索新的硬件加速方案。其中，A100 pytorch是一种高性能深度学习加速器，能够显著提升训练和推理的效率。
## A100 pytorch的特点
A100 pytorch是一种基于P
原创
2024-03-16 05:54:27
74阅读
文章目录基于PyTorch的两层神经网络一、基于numpy的两层神经网络实现：二、基于PyTorch的两层神经网络实现：三、使用nn库实现两层神经网络四、自定义nn Modules实现两层神经网络总结 基于PyTorch的两层神经网络提示：在计算神经网络的层数时，只计算具有计算能力的层，而输入层只是将数据进行输入，无计算过程，所以层数：隐藏层层数+1个输出层。所以在此文中两层即一层隐藏层和一层输
转载
2024-02-19 02:16:02
94阅读
BN层存在的问题: BN层的模型效果取决于Batch_size大小，那么我的实验分别在batch_size=4和batch_size=8的情况下运行的，这些batch_size都无法让BN层真正起到作用，甚至负作用，我个人感觉4的效果比8好这就是个运气问题(下面一段我利用BN层原理对这个运气问题进行了分析)。那么同样为4的batch_size进行若干次实验，是否结果会出现很大的波动？关于这个实验我
转载
2024-02-21 11:48:41
166阅读
本次作业：Andrew Ng的CNN的搭建卷积神经网络模型以及应用（1&2）作业目录参考这位博主的整理：今天要实现的是识别手势姿势表达的数字我的Git传送门:https://github.com/VVV-LHY/deeplearning.ai/tree/master/CNN/RecognizeGestureNum本来是接着day17用了numpy编了一个卷积层和池化层的前向传播，然后后向传
torch.flatten(input, start_dim, end_dim).举例：一个tensor 3*2* 2 start_dim=1 output 3*4start_dim=0 end_dim=1. 6*2如果没有后面两个参数直接变为一维的
转载
2023-06-06 09:56:06
104阅读
《动手学深度学习Pytorch版》之DenseNet代码理解一、模块介绍1、卷积块conv_block2、稠密块DenseBlock3、过渡块transition_block二、DENSNET模型1、DenseNet首先使用同ResNet⼀样的单卷积层和最大池化层2、 DenseNet使用4个稠密块3、同ResNet⼀样，最后接上全局池化层和全连接层来输出 稠密块由多个 conv_block 组
转载
2023-09-15 15:36:03
407阅读
在训练CNN网络的时候，常常会使用dropout来使得模型具有更好的泛化性，并防止过拟合。而dropout的实质则是以一定概率使得输入网络的数据某些维度上变为0，这样可以使得模型训练更加有效。但是我们需要注意dropout层在训练和测试的时候，模型架构是不同的。为什么会产生这种差别呢？一、训练和测试的不同标准的网络连接如下图： 增加了dropout层的网络结构如下图： 此处的$
转载
2023-10-30 16:33:33
131阅读
点赞
在学习和使用深度学习框架时，复现现有项目代码是必经之路，也能加深对理论知识的理解，提高动手能力。本文参照相关博客整理项目常用组织方式，以及每部分功能，帮助更好的理解复现项目流程，文末提供分类示例项目。1 项目组织在做深度学习实验或项目时，为了得到最优的模型结果，中间往往需要很多次的尝试和修改。一般项目都包含以下几个部分：模型定义数据处理和加载训练模型（Train&Validate）训练过程
转载
2024-04-15 17:48:52
63阅读
注：本篇文章假设你已经看过CRF(条件随机场)与Viterbi(维特比)算法原理详解（侵权则删），但是对Pytorch的Tutorials中BiLSTM-CRF中关于CRF的代码还有些许的疑惑。代码分析假设有句子 “ 我爱饭 ”句子经过分词，得到 “我”、“爱”、“饭” 这三个词（意思是句子的长度为3）标签集合={‘START’ 、'N 、 ‘V’、‘END’}，START、END表示开始结束标签
转载
2023-09-17 21:40:01
201阅读
# 科普文章：PyTorch 平均层
## 导言
在深度学习中，神经网络模型的层是构建模型的基本单位。PyTorch是一种流行的深度学习框架，提供了丰富的层和函数来构建神经网络。其中，平均层（Pooling Layer）是一种常用的层，用于减少特征图的维度，提取重要特征。
本文将介绍PyTorch中的平均层，包括其基本概念、使用方法和示例代码，帮助读者更好地理解和应用平均层。
## PyT
原创
2024-04-09 04:51:52
38阅读
文章目录1.数组中数据存储的结构2.数组的坐标问题3.对于Pytorch 的shape相关问题4. Pytorch 中几个常见的有关维度的函数4.1 squeeze() 和 unsqueeze()4.2 permute() 函数4.3 transpose()函数 不知道大家有没有类似的问题，处理数据的时候很多时候会被各种数组的 shape 的变化搞晕，但是这方面的资料又不太好找，这里记录一点我
在深度学习领域，PyTorch 是一个备受欢迎的框架，以其灵活性和易用性著称。在构建神经网络时，常会遇到“拼接层”的实际需求，如何高效地将多个特征图拼接起来，以便于进行后续的网络计算，是一个重要的问题。
## 背景描述
在构建复杂神经网络时，尤其是在图像处理任务中，我们通常会遇到需要将多个特征图结合在一起的情况。这时候，拼接（concatenation）层便成为了非常有效的方式。下面是拼接层的
# PyTorch CIFAR-100: 一个图像分类任务的实践
在机器学习和深度学习领域，图像分类任务一直是一个重要的研究方向。而CIFAR-100数据集则是一个常用的用于图像分类任务的数据集之一。本文将介绍如何使用PyTorch库来进行CIFAR-100数据集的图像分类任务，并提供相应的代码示例。
## 什么是CIFAR-100数据集？
CIFAR-100数据集是一个包含100个类别的图
原创
2024-01-17 07:52:59
678阅读
