引言暑假在家闲得无聊，但是又不想提前学习研究生的课程，于是就在网上随便看看，然后就想动手实现一个简单的计算图，求解一个表达式的梯度。当然了，底层的数据并不是Tensor，而是一个标量，因为如果数据类型是向量那么求导需要改动的地方就比较多，所以这个只是一个demo。（不过理论上标量拼接起来就可以实现向量求导）计算图的原理解析前向传播前向传播就是构建一组运算顺序，在神经网络中就是从输入层
张量Tensor tensor是pytorch的一种特殊的数据格式，它表示多维数组概括了所有数学意义和计算机意义上的向量形式。Rank/shape概念Rank：表示我们需要多少个索引来访问或引用张量数据结构中包含的元素，即代表维度数Shape(size)：告诉我们每个轴的长度，即每个轴上有多少个数据Rank=len(shape) Shape是很重要的东西，因为它包含了rank,size
转载
2024-07-05 23:09:36
17阅读
# PyTorch Tensor Shape 查看指南
在机器学习和深度学习的开发过程中，PyTorch是一个非常流行的框架。了解如何查看Tensor的形状是进行数据处理和模型构建的重要步骤。本文将详细介绍如何在PyTorch中查看Tensor的形状，并提供相关代码示例。
## 流程概览
下面是查看PyTorch Tensor形状的主要步骤：
| 步骤 | 描述
# PyTorch构建动态形状（Dynamic Shape）：概述与示例
随着深度学习的发展，用户对模型的需求变得越来越多样化，尤其是在处理可变输入尺寸的数据时。传统的深度学习框架往往要求输入数据的形状是固定的，这在某些任务中如图像分类、物体检测等会产生不便。为此，PyTorch作为一个灵活的深度学习框架，提供了对动态形状的强大支持。本文将深入探讨如何在PyTorch中构建动态形状的模型，并通过
# PyTorch查看模型shape：全面解析
在深度学习的实践中，树立对模型数据流的清晰认识是十分重要的。在使用PyTorch框架构建神经网络模型时，了解各层的输入输出形状（shape）不仅能帮助我们调试模型，还能深入理解模型的架构和数据流动。本文将详细介绍如何在PyTorch中查看模型的shape，并给出示例代码。
## 什么是Shape？
在深度学习中，形状（shape）通常是一个多维
# 如何使用PyTorch获取Tensor的形状
## 引言
PyTorch是一个开源的深度学习框架，广泛应用于各种机器学习任务中。在PyTorch中，Tensor是最基本的数据结构，它是一个多维数组，用于存储和处理数据。获取一个Tensor的形状（shape）是我们在实际开发中经常遇到的问题之一。本文将介绍如何使用PyTorch获取Tensor的形状，并帮助刚入行的小白快速上手。
## 整体
原创
2024-01-10 11:26:46
412阅读
前言最近在由 TensorFlow 迁移至 Pytorch， 不得不说，真的香啊。 在写模型的时候发现 Pytorch 中处理变长序列与 TensorFlow 有很大的不同， 因此此处谈谈我自己的理解。 此外， 我对 LSTM, GRU 进行了二次加工， 将对变长序列的处理封装到内部细节中，感兴趣的可以看看：NLP-Pytorch从 LSTM 谈起[1]首先， 注意到这里LSTM的计算公式
转载
2023-12-27 08:07:33
29阅读
先看Pytorch中的卷积class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True)二维卷积层, 输入的尺度是(N, C_in,H,W)，输出尺度（N,C_out,H_out,W_out）的计算方式 这里比
转载
2024-08-28 15:55:55
60阅读
# PyTorch 中查看 Loss 的 Shape
在使用 PyTorch 进行深度学习时，确保你了解损失函数（Loss Function）是至关重要的，因为它可以帮助你评估模型的性能。在训练过程中，常常需要查看 loss 的形状（shape）以确保它符合预期。在这篇文章中，我们将探讨如何在 PyTorch 中查看损失的形状，介绍一些基本概念，并通过示例代码来加深理解。
## 什么是 Los
参数空间-梯度更新 网络中所有权重计算损失函数的梯度
AI算法构成Dataset Model Train Infer Deploy
解耦：
模型训练过程中保存的模型文件是包含前向预测和反向传播的过程，
在实际的工业部署则不需要反向传播，因此需要将模型进行导成部署需要的模型格式
配置化： 配置都会包含三个主要内容：数据配置、网络模
转载
2024-09-07 17:50:54
70阅读
Dense全连接 Deep DNN稠密网络，全连接网络（权重最多，占大头） 卷积 权重少 原因是：卷积核上权重整个图像上是共享的，所以参数少循环神经网络 RNN：专门用来处理带有序列关系模式的数据（天气，故事，自然语言），使用权重共享来减少需要训练的权重的数量 使用思路：不仅要考虑序连接关系还要考虑先后的时间关系 RNN Cell：本质线性层（一个维度映射到另一个维度） 如下图 h0先验值：CNN
# 如何在 PyTorch 中获取 Tensor 的形状
在深入学习深度学习框架 PyTorch 之前，了解基本的操作是非常重要的。Tensor 是 PyTorch 的基础数据结构之一，获取 Tensor 的形状是操作 Tensor 的第一步。本篇文章将帮助你一步一步掌握如何在 PyTorch 中获取 Tensor 的形状。
## 流程概述
以下是获取 Tensor 形状的基本流程：
|
原创
2024-08-10 04:27:22
166阅读
?作者简介：大家好，我是车神哥，府学路18号的车神? ⚡About—>车神：从寝室到实验室最快3分钟，最慢3分半（那半分钟其实是等红绿灯） 不定期学习《20天掌握Pytorch实战》，有兴趣就跟着专栏一起吧~开源自由，知识无价~ 自动微分机制一、?前言二、?动态计算图简介三、?计算图中的Function四、?计算图与反向传播五、?叶子节点和非叶子节点五、?计算图在TensorBoard中的可
转载
2024-07-26 08:37:01
43阅读
神经网络所处理的数据类型都为tensor类型数据，我们首先需要导入库torchimport torch使用 arange 创建一个行向量 x。这个行向量包含以0开始的前12个整数，它们默认创建为整数。除非额外指定，新的张量将存储在内存中，并采用基于CPU的计算。x = torch.arange(12)
x 可以通过张量的shape属性来访问张量（沿每个轴的长度）的形状 。x.shape如
转载
2023-12-13 21:21:15
57阅读
一，归一化层概述归一化技术对于训练深度神经网络非常重要。它们的主要作用是让模型的中间层的输入分布稳定在合适的范围，加快模型训练过程的收敛速度，并提升模型对输入变动的抗干扰能力。各种归一化层使用的公式都是一样的，如下所示：其中的 和 是可学习的参数。注意到，当 恰好取标准差，恰好取均值时，归一化层刚好是一个恒等变换。这就能够保证归一化层在最坏的情况下，可学习为一个恒等变换，不会给模型带来负面影响。本
转载
2024-01-20 05:05:02
50阅读
【Pytorch】Tensor基本操作一、Tensor概述二、Tensor张量的定义tensor基本定义获取tensor大小三、生成Tensor定义全0的tensor定义随机tensor定义未初始化数据的张量arange方法生成tensor四、Numpy 数据转换tensor转numpy格式numpy转tensor格式五、tenso运算操作加法减法乘法除法六、tensor维度变换unsqueez
转载
2024-07-04 21:18:51
140阅读
%matplotlib inlineAutograd自动求导机制：Pytorch中所有神经网络的核心是autograd包。 autograd包为张量上所有操作提供了自动求导。他是一个运行时定义的框架，这意味着反向传播是根据你的代码来确定如何运行。并且每次迭代可以是不同的。张量(Tensor)torch.Tensor是这个包的核心类。如果设置 .requires_grad 为 True，那么将会追踪
转载
2023-12-25 17:13:43
32阅读
PyTorch学习笔记（14）–神经网络模型的保存与读取 本博文是PyTorch的学习笔记，第14次内容记录，主要是讲解如何进行神经网络模型的保存和读取。 目录PyTorch学习笔记（14）--神经网络模型的保存与读取1.网络模型保存和加载--方法11.1网络模型保存方法11.2网络模型加载方法12.网络模型保存和加载--方法22.1网络模型保存方法22.2网络模型加载方法23.学习小结 1
转载
2023-09-28 05:33:26
115阅读
# 使用 PyTorch 读取图像的宽高
在深度学习的计算机视觉任务中，图像的预处理和分析是非常重要的一个环节。通常而言，了解图像的宽和高可以帮助我们在训练模型时选择合适的网络结构和输入形状。本文将探讨如何使用 PyTorch 读取图像的宽度和高度，并给出示例代码。
## 实际问题
在实际的图像处理任务中，你可能会遇到需要读取一组图像的尺寸数据。比如，你希望对不同尺寸的图像进行归一化处理，或
1.数据操作导入torch包。注意，代码中使用torch而不是pytorch。import torch使用arange创建一个行向量XX = torch.arange(12)
print(X) 可以通过张量的shape属性来访问张量（沿每个轴的长度）的形状 。 查看张量中元素的总数numel，即形状的所有元素乘积，可以检查它的大小（size）。 因为这里在处理的是一个向量，所以它的shape与它的
转载
2023-12-12 16:52:48
31阅读
