pytorch 计算图pytorch是深度学习框架，而深度学习其实本质就是一大堆矩阵乘法，最后用来模拟一个高维拟合函数。无论是pytorch还是tensorflow都是把这些计算保存到一个计算图里面，其实可以看作一颗树，如果学习过数据结构，对于下面的表示应该不陌生： 其实上面这个就是一个计算图，计算了y = a*w,这个过程是框架自己做的，我们需要的就是在代码中写下y = a*w，这
转载
2024-06-21 08:38:27
99阅读
项目场景：最近想要在深度学习网络中使用旋转变换，STN旋转变化的几何原理其他博客已经叙述的较为详细，本文不再赘述，本文将从其代码实现方面进行分析，并解决原始代码进行旋转变换存在的图像被切割信息丢失等问题。问题描述：STN模型示意图如下，分为三个部分，参数预测，坐标映射，像素采样，其中参数预测是指通过网络来预测仿射变换中的仿射矩阵参数（目前很多STN网络采用的都是这样通过网络来生成仿射矩阵参数，并且
一、张量的操作拼接torch.cat(): 将张量按维度dim进行拼接torch.stack()：在新建的维度dim上进行拼接t = torch.ones((2, 3))
t_0 = torch.cat([t, t], dim=0)
t_1 = torch.stack([t, t], dim=0)
print(t_0)
print(t_0.shape)
print(t_1)
print(t_1
转载
2024-06-18 15:49:18
304阅读
文章目录PyTorch 动态计算图Pytorch张量第一个网络mnist网络初始化和前向传播dataloader/dataprivder优化器和损失函数训练过程完整代码 PyTorch 动态计算图在讨论 PyTorch 的各个组件前，我们需要了解它的工作流。PyTorch 使用一种称之为 imperative / eager 的范式，即每一行代码都要求构建一个图，作为定义完整计算图的一个部分。即
转载
2023-10-26 14:02:25
106阅读
?作者简介：大家好，我是车神哥，府学路18号的车神? ⚡About—>车神：从寝室到实验室最快3分钟，最慢3分半（那半分钟其实是等红绿灯） 不定期学习《20天掌握Pytorch实战》，有兴趣就跟着专栏一起吧~开源自由，知识无价~ 自动微分机制一、?前言二、?动态计算图简介三、?计算图中的Function四、?计算图与反向传播五、?叶子节点和非叶子节点五、?计算图在TensorBoard中的可
转载
2024-07-26 08:37:01
40阅读
I::. 前言::I::.:: 计算图(Computational Graphs)计算图是一种通用的用于描述计算操作的数据结构，它由多个节点(node)和边(edge)组成，每个节点代表一个计算操作，每条边则代表一个数据结构，即变量或者常量。该结构可以用来跟踪和记录变量之间的依赖关系，也可以用于计算变量的梯度和更新变量的值。 在 PyTorch 中，我们可以使用 torch.autograd 模块
转载
2023-09-27 11:27:55
443阅读
前言 算法的实现过程就是张量进行各种运算的过程，而计算图（Computational Graph）就是记录这些运算过程的有向无环图，比如前向传播时输入张量经过加、减、乘、除得到输出张量，那么计算图就会记录输入输出张量、加减乘除运算和一些中间变量，这是进行反向传播的前提。自动求导是很重要的方法，有这样的机制，可以让我们在设计模型的时候避免去写繁琐的梯度计算代码。本笔记的框架主要来源于深度之眼，并
转载
2023-10-31 23:13:29
141阅读
我用的是Anaconda3 ，用spyder编写pytorch的代码，在Anaconda3中新建了一个pytorch的虚拟环境（虚拟环境的名字就叫pytorch)。以下内容仅供参考哦~~1.首先打开Anaconda Prompt，然后输入activate pytorch，进入pytorch.2.输入pip install tensorboardX，安装完成后，输入python，用from tens
转载
2023-07-28 15:38:38
1080阅读
# PyTorch Tensor与计算图的分析
在深度学习领域，PyTorch是一个非常流行的框架，它使用动态计算图来进行神经网络的训练和推理。计算图能够帮助我们清楚地理解神经网络模型的结构以及如何进行反向传播。本文将带您深入了解PyTorch中的tensor以及计算图的相关知识，并通过代码示例来帮助理解。
## 1. 引言
PyTorch中的tensor是多维数组，它与NumPy中的nda
原创
2024-09-25 08:17:30
178阅读
网络参数保存加载、梯度/权重查看网络参数保存和加载：>只加载名称相同的部分
>model.load_state_dict(torch.load(weight_path), strict=False)
> torch.save(myNet.state_dict(),'pakage_pkl/net_parameter.pkl') # 网络参数保存
> myNet.load
转载
2023-10-16 16:24:16
749阅读
文章目录一.导包&定义一个简单的网络二.获取网络需要剪枝的模块三.模块结构化剪枝（核心）四.总结 目前大部分最先进的（SOTA）深度学习技术虽然效果好，但由于其模型参数量和计算量过高，难以用于实际部署。而众所周知，生物神经网络使用高效的稀疏连接（生物大脑神经网络balabala啥的都是稀疏连接的），考虑到这一点，为了减少内存、容量和硬件消耗，同时又不牺牲模型预测的精度，在设备上部署轻量级
转载
2023-12-18 23:34:58
100阅读
Pytorch是如果为函数中的每个变量求导的呢？这就引入了一个特殊的概念：计算图 假如我们有一个函数： z = 2*a + 2*b我们不妨设： f1=2*a， f2=2*b那么：  
转载
2023-06-30 16:50:43
330阅读
PyTorch环境配置及安装初步机器学习，这里记录下一些学习经过，之后以便于自己查看，同时欢迎各位大佬点评，本节是机器计算的一个包的安装和简单验证。1.流程确定自己的硬件信息-确定电脑有英伟达（NVIDIA）显卡下载安装Anaconda利用conda或者pip安装PyTorch（坑最多的）
确定自己安装的CUDA版本与GPU关系安装GPU版本PyTorch2.下载安装Anaconda在此我就
文章目录使用PyTorch计算梯度数值Autograd简单的自动求导复杂的自动求导Autograd 过程解析扩展Autograd import torch
torch.__version__'1.0.1.post2'使用PyTorch计算梯度数值PyTorch的Autograd模块实现了深度学习的算法中的向传播求导数，在张量（Tensor类）上的所有操作，Autograd都能为他们自动提供微分，
转载
2024-04-20 18:27:51
183阅读
导语：这是一篇关于Pytorch中各类乘法操作的总结和使用说明。torch.dot()：Computes the dot product (inner product) of two tensors.计算两个1-D 张量的点乘(内乘)。 torch.dot(torch.tensor([2, 3]), torch.tensor([2, 1])) out: tensor(7)torch.mm() ,
Python机器学习算法实现Author：louwillMachine Learning Lab 奇异值分解（Singular Value Decomposition，SVD）作为一种常用的矩阵分解和数据降维方法，在机器学习中也得到了广泛的应用，比如自然语言处理中的SVD词向量和潜在语义索引，推荐系统中的特征分
# 如何查看PyTorch中的设备信息
在使用PyTorch进行深度学习任务时，了解当前所使用的设备是非常重要的。PyTorch支持在CPU和GPU上运行，因此需要查看当前代码在哪种设备上执行，以便针对不同设备进行相应的优化操作。
## 问题描述
假设我们有一个PyTorch模型，我们想要确定该模型当前是在CPU还是GPU上执行。我们需要一种简单的方式来查看设备信息。
## 解决方案
P
原创
2024-03-18 03:55:37
823阅读
# 如何在Linux中查看PyTorch版本
PyTorch是一个广泛使用的开源深度学习框架，为了使用PyTorch的最新功能和修复程序，我们需要查看我们的PyTorch版本。在Linux操作系统中，我们可以使用一些简单的命令和代码示例来查看PyTorch版本。
## 使用命令行
Linux操作系统提供了一些命令行工具来查看已安装的软件包版本。我们可以使用`pip show`命令来查看PyT
原创
2023-07-22 08:26:26
1660阅读
# 如何查看PyTorch模型
在深度学习项目中，了解和检查模型的结构和参数是一个至关重要的环节。PyTorch提供了多种方式来查看模型的信息，包括打印模型结构、可视化模型、查看模型参数等。本文将介绍如何查看PyTorch模型，并通过具体的代码示例进行说明。
## 目录
1. 模型定义
2. 打印模型结构
3. 查看模型参数
4. 可视化模型
5. 结束语
## 1. 模型定义
首先，我们
原创
2024-08-23 03:12:30
247阅读
# PyTorch 如何让 GPU 平稳运算
使用 PyTorch 进行深度学习训练时，充分利用 GPU 是提升运算效率的关键。然而，GPU 的高效利用并不是一件自然而然的事情，往往需要采取一些策略来确保其平稳运作。本文旨在探讨如何实现 GPU 的平稳运算，并通过一个具体的代码示例来演示这一过程。
## 1. 问题背景
在深度学习任务中，常常会因为数据加载、模型训练等多个环节的不同步而导致
原创
2024-09-20 06:49:48
90阅读
