数据处理工具箱torchvision简介transforms对PIL Image的常见操作对Tensor的常见操作如下ImageFolder可视化工具tensorboardX简介用tensorboardX可视化神经网络用tensorboardX可视化损失值参考文献 torchvision简介torchvision中有4个功能模块：model、datasets、transforms和utils。利
转载
2024-01-21 05:09:57
39阅读
1.ROC-AUC 和PR-AUC定义 AUC：
随机抽出一对样本（一个正样本，一个负样本），然后用训练得到的分类器来对这两个样本进行预测，预测得到正样本的概率大于负样本概率的概率。 ROC-AUC 指的是 ROC 曲线下的面积，通过在【0，1】范围内设置阈值来计算对应的TPR和FPR，最终将所有的点连起来构成ROC曲线。 PR-AUC 的构造和上述过程基本一致，只是需要再计算
转载
2023-08-08 14:50:40
438阅读
1.png
相信大家在做一些算法经常会被庞大的数据量所造成的超多计算量需要的时间而折磨的痛苦不已，接下来我们围绕四个方法来帮助大家加快一下Python的计算时间，减少大家在算法上的等待时间1.介绍：在PyTorch模块中，我将展示如何使用torch和检查、初始化GPU设备pycuda，以及如何使算法更快。PyTorch是建立在torch的机器学习库。它得
转载
2023-12-28 14:11:30
15阅读
分享 | 将Pytorch模型部署到Movidius神经计算棒内容提要这篇文章将是从笔者一个小白的视角出发，演示如何将自己训练的网络模型使用OpenVINO的优化器进行优化，并将其部署到神经计算棒进行推理加速的过程。正文部分1.将Pytorch模型转化为ONNX格式我们可以从脚本中保存网络的结构开始看，Pytorch保存模型分为两种：
① 只保留模型参数只保留参数[/align]torch.
转载
2023-10-17 13:05:23
123阅读
PyTorch | 自动求导 Autograd一、自动求导要点二、计算图三、标量反向传播四、非标量反向传播1. 定义叶子节点及算子节点2. 手工计算 y 对 x 的梯度3. 调用 backward 来获取 y 对 x 的梯度 在神经网络中，一个重要的内容就是进行参数学习，而参数学习离不开求导，那么 是如何进行求导的呢？ 现在大部分深度学习架构都有自动求导的功能， 也不例外， 中所有神
转载
2024-02-28 14:25:07
39阅读
一、计算图与动态机制 计算图是一个表示运算的有向无环图。如果学过图论，应该对有向无环图这个概念很熟悉。一个有向无环图包含“结点”和“边”。TensorFlow和PyTorch都用到计算图。Pytorch中结点表示数据，如向量、矩阵、张量等。边表示运算，如加减乘除等。TensorFlow的数据流图中结点表示
转载
2023-09-25 12:55:28
0阅读
参考https://zhuanlan.zhihu.com/p/376925457四种计算pytorch参数的方式参数计算1. 使用thop计算import torch
from thop import profile
from models.yolo_nano import YOLONano
device = torch.device("cpu")
#input_shape of model,b
转载
2023-08-17 12:58:40
168阅读
目录 说明BatchNorm1d参数num_featuresepsmomentumaffinetrack_running_statsBatchNorm1d训练时前向传播BatchNorm1d评估时前向传播总结说明网络训练时和网络评估时，BatchNorm模块的计算方式不同。如果一个网络里包含了BatchNorm，则在训练时需要先调用train()，使网络里的BatchNorm
PyTorch: Tensors这次我们使用PyTorch tensors来创建前向神经网络，计算损失，以及反向传播。 一个PyTorch Tensor很像一个numpy的ndarray。但是它和numpy ndarray最大的区别是，PyTorch Tensor可以在CPU或者GPU上运算。如果想要在GPU上运算，就需要把Tensor换成cuda类型。 import tor
转载
2023-11-20 12:48:46
218阅读
本文将介绍Keras与Pytorch的4个不同点以及为什么选择其中一个库的原因。KerasKeras本身并不是一个框架，而是一个位于其他深度学习框架之上的高级API。目前它支持TensorFlow、Theano和CNTK。Keras的优点在于它的易用性。这是迄今为止最容易上手并快速运行的框架。定义神经网络是非常直观的，因为使用API可以将层定义为函数。PytorchPytorch是一个深度学习框架
转载
2023-09-05 10:20:32
96阅读
RegionProposalNetwork在Faster RCNN中第一阶段是由RegionProposalNetwork生成anchors，并通过筛选得到proposal。代码中详细注释了每一部分的过程。import torch
import torchvision
from torch import nn, Tensor
from torch.nn import functional as F
转载
2024-01-10 13:05:48
52阅读
FunctionDescriptionDetailaddAdds other, scaled by alpha, to input.多个张量相加运算sumReturns the sum of all elements in the input tensor.元素的求和累加运算subSubtracts other, scaled by alpha, from input.多个张量相减运算prodRe
转载
2023-10-20 14:00:25
50阅读
PyTorch入门 2 —— 张量数值运算基本运算点积运算 / 矩阵乘法比较运算逻辑运算初等函数运算统计运算指定运算设备 在神经网络中都会根据需要进行各种向量、矩阵的运算，使用 PyTorch 可以很方便地使用各种函数方法完成计算需求。在 PyTorch 中，计算的数据都是以张量形式存在，PyTorch 为每个张量封装很多实用的计算函数，并且既可以在 CPU 中运算也可以在 GPU 中运算。本篇
转载
2023-11-25 11:24:21
119阅读
model.eval()和with torch.no_grad()的区别在PyTorch中进行validation时，会使用model.eval()切换到测试模式，在该模式下，主要用于通知dropout层和batchnorm层在train和val模式间切换
在train模式下，dropout网络层会按照设定的参数p设置保留激活单元的概率（保留概率=p); batchnorm层会继续计算数据的
转载
2023-10-20 22:21:23
98阅读
FLOPs、FLOPS、Params的含义及PyTorch中的计算方法含义解释FLOPS：注意全大写，是floating point operations per second的缩写（这里的大S表示second秒），表示每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。FLOPs：注意s小写，是floating point operations的缩写（这里的小s则表示复数），表示浮点运算
转载
2024-06-16 11:48:16
672阅读
文章目录：1 模型构建函数1.1 add_module1.2 ModuleList1.3 Sequential1.4 小总结2 遍历模型结构2.1 modules()2.2 named_modules()2.3 parameters()3 保存与载入本文是对一些函数的学习。函数主要包括下面四个方便：模型构建的函数：add_module,add_module,add_module
访问子模块：add
转载
2024-01-21 10:04:35
79阅读
Tensor的统计操作范数import torch
a = torch.full([8], 1)
b = a.reshape([2, 4])
c = a.reshape([2, 2, 2])
# 求L1范数(所有元素绝对值求和)
print(a.norm(1), b.norm(1), c.norm(1))
# 求L2范数(所有元素的平方和再开根号)
print(a.norm(2), b.nor
转载
2023-10-22 08:07:59
91阅读
Pytorch 可视化——Torchinfo以及TensorBoard注：本文为学习 DataWhale 开源教程《深入浅出 Pytorch》学习笔记，仅记录笔者认为价值较大、使用较少的知识点。一、可视化库安装 Pytorch 自身仅提供了简单的可视化功能，即打印模型，会展现模型的基本结构，例如运行下列代码：import torchvision.models as models
model = m
转载
2023-10-11 19:25:15
148阅读
训练神经网络时，最常用的算法就是反向传播。在该算法中，参数（模型权重）会根据损失函数关于对应参数的梯度进行调整。为了计算这些梯度，PyTorch内置了名为 torch.autograd 的微分引擎。它支持任意计算图的自动梯度计算。一个最简单的单层神经网络，输入 x，参数 w 和 b，某个损失函数。它可以用PyTorch这样定义：import torch
x = torch.ones(5)
转载
2024-04-20 22:21:41
77阅读
文章目录一、计算图与动态图机制1.静态图与动态图二、torch.autograd—自动求导系统 一、计算图与动态图机制 计算图是用来描述运算的有向无环图。计算图有两个主要元素:结点(Node)和边(Edge)。结点表示数据，如向量,矩阵,张量；边表示运算，如加减乘除卷积等。下面用计算图表示: 采用计算图描述运算的好处：不仅使得运算更加简洁，而且使得梯度求导更加方便。下面用代码展示上述计算图梯度
转载
2023-08-21 18:09:02
891阅读
