张量是一棵树长久以来，张量和其中维度的概念把我搞的晕头转向。
一维的张量是数组，二维的张量是矩阵，这也很有道理。
但是给一个二维张量，让我算出它每一行的和，应该用 sum(dim=0) 还是 sum(dim=1)? 这个问题还得让我想个一会儿。
更别说四维的张量是什么，一百维的张量又是什么，这种问题了，我不知道，想想就头大。
但是直到把张量看成一棵树，许多问题就迎刃而解~如下图所示，分别表示三种不
转载
2024-07-24 04:48:54
15阅读
PyTorch入门 2 —— 张量数值运算基本运算点积运算 / 矩阵乘法比较运算逻辑运算初等函数运算统计运算指定运算设备 在神经网络中都会根据需要进行各种向量、矩阵的运算，使用 PyTorch 可以很方便地使用各种函数方法完成计算需求。在 PyTorch 中，计算的数据都是以张量形式存在，PyTorch 为每个张量封装很多实用的计算函数，并且既可以在 CPU 中运算也可以在 GPU 中运算。本篇
转载
2023-11-25 11:24:21
119阅读
Python作图中的AUC计算方法解析在Python作图中，AUC（Area Under Curve）是一个非常重要的指标，它可以用来评估分类算法的性能。在本文中，我们将介绍AUC的基本概念和计算方法，并且提供一些使用Python进行AUC计算的实例。Python作图中的AUC计算方法解析AUC的基本概念AUC是一个在[0,1]区间内的数值，用来衡量一个分类算法在不同的阈值下的性能。一般而言，当A
PyTorch | 自动求导 Autograd一、自动求导要点二、计算图三、标量反向传播四、非标量反向传播1. 定义叶子节点及算子节点2. 手工计算 y 对 x 的梯度3. 调用 backward 来获取 y 对 x 的梯度 在神经网络中，一个重要的内容就是进行参数学习，而参数学习离不开求导，那么 是如何进行求导的呢？ 现在大部分深度学习架构都有自动求导的功能， 也不例外， 中所有神
转载
2024-02-28 14:25:07
39阅读
1.ROC-AUC 和PR-AUC定义 AUC：
随机抽出一对样本（一个正样本，一个负样本），然后用训练得到的分类器来对这两个样本进行预测，预测得到正样本的概率大于负样本概率的概率。 ROC-AUC 指的是 ROC 曲线下的面积，通过在【0，1】范围内设置阈值来计算对应的TPR和FPR，最终将所有的点连起来构成ROC曲线。 PR-AUC 的构造和上述过程基本一致，只是需要再计算
转载
2023-08-08 14:50:40
438阅读
# 使用PyTorch计算AUC损失
在深度学习模型的训练过程中，AUC（Area Under the Curve）是评价模型性能的重要指标之一。AUC可以帮助我们判断模型对二分类问题的预测能力。今天，我将带你了解如何在PyTorch中计算AUC损失。我们将通过以下几个步骤来实现这一目标。
## 流程概述
| 步骤 | 描述
神经网络与反向传播从数学角度上来说，神经网络就是经过训练得到所需结果的一个复杂的数学函数。反向传播是神经网络的重要概念，主要根据链式法则计算损失Loss对输入权重w的梯度（偏导数），然后使用学习率更新权重值，以总体上减少损失。创建和训练神经网络一般包含以下5个步骤：1. 定义网络结构；2. 使用输入数据在该网络结构上进行正向传播；3. 计算损失Loss；4. 反向传播计算每个权重的梯度；5. 根据
转载
2023-09-05 17:57:52
169阅读
在构建模型中，我们经常会用到AUC、ROC等指标来进行模型效果评估ROC全称是“受试者工作特征”（Receiver Operating Characteristic）。ROC曲线的面积就是AUC（Area Under the Curve）。AUC用于衡量“二分类问题”机器学习算法性能（泛化能力）。如果大家对二值分类模型熟悉的话，都会知道其输出一般都是预测样本为正例的概率，而事实上，ROC曲线正是通
转载
2023-07-30 12:51:48
124阅读
目录1. 使用 torch.autograd 进行自动微分2. 张量、函数和计算图3. 计算梯度4. 禁用梯度跟踪5. 关于计算图的更多内容选读：张量梯度和雅可比积1. 使用 torch.autograd 进行自动微分 在训练神经网络时，最常用的算法是反向传播。在该
转载
2023-11-20 00:08:26
126阅读
训练神经网络时，最常用的算法就是反向传播。在该算法中，参数（模型权重）会根据损失函数关于对应参数的梯度进行调整。为了计算这些梯度，PyTorch内置了名为 torch.autograd 的微分引擎。它支持任意计算图的自动梯度计算。一个最简单的单层神经网络，输入 x，参数 w 和 b，某个损失函数。它可以用PyTorch这样定义：import torch
x = torch.ones(5)
转载
2024-04-20 22:21:41
77阅读
由于自己在啃代码，所以不自己写了，只给链接。1.torchtext：处理数据，包含Field， Example, Dataset, BucketIterator, Iterator等一系列的知识。2.torch.nn.Embedding：参数，第一个，字典中词的个数 第二个，embedding的维度 。3.glove2word2vec：将glove预训练词向量转为word2vector形式。（没啥
转载
2024-10-08 16:42:33
94阅读
今天是pytorch学习打卡的第七天，冲冲冲！！本节我们将介绍 Pytorch的动态计算图。包括：动态计算图简介计算图中的Function计算图和反向传播叶子节点和非叶子节点计算图在TensorBoard中的可视化一、动态计算图简介Pytorch的计算图由节点和边组成，节点表示张量或者Function，边表示张量和Function之间的依赖关系。Pytorch中的计算图是动态图。这里的动态主要有两
转载
2023-08-11 17:04:36
108阅读
PyTorch中的两个张量的乘法可以分为两种：两个张量对应的元素相乘（element-wise），在PyTorch中可以通过torch.mul函数（或者运算符）实现两个张量矩阵相乘（Matrix product），在PyTorch中可以通过torch.matmul函数实现本文主要介绍两个张量的矩阵相乘。语法为：torch.matmul(input, other, out = None)函数对inp
转载
2023-10-01 11:29:48
312阅读
1、AUC（Area Under Curve）原理 ROC（Receiver Operating Characteristic）曲线与AUC（Area Under Curve） ROC曲线：横坐标：假正率(False positive rate， FPR)，FPR = FP / [ FP + TN] ，代表所有负样本中错误预测为正样本的概率，假警报率；纵
转载
2023-07-01 17:32:57
207阅读
Pytorch学习笔记--1 AUTOGRADAUTOGRAD：全自动微分Tensor梯度 AUTOGRAD：全自动微分Autograd–automatic gradient，顾名思义，是能够帮我们自动求解梯度的包。所有Pytorch神经网络的核心都是autograd包，因此在正式开始训练我们的第一个网络之前，先让我们看看autograd具体能做些什么。 不论是深度学习还是更为基础的神经网络，它
转载
2024-05-16 10:12:04
19阅读
入门爱因斯坦简记法：是一种由爱因斯坦提出的，对向量、矩阵、张量的求和运算∑的求和简记法。在该简记法当中，省略掉的部分是：1)求和符号∑与2)求和号的下标i省略规则为：默认成对出现的下标（如下例1中的i和例2中的k）为求和下标。//讲的挺好矩阵乘法与高阶张量运算都有一个例子，都分析的很不错进阶在上面的字符串中，隐式地省略了重复的下标k，表示在该维度矩阵乘；另外输出中未指明下标i，表示在该维度累加,可
转载
2024-10-15 19:45:38
33阅读
神经网络的训练分为两步：前向传播和反向传播进行梯度更新。对于任何深度学习框架来说，自动求导是它们的核心组件。Pytorch 中的 autograd 负责进行自动求导。进行网络训练的时候，Pytorch 会自动：构建计算图将输入进行前向传播为每个可训练参数计算梯度虽然我们不需要显式地调用 autograd，但更深入地了解它能够帮助我们规避一些报错，遇到报错时也有解决的思路。计算图我们会好奇，auto
转载
2023-12-18 19:10:51
54阅读
PyTorch框架学习（二） — 张量操作与线性回归1 张量的操作1.1 拼接1.2 切分1.3 索引1.4 变换2 张量的数学运算2.1 加法运算2.2 减法运算2.3 哈达玛积运算(element wise，对应元素相乘)2.4 除法运算2.5 特殊运算 torch.addcdiv2.6 特殊运算 torch.addcmul2.7 幂函数2.7 指数函数2.8 对数函数2.9 三角函数2.1
转载
2023-09-14 22:03:42
157阅读
一、张量tensor张量的三个特征：秩、轴、形状张量的秩是指索引的个数，轴是指每一个维度的最大的索引的值，张量的形状提供了维度和索引的数量关系。经常需要对张量进行重塑t.reshape(1,9)利用上述函数可以将张量按任意想要的形状进行重塑下面我们考虑具体的情况，将张量带入CNN的输入中这里的张量的秩为4，即[B,C,H,W]，其中后两个维度作为每一个像素的长和宽的索引，第三个维度作为RBG或者灰
转载
2023-10-26 11:26:48
108阅读
Pytorch 零基础学习系列 之 创建张量在深度学习中，神经网路结构是基础；在Pytorch中，张量是构建神经网络的基础 。从本质上讲，Pytorch就是一个处理张量的库。一个张量可以是一个数字、向量、矩阵或者任何n维数组。比较重要的一点是张量可以在GPU上进行计算。例如，下图分别展示了1维张量，2维张量和3维张量：如何创建一般张量？方法一(1) 导入 pytorch 和 numpyimport
转载
2023-08-30 10:36:22
164阅读
