PyTorch入门 2 —— 张量数值运算基本运算点积运算 / 矩阵乘法比较运算逻辑运算初等函数运算统计运算指定运算设备 在神经网络中都会根据需要进行各种向量、矩阵的运算，使用 PyTorch 可以很方便地使用各种函数方法完成计算需求。在 PyTorch 中，计算的数据都是以张量形式存在，PyTorch 为每个张量封装很多实用的计算函数，并且既可以在 CPU 中运算也可以在 GPU 中运算。本篇
转载
2023-11-25 11:24:21
119阅读
Python作图中的AUC计算方法解析在Python作图中，AUC（Area Under Curve）是一个非常重要的指标，它可以用来评估分类算法的性能。在本文中，我们将介绍AUC的基本概念和计算方法，并且提供一些使用Python进行AUC计算的实例。Python作图中的AUC计算方法解析AUC的基本概念AUC是一个在[0,1]区间内的数值，用来衡量一个分类算法在不同的阈值下的性能。一般而言，当A
PyTorch | 自动求导 Autograd一、自动求导要点二、计算图三、标量反向传播四、非标量反向传播1. 定义叶子节点及算子节点2. 手工计算 y 对 x 的梯度3. 调用 backward 来获取 y 对 x 的梯度 在神经网络中，一个重要的内容就是进行参数学习，而参数学习离不开求导，那么 是如何进行求导的呢？ 现在大部分深度学习架构都有自动求导的功能， 也不例外， 中所有神
转载
2024-02-28 14:25:07
39阅读
1.ROC-AUC 和PR-AUC定义 AUC：
随机抽出一对样本（一个正样本，一个负样本），然后用训练得到的分类器来对这两个样本进行预测，预测得到正样本的概率大于负样本概率的概率。 ROC-AUC 指的是 ROC 曲线下的面积，通过在【0，1】范围内设置阈值来计算对应的TPR和FPR，最终将所有的点连起来构成ROC曲线。 PR-AUC 的构造和上述过程基本一致，只是需要再计算
转载
2023-08-08 14:50:40
438阅读
# 使用PyTorch计算AUC损失
在深度学习模型的训练过程中，AUC（Area Under the Curve）是评价模型性能的重要指标之一。AUC可以帮助我们判断模型对二分类问题的预测能力。今天，我将带你了解如何在PyTorch中计算AUC损失。我们将通过以下几个步骤来实现这一目标。
## 流程概述
| 步骤 | 描述
神经网络与反向传播从数学角度上来说，神经网络就是经过训练得到所需结果的一个复杂的数学函数。反向传播是神经网络的重要概念，主要根据链式法则计算损失Loss对输入权重w的梯度（偏导数），然后使用学习率更新权重值，以总体上减少损失。创建和训练神经网络一般包含以下5个步骤：1. 定义网络结构；2. 使用输入数据在该网络结构上进行正向传播；3. 计算损失Loss；4. 反向传播计算每个权重的梯度；5. 根据
转载
2023-09-05 17:57:52
169阅读
目录1. 使用 torch.autograd 进行自动微分2. 张量、函数和计算图3. 计算梯度4. 禁用梯度跟踪5. 关于计算图的更多内容选读：张量梯度和雅可比积1. 使用 torch.autograd 进行自动微分 在训练神经网络时，最常用的算法是反向传播。在该
转载
2023-11-20 00:08:26
126阅读
在构建模型中，我们经常会用到AUC、ROC等指标来进行模型效果评估ROC全称是“受试者工作特征”（Receiver Operating Characteristic）。ROC曲线的面积就是AUC（Area Under the Curve）。AUC用于衡量“二分类问题”机器学习算法性能（泛化能力）。如果大家对二值分类模型熟悉的话，都会知道其输出一般都是预测样本为正例的概率，而事实上，ROC曲线正是通
转载
2023-07-30 12:51:48
124阅读
训练神经网络时，最常用的算法就是反向传播。在该算法中，参数（模型权重）会根据损失函数关于对应参数的梯度进行调整。为了计算这些梯度，PyTorch内置了名为 torch.autograd 的微分引擎。它支持任意计算图的自动梯度计算。一个最简单的单层神经网络，输入 x，参数 w 和 b，某个损失函数。它可以用PyTorch这样定义：import torch
x = torch.ones(5)
转载
2024-04-20 22:21:41
77阅读
由于自己在啃代码，所以不自己写了，只给链接。1.torchtext：处理数据，包含Field， Example, Dataset, BucketIterator, Iterator等一系列的知识。2.torch.nn.Embedding：参数，第一个，字典中词的个数 第二个，embedding的维度 。3.glove2word2vec：将glove预训练词向量转为word2vector形式。（没啥
转载
2024-10-08 16:42:33
94阅读
1、AUC（Area Under Curve）原理 ROC（Receiver Operating Characteristic）曲线与AUC（Area Under Curve） ROC曲线：横坐标：假正率(False positive rate， FPR)，FPR = FP / [ FP + TN] ，代表所有负样本中错误预测为正样本的概率，假警报率；纵
转载
2023-07-01 17:32:57
207阅读
Pytorch学习笔记--1 AUTOGRADAUTOGRAD：全自动微分Tensor梯度 AUTOGRAD：全自动微分Autograd–automatic gradient，顾名思义，是能够帮我们自动求解梯度的包。所有Pytorch神经网络的核心都是autograd包，因此在正式开始训练我们的第一个网络之前，先让我们看看autograd具体能做些什么。 不论是深度学习还是更为基础的神经网络，它
转载
2024-05-16 10:12:04
19阅读
张量是一棵树长久以来，张量和其中维度的概念把我搞的晕头转向。
一维的张量是数组，二维的张量是矩阵，这也很有道理。
但是给一个二维张量，让我算出它每一行的和，应该用 sum(dim=0) 还是 sum(dim=1)? 这个问题还得让我想个一会儿。
更别说四维的张量是什么，一百维的张量又是什么，这种问题了，我不知道，想想就头大。
但是直到把张量看成一棵树，许多问题就迎刃而解~如下图所示，分别表示三种不
转载
2024-07-24 04:48:54
15阅读
神经网络的训练分为两步：前向传播和反向传播进行梯度更新。对于任何深度学习框架来说，自动求导是它们的核心组件。Pytorch 中的 autograd 负责进行自动求导。进行网络训练的时候，Pytorch 会自动：构建计算图将输入进行前向传播为每个可训练参数计算梯度虽然我们不需要显式地调用 autograd，但更深入地了解它能够帮助我们规避一些报错，遇到报错时也有解决的思路。计算图我们会好奇，auto
转载
2023-12-18 19:10:51
54阅读
detach: torch.abs(input, out=None): 计算输入张量的每个元素的绝对值torch.acos(input, out=None): 返回一个新张量，包含输入张量每个元素的反余弦函数torch.add(input, value, out=None): 对输入张量input逐元素加上标量值value，并返回结果到一个新的张量out，即out=tensor+valu
转载
2023-12-09 15:45:51
146阅读
# PyTorch绘制AUC
在机器学习模型的评估中，AUC（Area Under Curve）是一种常用的性能度量指标，用于衡量分类模型的准确性。它代表了分类器根据真阳性率（True Positive Rate）和假阳性率（False Positive Rate）之间的权衡得分。本文将介绍如何使用PyTorch绘制AUC曲线，并提供代码示例。
## AUC曲线是什么？
AUC曲线是一种评估
原创
2024-01-29 03:55:10
218阅读
Aurograd自动求导机制总结PyTorch中，所有神经网络的核心是 autograd 包。autograd 包为tensor上的所有操作提供了自动求导机制。它是一个在运行时定义(define-by-run）的框架，这意味着反向传播是根据代码如何运行来决定的，并且每次迭代可以是不同的. 理解自动求导机制可以帮助我们编写更高效、简洁的程序，并且可以方便我们进行调试。 Aurigrad如何实现自动求
转载
2024-07-26 17:48:18
63阅读
前言pytorch中的自动微分引擎，主要是服务神经网络的训练的。神经网络可以看作一个复杂函数，给其输入，会输出对应的结果，给出预测结果的过程叫做前向传播。网络预测的结果与实际的标注值可能会有出入，这样就会产生误差，通过计算误差对模型中可学习参数的梯度，并且将梯度存储在可学习参数的grad属性中，然后根据优化算法更新网络的可学习参数，从而学习数据分布的规律。 计算梯度过程就是反向传播的核心(可学习参
转载
2023-12-10 22:09:20
21阅读
干货auc的计算有两种计算方式：
第一种：适合口算，特殊说明：一组正负样本得分相同则分子给0.5即可，多组相同乘以组数即可第二种：大多数书上给的计算公式，相较第一种不太适合口算。另外还有绘制ROC曲线，再算area-under-curve的方式，通用方式积分求面积tf.metrics.auc常用的auc计算方式有两种
一种是tensorflow的tf.metrics.auc函数一种是s
转载
2023-08-30 08:40:35
126阅读
AUC（Area under curve）是机器学习常用的二分类评测手段，直接含义是ROC曲线下的面积。另一种解释是：随机抽出一对样本（一个正样本，一个负样本），然后用训练得到的分类器来对这两个样本进行预测，预测得到正样本的概率大于负样本概率的概率。
在有M个正样本,N个负样本的数据集里，利用公式求解：\[AUC=\frac{\sum_{i \in positiveClass} rank_i-\f
转载
2023-05-30 19:13:48
145阅读
