引言在使用pytorch深度学习框架，计算损失函数的时候经常会遇到这么一个函数：nn.CrossEntropyLoss()该损失函数结合了nn.LogSoftmax()和nn.NLLLoss()两个函数。它在做分类（具体几类）训练的时候是非常有用的。在训练过程中，对于每个类分配权值，可选的参数权值应该是一个1D张量。那么针对这个函数，下面将做详细的介绍。交叉熵交叉熵主要是用来判定实际的输出与期望的
转载
2023-10-23 11:08:53
157阅读
## 如何在PyTorch中查看Loss曲线
在深度学习的训练过程中，损失（Loss）是一个非常重要的指标，用于评估模型的性能。在PyTorch中，监控和可视化损失曲线可以帮助我们理解模型的学习过程、是否收敛以及是否过拟合。本文将详细介绍如何在PyTorch中查看Loss曲线，并提供相应的代码示例。
### 1. 准备数据和模型
首先，我们需要一些数据来训练模型。在这里，我们将使用高斯分布生
前言亲，显存炸了，你的显卡快冒烟了！torch.FatalError: cuda runtime error (2) : out of memory at /opt/conda/conda-bld/pytorch_1524590031827/work/aten/src/THC/generic/THCStorage.cu:58 想必这是所有炼丹师们最不想看到的错误，没有之一。OUT OF MEMO
转载
2023-11-25 15:36:29
316阅读
引言： 对于二分类问题，一般会将预测结果经过一个非线性变换缩小到0到1之间，并设置一个阀值，比如0.5，小于0.5便是0，大于0.5便是1。但是这种做法对于多分类是不适用的。交叉熵： 通过神经网络解决多分类的方法是设置n个输出节点，n代表类别数。对于每一个样例，神经网络会得到一个n维数组做为输出结果。数组中
maskrcnn_benchmark源码学习写在前面关于backbone1. 先期采用vgg16_bn进行初步探索。2. 实验过程随笔3. ResNet 各种变体结构resnet网络结构初级和高级block : Residual Block和BottleNeck Block4. FPN结构关于rpn关于roi_heads1. box_head2. mask_head数据集标签的制作、数据增强与加
转载
2024-04-25 20:32:20
44阅读
RNN解决的很多问题，是文本相关的问题。循环神经网络： 注意到的是，在左侧的图中有一个反馈回路，反馈回路把上一个时刻输出的信息，作为下一个时刻的输入，来进行处理。右侧实际上是对左侧图的展开。按照时间序列展开。Xt是时刻t的输入St是时间t处的“记忆”，St=f(UXt+WSt-1)，f可以是tanh等Ot是时间t处的输出，比如是预测下个词的情况下，可能是softmax输出的属于每个候选
# 怎么看PyTorch：解决图像分类问题
PyTorch是一个灵活且强大的深度学习框架，广泛应用于计算机视觉、自然语言处理等领域。在这篇文章中，我们将通过具体的代码示例，解决一个图像分类问题，帮助你理解如何使用PyTorch进行深度学习任务。
## 问题定义
我们将使用PyTorch构建并训练一个简单的卷积神经网络（CNN），来识别手写数字（MNIST数据集）。目标是分类输入图像为0到9之
Tensor存储结构如下， 如图所示，实际上很可能多个信息区对应于同一个存储区，也就是上一节我们说到的，初始化或者普通索引时经常会有这种情况。一、几种共享内存的情况viewa = t.arange(0,6)
print(a.storage())
b = a.view(2,3)
print(b.storage())
print(id(a.storage())==id(b.storage()
转载
2023-12-13 12:56:53
925阅读
有的模型训练的精度问题要到动态的训练过程中才会发现，这是就需要检查输入数据和loss曲线。检查loss曲线很多精度问题会在网络训练过程中发现，常见的问题或现象有：·权重初始化不合理（例如初始值为0，初始值范围不合理等）；·权重中存在过大、过小值；·权重变化过大；·权重冻结不正确；·权重共享不正确；·激活值饱和或过弱（例如Sigmoid的输出接近1，Relu的输出全为0）；·梯度爆炸、消失；·训练e
转载
2024-01-03 12:36:49
1781阅读
# 如何在PyTorch中查看GPU状态及其应用示例
在深度学习的应用中，GPU（图形处理单元）扮演着至关重要的角色。PyTorch作为一个流行的深度学习框架，直接支持GPU加速。但在开发过程中，我们需要实时监控GPU的使用情况，以确保资源的有效利用。在本文中，我们将介绍如何在PyTorch中查看GPU状态，并通过一个实际示例来解决一个具体问题。
## 一、查看GPU状态
使用PyTorch
我也是一个安装anaconda环境小白哦，从我安装了7，8遍的经历来看，很多的版本问题，其实可以用一个很方便的办法解决（我的可以哈）。一、下载cuda去官网https://developer.nvidia.com/zh-cn下载最新的cuda工具包，不管你之前电脑是哪个版本cuda，都会被最新的覆盖二、查看cuda版本我之前是9.1的，现在是最新的11.1，这个在进入控制面板的NVIDIA控制面板
转载
2024-09-14 09:44:45
59阅读
import torch as t
from torch import nn
class Linear(nn.Module): # 继承nn.Module
def __init__(self, in_features, out_features):
super(Linear, self).__init__() # 等价于nn.Module.__init__(self)
# 如何使用 PyTorch 绘制 Loss 图
在深度学习模型的训练过程中，监控训练损失（loss）的变化是非常重要的，能够帮助我们判断模型的表现和调整训练策略。本文将一步一步教你如何在 PyTorch 中绘制损失图，适合刚入行的小白开发者。我们将依次介绍每一个步骤，并提供详细的代码示例。
## 整体流程
| 步骤 | 描述 |
|------
Hao Wang, Yitong Wang, Zheng Zhou, Xing Ji, Dihong Gong, Jingchao Zhou, Zhifeng Li∗, and Wei Liu∗Tencent AI Lab{hawelwang,yitongwang,encorezhou,denisji,sagazhou,michaelzfli}@tencent.comgongdihong@gmai
转载
2024-02-04 20:48:22
243阅读
一、Loss Function
什么是Loss Function？wiki上有一句解释我觉得很到位，引用一下：The loss function quantifies the amount by which the prediction deviates from the actual values。Loss Function中文损失函数，适用于用于统计，经济，机器学习等领域，虽外表形式不一，
转载
2024-05-26 08:07:25
168阅读
# 如何查看Anaconda中的PyTorch版本
## 简介
Anaconda是一个流行的Python发行版，它包含了许多常用的科学计算库和工具。PyTorch是一个广泛使用的深度学习框架，它提供了丰富的功能和强大的计算能力。在使用Anaconda时，我们可能需要查看已安装的PyTorch版本，以确保我们使用的是最新的版本或者特定的版本。
在本文中，我们将介绍如何查看Anaconda中已安
原创
2024-01-20 08:33:10
154阅读
# 如何在 PyTorch 中查看 Tensor 形状
在深度学习和数据科学中，使用张量（tensor）来表示数据是非常普遍的。PyTorch 作为一个流行的深度学习框架，提供了强大的功能来处理这些张量。了解如何查看和处理张量的形状（shape）是使用 PyTorch 的基础技能之一。本文将通过实际示例来讲解如何查看张量的形状，并解决一个实际问题。
## 什么是 Tensor 形状？
在 P
# 项目方案：通过Linux查看PyTorch版本
## 1. 引言
在机器学习和深度学习领域，PyTorch是一个非常流行的深度学习框架。为了确保项目的正确运行，我们需要了解当前系统中安装的PyTorch版本。本文将介绍如何在Linux环境中查看PyTorch版本。
## 2. 方案步骤
### 2.1. 步骤1：进入Linux终端
首先，我们需要打开Linux终端，以便执行命令和查看Py
原创
2023-09-19 12:36:25
151阅读
# PyTorch中的梯度传播详解
## 引言
在深度学习中，梯度传播是优化算法的核心组成部分，尤其是在反向传播算法中利用链式法则进行模型参数的优化。PyTorch作为一个强大的深度学习框架，其动态计算图的特性使得这一步骤更加灵活与高效。本文将对PyTorch中的梯度传播进行深入探讨，并通过代码示例与图示帮助理解。
## 梯度传播的基本原理
梯度传播主要基于链式法则，通过计算损失函数相对于
# PyTorch Dataloader怎么看大小
在使用PyTorch进行深度学习实验时，`Dataloader`是一个非常重要的工具。它可以帮助我们在训练过程中高效地加载数据，同时进行批量处理。理解`Dataloader`的大小（即数据集的样本数量和批量大小）对于调整模型参数、优化训练过程是非常重要的。
## Dataloader的基本概念
`Dataloader`是一个PyTorch中
