一、环境搭建当前：Windows10 + Anaconda3.61.1 创建PyTorch的虚拟环境打开Anaconda中的Anaconda Prompt那个黑框框，输入：#注意这里pytorch是自己设置的虚拟环境名称，可以随意取
conda create --name pytorch python=3.6之后输入y，创建pytorch虚拟环境。以下是一些常规命令：#进入到虚拟环境
activa
转载
2023-07-28 15:38:09
180阅读
# 监控PyTorch训练过程
在使用PyTorch进行深度学习模型训练时，监控训练过程是非常重要的，可以帮助我们了解模型的训练进展，及时发现问题并调整参数，以获得更好的训练效果。本文将介绍如何使用PyTorch内置的工具进行训练过程的监控。
## 使用TensorBoard进行监控
TensorBoard是TensorFlow提供的强大的可视化工具，可以用来监控模型训练过程。PyTorch
原创
2024-03-24 05:26:30
245阅读
# PyTorch CUDA监控指南
在深度学习的训练过程中，GPU的性能监控是一个不可或缺的步骤，特别是当我们使用PyTorch进行神经网络训练时。接下来，我们将通过几个简单的步骤来实现PyTorch的CUDA监控，帮助你更好地理解和优化模型训练。
## 流程概述
以下是实现PyTorch CUDA监控的主要步骤：
| 步骤 | 描述 |
|-------|------|
| 1. 确认
原创
2024-10-16 04:10:12
40阅读
经典网络 ResNet1 简述GoogleNet 和 VGG 等网络证明了，更深度的网络可以抽象出表达能力更强的特征，进而获得更强的分类能力。在深度网络中，随之网络深度的增加，每层输出的特征图分辨率主要是高和宽越来越小，而深度逐渐增加。 深度的增加理论上能够提升网络的表达能力，但是对于优化来说就会产生梯度消失的问题。在深度网络中，反向传播时，梯度从输出端向数据端逐层传播，传播过程中，梯度的累乘使得
文章目录《pytorch基础总结》1.激活函数的作用2.BN（批量标准化）3.误差函数的作用4. torch.nn和 torch. optim5.torchvision.transformas6.np.random.shuffle()7.过拟合8.assert9.小卷积的作用 1.激活函数的作用激活函数是用来加入非线性因素的，提高神经网络对模型的表达能力解决信息模型不能解决的问题。也
## PyTorch 实时 CUDA 监控
在深度学习中，GPU (图形处理单元) 是训练模型的关键。然而，随着计算需求的增加，实时监控CUDA (Compute Unified Device Architecture) 的性能变得愈发重要。本文将向你介绍如何在PyTorch中进行实时CUDA监控，确保你可以有效利用GPU资源。
### 什么是CUDA？
CUDA是NVIDIA推出的并行计算
原创
2024-10-14 06:16:34
130阅读
# 监控PyTorch显存占用
PyTorch是一个流行的深度学习框架，但在训练深度神经网络时，经常会遇到显存占用过高导致程序崩溃的问题。为了避免这种情况的发生，我们可以通过监控PyTorch的显存占用来及时发现问题并进行调整。
## 监控显存占用方法
在PyTorch中，我们可以使用`torch.cuda.memory_allocated()`和`torch.cuda.max_memory
原创
2024-02-25 04:24:46
209阅读
前提：安装好Python3.6+，torch(GPU)，登录一台开发机。一、GPU基本信息1.查看cuda是否可用：torch.cuda.is_available()
转载
2023-01-09 11:47:00
1394阅读
pytorch版本 >=1.8.0函数形态torch.cuda.set_per_process_memory_fraction(0.5, 0)参数1：fraction 限制的上限比例，如0.5 就是总GPU显存的一半，可以是0~1的任意float大小；
参数2：device 设备号； 如0 表示GPU卡 0号；使用示例：import torch
# 限制0号设备的显存的使用量为0.5，就是
转载
2023-06-09 14:02:09
648阅读
# PyTorch 监控模型占用显存
在深度学习中，显存（GPU memory）是非常宝贵的资源。了解如何监控模型在显存中的占用情况对于优化模型的性能和解决显存不足问题非常重要。PyTorch提供了一些工具和技巧来监控模型在显存中的使用情况，本文将介绍如何使用这些工具和技巧来监控模型在显存中的占用情况。
## 1. torch.cuda.memory_allocated()
`torch.c
原创
2023-08-10 17:42:25
3674阅读
# 如何使用PyTorch监控当前显存占用
在深度学习中，PyTorch是一个非常受欢迎的深度学习框架，它提供了许多有用的功能来帮助开发者更好地管理资源。其中一个重要的问题是监控显存的占用情况，这对于模型训练和调试非常有帮助。在本篇文章中，我将向你介绍如何使用PyTorch来监控当前显存的占用情况。
## 监控显存占用的步骤
下面是监控显存占用的步骤的简要概述：
| 步骤 | 描述 |
|
原创
2023-08-03 08:16:08
699阅读
一个月Pytorch从入门到实践学习时间：学习内容：3-2 张量，标量，向量，矩阵3-3 tensor创建理论3-4 tensor创建代码3-5 tensor属性tensor 属性类别例子设备属性稀疏属性3-6 稀疏张量编程实践3-7 tensor算术运算加法运算add减法运算sub乘法mul（区别矩阵乘）除法div矩阵乘法（5种）幂运算3-8 tensor算术运算编程实现3-9 in-plac
如何使用PyTorch实现模型
## 引言
PyTorch是一个用于构建深度学习模型的开源框架，它提供了丰富的工具和库，帮助开发者更高效地实现和训练各种深度学习模型。本文将介绍使用PyTorch实现模型的步骤和必要的代码。
## 流程
下面是使用PyTorch实现模型的整个流程：
```mermaid
flowchart TD
A[数据准备] --> B[定义模型]
B
原创
2024-01-15 05:40:41
164阅读
PyTorch学习笔记（13）–现有网络模型的使用及修改 本博文是PyTorch的学习笔记，第13次内容记录，主要介绍如何使用现有的神经网络模型，如何修改现有的网络模型。 目录PyTorch学习笔记（13）--现有网络模型的使用及修改1.现有网络模型2.现有模型的使用2.1VGG16模型的结构2.2修改现有VGG16模型的结构3.学习小结 1.现有网络模型 在现有的torchvisio
转载
2023-09-08 11:34:48
593阅读
关于PyTorch弹性训练，迄今为止我们已经分别介绍了 Agent 和 rendezous，但是有些部分并没有深入，比如，本文就把它们统一起来，对弹性训练做一个整体逻辑上的梳理。
原创
2022-01-18 10:37:55
382阅读
pytorch的安装首先扫盲常用的pip和这里的conda有什么不一样：pip 和 conda 什么区别？先跟着这个win10 安装 pytorch，安装conda、cuda和cuDNN。然后参照win10离线安装pytorch和torchvision进行离线安装命令行输入nvidia-smi查看cuda版本，在官网pytorch的pip选项查看自己需要下载的包在这里下载上图中对应离线包
打开命令
转载
2023-09-25 13:06:40
137阅读
用conda install时报错：An HTTP error occurred when trying to retrieve this URL. HTTP errors are often intermittent…我要做的事： 想使用torchinfo包，但是这个包可能是比较新，我的pytorch版本比较旧，所以引包的时候会报错，所以需要更新pytorch嘛，结果网上随意下载包时，更新换代了
转载
2023-11-01 19:40:22
871阅读
一、概念num_workers是Dataloader的概念，默认值是0。是告诉DataLoader实例要使用多少个子进程进行数据加载(和CPU有关，和GPU无关) 如果num_worker设为0，意味着每一轮迭代时，dataloader不再有自主加载数据到RAM这一步骤（因为没有worker了），而是在RAM中找batch，找不到时再加载相应的batch。缺点当然是速度慢。当num_worker不
转载
2023-11-10 10:40:05
128阅读
SuperPoint该论文是 magic leap 公司在18年的一篇工作，而且提供了代码，基于 pytorch 的，不过遗憾的是训练代码和相应的渲染的训练数据没提供。主要思路本文提出了一个自监督的方式去训练网络来提取特征点以及计算描述符。基本流程整体框架整体框架如下图，下面会abc三个步骤分别介绍：特征点提取预训练如果要使用有监督的深度学习方案来解决该问题，不同于其他传统的像分类、检测和分割这样
转载
2023-11-03 09:09:02
811阅读
1.torch.device()torch.device()主要作用是：在训练时指定使用GPU训练还是CPU训练。使用方法： # cuda:0 代表第几块GPU
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") 2.nn.ModuleList()nn.ModuleList()主要作用:我们可以把任意 n
转载
2023-09-06 17:57:01
283阅读
