前言 本篇文章为学习笔记，流程参照Datawhale用免费GPU线上跑AI项目实践课程任务，个人写此文章为记录学习历程和补充概念，并希望为后续的学习者开辟道路，没有侵权的意思。如有错误也希望大佬们批评指正。模型介绍 ChatGLM-6B 是一个开源的、
把PyTorch代码加载到GPU跑
随着深度学习的快速发展，对于处理大规模数据和复杂模型的需求越来越高。为了提高训练和推断的速度，使用图形处理单元（GPU）来加速这些任务已经成为了一个常见的选择。PyTorch作为一个流行的深度学习框架，提供了便捷的方法来将代码加载到GPU上运行，以充分利用GPU的计算能力。
本文将介绍如何将PyTorch代码加载到GPU上运行，并提供相应的代码示例。首先，我
原创
2024-01-21 05:42:42
402阅读
的一 前言最近写了个又臭又长的代码来验证idea，效果还行但速度太慢，原因是代码中包含了一个很耗时的模块，这个模块需要连续执行百次以上才能得到最终结果，经过实测模块每次执行消耗约20ms，而且两次执行之间没有先后关系，为了保证系统的实时性，我决定将这一部分运算放在GPU上执行。二 环境配置（dirver CUDA + runtime CUDA）要想使用GPU加速计算，首先需要一块性能还可以的Nvi
转载
2024-04-17 15:19:00
139阅读
在服务器里利用anaconda科学利用GPU以及管理代码一 使用conda产生虚拟环境1 首先在服务器里下载安装anacodna2 .创建python虚拟环境3 使用激活(或切换不同python版本)的虚拟环境4 对虚拟环境中安装额外的包5 关闭虚拟环境(即从当前环境退出返回使用PATH环境中的默认python版本)6 删除虚拟环境。7 删除环境中的某个包二 使用pycharm连接服务器中的虚拟
转载
2024-08-07 15:39:03
76阅读
作者：凌逆战从事深度学习的研究者都知道，深度学习代码需要设计海量的数据，需要很大很大很大(重要的事情说三遍)的计算量，以至于CPU算不过来，需要通过GPU帮忙，但这必不意味着CPU的性能没GPU强，CPU是那种综合性的，GPU是专门用来做图像渲染的，这我们大家都知道，做图像矩阵的计算GPU更加在行，应该我们一般把深度学习程序让GPU来计算，事实也证明GPU的计算速度比CPU块，但是(但是前面的话都
转载
2024-03-08 08:59:47
118阅读
建立国内镜像通道命令行中输入如下命令conda config --add channels http://mirror.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels http://mirror.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda c
转载
2024-07-24 16:00:12
56阅读
1、目前主流方法：.to(device)方法 （推荐）import torch
import time
#1.通常用法
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
data = data.to(device)
model = model.to(device)
'''
1.先创建device
转载
2023-08-31 10:09:45
4606阅读
# PyTorch是否跑在GPU
![pytorch-gpu](
## 引言
在深度学习领域，GPU（图形处理器）已经成为训练神经网络模型的首选硬件。由于GPU在并行计算方面的优势，它能够大幅提高模型的训练速度。PyTorch作为一种广泛使用的深度学习框架，也提供了对GPU的支持，使用户能够充分利用GPU的计算能力来加速模型的训练过程。本文将介绍PyTorch在GPU上的运行机制以及如何在代
原创
2024-02-01 12:22:01
43阅读
# 如何在没有GPU的情况下运行PyTorch
对于刚入行的小白来说，了解如何使用PyTorch这个深度学习框架是十分必要的，即使你没有GPU。很多新手可能会认为，只有在拥有高性能GPU的条件下才能有效使用PyTorch，但其实只要有一台普通的计算机，即使没有GPU，仍然可以运行PyTorch的代码。本文将详细介绍如何在没有GPU的情况下设置和使用PyTorch，并提供相应的代码示例和步骤分析。
# 如何检测PyTorch是否在GPU上运行
PyTorch是一个开源深度学习框架，它提供了很好的GPU加速，可以让我们更快地训练深度神经网络模型。在PyTorch中，我们可以通过一些简单的方法来检测模型是否在GPU上运行。
## 检测GPU是否可用
首先，我们需要检测当前系统是否有可用的GPU，可以使用如下代码：
```python
import torch
if torch.cuda
原创
2024-04-13 06:01:14
218阅读
利用Google Colaboratory运行本地深度学习代码前提条件一、创建Colaboratory二、连接GPU云服务器查看GPU型号三、将本地项目压缩包上传到谷歌云盘并解压3.1上传3.2 解压绑定GoogleDrive开始解压 最近学习使用了Google免费的GPU云服务器用于训练GitHub上的一个深度学习项目，下面记录一下环境配置过程 前提条件拥有谷歌账号，并注册谷歌云盘（注册登录
转载
2024-04-18 16:32:56
130阅读
# 在PyTorch中使用单个GPU同时运行多个代码的指南
在深度学习的应用中，使用GPU加速是不可或缺的。当我们在开发过程中，往往需要同时运行多个实验和训练任务，尤其是在单个GPU上。尽管PyTorch能够很好地利用GPU资源，但如果我们想要在一个GPU上同时运行多个模型或实验，就需要一些额外的设置。在本文中，我们将逐步讲解如何在PyTorch中使用单个GPU同时运行多个代码，并演示相关的代码
原创
2024-10-25 03:40:11
2012阅读
问题描述在使用服务器多核跑程序的时候，需要把核心的程序抽取出来，然后提供迭代参数。然后就可以使用多核去跑程序了。但是在执行的过程中报错如下：Exception has occurred: TypeError unhashable type: 'list'File "/home/LIST_2080Ti/njh/CHB-MIT-DATA/epilepsy_eeg_classification/prep
源代码：https://github.com/amdegroot/ssd.pytorch一. Loss解析SSD的损失函数包含两个部分，一个是定位损失，一个是分类损失，整个损失函数表达如下： 其中是先验框的正样本数量，是类别置信度预测值，是先验框对应的边界框预测值，是ground truth的位置参数，代表网络的预测值。对于位置损失，采用Smooth L1 Loss，位置信息都是encode之后的
转载
2024-10-19 10:43:26
39阅读
GPU在视频转码中的应用研究进展已有的视频转码软件目前，市场上已经出现了几款优秀的利用GPU进行辅助视频转码的软件，典型的代表包括nVidia的Badaboom，AMD的ATIAvivo，Cyberlink的MediaShow和免费软件MediaCoder。其中，前三者均为商业软件，只有MediaCoder是免费软件。MediaCoder在2008年仍是基于GPL协议的开源软件，后来作者封闭了源代
转载
2024-08-25 16:50:02
56阅读
1 前言原料：我有两台电脑，一台是Win10系统的小米笔记本12.5（简称为A电脑），一台是Ubuntu系统的小米游戏本（简称为B电脑）。A电脑没有GPU，没有配置任何深度学习环境；而B电脑的GPU是GTX 1060，配置好了深度学习环境，已经能用CUDA跑代码了。A电脑和B电脑使用的IDE都是VS Code。需求：代码调试：因为B电脑有GPU，我希望能够用A电脑调试B电脑的代码。场景1（远程调试
转载
2024-03-27 10:20:35
307阅读
深度学习怎么跑代码？从事深度学习的研究者都知道，深度学习代码需要设计海量的数据，需要很大很大很大的计算量，以至于CPU算不过来，需要通过GPU帮忙，今天怎么教大家免费使用GPU跑深度学习代码。深度学习怎么跑代码？Colabortory是一个jupyter notebook环境，它支持python2和python3，还包括TPU和GPU加速，该软件与Google云盘硬盘集成，用户可以轻松共享项目或将
转载
2024-05-09 15:42:24
101阅读
目录一、keras代码GPU配置二、tensorflow代码GPU配置三、给算子指定GPU或CPU 当设置的GPU号大于实际的GPU个数时（比如实际只有一个GPU，配置中设置成使用1号GPU），创建会话会失败，提示tensorflow.python.framework.errors_impl.InternalError: Failed to create session.一、keras代
转载
2024-03-21 14:56:31
164阅读
# 无GPU运行PyTorch的实现方法
对于刚入行的小白来说，运行PyTorch有时并不容易，尤其是在没有GPU的机器上。本文将带你了解如何在没有GPU的情况下成功运行PyTorch，并提供详细的步骤和代码示例。
## 整体流程
以下是实现步骤的简要流程：
| 步骤 | 描述 |
|------|---------------------
我使用的YOLO的GPU版本工程是代码链接是：yolo-windows-master，其博客地址是：CPU版本的博客地址是：1、GPU配置，其中yolo使用的GPU版本的，其网上下载的代码基本是用CUDA7.5计算版本的，如果自己系统装的不是这个版本的则会出现加载工程失败，其错误信息如下：此时双击上面的无法加载cuda属性表的错误，这个属性表是我们在安装CUDA时会在系统目录下自动生产相应版本的。
转载
2024-03-25 17:42:25
96阅读
