搞深度学习的同学肯定一直都在跟ubuntu服务器打交道，无论创建用户，配置远程桌面，远程调试，配置TF或者PT的GPU环境等等，很多都是重复繁琐的步骤，还有可能各种踩坑，笔者就把的一些配置经验整理一下分享给各位。1 英伟达驱动安装拿到一台新的ubuntu服务器，首先安装一下英伟达驱动，建议去官网下载对应GPU版本的驱动文件。这一步我不赘述，很多关于驱动安装的帖子。 安装好显卡驱动之后通过nvidi
转载
2024-09-10 21:07:03
58阅读
在深度学习的实践中，PyTorch为开发者提供了灵活的张量操作能力，但在GPU和CPU之间的转换操作却常常带来一些技术挑战，尤其在处理大规模数据时更加显著。这篇博文主要围绕着“python tensor放到cpu”问题的解决过程进行分析，以期为同样面临此类情况的开发者提供参考。
### 初始技术痛点
我们最初在使用PyTorch进行图像处理时，发现训练过程中大量的数据需要在GPU和CPU之间频
在使用 PyTorch 进行深度学习任务时，GPU 加速可以显著提高模型训练和推理的性能。然而，当我们需要将 GPU 上的 tensor 转换到 CPU 上进行处理时，了解如何顺利完成这一过程至关重要。接下来，我将详细记录解决这一问题的过程，涵盖环境准备、分步指南、配置详解、验证测试、优化技巧和扩展应用。
## 环境准备
为了顺利进行 tensor 的转换，我们首先需要准备适合的环境。在这里，
深刻理解Tensor的概念/结构及其常见的属性/操作_以Pytorch框架为例Tensor的几个重要的属性/方法1. device：2. data_ptr()3. dtype4. storage()5. is_contiguous()Tensor的操作/manipulation常用的APITensor的数据结构总结References Tensor的几个重要的属性/方法先来看一个例子：# -*-
转载
2024-06-11 21:53:46
178阅读
Tensorflow是当今深度学习很流行的一个框架，它是由谷歌开发的深度学习框架到现在已经发布到了TF2.0版本了。TF的安装有两个版本一个是CPU版另一个是GPU版。当然GPU上运行TF的速度自然比CPU会快，但是自然它的安装也比CPU版要麻烦。CPU版的TF的安装十分的简单，这里当然不作叙述，本文主要是想记录下自己安装GPU版中遇到的一些问题和坑。一、首先安装GPU版本的Tensorflow第
转载
2024-04-24 10:25:35
200阅读
1. 显存的占用当在GPU上跑一个模型时，显存的占用主要有两部分：模型的输出（特征图、特征图的梯度）、模型的参数（权重矩阵、偏置值、梯度）1. 模型参数的显存占用：（例如：卷积核的参数、BN层、全连接层的参数等（池化层没有参数）） 2. 如果是在训练阶段，需要反向传播更新参数值，所以每个参数都需要存储梯度。所以模型参数的显存占用，与采用的优化器有关。
转载
2024-10-21 16:41:56
81阅读
Tutorial 8: Loading Maya 2011 Models
第八章：加载Maya2011模型
This tutorial will cover how to import static 3D models from Maya 2011. Note that this tutorial will be focused on Maya but
TensorFlow入门--张量的定义与基本运算一、生成张量 - Variable 、constant 与placeholder 方法二、全0张量与全1张量的生成 - zeros方法和ones方法三、生成带指定初值的张量 - fill方法总结 一、生成张量 - Variable 、constant 与placeholder 方法编程要求：根据提示，在右侧编辑器补全sum函数，参数 a
转载
2024-09-03 09:18:29
80阅读
NumPy学习笔记NumPy简介NumPy基础1、创建数组(矩阵)、数据类型2、数组属性查看：类型、尺寸、形状、维度3、小数、reshape(括号维度辨析)4、广播5、轴概念、数组拼接5.1轴5.2拼接6、三元运算符、行列交换7、numpy中的nan和inf7.1 简介7.2 nan性质NumPy常用方法NumPy生成随机数NumPy中的布尔索引NumPy常用统计方法思维导图 &n
转载
2024-05-24 16:41:28
47阅读
Tensor的操作Tensor的主要运算操作通常分为四大类：Reshaping operations（重塑操作）Element-wise operations（元素操作）Reduction operations（缩减操作）Access operations（访问操作）重塑操作 在重塑操作上，以如下张量为实例进行演示：import torch
t = torch.tensor([
[1, 1
文章目录一、标量二、向量三、矩阵四、四维张量 一、标量在 TensorFlow 中，标量最容易理解，它就是一个简单的数字，维度数为0，shape 为 []。 标量的典型用途之一是误差值的表示、各种测量指标的表示，比如准确度(Accuracy, acc)，精度(Precision)和召回率(Recall)等。以均方差误差函数为例，经过tf.keras.losses.mse(或tf.keras.lo
在微软最新发布的 Windows Insider 预览版本中，WSL2 获得了 GPU 计算支持。这意味着 Linux 二进制文件可以利用 GPU 资源，在 WSL 中进行机器学习、AI 开发或是数据科学等工作。微软在今年五月份的 Build 2020 大会上宣布了 WSL 对GPU 计算的支持，对这项功能的需求在社区中一直拥有很高的呼声。目前，需要在WSL中启用GPU支持需要加入Windows
转载
2024-05-28 08:30:01
46阅读
CUDA存储器类型：每个线程拥有自己的register and loacal memory;每个线程块拥有一块shared memory;所有线程都可以访问global memory;还有，可以被所有线程访问的只读存储器：constant memory and texture memory1、 寄存器Register 寄存器是GPU上的高速缓存器，其基本单元是寄存器文件，
转载
2024-05-26 14:38:35
75阅读
CPU 启动这个问题，说也简单，细究起来也不是很复杂：博客《树莓派启动流程 --- 004 systemd-modules-load [111]: Module'i2c_dev' inserted -- 01 树莓派启动流程 》 和《RPi Software --- 001 Overview》可以说明这个问题： 如果您只需要一个操作系统，则
PyTorch中torch.tensor与torch.Tensor参数详解及异同对比参数分析tensor()方法Tensor()相同点不同点 参数分析tensor()方法将其他数据类型转换为tensor型数据torch.tensor(data,dtype=None,device=None,requires_grad=False,pin_memory=False)参数：参数含义data要传入的数据
内存分配：cudaMemcpy 进行主机与设备端的数据内存交换。 CUDA程序的处理流程：从CPU拷贝数据到GPU。调用kernel来操作存储在GPU的数据。将操作结果从GPU拷贝至CPU。CUDA线程分成Grid和Block两个层次：由一个单独的kernel启动的所有线程组成一个grid，grid中所有线程共享global memory。一个grid由许多block组成，b
转载
2024-09-06 09:35:49
404阅读
1 开发环境电脑系统：Windows 10编译器：Jupter Lab语言环境：Python 3.8深度学习环境：Pytorch2 前期准备2.1 设置GPU 由于实验所用电脑显卡维集成显卡（intel(r) UHD graphics），因此无法使用GPU。# 设置GPU(没有GPU则为CPU)
impo
目录 array是什么array运算符基本操作创建array遍历array创建K=V类型array插入删去重改查each( )list( )排序 array是什么array是数据结构中的一种，在Web场景中使用得较多。了解好array的使用方法，能提升代码阅读的效率。array通过辨认角标的方式可以分为两类array：角标为int数字的array角标为string数值array两种的不同的a
转载
2024-10-30 15:56:37
37阅读
1. 张量TensorTensors张量: 张量的概念类似于Numpy中的ndarray数据结构, 最大的区别在于Tensor可以利用GPU的加速功能.张量是一个统称，其中包含很多类型： 【各种数值数据统称为张量】0阶张量：标量、常数，0-D Tensor 【scaler】1阶张量：向量，1-D Tensor 【vecto
转载
2023-10-26 12:11:04
142阅读
在使用 PyTorch 进行深度学习模型训练时，将模型迁移到 GPU 是一个常见且必要的步骤。通过将计算任务转移到 GPU 上，我们可以极大地提升模型训练速度，缩短实验时间。本文将详细探讨如何高效地将 PyTorch 模型放到 GPU 上，涵盖版本对比、迁移指南、兼容性处理、实战案例、排错指南和性能优化等方面。
### 版本对比
在不同版本的 PyTorch 中，模型迁移到 GPU 的方法略有
