一、GPU服务器有什么作用？GPU 加速计算可以提供非凡的应用程序性能，能将应用程序计算密集部分的工作负载转移到 GPU，同时仍由 CPU 运行其余程序代码。从用户的角度来看，应用程序的运行速度明显加快.理解 GPU 和 CPU 之间区别的一种简单方式是比较它们如何处理任务。CPU 由专为顺序串行处理而优化的几个核心组成，而 GPU 则拥有一个由数以千计得更小、更高效的核心（专为同时处理多重任务而
转载
2023-12-12 18:18:12
42阅读
书接上回：利用GPU（CUDA）跑YOLO V5（Windows环境）（一）为什么不用CPU跑？->风扇起飞，性能堪忧，CPU跑一遍的时间CUDA能跑几十遍……五、准备数据集梳理整体框架可按照以下方式在yolov5-master目录下配置空文件夹，后面要用。 寻找资源与数据集标注可以自己准备或者从网上下载准备数据集，例如：猫狗识别之准备数据集，内有25000张图片。我选择了图
转载
2023-11-06 12:53:21
378阅读
Window10 NVIDIA显卡 Tensorflow 2.1 GPU 安装和测试1. 硬件要求支持以下带有 GPU 的设备： CUDA® 计算能力为 3.5 或更高的 NVIDIA® GPU 卡。请参阅支持 CUDA 的 GPU 卡列表。2. 安装NVIDIA GPU驱动，需要根据你的显卡下载驱动下载地址： https://www.nvidia.com/download/index.aspx?
转载
2024-04-26 18:35:28
989阅读
1 前言原料：我有两台电脑，一台是Win10系统的小米笔记本12.5（简称为A电脑），一台是Ubuntu系统的小米游戏本（简称为B电脑）。A电脑没有GPU，没有配置任何深度学习环境；而B电脑的GPU是GTX 1060，配置好了深度学习环境，已经能用CUDA跑代码了。A电脑和B电脑使用的IDE都是VS Code。需求：代码调试：因为B电脑有GPU，我希望能够用A电脑调试B电脑的代码。场景1（远程调试
转载
2024-03-27 10:20:35
314阅读
基于 NVIDIA Ampere GPU 架构 的 NVIDIA A100 提供了一系列令人兴奋的新功能：第三代张量核心、多实例 GPU （ MIG ）和第三代 NVLink 。安培张量核心引入了一种新的用于人工智能训练的数学模式：张量浮点 -32 （ TF32 ）。 TF32 旨在加速 FP32 数据类型的处理， FP32 数
转载
2023-07-04 20:59:00
1588阅读
最近准备开始做一个CV+NLP方面的图像标题生成任务（挖坑）GPU运行必不可少，所以小白在下载安装配置自己的烂笔记本（win10）1.查看电脑是否支持GPU首先，查看自己的显卡型号：此电脑-属性-设备管理器-显示适配器看到自己的显卡型号是NVIDIA GeForce 920MX（9代表第9代 2代表性能值为2，性能值得分为是1-9，数值越大性能越强 0基本无意义，有时代表性能，分为0、5两档，值越
转载
2024-04-28 13:56:29
479阅读
Pytorch GPU和CPU模型互相调用我们在使用pytorch的过程，经常会需要加载模型参数，但是pytorch当中，GPU和CPU模型下加载的参数的类型是不同的，不能互相直接调用，下面分情况进行操作说明。情况1：DataParallel训练的模型----> CPU问题：使用GPU训练的模型在CPU下无法运行，显示：Input type (torch.FloatTensor) and w
转载
2023-07-14 19:15:13
1321阅读
我使用的YOLO的GPU版本工程是代码链接是：yolo-windows-master，其博客地址是：CPU版本的博客地址是：1、GPU配置，其中yolo使用的GPU版本的，其网上下载的代码基本是用CUDA7.5计算版本的，如果自己系统装的不是这个版本的则会出现加载工程失败，其错误信息如下：此时双击上面的无法加载cuda属性表的错误，这个属性表是我们在安装CUDA时会在系统目录下自动生产相应版本的。
转载
2024-03-25 17:42:25
96阅读
前言 本篇文章为学习笔记，流程参照Datawhale用免费GPU线上跑AI项目实践课程任务，个人写此文章为记录学习历程和补充概念，并希望为后续的学习者开辟道路，没有侵权的意思。如有错误也希望大佬们批评指正。模型介绍 ChatGLM-6B 是一个开源的、
win10使用tensorflow和tensorflow-gpu时踩过的坑最初要使用tensorflow-gpu是因为要使用inception-resnet-v2，这个模型在cpu上跑，速度实在是太慢，两天跑1000个batch的样子，实在难受。于是搬出了我四年前的电脑（NIVIDA 840M）来准备用GPU跑。遇到了一些坑，一一解决了，记录一下。first最开始的时候，以为安装了tensorfl
转载
2024-04-03 08:53:05
138阅读
文章目录1、查询电脑硬件2、环境搭建与软件安装1、安装CUDA运算平台软件2、安装cuDNN支持包3、配置环境变量3、验证CUDA与cuDNN安装 前几天在看深度学习。因为对深度学习不是很了解，在配置环境时走了许多弯路，也总是战战兢兢的。现在对深度学习的环境搭建做一次完整的介绍，让大家按照这个步骤就可以完成系统环境的配置。接下来让我们开始吧！1、查询电脑硬件 要求：电脑必须要有 NVIDIA 独
转载
2024-03-08 20:14:32
211阅读
利用Google Colaboratory运行本地深度学习代码前提条件一、创建Colaboratory二、连接GPU云服务器查看GPU型号三、将本地项目压缩包上传到谷歌云盘并解压3.1上传3.2 解压绑定GoogleDrive开始解压 最近学习使用了Google免费的GPU云服务器用于训练GitHub上的一个深度学习项目，下面记录一下环境配置过程 前提条件拥有谷歌账号，并注册谷歌云盘（注册登录
转载
2024-04-18 16:32:56
130阅读
的一 前言最近写了个又臭又长的代码来验证idea，效果还行但速度太慢，原因是代码中包含了一个很耗时的模块，这个模块需要连续执行百次以上才能得到最终结果，经过实测模块每次执行消耗约20ms，而且两次执行之间没有先后关系，为了保证系统的实时性，我决定将这一部分运算放在GPU上执行。二 环境配置（dirver CUDA + runtime CUDA）要想使用GPU加速计算，首先需要一块性能还可以的Nvi
转载
2024-04-17 15:19:00
139阅读
用免费GPU线上跑SD项目实践 DataWhale组织了一个线上白嫖GPU跑chatGLM与SD的项目活动，我很感兴趣就参加啦。之前就对chatGLM有所耳闻，是去年清华联合发布的开源大语言模型，可以用来打造个人知识库什么的，一直没有尝试。而SD我前两天刚跟着B站秋叶大佬和Nenly大佬的视频学习过，但是生成某些图片显存吃紧，想线上部署尝试一下。参考：DataWhale 学习手册链接1 学习简介本
请先阅读如下两篇文章,并先读完我的文章再决定你是否要动手安装，因为有很多坑：免费使用谷歌GPU 这里谷歌是需要那啥的，这里出现那两个关键字文章会发布不了，大家都懂，考虑到大家能否出去的问题，所以选择写百度的文章，这里默认你已经有了百度AI Studio的账户，如果没有自行注册。1.登陆百度 AI Studio 并按照教程创建新项目2.创建自己的数据集 这里上传需要以压缩包的形式3.启动项目并进入
转载
2023-12-27 15:43:48
57阅读
基本安装： 1. 显卡驱动，到官网上去找最新的驱动吧~ 2. VS2010, VS2010sp1 慢慢装吧，耐心等待。 3. VassistX 这个可以以后装也行。 4. cuda tool kit 4.2和 cuda tools 4.2依次安装，比较块。 5. cuda s
转载
2024-09-16 19:58:31
234阅读
建立国内镜像通道命令行中输入如下命令conda config --add channels http://mirror.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels http://mirror.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda c
转载
2024-07-24 16:00:12
56阅读
# PyTorch是否跑在GPU
