因为LZ是使用GPU服务器跑TensorFlow，而TensorFlow默认的是占用所有GPU，于是为了不影响其他同学使用GPU，于是就试验和总结了一下TensorFlow指定GPU的方法。。环境系统：Ubuntu14.04TensorFlow：v1.3GPU 8个GTX1080，第一列的0~7的数是GPU的序号一.设置指定GPU1.一劳永逸的方法，直接在~/.bashrc中设置环境变量 CUD
转载
2024-05-07 13:13:33
819阅读
最近在学习JAVA 注解这块总是一知半解、模模糊糊的，特地抽出时间对注解知识做个全面梳理，希望对其他初级学习者能有所帮助，文章转载并手动试验代码。什么是注解Annotation（注解）就是java提供了一种元程序中的元素关联任何信息和着元数据的途径和方法。Annotation（注解）是一个接口，程序可以通过反射来获取程序元素的Annotation对象，然后通过Annotation对象来获取注解里面
内容出处：1. 前言这是一份简单的CUDA编程入门，主要参考英伟达的官方文档进行学习，本人也是刚开始学习，如有表述错误，还请指出。官方文档链接如下：An Even Easier Introduction to CUDA | NVIDIA Technical Blogdeveloper.nvidia.com/blog/even-easier-introduction-cuda/本文先从一份简单的C+
10系的显卡换成30系显卡后，之前配好的深度学习环境出现了兼容问题，索性重装系统，从零开始配环境，过程中也出现了各种对新显卡不兼容的情况，以下的配置是本人摸索最终成功的版本，特此记录一下。 首先就是安装ubuntu18.
转载
2024-04-02 17:41:50
783阅读
文章结构GPU配置1.安装NVIDIA显卡驱动2.CUDA安装2.1显卡驱动版本与CUDA版本的对应关系2.2tensorflow-gpu版本与cuda版本的对应关系2.3.开始安装3.cuDNN的安装 GPU配置注意：如果只是想进行深度学习框架GPU版本的安装，安装完显卡驱动后，留意下驱动最大支持的CUDA版本，直接跳到Anaconda的安装，不需另外安装CUDA、cuDNN，因为Anacon
转载
2024-05-25 20:31:15
801阅读
1、为什么要装CUDA，CUDNN：先来讲讲CPU和GPU的关系和差别吧。截图来自（CUDA的官方文档）： 从上图可以看出GPU（图像处理器，Graphics Processing Unit）和CPU（中央处理器，Central Processing Unit）在设计上的主要差异在于GPU有更多的运算单元（如图中绿色的ALU），而Control和Cache单元不如CPU多，这是因为GPU在进行并行
转载
2024-04-16 17:23:18
236阅读
每次装环境，都得百度，索性自己写个参考吧。配置深度学习环境三部曲：1.Nvidia驱动安装（推荐高一些的版本，但别最高版本，难度：难搞）2.Cuda、CuDNN安装（按需求来）3.Anaconda 本文主要介绍Cuda和CuDNN的安装（会涉及多个Cuda安装）装Cuda总路线：下载Cuda--->安装--->配置环境变量装多个Cuda：安装类似总路线，仅仅环境变量那里需要修
1.CUDA对应的NVIDIA驱动版本对照表，参考一下表格2.显卡驱动安装，参考这里我这里选择安装的显卡驱动是NVIDIA-Linux-x86_64-410.78.run，安装是否成功，可以输入这个命令nvidia-smi，如果有显示GPU信息，那就是安装成功了。3.cuda安装装cuda首先需要降级：sudo add-apt-repository ppa:ubuntu-toolchain-r/t
转载
2024-07-22 12:41:25
2205阅读
GPU 的硬件基本概念Nvidia的版本： 实际上在 nVidia 的 GPU 里，最基本的处理单元是所谓的 SP(Streaming Processor)，而一颗 nVidia 的 GPU 里，会有非常多的 SP 可以同时做计算;而数个 SP 会在附加一些其他单元，一起组成一个 SM(Streaming Multiprocessor)。几个 SM 则会在组成所谓的 TPC(Texture Pr
转载
2024-07-03 21:41:57
76阅读
GPU架构SM（Streaming Multiprocessors）是GPU架构中非常重要的部分，GPU硬件的并行性就是由SM决定的。以Fermi架构为例，其包含以下主要组成部分：CUDA coresShared Memory/L1CacheRegister FileLoad/Store UnitsSpecial Function UnitsWarp SchedulerGPU中每个SM都设计成支持
转载
2024-07-19 15:17:14
169阅读
1 CUDA安装CUDA软件的安装参照Nvidia网站的“NVIDIA CUDA Installation Guide for Linux”文档进行。1.1 安装前的检查1.1.1 确认具备支持cuda的NVIDIA 显卡输入lspci | grep -i nvidia，确认计算机搭载Nvidia的
转载
2024-04-25 13:29:41
647阅读
一、典型GPU程序构成一个典型GPU程序有如下几个部分：①CPU在GPU上分配内存②CPU将CPU中的数据copy到GPU中③调用内核函数来处理数据④CPU将GPU中的数据copy到CPU中 *可以看出，四个步骤中有两个是数据的copy，因此如果你的程序需要不断地进行copy，那么运行效率会比较低，不适合利用GPU运算。一般情况下，最好的方式是，让GPU进行大量运算，同时保证计算量与通信
转载
2023-09-08 18:30:55
181阅读
Cuda基础深度学习模型推理, 为啥需要学习tensorRT, 因为需要加速, 需要C++部署, 为啥又需要学习cuda编程呢, 因为有些前处理, 后处理需要cuda编程来并行运算进行加速, 比如anchor的解码. nms等后处理1: CUDA编程之基本步骤操作概括来说包含5个步骤：
1.CPU在GPU上分配内存：cudaMalloc；
2.CPU把数据发送到GPU：cudaMemcpy,c
提到处理器结构，有2个指标是经常要考虑的：延迟和吞吐量。所谓延迟，是指从发出指令到最终返回结果中间经历的时间间隔。
原创
精选
2024-07-23 14:52:48
2975阅读
点赞
2评论
PyTroch相关操作（1）（21）torch.cuda.Event() 记录GPU的运行时间start = torch.cuda.Event(enable_timing=True)
end = torch.cuda.Event(enable_timing=True)
start.record()
model.train(xxx)
torch.cuda.synchronize()
end.reco
转载
2024-04-25 09:36:19
545阅读
cuda，cudnn，安装和tensorflow的gpu调配忙了两周终于安装完了cuda 和 cudnn ，并且成功调用tensorflow的GPU使用！！！1；首先 找自己电脑的适配cuda2；cuda，cudnn，tensorflow版本适配表3；决定适合自己的版本后，开始下载！4；cuda安装：5；安装cudnn6；添加环境变量7；检测环境变量是否添加成功8；在tensorflow中配置G
转载
2024-03-16 08:45:54
188阅读
零教程的基本概述在深度学习蓬勃发展的今天，模型变得越来越深，参数愈加庞大，虽然准确率不断增长，由于硬件受限，对实际场景部署的要求也越来越高，CUDA 编程成为了一门必备的武林绝学。如果你对模型的推理速度有较高要求，如果你有庞大的数据流等待推理，一起跟着教程了解这门技术。该教程目前暂定有以下章节，如有添加将会另行说明： 通过这些教程，可以说初入了 CUDA 编程的世界，基本学会
转载
2023-09-18 13:44:30
140阅读
目录一、前言二、安装CUDA、cuDNN和PyTorchCUDA的安装cuDNN的安装三、验证是否安装成功一、前言在进行深度学习模型训练时，可以使用CPU训练，但通常比较慢，也可以采用GPU进行加速训练，从而缩短训练时间。目前支持深度学习的显卡只有NIVDIA，AMD是不支持的，因此AMD显卡的用户不用再纠结于CUDA的安装了，直接安装CPU版本的PyTorch就好了。要使用GPU进行加速训练，要
转载
2023-10-21 09:50:16
27阅读
多首先，先来了解一下GPU与CPU的区别，如图 可以看到CPU（Central Processing Unit，中央处理单元），由Control（控制台），ALU（Arithmetic Logic Unit，逻辑计算单元），Cache（高速缓存），而GPU（Graphic Processing Unit，图形处理单元）也是由相同的部件组成，但GPU的计算单元远比CPU多，这就决定了GPU适合大量
转载
2024-03-27 06:41:51
202阅读
Win10+RTX3060机器学习环境配置1、下载准备 2、下载安装CUDA和CUDNN 2.1 cuda和cudnn下载 2.2 cuda和cudnn安装 3、安装GPU版pytorch与TensorFlow 3.1 下载 &n
转载
2024-05-14 10:51:47
1776阅读
