这两天看到Vasily Volkov牛人的ppt，对如何更有效的使用GPU做通用计算提出了增加线程级并行以外的另一种方法---增加指令级并行，受益匪浅。刚好也没找到中文版本，就翻译过来与大家交流下，有错误请各位牛人指正，所有的实验结果和图片均出自原ppt。请参考《Better Performance at Lower Occupancy》后面两个案例有时间会放上来...
-------------
转载
2024-06-17 16:57:12
51阅读
前文书说到，类似tensorflow和pytorch这种框架有一个很大的优点就是提供了对GPU的支持， 那么，如果我们的电脑上正好有一块十分强劲的显卡 就请跟着下面的教程配置本地的CUDA, cuDNN环境 这样就可以让我们使用GPU版本的tensorflow和pytorch啦！ 十分钟配置本地CUDA, cuDNN1. CUDA1.1 卸载1.2 安装2 NVIDIA驱动程序2.1 设置独立显卡
转载
2024-03-23 11:18:32
120阅读
一 下载CUDA 和cuDNN 安装包NVIDIA 官网 CUDA各版本 cuDNN各版本(需要注册账号才能下载)注：CUDA和cuDNN对应版本如下cuda_10.2.89_441.22_win10.exe cudnn-10.2-windows10-x64-v7.6.5.32.zip1.首先下载CU
转载
2024-10-22 14:19:01
114阅读
# 在 PyTorch 中成功调用 GPU 但 CUDA 显示不占用的原因及解决方案
作为一名初学者，你可能会面临在 PyTorch 中调用 GPU 的情况，但是你会发现即使成功调用了 GPU，CUDA 的占用率仍然显示为 0。这种情况虽然不常见，但它确实能让人感到困惑。本文将教授你如何解决这个问题。我们将通过水图表的方式展示整个流程，并对每一步进行详细解释。
## 1. 整体流程
以下是解
原创
2024-09-22 06:09:13
1286阅读
一. 电脑配置如下：写在前面，本机的电脑配置如下：System：windows 10 专业版 （64位）CPU：i5-9400FRAM：16G（2666MHz）显卡：GEFORCE GTX 1660 Ti （万图师 Ti OC）首先，在安装之前需要查看显卡所能支持的最高CUDA版本，打开【NVIDIA控制面板】，选择左下角的【系统信息】选项，并点击【组件】按钮进入到如下界面：从图中我们可看出，GT
转载
2024-09-05 07:06:34
263阅读
最近在学习JAVA 注解这块总是一知半解、模模糊糊的，特地抽出时间对注解知识做个全面梳理，希望对其他初级学习者能有所帮助，文章转载并手动试验代码。什么是注解Annotation（注解）就是java提供了一种元程序中的元素关联任何信息和着元数据的途径和方法。Annotation（注解）是一个接口，程序可以通过反射来获取程序元素的Annotation对象，然后通过Annotation对象来获取注解里面
本期目录1. 张量运算2. 把张量移到GPU运算3. 张量索引和切片4. 张量的拼接5. 张量的转置6. 张量的点乘和叉乘7. 自动赋值运算 1. 张量运算PyTorch中的张量运算函数超过100种，包括转置、索引、切片、数学运算、线性代数、随机采样。更详细的张量运算请查看官方文档：torch — PyTorch 1.12 documentation以上所有运算都可以在GPU上运行，比C
转载
2023-10-10 14:18:24
399阅读
数字万用表使用方法：首先要了解一些基础，比如： power 电源开关 HOLD锁屏按键, B/L一般是为背光灯， 其次要了解 转换开关 V-或DCV 是直流电压挡的意思 V~或ACV交流电压挡的意思 A-或DCA直流电流挡的意思 A~或ACA是交流电流挡的意思， Ω是电阻挡的意思，画一个二极管的符号那个是二极管档也称蜂鸣档，F表示电容挡， H表示电感挡 hfe表示三极管电流放大系数测试挡 一般数字
1：2017年4月19号本来打算 在linux上面装个Keras+TensorFlow 学习一下 ，但是原来电脑的配置是ubuntu15.10+cuda7.5+cudnnV4+opencv3.1。在按照 http://keras-cn.readthedocs.io/en/latest/for_beginners/keras_linux/网站教程 安装过程中出现类似下图错误（提示找不到li
Google去年11月正式发布了Android 4.4，代号为KitKat（奇巧，雀巢的一款巧克力品牌），
该系统带来了诸多新的特性
。
但需要注意的是，该系统可能会让你之前一直正常使用的SD卡变为无用的“摆设”，因为
根据新版本的API改进，应用程序将不能再往SD卡中写入文件。
来看Android开发者网站的
“外部存储技术信息”文档
中的描述：&nbs
转载
2024-10-30 19:28:22
33阅读
把游戏角色的 体力、血值、内力、经验通过进度条组件动态读取显示出来，并且通过api函数SendMessage来实现进度条颜色的变化，这里我们设置了血，体力，内力，经验的不同颜色，会根据游戏时时变化百分比例，调用大漠的OCR先把数值读出来，然后换算成进度调的百分比。
第18课511遇见易语言大漠内力体力判断时时显示 易语言源码：.版本 2
.子程序 体力变化
.局部变量 str,
转载
2024-10-08 18:15:41
618阅读
建议全文看完再操作查看显卡1.查看自己gpu的型号2.查看cuda是否支持自己电脑的gpu型号3.查看driver version 和cuda versionanaconda中新建环境安装清华镜像源进入pytorch官网选择对应的命令换源安装测试 查看显卡1.查看自己gpu的型号ctrl+Alt+delete 打开任务管理器，点击性能，2.查看cuda是否支持自己电脑的gpu型号进入NVIDIA
转载
2024-05-06 12:32:20
635阅读
PyTroch相关操作（1）（21）torch.cuda.Event() 记录GPU的运行时间start = torch.cuda.Event(enable_timing=True)
end = torch.cuda.Event(enable_timing=True)
start.record()
model.train(xxx)
torch.cuda.synchronize()
end.reco
转载
2024-04-25 09:36:19
545阅读
说明最近在学习CUDA，感觉看完就忘，于是这里写一个导读，整理一下重点主要内容来源于NVIDIA的官方文档《CUDA C Programming Guide》，结合了另一本书《CUDA并行程序设计 GPU编程指南》的知识。因此在翻译总结官方文档的同时，会加一些评注，不一定对，望大家讨论指出。另外，我才不会老老实实的翻译文档，因此细节还是需要从文档里看的。看完两份文档总的来说，感觉《CUDA C P
转载
2024-07-26 21:59:29
157阅读
1 FP16半精度
FP16 和 FP32，是计算机使用的二进制浮点数据类型。
FP16 即半精度，使用2个字节。FP32 即Float。其中，sign为表示正负，exponent位表示指数 2 ( n − 15 + 1 ) 2^{(n-15+1)}2
(n−15+1)
，具体的细节这里不说明。需要看时再百度。
float类型在内存中的表示
单独使用FP16：优势：
减小显
转载
2024-07-05 16:31:07
118阅读
在运行 Ollama 时，出现 "为什么 GPU 上运用 Ollama 不占用 GPU" 的情况，这可能是由于多种技术层面的兼容性问题、配置设置或其他系统资源的限制。接下来我们将讨论如何识别并解决这些问题，以确保 GPU 的资源被有效利用。在这篇博文中，我们将依次进行环境准备、集成步骤、配置详解、实战应用、性能优化及生态扩展的探讨。
### 环境准备
在进行任何操作之前，确保您的环境与技术栈的
目录问题查阅资料解决步骤1.检查pytorch版本、是否有CUDA2.安装CUDA前看电脑的显卡驱动程序版本、支持的最高版本3.安装CUDA和cuDNN4.卸载pytorch5.重新安装pytorch6.问题解决 问题在pycharm上用python3运行代码时报错：查阅资料报错：Torch not compiled with CUDA enabled看这一篇就足够了错误Torch not co
转载
2024-04-02 16:13:04
6049阅读
stable diffusion运行时不占用GPU的问题在近期引起了广泛关注，尤其在2023年中，随着人工智能技术的快速发展，越来越多的开发者正在寻求更高效的模型推理和训练方式。我们在使用稳定扩散算法（Stable Diffusion）时，有时会遇到不占用GPU资源的问题，这不仅影响模型的性能，也延缓了开发进程。为了更好地解决这一问题，我们将详细探讨其背景、技术原理、架构解析、源码分析、案例分析及
[开发技巧]·PyTorch如何使用GPU加速（CPU与GPU数据的相互转换）配合本文推荐阅读：PyTorch中Numpy，Tensor与Variable深入理解与转换技巧关联阅读：[深度应用]·主流深度学习硬件速度对比（CPU，GPU，TPU）[开发技巧]·TensorFlow&Keras GPU1.问题描述在进行深度学习开发时，GPU加速可以提升我们开发的效率，速度的对比可以
转载
2024-05-23 14:09:31
40阅读
这两天看到Vasily Volkov牛人的ppt，对如何更有效的使用GPU做通用计算提出了增加线程级并行以外的另一种方法---增加指令级并行，受益匪浅。刚好也没找到中文版本，就翻译过来与大家交流下，有错误请各位牛人指正，所有的实验结果和图片均出自原ppt。请参考《Better Performance at Lower Occupancy》后面两个案例有时间会放上来...
-------
