GPU架构SM（Streaming Multiprocessors）是GPU架构中非常重要的部分，GPU硬件的并行性就是由SM决定的。以Fermi架构为例，其包含以下主要组成部分：CUDA coresShared Memory/L1CacheRegister FileLoad/Store UnitsSpecial Function UnitsWarp SchedulerGPU中每个SM都设计成支持
转载
2024-07-19 15:17:14
169阅读
分析其实一个模型所占用的显存主要包含两部分： 模型自身的参数， 优化器参数， 模型每层的输入输出。其实一个模型所占用的显存主要包含两部分： 模型自身的参数， 优化器参数， 模型每层的输入输出。1、模型自身参数 模型自身的参数指的就是各个网络层的 Weight 和Bias，这部分显存在模型加载完成之后就会被占用， 注意到的是，有些层是有参数的，如CNN， RNN； 而有些层是无参数的， 如激活层，
转载
2024-04-18 10:21:26
359阅读
cudaMallocManaged 分配旨在供主机或设备代码使用的内存，并且现在仍在享受这种方法的便利之处，即在实现自动内存迁移且简化编程的同时，而无需深入了解 cudaMallocManaged 所分配统一内存 (UM) 实际工作原理的详细信息。nsys profile 提供有关加速应用程序中 UM 管理的详细信息，并在利用这些信息的同时结合对 UM 工作原理的更深入理解，进而为优化加速应用程序
转载
2024-07-01 12:46:36
82阅读
最近在用CUDA做算法的性能优化，研究了一下影响CUDA性能的诸多因素。其中占用率是衡量流处理器（SM）上活跃线程束比例的重要参数，计算公式是每个SM中活跃线程束的数量/每个SM中最大的线程束的数量。要计算占用率，其实就是计算一个SM上最多能放几个block，或者几个warp，分别要从寄存器和共享内存两个方面计算。寄存器：每个线程需要的寄存器大小已知（如果不知道可以nvvp跑一下，看看核函数占用的
转载
2024-03-15 14:01:40
965阅读
1. 小声BIBI 曾几何时，年少无知的我将CPU使用率和负载混为一谈，简单的认为负载高了就是CPU使用率高，直到碰到了一次现网事故时发现CPU的load很高，但是CPU使用率却很低，苦于基础能力薄弱，只能求助大神才将事故解决，痛定思痛，下面就开始学习一些CPU性能相关的基础知识。本博文主要讲CPU的平均负载和简单的问题排查。2. 前期准备能联通互联网的Linux环境，我
转载
2024-04-16 19:28:16
645阅读
环境：AIX 5.3/WAS6.1
发生故障现象时的截图如下：
问题处理步骤
1、首先通过topas监控可以看到当前占用CPU率较高的那个java进程，记录下进程号：1396916；
&nbs
Adreno GPU上Android 游戏开发介绍（4）如何判断应用的性能瓶颈？关于帧率的问题排查潜在的瓶颈受 GPU 限制的应用程序 如何判断应用的性能瓶颈？关于帧率的问题在开始使用 Snapdragon Profiler 之前，或许你已经清楚的知道有些性能问题需要自己处理。同时，即便你不这样做，也建议检查应用程序的当前整体性能以确定性能瓶颈。帧率是一个理想的起点。游戏通常以每秒 30 或 6
转载
2024-10-09 12:32:50
175阅读
随着大家对工作效率的追求和AI绘画等人工智能技术的发展，在近段时间内AI绘画一直都是成为一个热门话题。AI绘画工具里面的stable diffusion通过使用深度学习算法，从而协助设计师来创造出惊人的艺术品。只是目前这种图形技术生成工具，非常依赖电脑设备配置。我们能看到的AI绘画模型，让计算机能够理解和处理图像，整个过程想要AI绘画体验更好，对电脑的CPU和显卡GPU要求是非常高的。一、AI绘图
在之前的深度学习中，我是在MAC上跑CPU版本的tensorflow程序，当数据量变大后，tensorflow跑的非常慢，在内存不足情况下，又容易造成系统崩溃，这个时候我觉得不应该浪费我的限制的微星游戏本，便想着拿来跑深度学习的代码。1. 配置信息我的老电脑配置如下：CPU i5-4210M16G内存GPU GTX 950M 显存2G128G SSDUbuntu 18.04这个配置一般，但是为了不
转载
2024-07-26 23:24:09
166阅读
背景公司新迭代了一个版本， 但是上线没多久，cpu就跑满，导致所有的请求都响应很慢， 大多数请求都超时，甚至有一次OOM。出现这样的情况，以前的负责人就叫运维重启。现在这个项目交给我来负责， 我需要把导致这个现象的原因找出来，并解决掉。前负责人说怀疑是首页接口的问题，看了代码，还真是。吐槽公司使用docker运行spring boot项目， docker运行的系统和jdk是非常干净的linux:
转载
2024-10-11 09:45:14
128阅读
安装前准备CUDA的主要用途是深度学习，而目前主流的深度学习框架Tensorflow2最高支持CUDA 10.1，因此本文讲解在Ubuntu 20.04系统上安装CUDA 10.1的主要过程。首先要安装NVIDIA显卡驱动，这个可以直接在设置附加驱动里选择对应版本系统会自动安装也可选择手动安装，download Nvidia-driver然后查看你的NVIDIA显卡驱动是否支持cuda10.1版本
转载
2024-06-16 17:43:41
77阅读
在个人PC上使用游戏级的显卡安装CUDA要比在服务器上的安装麻烦一些，在安装的过程中也遇到了不少的坑，所以在此总结一下。系统：Win7+Ubuntu 16.04 ，在Ubuntu下安装的， 显卡：GXT1050ti CUDA8.0为了确保cuda能安装成功，首先需要确认安装前的环境是否符合要求，具体细节请查阅NVIDIA CUDA Installation Guide for Lin
转载
2024-08-23 08:56:48
282阅读
cuda版本的选择CUDA与cudnn有多种安装方式，目前搜索cuda下载默认打开的是10.2：https://developer.nvidia.com/cuda-downloads进入连接，按照要求选择。本人使用的是1070，Ubuntu18.04，驱动为440.59，因此这里直接选择了10.2，如果你不是请参开该网址以下两个网址https://developer.nvidia.com/cuda
转载
2024-07-09 21:17:22
98阅读
大家有没有发现了一个奇怪的现象，就是很多自媒体平台里越来越多的谜一样的画质，很多老电影都居然都被调成了超蓝光画质，那么大部分自媒体平台的超清画质视频是如何制作出来的呢？不知道大家有没有发现，通过网上教程用pr制作720*1080P的视频，通过上传之后下载下来，自己下载分辨率居然变得更小了，别人下载会是原来的效果。网上有很多人说是上传方法的问题，有人说要用电脑上传，可以上传超清原画质，但是经过我多次
# Android 如何让应用跑满 GPU
随着移动设备功能的不断增强，用户对图形性能的要求越来越高。特别是在游戏和图形密集型应用中，充分利用 GPU（图形处理单元）的能力是至关重要的。本文将探讨如何在 Android 应用中优化 GPU 使用，确保应用的图形渲染能力得到充分发挥。
## 理论基础
在 Android 开发中，GPU 主要通过 OpenGL ES 或 Vulkan API 进
安装之前，先简单了解一下CUDA和cuDNN：CUDA (ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。NVIDIA cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA cuDNN可以集成到更高级别的机器学
转载
2024-05-16 10:42:25
1719阅读
作为2020荣耀潮流先锋5G手机第一弹，美由“芯”生的荣耀30S不仅首发搭载了最新一代5G“神U”——麒麟8系列首款5G SoC麒麟820，带来旗舰级综合性能及5G通信体验，同时，延续荣耀数字系列潮美基因，升级梦幻3D蝶羽光效，实力演绎潮流美学；拍照方面，首发配备旗下首款6400万像素全焦段AI四摄模组，摄影实力再次进阶；结合40W超级快充、细致入微的Magic UI 3.1高颜值智能
CUDA 深入浅出谈 “CUDA 是 NVIDIA 的 GPGPU 模型，它使用 C 语言为基础，可以直接以大多数人熟悉的 C 语言，写出在显示芯片上执行的程序，而不需要去学习特定的显示芯片的指令或是特殊的结构。” &nb
0 引言由于毕设用到了Marvin，采用的是CUDA框架作为加速器，正好借此学习一下CUDA编程的一些基本知识。各个版本的cuda的下载链接如下。https://developer.nvidia.com/cuda-toolkit-archiveubuntu 下cuda与cudnn安装 1 GPU编程参照了该博客，写得确实是非常之好，从硬件到软件，再到代码实现，由浅入深，由理论到实践，水平
之前想使用指定的GPU训练模型，查网上的帖子一般是通过设置环境变量来实现的，然后自己试了一下，在debug的时候发现无论怎么弄显示的device都是‘cuda:0’： 也没有多思考，于是就放弃了设置环境变量来指定GPU的方式，改为用以下方式来指定：device =
