目录一、安装Anaconda二、安装CUDA三、下载cuDNN四、检验CUDA是否安装成功五、安装并检验cuDNN六、配置PyTorch6.1 主环境直接安装6.2 anaconda创建的虚拟环境中安装 一、安装Anaconda因为之前已经安装完成anaconda，此步骤这里跳过，anaconda安装与配置可参考其他博主教程。二、安装CUDA查看电脑支持的最大CUDA版本英伟达控制面板左下角 &g
转载
2023-08-25 22:15:55
52阅读
CUDA是什么 CUDA，Compute Unified Device Architecture的简称，是由NVIDIA公司创立的基于他们公司生产的图形处理器GPUs（Graphics Processing Units,可以通俗的理解为显卡）的一个并行计
函数类型__device__ 标记的函数从一个在器件中执行的函数呼叫，在器件中执行 __global__ 表示该函数从一个在主机中执行的函数呼叫，在器件中执行__host__ 表示在主机中呼叫，在主机中执行的函数 线程grid里面包含block，block里面包含threadgrid里面所有的block都
本文为《CUDA C Programming Guide》chapter 5 Performance Guidelines章节的总结。精力有限，可能没做到覆盖所有的点，期望指正。 该章的主要内容是指导如何进行性能优化。从三个大方面入手：最大化利用率;最大 化内存吞吐量;和最大化指令吞吐量。 最大化利用率应用层次：使用异步函数和流，最大化主机端（host）任务、设备端（device）任务
转载
2024-07-05 12:49:21
189阅读
TensorFlow是一个开源的机器学习库，由Google于2015年发布。它能够进行深度神经网络的训练和推理，具有高效、灵活、跨平台等优点，被广泛应用于图像识别、语音识别、自然语言处理、推荐系统等领域。TensorFlow的基本概念包括：Tensor：Tensor是TensorFlow中的基本数据结构，可以看作是多维数组。TensorFlow中的计算都是基于Tensor进行的。Graph：Gra
# Python统计CUDA的平均使用率
随着深度学习和科学计算的快速发展，CUDA（Compute Unified Device Architecture）作为NVIDIA推出的并行计算平台和编程模型，越来越受到研究人员和开发者的青睐。在使用CUDA进行计算时，监控其使用情况是非常重要的，尤其是CUDA的使用率，这可以帮助我们有效利用GPU资源，优化程序性能。
在本文中，我们将探讨如何使用P
原创
2024-10-16 05:14:56
122阅读
## 如何实现“pytorch 推理 显存使用率0”
### 引言
在使用深度学习模型进行推理时，显存的使用率往往是一个非常重要的指标。如果显存使用率过高，可能会导致内存溢出或性能下降。因此，优化显存使用率对于提高推理效果至关重要。本文将介绍如何使用PyTorch实现显存使用率为0的推理效果，以便新手开发者能够快速掌握这一技巧。
### 整体流程
下面是实现“pytorch 推理 显存使用率0
原创
2023-11-14 13:20:59
101阅读
pytorch学习笔记二————张量1(基础概念与操作)张量基本概念张量可全等于多维数组,他门通常是连续内存块的视图 常用的构造方式如下import torch
a=torch.ones(3)
points=torch.zeros(3,2)
weights=torch.tensor([0.2126,0.7152,0.0722])
img=torch.randn(3,5,5)索引张量列表中的范围索引
-------------------paper---------------------一种基于GPU并行计算的MD5方法0.abstract1.md5算法概述2.md5安全性分析3.基于GPU的爆破3.1GPGPU3.2CUDA3.3implementation4性能对比 -----------------presentation------------------[Code]Sec
一、查看CPU使用率1. top 命令[root@sss ~]# toptop - 16:54:38 up 7 days, 5:13, 3 users, load average: 0.00, 0.01, 0.05Tasks: 77 total, 2 running, 75 sleeping, 0
转载
2021-02-02 13:37:00
6665阅读
点赞
2评论
这[1]是关于使用 PyTorch Profiler 和 TensorBoard 分析和优化 PyTorch 模型主题的系列文章的第三部分。我们的目的是强调基于 GPU 的训练工作负载的性能分析和优化的好处及其对训练速度和成本的潜在影响。特别是，我们希望向所有机器学习开发人员展示 PyTorch Profiler 和 TensorBoard 等分析工具的可访问性。您无需成为 CUDA 专家即可通过
转载
2024-07-29 15:05:38
60阅读
"proc文件系统是一个伪文件系统，它只存在内存当中，而不占用外存空间。它以文件系统的方式为访问系统内核数据的操作提供接口。用户和应用程序可以通过proc得到系统的信息，并可以改变内核的某些参数。" 这里将介绍如何从/proc文件系统中获取与防火墙相关的一些性能参数，以及如何通过/proc文件系统修改内核的相关配置。 1、
转载
2024-04-20 21:34:38
30阅读
在不用第三方软件前提下想定时检查服务器的cpu使用率硬盘使用率和内存使用率，并生成报表在服务器巡检过程中相当实用，其实在Windows下，可以用批处理命令写一个脚本，在一定程度上完成这些简单的任务，但是如果想要实现复杂的功能，批处理命令就力不从心了。处理批处理命令，微软还提供了WSH。我们可以使用VBScript来写脚本，访问其内置对象或COM对象，然后让其在WSH中执行，就可以完成较为复杂的功能
转载
精选
2012-05-07 11:10:29
1981阅读
TensorFlow、Keras和Pytorch是目前深度学习的主要框架，也是入门深度学习必须掌握的三大框架，但是官方文档相对内容较多，初学者往往无从下手。本人从github里搜到三个非常不错的学习资源，并对资源目录进行翻译，强烈建议初学者下载学习，这些资源包含了大量的代码示例（含数据集），个人认为，只要把以上资源运行一次，不懂的地方查官方文档，很快就能理解和运用这三大框架。一、TensorFlo
转载
2024-04-27 16:56:04
38阅读
写在前面 在Windows7时代，很少人会抱怨硬盘占用率高的问题。但是到了Windows7/8.1时，硬盘占用率成为一个扰人的问题。硬盘占用率经常100%会导致系统卡、慢，而且也很伤硬盘。网上流传着许多降低Windows8/8.1硬盘占用率的方法，今天，在此汇总一下，通过以下六种方案的处理，硬盘占用率或多或少一定会
转载
2024-03-29 12:01:53
64阅读
Redis内存消耗分析注：本文默认读者已初步学会使用redis了。首先我们通过info命令查看相关指标，其中几个memory的重要指标整理出来如下：属性解释used_memoryredis内部存储的所有数据的内存总占用量（自身内存+对象内存+缓冲内存）used_memory_ressredis进程占用的总物理内存mem_fragmentation_ratioused_memory_res
转载
2023-08-19 13:57:32
89阅读
虽然每类物理资源都有N个性能指标来体现，但CPU、内存资源最主要的指标只有一个，即利用率，但磁盘IO的主要指标却有三个（IOPS、带宽、响应时间）。这是因为存储的能力会根据IO模型的不同而差异较大，IO模型可以理解为读IO和写IO的比例、顺序的还是随机的、每个IO的大小等等。例如：当测试IOPS最大能力的时候，采用随机小IO进行测试，此时占用的带宽是非常低的，响应时间也会比顺序的IO要长很多。而
转载
2024-08-30 15:33:31
100阅读
如何实现负载均衡为了系统负载的均衡，主要通过如下三种手段： （1）当一个进程要加入runqueue时，选择负载最轻的cpu上的runqueue （2）当前CPU的runqueue为空时，主动拉取其他runqueue上的进程来运行 （3）周期计算各个CPU上的负载情况，在必要的时候迁移进程具体的场景，CFS调度器负载均衡发生在如下的一些路径上： 1.当前进程离开runqueue，进入睡眠，而对应的r
转载
2024-09-05 09:56:15
139阅读
> 本文是通过学习专栏《Linux性能优化实战》05 | 基础篇：某个应用的CPU使用率居然达到100%，我该怎么办？
## CPU 使用率
***
为了维护 CPU 时间，Linux 通过事先定义的节拍率（内核中表示为 HZ），触发时间中断，并使用全局变量 Jiffies 记录了开机以来的节拍数。每发生一次时间中断，Jiffies 的值就加 1。
节拍率 HZ 是内核的可配选
转载
2024-05-25 19:50:19
101阅读
win10占用硬盘高怎么办呢?很多升级为win10的用户都出现了win10系统磁盘占用率50%或100%的情况，这样让系统的运行速度下降很多，而且对硬盘的伤害也很大，这该怎么办呢?下文小编就为大家带来win10磁盘占用率达100%的解决方法，希望能帮到大家。win10系统正式版官方下载地址以及win10系统正式版两种模式介绍win10磁盘占用率达100%解决方法：1.关闭家庭组家庭组是占用硬盘的重
转载
2024-06-30 10:37:26
82阅读
