随着多核CPU和众核GPU的到来，并行编程已经得到了业界越来越多的重视，CPU-GPU异构程序能够极大提高现有计算机系统的运算性能，对于科学计算等运算密集型程序有着非常重要的意义。这一系列文章是根据《CUDA C语言编程指南》来整理的，该指南是NVIDIA公司提供的CUDA学习资料，介绍了CUDA编程最基本最核心的概念，是学习CUDA必不可少的阅读材料。初学CUDA，笔记错误之处在所难免，还请发现
CUDA库和系统库或用户自定义没有什么不同，它们是一组在头文件中说明其原型的函数定义的集合。CUDA库的特殊性在于，其中实现的所有计算均使用了GPU加速，而不是CPU。 使用CUDA库与创建手写CUDA C程序和使用主机现有的库相比有很多优势。CUDA库为很多应用程序在可用性和性能之间提供了最佳平衡。许多CUDA库中的API与相同作用域中的标准库API基本相同。因此，我们可以以基于主机的方式
转载
2024-04-10 10:45:54
81阅读
文章目录AI 领域的三类任务华为芯片方案华为芯片使能方案统一接口 AscendCL 介绍CANN层次介绍华为 AI 框架华为应用使能方案昇腾与“AI领域的三类任务”后记外部链接 “对比学习是最棒的。”AI 领域的三类任务重要点：算子编写，模型通信，模型开发华为芯片方案重要点：训练昇腾910，推理昇腾310。 昇腾有一系列的芯片（Mini，Lite，Nano，Max），应用遍布全场景。 集成用：L
调用call指令执行该指令转向目的地的地址所指示的过程，并且这个过程执行完毕后，仍然返回到CALL指令的下一条指令地址，取指令继续执行原来的程序，因而也叫做过程调用指令。当然，该指令执行时，CPU首先将断点（IP或者CS：IP压入栈），然后以新的目的地址（即过程指令的首地址）装入IP或者CS:IP，于是控制转移到被调用的过程，与JMP指令一样，CALL指令也有段内和段间的直接调用和间接调用。调用过
转载
2024-10-29 11:09:04
36阅读
目录一、CUDA极简入门教程二、访问GpuMat的每个元素一、CUDA极简入门教程本部分只是CUDA 的一个超级简单且不完整的内容，关于CUDA配置和编程，请参考官方文档或其他教程。1、KernelKernel是在GPU上执行的函数，访问的数据都应该在显存中；函数没有返回值，需用void作为返回类型；语法和C++相同，也能使用C++的一些标准库函数(因为这些库函数有GPU实现，不过函数名字和参数相
转载
2024-04-01 11:10:26
339阅读
其实在C++ AMP之前已经有了两个异构编程框架：CUDA与OpenCL。CUDA（Compute Unified Device Architecture）是显卡厂商Nvidia于2007年退出的业界第一款异构并行编程框架。在Nvidia的大力支持下，CUDA拥有良好的开发环境，丰富的函数库，优秀的性能。但是CUDA只能被用于在Nvidia的显卡上进行异构编程，有先天的局限性。OpenCL(Ope
写在前面 ==“初学CUDA，好不容易自己写完一段cuda代码，一运行，满屏的语法bug，语法bug还好说，竟然还有逻辑bug，逻辑bug怎么改啊，wtf！！”“从别人手里接到一段CUDA代码，WTF，为什么还有bug！！还没有注释！！没有文档！！写代码的人怎么不去死啊！！”同事的代码出bug了，找你调bug，内心独白：“tmd这写的都是啥”，“tmd这不是我写的代码，出bug为啥要找我”，“tm
原来intel的945芯片组和965芯片组的集成显卡在默认情况下（未识别监视器的情况下）是不支持1440X900分辨率的，被这个倒霉的状况折腾了整个下午，终于找到了比较好的解决办法，让驱动原生支持1440X900分辨率。 先说下什么情况下你找不到这个分辨率。在监视器不能正确识别时，安装的驱动会指派一个默认的驱动，这个驱动包含了很多个分辨率，但是没有1440X900，超出这个分辨率和低于这个分
l GPU硬件特性n 存储层次u Global memory：l 大小一般为几GBl chip-off的DRAM介质存储器l 访问速度慢（是shared memory的上百倍）l 对于是否对齐和连续访问敏感（由DRAM的性质决定）l 可以被所有的线程访问u Shared memo
转载
2024-08-22 08:41:51
74阅读
目前深度学习中比较主流的框架Pytorch，如何支持GPU环境。安装教程如下：首先安装CUDA和cudnn： CUDA(ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。(官方解释)下载地址：CUDA Toolkit 11.5 Upda
转载
2023-10-09 15:11:27
290阅读
Win10下Pytorch的cuda环境配置jupyter notebook出现如下问题：显卡型号为NVIDIA GeForce RTX 3050 Ti使用torch.cuda.is_available()判断显示True,但是无法将tensor数据加载到GPU上。根据错误提示，显示**CUDA*型号不兼容。查看显卡CUDA版本 打开Anaconda Prompt，输入命令nvidia-smi（命
转载
2023-08-11 15:36:04
601阅读
文章目录前言一、查看windows的CUDA版本二、使用步骤1.各个GPU版本tensorflow对应的CUDA版本2.安装对应的版本的CUDA，我这里选择安装cuda11.0的2.安装对应的版本的CUDNN，我这里下载的是v8.0.53.在Anaconda里安装tensorflow(1)打开anaconda自带的Anaconda Prompt(2)创建新的环境，我命名为“tf2.4”，pyth
转载
2024-05-06 14:46:32
399阅读
cuBLAS官方文档 为了使用cuBLAS库,只需要在C代码中导入库文件即可include "cublas.h" #旧版
include "cublas_v2.h" #新版编译代码文件时需要导入链接库nvcc myCublasApp.c -lcublas -o myCublasApp
nvcc myCublasApp.c -lcublas_static -lculibo
作为第一个大规模商用的、最有希望接续NAND的下一代存储介质，最近这两三年Intel在傲腾上的投入不可谓不大。Intel甚至在2020年10月宣布出售NAND业务产品线。Intel如此有把握和决心，让我不得不感觉NAND在PLC之后的路，会非常艰难。 1 此地不宜久留 我们都知道NAND闪存的一些基本特性，那就是随着TLC、QLC及PLC的升级，P/E寿命会下降，同时制程
CUDA安装 1.版本选择： 打开控制面板—>硬件和声音—>NVDIA控制面板—>帮助 — >系统信息 查看支持的CUDA版本号 由显卡配置选择安装cuda11.0 2.下载安装包 各个版本的官网安装地址：https://developer.nvidia.com/cuda-toolkit-archive 3.安装教程参考：cuda教程 这里要注意cuda安装失败原因：安装c
一、linux服务器上非root用户下的尝试（成功）因为自己的机子太差了，所有从学校申请了一个服务器的账号，之前按照网上的教程，在自己的用户目录下裸装了python3.6。本来想继续裸装来着，但是尝试了很多方法，出了太多奇奇怪怪的问题，最终选择在anaconda环境下安装。首先安装cudaCUDA Toolkit 9.0 Downloads | NVIDIA Developer和cudnnLog
转载
2024-10-08 10:21:38
64阅读
今天是Numpy专题的第5篇文章，我们来继续学习Numpy当中一些常用的数学和统计函数。 基本统计方法 在日常的工作当中，我们经常需要通过一系列值来了解特征的分布情况。比较常用的有均值、方差、标准差、百分位数等等。前面几个都比较好理解，简单介绍一下这个百分位数，它是指将元素从小到大排列之后，排在第x%位上的值。我们一般常用的是25%，50%和75%这三个值，通过这几个值，我们很容易对于整个特征的分
转载
2024-10-09 07:26:41
54阅读
摘要：近日，昇腾AI联合上海人工智能实验室，正式实现OpenMMLab算法仓库在昇腾的异构计算架构CANN上的推理部署，目前相关代码已推入MMDeploy 0.10.0版本，并在GitHub正式发布。，作者：昇腾CANN 。近日，昇腾AI联上海人工智能实验室，正式实现OpenMMLab算法仓库在昇腾的异构计算架构CANN上的推理部署，目前相关代码已推入MMDeploy 0.10.0版本，并在Git
转载
2024-08-12 16:54:03
194阅读
一. 电脑配置如下：写在前面，本机的电脑配置如下：操作系统：windows 10 专业版 （64位）CPU：i5RAM：16G显卡：GEFORCE GTX 960M首先，在安装之前需要查看显卡所能支持的最高CUDA版本，打开【NVIDIA控制面板】，选择左下角的【系统信息】选项，并点击【组件】按钮进入到如下界面：从图中我们可看出，GTX 960M的显卡支持CUDA 10.2版本的。因此，我们基于1
转载
2024-05-22 17:15:50
229阅读
# 项目方案：基于Pytorch的GPU加速深度学习模型训练
## 项目简介
本项目旨在利用Pytorch框架与CUDA技术，实现对深度学习模型的GPU加速，加快模型的训练速度和提高效率。通过调用GPU资源，提升模型在大规模数据集上的训练效果。
## 技术实现
在Pytorch中，通过`torch.cuda`模块可以方便地调用GPU资源。首先需要检查系统是否支持CUDA，然后将数据和模型加载到
原创
2024-05-29 04:44:57
271阅读
