今天是Numpy专题的第5篇文章，我们来继续学习Numpy当中一些常用的数学和统计函数。 基本统计方法 在日常的工作当中，我们经常需要通过一系列值来了解特征的分布情况。比较常用的有均值、方差、标准差、百分位数等等。前面几个都比较好理解，简单介绍一下这个百分位数，它是指将元素从小到大排列之后，排在第x%位上的值。我们一般常用的是25%，50%和75%这三个值，通过这几个值，我们很容易对于整个特征的分
转载
2024-10-09 07:26:41
54阅读
Multi-Process Service(MPS)原理： 一个GPU卡上同时只能执行一个context；因此多进程同时往一个GPU卡上提交任务时，同时只能有一个任务跑起来，没法多任务并行； MPS服务：多进程提交的任务先提交至MPS服务进程，该进程会把所有任务使用同一个context但不同的stream, 提交给该块GPU卡，使得可以多任务并行
调用call指令执行该指令转向目的地的地址所指示的过程，并且这个过程执行完毕后，仍然返回到CALL指令的下一条指令地址，取指令继续执行原来的程序，因而也叫做过程调用指令。当然，该指令执行时，CPU首先将断点（IP或者CS：IP压入栈），然后以新的目的地址（即过程指令的首地址）装入IP或者CS:IP，于是控制转移到被调用的过程，与JMP指令一样，CALL指令也有段内和段间的直接调用和间接调用。调用过
转载
2024-10-29 11:09:04
36阅读
目录一、CUDA极简入门教程二、访问GpuMat的每个元素一、CUDA极简入门教程本部分只是CUDA 的一个超级简单且不完整的内容，关于CUDA配置和编程，请参考官方文档或其他教程。1、KernelKernel是在GPU上执行的函数，访问的数据都应该在显存中；函数没有返回值，需用void作为返回类型；语法和C++相同，也能使用C++的一些标准库函数(因为这些库函数有GPU实现，不过函数名字和参数相
转载
2024-04-01 11:10:26
339阅读
其实在C++ AMP之前已经有了两个异构编程框架：CUDA与OpenCL。CUDA（Compute Unified Device Architecture）是显卡厂商Nvidia于2007年退出的业界第一款异构并行编程框架。在Nvidia的大力支持下，CUDA拥有良好的开发环境，丰富的函数库，优秀的性能。但是CUDA只能被用于在Nvidia的显卡上进行异构编程，有先天的局限性。OpenCL(Ope
写在前面 ==“初学CUDA，好不容易自己写完一段cuda代码，一运行，满屏的语法bug，语法bug还好说，竟然还有逻辑bug，逻辑bug怎么改啊，wtf！！”“从别人手里接到一段CUDA代码，WTF，为什么还有bug！！还没有注释！！没有文档！！写代码的人怎么不去死啊！！”同事的代码出bug了，找你调bug，内心独白：“tmd这写的都是啥”，“tmd这不是我写的代码，出bug为啥要找我”，“tm
目前深度学习中比较主流的框架Pytorch，如何支持GPU环境。安装教程如下：首先安装CUDA和cudnn： CUDA(ComputeUnified Device Architecture)，是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。(官方解释)下载地址：CUDA Toolkit 11.5 Upda
转载
2023-10-09 15:11:27
290阅读
l GPU硬件特性n 存储层次u Global memory：l 大小一般为几GBl chip-off的DRAM介质存储器l 访问速度慢（是shared memory的上百倍）l 对于是否对齐和连续访问敏感（由DRAM的性质决定）l 可以被所有的线程访问u Shared memo
转载
2024-08-22 08:41:51
74阅读
Win10下Pytorch的cuda环境配置jupyter notebook出现如下问题：显卡型号为NVIDIA GeForce RTX 3050 Ti使用torch.cuda.is_available()判断显示True,但是无法将tensor数据加载到GPU上。根据错误提示，显示**CUDA*型号不兼容。查看显卡CUDA版本 打开Anaconda Prompt，输入命令nvidia-smi（命
转载
2023-08-11 15:36:04
601阅读
前言很多时候配置深度学习的环境都会遇到这样一个问题，就是参考的不同的开源代码所用的环境不一定相同，特别是CUDA环境，一般会有CUDA9.0、CUDA10.0、CUDA10.1等版本。所对应的cuDNN也会不同。本文是在已安装CUDA10.0+cudnn7.6.4的基础上，加装CUDA9.0+cudnn7.3.1。一、gcc降级由于CUDA 9.0仅支持gcc6.0及以下版本，而Ubuntu 18
“CUDA 是NVIDIA的GPGPU模型，它使用C语言为基础，可以直接以大多数人熟悉的C语言，写出在显示芯片上执行的程序，而不需要去学习特定的显示芯片的指令或是特殊的结构。”CUDA是什么？能吃吗？编者注：NVIDIA的GeFoce 8800GTX发布后，它的通用计算架构CUDA经过一年多的推广后，现在已经在有相当多的论文发表，在商业应用软件等方面也初步出现了视频编解码、金融、地质勘探、科学
文章目录前言一、查看windows的CUDA版本二、使用步骤1.各个GPU版本tensorflow对应的CUDA版本2.安装对应的版本的CUDA，我这里选择安装cuda11.0的2.安装对应的版本的CUDNN，我这里下载的是v8.0.53.在Anaconda里安装tensorflow(1)打开anaconda自带的Anaconda Prompt(2)创建新的环境，我命名为“tf2.4”，pyth
转载
2024-05-06 14:46:32
396阅读
cuBLAS官方文档 为了使用cuBLAS库,只需要在C代码中导入库文件即可include "cublas.h" #旧版
include "cublas_v2.h" #新版编译代码文件时需要导入链接库nvcc myCublasApp.c -lcublas -o myCublasApp
nvcc myCublasApp.c -lcublas_static -lculibo
一、linux服务器上非root用户下的尝试（成功）因为自己的机子太差了，所有从学校申请了一个服务器的账号，之前按照网上的教程，在自己的用户目录下裸装了python3.6。本来想继续裸装来着，但是尝试了很多方法，出了太多奇奇怪怪的问题，最终选择在anaconda环境下安装。首先安装cudaCUDA Toolkit 9.0 Downloads | NVIDIA Developer和cudnnLog
转载
2024-10-08 10:21:38
64阅读
1、介绍python多线程详解1.1 什么是线程？ 线程也叫轻量级进程，是操作系统能够进行运算调度的最小单位，它被包涵在进程之中，是进程中的实际运作单位。 线程自己不拥有系统资源，只拥有一点儿在运行中必不可少的资源，但它可与同属一个进程的其他线程共享进程所 拥有的全部资源。一个线程可以创建和撤销另一个线程，同一个进程中的多个线程之间可以并发执行**1.2 为什么要使用多线程？**
线程在程序中是独
CUDA安装 1.版本选择： 打开控制面板—>硬件和声音—>NVDIA控制面板—>帮助 — >系统信息 查看支持的CUDA版本号 由显卡配置选择安装cuda11.0 2.下载安装包 各个版本的官网安装地址：https://developer.nvidia.com/cuda-toolkit-archive 3.安装教程参考：cuda教程 这里要注意cuda安装失败原因：安装c
一. 电脑配置如下：写在前面，本机的电脑配置如下：操作系统：windows 10 专业版 （64位）CPU：i5RAM：16G显卡：GEFORCE GTX 960M首先，在安装之前需要查看显卡所能支持的最高CUDA版本，打开【NVIDIA控制面板】，选择左下角的【系统信息】选项，并点击【组件】按钮进入到如下界面：从图中我们可看出，GTX 960M的显卡支持CUDA 10.2版本的。因此，我们基于1
转载
2024-05-22 17:15:50
229阅读
一、CUDA简介 CUDA是并行计算的平台和类C编程模型，可以实现并行算法。电脑要配备NVIDIA GPU，就可以在许多设备上运行你的并行程序。 二、CUAD编程 CUDA编程允许程序执行在异构系统上，即CPU和GPU，并由PCL-Express总线区分开。 Host：CPU and itsmemory(host memory)
转载
2024-10-22 16:14:06
200阅读
有时候有的项目要求很苛刻，有的需要CUDA>9.0，有的又要CUDA>10.0…无可奈何只能安装多个CUDA 文章目录环境配置CUDA下载安装（已存在一个）cuDNN下载安装环境变量配置测试 环境配置CUDA9.2，cuDNN7.1.4想了解如何配置正确的环境，避免包版本的冲突，可以到这里了解一下conda下载各种包时如何避免版本不匹配问题CUDA下载安装（已存在一个）gpu版pyto
转载
2024-04-17 15:31:54
305阅读
目录一、前言二、安装CUDA、cuDNN和PyTorchCUDA的安装cuDNN的安装三、验证是否安装成功一、前言在进行深度学习模型训练时，可以使用CPU训练，但通常比较慢，也可以采用GPU进行加速训练，从而缩短训练时间。目前支持深度学习的显卡只有NIVDIA，AMD是不支持的，因此AMD显卡的用户不用再纠结于CUDA的安装了，直接安装CPU版本的PyTorch就好了。要使用GPU进行加速训练，要
转载
2023-10-21 09:50:16
27阅读
