首先笔者的GPU显卡是Nvidia的GTX1060 6g,安装好显卡驱动和CUDA软件包之后就可以写并行程序了,编译可执行文件的命令为nvcc -o helloWorld helloWorld.cu -lcurand其中-o helloWorld表示生成可执行文件helloWorld,helloWorld.cu是编写的程序文件,-lcurand表示动态链接库libcurand.so,其中需要保
转载
2024-09-13 15:29:05
149阅读
前言：目前在用的监控GPU的工具有很多，比较常用的有nvprof、nvvp和Nsight。对这三种工具的使用不是很熟练，尚在学习当中。下面针对前两种自己的使用情况进行记录，如有理解错误，请指出。NVprofNvprof 是一款用以监控GPU和CPU的运行状态的工具。可以采集程序的运行热点，运行时间线，并进行任务以来分析和kenel函数调度分析等。环境配置 注：1) 版本很重要。之前安装的cuda是
转载
2024-03-16 10:06:49
190阅读
0.调用实例先看一个调用实例，顺着调用流程探寻ncnn内部具体实现细节。#include "net.h"
int main(int argc, char **argv)
{
ncnn::Mat in;
ncnn::Mat out;
ncnn::Net net;
net.load_param("model.param");
net.load_mo
转载
2024-03-19 20:28:41
176阅读
前情提要NeRF在我之前的文章中已经介绍过其牛X之处，不过它也存在如训练、推理慢等问题。近期，Nvidia提出的instant-ngp算法实现了快速的NeRF训练和推理。本文主要介绍了在Windows10系统下运行instant-ngp的方法和我在复现过程中出现的一些小问题。instant-ngp代码链接：https://github.com/NVlabs/instant-ngp准备工作在运行in
ncnn git：https://github.com/Tencent/ncnnncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。ncnn 目前已在腾讯多
转载
2024-06-05 07:16:22
205阅读
我个人的使用经验感觉，NCNN最大的优势在于运行模型推理时使用内存非常少，一个超轻量级的模型只需几十M的内存，而TensorRT下同一模型则需要几百个M的内存！NCNN这个优点是NVIDIA的TensorRT不能比的，TensorRT的优势就是模型推理时速度基本稳定，当然也比较快，FP32和FP16模式下占用内存和推理速度都有差异，NCNN下轻
转载
2024-02-27 21:08:03
235阅读
背景最近在研究读取配置相关的开源项目–libconfig。libconfig项目目前仅支持c版本和c++版本。我们当前项目是用golang编写的，于是就想通过cgo的方式调用libconfig里面的功能。刚开始一切顺利，分别编译libconfig的windows版本库和linux版本库;分别在windows环境和linux环境下写DEMO程序，这些都没有任何问题。问题出现由于，我们开发环境在win
1 网上有网友说只能用openCV2的库，事实证明会出现错误报错：error: undefined reference to `cv::imread(cv::String const&, int)' 解决方法：在CMakeLists.txt加入安装OpenCV的版本号： 将 find_package( OpenCV REQUIRED ) 更改为&
最近在做机器翻译的实验，在跑代码的时候需要用到NVIDIA的NCCL多GPU加速工具，网上有关NCCL的博客都是基于NCCL2.x版本，而我要用到的是1.x版本，经过很多次尝试终于把环境搞定，在此记录下我的一些经验，希望能够帮助到有需要的小伙伴. 目录1. cuda及cudnn安装2. Torch安装3. NCCL安装3.1. 在NCCL2.x环境运行NCCL1.x代码遇到的问题3.2 放弃NCC
转载
2024-10-20 18:49:48
178阅读
NVIDIA VGX 可将 VDI 图形处理任务从 CPU 移交给 GPU 处理，首次让数据中心经理能够为更多用户提供图形内容丰富的真正 PC 体验。NVIDIA VGX 对 IT 行业而言的优势:可利用行业领先的 VDI 解决方案，其中包括 Citrix、Microsoft 以及 VMware 可将那些处理最繁重图形任务的用户添加至 VDI 解决方案 可提升所有 VDI 用户的生产率NVIDIA
转载
2024-08-30 12:59:03
139阅读
今天算是将我的这台电脑全部搞定了，
这是2003年5月组装了，
60G+AMD Athlon950+精英kt133+256M SDRAM,
去年底就常死机或重新启动，
当时不知道是什么原因，也就这样用着，
现在想想，是因为风扇不够劲，温度太高，
说实在的，我也不知道AMD倒低是多少度才不算高，
而我为此付出了代价，
后来电脑不启动了，
我
明天补周二的课，雷哥的physX又来了可是没有NIVIDIA卡怎么破！已经两周了不能再这样下去了！欧 前言就到这里 让我们准备脱离N卡带着physX起飞！！首先我们需要以下两神器跟着神器飞在这里特别感谢已经走过这段颠簸之路的师哥师姐 带领我们走向光明 虽然这里physX的版本比较低 可是大家不要轻视他们！！因为3.3的版本更不适合新手（甚至没有N卡根本装不上...）第一步，我们安装这个2.8的Ph
小编教你win7系统nvidia控制面板打不开的解决方法，使用win7系统过程中，当你遇到电脑显卡出现问题导致画面不清晰需要对nvidia控制面板进行设置时，遇到无法打开的问题时，可参照以下的方法进行解决。最近有win7系统用户点击nvidia控制面板的时候系统却提示nvidia显示设置不可用，这让用户很是苦恼，那么win7系统提示nvidia控制面板不可用怎么办呢?就此问题，今天小编为大家分享w
转载
2024-07-19 19:57:14
17阅读
一、kNN算法基础# kNN：k-Nearest Neighboors# 多用于解决分类问题 1）特点：是机器学习中唯一一个不需要训练过程的算法，可以别认为是没有模型的算法，也可以认为训练数据集就是模型本身；思想极度简单；应用数学知识少（近乎为零）；效果少；可以解释机械学习算法使用过程中的很多细节问题更完整的刻画机械学习应用的流程； 2）思想：根本思想：两个样本，如果它们的特征足够相似，它们就有更
ncnn编译过程腾讯在GitHub上虽然写的很清楚，不过我试了两台电脑均不能成功编译环境于是开始摸索注意：我这里是在win10上面进行编译的，因为想在win10上面编写代码，因此需要一个vs2019的环境首先编译protobuf ，我直接使用那个zip下载链接，但是在新建build文件夹的过程不成功，因为会提示我有重复的build文件，因此我新建的tmp，实际上是一样的只是在到时候编译ncnn的时
设备初始化Instance --> GPU --> DeviceInstance表示具体的Vulkan应用。在一个应用程序中可以创建多个实例，这些实例之间相互独立，互不干扰。当调用API创建Vulkan实例的时候，Vulkan SDK内部会经由驱动装载器（loader）查找可用的GPU设备。创建Vulkan实例需要两个输入信息： 应用程序的信息 
转载
2024-07-27 09:23:38
363阅读
说明：平时用pytorch框架，同时pytorch内置了转onnx。看ncnn项目，最早是20180314版本支持onnx2ncnn的。（更正，最早是20180704才支持onnx2ncnn）1. 编译ncnn项目现有环境：win10vs2015cmake 3.17.2这里可以用cmake gui和vs2015 x64命令行两种方式1.1 cmake gui新建一个build-vs2015文件然后在build-vs2015文件夹内打开ncnn.sln然后右键INSTALL项
原创
2021-09-07 11:43:00
909阅读
1、 openvinoopenvino是英特尔推出的一套基于深度学习的计算机视觉加速优化框架， 用二代神经计算棒NCS2,就从openvino开始。 （NCSDK对应的是NCS1，在这篇博客有一个对比 可以看到，要用NCS加速要用openvino，而openvino只支持一些特定的框架（不包括yolov3的darknet和pytorch，所以各种模型的转换是很重要的一步）在官网下载工具包，然后配置
Vulkan是Khronos组织制定的“下一代”开放的图形显示API。是与DirectX12能够匹敌的GPU API标准。Vulkan是基于AMD的Mantle API演化而来，眼下Vulkan 1.0标准已经完毕并正式公布。上一代的OpenGL|ES并不会被遗弃。还会继续发展，非常有可能OpenGL|ES变为Vulkan的简化API。 Vulkan 技术交流 QQ群 175
转载
2024-05-09 15:16:24
65阅读
探索未来计算：WONNX - 全新GPU加速的ONNX运行时库去发现同类优质开源项目:https://gitcode.com/在计算机视觉和机器学习领域，高效的模型推理是关键。如今，我们向您隆重推荐 WONNX——一个由Rust语言编写、专为Web优化的GPU加速ONNX（开放神经网络交换）推理引擎。无论是服务器端的强大性能还是客户端的轻量级体验，WONNX都能提供卓越的支持。项目介绍WONNX是
