设备初始化Instance --> GPU --> DeviceInstance表示具体的Vulkan应用。在一个应用程序中可以创建多个实例，这些实例之间相互独立，互不干扰。当调用API创建Vulkan实例的时候，Vulkan SDK内部会经由驱动装载器（loader）查找可用的GPU设备。创建Vulkan实例需要两个输入信息： 应用程序的信息 
转载
2024-07-27 09:23:38
363阅读
ncnn git：https://github.com/Tencent/ncnnncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。ncnn 目前已在腾讯多
转载
2024-06-05 07:16:22
205阅读
固定管线 老式图形API为多数图形管线提供了默认状态。而在Vulkan中你必须明确所有的东西，从视口大小到混合函数。本章我们会填充所有的结构体来配置这些固定管线操作。 VkPipelineVertexInputS
0.调用实例先看一个调用实例，顺着调用流程探寻ncnn内部具体实现细节。#include "net.h"
int main(int argc, char **argv)
{
ncnn::Mat in;
ncnn::Mat out;
ncnn::Net net;
net.load_param("model.param");
net.load_mo
转载
2024-03-19 20:28:41
179阅读
NCNN Vulkan 加速的实现主要在src/command.cpp文件中：grep
原创
2022-12-02 10:09:45
401阅读
http://www.doc88.com/p-192266283281.html NCL在Linux下的安装非常容易，只需下载适当版本的文件，设置好环境变量即可使用。NCL在Windows下的安装则要麻烦一些，需要先安装一个虚拟Linux环境（Cygwin/X）。本帖将按以下内容详细介绍NCL在Windows平台上的安装过程，希望仅具备Windows基本操作技能的用户也能轻松安装NCL。
Linux系统进行服务器配置管理迁移的时候，SSH的连接速度让人头疼，太慢影响效率，那么有什么方法能够加快SSH的连接速度呢？通过ControlPersist即可实现，下面小编给大家简单的介绍。目前，项目中服务器的配置管理已经全部从Puppet迁移到了Ansible，而之前一直认为不会带来困扰的SSH通道慢的问题则暴露的很明显了。因为很多时候需要同时更新几百台服务器，有不少服务器与Ansible主
1) NCNN（腾讯）ncnn加速不同于模型量化压缩, 而是采用另一种加速技巧，包括下面的几种:使用低精度采用openmp多线程加速采用simd指令集2) MNN（阿里）MNN 是一个轻量级的深度学习端侧推理引擎，核心解决深度神经网络模型在端侧推理运行问题，涵盖深度神经网络模型的优化、转换和推理。这和服务器端 TensorRT 等推理引擎的想法不谋而合。支持异构设备混合计算，目前支持 CPU 和
转载
2024-02-12 08:10:15
346阅读
# Android GPU Vulkan
## 介绍
在移动设备上开发图形应用程序是一项具有挑战性的任务。为了实现高性能和高效能，开发者需要深入了解移动设备的图形处理单元（GPU）。在Android平台上，Vulkan是一种强大的图形API，可以帮助开发者充分利用GPU的性能。本文将带您了解Android GPU Vulkan，并提供一些示例代码来帮助您入门。
## Vulkan简介
Vu
原创
2023-07-24 10:53:06
373阅读
接触了一个使用HoloLens在Unity中开发一个AR程序的项目。网上的教程很乱，在这里整合一下官方以及各博客的教程。本文包括环境的安装和配置，一个demo的实现及在HoloLens2上的部署过程。 本文主要参考了以下教程 微软官方安装工具MRTK初学者教程. Vuforia官方Getting Started with Vuforia Engine in UnityWorking with th
Vulkan介绍Vulkan是由Khronos组织开发的一种高级图形API。其他图形API（像OpenGL和Direct3D）需要驱动去将上层API翻译成适合硬件执行的指令。这些图形API是为了使开发者不需要关注复杂的图形硬件细节。随着那些较老的图形API继续发展，它们会慢慢地将越来越多的底层硬件功能直接暴露给程序员。 程序员被要求访问底层硬件，权衡那些具有较高开销和较低性能的功能的便利性和安全
转载
2024-08-05 16:26:44
28阅读
1、 openvinoopenvino是英特尔推出的一套基于深度学习的计算机视觉加速优化框架， 用二代神经计算棒NCS2,就从openvino开始。 （NCSDK对应的是NCS1，在这篇博客有一个对比 可以看到，要用NCS加速要用openvino，而openvino只支持一些特定的框架（不包括yolov3的darknet和pytorch，所以各种模型的转换是很重要的一步）在官网下载工具包，然后配置
前情提要NeRF在我之前的文章中已经介绍过其牛X之处，不过它也存在如训练、推理慢等问题。近期，Nvidia提出的instant-ngp算法实现了快速的NeRF训练和推理。本文主要介绍了在Windows10系统下运行instant-ngp的方法和我在复现过程中出现的一些小问题。instant-ngp代码链接：https://github.com/NVlabs/instant-ngp准备工作在运行in
首先笔者的GPU显卡是Nvidia的GTX1060 6g,安装好显卡驱动和CUDA软件包之后就可以写并行程序了,编译可执行文件的命令为nvcc -o helloWorld helloWorld.cu -lcurand其中-o helloWorld表示生成可执行文件helloWorld,helloWorld.cu是编写的程序文件,-lcurand表示动态链接库libcurand.so,其中需要保
转载
2024-09-13 15:29:05
149阅读
Vulkan是Khronos组织制定的“下一代”开放的图形显示API。是与DirectX12能够匹敌的GPU API标准。Vulkan是基于AMD的Mantle API演化而来，眼下Vulkan 1.0标准已经完毕并正式公布。上一代的OpenGL|ES并不会被遗弃。还会继续发展，非常有可能OpenGL|ES变为Vulkan的简化API。 Vulkan 技术交流 QQ群 175
转载
2024-05-09 15:16:24
65阅读
# 使用 Vulkan Docker 挂载 GPU
在计算机图形学和深度学习等领域，GPU 的计算能力得到了广泛应用。而 Vulkan 是一个用于高性能图形和计算的开放标准，结合 Vulkan 和 GPU 可以实现更高效的计算。本文将介绍如何在 Docker 环境中挂载 GPU，并使用 Vulkan 进行计算。
## 什么是 Vulkan？
Vulkan 是一个跨平台的图形和计算 API，由
原创
2024-02-25 07:37:24
861阅读
我个人的使用经验感觉，NCNN最大的优势在于运行模型推理时使用内存非常少，一个超轻量级的模型只需几十M的内存，而TensorRT下同一模型则需要几百个M的内存！NCNN这个优点是NVIDIA的TensorRT不能比的，TensorRT的优势就是模型推理时速度基本稳定，当然也比较快，FP32和FP16模式下占用内存和推理速度都有差异，NCNN下轻
转载
2024-02-27 21:08:03
250阅读
背景最近在研究读取配置相关的开源项目–libconfig。libconfig项目目前仅支持c版本和c++版本。我们当前项目是用golang编写的，于是就想通过cgo的方式调用libconfig里面的功能。刚开始一切顺利，分别编译libconfig的windows版本库和linux版本库;分别在windows环境和linux环境下写DEMO程序，这些都没有任何问题。问题出现由于，我们开发环境在win
现在我们的程序能成功绘制三角形了，但是还有一些情况，它还不能很好地处理。窗口表面可能会改变，导致交换链与其不兼容。这种事情发生的可能原因之一是窗口的大小改变了。我们要能抓取这些事件，然后重建交换链。创建一个recreateSwapChain方法，它会调用createSwapChain以及为依赖交换链或者窗口大小的对象调用所有创建方法。void recreateSwapChain() {
v
最近在做机器翻译的实验，在跑代码的时候需要用到NVIDIA的NCCL多GPU加速工具，网上有关NCCL的博客都是基于NCCL2.x版本，而我要用到的是1.x版本，经过很多次尝试终于把环境搞定，在此记录下我的一些经验，希望能够帮助到有需要的小伙伴. 目录1. cuda及cudnn安装2. Torch安装3. NCCL安装3.1. 在NCCL2.x环境运行NCCL1.x代码遇到的问题3.2 放弃NCC
转载
2024-10-20 18:49:48
178阅读
