NCNN（NVIDIA Convolutional Neural Network）是一种高效的深度学习计算库，适用于移动端和嵌入式设备。它以极小的内存占用和高性能的特点，成为许多人工智能应用的首选。本文将介绍NCNN的架构，并通过代码示例来展示其使用方法。
## NCNN架构概述
NCNN的架构主要包括三个部分：模型编译器（Model Compiler）、运行时（Runtime）和模型库（Mo
原创
2024-01-28 11:05:28
288阅读
1、下载和编译ncnngit clone https://github.com/Tencent/ncnn
cd ncnn
mkdir build && cd build
cmake .. #编译目录下的CMakeLists.txt
打开根目录下的CMakeLists.txt文件，定位到最后六行，修改如下： add_subdirectory(examples)
# add_
转载
2023-07-10 22:12:35
272阅读
前 言
nano- X是一个著名的开放式源码嵌入式GUI 软件，目的是把图形视窗环境引入到运行Linux 的小型设备和平台上。nano-X使用了分层设计的思想，可移植性非常好，nano-X 的图形引擎能够
# 深度学习架构ncnn入门指导
作为一名刚入行的小白，学习如何实现深度学习架构ncnn可能会让你感到有些迷茫。在这篇文章中，我会带你一步步地理解整个流程，并提供具体的代码示例，帮助你作为一个新手快速上手ncnn。
## 流程概述
在开始实现ncnn之前，让我们先了解整个流程。以下是实现ncnn的一般步骤：
| 步骤 | 描述
0x00. 想法来源CNN从15年的ResNet在ImageNet比赛中大放异彩，到今天各种层出不穷的网络结构被提出以解决生活中碰到的各种问题。然而，在CNN长期发展过程中，也伴随着很多的挑战，比如如何调整算法使得在特定场景或者说数据集上取得最好的精度，如何将学术界出色的算法落地到工业界，如何设计出在边缘端或者有限硬件条件下的定制化CNN等。前两天看到腾讯优图的文章：腾讯优图开源这三年
转载
2024-09-24 19:24:15
98阅读
MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。目前，MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等20多个App中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。此外，IoT等场景下也有若干应用。整体特点轻量性 • 针对端侧设备特点深度定制和裁剪，无任何依赖，可以方便地部署到移动设备和各种嵌入式设备中。 • iOS平台：ar
转载
2024-10-29 20:54:35
64阅读
一、轻量级高性能推理引擎 1.简介 MNN 是一个高效、轻量的深度学习框架。它支持深度模型推理与训练，尤其在端侧的推理与训练性能在业界处于领先地位。目前，MNN 已经在阿里巴巴的手机淘宝、手机天猫、优酷、钉钉、闲鱼等 20 多个 App 中使用，覆盖直播
转载
2023-05-29 21:16:26
426阅读
# 如何实现 ncnn 推理框架架构图
在深入了解如何实现 ncnn 推理框架架构图之前，我们需要先理解一系列的步骤和流程。本文将通过表格展示流程，并逐步介绍每一部分需要编写的代码及其注释。
## 流程步骤
以下是实现 ncnn 推理框架架构图的步骤：
```markdown
| 步骤 | 描述
在架构设计之初，要避免单点故障，路由、防火墙、负载均衡、反向代理及监控系统等在网络和应用层面上必须全部是冗余设计，以此来保证最佳的可用性。下面介绍一些提高系统可用性的常规方法。1.服务冗余主备模式是传统的服务冗余方法之一，根据策略又可分为N+1、N+2 等模式。N+1的主备模式，即将两个设备绑成设备对儿。针对频繁变更的系统，单纯的主备模式不够用，由此建议至少部署N+2个实例。N+2的主备模式能够保
转载
2023-12-11 17:00:08
112阅读
下面从几个方面介绍下自己的采坑之路：NCNN自带模型的benchmarkNCNN交叉编译到rk3288(armv7架构)和rk3399(armv8架构）的方法NCNN转换其他模型并加入benchmark中NCNN自带模型的benchmark1. 下载NCNNNCNN这类开源引擎都可以从github上下载下来，下载下来的整个文件夹就像一个完整的软件或者生态系统一样，之后的所有操作都会在这个文件夹里完
转载
2024-05-10 00:34:38
229阅读
0.调用实例先看一个调用实例，顺着调用流程探寻ncnn内部具体实现细节。#include "net.h"
int main(int argc, char **argv)
{
ncnn::Mat in;
ncnn::Mat out;
ncnn::Net net;
net.load_param("model.param");
net.load_mo
转载
2024-03-19 20:28:41
179阅读
主要任务：将mobileNet模型转换为ncnn模型
参考博客：
实现方法：
１、前提条件：下载并成功编译ncnn
（主要参考github文档：https://github.com/Tencent/ncnn/wiki/how-to-build）
install g++ cmake protobuf
转载
2024-08-22 11:43:47
143阅读
代码链接：本代码可以在模拟器下进行跑。环境：windows10Android studio 3.6Sdk：android10 api 29Ndk：r15cNcnn：20200226Linux下的代码测试：cd mtcnn_linux/build
cmake ..
make
./mtcnn如果可以跑通，输出正确结果，证明mtcnn代码的准确性。实际操作的时候，首先基于linux把c++代码调试通，方
转载
2024-02-24 14:12:03
117阅读
github https://github.com/Tencent/ncnnncnn 是一个为手机端极致优化的高性能神经网络前
原创
2022-08-06 00:04:32
1128阅读
KNN基础实现代码 记录下第一次实现的KNN代码 算法思路： 1、找出离数据“距离”最短的K个样本点；（数据特征最相似的K个样本） 2、当前数据的标签为K各样本点中出现次数最多的标签 重点： 1、距离的定义（范数）； 2、如何快速找出最短的K个样本点（K叉树） '''
此程序主要用来实现经典KNN算法《约会网站的配对效果》
'''
import os
import
转载
2024-05-16 20:11:12
47阅读
ncnn git：https://github.com/Tencent/ncnnncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。ncnn 目前已在腾讯多
转载
2024-06-05 07:16:22
205阅读
0.调用实例先看一个调用实例，顺着调用流程探寻ncnn内部具体实现细节。#include "net.h"
int main(int argc, char **argv)
{
ncnn::Mat in;
ncnn::Mat out;
ncnn::Net net;
net.load_param("model.param");
net.load_mo
转载
2024-07-02 07:27:54
159阅读
综述最近在研究ocr模型（包括文本检测和文本识别）在安卓端的部署，由于工作中用到的算法是基于百度研发的PPOCR算法，最终需要在安卓端落地应用，部署框架使用的是ncnn框架，中间涉及模型转换和部署的问题，所以特意在此做一个记录，本文主要讲一下模型部署的问题，关于模型转换的讲解详见我的另一篇文章：安卓端部署PPOCR的ncnn模型——模型转换说到模型部署，顾名思义，就是通过部署框架编写相关代码使模型
转载
2024-03-13 10:38:05
138阅读
列表界面 取值工具类package nc.ui.pubapp.util;
import nc.ui.pub.bill.BillItem;
import nc.ui.pub.bill.BillListPanel;
import nc.ui.pub.bill.BillModel;
import nc.ui.pub.bill.IBillItem;
import nc.vo.pub.lang.UFBoo
转载
2024-10-22 14:24:27
38阅读
编译版本，默认配置，android-ndk-r21d，cctools-port 895 + ld64-274.2 + ios 10.2 sdk libc++ncnn-android-lib 是 android 的静态库(armeabi-v7a + arm64-v8a + x86 + x86_64)ncnn-android-vulkan-lib 是 android 的静态库(armeabi-v7a
转载
2024-06-17 20:55:49
110阅读
