最近工作需要研究了CPU部署，为了在香橙派上部署模型（想吐槽一下这个板子，可能是树莓派jetson玩多了，对这个板子一脸嫌弃）。我试了很多种方案，其中部署最简单且效果还不错的CPU部署方案是onnxruntime。简单过一遍yolov5的ncnn部署参考上一篇export.pt文件导出onnx格式，记得形参加上--train 导出后安装onnx-simplifier，裁剪掉不需要的层。下文还有py
转载
2024-07-15 17:04:47
234阅读
综述最近在研究ocr模型（包括文本检测和文本识别）在安卓端的部署，由于工作中用到的算法是基于百度研发的PPOCR算法，最终需要在安卓端落地应用，部署框架使用的是ncnn框架，中间涉及模型转换和部署的问题，所以特意在此做一个记录，本文主要讲一下模型部署的问题，关于模型转换的讲解详见我的另一篇文章：安卓端部署PPOCR的ncnn模型——模型转换说到模型部署，顾名思义，就是通过部署框架编写相关代码使模型
转载
2024-03-13 10:38:05
138阅读
ncnn是腾讯开源的加速框架，对于移动端特别andriod做到了cpu上的极致优化，是工程落地的首选框架。对于pytorch模型转ncnn，一般的方法是先将.pt文件转为onnx，再通过ncnn库里的工具onnx2ncnn转换为ncnn模型。对于这种工程性质的落地，过程中会有数不清的坑，大家都懂！仅以此文记录一下在这个过程中踩过的坑！一、编译ncnn库的准备工作1.系统：ubuntu18.04 2
转载
2024-07-05 13:18:17
110阅读
ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖，跨平台，手机端 cpu 的速度快于目前所有已知的开源框架。基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行。之前写了2篇博客，分别介绍了轻量级人像分割PP-HumanSeg的树莓派部署和ONNX windows部署。本篇博客将使用NCNN 将PP-HumanS
转载
2024-01-12 14:48:05
437阅读
目录1、刷机硬件准备2、刷机软件准备①、下载 jetson nano系统镜像②、下载 SD卡格式化软件-- SD Card Formatter③、将镜像文件写入microSD卡-- Etcher3、安装系统4、查看系统信息命令①、查看系统版本命令②、查看Linux版本号 1、刷机硬件准备①、 Jetson nano 开发套件，厂家标配；②、 MicroSD 卡，至少 16GB和读卡器；③、 5V
转载
2024-08-17 11:38:37
144阅读
1.1 项目准备1.1.1. 安装Android studio这个百度上有很多对应的经验体随便找一个教程然后切换一下国内源即可安装成功这里不做赘述 这里需要说明一点我们应该安装NDK、Cmake这里根据自己的手机版本来选择对应的开发环境最后点击应用安装1.1.2. 下载解压源码下载解压NCNN和ncnn-android-yolov5工程  
前言1.ubuntu环境 安装opencv4 2.安装g++，cmake，protobuf 3.安装并测试ncnn 4.cmake编译ncnn项目 5.qt编译器内编译ncnn项目正文因为ncnn库依赖 opencv 和 protobuf 因此你需要先配置好依赖环境再编译ncnn。一、ubuntu环境 安装opencv4方法1：如果你不需要指定opencv的版本 ，可以通过指令sudo apt i
# NCNN部署Android的指南
在移动设备上进行深度学习推理变得越来越常见，尤其在Android平台上。NCNN是腾讯开源的高性能神经网络前向推理框架，特别适合在手机等嵌入式设备上部署。本文将介绍如何在Android上部署NCNN，并提供相应的代码示例。
## 一、准备工作
在开始之前，确保以下工具已安装：
- Android Studio
- CMake
- NDK (Native
Linux nc命令用法-g<网关>：设置路由器跃程通信网关，最多设置8个;
-G<指向器数目>：设置来源路由指向器，其数值为4的倍数;
-h：在线帮助;
-i<延迟秒数>：设置时间间隔，以便传送信息及扫描通信端口;
-l：使用监听模式，监控传入的资料;
-n：直接使用ip地址，而不通过域名服务器;
-o<输出文件>：指定文件名称，把往来传输的数据以
这里代码其实大部分来自于xiongdongzhang的github项目：https://github.com/xindongzhang/MNN-APPLICATIONS，个人觉得学习一个新东西，最开始的步骤应该是用起来，至于怎么用起来，可以先参考一下别人怎么用的，将代码拆分、重组和封装，通过这一系列的过程，我们就可以基本掌握这个新东西的使用方法，会用之后，才考虑原理的学
转载
2024-05-04 12:38:40
132阅读
项目场景：现在将模型部署到嵌入式端，选择的是YOLOV3模型。训练代码使用的是U版的YOLOV3，由于各种原因，我选择直接由pytorch->onnx->ncnn进行部署。而不是直接darknet->ncnn。问题描述：onnx转ncnn时，先是报错，什么Unsqueerze不支持之类的。模型执行时，我惊讶的发现输出节点的维度不对。原因分析：对于问题1，很快就得到了答案，使用on
转载
2024-02-17 17:23:53
105阅读
1 NCNN部署1.在电脑端使用ncnn实现分类(alexnet)s1，安装g++，cmake，protobuf，ope
原创
2022-08-06 00:01:14
733阅读
简单说一下Mask R-CNN 是一个两阶段的框架，第一个阶段扫描图像并生成提议（proposals，即有可能包含一个目标的区域），第二阶段分类提议并生成边界框和掩码。Mask R-CNN 扩展自 Faster R-CNN，由同一作者在去年提出。Faster R-CNN 是一个流行的目标检测框架，Mask R-CNN 将其扩展为实例分割框架。 Mask R-CNN
转载
2024-09-20 12:06:17
98阅读
目录MQTT 协议简介应用场景优点缺点部署服务端下载安装包启动服务器搭建客户端下载SDK添加依赖配置MQTT服务和权限建立连接订阅主题发布消息取消订阅断开连接MQTT客户端工具最终效果实现传感器数据采集与监测功能思路 MQTT 协议简介MQTT（Message Queuing Telemetry Transport）是一种基于发布/订阅模式的轻量级消息传输协议，专门针对低带宽、和不稳定网络环境的
一、部署Node.js环境 （一）登录服务器，先更新一下（第一次使用服务器先更新下）1yum update -y一。安装node 和 pm2wget命令下载Node.js安装包。该安装包是编译好的文件，解压之后，在bin文件夹中就已存在node和npm，无需重复编译。1wget https://nodejs.org/dist/v8.9.3/node-v8.9.3-linux-x64.ta
去年由于一些原因，需要在手机端部署人体姿态估计模型，早就写完了，但由于一些原因一直没有记录下来。大致的过程是，经过一番百度，找到了一个名为ncnn的框架，然后参考ncnn-android-yolox的实现，完成了人体姿态估计模型在移动端的部署。代码已开源：ncnn-android-pose，采用的目标检测器是旷视开
A 深度学习算法要在手机上落地，caffe依赖太多，手机上也没有cuda，需要个又快又小的前向网络实现Q ncnn名字的来历A cnn就是卷积神经网络的缩写，开头的n算是一语n关。比如new/next(全新的实现)，naive(ncnn是naive实现)，neon(ncnn最初为手机优化)，up主名字(←_←)Q 支持哪些平台A 跨平台，主要支持 android，次要支持 ios / linux
树莓派3B搭建NODE-RED运行环境并构建数据流树莓派搭建Node-RED环境树莓派自2015年开始是默认就带NODE-RED的，但是如今已是2018年：）自带的版本已经很老了，可通过下面的命令进行自动升级NODE.JS和NODE-REDbash <(curl -sL https://raw.githubusercontent.com/node-red/raspbian-deb-packa
我前段时间在尝试部署yolov5时遇到不少问题，这里我来做一个汇总这个时yolov5的官网：Releases · ultralytics/yolov5 (github.com) 下面来罗列一些我在部署时遇到的问题，并且附有解决方法：AttributeError: Can‘t get attribute ‘SPPF‘ on ＜module ‘models.common‘ from ....
AIMET工具 压缩介绍（1）AI 模型效率工具包用户指南概述特点AIMET模型压缩概述用例压缩比选择模型压缩获得更好压缩结果的可选技术Rank Rounding每层微调 AI 模型效率工具包用户指南概述AI 模型效率工具包 (AIMET) 是一个软件工具包，使用户能够压缩和量化模型。AIMET 提供了旨在用于训练模型的优化，因此可以进一步训练（也称为微调）生成的压缩和/或量化模型，以恢复任何精
