序言前段时间使用RKNN部署一个文字识别模型，因为文字识别模型用的是目前最普遍使用的CRNN模型，结构也相对简单：卷积+LSTM+全连接，都是比较元老级别的算子，本来已经部署的过程会很顺利，结果发现还是踩了很多坑。写篇文章记录下踩坑优化过程。
原创
2022-03-31 15:40:39
2886阅读
1评论
Rancher 的部署有三种架构：单节点 Kubernetes ，单节点 Docker, 高可用 Kubernetes。 这里总结一下高可用的集群的准备条件。节点配置 在 RKE 集群中安装 Rancher 高可用，官方建议为高可用配置以下基础设施：3 个 Linux 节点，通常是虚拟机，可以自行选择的基础设施提供商，例如阿里云，腾讯云。1 个负载均衡器，用于将流量转发到这三个节点。一条 DNS
新入手TX2 Kit一套，一不小心运行了chmod -r 777,造成sudo权限被锁，总是提示：“/usr/bin/sudo must be owned by uid 0 and have the setuid bit set”然后就是各种论坛泡，最后网上的方案是：chown root:root /usr/bin/sudochmod 4755 /usr/bin/sudo亲测后发现，没有sudo权
论文:《An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition》Git code：https://github.com/bgshih/crnn 官方lua实现https://github.com/me
转载
2024-08-07 11:14:16
22阅读
前言之前在看transformer的时候写了一篇文章，文章整体几乎是对着论文翻译过来的，最近也算是有时间看了看transformer的代码，也看了看别人文章的介绍，此处记录下来，方便自己以后查看。前一篇介绍transformer的文章链接：接下来对transformer的代码做简单介绍。Transformer1 模型参数# Transformer Parameters
d_model = 512
目录 最好使用python3.5参考链接：1.、确保TensorFlow和相关的依赖安装成功2、下载faster rcnn程序包，3、在tensorflow这个虚拟环境中安装python依赖库4、配置5、下载VOC2007格式的数据集6、下载预训练的VGG16网络模型：7、现在就可以训练模型了：最好使用python3.5不要使用3.6，要不然容易出错参考链接：https://github
一、项目背景假如你训练了一个目标检测模型，你想让朋友快速体验一下，你会怎么做呢？ 一般来讲你会把代码打包发给朋友，然后告诉他怎么配环境，怎么部署模型。或者连同环境封装成docker镜像，让对方直接运行实例，但是对方得懂docker，也要懂模型部署等知识。即便朋友愿意去花时间体验，一波操作下来会面临各种奇怪的问题。为了方便快捷的体验应用，AI Studio平台最新上线了Gradio在线部署环境。不需
3.1 量化精度分析流程 计算不同情况下，同一层网络输入值的余弦距离，来近似的查看每一层精度损失的情况。具体量化精度分析的流程如下：3.2 量化精度分析accuracy_analysis接口 量化精度分析调用accuracy_analysis接口，推理并产生快照,也就是dump出每一层的tensor数据。会dump出包括fp32和quant两种数据类型的快照，用于计算量化误差。注:该接口只能在 b
转载
2024-08-13 14:08:29
723阅读
rlogin介绍远程登录（rlogin)是一个UNIX命令，在远程服务端的话，是一个服务，它允许授权用户进入网络中的其它UNIX机器并且就像用户在实际现场操作一样。一旦我们使用rlogin这条命令，登录到开启rlogin服务的主机，那这个时候，用户就可以操作主机允许的任何事情对IP地址进行探测，探测出rlogin这样的服务，它开启的是513端口，以及512是它验证的端口nmap 192.168.4
转载
2024-09-06 07:42:36
24阅读
在本篇博文中，我将详细记录如何完成“rknn docker部署”过程，包括环境准备、分步指南、配置详解、验证测试、排错指南与扩展应用等各个方面。
为了顺利进行rknn在Docker中的部署，首先我们需要明确软硬件要求，并做好相关环境的配置。
## 环境准备
### 软硬件要求
| 类型 | 规格 |
|-------------|---------
综述最近在研究ocr模型（包括文本检测和文本识别）在安卓端的部署，由于工作中用到的算法是基于百度研发的PPOCR算法，最终需要在安卓端落地应用，部署框架使用的是ncnn框架，中间涉及模型转换和部署的问题，所以特意在此做一个记录，本文主要讲一下模型部署的问题，关于模型转换的讲解详见我的另一篇文章：安卓端部署PPOCR的ncnn模型——模型转换说到模型部署，顾名思义，就是通过部署框架编写相关代码使模型
转载
2024-03-13 10:38:05
138阅读
硬件环境：笔记本电脑win10系统、1050Ti显卡软件环境：Anaconda、Pycharm项目地址：https://github.com/matterport/Mask_RCNN一.环境搭建1. Anaconda创建一个虚拟环境conda create -n maskrcnn python=3.62. 安装必要依赖包（从github上down下来的项目内有requirements，保险起见还是
转载
2024-10-21 13:23:17
52阅读
一、自然语言处理通用解决方案 1、需要熟悉word2vec，RNN网络模型，了解词向量如何建模 2、重点在于Transformer网络架构，BERT训练方法，实际应用 3、开源项目，都是现成的，套用进去就OK了 4、提供预训练模型，基本任务拿过来直接用都成 二、TransformerTransformer的基本组成依旧是机器翻译模型中常见的Seq2Seq网络。输入输出都很直观，其核心架构就是中间的
在IOT平台注册设备，携带PSK和IMEI（PSK是为加密设备使用的）在平台设备注册后，设备就会添加到设备列表中，设备状态为离线状态 设备上电入网成功后（设备入网过程参考：BC95手动入网和自动入网），设置CDP服务器 AT+NCDP=xxx.xxx.xxx.xxx,5683 （IP为IOT平台接入地址，CoAP协议端口号可以省略） 【注】：平台注册设备时选择不加密方式，在配置CDP服务器地址时，
混合精度量化模型指标模拟计算（BitOps与参数规模） 模型的量化是将模型参数的存储位数降低，从而压缩模型或使模型更易于部署到特定硬件。例如不经量化的模型每个参数需要32个bit位存储，量化后的模型的参数可以仅使用8个bit位。而混合精度的量化不将模型参数量化到相同的bit位数（位宽），而是网络的不同层的参数采用不同的位宽。 这导致了混合精度量化模型的
官网推荐架构及节点角色要求：Rancher 的 DNS 应该被解析到四层负载均衡器上。负载均衡器应该把 TCP/80 端口和 TCP/443 端口的流量转发到集群中全部的 3 个节点上。Ingress Controller 将把 HTTP 重定向到 HTTPS，在 TCP/443 端口使用 SSL/TLS。Ingress Controller 把流量转发到 Rancher Server 的 pod
转载
2023-12-08 16:38:25
191阅读
Paddle+TensorRT+qt部署方案基于windows的高性能部署方案，使用paddle框架训练得到推理模型，结合paddle inference库修改封装编译dll的代码并添加 TesorRT 加速方案，最后在qt中调用编译好的dll。本篇编译paddlex库的dll，想要编译其余单独库(如PaddleDetection)的dll可以参考其它编译教程或者重写deploy的代码自己封装编译
转载
2024-05-11 09:29:11
304阅读
以下的全部内容都是构建yolov3_spp模型 另外下面的所有的内容都是按照代码执行的顺序进行讲解的 在网络搭建之前大家应该已经准备好了自己的数据集，并将数据集转换为yolo的格式项目全部代码已上传至GitHub: yolov3-spp-annotations. 目录标题一、生成模型对应的cfg文件二、网络初始化2.1、解析cfg文件2.2、初始化各层结构2.3、获取所有YOLOLayer三、f
转载
2024-10-26 08:12:54
225阅读
文章目录MagicMind 依赖示例C++ 编程模型sample_ops/sample_add 算子操作混合精度部署多模型部署单模型多实例部署多卡部署最佳实践1、性能指标吞吐率延时工具 mm_run性能优化2内存工具Profiler工具3性能和精度差异说明 MagicMind 依赖 MM 是将训练好的模型转换成统一计算图表示，附带有优化、部署能力。示例/usr/local/neuware/sam
整体来说，Backbone、RPN和Fast RCNN是三个相对独立的模块。Backbone对每张图片产生5 level的特征，并送入RPN。RPN对送入的特征，首先经过3x3卷积，随后用sibling 1x1卷积产生分类和bbox信息，分类是指该anchor是否包含Object，bbox信息为四维，包括(dx, dy, dw, dh)。初始anchor加上偏移量后用于判断正负或忽略样本，并确定归
转载
2024-07-10 15:07:18
131阅读
