本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！本笔记中所涉及的Layer Normalization和Self-Attention笔记如下：Layer NormalizationSelf-AttentionTransformer模型Transformer模型是一个基于多头自注意力的序列到序列模型（seq2
文章目录1.为什么要有Transformer1.1 传统RNN-Based Model的缺点(1)不支持并行，效率低(2) 记忆能力有限1.2 Attention方法的出现2.Transformer的原理与结构2.1Transformer的Attention——Self-Attention2.2Positional Encoding2.3 Multi-head 1.为什么要有Transforme
如何将基于tensorflow的.pb模型转成.trt模型1.将.pb模型转成.onnx模型2.将.onnx模型转成.trt模型1.将.pb模型转成.onnx模型步骤一：查看.pb模型的节点名称 方法①：直接使用现成的工具进行查看，推荐netron，链接网址：https://netron.app/ 该工具可以直观的看到模型的结构，以及输入输出的节点名称 参考图如下(只截取了一部分): 方法②：写程
在深度学习的世界中，PyTorch 作为一种流行的框架，越来越多地被应用于各种机器学习模型的构建和训练。然而，在部署这些模型时，尤其在嵌入式设备或特定硬件上的使用，我们常常需要将 PyTorch 模型转化为其他格式。这篇博文将详解如何将 PyTorch 模型转为 RKNN（Rockchip NPU ）。我们将通过抓包方法、报文结构、交互过程、异常检测及扩展阅读等结构来深入分析这个过程。
## 协
文章目录系列文章目录1 背景1.1 ONNXRuntime简介1.2 DBFace介绍2 模型部署基本流程3 推理结果3.1 可视化检测结果3.2 推理时间参考资料 1 背景目前，随着应用场景不断丰富、算法部署技术成熟、计算平台算力增长，深度学习模型工程落地需求巨大，模型的端侧部署很有必要。DBFace官方给出了Pytorch训练以及NCNN移动端部署的代码，所以我在此基础
1 模型转换特别说明：以下内容参考来自rknn官网文档 Rockchip_User_Guide_RKNN_Toolkit2_CN-1.3.0.pdf。如有侵权告知删除。完整代码放在github上。1.1 工具链(RKNN-Toolkit2) RKNN 工具链提供了两种按照方式，一种是“通过 pip install 安装”和“通过 Docker 镜像安装”，建议“通过 Docker 镜像安装”。具
转载
2024-03-25 17:37:55
1188阅读
最近的主要任务是完成自训练的yolov5s模型转rknn模型。学习笔记：非github资料收集：以下为收集资料阶段的结果：1、首先从RP-rknpu配置说明的文件可以知道：RV1126_RV1109 的 npu 默认配置为 mini 的，mini 是不带 rknn_server 的，所以不能通过 pc 端连接 主板仿真。但是可以解决。——————————————————————群内笔记：2、rkn
可以说这篇博客是对Google量化白皮书的完整解读，篇幅较长，可以收藏慢慢阅读。笔者在翻译的基础上，又补充了帮助理解的内容，但量化的技术点很多，并不限于此篇，且文中有个别点笔者不能完全吃透，故写得不是很详细，望看此文的你可以帮忙指出文中错误且与我一起交流讨论。
一、什么是量化？为什么要量化？ 在深度神经网络模型应用中，量化是削减模型大小的一种常用方法。实际上就是把高位宽表示的权值和
本文将YOLOX模型部署到瑞芯微NPU(RKNN)平台的完整流程分为四个步骤：1)环境准备，安装RKNN-Toolkit2和PyTor
Ruyi环境搭建与NNIE模型转换与使用一、Ruyi是一个集成 开发环境 ，主 要用于模拟程序运行，模型转换，验证对比。模型转换后，Ruyi提供了一些仿真库，让Ruyi可以仿真模型转换后的模块一样，运行得到相同结果。常用功能仿真即可，我们只需要知道结果，然后跟原模型输出结果做对比即可,甚至更多时候我们只是直接在目标板上跑。关于模型转换后是否精度正确，那么他就需要运行caffe，来加载模型，并跑一张
YOLOv3YOLOv3: An incremental Improvement一、简述YOLOv3没有在YOLO9000上做出巨大的改进，它的工作更多的是基于YOLOv2的思路，设计了一个新的网络结构（Darknet-53），并将当时的一些新的点子加到这个模型上，以此来提高YOLO系列目标检测模型的准确率。YOLOv3的改进主要有：建立新的CNN模型（引入残差块）；利用多尺度特征进行目标检测；在
模型转换Rockchip提供RKNN-Toolkit开发套件进行模型转换、推理运行和性能评估。用户通过提供的 python 接口可以便捷地完成以下功能：1）模型转换：支持 Caffe、Tensorflow、TensorFlow Lite、ONNX、Darknet 模型，支持RKNN 模型导入导出，后续能够在硬件平台上加载使用。2）模型推理：能够在 PC 上模拟运行模型并获取推理结果，也可以在指定硬
转载
2024-03-29 13:20:00
65阅读
概述神经网络本质上是一个计算图。计算图的节点是算子，边是参与运算的张量。而通过可视化 ONNX 模型，我们知道 ONNX 记录了所有算子节点的属性信息，并把参与运算的张量信息存储在算子节点的输入输出信息中。事实上，ONNX 模型的结构可以用类图大致表示如下：如图所示，一个 ONNX 模型可以用 ModelProto 类表示。ModelProto 包含了版本、创建者等日志信息，还包含了存储计算图结构
转载
2024-08-24 10:16:12
649阅读
1.实验内容1.1安全模型PDR模型：是一种基于时间的动态安全模型，并提出安全性可量化和可计算的观点。P2DR模型：网络安全=安全策略（Policy）+防护策略（Protection）+实时检测（Detection）+实时响应（Response），其中安全策略是核心。1.2网络安全防范技术与系统防火墙简介防火墙具有很好的保护作用。入侵者必须首先穿越防火墙的安全防线，才能接触目标计算机。你可以将防火
转载
2024-04-25 08:52:25
30阅读
为了提高打印效果，往往我们需要对复杂模型进行分割变为简单模型来打印，再进行拼装。要对模型分割的话，推荐使用Magics来执行工作，这个软件有数种切割方式，我们以最近很火的托举猫模型为例子，介绍下其中常用的3种，内容较多，将分为2期内容说明。一、分离标记面此方法自由度较高，能够较大限度地满足特殊形状的分离，当然，这也会增加不少的工作量。①首先需要对模型进行自动修复，模型没有三角面问题是切割的必要前提
转载
2024-04-19 21:50:43
77阅读
目录前言 1.torch下将模型转换为onnx模型2.实际演示转换3.使用4.结尾前言 ONNX（Open Neural Network Exchange）是一种开放式的文件格式，可以用于保存不同深度学习框架下的网络模型和参数，从而方便将模型进行不同框架下的转换。1.torch下将模型转换为onnx模型这里介绍一个函数——torch.onnx.export()：torch.on
转载
2024-10-05 14:44:40
626阅读
视觉（vision）、自然语言处理（Nature Language Processing, NLP）、语音（Speech）是深度学习研究的三大方向。三大领域各自都诞生了若干经典的模块，用来建模该领域数据所蕴含的不同特性的模式。上一篇文章介绍了 PaddleFluid 和 TensorFlow 的设计和核心概念，这一篇我们从图像任务开始，使用 PaddleFluid 和 TensorFlo
Backbone :Focus + BottleneckCSP+SPPFocusFocus模块在v5中是图片进入backbone前，对图片进行切片操作，具体操作是在一张图片中每隔一个像素拿到一个值，类似于邻近下采样，这样就拿到了四张图片，四张图片互补，长的差不多，但是没有信息丢失，这样一来，将W、H信息就集中到了通道空间，输入通道扩充了4倍，即拼接起来的图片相对于原先的RGB三通道模式变成了12个
文章目录pytorchpytorch安装pytorch转onnx关于pytorch模型的题外话cntkcntk安装cntk转onnxmxnetmxnet安装mxnet转onnxcaffe2caffe2安装caffe2转onnxtensorflowtensorflow安装onnx-tensorflow安装tensorflow转onnxcaffecaffe->caffe2->onnx或c
转载
2024-03-28 11:22:50
263阅读
目录什么是模型量化？为什么要进行模型量化？压缩参数提升速度降低内存 模型量化的分类二值化线性量化对数量化1.什么是模型量化？ 量化就是把高位宽（Float32）表示的权值或
转载
2024-06-21 09:31:29
314阅读
