一、原理图 二、项目环境操作系统：编程语言：Web 框架：Web 服务器：Web 服务器：具体的安装这里不做详述，Ubuntu 使用 apt-get 安装特别方便。 sudo yum install python3
sudo yum install python3-pip
sudo yum install nginx Nginx 安装成功在浏览器中输入 127.0.0.1，出现
转载
2024-08-27 10:30:11
62阅读
1、EfficientDetEfficientDet.h#include <core/session/
onnxruntime_cxx_api.h>
#include <cstring>
#include <array>
#include <cmath>
#include <algorithm>
#include <iostream&
通常我们在训练模型时可以使用很多不同的框架，比如有的同学喜欢用 Pytorch，有的同学喜欢使用 TensorF
原创
2023-01-25 20:52:48
1835阅读
在上一篇文章《AI模型部署 | onnxruntime部署YOLOv8分割模型详细教程》中我介绍了如何使用onnxruntime框架来部署。每个目标
原创
2024-07-31 10:57:51
497阅读
点赞
手把手教你构建ResNet残差网络 【导读】ResNet在2015年名声大噪，影响了2016年DL在学术界和工业界的发展方向。它对每一层的输入做一个reference，形成残差函数。残差用来设计解决深度网络退化问题，同时也解决了梯度消失问题，使得网络性能得到提升。本文解释了残差网络的技巧以及手把手教你如何应用它。 编译 | 专知参与 | Yingying, Xiaowen近年来，由于大量数据
转载
2024-04-09 07:12:12
124阅读
概要不要以为 Python 有自动垃圾回收就不会内存泄漏，本着它有“垃圾回收”我有“垃圾代码”的精神，现在总结一下三种常见的内存泄漏场景。无穷大导致内存泄漏如果把内存泄漏定义成只申请不释放，那么借着 Python 中整数可以无穷大的这个特点，我们一行代码就可以完成内存泄漏了。i = 1024 ** 1024 ** 1024循环引用导致内存泄漏引用记数器 是 Python 垃圾回收机制的基础，如果一
该项目旨在为Segment Anything和MobileSAM创建一个纯 C++ 推理 api ，在运行时不依赖于 Python。代码存储库包含一个带有测试程序的 C++ 库，以便6GB 或 1GB 内存，如果在 CUDA 上运行，则可能消耗 16GB 或 1GB 内存。
原创
2023-10-03 09:19:40
1193阅读
文章目录一、基于OpenCV人脸检测1. 准备工作2. 代码3. 测试结果二、基于Dlib+fr人脸检测1. 安装运行环境2. 代码3. 测试结果三、基于Dlib人脸对齐1. 需要先下载预训练模型2. 代码3. 测试结果 一、基于OpenCV人脸检测1. 准备工作安装opencv：pip install opencv-python（速度慢）
pip install -i https://pypi
# 实现“Spark Onnxruntime”教程
## 介绍
作为一名经验丰富的开发者，你将指导一位刚入行的小白如何实现“Spark Onnxruntime”这一技术。在本文中，我将为你提供详细的步骤和代码示例，帮助你顺利完成这个任务。
## 整体流程
首先，让我们来看一下整个实现“Spark Onnxruntime”的流程。我们可以将这个流程表示成一个表格，具体如下：
```mermai
原创
2024-04-02 06:09:46
41阅读
模型部署流程大致流程为：数据—模型—部署案例：花卉识别APP采集所有花的类型图片，搜集各种不同样式的花的图片模型训练：Pytorch/Tensor Flow，通过模型训练让准确率达到一定程度部署：把训练好的模型放在特定的硬件平台下（GPU等），推理SDK,该模型可以调用模型部署：ONNX一个ONNX例子：import torch
from torch import nn
class LeNet
转载
2024-09-08 16:12:37
530阅读
onnx通过加载模型时指定provider来选择推理设备，可以通过get_available_providers来获取可用的providers，providers是一个列表，按照ovider无法使用的情况下会向后选择。
原创
2024-09-29 11:45:37
499阅读
onnxruntime报错：Exception during initialization: /onnxruntime_src/onnxruntime/core/providers/cpu/math/element_wise_ops.h:324 void
原创
2021-09-07 10:13:30
5595阅读
我们知道如果只是为了让某个共享资源一次只让一个线程使用,则通过Critical Section与Mutex则可使资源使用达到互斥的目的.其中Critical Section是用户对象,Mutex是内核对象.除了此区别外,两者基本上差不多.但是使用上面两种互斥方式时,虽然能保证一次只一个线程访问某个共享的资源,但是各个线程的执行顺序是没有保证的.另外除了用TerminateThread这种比较野蛮不
转载
2024-10-11 12:26:28
267阅读
请确保已经安装了ONNX Runtime，并且如果使用GPU版本，确保已经安装了相应的CUDA驱动和cuDNN库。如果系统中没有可用的GPU，则这些函数将返回。
原创
2024-09-29 14:18:00
986阅读
10. 模块10.1 列表List，专用于存储一串信息，在其他开发语言中通常叫数组；列表使用中括号[]定义，数据之间使用逗号“，”分隔；列表的索引从0开始，索引即数据在列表中的位置号；基本语法：#列表定义
列表名 = [数据1,数据2,…]
#列表数据使用
列表名[索引]代码示例：# 定义列表
name_list = ["张三", "李四", "王五"]
# 打印列表中第一个数据
p
文章目录5.使用枚举类5.1第一种实现方式5.2第二种实现方式6.使用元类6.1type()6.2参数一：class的名称6.3参数二：元类metaclass6.4元类metaclass的应用：orm实现 5.使用枚举类当我们需要定义常量时，一个办法是用大写变量通过整数来定义，例如月份：JAN = 1
FEB = 2
MAR = 3
...
NOV = 11
DEC = 12好处是简单，缺点是类
相信很多朋友都在网上搜索过python多版本共存的问题。多说的说法都是修改python.exe的名字为python2.exe或者python3.exe。但是我按照这样的方法却总是不成功。修改python.exe的名字后，运行pip总是报 Fatal error in launcher: Unable to create process using '"'这个错误。其实不用修改原来python.ex
转载
2024-09-05 09:43:03
239阅读
PaddleOCR 尝试下OpenCV-DNN推理 文章目录说明：环境：过程：不足：引用： 说明：本文基于PaddleOCR源码改写，修改部分前处理和模型推理相关代码。需要opencv即可推理。目前测试paddleocr v2版本可行。完整代码：https://github.com/VITA-Alchemy/PaddleOCR-OpenCV-DNN环境：onnx 1.11.0 onnxruntim
也是来源于《深度学习入门——基于Python的理论与实现》附加代码，书中只是给了BN的对比结果，展示了BN的效果，没有再赘述实现（可能因为有点复杂），所以这里研究一下BN的代码。之前我曾经使用过TensorFlow的BN，它提供了两三种接口，透明程度和使用方法不相同，有的是透明到你可以自定义参数并传给BN层，然后训练参数，也有只定义一个层，全自动使用的，但是都没有自己纯手写一个python实现更透
最近在使用GPU对onnx模型进行加速过程中（仅针对N卡，毕竟也没有别的显卡了。。），遇到了点问题：就是明明在安装了合适版本的显卡驱动和CUDA后，onnx还是不能够成功调用GPU，并且还出现了先导入torch，再导入onnxruntime就可以成功调用的奇怪现象。测试机器：Windows10，RTX 3070，onnxruntime-gpu==1.16.1，显卡驱动：522，CUDA11.8问题
