使用的环境：Python 3.8Pycharm(IDE)Paddle和PaddleOcr(实现图像识别)CV2实现摄像头抓取与分割成帧，以及最后的显示效果PIL实现TEXT提示的覆盖显示Process与pickle实现数据的序列化与进程间数据传输使用IP摄像头通过RTSP协议调用手机摄像头思路 利用cv2实现摄像头抓取并分割成帧&n
转载
2024-05-08 09:25:14
823阅读
引言：显存不足是训练语义分割网络常常遇见的问题，而显存是GPU计算中的稀缺资源。百度深度学习框架PaddlePaddle中的显存优化，不仅可以让研究人员在相同成本的计算设备上训练更大的模型，还可以在消费级别显卡上完成训练。在本篇文章中，我们将会带你使用PaddlePaddle中的显存优化，使用单张1080ti训练语义分割网络DeepLab v3+。同时作者还将训练结果与其他框架做了对比，Paddl
前言因项目需要，调研了一下目前市面上一些开源的OCR工具，支持本地部署，非调用API，主要有PaddleOCR/CnOCR/chinese_lite OCR/EasyOCR/Tesseract/chineseocr/mmocr这几款产品。 本文主要尝试了EasyOCR/CnOCR/Tesseract/PaddleOCR这四款产品。EasyOCREasyOCR官方仓库：https://github.
转载
2024-10-30 11:54:43
107阅读
文字检测关键要点: 配置文件、预训练模型、数据加载实际使用过程中，建议加载官方提供的预训练模型，在自己的数据集中进行微调，关于检测模型的微调方法也可以选择加载backbone预训练模型再训练，不过收敛速度会很慢 微调指令(推荐):python3 tools/train.py -c configs/det/ch_PP-OCRv3/ch_PP-OCRv3_det_student.yml \
目录1、常用设定2、模型训练2.1、单GPU训练2.2、使用多个GPU进行训练3、模型推理1、常用设定1）默认使用4个GPU的分布式训练。2）ImageNet上所有pytorch样式的预训练主干都是由open-lab团队自己训练的，参考文章https://arxiv.org/pdf/1812.01187.pdf。其中ResNet样式主干基于ResNetV1c变体，其中输入主干中的7x7转换被三个3
转载
2024-08-23 07:56:00
276阅读
再看看纯集成显卡GPU的mobilenet-ssd 的推理性能, 测试平台是i5 7440HQ, 4核4线程, GPU是Gen9 的GT2, 24EU, 属于纯大白菜集成显卡 首先是FP32模型当Batch size =1时inference request(nireq) = 1时，即同时只有一个推理请求Latency = 13.6ms, Throughtput = 73FP
转载
2024-03-17 14:51:24
252阅读
PP-OCR是PaddleOCR自研的实用的超轻量OCR系统，可以实现端到端的图像文本检测。为了在C#平台实现使用OpenVINO™部署PP-OCR模型实现文本识别，让更多开发者快速上手PP-OCR项目，基于此，封装了OpenVINO.CSharp.API.Extensions.PaddleOCR NuGet Package，方便开发者快速安装使用。在本文中，我们将结合OpenVINO.CSh
2021SC@SDUSCEAST解决问题：传统Anchor-based算法检测小框再合并，流程复杂，损失进度，增加耗时EAST特色简洁的pipeline：FCN+Locality-Aware NMS，端到端训练基于FCN像素级预测，直接得到文本行检测结果EAST算法框架解读左边是一个backbone，从这个backbone的四个stage会抽取出四个不同尺度的特征，在分支会对这些特征进行融合，得到
转载
2024-10-08 19:42:11
106阅读
在这篇文章中，我们将介绍如何在Ubuntu系统下搭建PaddleOCR图片文字识别WebAPI。PaddleOCR是一个开源的深度学习模型，可以用于图像中的文本检测和识别。通过使用PaddleOCR，我们可以快速地将图像中的文本提取出来，从而实现自动化的文档处理和信息提取。步骤1：安装PaddlePaddle首先，我们需要安装PaddlePaddle。PaddlePaddle是一个开源的深度学习平
近来做模型移植，接触到移动端推理框架，做一个总结：1. Android NNAPI：一个基于安卓系统的可在移动设备上运行与机器学习相关的计算密集型操作的C语言API，NNAPI降为更高层次的构建和训练神经网络的机器学习框架（Tensorflow Lite，Caffe2等等）提供底层支持。这些API将会集成到所有的Android 8.1（以及更高版本）设备上。NNAPI高几层的系统架构如下图所示：2
转载
2024-03-21 22:05:54
409阅读
最近对一个大规模的图训练嵌入，发现相关的中文资料还是很欠缺的，把自己踩的一些坑记下来。本文主要针对
DGL和 PyTorch两个框架。 1 训练大规模图对于大规模图不能像小图一样把整张图扔进去训练，需要对大图进行采样，即通过Neighborhood Sampling方法每次采样一部分输出节点，然后把更新它们所需的所有节点作为输入节点，通过这样的方式做mini-ba
转载
2024-03-28 22:06:43
325阅读
多线程和并行的理解及区别1、什么是多线程2、什么是并行 由于需要，最近要用到dppo(Distributed Proximal Policy Optimization)算法。 Google deepmind论文中多个机器人传递给中央大脑的是在不同环境收集数据的梯度gradient，然后中央大脑利用得到的梯度进行更新； 而openai的文论用的是单线程，莫烦将这两个结合，写出了多线程的DPP
转载
2024-07-13 04:49:29
218阅读
测试机子配置： 1：AMD RX6600(显存8g)+i5 12600KF 16g内存 (台式机) 2：RTX 3070 laptop(显存8g)+i7 10870H 32g内存 (HP暗夜精灵笔记本) 两台电脑平均性能差不多，当然N卡肯定更好一点这边我们还是MS大发好，用MS的DirectML推理框架推理，虽然据小道消息反馈DML推理效率远不如Cuda，但是要知道DirectML的兼容性好啊，除
转载
2024-08-06 13:12:06
189阅读
1. TensorRT 的简介和安装TensorRT 是一种基于英伟达硬件的高性能的深度学习前向推理框架，本文介绍使用 TensorRT 在通用 GPU 上的部署流程。本地需先安装 CUDA，以 CUDA11.0、TensorRT-8.2.5.1 为例。首先，去 官网 下载（需先登录）对应的压缩包。Python 安装文件 whl 位于解压后根目录下的 python 文件夹内，pip 安装对应版本即
转载
2023-10-12 13:15:54
564阅读
一.项目介绍1.1 引言：本次项目分享来源于最近参加的【飞桨校园AI Day】AI Workshop活动，团队名：Soplaying，选择项目命题为“文档纠错程序”。其课题主要要求为：训练文档纠错数据集，并开发部署程序，实现上传word文件输出纠错结果。目前主要实现了文本纠错模型的训练以及前后端分离式的web端部署，支持输入文本或上传word文档，显示纠错后文本结果与保存。通过本项目的
转载
2024-09-12 19:20:02
111阅读
近日，国内拥有自主研发芯片架构的DPU芯片设计公司中科驭数宣布完成数亿元A轮融资，由华泰创新领投、灵均投资以及老股东国新思创跟投。据透露，中科驭数本轮融资将主要用于第二代DPU芯片K2的流片以及后续的研发迭代。DPU（Data Processing Unit)是以数据为中心（Data-centric）的专用处理器，是后摩尔定律时代重要的算力芯片，DPU、CPU、GPU将组成数据智能时代算力的“三驾
转载
2024-09-26 15:29:52
63阅读
从Alexa和谷歌地图导航等语音助手，到Bing的对话搜索，人工智能已经成为许多人日常生活的一部分。这些任务需要执行深度学习推理，也可以被认为是将人工智能应用于场景。为人工智能提供动力的深度学习神经网络是基于大量数据进行训练的。将这种训练应用于数字世界——识别口语、图像或路标，或者建议你可能想买的衬衫或下一部要看的电影等，这就是推理。GPU上推理应用的范围之广可能让您大吃一惊。 从木材行业到古
# PyTorch 多GPU推理的科普
随着人工智能技术的发展，深度学习已经成为一种趋势。在训练深度学习模型时，使用单个GPU可能效率低下。因此，越来越多的开发者开始使用多GPU进行推理。PyTorch是一个强大的深度学习框架，支持多GPU计算，本文将探讨如何在PyTorch中实现多GPU推理，并附上示例代码。
## 1. 什么是多GPU推理？
多GPU推理是指利用多个GPU的计算能力来加速
原创
2024-09-06 04:27:38
843阅读
01导读本课程是百度官方开设的零基础入门深度学习课程，主要面向没有深度学习技术基础或者基础薄弱的同学，帮助大家在深度学习领域实现从0到1+的跨越。从本系列课程中，你将学习到：numpy实现神经网络构建和梯度下降算法深度学习基础知识计算机视觉领域主要方向的原理、实践自然语言处理领域主要方向的原理、实践个性化推荐算法的原理、实践百度深度学习技术平台部资深研发工程师孙老师，在上一讲中为大家讲解了YOLO
Day2 手势识别数据图片是这样的，对应的标签就是5手势识别数据集地址下载后进行解压!cd /home/aistudio/data/data23668 && unzip -qo Dataset.zip
!cd /home/aistudio/data/data23668/Dataset && rm -f */.DS_Store # 删除无关文件 `解压后的目录结构如下
