SSD简介SSD（Single Shot MultiBox Detector）是深度学习领域一种新型的目标检测算法。在过去的几次国际比赛中，SSD在速度和准确性方面均取得优异成绩，与其他检测算法一度拉开很大差距。SSD的算法流程大体可以概括为产生候选区域、框选、判断、过滤几个步骤。其中，产生候选区域、框选和过滤的算法是固定的，而针对给定的候选区域，判断区域中的图像是否是待检测目标，需要使用不同的模
R329是矽速科技开发的强大的AI功能,今天尝试下在上面部署分类网络resnet18. 模型量化的代码及数据我都放在了github模型下载onnx模型是有个一个model zoo的,其中resnet18的下载地址为:链接启动容器docker 容器里面包含了转换模型的依赖项， 只要bash里运行以下命令即可。docker run --gpus all -it --rm \
-e DI
转载
2024-05-31 10:40:24
115阅读
前言因为最近都在关注深度学习模型压缩相关的工作，所以今天给大家介绍的也是一篇关于模型压缩的方法。这是一篇非常有意思的工作，来自于三星研究院在ICLR2017上发表的论文：DeepRebirth: A General Approach for Accelerating Deep Neural Network Execution on Mobile Devices。常用的模型压缩手段往往是从网络的参数
转载
2024-10-12 07:50:30
94阅读
前 言 YOLO算法改进系列出到这，很多朋友问改进如何选择是最佳的，下面我就根据个人多年的写作发文章以及指导发文章的经验来看，按照优先顺序进行排序讲解YOLO算法改进方法的顺序选择。具体有需求的同学可以私信我沟通：第一，创新主干特征提取网络，将整个Backbone改进为其他的网络，比如这篇文章中的整个方法，直接
转载
2024-06-20 17:15:23
378阅读
MindSpore学习之网络迁移调试与调优ResNet50为例迁移流程迁移目标: 网络实现、数据集、收敛精度、训练性能复现指标：不仅要复现训练阶段，推理阶段也同样重要。细微差别，属于正常的波动范围。复现步骤：单步复现+整合网络。复现单 Step 的运行结果，即获取只执行第一个 Step 后网络的状态，然后多次迭代出整个网络的运行结果（数据预处理、权重初始化、正向计算、loss 计算、反向梯度计算和
转载
2024-04-07 22:51:52
87阅读
机器学习32:对Resnet几个问题的理解 Resnet对传统网络的改进：加入Shortcut连接，改善了深层网络的网络退化问题，使网络模型可以训练到很深层等已经是老生常谈了，也训练过Resnet模型有效地分类了Cifar数据集，但是对于Resnet始终存有几个疑问。  
转载
2024-05-26 22:14:51
176阅读
Resnet 学习笔记前言 学了几个月的神经网络，感觉也没学到什么东西，炼丹能力倒是提升不少。。。不能只停留在应用方面，还是要掌握理论，因此就想借助博客园把我学到的理论知识都记录下来，也算是加深记忆了。 最近在看一些著名的网络模型，就从Resnet着手写下第一篇博客（主要是GoogleNet太复杂。。。）Why Resnet 当今世界，神经网络模型越来越深，那么是不是越深的模型就越好呢？ 论文中首
转载
2024-06-05 10:55:05
61阅读
ResNet在2015年由微软实验室提出，斩获当年ImageNet竞赛中分类任务第一名，目标检测第一名。获得COCO数据集中目标检测第一名，图像分割第一名。ResNet34层模型的结构简图：ResNet网络中的亮点：超深的网络结构（突破1000层）提出residual模块（残差结构）使用Batch Normalization加速训练（丢弃dropout）在ResNet网络提出之前，传统的卷积神经网
转载
2024-05-26 13:59:26
132阅读
残差网络残差网络（Residual Network简称ResNet）是在2015年继Alexnet Googlenet VGG三个经典的CNN网络之后提出的，并在ImageNet比赛classification任务上拔得头筹，ResNet因其简单又实用的优点，现已在检测，分割，识别等领域被广泛的应用。 ResNet可以说是过去几年中计算机视觉和深度学习领域具开创性的工作,有效的解决了随着网络的加深
转载
2024-03-08 22:11:53
162阅读
算子优化总结（resnet18中的upsample算子反向为例）发现问题模型训练，从输出打印来看，每次迭代耗时约1.03s； ixprof收集性能数据，看到upsample_bilinear2d_backward_nhwc_out_frame这个kernel耗时占比高达22.56%，推测有可优化空间；shape获取获取方式：1.保存为onnx模型直接查看，有些特殊op无法看到，比如本例中的upsa
转载
2024-04-25 14:59:24
130阅读
过拟合现象学习器把训练样本学习的太好，很可能把训练样本自身的一些特点当作了所有潜在样本都会具有的一般性质，导致泛化性能下降，这种现象叫做过拟合。有很多因素可能导致过拟合，其中最常见的情况是由于学习能力过于强大，以至于把训练样本所包含的不太一般的特性都学到了。深度学习模型的数据量少而参数较多时，会发生过拟合，如下图 怎样减小过拟合？1.重新清洗数据，导致过拟合的原因也有可能是数据不纯2.
在讨论度量空间的稠密性的时候，涉及到一些概念，下面我们逐一进行讨论一下，以区分不同，方便理解和记忆。(一)稠密：设R是度量空间，A及E是R中的点集。如果E中的任何一点的任何环境都含有集A中的点，就称A在E中稠密。教材里面好像也称呼A为稠密子集。仔细推敲这个概念，需要特别注意的是A和E都是一个度量空间的点集，而且它们之间可能不相交，也可能不相交，另外就是特别注意两个任何，也就是E中的任何一点的任何环
Aggregated Residual Transformations for Deep Neural NetworksAbstract我们提出了一个简单的、高度模块化的图像分类网络架构。我们的网络是通过重复一个构建块来构建的，该构建块聚合了一组具有相同拓扑结构的转换（transformations）。我们的简单的设计得到一个均匀的多分支结构,只有设置了少数的超参数。这种策略使一个新的
TResNet: High Performance GPU-Dedicated Architecture 来自阿里的达摩院，发布于**2021 WACV,**该论文引入了一系列架构修改，旨在提高神经网络的准确性，同时保持其 GPU 训练和推理效率。论文首先讨论了面向 FLOP 的优化引起的瓶颈。然后建议更好地利用 GPU 结构的设计。最后引入了一个新的 GPU 专用模型，称其为 TResNet。动
转载
2024-05-14 09:03:10
588阅读
一、ResNetDeep Residual Learning for Image Recognition(深度残差学习在图像识别中的应用)论文链接：https://arxiv.org/abs/1512.03385
论文代码： 1、https://github.com/KaimingHe/deep-residual-networks 2、https://github.com/tensorflow/m
转载
2024-02-09 09:46:05
43阅读
论文介绍了一种名为“偏好链优化”（Chain of Preference Optimization，CPO）的方法，旨在改善大型语言模型（LLMs）在复杂问题解决中的链式推理能力。虽然传统的链式推理（CoT）能够生成逻辑推理路径，但这些路径往往不是最优的。为此，作者提出树状推理（ToT）方法，通过树搜索探索推理空间，以寻找更优的推理路径，但这会显著增加推理的复杂性。CPO通过对LLMs进行微调，使
这是一篇关于适应开源大语言模型（LLMs）的三部系列博客的第一篇。本文探讨将LLM适应领域数据的各种方法。
第二部分讨论如何确定微调（fine-tuning）是否适合您的用例。
第三部分探讨策划良好训练数据集的一些经验法则。
0 引言
大语言模型（LLMs）在多种语言任务和自然语言处理（NLP）基准测试中展示了出色的能力。基于这些“通用”模型的产品应用正在增加。本文为小型AI产品团队提供指导，
原创
2024-09-13 19:17:15
258阅读
导读这篇文章我们主要来介绍一下如何来使用paddlepaddle构建一个深度学习模型，这里我们以构建ResNet为例ResNet模型ResNet是2016年由何凯明提出来的，到现在为止我们还是会经常使用到它。我们来看看它的结构 在论文中ResNet主要包含了五种结构，ResNet18、ResNet34、ResNet50和ResNet101以及ResNet152，实际上根据ResNet的网络结构可以
转载
2024-02-18 20:51:34
397阅读
torchvision中提供了通过Resnet + FPN的方式构建基础网络，这里以resnet50为例实现基础网络的构建。目录BackboneWithFPNIntermediateLayerGetterFeaturePyramidNetworkBackboneWithFPN类BackboneWithFPN的在backbon_utils.py中，功能是给骨干网络加上FPN，定义如下：class B
文章目录Faster Rcnn逐行debug，深入理解原理检测效果predict.pyfrcnn.py初始化utils.py函数：get_classesfrcnn.py函数：generatenets/frcnn.pyFasterRCNN构建resnet50ResNetBottleneckResnetresnet50FasterRCNNRegionProposalNetworkgenerate_a
