前言： 根据计划，本文开始讲述另外一个操作符串联（Concatenation），读者可以根据这个词（中英文均可）先幻想一下是干嘛的。其实还是挺直观，就是把东西连起来，那么下面我们来看看到底连什么？怎么连？什么时候连？简介： 串联操作符既是物理操作符，也是逻
ConvNext论文提出了一种新的基于卷积的架构，不仅超越了基于 Transformer 的模型（如 Swin），而且可以随着数据量的增加而扩展！今天我们使用Pytorch来对其进行复现。下图显示了针对不同数据集/模型大小的 ConvNext 准确度。作者首先采用众所周知的 ResNet 架构，并根据过去十年中的新最佳实践和发现对其进行迭代改进。作者专注于 Swin-Transformer，并密切
原创
2024-05-17 00:29:17
768阅读
NEON
ARM
® NEON™ 通用 SIMD 引擎可有效处理当前和将来的多媒体格式，从而改善用户体验。 NEON 技术可加速多媒体和信号处理算法（如视频编码/解码、2D/3D 图形、游戏、音频和语音处理、图像处理技术、电话和声音合成），其性能至少为 ARMv5 性能的 3 倍，为 ARMv6 SIMD 性能的 2 倍。 NEON 技术是 ARM Cortex™-A 系
转载
2024-09-13 22:02:19
47阅读
首先介绍Convnext:ConvNeXt 论文名称：A ConvNet for the 2020s 论文下载链接：https://arxiv.org/abs/2201.03545 论文对应源码链接：https://github.com/facebookresearch/ConvNeXt 视频讲解：https://www.bilibili.com/video/BV1SS4y157fu关于capsn
迁移学习是一种深度学习策略，它通过将解决一个问题所获得的知识应用于另一个不同但相关的问题来重用这些知识。例如，有3种类型的花：玫瑰、向日葵和郁金香。可以使用标准的预
原创
2022-05-01 17:10:29
790阅读
导读使用Keras进行迁移学习，从实际
转载
2021-07-19 09:30:22
1376阅读
一、解决什么问题？二、怎么解决的？1.基本的思想？1.端到端的训练和实时检测。2.YOLO将输入图像划分为S*S个网络，如果一个物体的中心落在某个网格内，则相应网格负责检测该物体。3.在训练和测试时，每个网络预测B个bboxs，每个bbox对应5个预测参数，即bbox中心点坐标（x,y），宽高（w,h），和置信度评分。4.将物体检测任务看成是一个回归问题来处理，直接通过整张图片的所有像素得到bbo
概述迁移学习可以改变你建立机器学习和深度学习模型的方式了解如何使用PyTorch进行迁移学习，以及如何将其与使用预训练的模型联系起来我们将使用真实世界的数据集，并比较使用卷积神经网络(CNNs)构建的模型和使用迁移学习构建的模型的性能介绍我去年在一个计算机视觉项目中工作，我们必须建立一个健壮的人脸检测模型。考虑到我们拥有的数据集的大小，从头构建一个模型是一个挑战。从头构建将是一个耗时又消耗计算资源
原创
2021-01-06 22:12:52
1318阅读
Transformer是谷歌在2017年的一篇论文"Attention is all you need"提出的一个seq2seq的模型架构，其创造性的提出了自注意力的思想，可以很好的表达序列中各个单词之间的相互注意力关系。这个模型在NLP领域取得了巨大的成功。此外这个模型架构在最近几年也在CV领域取得了令人瞩目的进展，在图像识别，目标检测等方面都达到或超过CNN模型的性能。因此Transforme
转载
2024-07-07 06:50:43
75阅读
作者丨科技猛兽 编辑丨极市平台导读受 Inception 的启发，本文作者提出
转载
2023-04-09 10:36:47
578阅读
TensorFlow模型持久化将TensorFlow模型结构和权重保存到一个.pb文件当中。示例代码如下：pb_graph = tf.graph_util.convert_variables_to_constants(sess, sess.graph.as_graph_def(), [v.op.name for v in outputs])
with tf.gfile.FastGFile('./p
转载
2024-07-21 01:14:32
17阅读
前 言：作为当前先进的深度学习目标检测算法YOLOv5，已经集合了大量的trick，但是还是有提高和改进的空间，针对具体应用场景下的检测难点，可以不同的改进方法。此后的系列文章，将重点对YOLOv5的如何改进进行详细的介绍，目的是为了给那些搞科研的同学需要创新点或者搞工程项目的朋友需要达到更好的效果提供自己的微薄帮助和参考。解决问题：YOLOv5主干特征提取网络采用C3结构，带来较大的参数量，检测
深度学习在一些传统方法难以处理的领域有了很大的进展。这种成功是由于改变了传统机器学习的几个出发点，使其在应用于非结构化数据时性能很好。如今深度学习模型可以玩游戏，检测癌症，和人类交谈，自动驾驶。深度学习变得强大的同时也需要很大的代价。进行深度学习需要大量的数据、昂贵的硬件、甚至更昂贵的精英工程人才。在Cloudera Fast Forward实验室，我们对能解决这些问题的创新特别兴奋。我们最新的研
最近对迁移学习比较感兴趣，连续读了几篇和迁移学习相关的文章。本次博客首先来总结几篇迁移学习在NLP领域的应用。NIPS（美国高级研究计划局）2005年给迁移学习一个比价有代表性的解释：transfer learning emphasizes the transfer of knowledge across domains, tasks, and distributions that are sim
迁移学习和微调的区别1.举例说明当我们遇到一个新任务需要解决时，迁移学习和微调可以帮助我们更快地学习和完成这个任务。迁移学习就像是我们已经学会了一些与目标任务相关的知识，然后我们可以将这些知识应用到新任务中。 类比一下，就好像我们之前学会了画猫的技巧，现在我们要画一只狗，我们可以借用之前学到的知识和技巧，来更好地画出这只狗。微调是迁移学习的一种具体方法，它的思路是利用已经训练好的模型来帮助我们完成
转载
2024-04-12 06:14:01
159阅读
树的父指针表示法
原创
2021-08-08 10:18:25
239阅读
1. 前言 迁移学习（Transfer Learning,TL）对于人类来说，就是掌握举一反三的学习能力。比如我们学会骑自行车后，学骑摩托车就很简单了；在学会打羽毛球之后，再学打网球也就没那么难了。对于计算机而言，所谓迁移学习，就是能让现有的模型算法稍加调整即可应用于一个新的领域和功能的一项技术。 不久前，香港科技大学的杨强教授在机器之心GMIS大会中回顾AlphaGo和柯洁的
转载
2023-06-03 22:49:30
314阅读
文章目录1. 迁移学习简介2. 多分类问题实例2.1 构建数据2.2 问题1的MLP模型2.3 问题2的MLP模型2.4 问题2使用迁移学习的MLP模型2.5 特征提取与权重初始化性能对比 代码环境：python-3.7.6tensorflow-2.1.0深度学习神经网络的一个优势是可以在相关问题上重用。迁移学习（Transfer learning）指的是对某种程度上相似的问题进行预测建模的技术
转载
2023-10-19 10:54:25
157阅读
本文以将PyTorch框架实现的网络迁移至MindSpore框架为例，并以计算机视觉常用算子做代码示例。1. 训练过程中损失变化异常具体表现数值过大或过小损失不下降损失波动大损失值恒定损失为负数问题原因以及排查、解决办法网络结构存在问题排查方法：逐行代码对比；将原框架网络的checkpoint文件导入到迁移网络中，例如将pytorch的.pth文件转换成mindspore支持的.ckpt文件，然后
转载
2023-08-02 21:44:36
192阅读
一、联邦学习的定义 横向联邦学习和纵向联邦学习要求所有的参与方具有相同的特征空间或样本空间，从而建立起一个有效的共享机器学习模型。然而，在更多的实际情况下，各个参与方所拥有的数据集可能存在高度的差异，例如：参与方的数据集之间可能只有少量的重叠样本和特征，并且这些数据集的规模与分布情况可能差别很大，此时横向联邦学习与纵向联邦学习就不是很适合了。在这种情况下，通过迁移学习技术，使其可以应用于
