现代大多数目标检测器的框架是 two-stage，其中目标检测被定义为一个多任务学习问题：1）区分前景物体框与背景并为它们分配适当的类别标签；2）回归一组系数使得最大化检测框和目标框之间的交并比（IoU）或其它指标。最后，通过一个 NMS 过程移除冗余的边界框（对同一目标的重复检测）。二维目标检测实现和优化方向包括backbone、IoU、损失函数、NMS、anchor、one sho
我国高分辨率对地观测系统重大专项已全面启动，高空间、高光谱、高时间分辨率和宽地面覆盖于一体的全球天空地一体化立体对地观测网逐步形成，将成为保障国家安全的基础性和战略性资源。未来10年全球每天获取的观测数据将超过10PB，遥感大数据时代已然来临。随着小卫星星座的普及，对地观测已具备3次以上的全球覆盖能力，遥感影像也不断被更深入的应用于矿产勘探、精准农业、城市规划、林业测量、军事目标识别和
转载
2024-03-15 08:33:07
98阅读
from tensorflow.keras.callbacks import EarlyStopping
import tensorflow as tf
import time
import numpy as np
import matplotlib.pyplot as plt
import sys
from tensorflow import keras
import os
from tenso
转载
2024-06-25 18:41:27
34阅读
论文提出用于特征金字塔的高效特征交互方法FPT，包含3种精心设计的特征增强操作，分别用于借鉴层内特征进行增强、借鉴高层特征进行增强以及借鉴低层特征进行增强，FPT的输出维度与输入一致，能够自由嵌入到各种包含特征金字塔的检测算法中，从实验结果来看，效果不错
论文: Feature Pyramid Transformer论文地址：https://arxiv.org/abs/2007.09451论文代
好吧，我承认我懒了，好久没有发文了，主要最近真的很忙，忙校招，忙课题，神烦，趁着周末好好研究了一下RNN和LSTM（为了让毕业论文的逼格高一些），我发现RNN，尤其是LSTM，没有CNN那样直白，思想很简单，但学完之后总觉得似懂非懂，所以今天想写这么一篇博客梳理一下自己的学习心得，也希望与大家多多交流，本人才疏学浅，如有说的不合理的地方，请尽管指正。首先，默认大家对最简单的感知机是了解的，关于深层
转载
2024-10-25 15:01:10
47阅读
Transformer模型由《Attention is all your need》论文中提出，在seq2seq中应用，该模型在Machine Translation任务中表现很好。动机常见的seq2seq问题，比如摘要提取，机器翻译等大部分采用的都是encoder-decoder模型。而实现encoder-decoder模型主要有RNN和CNN两种实现；CNNcnn 通过进行卷积，来实现对输入数
转载
2024-04-30 04:12:41
75阅读
论文地址：http://openaccess.thecvf.com/content_CVPR_2019/papers/Qin_BASNet_Boundary-Aware_Salient_Object_Detection_CVPR_2019_paper.pdf当前方法的问题 基于FCN的方法在精细结构或边界上仍有缺陷。 精确显著物体检测的挑战：1）显著性主要定义在整个图像的全局对比度
代码地址：https://github.com/leoxiaobin/CvThttps://github.com/microsoft/CvT/blob/main/lib/models/cls_cvt.py Transformer大火，最近的论文几乎都是transformer系列了，但是CNN也有其可取之处，未来CNN和transformer结合想必是大势所趋。这篇文章将CNN引入Transform
转载
2024-03-19 13:43:03
120阅读
单位：MBZUAI（位于阿布扎比的默罕默德人工智能大学），IIAI（起源研究院，邵岭团队） ArXiv: https://arxiv.org/abs/2206.10589 Github: https://github.com/mmaaz60/EdgeNeXt导读：CNN和Transformer单独玩出的花样层出不穷。你中有我我中有你的思想，交替出现，例如Large Kernel CNN试图去模仿
转载
2024-04-13 10:52:53
164阅读
bert就是无监督训练的transformertransformer :seq2seq model with “self-attention”单向的RNN: 在输出b4的时候，已经看了a1~a4 在输出b3的时候，已经看了a1~a3 双向的RNN: 在输出每一个bi的时候，已经看了a1~a4 RNN的优点： 可以考虑到长距离的依赖 RNN的缺点： 不能实现并行化也可以用CNN来处理序列数据，图中每
转载
2024-04-16 13:04:43
196阅读
1简介本文工作解决了Multi-Head Self-Attention(MHSA)中由于计算/空间复杂度高而导致的vision transformer效率低的缺陷。为此，作者提出了分层的MHSA(H-MHSA)，其表示以分层的方式计算。具体来说，H-MHSA首先通过把图像patch作为tokens来学习小网格内的特征关系。然后将小网格合并到大网格中，通过将上一步中的每个小网格作为token来学
转载
2024-04-12 12:57:09
305阅读
介绍几篇利用CNN+Transformer实现图像分类的论文：CMT（CVPR2022），MaxViT(ECCV2022)，MaxViT（ECCV2022），MPViT（CVPR2022）。主要是说明Transformer的局限性，然后利用CNN的优势去弥补和结合。CMT: Convolutional Neural Networks Meet Vision Transformers, CVPR20
转载
2024-06-18 13:54:36
186阅读
、作者丨杜伟、陈萍导读无残差连接或归一化层，也能成功训练深度transformer。尽管取得了很多显著的成就，但训练深度神经网络（DNN）的实践进展在很大程度上独立于理论依据。大多数成功的现代 DNN 依赖残差连接和归一化层的特定排列，但如何在新架构中使用这些组件的一般原则仍然未知，并且它们在现有架构中的作用也依然未能完全搞清楚。残差架构是最流行和成功的，最初是在卷积神经网络（CNN）的背景下开发
转载
2024-04-19 15:48:23
29阅读
1 为何引入Transformer论文：Attention Is All You NeedTransformer是谷歌在2017年发布的一个用来替代RNN和CNN的新的网络结构，Transformer本质上就是一个Attention结构，它能够直接获取全局的信息，而不像RNN需要逐步递归才能获得全局信息，也不像CNN只能获取局部信息，并且其能够进行并行运算，要比RNN快上很多倍。为什么引入Atte
转载
2024-05-06 17:30:43
167阅读
目标检测之 R-CNN系列前言R-CNN系列一、[R-CNN](https://arxiv.org/abs/1311.2524)二、 [Fast R-CNN](https://arxiv.org/abs/1504.08083)三、[Faster R-CNN](https://arxiv.org/abs/1506.01497)四、 [Mask R-CNN](https://arxiv.org/ab
#今日论文推荐#ECCV 2022 | 通往数据高效的Transformer目标检测器本文介绍一下我们中稿今年 ECCV 的一项工作。对目标检测模型所需要的数据进行标注往往是十分繁重的工作，因为它要求对图像中可能存在的多个物体的位置和类别进行标注。本文旨在减少 Detection Transformer 类目标检测器对标注数据的依赖程度，提升其数据效率。Detection Transformer
转载
2024-05-20 19:12:16
59阅读
开始之前，先上一下swin transformer 结构图 首先从模型训练开始，训练模型py文件位于项目根目录/tools/train.py，该文件中整体结构简单，仅有一个main函数。为了方便程序
转载
2024-04-23 10:49:10
288阅读
简单学习BoTNet1.简单介绍 如今transformer热度较高，越来越多的人都来研究transformer，并将其用于CV领域，下图（出自BoTNet论文）就介绍了当前self-Attention在CV领域的应用，而本篇文章的主角BoTNet就是利用CNN+transformer的方式提出一种Bottleneck Transformer来代替ResNet Bottleneck。 2.大体结构
转载
2024-02-18 19:40:04
156阅读
从知乎转载：目标检测算法Conformer（卷积-注意力机制） - 咚咚的文章 - 知乎 https://zhuanlan.zhihu.com/p/397080280目标检测算法Conformer（卷积-注意力机制）本文主要对目标检测算法Conformer进行讲述，本文逻辑结构和论文保持一致。摘要在卷积神经网络 (CNN) 中，卷积操作擅长提取局部特征，但难以捕获全局表示。在本文中，我们提出了一种
转载
2024-04-29 19:11:57
125阅读
本文介绍了几篇结合使用CNN和Transformer进行半监督学习的论文，CNN&Trans（MIDL2022），Semi-ViT（ECCV2022），Semiformer（ECCV2022）.Semi-Supervised Medical Image Segmentation via Cross Teaching between CNN and Transformer, MIDL2022
转载
2024-06-07 11:31:25
716阅读
