介绍自注意力机制在序列模型中取得了很大的进步，另一方面，上下文信息对于很多视觉任务都很关键，如语义分割、目标检测。自注意力机制通过（key、query、value）的三元组提供了一种有效的捕捉全局上下文信息的建模方式。attention通常可以进行如下描述，表示为将query(Q)和key-value pairs映射到输出上，其中query、每个key、每个value都是向量，输出是V中所有val
文章名称：《Densely Connected Convolutional Networks》 论文链接：https://arxiv.org/abs/1608.06993 代码链接：https://github.com/liuzhuang13/DenseNet这篇文章厉害了，继He Kaiming的ResNet（2015）之后，又一篇让人惊艳的文章。毕竟是CVPR2017的best paper
Squeeze-and-Excitation Networks(SENet)论文地址：https://arxiv.org/abs/1709.01507主要思想：提出SE block优点：增强特征通道论文内容如下：X : input data输入数据F tr : convolutional operator卷积算子 U
: feature map特征图 F
sq
:Feature m
论文：《Squeeze-and-Excitation Networks》 论文链接：https://arxiv.org/abs/1709.01507 代码地址：https://github.com/hujie-frank/SENet PyTorch代码地址：https://github.com/miraclewkf/SENet-PyTorch1. 概述  
Paper Reading NoteURL: https://zpascal.net/cvpr2017/Wang_Residual_Attention_Network_CVPR_2017_paper.pdfTL;DR该文章提出了一种残差注意力网络用于图像分类任务，在当时的多个分类数据集取得了SOTA结果。Dataset/Algorithm/Model/Experiment Detail数据集使用的
最近，加州大学伯克利分校和谷歌的科研团队共同提出了一个概念上非常简单，但是功能很强大的骨架网络，该网络将自注意力机制纳入了各种计算机视觉任务，包括图像分类、目标检测和实例分割，指标都有了很大的提升，该网络叫做 BoTNet（Bottleneck Transformer）。为什么要使用 BoTNet？设计思想近年来，卷积骨架网络在计算机视觉的各个领域取得了非常大的进展，这得益于卷积能够有效捕捉图像中
摘要：ResNest主要贡献是设计了一个Split-Attention模块，可以实现跨通道注意力。通过以ResNet样式堆叠Split-Attention块，获得了一个ResNet的变体。ResNest网络保留了完整的ResNet结构，可以直接用下游任务，而不会引起额外的计算成本。ResNest在分类、FasterRCNN、DeeplabV3上都有提升。动机：著名的ResNet是针对图像分类设计的
论文名称：ECA-Net: Efficient Channel Attention for Deep Convolutional Neural Networks论文地址：https://arxiv.org/abs/1910.03151代码: https://github.com/BangguWu/ECANet 这是一篇CVPR2020上对通道注意力进行改进的文章---ECANet，ECA
顾名思义，深度残差收缩网络是由“残差网络”和“收缩”两个部分所组成的，是“残差网络”的一种改进算法。其中，残差网络在2016年获得了ImageNet图像识别竞赛的冠军，目前已成为深度学习领域的基础网络；“收缩”就是“软阈值化”，是许多信号降噪方法的核心步骤。深度残差收缩网络也是一种“注意力机制”下的深度学习算法。其软阈值化所需要的阈值，本质上是在注意力机制下设置的。在本文中，我们首先对残差网络、软
ResNeStAbstract作者提出了一个新的模块，Split-Attention block分离注意力模块，能够跨特征图组使用注意力。像ResNet那种方式堆叠Split-Attention block得到的ResNet变体叫ResNeSt。作者将DeeplabV3中的backbone换成了ResNeSt，在ADE20K上的mIoU从42.1%提到了45.1%。1 Introduction前两
目录ResNetDenseNetResNeXtSE-ResNet, SE-ResNeXt (2018 Apr)涉及到的其他知识：Global average pooling (GAP)梯度爆炸、梯度消失、 梯度弥散BN层ResNet: 跳层残差结构ResNeXt: 并列的重复模块 增加一个维度SE Net: 增加通道上的注意力机制 eg:SE ResNeXt&n
阅读笔记（paper+code）：Residual Attention Network for Image Classification代码链接：https://github.com/fwang91/residual-attention-network深度学习中的attention，源自于人脑的注意力机制，当人的大脑接受到外部信息，如视觉信息、听觉信息时，往往不会对全部信息进行处理和理解，而只会将
论文地址：https://arxiv.org/abs/1903.06586 代码地址：https://github.com/implus/SKNetSENet是对特征图的通道注意力机制的研究，之前的CBAM提到了对特征图空间注意力机制的研究。这里SKNet针对卷积核的注意力机制研究。不同大小的感受视野（卷积核）对于不同尺度（远近、大小）的目标会有不同的效果。 尽管比如Inception这样的增加了
文章目录一、SENETSE的代码实现二、CBAM模块CBAM代码实现 一、SENETSENET是2017年的世界冠军，SE全称Squeeze-and-Excitation是一个模块，将现有的网络嵌入SE模块的话，那么该网络就是SENet，它几乎可以嵌入当前流行的任何网络，那么为什么会引出这个东西呢，来看下图：SE结构 一个SEblock的过程分为 Squeeze(压缩) 和 Excitation
在卷积网络中通道注意力经常用到SENet模块，来增强网络模型在通道权重的选择能力，进而提点。关于SENet的原理和具体细节，我们在上一篇已经详细的介绍了：经典神经网络论文超详细解读（七）——SENet（注意力机制）学习笔记（翻译＋精读＋代码复现）接下来我们来复现一下代码。因为SENet不是一个全新的网络模型，而是相当于提出了一个即插即用的高性能小插件，所以代码实现也是比较简单的。本文是在ResNe
论文地址：https://arxiv.org/pdf/2102.00240.pdf Github地址：https://github.com/wofmanaf/SA-Net/blob/main/models/sa_resnet.py注意机制使神经网络能够准确地聚焦于输入的所有相关元素，已成为改善深层神经网络性能的重要组成部分。计算机视觉研究中广泛使用的注意机制主要有两种：空间注意力和通道注意力，它们
论文信息Title: Relation-Aware Global Attention for Person Re-identificationPDF: https://openaccess.thecvf.com/content_CVPR_2020/papers/Zhang_Relation-Aware_Global_Attention_for_Person_Re-Identifica
Date：2020-05-19 注意力机制注意力机制（Attention Mechanism）是机器学习中的一种数据处理方法，广泛应用在自然语言处理、图像识别及语音识别等各种不同类型的机器学习任务中。注意力机制本质上与人类对外界事物的观察机制相似。通常来说，人们在观察外界事物的时候，首先会比较关注比较倾向于观察事物某些重要的局部信息，然后再把不同区域的信息组合起来
以CNN为基础的编解码结构在图像分割上展现出了卓越的效果，尤其是医学图像的自动分割上。但一些研究认为以往的FCN和UNet等分割网络存在计算资源和模型参数的过度和重复使用，例如相似的低层次特征被级联内的所有网络重复提取。针对这类普遍性的问题，相关研究提出了给UNet添加注意力门控（Attention Gates, AGs）的方法，形成一个新的图像分割网络结构：Attention UNet。提出At
论文阅读笔记 - Residual Attention Network for Img Classification摘要简介堆叠的网络结构注意力残差学习研究现状重点 attention module代码实现 摘要文章中提出了残差注意力网络，将注意力机制结合到残差网络当中。残差注意力网络通过堆叠注意力模块来组成，这些注意力模块可以产生注意力敏感的特征。来自不同模块的具有注意力敏感的特征可以自适应地
