# 用 PyTorch 实现 GHM(Gradient Harmonizing Mechanism)
在计算机视觉和深度学习的领域,处理样本不均衡的问题是一个重要的任务。GHM(Gradient Harmonizing Mechanism)就是一种旨在解决这个问题的技术。接下来,我们将步骤化地介绍如何在 PyTorch 中实现 GHM。以下是我们要完成的主要流程:
| 步骤            
                
         
            
            
            
            刚开始学AI,几乎没用过Python,听说PyTorch发展不错,且比TensorFlow更容易上手,调试也更简单,那就PyTorch吧。在PyTorch官网文档指导下,安装好了PyTorch,接着就看官网的,这篇tutorial写得很不错,文字部分基本都能理解,但是到了第一个例子,虽然是及其简单的AI示例,但我看代码还是感觉吃力,又查了不少资料,才大概理解,这里就算是做了个笔记和总结吧。示例代码            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-12 13:44:54
                            
                                95阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            焦点损失函数 Focal Loss(2017年何凯明大佬的论文)被提出用于密集物体检测任务。 当然,在目标检测中,可能待检测物体有1000个类别,然而你想要识别出来的物体,只是其中的某一个类别,这样其实就是一个样本非常不均衡的一个分类问题。 而Focal Loss简单的说,就是…            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2021-05-20 21:55:29
                            
                                1319阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            全球人类改造数据集 (gHM) 以 1 平方公里的分辨率提供全球人类对陆地土 C.M., J.R. Oakleaf,            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-06-26 01:17:33
                            
                                144阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Focal Loss for Dense Object Detection 是ICCV2017的Best student paper,文章思路很简单但非常具有开拓性意义,效果也非常令人称赞。GHM(gradient harmonizing mechanism) 发表于 “Gradient Harmonized Single-stage Detector",AAAI2019,是基于Focal los            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-04-16 12:12:00
                            
                                558阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            前言这篇论文仍然是瞄准了One-Stage目标检测算法中的正负样本不均衡问题,上周我们介绍He Kaiming等人提出的Focal Loss,推文地址如下:https://mp.weixin.qq.com/s/2VZ_RC0iDvL-UcToEi93og 来解决样本不均衡的问题。但这篇论文提出,Focal Loss实际上是有问题的,论文论述了该问题并提出了GHM Loss更好的解决One-Stag            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-04-19 14:44:11
                            
                                446阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            The global Human Modification dataset (gHM) provides a cumulative measure            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-05-26 01:21:32
                            
                                399阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            目录1、摘要2、简介1、梯度协调机制的原理1、问题描述2、梯度密度3、GHM-C Loss4、单位区域近似1、复杂分析2、单元区域3、EMA4、GHM-R loss5、实验1、实现细节1、网络设置2、优化2、GHM-C Loss1、baseline2、区域单元的数量3、速度4、与其他方法的比较3、GHM-R Los...            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2021-08-13 09:51:28
                            
                                198阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Gradient Harmonized Single-stage Detector摘要介绍梯度协调机制问题描述梯度密度GHM-C损失Unit Region Approximation复杂度分析单位区域指数移动平均(EMA)GHM-R 损失实验部分数据集实施细节网络设置:优化: 摘要GHM( gradient harmonizing mechanism)的提出是为了解决单阶段检测器存在的正负样本和            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-09-23 01:10:35
                            
                                41阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            最近GHM太热门了,因此最近在做GHM的实验,因此做个笔记。文章:https://arxiv.org/pdf/1811.05181.pdf介绍GHM之前,先提一下Focal loss主要是为了解决one-stage目标检测中正负样本比例严重失衡的问题。该损失函数降低了大量简单负样本在训练中所占的权重,也可理解为一种困难样本挖掘。Focal loss做了什么:在二分类交叉熵前面加了权重,而权重由输出            
                
         
            
            
            
            介绍了包括OHEM、S-OHEM、Focal loss、GHM等在内的几种主要方法,并梳理了它们的思路和优缺点。            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2021-06-24 15:03:49
                            
                                1754阅读
                            
                                                                             
                 
                
                             
         
            
            
            
             比较全,转载供查。(原文出处:http://ghm.blog.luohuedu.net/blog/60826.aspx)
    
        
            序号
            中文说明
            标记语法
        
        
            1
            字体样式            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2010-10-28 20:58:35
                            
                                5064阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Focal Loss for Dense Object Detection 是ICCV2017的Best student paper,文章思路很简单但非常具有开拓性意义,效果也非常令人称赞。GHM(gradient harmonizing mechanism) 发表于 “Gradient Harmonized Single-stage Detector",AAAI2019,是基于Focal los            
                
         
            
            
            
            目标检测论文阅读:GHM(anchor based)论文链接:https://arxiv.org/abs/1811.05181  今天介绍一篇AAAI 2019的文章,Gradient Harmonized Single-stage Detector。文章的motivation和focal loss有一点相似,都是致力于不平衡问题。1. Background首先,关于目标检测的类别不平衡问题就不再            
                
         
            
            
            
            数据类别不均衡问题应该是一个极常见又头疼的的问题了。最近在工作中也是碰到这个问题,花了些时间梳理并实践了类别不均衡问题的解决方式,主要实践了“魔改”loss(focal loss, GHM loss, dice loss 等),整理如下。所有的 Loss 实践代码在这里:https://github.com/shuxinyin/NLP-Loss-Pytorch数据不均衡问题也可以说是一个长尾问题,            
                
         
            
            
            
            作者丨SFXiang极市导读本文对目标检测中的样本不均衡问题类别进行了详细叙述,介绍了包括OHEM、S-OHEM、Focal loss、GHM等在内的几种主要方法,并梳理了它们的思路和优缺点。前面的话当前主流的物体检测算法,如Faster RCNN和SSD等,都是将目标检测当做分类问题来考虑,即先使用先验框或者RPN等生成感兴趣的区域,再对该区域进行分类与回归位置。这种基于分类思想的目标检测算法存            
                
         
            
            
            
            首先,说下Redis安装后的常用操作,安装后,主要有两种方式可以操作redis,一种是通过终端、一种是通过可视化图形界面,可视化图形界面的客户端工具,下载后,配置,直接操作即可,软件比较容易上手:百度网盘地址:https://pan.baidu.com/s/1wdE8Xxku0ghM6xP77O0k9w下面说下终端的使用:redis一般都会开启,requirepass的设置,即密码设置,可以通过修            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-23 17:04:12
                            
                                176阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             动机之前所有处理样本不平衡问题的论文都是采用reweight或者采样的方法,并且都是基于手工调优的,例如RetinaNet需要设置FL的参数,GHM则要设置bins的数目和momentum的大小。该论文则提出了一种基于学习的方法来处理样本不平衡问题,不仅性能更好,而且能自适应不同的数据集。模型框架RetinaNet-Obj作者首先引入了另一种不同于Focal Loss处理样本不平衡问题            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-09-29 20:39:02
                            
                                95阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             
摘要:本篇主要从理论到实践解决文本分类中的样本不均衡问题。首先讲了下什么是样本不均衡现象以及可能带来的问题;然后重点从数据层面和模型层面讲解样本不均衡问题的解决策略。数据层面主要通过欠采样和过采样的方式来人为调节正负样本比例,模型层面主要是通过加权Loss,包括基于类别Loss、Focal Loss和GHM Loss三种加权Loss函数;最后讲了下其他解决样本不均衡的策略,可以通过调节阈值修            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2021-09-01 14:14:00
                            
                                4616阅读
                            
                                                                                    
                                2评论