个人理解：样本的重要性是不同的，分类和回归之间一致性较高的锚点十分重要，而一些难以被网络优化的负样本应该有更低的重要性。基于此提出了多重加权（pos和neg）区分不同样本重要性以促进训练。提出 box 细化，根据边缘判断真实框和预测框之间的误差。 论文思路：最优预测不仅应该具有较高的分类分数，还应该具有准确的定位。在训练中，通过区分样本重要性，分辨出分类定义一致性高的样本，过滤困难负样本。 提出问
机器学习中的泛化，泛化即是，模型学习到的概念在它处于学习的过程中时模型没有遇见过的样本时候的表现。在机器学习领域中，当我们讨论一个机器学习模型学习和泛化的好坏时，我们通常使用术语：过拟合和欠拟合。我们知道模型训练和测试的时候有两套数据，训练集和测试集。在对训练数据进行拟合时，需要照顾到每个点，而其中有一些噪点，当某个模型过度的学习训练数据中的细节和噪音，以至于模型在新的数据上表现很差，这样的话模型
转载
2024-09-23 11:10:22
55阅读
目录前言一、分类1.1 决策树分类1.2 SVC1.3 MLP1.4 逻辑回归1.5 KNN二、集成分类模型2.1 随机森林2.2 GBDT2.3 XGBoost2.4 LightGBM2.5 CatBoost总结 数据挖掘系列： 缺失值处理方法汇总 离散化方法汇总 离群点(异常值)处理方法汇总 标准化(数据归一化)处理方法汇总 特征选择（特征筛选）方法汇总 特征选择筛选(降维)方法汇总
LightGBM算法梳理1.LightGBM2.LightGBM的起源XGBoost与LightGBM对比3.Histogram VS pre-sorted4.leaf-wise VS level-wise5.特征并行和数据并行6.顺序访问梯度7.支持类别特征8.sklearn参数 1.LightGBMLightGBM是个快速的，分布式的，高性能的基于决策树算法的梯度提升框架. 可用于排序，分类
转载
2024-08-04 15:55:18
41阅读
LightGBM（Light Gradient Boosting Machine）是一款基于决策树算法的分布式梯度提升框架。为了满足工业界缩短模型计算时间的需求，LightGBM的设计思路主要是两点： 减小数据对内存的使用，保证单个机器在不牺牲速度的情况下，尽可能地用上更多的数据； 减小通信的代价，提升多机并行时的效率，实现在计算上的线性加速。 由此可见，LightGBM的设计初衷就是提供一个快速
转载
2024-06-03 17:47:26
129阅读
ref. AI蜗牛车 文章目录前言一、LightGBM介绍二、LightGBM的直方图算法（Histogram）三、 LightGBM调参四、 总结 前言提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考一、LightGBM介绍谈起Light
转载
2024-08-09 13:33:50
86阅读
lightGBM一、lightGBM的前世今生1.GBDT（Gradient Boosting Decision Tree）2.lightGBM（Light Gradient Boosting Machine）3.XGBoost3.1核心思想3.2优缺点二、lightGBM三、使用lightGBM解决信用卡欺诈问题 一、lightGBM的前世今生1.GBDT（Gradient Boosting
转载
2024-08-09 19:44:35
118阅读
LightGBM是Boosting算法的一种，与GBDT、XGBOOST是属于同一类算法，很多情况下可能会需要lightGBM与GBDT、xgb进行比较。这里花点时间简单比较一下：一、GBDT GBDT是通过使用回归树来构建每一个弱分类器，（具体为啥使用回归树的原因是因为GBDT是由于每次迭代都是拟合上一颗树的残差（一阶梯度且是负梯度），最后所有的树结果求和即使最后结果。只有回归树才可以实现求和
转载
2023-12-26 14:46:10
299阅读
目录：1. GBDT简介2. GBDT回归算法 2.1 GBDT回归算法推导 2.2 GBDT回归算法实例 3. 手撕GBDT回归算法 3.1 用Python3实现GBDT回归算法 3.2 用sklearn实现GBDT回归算法&nb
转载
2024-08-09 12:05:39
30阅读
GBDT算法 Gradient Boosting Decision Tree 以梯度为优化目标，以提升为手段（前面讲到的集成算法中的串联），基础模型为决策树（这里用的是回归树）的算法GBDT简单来说，就是用多个树串联，提升模型的效果 以下是学习唐宇迪老师的GBDT算法的理解，文末有其他直接更详细的的关于GBDT算法的实现回归树的形式是CART 即二叉树使用回归树做分类和回归都可以我们希
转载
2024-05-29 14:07:44
101阅读
目录1、基本知识点简介2、LightGBM轻量级提升学习方法2.1 leaf-wise分裂策略2.2 基于直方图的排序算法2.3 支持类别特征和高效并行处理1、基本知识点简介在集成学习的Boosting提升算法中，有两大家族：第一是AdaBoost提升学习方法，另一种是GBDT梯度提升树。传统的AdaBoost算法：利用前一轮迭代弱学习器的误差来更新训练集的权重，一轮轮迭代下去。梯度提升树GBDT
转载
2023-08-21 23:06:03
120阅读
通过下面的代码 建立了一个OpenGL Context，可以绘图int fd;fd = open("/dev/dri/card0", O_RDWR);struct gbm_device *gbm;gbm = gbm_create_device(fd);EGLDisplay dpy;dpy = eglGetDisplay(gbm);EGLContext
原创
2023-01-31 00:20:30
345阅读
### GBM Python包：介绍和代码示例
#### 什么是GBM？
GBM，全称为梯度提升机（Gradient Boosting Machine），是一种常用于解决分类和回归问题的机器学习算法。它是一种集成学习方法，通过使用多个弱学习器的集合来构建一个强大的预测模型。GBM的核心思想是通过迭代地训练弱学习器，并使每个弱学习器关注之前学习器的错误样本，从而逐步提升整体模型的性能。
GBM具
原创
2023-11-27 06:08:41
83阅读
尽管近年来神经网络复兴并大为流行，但是 boosting 算法在训练样本量有限、所需训练时间较短、缺乏调参知识等场景依然有其不可或缺的优势。本文从算法结构差异、每个算法的分类变量时的处理、算法在数据集上的实现等多个方面对 3 种代表性的 boosting 算法 CatBoost、Light GBM
转载
2019-08-18 18:36:00
224阅读
题目大意：初始所有灯都是开着的，从1编号到n。老人从第一盏走到最后一盏，每到一盏的位置，所有编号被它整除的灯状态改变。解题思路：暴力算有几个因数会超时，其实就是计算一个数的因数的奇偶性。所以只要判断他的开根号是否为整数就可以了。ac代码：#include <iostream>#include <cmath>using namespace std;long long n;in
原创
2021-12-01 16:05:43
144阅读
开始所有的灯是灭的，不过我们只关心最后一个灯。在第i次走动时，只有编号为i的倍数的灯的状态才会改变。也就是说n有偶数个约数的时候，最后一个灯的状态不会改变，也就是灭的。n有奇数个约数的时候也就是n为完全平方数的时候，最后一个灯会是亮的。最后抽象出来，就是判断输入的数是否为完全平方数。Light, m...
转载
2014-07-01 08:30:00
209阅读
2评论
审核通过后 自己还是更新实例
转载
2016-10-18 17:48:00
111阅读
题意：走廊有n盏灯，一个人会在走廊来回走n次。假设这是第k次走，那么位置能被k整除的灯都要改变一次状态。求最后一个灯的最终状态（开或者关）。注意：人走的是n次来回，在回来时不会去改变灯的状态，灯的初始状态是关闭的。思路：其实就是求数n的因子数目的奇偶性，只有能开方的数，因子数目才是奇数，也就是这种n才能使最终状态为开。#include#include#include#de
原创
2022-10-19 16:14:00
41阅读
题目大意：求走了n次后灯是关的还是开的解题思路：用sqrt函数判断
原创
2023-04-07 10:45:13
16阅读
package com.alanliu.Java8BasicCodeStuding.Java8BasciCode.Unit3.Point3; //Compute distance light travels using long variables. /* Java定义了4种整数类型: byte、s
原创
2022-03-18 16:53:07
113阅读
