提到GBDT分类相信大家应该都不会觉得陌生，本文就GBDT分类的基本原理进行讲解，并手把手、肩并肩地带您实现这一算法。完整实现代码请参考本人的github：https://github.com/tushushu/imylu/blob/master/imylu/ensemble/gbdt_base.py
https://github.com/tushushu/imylu/blob/master/im
转载
2024-05-27 20:15:41
44阅读
作者：1直在路上1因为用树模型太习以为常了，以至于看到这个标题很容易觉得这很显然。但越简单的东西越容易出现知识盲区，仔细想一下好像确实有点疑问：GBDT 用的是回归树，是如何做的分类呢？- 作者：1直在路上1- 一 简介GBDT 在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，在前几年深度学习还没有大行其道之前，GBDT 在各种竞赛是大放异彩。原因大概有几个效果确实挺不错；既
转载
2024-05-21 22:38:16
25阅读
一、简介GBDT在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，在前几年深度学习还没有大行其道之前，gbdt在各种竞赛是大放异彩。原因大概有几个一：效果确实挺不错。 二：既可以用于分类也可以用于回归。 三：可以筛选特征。 这三点实在是太吸引人了，导致在面试的时候大家也非常喜欢问这个算法。 GBDT是通过采用加法模型（即基函数的线性组合），以及不断减小训练过程产生的残差来达到将数据分
转载
2023-07-28 16:14:55
188阅读
相当于每次都是用2分类，然后不停的训练，最后把所有的弱分类器来进行汇总样本编号花萼长度(cm)花萼宽度(cm)花瓣长度(cm)花瓣宽度花的种类15.13.51.40.2山鸢尾24.93.01.40.2山鸢尾37.03.24.71.4杂色鸢尾46.43.24.51.5杂色鸢尾56.33.36.02.5维吉尼亚鸢尾65.82.75.11.9维吉尼亚鸢尾Iris数据集 这是一个有6个样本的
转载
2024-04-16 15:41:13
61阅读
一、GBDT是通过梯度下降（作为残差的近似）更新的决策树集成的boosting模型。 （1）GBDT无论用于分类还是回归一直是使用的CART回归树。 原因：如果选用的弱分类器是分类树，类别相减是没有意义的。上一轮输出的是样本x属于A类，本轮训练输出的是样本x属于B类，A类减B类是没有意义的。 （2）GBDT每轮的训练是在上一轮训练的残差基础上进行训练的，残差指的是当前模型的负梯度值。二、使用GBD
转载
2024-02-20 10:00:47
71阅读
如果读者对以上各个方面都很熟悉，那么恭喜你已经成功掌握GBDT了。Boosting算法Bagging算法介绍在正式开讲GBDT之前，我先熟悉一下江湖中传说的集成学习的两个派系，分别是Boosting和Bagging。所谓的集成学习主要是通过学习多个弱学习器结合组合策略组成强学习以达到“多个臭皮匠顶个诸葛亮”的作用。集成学习中最典型的两个代表就是Boosting家族和Bagging家族。
转载
2024-05-27 15:52:34
35阅读
这三篇关于GBDT的算法介绍，是我在网上找到的最优秀的。转载过来纯属学习留档，日后复习。
，作者
kingsam_
摘要：GBDT-分类 GBDT-回归 前面两篇文章已经详细介绍了在回归和分类下的GBDT算法。这一篇文章将最后介绍一个多分类任务的GBDT。其过程和二分类的GBDT类似，但是有一个地方有很大的不同，下文将详细的介绍。正文：下图是Friedman在论文中对G
转载
2024-04-02 07:02:03
53阅读
一 简介GBDT通过多轮迭代,每轮迭代产生一个弱分类器，每个分类器在上一轮分类器的残差基础上进行训练。对弱分类器的要求一般是足够简单，并且是低方差和高偏差的。因为训练的过程是通过降低偏差来不断提高最终分类器的精度。GBDT主要由三个概念组成：Regression Decistion Tree（即DT)，Gradient Boosting（即GB)，Shrinkage&
转载
2024-05-29 20:26:58
45阅读
Gradient boosting decision tree（使用的基分类器是CART回归树，不适用CART分类树）介绍：首先gbdt 是通过采用加法模型（即基函数的线性组合），以及不断减小训练过程产生的残差来达到将数据分类或者回归的算法。GBDT训练过程gbdt通过多轮迭代,每轮迭代产生一个弱分类器，每个分类器在上一轮分类器的残差基础上进行训练。对弱分类器的要求一般是足够简单，并且是低方差和高
转载
2024-03-06 23:04:14
46阅读
GBDT 适用范围GBDT 可以适用于回归问题（线性和非线性）其实多用于回归；GBDT 也可用于二分类问题（设定阈值，大于为正，否则为负）和多分类问题RF与GBDT之间的区别与联系1）相同点：都是由多棵树组成最终的结果都由多棵树共同决定。2）不同点：组成随机森林的树可以分类树也可以是回归树，而GBDT只由回归树组成组成随机森林的树可以并行生成（Bagging）；GBDT 只能串行生成（Boosti
转载
2023-11-28 21:08:24
48阅读
基本概念概述Gradient Boosting Decision Tree，梯度提升决策树。GBDT是一个Boosting算法 ， Boosting算法将弱分类器集成成一个强分类器，相比于bagging：boosting算法中当前的分类器会受到之前的学习器的影响，比如adaboost当前学习器中样本的权重是前n轮学习器改变后的结果，比如GBDT中当前学习器要拟合东西是前n个学习器产生的残差。而ba
转载
2024-05-01 19:22:53
51阅读
最近参加比赛有用到xgboost，比赛整体下来知其然不知所以然，只会调参跑结果，正好趁暑假将原理好好梳理一下。xgboost从GBDT算法衍生出来，自然需要先把GBDT给弄清楚，看了几天GBDT的介绍，现在把自己了解的整理一下，以供自己以后参考，以后还会随着自己的理解不断增减内容。首先，GBDT是一种前向分步算法，前向分布算法是由若干个弱分类器组成的一个强分类器，，弱分类器可以有多种形式，将弱分类
转载
2024-05-16 02:17:59
42阅读
写在前面：去年学习GBDT之初，为了加强对算法的理解，整理了一篇笔记形式的文章，发出去之后发现阅读量越来越多，渐渐也有了评论，评论中大多指出来了笔者理解或者编辑的错误，故重新编辑一版文章，内容更加翔实，并且在GitHub上实现了和本文一致的GBDT简易版(包括回归、二分类、多分类以及可视化)，供大家交流探讨。希望继续指出错误~Github：简介：GBDT 的全称是 Gradient Boostin
转载
2024-05-20 23:01:45
49阅读
GBDT概述GBDT 是梯度提升树（Gradient Boosting Decison Tree）的简称，GBDT 也是集成学习 Boosting 家族的成员，但是却和传统的 Adaboost 有很大的不同。回顾下 Adaboost，我们是利用前一轮迭代弱学习器的误差率来更新训练集的权重，这样一轮轮的迭代下去。GBDT 也是迭代，使用了前向分布算法，同时迭代思路和 Adaboost 也
转载
2024-01-18 14:19:55
69阅读
Gradient Boost的算法流程 备注：这里表示损失函数，表示样本在相对于决策面（后续分析回归问题和分类问题）的得分。About Logistic 对于二分类任务而言，常常采用Log-loss：  
转载
2024-05-06 15:13:36
54阅读
越简单的东西越容易出现知识盲区。
转载
2022-10-20 08:59:00
115阅读
（GBDT是通过梯度下降（作为残差 的近似）更新的决策树集成的boosting模型） 首先明确一点，gbdt 无论用于分类还是回归一直都是使用的CART 回归树。不会因为我们所选择的任务是分类任务就选用分类树，这里面的核心是因为gbdt 每轮的训练是在上一轮的训练的残差基础之上进行训练的。这里的残差
转载
2019-05-15 22:20:00
235阅读
2评论
一、简述GBDT原理GBDT的含义就是用Gradient Boosting的策略训练出来的DT模型。模型的结果是一组回归分类树组合(CART Tree Ensemble)。 过程大致如下：根据训练集训练一颗初始决策树；计算之前所有树在此数据集上预测结果之和与真实结果的差值，又叫残差；把残差作为当前树作为拟合的目标在训练集上训练；重复2、3步骤，直到达到设置的阈值——如树的个数，早期停止策略等。二、
（GBDT是通过梯度下降（作为残差 的近似）更新的决策树集成的boosting模型）首先明确一点，gbdt 无论用于分类还是回归一直都是使用的CART 回归树。不会因为我们所选择的任务是分类任务就选用分类树，这里面的核心是因为gbdt 每轮的训练是在上一轮的训练的残差基础之上进行训练的。这里的残差就是当前模型的负梯度值 。这个要求每轮迭代的时候，弱分类器的输出的结果相减是有意义的。残差相减是有意义
转载
2024-05-30 08:58:17
27阅读
理解GBDT原理主要在于三个关键点：Regression Decistion Tree（即DT)，Gradient Boosting（即GB)，Shrinkage（缩减） 1.DT（回归树） 工作流程 分类树：我们知道C4.5分类树在每次分枝时，是穷举每一个feature的每一个阈值，找到使得按照feature<=阈值，和feature>阈值分成的两个分枝的熵最大的feature
转载
2024-03-14 06:29:50
41阅读
