不论是金融机构的贷前评分卡、贷中评分卡跟贷后评分卡，在整个风险体系中其业务的落脚点，都有一个量化公式贯穿始中：预期损失EL=PDEADLGD*F(m) ECL-风险敞口 PD-逾期损失LGD-违约损失率风险暴露（EAD/ECL）—我们通常叫风险敞口，就是贷出去的余额；这个数据是与欠款余额、贷款额度、影子额度、产品特征等相关的金额 违约概率（PD%）—借款人的风险等级，受个人经济状况影响 违约损失率
转载
2023-11-14 23:59:59
288阅读
# 如何使用Python实现LightGBM模型参数设置
在数据科学和机器学习的领域，了解如何使用机器学习库是每个开发者必须掌握的技能之一。特别是在处理大数据集时，LightGBM（Light Gradient Boosting Machine）因其出色的性能而备受青睐。本篇文章将详细介绍如何在Python环境中进行LightGBM模型的参数设置，以及整个流程的具体操作步骤。
## 整体流程概
logistic回归的一般过程（1）收集数据：采用任意方法收集数据。（2）准备数据：由于需要进行距离计算，因此要求数据类型为数值型。另外，结构化数据格式为最佳。（3）分析数据：采用任意方法对数据进行分析。（4）训练算法：大部分时间将用于训练，训练的目的是为了找到最佳的分类回归系数。（5）测试算法：一旦训练步骤完成，分类将会很快。（6）使用算法：首先，我们需要输入一些数据，并将其转化成对应的结构化数
简介是GBDT模型的一个进化版本，其主要思想是利用弱分类器（决策树）迭代训练以得到最优模型，该模型具有训练效果好、不易过拟合等优点（备注：容易出现过拟合的风险，需要限制树的最大深度来防止过拟合）。LGB是一个实现GBDT算法的框架，支持高效率的并行训练，并且具有更快的训练速度、更低的内存消耗、更好的准确率、支持分布式可以快速处理海量数据等优点。解决痛点GBDT在每一次迭代的时候，都需要遍历整个训练
转载
2024-05-20 22:03:21
1246阅读
内容提要上一篇写道了深度学习的计算过程包括3个过程第一个过程：正向传播-forward propagation第二个过程：反向传播-backward propagation第三个过程：梯度下降1.参数更新函数上一篇定义了一个计算成本和梯度的正向传播和反向传播函数，计算出了cost和梯度dw，db 有了w，b和dw，db后需要更新一下w，b，继续算成本值 这一篇总结一下一次参数更新函数def upd
转载
2024-09-24 14:22:56
66阅读
摘要本文对lgb的基本原理进行简要概括。基于直方图的节点分裂lgbm使用基于直方图的分裂点选择算法，分裂准则为最小化方差，也即最大化方差增益variance gain： 对比xgb的loss reduction： 可以发现，两者是一致的，不同点在于，xgb的loss reduction包含了正则化因子λ，而lgbm未作正则化，因为lgbm的损失函数为均方误差，因此其二阶梯度hi
转载
2024-01-23 22:24:10
96阅读
赛题：赛题以医疗数据挖掘为背景，要求选手使用提供的心跳信号传感器数据训练模型并完成不同心跳信号的分类的任务。数据实例： Lightgbm模型介绍：基本单位是决策树，通过多个决策树进行最终结果判断。lgb采用的是生长方法是leaf-wise learning，减少了计算量，当然这样的算下下也需要控制树的深度和每个叶节点的最小的数据量，从而减少over fit。分裂点，xgb采取的是预排序的方法，而l
# Python实现lgb训练及模型预测
## 1. 介绍
LightGBM（Light Gradient Boosting Machine）是一种基于梯度提升决策树（Gradient Boosting Decision Tree）算法的机器学习模型，它在处理大规模数据时表现优异，并且训练速度快。在本文中，我们将介绍如何使用Python实现使用lgb进行训练和模型预测。
## 2. 安装
首先
原创
2024-04-11 06:03:28
526阅读
先上官网链接：https://lightgbm.readthedocs.io/en/latest/接着带着问题去学习LGB：1.LGB算法原理是什么2.LGB应用场景是什么？或者说要求数据类型是什么3.参数，调参之类的？一、LGB原理LightGBM （Light Gradient Boosting Machine）是一个实现 GBDT 算法的框架，支持高效率的并行训练，并且具有以下优点：更快的训
转载
2023-07-31 21:54:43
314阅读
一：变量作用域 变量可以是局部域或者全局域。定义在函数内的变量有局部作用域，在一个模块中最高级别的变量有全局作用域。 全局变量的一个特征是除非被删除掉，否则它们的存活到脚本运行结束，且对于所有的函数，他们的值都是可以被访问的。然而局部变量，仅仅只依赖于定义它们的函数现阶段是否处于活
转载
2023-09-22 09:07:40
90阅读
GBDT算法梳理学习内容：1.前向分布算法2.负梯度拟合3.损失函数4.回归5.二分类，多分类6.正则化7.优缺点8.sklearn参数9.应用场景 1.前向分布算法在学习模型时，每一步只学习一个基函数及其系数，逐步逼近优化函数式，从而简化优化的复杂度。2.负梯度拟合 针对这个问题，大牛Freidman提出了用损失函数的负梯度来拟合本轮损失的近似值，进而拟合一个CART回归树。第t轮的
LightGBM（Light Gradient Boosting Machine）是一个实现GBDT算法的框架，支持高效率的并行训练，并且具有更快的训练速度、更低的内存消耗、更好的准确率、支持分布式可以快速处理海量数据等优点。背景常用的机器学习算法，例如神经网络等算法，都可以以mini-batch的方式训练，训练数据的大小不会受到内存限制。而GBDT在每一次迭代的时候，都需要遍历整个训练数据多次。
转载
2024-08-10 10:57:38
873阅读
# 教你如何实现lgb回归 python
## 流程概述
在实现“lgb回归 python”这个任务中，我们将使用LightGBM（lgb）这个机器学习库来进行回归分析。整个流程可以分为以下几个步骤：
| 步骤 | 操作 |
| --- | --- |
| 1 | 数据准备 |
| 2 | 特征工程 |
| 3 | 模型训练 |
| 4 | 模型评估 |
接下来我们将详细介绍每一步的具体操作
原创
2024-04-05 04:20:43
73阅读
# Python 使用 LightGBM(LGB) 的入门指南
在机器学习的领域，LightGBM（Light Gradient Boosting Machine）因其高效和精准的特性备受推崇。对刚入行的小白开发者来说，掌握如何在 Python 中使用 LGB 是一个重要的步骤。本文将通过一个结构化的流程来教会你如何使用 LightGBM，包括环境搭建、数据准备、模型训练和预测。
## 流程概
原创
2024-09-30 03:51:57
59阅读
# Python中LightGBM实现教程
## 一、整体流程
下面是实现“python中lgb”的整体流程：
```mermaid
pie
title 实现"python中lgb"流程饼状图
"了解LightGBM" : 30
"数据准备" : 20
"模型训练" : 30
"模型评估" : 20
```
```mermaid
gantt
title 实现
原创
2024-05-18 04:31:31
54阅读
1.项目背景Logit模型（Logit model，也译作“评定模型”，“分类评定模型”，又作Logistic regression，“逻辑回归”）是离散选择法模型之一，属于多重变量分析范畴，是社会学、生物统计学、临床、数量心理学、计量经济学、市场营销等统计实证分析的常用方法。本项目通过Logit算法来构建逻辑回归模型。 2.数据获取本次建模数据来源于网络(本项目撰写人整理而成)，数据
# Python LGB回归入门指南
在数据科学与机器学习领域，回归分析是一项重要的任务。它用于预测一个连续的数值型变量（目标）与一个或多个自变量之间的关系。LightGBM（Light Gradient Boosting Machine）是一种高效的梯度提升树算法，能够有效处理回归问题。在本文中，我们将讨论如何使用Python中的LightGBM来进行回归分析，提供完整的代码示例，并梳理出一个
文章目录1 背景2 原理3 数据的准备3.1 读入数据3.2 切分训练集测试集4 LR5 LGB6 LGB+LR6.1 LGB实现6.2 LGB的vector导出来！6.2.1 训练集6.2.2 测试集6.3 LR+LGB7 结果对比 1 背景相信大名鼎鼎的GBDT+LR组合很多小伙伴都听过，这种组合模型的预测效果要比单模型要好，但之前一直没有亲自实践过，最近刚好公司一个项目用到了，故抓紧时间总
转载
2024-07-03 13:04:30
232阅读
# LGB算法：Python中的高效机器学习工具
## 引言
随着数据科学和机器学习的迅速发展，许多算法应运而生，以帮助我们从海量数据中提取有价值的信息。LGB（LightGBM）算法便是其中之一。它以其高效性和快速性取得了广泛的应用，尤其在比赛和工业界。
#### 什么是LightGBM？
LightGBM是一个基于树的机器学习算法，它是Microsoft公司推出的一个开源项目。与传统的
原创
2024-09-07 06:24:27
77阅读
小结
xgb小结感觉这里还是应该好好弄弄，真正的理解才能更好的使用，学长说xgb的论坛要更火爆一些，一般提了bug会有很多的大佬回复，但是lgb，哈哈，没人回复。。比谁好用，那就比谁的论坛更加火爆，来啊，比 啊，xgb秒杀全场啊~树的复杂度可以用如树的深度，内部节点个数，叶节点个数等 来衡量。** XGBoost中正则项用来衡量树的复杂度：树的叶子节点个
转载
2024-03-29 22:37:29
36阅读
