from sklearn.tree import DecisionTreeClassifier
def optimal_binning_boundary(x: pd.Series, y: pd.Series,leaf=3, nan: float = -999.,min_per=0.1) -> list:
'''
利用决策树获得最优分箱的边界值列表
le
文章目录前言一、重要参数1.1 criterion建立一棵树的步骤1.2 random_state & splitter1.2.1 建立树的第五步（建立模型）添加参数1.3 剪枝参数1.3.1 查看对训练集的拟合效果如何1.3.2 max_depth1.3.3 min_samples_leaf & min_samples_split1.3.4 建立树的第五步（建立模型）添加上述参
决策树在分类、预测、规则提取等领域有着广泛的应用。决策树是一种树状结果，它的每一个叶节点对应一个分类。构造决策树的核心问题是：在每一步如何选择适当的属性对样本做拆分。对于分类问题，从已知类标记的训练样本中学习并构造出决策树是一个自上而下，分而治之的过程。常见的决策树算法如下：ID3算法C4.5算法CART算法其中ID3是最经典的决策树分类算法。ID3算法ID3算法基于信息熵来选择最佳测试属性。它选
1、什么是多分类？针对多类问题的分类中，具体讲有两种，即multiclass classification和multilabel classification。multiclass是指分类任务中包含不止一个类别时，每条数据仅仅对应其中一个类别，不会对应多个类别。multilabel是指分类任务中不止一个分类时，每条数据可能对应不止一个类别标签，例如一条新闻，可以被划分到多个板块。
无论是multi
转载
2023-05-26 13:22:55
272阅读
1 引言在这一篇文章中，将讨论一种被广泛使用的分类算法—决策树（decision tree）。相比贝叶斯算法，决策树的优势在于构造过程不需要任何领域知识或参数设置，因此在实际应用中，对于探测式的知识发现，决策树更加适用。2 决策树介绍决策树是一种机器学习的方法，决策树的生成算法有ID3, C4.5 和 C5.0 等。决策树是一种树形结构，其中每个内部节点表示一个属性上的判断，每个分支代表一个判断结
转载
2023-10-12 07:47:43
214阅读
决策树分类一、决策树分类简介： 决策树方法是利用信息论中的信息增益寻找数据库中具有最大信息量的属性字段，建立决策树的一个结点，再根据该属性字段的不同取值建立树的分支，再在每个分支子集中重复建立树的下层结点和分支的一个过程，构造决策树的具体过程为：首先寻找初始分裂，整个训练集作为产生决策树的集合,训练集每个
转载
2024-04-28 15:27:11
92阅读
在分类问题中，表示基于特征对实例进行分类的过程，可以认为是if-then的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。决策树是一种预测模型，对未标识的实例进行分类；也是一种描述性模型，标识哪些诶特在可以将实例从不同类里区分不来。决策树分类器是基于信息熵的学习。决策树学习的本质：从训练集中归纳出一组分类规则，或者说是由训练数据集估计条件概率模型。决策树原理和问答判断相似，根据一系列数据
转载
2024-07-09 19:13:13
63阅读
用Python实现逻辑回归问题怎样快速实现用Python实现逻辑回归，怎样优化逻辑回归概述这里我采用了百度的AIstudio平台，因为AIstudio预装了python3.7版本，还有其他Python必要的库，比如说Numpy库，matplotlib库，这些库在机器学习中都比较常用。 我代码主要逻辑先是读取文件中的数据，第二步是数据处理，第三步就是逻辑回归运算，第四步就是画图 我多使用了矩阵操作，
转载
2024-04-12 23:08:57
61阅读
支持向量机（Support Vector Machine）名字听起来很炫，功能也很炫，但公式理解起来常有眩晕感。所以本文尝试不用一个公式来说明SVM的原理，以保证不吓跑一个读者。理解SVM有四个关键名词：分离超平面、最大边缘超平面、软边缘、核函数。
分离超平面（separating hyperplane）：处理分类问题的时候需要一个决策边界，好象楚河汉界一样，在界这边我们判别A，在界那边我们判别
1.决策边界：根据logistic回归方程的假设函数h(x)=g(），g(z)=1/(1+e^(-z))，g(z){0,1},可知当g(z)>=0.5时z>=0，相反z<0，分类时只要满足z=>=0就可以实现分类，（=theta_i*x_i,也就是向量theta是决策边界z的法向量，即，后面svm后用到）当参数确定时，即可绘制出一条线，关于线性可分，非线性可分，请移步这里（
转载
2024-03-21 11:01:43
184阅读
1）KNN算法基础知识：KNN全称K Nearest Neighbor, k是指最近邻居的个数。 俗话说物以类聚，人以群分，我们通常判别一个人是好是坏的方式就是看他周围是一群好人还是坏人。 这个算法也是如此，假如A的周围有一堆好人，我们就认为他是个好人。即使他周围有两个坏人（干扰项），我们也不会把它当成坏人。 而人与人的关系也有远近之分，计算远近，我们就需要用距离来衡量，有时候远亲不如
转载
2023-10-04 16:32:40
501阅读
# 决策树多分类问题AUC计算Python实现指南
## 概述
在机器学习中，决策树是一种常用的分类算法，可以处理多分类问题。在这篇文章中，我将指导你如何使用Python实现决策树多分类问题的AUC（Area Under Curve）计算。AUC是评估分类模型性能的重要指标之一，它代表了模型的预测准确率。
## 流程
下面是实现决策树多分类问题AUC计算的流程图：
```mermaid
fl
原创
2024-02-25 07:28:50
373阅读
机器学习之决策树原理及代码实现写在前面决策树1.决策树的定义2.决策树我的理解特征选择信息增益信息增益比算法实现ID3算法C4.5算法CART决策树三种算法的对比 写在前面这是我开始入坑的第一篇博客，全部内容基于我的理解和参考博客，参考书籍为李航的《统计学习方法》。如有不对的地方欢迎评论指出，谢谢大家。决策树1.决策树的定义《统计学习方法》中提出，决策树是一种基本的分类与回归方法。决策树模型呈现
转载
2024-04-09 14:16:58
189阅读
原标题：Python写算法：二元决策树数据挖掘入门与实战 公众号： datadw二元决策树就是基于属性做一系列的二元(是/否)决策。每次决策对应于从两种可能性中选择一个。每次决策后，要么引出另外一个决策，要么生成最终的结果。一个实际训练决策树的例子有助于加强对这个概念的理解。了解了训练后的决策树是什么样的，就学会了决策树的训练过程。代码清单6-1为使用Scikitlearn的DecisionTre
转载
2024-05-29 21:44:36
30阅读
在博弈论中常常使用决策树寻找最优决策，这些决策树往往是人工生成的。在数据挖掘过程中，决策树的生成通常是通过对数据的拟合、学习，从数据集中获取到一棵决策树。决策树的形式，从根节点到叶子节点的路径就是决策的过程。其本质思路就是使用超平面对数据递归化划分。决策树的生成过程，就是对数据集进行反复切割的过程，直到能够把决策类别区分开来为止，切割的过程就形成了一棵决策树。而实例隶属于决策树每个终端节点的个数，
转载
2023-10-16 20:20:06
215阅读
## LDA决策边界在Python中的实现
线性判别分析（LDA）是一种用于分类的技术，它通过寻找最佳的线性决策边界来区分不同类别的数据。本文将教你如何在Python中实现LDA并绘制决策边界。我们将通过以下步骤完成这个任务：
| 步骤 | 描述 |
|--------|--------------------------
## 决策边界图在机器学习中的应用
在机器学习中，决策边界是指将不同类别的数据点分开的边界。在分类问题中，理解模型的决策边界对于评估和改进模型性能是至关重要的。本文将介绍如何使用Python生成决策边界图，并提供一个简单的代码示例，帮助大家更好地理解最基本的机器学习分类器的工作原理。
### 决策边界的概念
决策边界是一个超平面，它可以将特征空间中的数据分为不同的类。一个有效的模型应该能够很
根据《统计学习方法》第四章朴素贝叶斯算法流程写成，引入贝叶斯估计（平滑处理)。本例旨在疏通算法流程，理解算法思想，故简化复杂度，只考虑离散型数据集。如果要处理连续型数据，可以考虑将利用“桶”把连续型数据转换成离散型，或者假设连续型数据服从某分布，计算其概率密度来代替贝叶斯估计。《机器学习实战》的朴素贝叶斯算法，是针对文本处理（垃圾邮件过滤）的算法，是二元分类（y=0或y=1），且特征的取值也是二元
转载
2024-07-08 10:17:21
68阅读
目录✨主程序✨画图程序 ✨代码修改细节✨结果展示✨参考 主程序import os
from sklearn.linear_model import LogisticRegression
import numpy as np
import pandas as pd
import warnings
from createPlot import createPlot
import m
转载
2024-06-12 18:07:35
40阅读
一、面对一个多分类问题，如何设计合理的损失函数呢？
转载
2024-03-14 14:37:30
167阅读
