1. 引言 决策树（decision tree）是一种基本的分类和回归方法，由于其采用的是一种树形的结构，因此，具有很强的解释性和计算速度，也正是因为这些特点，使得决策树在很多行业都得到了应用，比如风控行业等。决策树的建模过程一般分为三个步骤：特征选择、决策树的生成和决策树的剪枝，根据这三个步骤所采用的规则，衍生出了很多不同的模型，比较经典的有Quinlan在1986年提出的ID3算法和19
转载
2023-06-20 20:51:34
315阅读
人笨, 绘制树形图那里的代码看了几次也没看懂(很多莫名其妙的(全局?)变量), 然后就自己想办法写了个import matplotlib.pyplot as plt
from matplotlib.font_manager import FontProperties
def getTreeDB(mytree):
"""
利用递归获取字典最大深度, 子叶数目
:param m
转载
2023-09-01 07:57:32
87阅读
决策树决策树是一种常用的机器学习方法，它基于树的结构，依次根据不同属性值来进行数据分类，具体算法原理及细节可以参考之前写的决策树和MATLAB函数使用决策树的优点：采用递归进行数据训练、数据分类，因此计算复杂度不高，可以清晰理解哪些属性重要。决策树的缺点：不太适用于连续值的划分（划分节点过多可能造成过拟合），即类别太多时，泛化误差高，一般需要剪枝处理。决策树分类构建一颗决策树主其实是一个递归的过程
转载
2023-08-30 07:25:00
56阅读
决策树基础决策树理论简单介绍分支依据信息熵信息增益增益率基尼系数剪枝思想简介预剪枝后剪枝python实现分类问题的应用数据预处理最优超参数搜寻模型建立模型评价——ROC模型可视化随机森林建立简介实现模型评估及结果分析 决策树理论简单介绍决策树是数据挖掘十大算法之一，其流程大致可总结为：是否满足某类条件？是则属于1类；否则属于2类。类似于IF…ELSE的问题。正如西瓜书中所说：“我们要判断这个瓜是
转载
2024-09-11 08:00:48
33阅读
1、剪枝由于悲观错误剪枝 PEP (Pessimistic Error Pruning)、代价-复杂度剪枝 CCP (Cost-Complexity Pruning)、基于错误剪枝 EBP (Error-Based Pruning)、最小错误剪枝 MEP (Minimum Error Pruning)都是用于分类模型，故我们用降低错误剪枝 REP
转载
2024-08-17 09:11:56
94阅读
# Python决策树入门
决策树是一种经典的机器学习模型，广泛用于分类和回归问题。它的基本原理是通过对特征的分裂，将数据集划分成不同的子集，从而形成一棵树状结构。本文将介绍如何使用Python构建决策树，并通过代码示例来展示其基本使用方法。
## 决策树的基本概念
决策树由节点（node）、边（edge）和叶子（leaf）组成。每个节点代表一个特征的分裂，每条边代表一个特征值，叶子节点则表
# 使用Python绘制决策树图的完整指南
作为一名刚入行的小白，学习如何使用Python绘制决策树图是一个很好的开始。决策树是一种常见的机器学习算法，帮助我们进行分类和回归。下面，我将为你提供实现过程的完整指导。
## 流程概述
首先，让我们查看实现决策树图的具体步骤。我们将使用一个表格来展示这些步骤。
| 步骤 | 描述 | 代码示例
原创
2024-08-18 04:12:13
66阅读
上一节我们学习knn，kNN的最大缺点就是无法给出数据的内在含义，而使用决策树处理分类问题，优势就在于数据形式非常容易理解。决策树的算法有很多，有CART、ID3和C4.5等，其中ID3和C4.5都是基于信息熵的，也是我们今天的学习内容，主要是根据通过信息熵划分数据集，再进入递归构造决策树的过程。1. 信息熵熵最初被用在热力学方面的，由热力学第二定律，熵是用来对一个系统可以达到的状态数的一个度量，
前言本篇内容为第六章内容，决策树模型。 为便于阅读，我将文章内容分为以下几个板块：基础知识实验内容拓展研究心得体会其中，各板块的介绍如下：基础知识
包含关于本章主题的个人学习理解，总结的知识点以及值得记录的代码及运行结果。实验内容
这是本篇的主题实验部分，也是老师发的实验内容，在电脑上（jupyter notebook）运行成功之后导出为markdown格式。其中，主标题为每一章的小节
转载
2024-05-05 07:09:07
97阅读
决策树一、了解决策树 决策树(Decision Tree)是一类常见的机器学习算法，属于非参数的监督学习方法，主要用于分类和回归，也可以用于特征提取。 决策树就是一棵树（很像流程图），其内包含一个根节点，若干内部节点和若干叶子结点。树的最高层是就是根节点，包含样本全集。内部节点代表对应的一个特征的测试，每个节点包含的样本根据测试的结果被划分到子节点中，即树的分支代表该特征的每一个测试结果。每一
转载
2024-04-10 05:12:13
341阅读
数据：14天打球情况
特征：4种环境变化，outlook观察，temperature温度，humidity湿度，windy刮风
目标：构造决策树
根据四种特征决策play
划分方式：4种
问题：谁当根节点呢？
依据：信息增益
在历史数据中（14天）有9天打球，5天不打球，所以此时的熵应为：
关于log的底，选取什么都可以，但是要统一
4个特征逐一分析，先从outlook特征开始
转载
2024-04-08 00:00:31
46阅读
算法原理决策树是一个类似于流程图的树结构，分支节点表示对一个特征进行测试，根据测试结果进行分类，叶节点代表类别 决策树的构造过程实际上就是针对于原有数据集，选取一定的属性测试条件，对原数据集进行不断切分的过程 一旦构造完决策树，那么对于检验记录进行分类就很容易了，因为决策树本身生成的就是一系列规则，因此决策树是生成模型的算法原则上讲，数据集中的所有特征都可以用来分枝，特征上的任意节点又可以自由组合
转载
2024-06-09 19:13:59
38阅读
今天是机器学习专题的第21篇文章，我们一起来看一个新的模型——决策树。决策树的定义决策树是我本人非常喜欢的机器学习模型，非常直观容易理解，并且和数据结构的结合很紧密。我们学习的门槛也很低，相比于那些动辄一堆公式的模型来说，实在是简单得多。其实我们生活当中经常在用决策树，只是我们自己没有发现。决策树的本质就是一堆if-else的组合，举个经典的例子，比如我们去小摊子上买西瓜。水果摊的小贩都是怎么做的
转载
2024-06-26 22:59:54
40阅读
Matplotlib优势：Matlab的语法、python语言、latex的画图质量（还可以使用内嵌的latex引擎绘制的数学公式） 本节课接着上一节课，来可视化决策树，用Matplotlib注解绘制树形图1 Matplotlib 注解Matplotlib提供了一个注解工具：annotations，可以在数据图形上添加文本工具。 Matplotlib实际上是一套面向对象的绘图库，它所绘制的图表
转载
2023-08-15 15:31:24
247阅读
决策树 算法优缺点： 优点：计算复杂度不高，输出结果易于理解，对中间值缺失不敏感，可以处理不相关的特征数据 缺点：可能会产生过度匹配的问题 适用数据类型：数值型和标称型 算法思想： 1.决策树构造的整体思想： 决策树说白了就好像是if-else结构一样，它的结果就是你要生成这个一个可以从根开始不断判断选择到叶子节点的树，但是呢这里的if-else必然不会是让我们认为去设置的，我们要做的是提供一种方
转载
2023-06-28 15:18:00
231阅读
决策树决策树在周志华的西瓜书里面已经介绍的很详细了(西瓜书P73-P79)，那也是我看过讲的最清楚的决策树讲解了，我这里就不献丑了，这篇文章主要是分享决策树的代码。在西瓜书中介绍了三种决策树，分别为ID3,C4.5和CART三种决策树，三种树出了分裂的计算方法不一样之外，其余的都一样，大家可以多看看书，如果有什么不清楚的可以看看我的代码，决策树的代码算是很简单的了，我有朋友面试的时候就被要求写决策
转载
2023-08-09 14:44:43
267阅读
决策树(Decision Tree)是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。决策树尤其在以数模型为核心的各种集成算法中表现突出。开放平台：Jupyter lab根据菜菜的sklearn课堂实效生成一棵决策树。三行代码解决问题。from sklearn import tree #导入需要的模块
clf =
转载
2023-07-25 14:16:12
178阅读
决策树的实现太...繁琐了。 如果只是接受他的原理的话还好说，但是要想用代码去实现比较糟心，目前运用了《机器学习实战》的代码手打了一遍，决定在这里一点点摸索一下该工程。 实例的代码在使用上运用了香农熵，并且都是来处理离散数据的，因此有一些局限性，但是对其进行深层次的解析有利于对于代码的运作，python语言的特点及书写肯定是有帮助的。 我们分别从每个函数开始：计算香农熵def calcShanno
转载
2024-09-12 12:32:23
29阅读
众所周知，scikit-learn作为Python中进行机器学习最常用最重要的一个库，它的CART可视化真的很糟糕（隔壁的R比它不知道高到哪里去了）。举个栗子，使用scikit-learn加上graphviz对泰坦尼克号存活数据进行可视化，你只能得到类似以下这个玩意，这对非数据科学领域的人非常极其的不友好。 玩意 但是如果你用了如下的代码，那么你将得到这样一个一目
转载
2023-11-29 17:20:32
186阅读
python3.x版本下，在用example_dict.keys()或者example_dict.values()取出字典中对应的键值时，取出的值总是会带有前缀。python2.x版本的不存在这个问题，可以直接使用书中的代码以下是python3.x版本代码：def plotTree(myTree, parentPt, nodeTxt):#if the first key tells you wha
转载
2023-07-31 17:48:32
110阅读
