程序锅建议您先收藏一波，后头再细细品味。0. 本文框架为了更好的理解本片文章讲解的框架，今后我会在文章最开始的时候给你来一个思维导图（作者刚开始学习制作思维导图，会存在一定的缺陷，还希望大佬们多多理解~ ）。下面就是本文讲解的框架： 1. 决策树是什么？决策树是一种基本的分类和回归的方法，是基于树结构来进行决策。这种决策方式跟我们人类进行决策时有点类似，所以我们举一个相亲的例子，比如女方在相亲时
文章目录一、概述二、决策树的构建准备工作1.特征选择1.1 香农熵及计算函数1.2 信息增益2. 数据集最佳切分函数3. 按照给定列切分数据集三、递归构建决策树1. ID3算法2. 编写代码构建决策树四、决策树的存储五、使用决策树执行分类 一天，小迪与小西想养一只宠物。小西：小迪小迪，好想养一只宠物呀，但是不知道养那种宠物比较合适。小迪：好呀，养只宠物会给我们的生活带来很多乐趣呢。不过养什么
转载
2024-02-04 20:52:01
213阅读
这一篇接着上一篇博客，由于字典这种数据结构的不清晰性，失去了决策树算法本身的优点，所以我们需要将结果通过树形图来表示出来，采用的是Python中matplotlib库。
首先我们简单测试一下使用matplotlib库来画标注的效果。import matplotlib.pyplot as plt
decisionNode = dict(boxstyle = 'sawtooth',fc ="0.8"
一. 分类及决策树介绍 1.分类 分类其实是从特定的数据中挖掘模式，作出判断的过程。比如Gmail邮箱里有垃圾邮件分类器，一开始的时候可能什么都不过滤，在日常使用过程中，我人工对于每一封邮件点选“垃圾”或“不是垃圾”，过一段时间，Gmail就体现出一定的智能，能够自动过滤掉一些垃圾邮件了。 &nbs
Matplotlib优势：Matlab的语法、python语言、latex的画图质量（还可以使用内嵌的latex引擎绘制的数学公式） 本节课接着上一节课，来可视化决策树，用Matplotlib注解绘制树形图1 Matplotlib 注解Matplotlib提供了一个注解工具：annotations，可以在数据图形上添加文本工具。 Matplotlib实际上是一套面向对象的绘图库，它所绘制的图表
转载
2023-08-15 15:31:24
250阅读
决策树 算法优缺点： 优点：计算复杂度不高，输出结果易于理解，对中间值缺失不敏感，可以处理不相关的特征数据 缺点：可能会产生过度匹配的问题 适用数据类型：数值型和标称型 算法思想： 1.决策树构造的整体思想： 决策树说白了就好像是if-else结构一样，它的结果就是你要生成这个一个可以从根开始不断判断选择到叶子节点的树，但是呢这里的if-else必然不会是让我们认为去设置的，我们要做的是提供一种方
转载
2023-06-28 15:18:00
231阅读
决策树(Decision Tree)是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。决策树尤其在以数模型为核心的各种集成算法中表现突出。开放平台：Jupyter lab根据菜菜的sklearn课堂实效生成一棵决策树。三行代码解决问题。from sklearn import tree #导入需要的模块
clf =
转载
2023-07-25 14:16:12
178阅读
决策树决策树在周志华的西瓜书里面已经介绍的很详细了(西瓜书P73-P79)，那也是我看过讲的最清楚的决策树讲解了，我这里就不献丑了，这篇文章主要是分享决策树的代码。在西瓜书中介绍了三种决策树，分别为ID3,C4.5和CART三种决策树，三种树出了分裂的计算方法不一样之外，其余的都一样，大家可以多看看书，如果有什么不清楚的可以看看我的代码，决策树的代码算是很简单的了，我有朋友面试的时候就被要求写决策
转载
2023-08-09 14:44:43
274阅读
上篇文章介绍了决策树算法的理论篇，本节来介绍如何用决策树解决实际问题。决策树是常用的机器学习算法之一，决策树模型的决策过程非常类似人类做判断的过程，比较好理解。决策树可用于很多场景，比如金融风险评估，房屋价格评估，医疗辅助诊断等。要使用决策树算法，我们先来介绍一下 scikit-learn。1，scikit-learnscikit-learn 是基于Python 的一个机器学习库，简称为
转载
2023-10-01 14:25:34
165阅读
决策树回归核心思想：相似的输入必会产生相似的输出。例如预测某人薪资：年龄：1-青年，2-中年，3-老年 学历：1-本科，2-硕士，3-博士 经历：1-出道，2-一般，3-老手，4-骨灰 性别：1-男性，2-女性年龄学历经历性别==>薪资1111==>6000(低)2131==>10000(中)3341==>50000(高)…………==>…1322==>?样本数
目录1.1 决策树的概念 1.2 信息增益 1.3 划分数据集 1.3.1 使用信息增益率划分数据集 1.3.2 使用基尼指数划分数据集2.1 递归构建决策树3.1 在Python中使用Matplotlib注解绘制树形图 &nb
转载
2023-08-28 15:44:19
134阅读
决策树（Decision Tree)是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。决策树尤其在以数模型为核心的各种集成算法中表现突出。开放平台：Jupyter lab根据菜菜的sklearn课堂实效生成一棵决策树。三行代码解决问题。from sklearn import tree
转载
2023-06-09 11:02:14
178阅读
今天是机器学习专题的第21篇文章，我们一起来看一个新的模型——决策树。决策树的定义决策树是我本人非常喜欢的机器学习模型，非常直观容易理解，并且和数据结构的结合很紧密。我们学习的门槛也很低，相比于那些动辄一堆公式的模型来说，实在是简单得多。其实我们生活当中经常在用决策树，只是我们自己没有发现。决策树的本质就是一堆if-else的组合，举个经典的例子，比如我们去小摊子上买西瓜。水果摊的小贩都是怎么做的
转载
2024-03-30 21:08:23
59阅读
上一篇讲了ID3决策树原理，现在开始拿一个例子进行实战一、python机器学习库scikit-learn。sklearn是一个Python第三方提供的非常强力的机器学习库，它包含了从数据预处理到训练模型的各个方面。在实战使用scikit-learn中可以极大的节省我们编写代码的时间以及减少我们的代码量，使我们有更多的精力去分析数据分布，调整模型和修改超参。sklearn基本包含了所有机器学习的方式
转载
2024-07-24 08:47:37
27阅读
Python实现一
在这里我们先调用sklearn算法包中的接口，看一下算法的效果。
实验数据（可能你并不陌生~~~）：
1.5 50 thin
1.5 60 fat
1.6 40 thin
1.6 60 fat
1.7 60 thin
1.7 80 fat
1.8 60 thin
1.8 90 fat
1.9 70 thin
1.9 80 fa
转载
2024-03-19 00:08:59
26阅读
1. 决策树决策树就像程序的if-else结构，是用于分割数据的一种分类方法。from sklearn.tree import DecisionTreeClassifier对于复杂的预测问题，通过建立树模型产生分支节点，被划分成两个二叉树或多个多叉树较为简单的子集，从结构上划分为不同的子问题。将依规则分割数据集的过程不断递归下去。随着树的深度不断增加，分支节点的子集越来越小，所需要提的问题数也逐渐
转载
2023-08-10 12:20:53
102阅读
总目录：Python数据分析整理 本文数据以及大部分代码来自《机器学习实战》 机器学习实战 决策树绘制treePlotter测试与使用 treePlotter东西太多了，懒得看咋实现的了，直接把书上的代码搬过来，修改了几个可能版本问题引起的bug，加了句保存图片的代码，直接拿来用了。treePlotter.py'''
Created on Oct 14, 2010
@author: Pete
转载
2023-06-29 22:26:04
386阅读
决策树是种可视化的模型，可做分类也可做回归。概念内容详看前章，本文讲如何python 实现。回顾一下比如我知道一组人的信息：年龄、是否有工作、是否有房贷…这叫特征值，现在再来一些人，这时我想能否贷款给他。我该怎么做呢，就可以用决策树模型实现。左边是数据，右边是树。当然这棵树没有把全部的特征向量放进去只是示意了一下。 &nb
转载
2023-06-29 15:13:26
347阅读
python3.x版本下，在用example_dict.keys()或者example_dict.values()取出字典中对应的键值时，取出的值总是会带有前缀。python2.x版本的不存在这个问题，可以直接使用书中的代码以下是python3.x版本代码：def plotTree(myTree, parentPt, nodeTxt):#if the first key tells you wha
转载
2023-07-31 17:48:32
110阅读
本文用通俗易懂的方式来讲解分类树中的回归树，并以“一维回归的图像绘制”和“泰坦尼克号幸存者预测”两个例子来说明该算法原理。以下是本文大纲： 1 DecisionTreeRegressor 1.1
重要参数，属性及接口 criterion 1.2 交叉验证 2
实例：一维回归的图像绘制 3
实例：泰坦尼克号幸存
转载
2024-06-05 22:16:58
54阅读
