目录酱一、使用LibSVM制作鸢尾花数据集二、利用上述数据集实现模型训练并写出决策函数的数学公式三、总结 一、使用LibSVM制作鸢尾花数据集下载LibSVM
将下载的压缩文件解压如下：点击windows文件夹，在文件夹中找到名为svm-toy.exe的运行程序并运行。在程序运行框内点击鼠标左键就能打点，点击Change后能够换颜色，最后点击Save将数据保存为train.txt。在原有基础上再
转载
2024-02-29 11:16:55
21阅读
参数解析参数DecisionTreeClassifierDecisionTreeRegressor特征选择标准criterion可以使用"gini"或者"entropy"，前者代表基尼系数，后者代表信息增益。一般说使用默认的基尼系数"gini"就可以了，即CART算法。除非你更喜欢类似ID3, C4.5的最优特征选择方法。可以使用"mse"或者"mae"，前者是均方差，后者是和均值之差的绝对值之和
转载
2023-08-30 17:45:07
54阅读
1、相关库：sklearn中分类树与回归树用到的类不同，对于分类树：sklearn.tree.DecisionTreeClassifier；对于回归树：sklearn.tree.DecisionTreeRegressor。两者的参数区别如下表：参数DecisionTreeClassifierDecisionTreeRegressor特征选择标准criterion可以使用"gini"或者"entro
转载
2023-07-03 11:04:57
241阅读
在现代数据分析和机器学习的领域，决策树作为一种广泛使用的算法，展现出了强大的数据分析能力。特别是在Java环境下，决策树的实现提供了一个相对简洁而有效的方式来处理分类问题。本文将通过对“Java决策树库”的全面探讨，记录我在这个主题上的学习和理解过程。
### 背景描述
随着人工智能和数据科学的不断发展，决策树的应用日渐广泛。大约在{2020年}，Java社区中的开源项目开始逐渐增加，这为开发
import java.util.HashMap;
import java.util.HashSet;
import java.util.LinkedHashSet;
import java.util.Iterator;
//调试过程中发现4个错误 ，感谢宇宙无敌的调试工具——print
//1、selectAtrribute中的一个数组下标出错 2、两个字符串相等的判断
//3、输入的数据有一个
转载
2023-12-27 18:24:25
75阅读
简介 决策树是广泛用于分类和回归任务的监督模型。 在本文中，我们将讨论决策树分类器以及如何动态可视化它们。 这些分类器在训练数据上构建一系列简单的if / else规则，通过它们预测目标值。 在本演示中，我们将使用sklearn_wine数据集,使用sklearn export_graphviz函数，我们可以在Jupyter中显示树。from sklearn.tree
转载
2024-04-25 09:37:10
128阅读
本系统实现了决策树生成，只要输入合适的数据集，系统就可以生成一棵决策树。 数据集的输入使用二维数组，输入的个数为：序号+特征+分类结果。同时要把特征名以及对应的特征值传给程序，如此一来系统就可以建决策树。 关于决策树的定义这里不再列出，CSDN上有很多类似的博客。这些博客实现的
转载
2023-08-06 07:40:06
210阅读
1、决策树概念官方严谨解释：决策树经典的机器学习算法，是基于树的结构来进行决策的。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。我的理解：就是不断的做“决策”，做出的许多决策形成多个分支，最后变成一个树的形状。如图所示是一个判断用户是否喜欢某电影的决策过程。2、熵信息熵：指系统混乱的程
转载
2024-01-13 13:00:27
46阅读
一、什么是决策树要了解决策树，先了解“决策”。决策（decision）是指决定的策略或办法，是为人们为各自事件出主意、做决定的过程。我们每天都在决策，如：今晚吃什么、明天穿什么。 了解了“决策”以后，再了解一下“树”。树（tree）是数据结构中的一种，是由个有限节点组成一个具有层次关系的集合。之所以称其为树，是因为它看起来像一棵倒挂的树。 了解好以上两个概念以后，理解决策树就非常容易了。决策树（d
转载
2024-01-05 20:13:11
83阅读
上篇文章介绍了决策树算法的理论篇，本节来介绍如何用决策树解决实际问题。决策树是常用的机器学习算法之一，决策树模型的决策过程非常类似人类做判断的过程，比较好理解。决策树可用于很多场景，比如金融风险评估，房屋价格评估，医疗辅助诊断等。要使用决策树算法，我们先来介绍一下 scikit-learn。1，scikit-learnscikit-learn 是基于Python 的一个机器学习库，简称为
转载
2023-10-01 14:25:34
165阅读
1：决策树原理理解
决策树（decision tree）是一个树结构（可以是二叉树或非二叉树）。
转载
2023-05-29 23:25:34
204阅读
决策树（Decision Tree） 决策树Decision Tree决策树例子判别算法结束条件结果总结 决策树例子决策树是用于分类的一种机器学习算法。其最大的特点就是简单，直观. 由于资料来自于之前的笔记。原例子的出处找不到，干脆就手绘算了~~XD。 其中如果数据不是离散值，要先处理成离散值再进行决策树的计算。 （图1）用一个例子来讲吧。 如上图，现在是有14条数据都从调研中得到，其中是研究
转载
2024-05-16 06:48:33
57阅读
文章目录系列文章目录决策树简介一、参数二、常用函数三、模型调参注意事项总结 决策树简介 决策树概念：决策树(Decision Trees)是一种非参监督学习方法，即没有固定的参数，对数据进行分类或回归学习。决策树的目标是从已知数据中学习得到一套规则，能够通过简单的规则判断，对未知数据进行预测。这里我们只讨论决策树分类的功能。 决策树组成：根节点、非叶子节点（也叫决策点、子节点、内部节点）、分
转载
2023-08-04 19:03:30
137阅读
决策树调参记录一下决策树调参，在所有模型进行调参前，都应该熟悉算法的思路流程，这样才能进行更好的调参。 决策树分为回归树和分类树，回归树与分类树在Python的sklearn中分别对应着两个不同的函数，其中回归树为：DecisionTreeRegressor 分类树为：DecisionTreeClassifier。 虽然说函数名字不同，但是这两个函数的参数其实大差不大。参数名含义criterion
转载
2023-08-03 13:18:16
59阅读
决策树的分类过程和人的决策过程比较相似，就是先挑“权重”最大的那个考虑，然后再往下细分。比如你去看医生，症状是流鼻涕，咳嗽等，那么医生就会根据你的流鼻涕这个权重最大的症状先认为你是感冒，接着再根据你咳嗽等症状细分你是否为病毒性感冒等等。决策树的过程其实也是基于极大似然估计。那么我们用一个什么标准来衡量某个特征是权重最大的呢，这里有信息增益和基尼系数两个。ID3算法采用的是信息增益这个量。根据《统计
转载
2023-07-13 16:41:34
32阅读
本篇继续进阶一点，写一下 梯度提升决策树(Gradient Boosting Decision Tree)还是先上代码，梯度提升决策树是能够支持多种损失函数的，关于 损失函数的定义，老规矩，自己搜。既然要支持多种损失函数，因此先写个接口类，然后再来个实现，后面会用到损失函数接口类public interface LossFunction {
publ
转载
2024-02-22 11:09:54
61阅读
一、主类成员认识 我们概念讲解是在这里，下面便是成员变量。我们一点一点看，最后拉通走一遍。整个程序我是顺序运行的，给一个标题方便大家去找对应的方法public class ID3 {
/**
* 数据集
*/
Instances dataset;
/**
* 这个数据集是纯的（只有一个标签）？
*/
boolean pure;
/**
* 决策类的数量. 二元分
转载
2023-11-22 17:18:07
47阅读
先上问题吧，我们统计了14天的气象数据(指标包括outlook，temperature，humidity，windy)，并已知这些天气是否打球(play)。如果给出新一天的气象指标数据:sunny,cool,high,TRUE，判断一下会不会去打球。table 1outlooktemperaturehumiditywindyplaysunnyhothighFALSEnosunnyhothighTR
转载
2023-12-13 07:37:38
84阅读
先上问题吧，我们统计了14天的气象数据(指标包括outlook，temperature，humidity，windy)，并已知这些天气是否打球(play)。如果给出新一天的气象指标数据:sunny,cool,high,TRUE，判断一下会不会去打球。table 1
outlook
temperature
humidity
windy
play
sunny
hot
high
FALSE
no
sun
转载
2024-08-28 22:04:33
69阅读
一、简介决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输出。 数据挖掘中决策树是一种经常要用到的技术，可以用于分析数据，同样也可以用来作预测（就像上面的银行官员用他来预测贷款风险）
