决策树决策树的生成算法有ID3，C4.5和CART（Classification And Regression Tree）等由增熵（Entrophy）原理来决定哪个做父节点，哪个节点需要分裂比如上表中的4个属性：单一地通过以下语句分类：
1. 分数小于70为【不是好学生】：分错1个
2. 出勤率大于70为【好学生】：分错3个
3. 问题回答次数大于9为【好学生】：分错2个
4. 作业提交率
随机森林简介如果读者接触过决策树(Decision Tree)的话，那么会很容易理解什么是随机森林。随机森林就是通过集成学习的思想将多棵树集成的一种算法，它的基本单元是决策树，而它的本质属于机器学习的一大分支——集成学习(Ensemble Learning)方法。随机森林的名称中有两个关键词，一个是“随机”，一个就是“森林”。“森林”我们很好理解，一棵叫做树，那么成百上千棵就可以叫做森林了，这样的
1 更新日志2022.10.18更新1：新增 Random Sampling 参数，在样本像元数较多时，设置此参数为 Yes，可随机抽取部分样本用于训练从而缩短时间更新2：当样本像元数较多时，弹出如下提醒，选择“是”，可随机抽取部分样本用于训练从而缩短时间更新3：当某类别样本中像元个数为 0 时，将不参与模型训练更新4：支持非ENVI标准格式数据，会自动另存为临时ENVI格式数据，并在
转载
2024-05-05 17:21:40
338阅读
随机森林树： 1.定义： 随机森林只利用多颗决策树对样本进行训练并预测的一种分类器，可回归可分类；随机森林是基于多颗决策树的集成算法，常见决策树算法主要分为： ID3(利用信息增益进行特征选择)，C4.5 信
转载
2024-02-21 21:14:41
143阅读
这里记录一下使用landsat5做随机森林分类的代码，理一下思路。很多内容都是到处找教程东拼西凑的，十分感谢各位大佬。导入研究区、制作标签首先加载研究区边界，查看需要分类时间的原影像。在影像上添加标签（目视解译）。点击左边这个像小气球似的地方，修改名称，选择feature，添加properties。我是添加了两个一个是label，是分类名，另一个是lc，也就是landcover，用数字做区分。&n
转载
2024-06-05 05:24:25
474阅读
1.自定义坐标系（北京54、西安80、2000坐标系）1.1 内容介绍1.1.1 地理投影的基本原理常用到的地图坐标系有2种，即地理坐标系和投影坐标系。 地理坐标系是以经纬度为单位的地球坐标系统，地理坐标系中有2个重要部分，即地球椭球体（spheroid）和大地基准面（datum）。由于地球表面的不规则性，它不能用数学公式来表达，也就无法实施运算，所以必须找一个形状和大小都很接近地球的
由于经常有读者说运行出错，我又本地校准了下程序，由于版权限制，lena图MATLAB新版已经撤除了，这里改成了cameraman的图参考：从贝叶斯理论到图像马尔科夫随机场 刘伟强等；基于马尔科夫随机场的遥感图像分割和描述；东南大学学报；（29）：11-15，1999version:2017.1.20 基本理解框架Markov Random Filed一、理论基础马尔科夫随机场是一种基于统
ENVI5.6.3新增机器学习工具包，该功能不需要额外的许可，只需安装ENVI深度学习2.0版本应用程序，用ENVI主模块的许可便可使用新机器学习的功能。ENVI新机器学习工具包，可以对栅格数据进行快速分类，如异常检测、监督分类和非监督分类。也可以从一个或多个数据上选择样本，生成训练模型，并用该模型对其他图像进行分类。还可以使用ENVI Modeler构建对多个栅格数据进行分类的工作流。运行环境新
转载
2024-03-27 15:16:45
66阅读
在监督分类或者挖掘决策树规则时，需要选择训练样本，训练样本的好坏直接影响分类精度。因此ENVI提供了分析样本质量的工具：Compute ROI Separability，计算样本可分离性。问题来了为了提高分类精度，有时会在多光谱图像中增加其他波段，如NDVI、非监督分类结果、PCA变换结果等等。那么问题来了，使用ROI Tool中的Compute ROI Separability计算样本可分离性时
转载
2024-03-22 13:42:33
413阅读
集成（Ensemble）分类模型综合考量多个分类器的预测结果，从而做出决策，大体可以分为两种：一种是利用相同的训练数据同时搭建多个独立的分裂模型，然后通过投票的方式，以少数服从多数的原则作出最终分类的决策，典型的有随机森林分类器（Random Forest Classifier），即在相同的训练数据上同时搭建多棵决策树（Decision Tree），每棵决策树会放弃固定的排序算法，随机选取特征。另
转载
2024-08-21 16:26:51
46阅读
目前精度较高的方法主要是支持向量机分类和
原创
2022-08-08 16:24:01
2350阅读
点赞
异常探测是一种用于定位数据集中异常点的数据处理技术。异常值是指与数据集中的已知特征相比被认为不正常的值。例如，如果水是已知的特征，那么除水之外的任何东西都将被视为异常值。ENVI机器学习异常探测在训练过程中接受单一背景特征。该特征表示被认为是整个数据集正常的像素。任何在分类过程中被认为不正常的像素都被认为是异常的。在训练之前的标记过程中，需要为给定的数据集标记一个背景特征。标记数据对于生成一个好的
转载
2024-05-18 10:47:33
306阅读
定义：随机森林指的是利用多棵决策树对样本进行训练并预测的一种分类器。可回归可分类。 所以随机森林是基于多颗决策树的一种集成学习算法，常见的决策树算法主要有以下几种： 1. ID3：使用信息增益g(D,A)进行特征选择 2. C4.5：信息增益率 =g(D,A)/H(A) 3. CART：基尼系数 一个特征的信息增益(或信息增益率，或基尼系数)越大，表明特征对样本的熵的减少能力更强，这个特
转载
2023-08-24 08:48:20
145阅读
待美化
集成学习的思想：
将若干个学习器(分类器&回归器)组合之后产生一个新学习器。
弱分类器(weak learner)指那些分类准确率只稍微好于随机猜测的分类器(error rate < 0.5)；Bagging：又叫做自举汇聚法(Bootstrap Aggregating)
思想：
在原始数 据集上通过有放回的抽样的方式，重新选择出S个新数据集来分别训练S个分类器 的集成技术。
首先是集成学习的两大思想：boosting:将弱学习器提升为强学习器，高度的提升预测的精度，通过反复的学习得到一系列的弱学习器（决策树和逻辑回归），组合成一个强分类器，代表有（adboost,GBDT等）。特点：强依赖性，只能串行处理。其中有两个步骤：1.加法模型 2.前向分布加法模型：就是说强分类器是由多个弱分类器线性相加组成的： &nb
转载
2024-03-18 07:02:04
14阅读
一、简介 作为集成学习中非常著名的方法，随机森林被誉为“代表集成学习技术水平的方法”，由于其简单、容易实现、计算开销小，使得它在现实任务中得到广泛使用，因为其来源于决策树和bagging，决策树我在前面的一篇博客中已经详细介绍，下面就来简单介绍一下集成学习与Bagging； 二、集成学习 集成学习（ensemble learning）是指通过构建并结合多个学习器来完成学习任务，有时也
转载
2024-01-18 20:39:09
30阅读
A. max_features：随机森林允许单个决策树使用特征的最大数量。 Python为最大特征数提供了多个可选项。 下面是其中的几个：Auto/None ：简单地选取所有特征，每颗树都可以利用他们。这种情况下，每颗树都没有任何的限制。sqrt ：此选项是每颗子树可以利用总特征数的平方根个。 例如，如果变量（特征）的总数是100，所以每颗子树只能取其中的10个。“log2”是另一种相似类型的选项
转载
2023-10-23 14:18:06
90阅读
1. 原理 随机森林（RandomForest）, 指的是利用多棵树对样本进行训练并预测的一种分类器。该分类器最早由Leo Breiman和Adele Cutler提出，并被注册成了商标。简单来说，随机森林就是由多棵CART（Classification And Regression Tree）构成的。对于每棵树，它们使用的训练集是从总的训练集中有放回采样出来的，这意味着，总的训练集中
转载
2024-02-12 07:45:53
56阅读
工具说明基于随机森林算法实现影像监督分类。源码来源于ENMAP-BOX v2.1.1并对其进行封装，方便在ENVI下使用。工具引用基于此工具进行科学研究，请引用：van der Linden, S.; Rabe, A.; Held, M.; Jakimow, B.; Leitão, P.J.; Okujeni, A.; Schwieder, M.; Suess, S.; Hostert, P. T
转载
2024-05-08 10:00:10
248阅读
阿喽哈~小伙伴们，今天我们来唠一唠随机森林 ♣ ♣ ♣随机森林应该是很多小伙伴们在学机器学习算法时最先接触到的集成算法，我们先简单介绍一下集成学习的大家族吧： Bagging：个体评估器之间不存在强依赖关系，一系列个体学习器可以并行生成。代表算法：随机森林（Random Forest）Boosting：个体学习器之间存在强依赖关系，一系列个体学习器基本都需要串行生成。代表算法：
转载
2023-12-11 11:53:59
104阅读
