前言：整理西瓜书第一、二章中的基本概念待办：第二章评估方法、性能度量及后续内容未整理下图梳理机器学习中部分概念模型评估与选择相关知识点：错误率（error rate, E）：如果在m个样本中有a个样本分类错误，则错误率E=a/m精度（accuracy）=1-E=1-a/m误差（error）：学习器的实际预测输出与样本的真实输出之间的差异。误差在不同数据集上含义不同，在训练集上的误差称为训练误差（t
目录1. 针对样本数据的随机采样——Bootstrap1.1 Pasting 不放回取样1.2 Bagging 放回取样，更常用1.3 随机森林使用Bagging1.4 随机森林/Bagging 和决策树的关系2. 针对特征进行随机采样Random Subspaces3. 既针对样本，又针对特征进行随机采样4. Extra-Tree 5. 随机森林解决回归问题6. 使用随机森
转载
2024-04-18 13:05:10
192阅读
随机森林算法（RandomForest，简称RF）一、解决的问题二、解决方法的框架/流程1.基本思想：RF在以决策树为基学习器构建Bagging集成的基础上，进一步在决策树的训练过程中引入了随机属性选择。（即先从节点的属性集合M中随机选择一个包含k个属性的子集，然后再从这个子集中选择一个最优属性用于划分，一般k远小于M，取k= ）。2、基本的流程：a. 从训练数据中选取n个数据作为训练数
转载
2024-07-23 11:55:07
126阅读
# Python 柱状图带数据误差的实现
## 概述
在本文中，我将向你介绍如何使用Python实现柱状图带数据误差。这个功能对于展示数据的分布和误差范围非常有用。我们将使用matplotlib库来实现这个功能。
## 整体流程
为了实现柱状图带数据误差，我们需要进行以下步骤：
1. 导入所需的库
2. 准备示例数据
3. 创建柱状图
4. 添加误差线
5. 设置图表属性
6. 显示图表
原创
2023-12-09 06:29:44
270阅读
数值计算方法-误差 误差的来源与分类1.模型误差 数学模型，即表示计算的公式或方程，本身就是近似的，就不就不精确，这种情况导致的误差，就叫模型误差。2.观测误差 对物理世界中的参数进行观测时产生的误差，比如测定温度，长度，电压，无论用多么精密的工具，肯定都会存在误差。3.截断误差（方法误差） 当数学模型不能得到精确解时，常要用数值方法求出它的近似解，近似解与精准解之间的误差，即为截断误差。可微函数
转载
2024-04-03 07:12:40
38阅读
在不使用交叉验证的情况下使用袋外误差评估随机森林模型# 使用袋外误差评估随机森林模型 使用袋外样本from sklearn.ensemble import RandomForestClassifierfrom sklearn import datasetsiris = datasets.load_iris()features = iris.datatarget = iris.ta...
原创
2022-07-18 14:54:04
315阅读
1、数值计算方法：是研究解数学问题（数学模型）近似解的方法、过程及其理论的一个数学分支，由于所研究的数学问题往往来源于科学研究与工程计算问题，故数值计算方法也称为也称为科学计算方法。数值计算与模拟已成为与理论研究、科学实验同样重要和有效的第三种手段。2、误差：实际问题的精确解与数值计算所得到的近似解之间的差别。在科学计算中误差不可避免，用数学方法解决实际问题时，通常按照以下过程进行，实际问题（抽象
李二的笔记陶本藻 教授误差与测量平差本课程在其他学科又叫：空间数据误差处理与分析 或者 空间数据误差理论与处理现代测绘学： 研究地球和其他实体的与地理空间分布有关的信息的材积、量测、分析、显示、管理和利用的科学与技术数据的采集(或量测、或观测)数据的处理，观测数据存在误差电子或网络产品表示的GIS产品等观测数据的特点与核心处理技术空间信息特点：多维、多源、多尺度、多分辨率、多时态数据分类： 点数据
转载
2024-01-30 16:59:49
221阅读
总结随机森林 (以决策树为基学习器)：随机的体现
数据集的随机选择：从原始数据集中采取有放回的抽样bagging，构造子数据集。不同子数据集的元素可以重复，同一个子数据集中的元素也可以重复待选特征的随机选取：随机森林中的子树的每一个分裂过程并未用到所有的待选特征，而是从所有的待选特征中随机选取一定的特征，之后在随机选取的特征中选取最优的特征随机森林的重要作用
分类问题和回归问题都能用可以解决模型过
这几章我们聊聊集成学习，__集成学习算法__是目前为止我们在__相同特征__条件下做特征工程时，建立模型评分和效果最好的算法。比之前讲过的线性回归、Logist回归、KNN、决策树的评分效果都好。集成学习的讲解分三个部分：__Bagging-自举汇聚__、__Boosting-提升算法__、__Stacking-模型融合__。注意：Stacking模型是一个很有趣的算法，在比赛中用到有时候效果会出
在机器学习问题中，经常会遇到数据分布不平衡的问题。例如在垃圾邮件分类问题中，只有少数的样本属于垃圾邮件，大多数样本都是非垃圾邮件，这样训练出来的分类模型对垃圾邮件检测率往往较低。这里介绍一些解决思路，以供大家参考！我们约定：多数类样本使用Large表示，少数类样本使用Small表示，r=S/L。Weighted loss function：加权损失函数，在sklearn中，通过调节class_we
转载
2024-07-08 19:09:37
55阅读
@(文章目录) 前言 本人为机器机器学习初学，正在一点一点阅读周志华老师的西瓜书，顺便写点笔记与自己的理解。 本次笔记主要是在阅读到绪论部分时对训练集外误差公式的理解，如有不正之处，欢迎指出。 提示：以下是本篇文章正文内容，下面理解可供参考 一、基本术语 1.数据集（dataset） 一组记录的集合 ...
转载
2021-05-26 00:42:00
500阅读
2评论
1 获取更多数据这是解决过拟合最有效的方法，只要给足够多的数据，让模型“看见”尽可能多的“例外情况”，它就会不断修正自己，从而得到更好的结果。如何获取更多的数据：（1）从数据源头获取更多数据（2）根据当前数据集估计数据分布参数，使用该分布产生更多数据（这个一般不用，因为估计分布参数的过程也会代入抽样误差）（3）数据增强（data augmentation）：通过一定规则扩充数据。如在物
转载
2023-10-03 15:47:40
159阅读
在当今社会，渗透测试有着非常重要的作用，它能够通过识别安全问题来帮助了解当前的安全状况。那么到底什么是渗透测试?为什么要做渗透测试?渗透测试有什么好处?带着你的疑问，往下看。 什么是渗透测试? 渗透测试是通过模拟恶意黑客的攻击方法，来评估计算机网络系统安全的一种评估方法。这个过程包括对系统的任何弱点、技术缺陷或漏洞的主动分析，这个分析是从一个攻击者可能存在的位置来进行的，并且从这个位置有条件主
转载
2023-12-20 19:44:55
17阅读
简 介： 在Paddle下使用最基本的BP网络以及LeNet网络结构，测试了Cifar10数据集合。但实际运行在测试集合上的效果始终没有突破0.3，具体原因还需要进行查找。后来经过测试，发现问题出现在数据加载上，后面的实验中实际上只是使用了1000个训练数据进行的训练。使得模型的预测精度始终上不去。关键词： Cifar10，LeNet
§01 作业要求根据 2021年人工神经网
模型陷阱：1.要求准确度——易受过度拟合干扰 为了提高预测的准确度，常从已知的特征中提取出更多的特征，并以此搭建复杂的模型。如下 原有公式为：Y ~ (X) 转换成 ：Y ~ (X，X2, X3,...,Xn) yi = b + a1xi + a2xi2 + a3xi3 + ... + anxin
转载
2024-04-29 15:34:52
42阅读
# Python 词袋模型的基础知识与实现
在自然语言处理（NLP）中，文本通常以数字形式表示以便进行分析。词袋（Bag of Words，BoW）模型是一种基本而有效的文本表示方法。本文将介绍词袋模型的基本概念，Python 实现示例，并提供类图以帮助理解模型的结构。
## 词袋模型概述
词袋模型把文本看成一个“词”的集合，不考虑语法和词与词之间的顺序。这意味着每个文本样本由其包含的单词构
前言对于物种分布模型(SDM)，用的最多的无疑是最大熵模型（MaxEnt），它是基于最大化信息熵的原则，通过考虑已知的约束条件和最少的先验假设来推测物种在不同环境中的分布概率分布，本质上是一种先验概率假设方法。后来学者发现类似随机森林(RF)这种黑箱模型在物种分布预测过程中具有较好的效果。下面为python代码的实现过程。基本思想使用随机森林进行物种分布预测实际上以一个二分类问题，将物种分布点作为
转载
2024-06-17 19:30:40
91阅读
数控车床在外圆加工过程中会遇到各种各样的加工误差问题，
原创
2022-10-08 14:55:41
323阅读
Bow3源码与原理
前人摘树，后人乘凉。源码在github有CMakeLists，代码下下来可以直接编译。泡泡机器人有个很详细的分析，结合浅谈回环检测中的词袋模型，配合高翔的回环检测应用，基本上就可以串起来了。tf-idf的概念，表达方式不唯一，这里的定义是这样：tf表示词频，这个单词在图像中出现的次数/图像单词总量idf表示单词在整个训练语料库中的常见
转载
2023-12-18 11:41:57
183阅读
