KNN(K-Nearest-Neighbour) Classifiers, 即K-近邻算法，是一种懒惰机器学习算法(lazy learning)。简而言之，它在拿到训练集数据时并不急着去建模，而是在拿到测试集数据后，再到训练集数据中去寻找该测试样本最近的“邻居”，即距离最近的K个训练样本，依照训练样本数据的所属类别，加权或不加权地得出测试数据的类别。那么应该选择多少个邻居呢，即K取值是多还是少好呢
转载
2023-10-15 09:04:55
150阅读
ROC曲线也叫受试者工作曲线，原来用在军事雷达中，后面广泛应用于医学统计中。ROC曲线是根据一系列不同的二分类方式(分界值或决定阈)，以真阳性率(灵敏度)为纵坐标，假阳性率(1-特异度)为横坐标绘制的曲线。 ROC曲线主要应用于二分类结局，比如是否死亡，疾病诊断，肿瘤复发等等，可以用于自变量为连续变量的截点判定。 可以做ROC曲线的软件很多，如SPSS,R语言，Stata, SAS等等，既往我们已
转载
2023-09-12 17:22:21
246阅读
在第四十九讲中，我们为大家介绍了分类预测模型及诊断性试验性能指标的理论知识及相关计算方法。但是，细心的朋友可能会发现，我们在之前的实例中，在选择抑郁评分切点定义自杀高位人群时，我们选择了6，但是6真的是最好的切点吗？如何选择最好的切点呢？我们就需要用到ROC曲线来帮助大家找到最好的诊断切点，用以定义诊断试验／预测模型的最佳状态。1. ROC曲线ROC曲线（receiver operatin
K近邻算法，即K-Nearest Neighbor algorithm，简称KNN算法，单从名字来猜想，可以简单粗暴的认为是：K个最近的邻居，当K=1时，算法便成了最近邻算法，即寻找最近的那个邻居。为何要找邻居？打个比方来说，假设你来到一个陌生的村庄，现在你要找到与你有着相似特征的人群融入他们，所谓入伙。 用官方的话来说，所谓K近邻算法，即是给定一个训练数据集，对新的输入
转载
2023-10-16 22:55:49
136阅读
在讨论ROC曲线之前，首先让我们在逻辑回归的背景下考虑校准和区分之间的区别。 良好的校准是不够的对于模型协变量的给定值，我们可以获得预测的概率。如果观察到的风险与预测的风险（概率）相匹配，则称该模型已被很好地校准。也就是说，如果我们要分配一组值的大量观察结果，这些观察结果的比例应该接近20％。如果观察到的比例是80％，我们可能会同意该模型表现不佳 - 这低估了这些观察的风险。 我们是否应满足于使用
机器学习中，最「简单」的一种任务就是二分类任务了。比如，说话人验证（speaker verification）就是一个二分类任务：判断一句话是否是给定说话人说的。再比如，信息检索（information retrieval）本质上也是一个二分类任务：给定关键词，判断每篇文章是否与关键词相关，并把相关结果排序返回。 许多二分类器的原理，都是给每个样例打一个分，然后设置一个阈值，分数高于阈值的样
## ROC曲线在R语言中的实现
### 一、流程概述
为了实现ROC曲线的绘制，我们需要按照以下步骤进行操作：
| 步骤 | 操作 |
| --- | --- |
| 步骤一 | 导入必要的库和数据 |
| 步骤二 | 计算模型的预测概率 |
| 步骤三 | 设置不同的阈值 |
| 步骤四 | 计算对应的真阳性率（TPR）和假阳性率（FPR） |
| 步骤五 | 绘制ROC曲线 |
| 步
原创
2023-08-31 04:21:12
258阅读
之前的推文中介绍了ROC曲线的本质以及两面性： ROC阳性结果还是阴性结果？并详细介绍了如何手动计算真阳性率/假阳性率，以及怎样计算多个，并把点连接成线，变成ROC曲线：ROC曲线纯手工绘制这些现在都有成熟的R包可以帮我们搞定，不需要我们手动计算。不过这些包在计算AUC时，默认是计算阳性结果的AUC，这在实际情况中有时会遇到问题，大家在使用时最好手动指定，到底是计算谁的AUC，关于ROC
绘制ROC曲线及P-R曲线描述ROC曲线（Receiver Operating Characteristic Curve）以假正率（FPR）为X轴、真正率（TPR）为y轴。曲线越靠左上方说明模型性能越好，反之越差。ROC曲线下方的面积叫做AUC(曲线下面积)，其值越大模型性能越好。P-R曲线（精确率-召回率曲线）以召回率(Recall)为X轴，精确率(Precision)为y轴，直观反映二者的关系
转载
2023-08-21 12:57:15
515阅读
前言：以前使用Matlab绘制ROC曲线常常是工具箱有就画，没有就不画，而且在想画的时候工具箱恰恰就没有，很纳闷。然后无意间发现了一篇用R语言绘制ROC曲线的文章，赶紧学了并分享出来，以备不时之需。先通过一个例子来讲解一下参数的作用，使用的数据是大名鼎鼎的Iris数据集，R语言自带。1.数据处理第一步当然得处理一下数据。默认的Iris数据集有三类鸢尾花，我目前的理解是只有二分类才画的出ROC曲线，
转载
2023-08-30 23:44:47
607阅读
ROC 曲线与 PR 曲线ROC 曲线和 PR 曲线是评估机器学习算法性能的两条重要曲线，两者概念比较容易混淆，但是两者的使用场景是不同的。本文主要讲述两种曲线的含义以及应用的场景。定义ROC 曲线和 PR 曲线都是用在二分类中，且涉及到下图的几个概念上面四个指标用大白话解释如下Recall：查全率，正样本中被预测出来是正的比例(越大越好)Precision：查准率，预测的正样本中被正确预测的比例
转载
2023-07-28 21:26:49
646阅读
一：关于P-R曲线： 1:1：何为P-R曲线： P为precision即精准率（查准率），R为recall即召回率，所以P-R曲线是反映了准确率与召回率之间的关系。一般横坐标为recall，纵坐标为precision。P-R曲线 1.2：P-R曲线作用： PR
转载
2023-11-08 20:51:06
384阅读
# 多条ROC曲线 R语言
在机器学习领域，ROC曲线（Receiver Operating Characteristic curve）是一种常用的评价分类模型性能的方法。ROC曲线通过绘制真阳性率（True Positive Rate）和假阳性率（False Positive Rate）之间的关系来评估模型的性能。在R语言中，我们可以使用一些库来绘制多条ROC曲线并进行比较，以选择最优的模型。
概念 1、监督学习：从给定标注的训练数据中学习出一个函数，根据这个函数为新数据进行标注。 2、无监督学习：从给定无标注的训练数据中学习出一个函数，根据这个函数为所有数据标注。 KNN分类算法：通过对已知类别训练数据集的分析，从中发现分类规则，以此预测新数据的类别，分类算法属于监督学习的类型。KNN概念： 1、训练集：用来训练模型或确定模型参数的数据。 2、测试集：用来验证模型准确
原创
2023-05-18 10:29:25
432阅读
逻辑回归之ROC曲线的绘制关于ROC曲线的绘制过程，通过以下举例进行说明假设有6次展示记录，有两次被点击了，得到一个展示序列（1:1,2:0,3:1,4:0,5:0,6:0），前面的表示序号，后面的表示点击（1）或没有点击（0）。然后在这6次展示的时候都通过model算出了点击的概率序列。下面看三种情况。1 曲线绘制1.1 如果概率的序列是（1:0.9,2:0.7,3:0.8,4:0.6,5:0.
转载
2023-10-20 10:37:16
213阅读
# R语言KNN分类绘制ROC
**摘要：** 本文将介绍如何使用R语言进行KNN分类，并绘制ROC曲线。首先，我们将介绍KNN分类算法的原理和流程，然后给出R语言实现KNN分类的代码示例。接下来，我们将详细解释ROC曲线的概念和绘制方法，并给出R语言绘制ROC曲线的代码示例。最后，我们将通过一些实际数据集的例子来展示KNN分类和绘制ROC曲线的应用。
## 1. KNN分类算法
KNN（K
ROC曲线也叫受试者工作曲线，原来用在军事雷达中，后面广泛应用于医学统计中。ROC曲线是根据一系列不同的二分类方式(分界值或决定阈)，以真阳性率(灵敏度)为纵坐标，假阳性率(1-特异度)为横坐标绘制的曲线。 ROC曲线主要应用于二分类结局，比如是否死亡，疾病诊断，肿瘤复发等等，可以用于自变量为连续变量的截点判定。 可以做ROC曲线的软件很多，如SPSS,R语言，Stata, SAS等等，其中SPS
转载
2023-07-07 15:32:32
30阅读
ROC是一个曲线，AUC是曲线下面的面积值。 ROC曲线是FPR和TPR的点连成的线。可以从上面的图看到，横轴是FPR, 纵轴是TPR （TPR = TP / (TP + FN)；FPR = FP / (FP + TN)）ROC曲线如果想要理解的话，要关注四点一线：1） (0,1)点：FPR==0，TPR==1 -->代表最好的一种情况，即所有的正例都被正确预测了，并且，
转载
2023-07-04 13:55:33
328阅读
学了一下ROC图形的原理，在此实现一下，算是理论落地的训练，只不过目前看的是二分类问题。FPR、TPR简介 ROC曲线的横坐标为FPR，叫做假正例率，也就是实际为假的观测中被判断为真的所占的比例。 ROC曲线的纵坐标为TPR，叫做真正例率，也就是实际为真的观测中被判断为真的所占的比例。 举例如下：表1实际分类判定分类PPPNNPPNNN此例中，实际为假的观测(N:negative)共
转载
2023-09-15 21:15:51
619阅读
