逻辑回归调优方向
线性不可分的问题 线性不可分问题解决思路通过：将低维度问题转化成高维度问题，低维空间的非线性问题，到了高维空间往往会成为线性问题。
调整分类阈值调优 某些场景下，逻辑回归默认分类阈值是０.５，但是在某些场景下该默认阈值并不适用，例如得癌症，调整阈值为０.３比较靠谱。
鲁棒性调优 鲁棒是Robust的音译，也就是健壮和强壮的意思,比如说，计算机软件在输入错误、磁盘故障、网络
转载
2024-05-06 15:31:44
40阅读
在R软件中对有序对有序分类因变量做Logistics或者Probit回归，可以采用MASS包里的polr函数进行建模，此函数中使用的是位置结构模型。该函数的使用格式如下：plor(formula, data, weights, method=c("logistic", "probit", "loglog", "cloglog", "cauchit"))本例使用MASS包中的housing数据集，该
转载
2023-09-05 17:34:12
185阅读
# 如何实现“robust R语言”
## 引言
随着数据科学和统计分析的广泛应用，R语言凭借其强大的数据处理能力和丰富的统计工具在众多领域中占据了一席之地。然而，面对复杂的数据集和不可避免的错误，增加R语言的鲁棒性是至关重要的。本文将详细介绍如何增强R语言的鲁棒性，包括所需的步骤、对应的示例代码和相应的注释说明。
## 流程概述
我们将通过以下步骤逐步实现R语言的鲁棒性：
| 步骤 |
# 学习如何在Python中实现OLS回归robust
在数据分析和统计建模中，普通最小二乘法（Ordinary Least Squares，OLS）回归是一种非常常用的方法。然而，OLS对异常值非常敏感，这时我们可以使用稳健回归（robust regression）来减少异常值对结果的影响。本文将指导你如何使用Python实现OLS回归的稳健版本。
## 实现步骤概述
在Python中实现
一元线性回归分析步骤：A.建立回归模型； B.求解回归模型中的参数； C.对回归模型进行检验。 R中，与线性模型有关的函数有：lm()、summary()、anova()和predict()。我们由例子入手，逐步学习这些函数。 例1： 财政收入与税收有密切的依存关系。d4.3给出我们1978年改革开放以来到2008年共31年的税收（x，百亿元）和财政收入（y，百亿元）数据，试分析税收与财政收入之间
转载
2024-02-25 18:27:14
70阅读
抽空实现了一下CSAPP中实现的所谓RIO包，作为基础函数为复杂的程序做准备。总共包含六个函数，除去静态的rio_read外，其他五个如下： 1 ssize_t rio_readn(int fd, void *buf, size_t n);
2 ssize_t rio_writen(int fd, void *buf, size_t n);
3 void rio_readinitb(r
转载
2024-09-02 14:22:39
33阅读
泊松回归（Poisson regression）是以结局变量为计数结果时的一种回归分析。泊松回归在我们的生活中应用非常广泛，例如：1分钟内过马路人数，1天内火车站的旅客流动数，1天内的银行取钱人数，一周内的销售经营数据等等都可以使用泊松回归进行分析。 今天我们来说说怎么使用R语言进行泊松回归分析，需要使用到robust包和qcc包，先要下载好。我们使用的是robust包知道的stack.dat数据
转载
2023-06-25 15:34:51
137阅读
作者 | 结实
1）业务需求：某牙膏制造企业为了更好的拓展产品市场，有效管理库存，董事会要求销售部门根据市场调查，找出公司生产牙膏销售量与销售价格以及广告投入等之间的关系，从而预测出在不同价格和广告费用下的销售量。2）分析：由于牙膏是生活必需品，对于大多数顾客来说，在购买时，更多地考虑不同品牌之间的价格差。所以，在研究各个因素对销量的影响时，用价格差代替公司销售价格和其他品牌平均价格更为
转载
2024-05-13 14:15:46
82阅读
岭回归 Lasso回归一、标准线性回归（简单线性回归）标准线性回归（简单线性回归）中： 如果想用这个式子得到回归系数，就要保证 是一个可逆矩阵。 下面的情景：如果特征的数据比样本点还要多，数据特征n,样本个数m，如果n>m,则计算 会出错。因为 不是满秩矩阵（行数小于列数），所有不可逆。 为了解决这个问题，统计学家引入了岭回归的概念。想了解更多标准线性回归可以转跳到这里：二、岭回归1.基本含
转载
2024-05-06 10:15:43
100阅读
内容：回归零假说显著性检验中央极限定理抽样分布一般线性模型方差分析调节中介路径模型回归 (regression) 回归：用一个或多个预测变量(predictor)来预测结果变量(outcome variable)值的 统计 分析简单回归：使用一个预测变量多元回归：使用多个预测变量0 +B 1 X 1Y是X 1m是回归
在线性回归中，y丨x；θ~N（μ，σ^2)。在逻辑回归中，y丨x；θ~Bernoulli（Φ）。这两个都是GLM中的特殊的cases。我们首先引入一个指数族（the exponential family）的概念。如果一个分布能写成下列形式，那么我们说这个分布属于指数族。
η是分布的自然参数（natural parameter ），比如伯努利分布中的Φ；T(y)是充分统计量（su
转载
2024-03-19 22:08:38
16阅读
线性回归假设函数（Hypotheses function）首先应该设计一个假设函数，这个假设函数是用来表示一个线性回归的问题，不是一个单独的函数，而是一个函数集合，包含很多个有可能可以很好的表示这个线性回归问题的函数，也就是通常所说的model。一般来讲线性回归的假设函数我们表示成这个样子：其中 是第i个特征， 是第i个特征的权重， 是bias偏移量。为了
【火炉炼AI】机器学习031-KNN回归器模型的构建(本文所使用的Python库和版本号: Python 3.6, Numpy 1.14, scikit-learn 0.19, matplotlib 2.2 )在上一篇文章中我们学习了构建KNN分类器模型，但是KNN不仅可以用于分类问题，还可以用于回归问题，本章我们来学习KNN回归模型的构建和训练。1. 准备数据集此处我们使用随机函数构建了序列型数
转载
2024-04-11 21:17:46
43阅读
一、预测先来看看这样一个场景：假如你手头有一套房子要出售，你咨询了房产中介。中介跟你要了一系列的数据，例如房子面积、位置、楼层、年限等，然后进行一系列计算后，给出了建议的定价。房产中介是如何帮你定价的？“中介”通过他多年的“从业”经验，知道哪些因素会影响房子的价格，且知道各自的“影响”有多大，于是在接过“你的房子”时，他就能通过自已的经验计算出“价格”了。当然，这个价格，不同的中介，得到的也不同。
转载
2024-04-08 11:55:37
48阅读
调用robustfit函数作稳健回归regress函数和regstats函数利用普通最小二乘法估计模型中的参数，参数的估计值受异常值的影响比较大。robustfit函数采用加权最小二乘法估计模型中的参数，受异常值的影响就比较小。robustfit函数用来作稳健的多重线性或广义线性回归分析，下面介绍robustfit函数的用法。1.4.1．robustfit函数的用法robustfit函数有以下几种
转载
2024-03-29 07:25:01
124阅读
Multivariate workload prediction using Vector Autoregressive and Stacked LSTM models1 摘要：向量自回归+堆叠LSTM
VAR用于过滤多元时间序列之间的线性相互依赖堆叠LSTM捕获非线性趋势（从VAR模型计算得到的残差）对比模型：AR-MPL，RNN-GRU、ARIMA-LSTM文章提出多变量负载预测模
转载
2024-04-29 11:18:47
57阅读
1.普通线性回归分类的目标变量是标称型数据，而回归将会对连续型的数据做出预测。应当怎样从一大堆数据里求出回归方程呢？假定输人数据存放在矩阵X中，而回归系数存放在向量W中。那么对于给定的数据X1, 预测结果将会通过Y=X*W给出。现在的问题是，手里有一些X和对应的Y,怎样才能找到W呢？一个常用的方法就是找出使误差最小的W。这里的误差是指预测Y值和真实Y值之间的差值，使用该误差的简单累加将使得正差值和
转载
2024-04-11 08:29:51
54阅读
scikit-learn--逻辑回归介绍逻辑回归简介逻辑回归实现的优化算法liblinear其它逻辑回归参数和方法详解参数属性方法 逻辑回归简介logistic 回归，虽然名字里有 “回归” 二字，但实际上是解决分类问题的一类线性模型。 在某些文献中，logistic 回归又被称作 logit 回归，maximum-entropy classification（MaxEnt，最大熵分类），或 l
转载
2024-05-07 20:12:24
62阅读
文章目录1. 岭回归2. LASSO3. 主成分回归 - PCR4. 偏最小二乘回归 - PLS 压缩方法 & 降维方法 1. 岭回归法①：lm.ridge函数## lm.ridge函数进行岭回归
# 对样本数据进行标准化处理
data <- data.frame(scale(data0[,2:]))
# 对标准化处理后的数据（不含截距项）进行岭回归
library(MASS)
转载
2023-08-16 09:01:13
115阅读
参考数据挖掘与R语言 一、rpart包中，有建立回归树模型的指令：rpartrt<-rpart(formula, data)有关formula的一些注记~分隔，使响应变量在左边，解释变量在右边，例如y=x+y+w可表示为y~x+y+w+分别表示解释变量：表示交互式变量，例如y=x*z可表示为y~x：z*几个变量间的所有交互式表达式y=x+w+z+x * w+x * z+z * w+x * w
转载
2023-08-13 21:09:44
133阅读
