文章目录前言一、线性回归的概念二、线性回归中常用的符号三、线性回归的算法流程四、线性回归的最小二乘法(LSM)五、 总结 前言一、线性回归的概念线性回归（Linear Regression）：是一种通过属性的线性组合来进行预测的线性模型，其目的是找到一条直线或者一个平面或者更高维的超平面，使得预测值与真实值之间的误差最小化。如下图所示，在一堆看似毫无规则的数据中去找到一条直线来拟合（表示）这些数
转载
2024-02-14 15:01:41
253阅读
8. 1 用线性回归找到最佳拟合直线线性回归 优点：结果易于理解，计算上不复杂。 缺点：对非线性的数据拟合不好。 适用数据类型：数值型和标称型数据。回归的目的是预测数值型的目标值。最直接的办法是依据输人写出一个目标值的计算公式。 假如你想要预测姐姐男友汽车的功率大小，可能会这么计算： HorsePower = 0.0015* annualSalary - 0.99* hoursListe
转载
2024-05-11 06:39:28
14阅读
引言用线性回归拟合实例分析局部加权线性回归实例分析实例：预测鲍鱼的年龄代码参考文献 引言前面所学习的基本都是分类问题，分类问题的目标变量是标称型数据，或者离散型数据。而回归的目标变量为连续型，也即是回归对连续型变量做出预测，最直接的办法是依据输入写出一个目标值的计算公式，这样，对于给定的输入，利用该公式可以计算出相应的预测输出。这个公式称为回归方程，而求回归方程显然就是求该方程的回归系数，而一旦
转载
2024-01-04 05:50:45
148阅读
线性回归做分类不太理想 新增最右边额外的红色点，会改变原来的线性回归的拟合直线从洋红改变到蓝色直线，运用原来的数据标准，分类出现了错误，使得新的拟合直线更糟糕 而且分类问题通常只有0和1，但是线性回归会得出小于0或者大于1的值 就很奇怪，但是下面的逻辑回归值一定在【0,1】之间所以用到了sigmoid function(Logistic fu
转载
2024-04-22 19:32:32
90阅读
用线性回归找到最佳拟合直线求解回归系数的过程就是回归，，回归系数乘以输入值再讲结果加起来就得到预测值。假定回归系数存放在矩阵X中，而回归系数存放在向量w中，则预测值Y1=x1Tw给出，平方误差为(yi-xiTw)从1到m之和，用矩阵表示为（y-xw）T（y-xw）,对w求导得XT(Y-Xw),欲求最值只须导数为零，所以w=(XTX)-1XTy,需要保证逆矩阵存在。def loadDataSet(f
转载
2023-11-13 20:33:56
156阅读
在 《【Get】用深度学习识别手写数字》 中，我们通过一个手写数字识别的例子，体验了如何使用 深度学习 + tensorflow 解决一个具体的问题。实际上，这是一个分类问题，即将输入的图片数据分成 0-9 共 10 个类别，而且我们的数据都是直接使用 MNIST 上下载的处理好的数据。 在现实生产中，我们的数据源通常来自于数据库，是没有经过预处理的，那么我们该做些什么来让这些数据库里的数据能够用
转载
2024-08-20 18:02:46
57阅读
# 引入所需要的全部包
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.preprocessing import StandardScaler
import numpy as np
import matplotlib
先说为什么要来区别对比方差和偏差。在特定的模型下，模型误差的期望值可以分解为三个部分：样本噪音、模型预测值的方差、预测值相对真实值的偏差：误差的期望值 = 噪音的方差 + 模型预测值的方差 + 预测值相对真实值的偏差的平方 具体意义可参看偏差(Bias)和方差(Variance)——机器学习中的模型选择一、基本概念上的对比解释1、偏差Bias：描述的是预测值（估计值）的期望与真实值之间的差距。偏差
转载
2024-05-29 00:46:42
71阅读
机器学习-评价指标：召回率、准确率、ROC曲线、AUC、PR曲线1. 混淆矩阵：TP, FP, TN, FN2 准确率(Precision)3 召回率(Recall)4 ROC曲线5 AUU：ROC曲线下的面积6 PR曲线 1. 混淆矩阵：TP, FP, TN, FNTrue Positives,TP：预测为正样本，实际也为正样本的特征数 False Positives,FP：预测为正样本，实际
转载
2024-09-25 19:18:36
248阅读
挣值分析三指标计划价值(PV)是计划工作分配的经批准的预算，为完成某活动或工作分解结构(WBS)组成部分而准备的一份经批准的预算，不包括管理储备。翻译：当前观测点 计划工作量 的预算价值（要干的活）挣值(EV)对已完成的工作量的测量值，用该工作的批准预算来表示，是已完成工作的经批准预算。翻译：当前观测点 实际工作量 的预算价值 （干了多少有效的活）实际成本(AC)在给定的时间段内，执行某活动而实际
转载
2024-07-22 15:38:31
44阅读
最近训练一个BP神经网络做回归，发现拟合效果很烂，甚至我用单样本训练竟然还是欠拟合。然后我昨天晚上发现，这个预测结果，随着我epoch次数的增加，最后所有预测结果会趋同。 这边一共放了三张大图，每张大图里面有两张小图，上面的小图记录了train accuracy（红）和test accuracy（蓝），评价标准是R square；下面的小图是我追踪的预测结果。三次训练分别是10、3、2个样本。 可
转载
2023-09-27 17:39:04
277阅读
使用分类算法或者预测算法进行模型建立，往往是通过训练集来调整模型的参数，在准确率比较大的时候，认为模型是合理的，然而如果只是使用测试的数据，而没有一组实际没有参与过的预测模型的数据集，很难对预测的模型效果进行比较。因此需要通过实际的测试集来评价模型的效果，这里有很多的评价指标，仅作为梳理衡量。1.绝对误差和相对误差 绝对误差与相对误差是最实际直观的展现方式 绝对误差：即实际值与预测值的差的结果 相
转载
2024-03-19 19:38:05
1055阅读
线性回归线性回归是机器学习最基础的，也是最经典的算法，下面就来介绍这个算法。假如我们要去银行贷款，那么银行会贷给我们多少钱，我们可以通过特征来计算出来。数据：工资和年龄（2个特征）目标：预测银行会贷款给我多少钱 （标签）考虑：工资和年龄都会影响银行贷款的结果，那么它们各自有多大的影响呢？（参数）工资年龄额度4000252000080003070000500028350007500335000012
目录0、推荐1、背景2、效果图3、本次实验整体流程4、这里用词向量，而不是TF-IDF预处理后的向量5、源代码6、知识点普及6.1逻辑回归优点6.2逻辑回归缺点 1、背景最近的项目中，用到了很多机器学习的算法，每个机器学习的算法在不同的样本下的精准率是不同的。为了验证每个算法在每种不同样本数量的能力，就做了一下实验，本文讲的是“逻辑回归”在文本算法中的精准率。相关其它机器学习算法的精准率： 决策
为什么需要处理缺失值呢？训练数据集中缺少的数据可以减少模型的拟合，或者可能导致模型偏差，因为没有正确地分析变量的行为和关系，可能导致错误的预测或分类。Data_Exploration_2_11.png注意上图中缺失值：在左侧的情况下，没有处理缺失值， 男性打板球的机会高于女性。 另一方面，如果看看第二个表，其中显示了处理缺失值后的数据（基于性别），我们可以看到女性与男性相比有较高的打板球的机会。为
我们知道最简单的线性回归 y=f（x）=wx+b,表示随着x的变化，y会随着变化，而且是确定的，即一对一的映射，x到y的映射现在有一组<性别，是否有胡须>，我们实际上不好确定的说，男生就一定长胡须，女生就一定不长胡须，最好的办法是，知道了性别是男生后，我们可以认为，长胡须的概率比较大。反正如果知道了女生，那么长胡须的概率比较小。这样子的模型才适合真实情况。我们希望一个概率模型，这个模型
转载
2024-09-25 10:48:25
214阅读
最近，观看了危夷晨大佬关于《不确定性学习在视觉识别中的应用》的报告，认为不确定性学习在用武之地，所以特意对相关论文进行了总结。 什么是不确定性估计以人脸识别为例，输入一张人脸图像，得到一个特征向量embedding，将此特征向量与底库中的特征向量计算相似度，从而根据此相似度来判断两张人脸图像是否属于同一个ID。假设相似度很高（95%），则认为这两张人脸图像属于同一个人。这种将
1.1 线性模型(Linear Models)翻译整理自xiaoyao,以下是一组用于回归的方法，其中目标值为特征的线性组合。如果是预测值，则用数学符号表示如下： 在整个模块中，指定向量作为coef_和作为intercept_ 。LinearRegression 用系数拟合线性模型 尽量减少数据集中观察到的目标与线性近似预测的目标之间的残差平方和。从数学上讲，它解决了以下形式的问题： 图示如下：L
转载
2024-04-28 12:57:26
315阅读
2.1 线性回归简介1 线性回归应用场景房价预测销售额度预测贷款额度预测举例：2 什么是线性回归2.1 定义与公式线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归那么怎么理解呢？我们来看几个例子期末成绩：0.7×考试成绩+0.3
转载
2024-08-01 07:56:33
228阅读
1 逻辑回归和线性回归的区别线性回归算法是使用线性方程对数据集进行拟合的算法，通常情况下使用线性回归算法可以对某些事物进行预测。例如：房价预测，身高预测，体重预测等等。多元线性回归实现预测的demo。 逻辑回归算法虽然名字里面也带有“回归”二字，但实际上逻辑回归算法是用来解决分类问题的算法。 2. 逻辑回归的优缺点优点： 1）速度快，适合二分类问题 2）简单易于理解，直接看到各个特征的权重
转载
2024-04-19 20:33:08
66阅读
