# Python 线性回归（不调用库）
线性回归是一种基本的统计学方法，用于建立自变量与因变量之间的线性关系模型。在这篇文章中，我们将从零开始用 Python 实现一个简单的线性回归。
## 什么是线性回归
线性回归试图通过一条直线来描述数据之间的关系，该直线可以用公式表示为：
$$ y = wx + b $$
其中：
- \( y \) 是因变量。
- \( x \) 是自变量。
-
原创
2024-10-23 05:52:01
49阅读
目标值与所有的特征之间存在线性关系。线性回归于逻辑回归类似，不同的是，逻辑回归在线性回归的基础上加了逻辑函数，从而将线性回归的值从实数域映射到了0-1，通过设定阀值，便实现了回归的0-1分类，即二分类。残差满足正态分布的最大似然估计，详情可百度。 线性回归损失函数：${{l}_{w}}=\sum\limits_{i=1}^{n}{{{\left( {{y}_{i}}-X_{i}W \right)
转载
2024-07-26 02:09:10
130阅读
一，线性回归的原理1，线性回归应用场景房价预测销售额度预测金融：贷款额度预测、利用线性回归以及系数分析因子和选股2，什么是线性回归1）定义与公式线性回归(Linear regression)是利用 回归方程(函数) 对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。只有一个自变量的情况称为单变量回归，大于一个自变量情况的叫做多元回归w为权重、b称为偏置项、x为特征2）
转载
2023-09-25 10:51:09
58阅读
基于sklearn的一些AI算法基本操作sklearn中的一些相关的库分别导入这些相关算法的库import pandas as pd #导入一个用于读取csv数据的容器
from sklearn.model_selection import train_test_split #用于数据集划分的模块
from sklearn.model_selection import GridSearchCV #
梯度下降是做线性回归时比较常用的方法，关于线性回归和梯度下降的详细介绍可详见： ，这里用到的数学知识比较多了，推导过程真心看不懂了，不过幸好最终的公式（文章最后的公式）还能看个大概，依葫芦画瓢还能写成Code。其实里面有个重要的概念 Cost Function，而选用是 最小二乘法，就是为了对比线性公式计算后的值与实际值直接的偏离。
转载
2023-10-23 23:00:45
116阅读
# 使用Python实现不调用库的支持向量回归 (SVR)
支持向量回归（SVR）是一种强大的回归分析工具，广泛应用于机器学习任务中。尽管通常使用现有的库（如Scikit-learn）来实现SVR，本篇文章将解释如何在没有任何外部库支持的情况下，使用Python手动实现SVR。
## 实现流程
为了实现SVR，我们将遵循以下步骤：
| 步骤 | 描述
线性回归1，概述线性回归(Linear Regression)是机器学习最基本的回归算法之一，通过对自变量和因变量之间的关系进行建模，找出一个拟合最好的线性关系函数。而根据自变量的多少，又可以分为一元回归和多元回归。2，算法推导假设银行的贷款额度和借贷人的年龄、薪资水平有关，现在希望根据一组数据，使得我们能够确定出三者之间的线性关系并由此做出合理的借贷额度预测。这里有函数：。其中为偏置项，也就是我
1.线性回归(Linear Regression)1.1什么是线性回归我们首先用弄清楚什么是线性，什么是非线性。线性：两个变量之间的关系是一次函数关系的——图象是直线，叫做线性。注意：题目的线性是指广义的线性，也就是数据与数据之间的关系。非线性：两个变量之间的关系不是一次函数关系的——图象不是直线，叫做非线性。相信通过以上两个概念大家已经很清楚了，其次我们经常说的回归回归到底是什么意思呢。回归：人
转载
2023-11-03 17:44:04
100阅读
1.线性回归简介 线性回归定义： 百科中解释我个人的理解就是：线性回归算法就是一个使用线性函数作为模型框架（y=w∗x+b）、并通过优化算法对训练数据进行训练、最终得出最优（全局最优解或局部最优）参数的过程。y：我们需要预测的数值；w：模型的参数（即我们需要通过训练调整的的值）x：已知的特征值b：模型的偏移量我们的目的是通过已知的x和y，通过训练找出合适的参数w和b来模拟x与y之间的关系，并最
转载
2023-10-07 16:45:25
142阅读
线性回归算法回归算法就是将一些连续的有一定规律的点拟合成一条直线或者曲线的形式，通过这条直线或曲线，就可以预测后来的点大致位置了。 比如说我们现在有八个散列的点，我用8×2的矩阵表示 x = np.array([ [0.5, 1], [1, 1.8], [1.5, 2.2], [2, 2.3], [2.5, 3], [2.7, 3.1], [2.9, 3.1], [3.1, 3.3], ]) 第一
转载
2024-09-10 09:57:20
78阅读
1. 线性回归： 寻找一种能预测的趋势, 线性回归通过一个或者多个自变量（特征值）与因变量（目标值）之间进行建模的回归分析1.1. 线性关系二维：直线关系三维：特征， 目标值， 平面当中1.2. 线性关系定义单个特征
y = kx + b 加b是为了对于单个特征的情况更加通用多个特征y = k1房子面积 + k2房子位置 + b1.3. 线性模型
f(x) = w1 * x1 + w2 * x2
转载
2023-11-26 11:39:12
199阅读
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性机器学习主要分为这四大类：回归与分类的区别：线性回归定义：通过一个或者多个自变量与因变量之间进行建模的回归方法，其中可以为一个或者多个自变量之间的线性组合。回归预测其实就是找到一个权重乘与特征值再加上回归系数。y=w*x+b1.线性回归就是通过自己获取的数据，预测出其他的数据。误差(损失函数):预测出来的值会存在一些误差，
转载
2023-06-13 20:20:04
411阅读
线性回归（Linear Regression）定义：是一种通过对样本特征进行线性组合来进行预测的线性模型，其目的是找到一条直线或者一个平面或者更高维的超平面，使得预测值与真实值之间的误差最小。图1：一维数据，线性拟合模型图2：二维数据，平面拟合模型API文档sklearn.linear_model.LinearRegression(fit_intercept=True, normalize=Fal
转载
2024-04-24 16:34:39
241阅读
初识函数可读性，复用性强定义之后，可以在任何需要它的地方调用所有函数 只定义不调用不会执行先定义后调用def 函数名(): # 函数体 return 返回值函数调用函数名（）不接收返回值有返回值 返回值 = 函数名 接收返回值返回值return三种情况 没有返回值 1、不写return，2、只写r
转载
2023-10-19 16:59:32
41阅读
文章目录一、逻辑回归简介1.1 什么是逻辑回归1.2 Sigmoid函数1.3 预测函数二、逻辑回归实战 - Java代码实现 一、逻辑回归简介1.1 什么是逻辑回归逻辑回归（Logistic Regression）是一种用于解决二分类（0 or 1）问题的机器学习方法，用于估计某种事物的可能性。比如某用户购买某商品的可能性，某病人患有某种疾病的可能性，以及某广告被用户点击的可能性等。逻辑回归不
转载
2023-09-17 00:06:09
85阅读
线性回归（Linear regression）线性回归作为机器学习中的一个基本算法，他的目的、功能、用途都是相当的明了，在这篇文章中会简单的介绍和说明线性回归的原理，然后使用python实现效果，最后会在其他的文章中补充一些进一步的优化线性回归的目的 很简单，就是用一条直线来拟合这些点。线性回归的功能 也很直接，通过大量的训练集进行训练，得到合适的权重参数 θ，随之输入测试集或者验证集的数据，对其
转载
2024-04-12 20:01:43
81阅读
连续性变量与连续性变量之间，就有使用线性回归或者是相关 相关表示的是两个变量之间或者是多个变量之间相关关系的方向和强弱关系 如果我们想要知道两个变量或者多个变量之间具体的关系，那么我们就要使用回归。 处理一个连续性变量与一个连续性变量之间的关系的时候，可以采用简单线性回归。 如果是多个连续性变量则需要采用多重线性回归。 如果其中有一个变量是分类变量的话，那么我们则需要进行logistic回归。 如
转载
2023-08-15 20:41:16
142阅读
什么是梯度下降法在机器学习中，对于很多监督学习模型，需要对原始的模型构 建损失函数 J，接下来便 是通过优化算法对损失函数J进
原创
2024-05-24 10:29:05
54阅读
区分回归与分类其实很简单，举个例子，预测病人患病概率，结果只有患病和不患病2种，这就是分类；预测房价，结果可能是在一段区间内，这个就是回归。
转载
2023-07-28 17:44:30
290阅读
# Java实现多元线性回归算法
多元线性回归是统计学中一种用于建模变量之间关系的技术。在许多实际应用中，我们通常需要通过多个自变量（特征）来预测一个因变量（目标）。例如，利用一组特征（如房屋面积、房间数量、位置等）来预测房屋价格。在本文中，我们将使用Java编程语言实现一个简单的多元线性回归算法，并提供相应的代码示例及过程分析。
## 什么是多元线性回归？
多元线性回归是线性回归的一种扩展
