一.线性回归1.定义线性回归通过一个或者多个自变量与因变量之间之间进行建模的回归分析。其中特点为一个或多个称为回归系数的模型参数的线性组合。2.公式3.损失函数检验误差大小：为第个训练样本的真实值为第个训练样本特征值组合预测函数总损失定义： 又称
转载
2024-05-16 14:23:39
74阅读
对n较大的排序记录。一般的选择都是时间复杂度为O(nlog2n)的排序方法。 时间复杂度来说： (1)平方阶(O(n2))排序 各类简单排序:直接插入、直接选择和冒泡排序； (2)线性对数阶(O(nlog2n))排序 快速排序、堆排序和归并排序； (3)O(n1+§))排序,§是介于0和1之间的常数
转载
2017-02-21 01:12:00
86阅读
2评论
线性回归是利用梳理统计学中的回归分析来确定两种或两种以上变量之间相互依赖的定量关系的一种统计分析方法。线性回归简介线性回归是一种有监督算法，通常被用于响应预测、分类划分。线性回归的针对的是目标变量是区间型变量的问题。 线性回归是描述目标变量Y是如何随着一组自变量X1、X2…的变化而变化的模型。其中Y的变化分为两部分，一部分是系统性变化，也就是由自变量引起的变化；一部分是随机变化，也就是
转载
2024-03-06 16:22:53
139阅读
常见的机器学习算法：1）.回归算法：回归算法是试图采用对误差的衡量来探索变量之间的关系的一类算法。回归算法是统计机器学习的利器。 常见的回归算法包括：最小二乘法（Ordinary Least Square），逐步式回归（Stepwise Regression），多元自适应回归样条（Multivariate Adaptive Regression Splines）以及本地散点平滑估计（Locally
转载
2024-03-14 06:02:54
84阅读
①时间复杂度：同样输入规模（问题规模）花费多少时间②空间复杂度：同样输入规模花费多少空间（主要内存）上两点越小越好③稳定性：会因输入同而导致稳定情况发生④算法思路否简单：越简单越容易实现越好
转载
2014-04-18 15:49:00
105阅读
2评论
用matlab对两种算法进行比较
原创
2022-12-06 11:19:01
138阅读
逻辑回归是一种用于分类问题的经典算法，特别在二分类问题上表现优异。然而，随着机器学习的发展，出现了多种替代算法。本文将对“逻辑回归对比其他机器学习的优劣”进行详细的剖析，从多个维度解析逻辑回归的特点及应用效果。
### 背景定位
逻辑回归主要用于解决诸如信贷审核、疾病预测和客户流失等二分类问题。它以其简单明了的数学结构与高效性在实践中受到广泛应用。逻辑回归的一个核心优势是其生成的模型易于解释，
回归算法分类，常用回归算法解析 回归是数学建模、分类和预测中最古老但功能非常强大的工具之一。回归在工程、物理学、生物学、金融、社会科学等各个领域都有应用，是数据科学家常用的基本工具。 回归通常是机器学习中使用的第一个算法。通过学习因变量和自变量之间的关系实现对数据的预测。例如，对房价估计时，需要确定房屋面积（自变量）与其价格（因变量）之间的关系，可以利用这一关系来预测给定面积的房屋的价格。可以有多
转载
2024-03-27 17:31:03
45阅读
文章目录1 线性回归1.1 定义1.2 题目分析1.3 误差项分析1.4 目标函数推导1.5 线性回归求解1.6 最小二乘法的参数最优解2 目标函数（loss/cost function）3 模型效果判断4 机器学习调参5 梯度下降算法5.1 梯度方向5.2 批量梯度下降算法（BGD）5.3 随机梯度下降算法（SGD）5.4 BGD和SGD算法比较5.5 小批量梯度下降法（MBGD）5.6 梯度
转载
2024-03-15 05:37:53
51阅读
对于有误差的统计值，我们一般都是采用均值作为使用值。但是这种使用均值代替的方式是不是合理？为什么不用中位数、几何平均数什么的？这需要一个解释。1.什么是二乘？对于一列数字，比如10.1、10.3、9.7、9.9、10.5来说，我们要采用一个数字Y来替代他们。要求是这些数与Y的差异要达到最小。在数学上就是：但是数学上对于求绝对值比较排斥，一般直接采用求平方代替。也就是二乘的来源  
《Network in Network》论文笔记1.综述这篇文章有两个很重要的观点：1×1卷积的使用 文中提出使用mlpconv网络层替代传统的convolution层。mlp层实际上是卷积加传统的mlp（多层感知器），因为convolution是线性的，而mlp是非线性的，后者能够得到更高的抽象，泛化能力更强。在跨通道（cross channel,cross feature map）情况下，m
模型评价是指对于已经建立的一个或多个模型，根据其模型的类别，使用不同的指标评价其性能优劣的过程。常用的聚类模型评价指标有ARI评价法（兰德系数）、AMI评价法（互信息）、V-measure评分、FMI评价法和轮廓系数等。常用的分类模型评价指标有准确率（Accuracy）、精确率（Precision）、召回率（Recall）、F1值（F1 Value）、ROC和AUC等。常用的回归模型评
转载
2023-12-06 18:52:59
1458阅读
@目录什么是回归算法线性回归似然函数/对数似然函数目标函数/损失函数常用的其他损失函数局部加权回归-损失函数线性回归的过拟合Ridge回归(岭回归)LASSO回归Elasitc Net算法(弹性网络算法)梯度下降算法批量梯度下降算法(BGD)随机梯度下降算法(SGD)小批量梯度下降法(MBGD)梯度下降法调优策略Logistic回归Softmax回归模型效果判断机器学习调参什么是回归算法有监督算法
转载
2023-07-20 15:46:13
135阅读
机器学习的回归评价指标回归类算法的模型评估一直都是回归算法中的一个难点，但不像无监督学习算法中的轮廓系数等等评估指标，回归类与分类型算法的模型评估其实是相似的法则——找真实标签和预测值的差异。只不过在分类型算法中，这个差异只有一种角度来评判，那就是是否预测到了正确的分类，而在回归类算法中，有两种不同的角度来看待回归的效果：第一，是否预测到了正确的数值。 第二，是否拟合到了足够的信息。 这两种角度，
转载
2023-08-11 15:20:45
85阅读
线性回归算法1.线性回归2.随机梯度下降3.线性回归 1.线性回归 不进行梯度清除 进行梯度清除2.随机梯度下降3.线性回归import torch
def synthetic_data(w, b, num_examples):
"""生成y=Xw+b+噪声"""
X = torch.normal(0, 1, (num_examples, len(w)))
转载
2024-05-21 10:58:23
527阅读
对模型进行评估时，可以选择很多种指标，但不同的指标可能得到不同的结果，如何选择合适的指标，需要取决于任务需求。 正确率与错误率正确率：正确分类的样本数/总样本数，accuracy错误率：错误分类的样本数/总样本数，error正确率+错误率=1这两种指标最简单，也最常用缺点1. 不一定能反应模型的泛化能力，如类别不均衡问题。2. 不能满足所有任务需求如有一车西瓜，任务一：挑出的好瓜中有多少
1、线性回归（1）分类：一元线性回归、多元线性回归（2）优缺点分析：优点：模型简单、运算量小，即使数据量很大，仍然可以快速得到结果 模型的参数就是特征的权重，具有很好的解释性缺点：对异常值敏感 &
转载
2024-01-27 21:31:42
189阅读
最短路径问题—Dijkstra算法Dijkstra算法：简称dij(弗洛伊德)算法 优点：时间复杂度是
O (N2)，比Floyd快
缺点：它
不能处理存在负边权的情况 算法思路从起点到一个点的最短路径一定会经过至少一个“中转点”（例如下图1到5的最短路径，中转点是2。特殊地，我们认为起点1也是一个“中转点”） 显而易见，如果我们想求出起点到一个点的最短路径，那
逻辑回归算法：虽然名字中带有回归两个字，但它却不是回归算法，它是一个经典的二分类算法。回归与分类的区别： 回归：可以得到一个准确值或一个区间值，比如房屋价格预测，NBA比赛得分等。 分类：预测结果是一个分类值，yes or no，0或1，好或坏，输或赢等等，比如预测猛龙队能否获得2019NBA总冠军，预测小明同学今年能否考上大学等等，结果都只有两个。逻辑回归算法是所有机器学习算法中最简单的算法，但
转载
2024-04-20 21:37:31
31阅读
文章目录说在前面一、回归分析分类1.1 what is regression analysis1.2 多元回归1.3 线性回归1.4 多重线性回归1.5 小结二、回归分析的用处 说在前面学习计算机器学习，回归分析当然是离不开的。它是机器学习中的一个重要的模块，具体回归分析是个什么鬼？用来干啥的？这是本文的主要研究点。博主也是菜鸟级别，所以我们一点一点啃吧。一、回归分析分类回归分析主要分为：多远回
转载
2023-12-17 19:27:41
3阅读
