文章目录分类算法之逻辑回归逻辑回归属性特点分析案例----乳腺癌分类第一步：导入需要的各种包第二步：设置显示中文字体和正常显示符号第三步：拦截异常第四步：读取数据第五步：异常数据处理第六步：数据提取以及数据分割第七步：数据分割第八步：数据归一化第九步：模型训练第十步：模型评估第十一步：数据预测第十二步：画图 分类算法之逻辑回归逻辑回归（Logistic Regression），简称LR。它的特点
多图预警！！！！由于，本章联系到的数学公式不好列，只能截取视频中的公式！！！！！！特点思路简单 解决回归问题 结果具有可解释性 蕴含机器学习中许多重要思想简单线性回归样本特征只有一个 最佳拟合方程： y=ax+b 典型的最小二乘法：最小化误差的平方 具体推导过程略简单线性回归的实现： 以下是代码实现，如果有些地方不懂可以先看下面的内容。# -*- coding: utf-8 -*-
import
逻辑回归模型是一个非常经典的算法，其中包含非常多的细节。本文就是总结下我眼中的逻辑回归模型，方便以后有更多的认识后继续修正。一、模型简介Logistic Regression（简称LR）虽然被称为回归，但其实是分类模型，并常用于二分类。LR由于其简单、可并行化、可解释性强深受工业界喜爱，尤其是金融领域。LR模型的本质是：假设数据集服从这个分布，然后用极大似然估计做参数的估计。1.1 Logisti
转载
2024-10-22 08:02:21
79阅读
一、概念CART全称叫Classification and Regression Tree。首先要强调的是CART假设决策树是二叉树，内部结点特征的取值只有“是”和“否”，左分支是取值为“是”的分支，有分支则相反。这样的决策树等价于递归地二分每个特征。二、CART生成决策树的生成就是递归地构建二叉决策树的过程，对回归树用平方误差最小化准则，对分类树用基尼指数最小化准则，进行特征选择，生成二叉树。三
转载
2024-04-21 16:18:21
65阅读
在数据科学与机器学习领域，岭回归（Ridge Regression）是一种重要的线性回归分析方法。它通过引入L2正则化项来处理多重共线性问题，从而提高模型的预测能力。这篇博文将重点探讨在Python中使用岭回归的过程，以及如何计算均方误差（MSE）和均方根误差（RMSE）。
## 背景定位
### 适用场景分析
岭回归通常应用于以下几种情况：
- 特征之间存在着高度的相关性，导致模型的不稳定
之前的内容讲到了MMSE信道估计，并推导了基于MMSE优化准则的估计结果，该方法是对LS信道估计的进一步优化，适用于低信噪比场合，但由于其计算复杂，所以并不实用。因此又有了LMMSE信道估计方法，相对于MMSE估计，它在不损失太多性能的前提下，降低了计算的复杂度，因此大部分的实际系统中，实用的就是这个估计方法。
转载
2023-08-22 23:01:57
111阅读
衡量线性回归法的指标：MSE, RMSE和MAE举个栗子：对于简单线性回归，目标是找到a,b 使得尽可能小其实相当于是对训练数据集而言的，即当我们找到a，b后，对于测试数据集而言，理所当然，其衡量标准可以是但问题是，这个衡量标准和m相关。（当10000个样本误差累积是100，而1000个样本误差累积却达到了80，虽然80<100，但我们却不能说第二个模型优于第一个）改进==> 对式子除
转载
2024-04-30 22:57:26
53阅读
day4 AI面试刷题1. 简述逻辑回归，并简述它与线性回归的关系2. 回归问题常用的性能度量指标3. 分类问题常用的性能度量指标4. 逻辑回归的损失函数5. 逻辑回归可以处理多标签分类问题么？ 1. 简述逻辑回归，并简述它与线性回归的关系逻辑回归(Logistic Regression) 与 线性回归(Linear Regression) 都是一种广义线性模型(generalized line
转载
2024-04-28 18:49:30
39阅读
一、sklearn中的线性回归的使用二、线性回归——家庭用电预测（1）时间与功率之间的关系#!/usr/bin/env python
# -*- coding:utf-8 -*-
# Author:ZhengzhengLiu
#线性回归——家庭用电预测（时间与功率之间的关系）
#导入模块
import sklearn
from sklearn.model_selection import tr
转载
2024-03-18 16:28:02
110阅读
1、前言MLE：MVU估计量的一种替代形式。在MVU估计量不存在或者存在但无法求解情况下，MLE十分有效。它是居于最大似然原理的估计，是最通用的获取实用估计的一种方法。MLE的特点：当观测数据足够多时，其性能是最优的，特别是它的近似率极高，因此非常接近MVU估计量。其近似的本质就是对足够多的数据记录，MLE具有渐进有效性（即可达CRLB）。标量参数的MLE定义：对于固定的 x，使 &nb
Linear Regression（线性回归）回归的核心思想—连续函数下进行预测线性模型的形式：（是权重向量）线性模型中的“线性”其实就是一系列一次特征的线性组合，在二维空间中是一条直线，在三维空间中是一个平面，推广到 n 维空间…应用：股票市场预测、自动驾驶技术、商品推荐系统…比如，预测住房价格： 它的工作方式是这样的 因而，要解决房价预测问题，我们实际上 是要将训练集“喂”给我们的学习算法，进
转载
2023-11-29 17:16:31
9阅读
KNN最近邻法实现回归预测的基本思想：****根据前3个特征属性，寻找最近的k个邻居，然后再根据k个邻居的第4个特征属性，去预测当前样本的第4个特征属性（花瓣宽度）import numpy as np
import pandas as pd
data = pd.read_csv('Iris.csv',header = 0)
data.drop(['Id','Species'],axis = 1,
转载
2024-03-29 13:31:05
49阅读
GBDT（Gradient Boost Decision Tree）
GBDT，全称Gradient Boosting Decision Tree，叫法比较多，如Treelink、 GBRT(Gradient Boost Regression Tree)、Tree Net、MART(Multiple Additive Regression Tree)等。GBDT是决策树中的回归树，决策树
转载
2024-03-10 08:45:14
71阅读
在分析数据之前，我们需要剔除异常值的影响，也就是在某个分组情况下，标准差过大（标准差越大，证明情况越不稳定），如果标准差比较小，就算是最小值和最大值差的比较大，我也认为他是一个比较平稳的波动。Step 6：Reduce Std.assure data stability# 按 Category 列分组并计算每个分组的标准差
grouped_data = df_replen.groupby(['mo
我这个问题，我会回答：“因为做回归的...
转载
2023-05-02 10:28:54
70阅读
最近在看李沐的实用机器学习课程，讲到regression问题的loss的时候有弹幕问：“为什么要平方？”如果是几年前学生问我这个问题，
转载
2022-10-04 20:23:24
1767阅读
# Java线性回归预测
## 1. 概述
在本文中，我将向你介绍如何使用Java实现线性回归预测。线性回归是一种用于建立变量之间线性关系的统计模型。它可以用于预测一个变量（因变量）与其他变量（自变量）之间的关系。在Java中，我们可以使用Apache Commons Math库来实现线性回归。
## 2. 线性回归预测的流程
下表展示了实现线性回归预测的步骤：
| 步骤 | 描述 |
原创
2023-08-15 05:59:59
281阅读
一、数据集本次实战用到的是高炉煤气循环发电（CombinedCyclePowerPlant，CCPP）数据集，该数据集来自于UCI主页（http://archive.ics.uci.edu/ml/datasets.html）。 自变量AT，表示高炉的温度V，表示炉内的压力；AP，表示高炉的相对湿度RH，表示高炉的排气量因变量连续性，PE，表示高炉的发电量二、加载数据集1、读取数据并展示数
转载
2024-08-05 11:06:32
104阅读
线性回归是什么？线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。其表达形式为y = w’x+e，e为误差服从均值为0的正态分布。适用场景？趋势线：价格预测 流行病学：预测疫情发展原理：线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。优缺点：优点
转载
2024-01-01 11:11:10
167阅读
写在前面分类问题的目标是预测输入数据点所对应的单一离散的标签。另一种常见的机器学习问题是回归问题，它预测一个连续值而不是离散的标签，例如，根据气象数据 预测明天的气温，或者根据软件说明书预测完成软件项目所需要的时间。不要将回归问题与 logistic 回归算法混为一谈。令人困惑的是，logistic 回归不是回归算法， 而是分类算法。波士顿房价数据集本文将要预测20 世纪70 年代中期波士顿郊区房
转载
2023-11-19 18:27:31
119阅读
