4.1 residual diagnostics(残差诊断) 一个好的预测方法将产生以下属性的残差：1. 残差不相关 如果残差之间存在相关性，则残差中会留有信息，这些信息应用于计算预测。2. 残差均值为零 如果残差的平均值不是零，则预测有偏差。任何不满足这些属性的预测方法都可以得到改进 （?如何改进使得残差符合这个规律）。 但是，这并不意味着不能改善满足这些属性的预测方法。 对于同一个数据集，可能
转载
2023-11-10 01:10:21
6阅读
异常值是模型优化的关键点之一，离均值远的是异常值，可是多远才算足够远呢，其实不同的模型有着不同的考量，基于模型所受的影响不同，所以所能忍受的异常值也不同。1、异常值的类型从二维的角度来说，其实异常值有三种类型，一是影响垂直方向Y的异常值，叫垂直特异性，对应探测该类异常的指标为标准化残差（学生化残差也可以）；二是同时影响x和Y的异常值，对应探测该类异常的指标为COOK值，三是影响水平方向的X的异常值
转载
2023-12-26 13:56:57
60阅读
简单点说深度残差网络可以有效避免神经网络在层数过高之后引起的梯度消失问题，据说可以让神经网络层数达到上千层。之所以不能一直增加，肯定是层数过高后又必然有梯度爆炸的问题。随着神经元个数增加，其非线性拟合能力越来越强，既可以拟合更高维度事物。网络结构与网上各种 讲解无异，损失函数因为花分位5类，所以这里选择多分类损失函数categorical_crossentropy。很多情况下分类任务选择交叉熵，回
转载
2024-08-30 09:11:33
69阅读
一.背景 5月9号到北大去听hulu的讲座《推荐系统和计算广告在视频行业应用》，想到能见到传说中的项亮大神，特地拿了本《推荐系统实践》求签名。讲座开始，主讲人先问了下哪些同学有机器学习的背景，我恬不知耻的毅然举手，真是惭愧。后来主讲人在讲座中提到了最小二乘法，说这个是机器学习最基础的算法。神马，最基础，我咋不知道呢！ 看来以后还是要对自己有清晰认识。
# 残差法回归估计在Python中的实现
在数据科学和机器学习中，残差法回归是一种评估回归模型性能的常用方法。本文将为您介绍如何在Python中一步一步实现残差法回归估计。
## 流程概述
为了实现残差法回归估计，我们可以将整个过程分成以下几个步骤：
```mermaid
flowchart TD
A[开始] --> B[准备数据]
B --> C[划分训练和测试集]
【回归分析】[6]--残差分析在这一节，我们讨论一下关于残差的问题。主要是为了验证四个假设。
1. 关于模型形式的假定：模型关于参数是线性的-- 通过观察Y-- X的散点图;
2. 关于误差的假定：a.方差服从正太分布 b.均值为0 c.方差相同 &n
转载
2023-08-03 10:37:41
192阅读
ArcGIS中的空间回归分析回归模型中的一些术语:因变量(Y)：想预测什么？自变量(X)：解释因变量。Beta 系数：反映解释变量和因变量之间关系的权重。残差(Residual)：模型未解释的值回归公式：y = β0 + (β1 × x1 ) + (β2 × x2 ) + … + (βn × xn ) + εArcGIS 中的空间回归分析让我们通过构建栖息地适宜性指数 (HSI), 也称为资源选择
转载
2024-01-03 11:47:50
105阅读
残差网络（Residual Network）：原理、结构与Python实现引言深度学习中的神经网络模型在不断发展，其中一种重要的网络结构是残差网络（Residual Network，简称ResNet）。ResNet通过引入残差模块解决了深度神经网络中的梯度消失问题，从而实现了更深层次的网络结构。本文将详细介绍残差网络的原理、结构，并通过Python代码和LaTeX公式进行详细解释，帮助读者更好地理
转载
2023-08-01 14:06:23
157阅读
假设检验：模型显著性检验——F检验（利用statsmodels中建立模型的summary/summary2方法）偏回归系数显著性检验——t检验（利用statsmodels中建立模型的summary/summary2方法）诊断：正态性检验：方法实现PP图/QQ图statsmodels.ProbPlot.ppplot/statsmodels.ProbPlot.qqplotShapiro检验/K-S检验
转载
2023-09-07 22:09:59
61阅读
【深度学习】【python】深度残差网络Resnet的实现 中文注释版参考https://github.com/wenxinxu/resnet_in_tensorflow 环境要求python3.5tensorflow 1.4pytorch 0.2.0tensorlayer本程序需要tensorflow与tensorlayer. 程序如下:"""
深度残差网络
source: 'https:/
转载
2023-08-01 14:07:32
141阅读
以前，我们在学统计学的时候，做方差分析的话，常常会用到 spss 这款软件。后来，在工作上，很多实验数据的分析，也还是会用到 spss，用它来分析比较实验数据之间有无显著差异。 对此，很多刚接触该软件的用户就问到如何用spss做方差分析。所以，本文来讲解用spss做方差分析的方法步骤，帮助大家分析结果的数据差异，从而提高实验的有效性。用spss做方差分析教程1. 首先
转载
2023-11-03 13:31:45
23阅读
最近学金融的妹妹要处理数据写论文，对一个文科妹子来说，数学学不会，公式看不懂怎么破~作为姐姐的我看在眼里，疼在心里，打算帮妹妹解决掉数据计算这方面的问题。原来就是求三元线性回归的残差啊，害，这有什么难的，妹妹就是不会算权重，一直在网上寻找已经算好权重的数据，为此特意开通了什么会员，咱也不知道咱也不敢问。于是乎，利用自己所学的python，写下了这个程序。简单介绍一下什么是线性回归？答：线性回归是通
转载
2023-08-26 14:11:07
87阅读
前言我们接着上一期，来继续讲讲关于线性回归模型的另外两个假设前提的验证(即回归模型的残差满足方差齐性(即方差为某个固定值)和残差之间互相独立性)。残差方差齐性检验在线性回归建模中，如果模型表现的非常好的话，那么残差与拟合值之间不应该存在某些明显的关系或趋势。如果模型的残差确实存在一定的异方差的话，会导致估计出来的偏回归系数不具备有效性，甚至导致模型的预测也不准确。所以，建模后需要验证残差方差是否具
转载
2023-11-16 21:13:25
98阅读
残差网络是为了解决模型层数增加时出现梯度消失或梯度爆炸的问题而出现的。传统的神经网络中，尤其是图像处理方面，往往使用非常多的卷积层、池化层等，每一层都是从前一层提取特征，所以随着层数增加一般会出现退化等问题。残差网络采取跳跃连接的方法避免了深层神经网络带来的一系列问题。一：对模型原理与优点的理解(1)在传统的前馈网络中，网络中堆叠的层可以将输入x映射为F(x)，这一整体网络的输出为H
转载
2023-10-14 17:28:37
175阅读
目录1 概述2 截尾与拖尾3 Auto regressive (AR) process4 Moving average(MA) Process5 总结 1 概述ACF 是一个完整的自相关函数，可为我们提供具有滞后值的任何序列的自相关值。简单来说，它描述了该序列的当前值与其过去的值之间的相关程度。时间序列可以包含趋势，季节性，周期性和残差等成分。ACF在寻找相关性时会考虑所有这些成分。直观上来说，
转载
2023-07-04 14:54:08
202阅读
1 总平方和（SST）、回归平方和（SSR）与残差平方和（SSE） 得到后，可以把Y分解为可以被解释变量解释的和不能被解释的两部分，Y = X+=+  
残差结构Residual 初次接触残差结构是在ResNets的网络中，可以随着网络深度的增加，训练误差会越来越多（被称为网络退化）的问题，引入残差结构即使网络再深吗，训练的表现仍表现很好。它有助于解决梯度消失和梯度爆炸问题，让我们在训练更深网络的同时，又能保证良好的信息。 残差结构示意图
残差网络的设计思想 残差元的主要设计有两个，快捷连接和恒等映射，快捷连接使得残差变得可能，而恒等
转载
2023-12-14 12:07:31
124阅读
深度学习笔记（28） 残差网络1. 残差块2. 深度网络的训练错误3. ResNets的作用4. ResNets的细节5. ResNets的结构 1. 残差块非常深的神经网络是很难训练的，因为存在梯度消失和梯度爆炸问题 这时可以用 跳跃连接（Skip connection） 从某一层网络层获取激活，然后迅速反馈给另外一层，甚至是更深层可以利用跳跃连接构建能够训练深度网络的ResNets，有时深度
转载
2024-01-06 22:22:30
107阅读
回归分析为许多机器学习算法提供了坚实的基础。在这篇文章中，我们将总结 10 个重要的回归问题和5个重要的回归问题的评价指标。1、线性回归的假设是什么？线性回归有四个假设线性：自变量（x）和因变量（y）之间应该存在线性关系，这意味着x值的变化也应该在相同方向上改变y值。独立性：特征应该相互独立，这意味着最小的多重共线性。正态性：残差应该是正态分布的。同方差性：回归线周围数据点的方差对于所有值应该相同
转载
2023-09-02 16:11:19
149阅读
一.单变量分析绘图1.什么是单变量分析？单变量其实就是我们通常接触到的数据集中的一列数据2.使用NumPy模块从标准正态分布中随机地抽取1000个数，作为我们的连续数值型数据。data = np.random.normal(size=1000) random是NumPy的一个随机模块，在random模块中的normal方法表示从正态分布中随机产生size个数值。3.在seaborn里最常用的观察单
转载
2023-08-23 13:04:35
177阅读
