转载自：Deephub Imba回归分析为许多机器学习算法提供了坚实的基础。在这篇文章中，我们将总结 10 个重要的回归问题和5个重要的回归问题的评价指标。1、线性回归的假设是什么？线性回归有四个假设线性：自变量（x）和因变量（y）之间应该存在线性关系，这意味着x值的变化也应该在相同方向上改变y值。独立性：特征应该相互独立，这意味着最小的多重共线性。正态性：残差应该是正态分布的。同方差性：回归线周
转载
2024-03-22 19:44:22
295阅读
1、样本说明对于一组样本X={xt,t=1,2,...,T}，xt符合i.i.d(独立同分布)，于是就有： --------------------1 取对数（连乘的运算较联和复杂得多，所以用取对数进行简化）： ----------
统计学意义（p值） 结果真实程度（能够代表总体）的一种估计方法。专业上，p值为结果可信程度的一个递减指标，p值越大，我们越不能认为样本中变量的关联是总体中各变量关联的可靠指标。p值是将观察结果认为有效即具有总体代表性的犯错概率。如p=0.05提示样本中变量关联有5%的可能是由于偶然性造成的。即假设总体中任意变量间均无关联（变量之间的独立性成立），我们重复类似实验，会发现约20个实验中有一
转载
2023-09-21 22:13:54
91阅读
梯度更新规则所以在 RNN 中，通常是前期的层会因为梯度消失和停止学习。因此，RNN 会忘记它在更长的序列中看到的东西，从而只拥有短期记忆。解决方案——LSTM 和 GRU创建 LSTM 和 GRU 可以作为短期记忆的解决方案，它们有一种称为「门」的内部机制，可以调节信息流。这些门可以判断数据在一个序列中该保留或弃用，因此它可以将相关信息传递到较长序列链中进行预测。几乎所有基于循环神经
在理性的基础上，所有的判断都是统计学。——Calyampudi Radhakrishna Rao正如一个法庭宣告某一判决为“无罪”而不为“清白”，统计检验的结论也应为“不拒绝”而不为“接受”——Jan Kmenta 我们知道，统计推断有两类：参数估计与假设检验。参数估计是利用样本信息推断未知的总体参数，而假设检验则是先对总体参数提出一个假设值，然后利用样本信息判断这一假设是否成立。在假设检验中，“
转载
2024-05-05 17:51:23
173阅读
1.样本正反例基本概念TP: True Positive 指正确分类成为正的样本数，实际为正，预测为正 FP: False Positive 指错误分类为正的样本数，实际为负，预测为正 FN: False Negative 指错误分类为负的样本数，实际为正，预测为负 TN: True Negative 指正确分类为负的样本数，实际为负，预测为负TP+FP+T
# Python P值不显著
在统计学中，假设检验是一种常用的方法，用于确定两个或多个数据集之间是否存在显著的差异。其中，P值是一个重要的指标，用来衡量观察到的数据与假设之间的一致性。P值越小，表明观察到数据与假设之间的差异越大，通常小于0.05的P值被认为是显著的。
在Python中，我们可以使用统计模块`scipy`进行假设检验，通过计算P值来判断数据集之间的差异是否显著。在实际应用中，有
原创
2024-04-22 06:07:09
60阅读
在理解了线性回归的基础上学习python编程实现。一、损失函数及其图像，理解损失函数是如何得到的，理解损失函数就是总样本误差关于模型参数的函数，即找到一组、，使得值最小，其图像就是一个曲面。# -*- coding: utf-8 -*-
"""
Spyder Editor
This is a temporary script file.
"""
from __future__ import uni
转载
2024-04-08 17:57:23
84阅读
逻辑回归定义logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域。逻辑回归为发生概率除以没有发生概率再取对数，且因变量为二分类的分类变量或某事件的发生率。例如，探讨引发疾病的危险因素，并根据危险因素预测疾病发生的概率等。以胃癌病情分析为例，选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群必定具有不同的体征与生活方式等。因此
转载
2023-09-03 09:30:14
121阅读
1.逻辑回归概念逻辑分类（Logistic Classification）是一种线性模型，可以表示为，w是训练得到的权重参数（Weight）； x是样本特征数据(逻辑回归一般要求需要对x进行归一化处理，常见的做法有最大最小值归一化：(x-min(x))/(max(x)-min(x))，0均值标准化:(x-μ)/δ)； y是对应的分类变量（注意这里的0、1、2、3只是表示对应的标称分类，并不表示具体
转载
2023-08-15 22:46:26
253阅读
作者：SAS_Miner
分类回归树 classification and regression tree(C&RT) racoon优点（1）可自动忽略对目标变量没有贡献的属性变量，也为判断属性变量的重要性，减少变量数据提供参考；（2）在面对诸如存在缺失值、变量数多等问题时C&RT 显得非常稳健（robust）；（3）估计
转载
2024-09-15 20:40:54
41阅读
1 概述1.1 数据预处理与特征工程想象一下未来美好的一天，你学完了菜菜的课程，成为一个精通各种算法和调参调库的数据挖掘工程师了。某一天 你从你的同事，一位药物研究人员那里，得到了一份病人临床表现的数据。药物研究人员用前四列数据预测一下最 后一数据，还说他要出差几天，可能没办法和你一起研究数据了，希望出差回来以后，可以有个初步分析结果。于 是你就看了看数据，看着很普通，预测连续型变量，好说，导随机
转载
2024-06-07 23:37:26
92阅读
【回归分析】[3]--回归方程的显著性检验 这篇文章准备使用一个例子来说明。 例子的数据：
data2 = {{391.95, 488.51}, {516.98, 798.30}, {355.63,
235.08}, {238.55, 299.45}, {537.78, 559.09}, {733.78,
1133.25}, {198.83, 348.74
转载
2024-05-10 00:37:09
69阅读
在线性回归模型中，其参数估计公式为不可逆时无法求出，另外如果越趋近于0，会使得回归系数趋向于无穷大，此时得到的回归系数是无意义的。解决这类问题可以使用岭回归和LASSO回归，主要针对自变量之间存在多重共线性或者自变量个数多于样本量的情况。一、正则化1.什么是正则化对损失函数(目标函数)加入一个惩罚项，使得模型由多解变为更倾向其中一个解。在最小二乘法中，可以这样理解。XTX可能是不可逆的，通过加上正
转载
2024-04-30 08:20:09
85阅读
分类回归的其他问题二值选择模型的异方差问题将模型的 与可能有关的变量进行回归 原假设的同方差假设： 备择假设的异方差： 补充单词： Homoskedasticity Heteroskedasticity 上面是正常的probit回归 下面是 稀有事件偏差稀有事件偏差就是由于事件发生的少，无法正确分类假定y=1是稀有事件，y=0为大量发生的事件 我们的二分方法本质是寻找一个分类点，将二者以最小误差
转载
2024-01-21 05:57:29
421阅读
1.逻辑回归逻辑回归是一种线性回归模型,它假设数据服从伯努力分布(二项分布,0-1分布),通过极大似然估计,运用梯度下降方法(牛顿法) 求解,进而达到二分类目的。逻辑回归与线性回归有很多相似之处，去除Sigmoid映射函数的话，逻辑回归算法就是一个线性回归。逻辑回归以线性回归理论作为支持。由于引入了Sigmoid函数，可以处理非线性问题，因此可以轻松处理0/1分布问题。2.伯努利(Binomial
转载
2023-07-29 12:00:38
139阅读
前面我们讲了关于异方差的检验，当我们检验出回归模型中含有异方差问题时，我们的回归模型就不在具有有效性，方差出现了偏误（这是异方差的根本问题，解决此问题就是对异方差的修正）。因此，我们用两种方法对模型进行修正：①加权最小二乘法（WLS）：在原模型中加入权重得到一个新模型，对新模型进行回归。②异方差稳健标准误差法：我们直接求得原模型的样本方差，然后再进行修正。异方差的修正（代码）①加权最小二乘法（WL
转载
2024-03-17 18:45:19
319阅读
默认模式网络(DMN)中静息态功能连接的改变是自闭症谱系障碍(ASD)和注意缺陷/多动障碍(ADHD)的特征。静息态功能连接的标准分析流程关注于神经网络或感兴趣区域之间的激活时间过程中的线性相关性。这些特征可能对时间滞后或非线性关系不敏感。 方法：在一项包括292名儿童的双胞胎队列研究中，包括52名诊断为AS
计量经济学复习笔记（三）：如何使用回归结果根据我们之前的讨论，任意给定一组的观测值，都可以计算回归。但是否回归都是有效的？直观说来，我们会将回归方程直接绘制在图像上，看样本点围绕回归方程的偏差程度大不大。但是绘图、看图说话总要动脑，直接给一个指标告诉大家好还是不好就能省掉许多的工作，这篇文章首先来探究这样的指标，再讨论回归方程的使用。1、拟合优度与可决系数如果一个回归方程的效果很好，残差就应该很小
转载
2024-04-28 20:54:28
111阅读
Logistic回归虽然名字叫”回归” ，但却是一种分类学习方法。使用场景大概有两个：第一用来预测，第二寻找因变量的影响因素。 一 从线性回归到Logistic回归 线性回归和Logistic回归都是广义线性模型的特例。 假设有一个因变量y和一组自变量x1, x2, x3, ... , xn，其中y为连续变量，我们可以拟合一个线性方程： y =β0 +β1*x
