1 什么是回归1.1 回归概念的来源“回归”是由英国著名生物学家兼统计学家高尔顿(Francis Galton,1822～1911.生物学家达尔文的表弟)在研究人类遗传问题时提出来的。为了研究父代与子代身高的关系，高尔顿搜集了1078对父亲及其儿子的身高数据。他发现这些数据的散点图大致呈直线状态，也就是说，总的趋势是父亲的身高增加时，儿子的身高也倾向于增加。但是，高尔顿对试验数据进行了深入的分析，
转载
2024-07-18 22:15:11
120阅读
1.算法描述实时的人群异常行为识别是一项极具挑战的工作，具有较高的现实意义和社会需求，快速准确地判断出异常行为并及时预警，一直是我们探索的方向。传统的机器学习算法虽然具有较好的行为识别效果，但是算法的性能严重依赖于人工设计特征，且特征的采用依赖于特定的问题，这就使得算法的泛化能力不足。卷积神经网络作为一种深度模型，因其不需要手动设计特征，可直接作用于原始输入的特性，具有更强的学习和表达能力，在图像
转载
2023-12-28 11:08:27
298阅读
广义回归神经网络 GRNN（General Regression Neural Network）广义回归神经网络是基于径向基函数神经网络的一种改进。结构分析：可以看出，这个结构与之前我们所讲过的径向基神经网络非常相似，区别就在于多了一层加和层，而去掉了隐含层与输出层的权值连接。1.输入层为向量，维度为m，样本个数为n，线性函数为传输函数。2.隐藏层与输入层全连接，层内无连接，隐藏层神经元个数与样本
转载
2023-08-16 17:21:24
427阅读
广义线性模型（GLM）首先术语广义线性模型（GLM）通常是指给定连续和/或分类预测变量的连续响应变量的常规线性回归模型。它包括多元线性回归，以及ANOVA和ANCOVA（仅具有固定效果）。形式为 yi〜N（xβ，σ2），其中xi包含已知的协变量，β包含要估计的系数。这些模型使用最小二乘和加权最小二乘拟合。术语广义线性模型（GLIM或GLM）是指由McCullagh和Nelder（1982，第二版，
转载
2024-01-26 07:08:42
128阅读
函数模型 在前面我们探讨了普通的线性回归，这次我们来讨论广义线性回归，通常也被称为 Logistic回归 ，我们先回忆一下线性回归的函数模型： 这个函数在表示的是一个直线，平面，或者超平面，不过它有致命的缺点，它在进行一个分类问题时，比如我们举一个二分类的例子，并不能很好的进行一个拟合，假如说，存在训练集得出的,,我们很难进行一个分类，并且它无法去拟合一个曲面，对于曲面，我们既想使用线性函
常见的广义线性模型有：probit模型、poisson模型、对数线性模型等等。对数线性模型里有：logistic regression、Maxinum entropy。 在二分类问题中，为什么弃用传统的线性回归模型，改用逻辑斯蒂回归？线性回归用于二分类时，首先想到下面这种形式，p是属于类别的概率：但是这时存在的问题是：1、等式两边的取值范围不同，右边是负无穷到正无穷，左边是[0,1]2、
转载
2024-04-03 07:02:17
31阅读
在线性回归问题中，我们假设，而在分类问题中，我们假设，它们都是广义线性模型的例子，而广义线性模型就是把自变量的线性预测函数当作因变量的估计值。很多模型都是基于广义线性模型的，例如，传统的线性回归模型，最大熵模型，Logistic回归，softmax回归。 指数分布族在了解广义线性模型之前，先了解一下指数分布族(the exponential family)指数分布族原型如下如果一个分布可
转载
2024-09-02 09:10:16
43阅读
假设你想要建立一个模型，根据某特征\(x\)，例如商品促销活动，近期广告，天气等来预测给定时间内顾客到达商场的数量\(y\),我们知道泊松分布可以很好的描述这个问题。那么我们怎样来建立这个问题的回归模型呢？幸运的是泊松分布是指数族分布，所以我们可以使用广义线性回归模型（GLM），本文将介绍广义线性模型来解决这个问题。 更一般的，在考虑回归和分类问题，我们需要考虑在特征\(x\)下\(y\)的值，为
转载
2023-05-18 15:28:22
110阅读
目录1.算法描述2.仿真效果预览3.MATLAB核心程序4.完整MATLAB1.算法描述 GRNN建立在非参数核回归基础上，以样本数据为后验条件，通过执行诸如Parzen非参数估计，从观测样本里求得自变量和因变量之间的联结概率密度函数之后，直接计算出因变量对自变量的回归值。GRNN不需要设定模型的形式，但是其隐回归单元的核函数中有光滑因子，它们
转载
2023-12-10 11:40:05
76阅读
1 内容介绍在本文中，基于有限增量进化和基于距离的剪枝对在线模型动态系统开发了一种进化一般回归神经网络。此外，建议使用基于方差的方法来调整 GRNN 中的平滑参数以适应在线应用。将所提出的模型与不同类型的动态神经网络进行了比较。比较中使用了具有高斯白噪声的非线性基准测试动态离散系统。在预测误差和适应所需时间方面对结果进行了比较，比较结果表明，所提出的模型比任何其他模型都更准确、更快。2 部分代码c
原创
2022-09-08 10:11:01
607阅读
1. 首先我对前面几个章节做了一个总体概述如下：其实我们前面论述的那些函数，无非可以总结成两种模式：1）:我们假设y满足高斯分布，之后我们得到了基于最小二乘的线性回归模型。 2) y 取 0
或者
1
，在这种情况下，最为自然的
0~1
之间的分布是伯努利分布，对于这种情况我们得到了逻辑回归;
最近感觉学习ml没有什么动力，所有想把sklearn的东西翻译一下，顺便加深自己对算法的理解，也是提高当前本人的英语水平(目前英语惨目忍睹(ノ=Д=)ノ┻━┻)。我会尽量按照我自己的理解来进行翻译，有错还是希望大家能够理解，希望和大家一起学习进步。1.1.广义线性回归下面的公式是一组线性回归方法，其中是目标值和真实输入值组合。在数学概念中，假设为预测值。通过这个模型，我们指定这个向量作为一次性系数
转载
2024-10-09 17:52:09
72阅读
广义回归算法的分类广义的回归算法有很多种，从用途划分有预测(即狭义回归)、分类两大类。响应变量是连续性变量，即预测算法；响应变量是类别型变量，即分类算法。
判定边界可以用方程函数表达特征可以是单个(单变量、二维空间)，也可以是多个(多变量、高维空间)。线性关系是直线(二维空间)、平面(高维空间)，非线性关系是曲线(二维空间)、曲面(高维空间)。避免模型欠拟合或者过拟合：欠拟合，准确性低
转载
2023-10-12 12:46:59
80阅读
使用Python训练回归模型并进行预测回归分析是一种常见的统计方法，用于确定不同变量间的相互关系。在Excel中可以通过数据分析菜单中的回归功能快速完成。本篇文章将介绍在python中使用机器学习库sklearn建立简单回归模型的过程。1. 准备工作首先是开始前的准备工作，在创建回归模型的过程中我们需要使用以下几个库文件，他们分别为sklearn库，numpy库，pandas库和matplotli
转载
2023-07-24 07:58:52
226阅读
看了Andrew Ng 关于广义线性模型这内容的视频，对概念还是有点模糊。只不过Andrew Ng的推导顺序和这篇文章是相反的，但还是同一个原理。下面我摘了这篇文章关于广义线性回归的内容。关于softmax的内容可以参考这篇文章http://ufldl.stanford.edu/wiki/index.php/Softmax%E5%9B%9E%
转载
2024-08-22 14:59:44
36阅读
# 广义可加模型（GAM）在回归中的实现
广义可加模型（Generalized Additive Model，简称GAM）是一种灵活的回归模型，适用于处理非线性关系和高维数据。它结合了线性模型的优点与非参数模型的灵活性，特别适合处理复杂的关系和分布。在这篇文章中，我们将学习如何使用Python实现广义可加模型，并通过代码示例进行说明。
## 什么是广义可加模型？
广义可加模型是一类半参数模
动机BN是在小批数据中用均值和方差归一化，能够保证很深的网络能够收敛，但是BN需要足够大的batch size，比较小的batch对批量数据的统计特征估算不准确，降低BN的batch size 就会提升模型误差。Group的思想有很多：AlexNet将模型部署到两块GPU；ResNeXt测试了depth、width、groups对网络的效果，建议在相似计算消耗的前提下，较大的group
转载
2024-06-28 15:53:53
46阅读
利用广义线性模型实现的分类——Logistic回归作者：王 歌
利用广义线性模型实现线性回归以及它的正则化——岭回归和LASSO回归，它们解决的都是对连续数值进行预测的回归问题，其实我们还可以利用回归的思想来解决分类问题，这就是我们今天要介绍的Logistic回归。一、算法原理1.模型形式——利用Sigmoid函数Logistic回归适用于数值型或标称型（目标变量的结果只在有限目标集
转载
2023-12-12 16:31:21
1080阅读
通常是由输入层、模式层、求和层和输出层构成。输入层作用是将样本数据传送到模式层且不运行计算，输入向量的维
原创
2022-09-24 01:02:31
140阅读
0 摘要 张量因子tensor factorization分解方法在时空数据分析领域很受欢迎，因为它们能够处理多种类型的时空数据，处理缺失值，并提供计算效率高的参数估计程序。 然而，现有的张量因子分解方法并没有尝
