class sklearn.gaussian_process.GaussianProcessRegressor(
kernel=None,
*,
alpha=1e-10,
optimizer='fmin_l_bfgs_b',
n_restarts_optimizer=0,
normalize_y=False,
copy_X_tra
转载
2024-04-09 01:04:31
168阅读
高斯过程（Gaussian Processes for Regression:A Quick Introduction）
高斯过程（GP）是一种通用的监督学习方法，旨在解决回归和概率分类问题。
高斯过程在做回归时，无须假设其回归方程，
高斯过程的优点是：预测内插观察结果（至少对于常规内核）。
预测是概率（高斯），以便人们可以计算经验置信区间，并根据那些人是否应该改变（在线拟合，自适应拟合）某些感兴
转载
2023-07-28 12:53:56
119阅读
第三章随机向量第一节二维随机向量及其分布二维随机变量的定义及其分布函数n维随机向量：\(E\)是一个随机试验，其样本空间是\(\Omega =\left \{ e \right \}\)
设随机变量\(X_{1}(e),X_{2}(e),...,X_{n}(e)\)是定义在样本空间\(\Omega\)上的\(n\)个随机变量
则称向量\((X_{1}(e),X_{2}(e),...,X_{n}(e
转载
2024-09-06 20:19:40
81阅读
问题的提出我们最小二乘法是来拟合线性函数的，但是自然界更多的是非线性的现象，这就需要使用非线性的函数来拟合，在确定拟合函数的形式后，经过线性化处理，即可用最小二乘法得到拟合系数。在《概率论与数理统计教程》中给出了很多非线性的函数。双曲线函数 \(\dfrac{1}y=a+\dfrac{b}{x}\)幂函数 \(y=ax^b\)指数函数 \(y=ae^{bx}或y=ae^{\frac {b} {x}
转载
2024-05-20 22:24:06
178阅读
神经网络的预备知识 为什么要用神经网络？特征提取的高效性。 大家可能会疑惑，对于同一个分类任务，我们可以用机器学习的算法来做，为什么要用神经网络呢？大家回顾一下，一个分类任务，我们在用机器学习算法来做时，首先要明确feature和label，然后把这个数据"灌"到算法里去训练，最后保存模型，再来预测分类的准确性。但是这就有个问题，即我们需要实现确
转载
2024-04-08 22:17:39
55阅读
Java模拟高并发上传数据在这一篇博客，我会记录整个我模拟高并发的过程。一、模拟高并发初试（小菜）这个转载的代码，我自己进行尝试之后，为帮助学习，添加了易于了解的注释。import java.util.concurrent.CountDownLatch;
import java.util.concurrent.ExecutorService;
import java.util.concurrent
转载
2023-10-25 11:32:35
65阅读
文章目录一、什么是丢弃法，为什么丢弃法可以缓解过拟合？二、丢弃法的手动实现三、丢弃法的pytorch实现参考 关于过拟合、欠拟合的解释可以参考我的博文：【pytorch】过拟合和欠拟合详解，并以三阶多项式函数绘图举例 （附pytorch.cat的用法）
虽然增大训练数据集可能会减轻过拟合，但是获取额外的训练数据往往代价高昂。本篇博客将介绍应对过拟合问题的常用方法：权重衰减（weight deca
转载
2023-11-07 06:31:08
202阅读
拟合概论Gap的预测，是建立在一个拟合函数上的。也有一些机器学习的味道。总的Gap函数 = 函数(时间,地区)TimeID ： 时间片编号DistricID：地区编号Traffic：交通流量Weather：天气POI：设施数百度地图POI说明注意：每家公司的POI分类都是不同的，这里只是将百度POI做个例子，滴滴打车的POI和百度的POI定义好像是不同的。交通流量和时间有关，一个地方的拥堵程度和时
转载
2021-12-16 13:49:12
181阅读
拟合概论Gap的预测，是建立在一个拟合函数上的。也有一些机器学习的味道。总的Gap函数 = 函数
转载
2022-03-29 18:12:27
101阅读
线性回归的理解：在二维平面内，有一些数据集，分别对应的有x值和y值，然后x与y之间有对应的函数关系。而我们说的线性回归，就是拟合出一条直线段，让尽可能多的数据集在直线段附近，拟合出最好的一条线段。 描述y和x之间关系的函数表达式我们可以写为：?(?)=?0+?1?1+?2?2+…+???? 如何确定好? 的值，使得?(?) 尽可能接近y的值。均方误差是回归中常用的性能度量：找到合适的? 值，让?(
转载
2024-04-01 21:47:41
138阅读
过拟合是指在训练集上误差小，测试集上误差大；欠拟合是指在训练集和测试集上误差都大。过
原创
2022-10-31 16:07:29
274阅读
(本文是根据 neuralnetworksanddeeplearning 这本书的第三章Improving the way neural networks learn整理而成的读书笔记，根据个人口味做了删减)上一章，我们学习了改善网络训练的代价函数：交叉熵函数。今天要介绍神经网络容易遇到的过拟合（overfitting）问题，以及解决的方法：正则化（regularization）。过拟合过拟合现象
本代码通过使用Pytorch动态实现线性回归：import torchimport torch.nn.functional as Ffrom torch.autograd import Variableimport matplotlib.pyplot as plt'''先看torch.squeeze() 这个函数主要对数据的维度进行压缩，去掉维数为1的的维度，比如是一行或者一列这...
原创
2022-07-22 18:39:19
367阅读
(大部分都不是自己写的，而是看完视频再总结的过程中看到有的博客已经总结的很好了，只是拿来保存一下，非原创)复习：（x（i），y（i）） 第 i 个样本，样本总数为 m令，以参数向量为条件，对于输入x，输出为：hθ（x（i））=θTxn为特征数量最小二乘法：通过正规方程组推导的结论： 一、 过拟合与欠拟合 1、欠拟
拟合是已知点列，从整体上靠近它们，不要求曲线经过每个样本点，但要保证误差足够小 已知一组数据，寻求一个y=f(x)，使f(x)在某种准则下与所有数据点最为接近 拟合的准则是使yi与f(xi)的距离的平方和最小，称为最小二乘准则 若函数对参数线性（参数仅以一次方形式出现，且不能乘以或除以其他任何参数， ...
转载
2021-10-11 20:41:00
540阅读
2评论
泛化能力的强弱决定了模型的好坏，而影响泛化能力的则是模型的拟合问题
原创
2021-07-27 15:56:51
790阅读
过拟合：样本数量少于要估计的参数，容易造成过拟合，泛化能力会很差。欠拟合：样本数量多于要估计的参数，易造成欠拟合。
转载
2019-11-02 15:17:00
214阅读
2评论
过拟合就是学到了很多没必要的特征，比如长得像猫的狗，和长得像狗的猫。欠拟合就是训练样本被提取的特征比较少，无法高效的识别。
原创
2023-05-18 17:16:41
161阅读
过拟合（Overfitting）与欠拟合（Underfitting）是机器学习和深度学习模型中常见的两个问题，分别对应模型过于复杂和模型
原创
2024-10-10 12:11:24
226阅读
