文章目录超参数的设定1.权重初始化。2.
η
\eta
η3.规范化参数4.小批量数据大小(minibatch)5.
转载
2024-04-22 21:39:18
147阅读
代码来源：http://f.dataguru.cn/thread-878564-1-1.html（土匪加步枪）侵删因为最近在做GPR和Bayesian optimization，需要调用python相关库，于是上网找了网友的代码参考，感谢绿色部分为我的查阅资料内容，是对GPR相关方法的解读，可以直接当成注释看# -*- coding: utf-8 -*-
#高斯过程回归，首先要判断，所求的是否满
转载
2024-01-16 23:18:43
120阅读
线性回归与逻辑回归线性回归LinearRegression逻辑回归LogisticRegression正则化选择参数：penalty优化算法选择参数：solver补充建议先了解一下相关基础内容 线性回归LinearRegression回归Regression是监督学习的一个重要问题，回归用于预测输入变量和输出变量之间的关系，特别是当输入变量的值发生变化时，输出变量的值也随之发生变化。回归模型正是
转载
2024-06-14 12:50:53
99阅读
本文的参考资料：《Python数据科学手册》； 本文的源代上传到了Gitee上；本文用到的包：%matplotlib inline
import numpy as np
import pandas as pd
import seaborn as sns
import matplotlib.pyplot as plt
from matplotlib.patches import Ellipse
f
转载
2024-01-08 13:54:46
167阅读
浅谈高斯过程回归2016年04月10日 12:37:26 Tsroad 阅读数：10694 标签： 高斯过程回归 收起个人分类： 机器学习转自：网上讲高斯过程回归的文章很少，且往往从高斯过程讲起，我比较不以为然：高斯过程回归（GPR）， 终究是个离散的事情，用连续的高斯过程( GP) 来阐述，简直是杀鸡用牛刀。所以我们这次直接从离散的问题搞起，然后把高斯过程逆推出来。 这篇博客有两个彩蛋，一个是
转载
2024-04-25 20:16:56
26阅读
sklearn应用线性回归算法Scikit-learn 简称 sklearn 是基于 Python 语言实现的机器学习算法库，它包含了常用的机器学习算法，比如回归、分类、聚类、支持向量机、随机森林等等。同时，它使用 NumPy 库进行高效的科学计算，比如线性代数、矩阵等等。Scikit-learn 是 GitHub 上最受欢迎的机器学习库之一，其最新版本是 2020 年12 月发布的 scikit
转载
2024-02-21 12:42:08
24阅读
先上公式推导吓吓萌新。。。嘻嘻上图中两个决策边界（虚线）的间隔为,可以把它看做求两条平行直线的距离，只是这里是超直线罢了，例如：两平行线方程分别是：Ax+By+C1=0和Ax+By+C2=0则它们之间的距离,这里的x,y写成向量形式就是x={x,y},w={A,B}. 官网地址：https://scikit-learn.org/stable/modules/classes.html#mo
转载
2024-03-13 21:48:49
89阅读
逻辑回归分析概述在实际的数据挖掘中，站在预测类问题的角度来看，除了需要预测连续型的因变量，还需要预判离散型的因变量。对于连续性变量的预测，例如，如何根据产品的市场价格、广告力度、销售渠道等因素预测利润的高低、基于患者的各种身体指标预测其病症的发展趋势等，基本上可以借助于多元线性回归模型、零回归模型或LASSO回归模型来解决；而对于离散型变量的判别，例如，某件商品在接下来的1个月内是否被销售、根据人
转载
2024-05-07 19:19:41
58阅读
官方英文文档地址：http://scikit-learn.org/dev/modules/generated/sklearn.linear_model.LogisticRegression.html#sklearn.linear_model.LogisticRegression导包：from sklearn.linear_model import LogisticRegression使用：clas
转载
2024-03-10 11:54:24
60阅读
一、Logistic回归的认知与应用场景Logistic回归为概率型非线性回归模型，是研究二分类观察结果与一些影响因素之间关系的一种多变量分析方法。通常的问题是，研究某些因素条件下某个结果是否发生，比如医学中根据病人的一些症状来判断它是否患有某种病。二、LR分类器LR分类器，即Logistic Regression Classifier。在分类情形下，经过学习后的LR分类器是一组权值，当测试样本的
转载
2024-06-26 10:34:18
94阅读
回归树重要参数，属性和接口【1】criterion【2】交叉验证cross_val_score【3】实例：一维回归的图像绘制绘制图像 重要参数，属性和接口class sklearn.tree.DecisionTreeClassifier(criterion='mse'
,splitter="random"
转载
2024-06-09 17:10:59
83阅读
简单线性回归线性回归是数据挖掘中的基础算法之一，从某种意义上来说，在学习函数的时候已经开始接触线性回归了，只不过那时候并没有涉及到误差项。线性回归的思想其实就是解一组方程，得到回归函数，不过在出现误差项之后，方程的解法就存在了改变，一般使用最小二乘法进行计算。使用sklearn.linear_model.LinearRegression进行线性回归sklearn对Data Mining的各类算法已
转载
2024-05-14 22:34:03
33阅读
这里我们将对波士顿房价的原始数据进行处理，在数据中人为添加一些缺失值，然后根据分三种情况：①用0填补缺失值，②均值填补，③用随机森林填补，之后分别构建随机森林回归，计算MSE，并做可视化。1.导入相应包import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.datasets import
转载
2024-04-22 10:32:22
38阅读
线性回归线性回归(Linear Regression)是利用数理统计中回归分析， 来确定两种或两种以上变量间相互依赖的定量关系的一种统计分 析方法。线性回归利用称为线性回归方程的最小平方函数对一个或多个自 变量和因变量之间关系进行建模。这种函数是一个或多个称为回 归系数的模型参数的线性组合。只有一个自变量的情况称为简单 回归,大于一个自变量情况的叫做多元回归。线性回归：使用形如y=wTx+b 的线
转载
2024-02-25 05:09:01
61阅读
一句话：逻辑回归假设数据服从伯努利分布,通过极大化似然函数的方法，运用梯度下降来求解参数，来达到将数据二分类的目的。 假设的伯努利分布的形式
我们需要知道，有监督模型从整体上可以分为判别式模型和生成式模型，而判别式模型又可以分为概率判别式模型和常规的判别式模型，前者以逻辑回归为典型，后者则常见的决策树系列均是这个类型，概率判别式模型假设了输入x和输出y之间的条件概率分布P(y
转载
2024-06-12 21:56:08
46阅读
什么是回归？优点：结果易于理解，计算上不复杂。 缺点：对非线性的数据拟合不好。 适用数据类型：数值型和标称型数据。使用算法：使用回归，可以在给定输入的时候预测出一个数值，这是对分类方法的提升，因为这样可以预测连续型数据而不仅仅是离散的类别标签回归的一般方法： （1）收集数据：采用任意方法收集数据； （2）准备数据：回归需要数值型数据，标称型数据将被转换成二值型数据； （3）分
转载
2024-05-31 23:49:39
38阅读
常用算法在Sklearn中的关键参数详解回归算法线性回归算法from sklearn.linear_model import LinearRegression
LinearRegression(fit_intercept=True,normalize=False,copy_X=True,n_jobs=1)
'''
参数含义：
1.fit_intercept:布尔值，指定是否需要计算线性回归中
转载
2024-02-09 09:45:50
120阅读
目的本文使用Python的sklearn类库，基于对机器学习线性回归算法的理论学习，利用sklearn中集成的波士顿房价数据，以此来对线性回归的理论知识进行一次实践总结。本文不以预测的准确率为目的，只是简单的对机器学习的线性回归等理论知识进行一次实践总结，以此来体验下sklearn类库的使用方法。美国波士顿房价的数据集是sklearn里面默认的数据集，sklearn内置的数据集都位于dataset
转载
2024-03-28 09:01:17
0阅读
高斯判别分析基本原理算法详解GDA和逻辑回归 基本原理在二分类中逻辑回归是通过不断优化参数，找到最合适的分类界限。而高斯判别分析法采用先通过数据特征建立类别模型，然后在寻找分界线分类。 简单来说我们要进行区分猫和狗，逻辑回归分析法就是找到猫和狗的分界线，当新的猫狗要判断这种方法只会确定猫狗在分界线的那一边，也就说它并不能解释什么是猫什么是狗。而高斯判别分析是一种生成学习方法，通过猫狗的数据，建立
转载
2024-03-01 12:08:13
60阅读
高斯过程回归(GPR)a基本原理：利用高斯过程回归将可能的数据趋势曲线都保存下来（每条趋势曲线都有自己的置信度，在区间内呈高斯分布），最后在一张图中显示出来，再判断总体的趋势情况。b算法原理：高斯过程GP 高斯过程回归GPR核函数Kernel支持向量机（SVM）通过某非线性变换 φ( x) ，将输入空间映射到高维特征空间。特征空间的维数可能非常高。如果支持向量机的求解只用到内积运算，而在
转载
2023-09-11 15:45:37
306阅读
