机器学习基本算法总结☞监督学习——回归
代码在这，基于python3（原书代码是python2）这里只是一个总结，原书已经讲解很清楚了，不清楚的直接看代码目录1.预测数值型数据：回归2.树回归==========================一、预测数值型数据：回归1.线性回归最佳拟合———————————————————————————————————- - 优点：结果易于理解，计算上不复
转载
2024-08-12 15:26:42
189阅读
1.什么是计量经济学？它与经济学、统计学和数学的关系怎样？答:1、计量经济学是一门运用经济理论和统计技术来分析经济数据的科学和艺术，它以经济理论为指导，以客观事实为依据，运用数学、统计学的方法和计算机技术，研究带有随机影响的经济变量之间的数量关系和规律。2、经济理论、数学和统计学知识是在计量经济学这一领域进行研究的必要前提，这三者中的每一个对于真正理解现代经济生活中的数量关系是必要的，但不充分，只
目录1 线性回归找最佳拟合直线2 局部加权线性回归3 示例：预测鲍鱼的年龄 前面我们介绍了分类，分类的目标变量是标称型数据，而本章将会对连续型的数据做出预测，也就是我们的回归任务。 1 线性回归找最佳拟合直线回归的目的是预测数值型的目标值。直接的办法是依据输入写出一个目标值的计算公式。假如你想要预测姐姐男友汽车的功率大小，可能会这么计算： 这就是所谓的回归方程（regression equat
转载
2024-05-06 13:19:35
66阅读
相关表和相关图可反映两个变量之间的相互关系及其相关方向，但无法确切地表明两个变量之间相关的程度。相关系数是用以反映变量之间相关关系密切程度的统计指标。 从协方差出发，了解相关系数的真实含义和数学计算。
期望值分别为E[X]与E[Y]的两个实随机变量X与Y之间的协方差Cov(X,Y)定义为：从直观上来看，协方差表示的是两个变量总体误差的期望。如果两个
转载
2024-03-15 10:23:45
50阅读
文章目录一、基本思想二、数学推导1.二分类2.多分类（1）一对一（2）一对其余（3）多对多三、sklearn包中的LogisticRegression1.参数解释2.属性解释3.方法解释四、实例1.数据来源2.数据概况3.代码实现 一、基本思想的实数预测值转化为之间的值，并视该值为正反例的概率对类别进行预测。二、数学推导1.二分类 对数几率函数(logistic function) 其中，，表
Part1描述统计描述统计是通过图表或数学方法，对数据资料进行整理、分析，并对数据的分布状态、数字特征和随机变量之间关系进行估计和描述的方法。描述统计分为集中趋势分析和离中趋势分析和相关分析三大部分。集中趋势分析：集中趋势分析主要靠平均数、中数、众数等统计指标来表示数据的集中趋势。例如被试的平均成绩多少？是正偏分布还是负偏分布？离中趋势分析：离中趋势分析主要靠全距、四分差、平均差、方差（协方差：用
转载
2024-08-05 11:56:04
156阅读
利用Logistic回归进行分类的主要思想是，根据现有数据对分类边界建立回归公式，以此进行分类。这里的回归表示要找到最佳拟合参数集。训练分类器就是要寻找最佳拟合参数。优点：计算代价不高、易于理解实现
缺点：容易欠拟合、分类精度可能不高
使用数据类型：数值型和标称型 Sigmoid函数：能够接受所有的输入然后预测出类别，在两个类的情况下，输出0或1。计算公式f(x)=1/(1+e^-x)。当x为0时
转载
2024-07-03 20:44:58
91阅读
方差是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。统计中的方差（样本方差）是每个样本值与全体样本值的平均数之差的平方值的平均数。在许多实际问题中，研究方差即偏离程度有着重要意义。 在统计描述中，方差用来计算每一个变量（观察值）与总体均数之间的差异。为避免出现离均差总和为零，离均差平方和受样本含量的影响，统计学
转载
2024-05-09 13:41:11
371阅读
个人认为主要有两个原因。原因一：为了让估计出的回归系数是无偏估计。总体参数的估计值必须符合一些好的特性才行，比如无偏性，相合性（一致性），有效性之类的，否则你的估计值就是瞎猜。如果假定误差均值为零，则最小二乘估计出来的回归系数就是无偏的。一个估计量并不是说无偏就一定好，也可以有偏。如果有偏，只要它和无偏估计量相比较“均方误差”更小，则我们就可以选用有偏的估计量。比如岭回归得到的回归系数就是有偏估计
转载
2024-02-24 16:59:30
382阅读
回归问题的条件/前提：
1） 收集的数据 2） 假设的模型，即一个函数，这个函数里含有未知的参数，通过学习，可以估计出参数。然后利用这个模型去预测/分类新的数据。 1. 线性回归 假设 特征 和 结果 都满足线性。即不大于一次方。这个是针对 收集的数据而言。 收集的数据中，每一个分量，就可以看做一个特征数据。每个特征至少对应一个未知的参数。这样就形成了一个线性模型函数，向量表示形式：
转载
2024-08-01 13:41:39
52阅读
（ESL把线性回归讲的非常丰富，真的开阔视野） 目录3.2 线性回归模型的最小二乘法3.2.2 高斯-马尔可夫定理3.2.3 从简单单变量回归到多重回归3.2.4 多输出3.3 子集选择3.3.1 最优子集选择3.3.2 向前和向后逐步选择3.3.3 向前分段回归3.4 收缩方法3.4.1 岭回归Lasso Regression3.4.2 Lasso回归3.4.3 讨论：子集的选择，岭回归，Las
转载
2024-07-24 20:34:17
101阅读
数据的回归与分类分析目录数据的回归与分类分析一、线性回归练习二、线性回归方法的有效性判别三、python和anaconda的安装四、鸢尾花数据集使用SVM线性分类一、线性回归练习1.父亲-孩子x-y线性回归方程删除重复选项：在数据分析中选择回归：结果：方程为y=0.2978x+49.15。其中决定系数为1，说明有极高的相关性。如果父亲身高75，孩子身高为71.485英寸同理，母亲的回归方程：方程为
转载
2024-02-27 16:04:52
71阅读
前言之前对什么是逻辑回归，以及它的公式由来做了说明。在明确了该分类器的函数式后，那么最佳的回归系数是多少呢？这是值得思考的问题，本篇博客将会对这个问题进行探讨。回顾逻辑回归公式逻辑回归 = 线性回归 + sigmoid函数线性回归： z = w*x + bsigmoid函数：y = 逻辑回归：y = 对于sigmoid函数，其输入z =
转载
2024-04-08 06:42:33
83阅读
经典的实验性研究是随机对照试验，通过随机化实现组别之间的均衡可比，在这种情况下，基本统计学方法比如t、卡方检验便能够帮助我们证明干预措施的效果。然而，观察性研究是非干预性研究，比较的组别之间一般不会均衡可比，为此，往往需要借助复杂的统计学来达到研究目的。 从实验性研究的统计策略转换到观察性研究的统计策略前，我们需要了解医学研究统计分析的两个研究目的及其内在统一性，即差异性与相关性。我们在实验性
转载
2024-04-04 11:40:19
99阅读
回归与聚类算法1 线性回归2 欠拟合与过拟合3 岭回归4 逻辑回归5 模型保存与加载6 K-means算法（无监督学习） 1 线性回归原理 线性回归的损失和优化 API什么是线性回归？ 线性回归线性回归是利用回归方程（函数）对一个或多个自变量（特征值）和因变量（目标值）之间关系进行建模的一种分析方式线性模型： 自变量是一次方 参数是一次方损失函数/cost/成本函数/目标函数 最小二乘法 优化损
转载
2024-09-07 17:41:26
36阅读
数字PCR是继实时荧光定量PCR之后新兴的一种核酸绝对定量分析技能。数字PCR的实际检测过程中，却发现许多情况下的准确性未达到试验的预期，到底哪些因素会影响其检测成果的准确性？经过将含有样本的数字PCR反响液涣散到不计其数个独立的微单元中，在PCR扩增后对每个微单元中的荧光信号进行判读，计算出阴性和阳性的数量，最终利用泊松分布等统计学公式和软件对结果进行计算分析，然后完成靶标分子的绝对定量。数字P
第七章 深度学习中的正则化机器学习中的一个核心问题是设计不仅在训练数据上表现好，并且能在新输入上泛化好的算法。 在机器学习中，许多策略显式地被设计来减少测试误差（可能会以增大训练误差为代价）。这些策略被统称为正则化。++++++++++++++++【补充】+++++++++++++++++++++ 前面使用多项式回归，如果多项式最高次项比较大，模型就容易出现过拟合。正则化是一种常见的防止过拟合的
转载
2024-09-22 11:29:39
231阅读
python 逻辑回归(Logistic Regression in Python - Introduction)Logistic Regression is a statistical method of classification of objects. This chapter will give an introduction to logistic regression wi
转载
2024-06-07 08:55:06
9阅读
## Java回归系数
回归分析是统计学中的一种重要方法，用于研究变量之间的关系。在回归分析中，回归系数是描述自变量对因变量的影响程度的指标。对于线性回归模型，回归系数表示自变量每单位变化对因变量的平均影响。本文将介绍Java中回归系数的计算方法和应用场景。
### 什么是回归系数
回归系数是用于描述因变量和自变量之间关系的数值。在线性回归模型中，回归方程可以表示为：
```
Y = β0
原创
2023-10-16 13:53:03
53阅读
线性模型的正则化正如我们在第一和第二章看到的那样，降低模型的过拟合的好方法是正则化这个模型（即限制它）：模型有越少的自由度，就越难以拟合数据。例如，正则化一个多项式模型，一个简单的方法就是减少多项式的阶数。对于一个线性模型，正则化的典型实现就是约束模型中参数的权重。 接下来我们将介绍三种不同约束权重的方法：Ridge回归，Lasso回归和Elastic Net。岭回归(Ridge):(L2正则)岭
