在进行交叉验证之前，很自然地说“我会预烧 50%（比如说）我的数据来训练一个模型，然后用
原创
2022-05-31 10:24:31
10000+阅读
研究大纲介绍数据集和研究的目标 探索数据集 可视化 使用Chi-Square独立检验、Cramer's V检验和GoodmanKruskal tau值对数据集进行探索 预测模型，Logisitic回归和RandomForest 两个逻辑回归的实例 使用5折交叉验证对模型实例进行评估 变量选择改进 step() bestglm() 随机森林模型
原创
2021-07-01 17:23:50
2029阅读
在进行交叉验证之前，很自然地说“我会预烧 50%（比如说）我的数据来训练一个模型，然后用剩下的来拟合模型”。例如，我们可以使用训练数据
原创
2022-07-25 12:16:38
125阅读
在进行交叉验证之前，很自然地说“我会预烧 50%（比如说）我的数据来训练一个模型，然后用剩下的来拟合模型”。例如，我们可以使用训练数据进行变量选择（例如，在逻辑回归中使用一些逐步过程），然后，一旦选择了变量，就将模型拟合到剩余的观察集上。一个自然的问题通常是“这真的重要吗？”。为了可视化这个问题，考虑我的（简单）数据集使用心脏病数据，预测急诊病人的心肌梗死，包含变量：心
原创
2022-11-07 09:55:32
160阅读
研究大纲介绍数据集和研究的目标 探索数据集 可视化 使用Chi-Square独立检验、Cramer's V检验和GoodmanKruskal tau值对数据集进行探索 预测模型，Logisitic回归和RandomForest 两个逻辑回归的实例 使用5折交叉验证对模型实例进行评估 变量选择改进 step() bestglm() 随机森林模型
原创
2021-07-01 17:23:08
646阅读
研究大纲介绍数据集和研究的目标探索数据集
可视化使用Chi-Square独立检验、Cramer's V检验和GoodmanKruskal tau值对数据集进行探索预测模型，Logisitic回归和RandomForest
两个逻辑回归的实例使用5折交叉验证对模型实例进行评估变量选择改进
step()bestglm()随机森林模型用RandomForest和Logisitc回归进行预测使
原创
2022-11-07 13:43:16
321阅读
scikit-learn 是 Python 非常强大的一个做机器学习的包，今天介绍scikit-learn 里几个常用的分类器
SVM, KNN 和 logistic regression，用来做笑脸识别。
这里用到的是GENKI4K 这个数据库，每张图像先做一个人脸检测与剪切，然后提取HOG特征。这个数据库有 4000 张图，分成4组，做一个 cross validation，取平均值作为最
转载
2016-10-29 12:03:00
119阅读
2评论
本报告是对心脏研究的机器学习/数据科学调查分析。更具体地说，我们的目标是在心脏研究的数据集上建立一些预测模型，并建立探索性和建模方法。但什么是心脏研究？研究大纲介绍数据集和研究的目标探索数据集可视化使用Chi-Square独立检验、Cramer's V检验和GoodmanKruskal tau值对数据集进行探索预测模型，Logisitic回归和RandomForeststep()bestglm()
原创
2022-11-10 16:18:57
612阅读
心脏研究是对社区自由生活的人群中心血管疾病病因的长期前瞻性研究。心脏研究是流烟者。每天抽的烟的数量。
原创
2022-10-23 02:50:31
549阅读
线性回归（Linear Regression） 给定一些数据，{（x1，y1），（x2，y2）…（xn，yn） }，x的值来预测y的值，通常地，y的值是连续的就是回归问题，y的值是离散的就叫分类问题。 高尔顿的发现，身高的例子就是回归的典型模型。 线性回归可以对样本是线性的，也可以对样本是非线性的，
翻译
2018-07-25 16:03:00
289阅读
2评论
书接上文。
不愿露名的笨马：【机器学习-回归】梯度下降(SGD/BGD/MBGD)zhuanlan.zhihu.com
这一节我们主要考虑矩阵形式。考虑BGD的情形。BGD情形下，全体样本损失函数： 进一步，有： 为求其最小值，应有偏导数为0： 化简，即有： 注：不会矩阵求导的萌新可以点开这个链接： 到这里我们发现，模型的
线性回归虽然是机器学习中，可以说是最简单的一个模型了，理他最基本的形式通常来说确实比较容易，但是其实如果扩展开来，其实还有很多了解的。线性回归，局部加权线性回归，lasso回归，岭回归，SMO算法，logistics回归(逻辑回归)，softmax回归等等。更进一步，KL散度，协方差矩阵，相关系数，置信度，对比散度等等。线性回归对于最简单的线性回归，我认为就是一个单层的，没有激活函数的全连接神经网
转载
2024-03-19 06:58:56
163阅读
一、线性回归1.概述：什么是回归问题：对于一组训练集（输入and对应的输出），通过回归算法拟合出一条直线（or曲线）通过该曲线可以有效预测出未知数据对应的输出。例如下图： 2.具体方法：共m个数据，每个数据n个特征 ①随机形成一条直线（or曲线，以直线举例） ②对于每一个训练值，求
转载
2024-05-07 20:11:27
232阅读
Kaggle 网站（https://www.kaggle.com/）成立于 2010 年，是当下最流行的进行数据发掘和预测模型竞赛的在线平台。 与 Kaggle 合作的公司可以在网站上提出一个问题或者目标，同时提供相关数据，来自世界各地的计算机科学家、统计学家和建模爱好者， 将受领任务，通过比较模型的某些性能参数，角逐出优胜者。 通过大量的比赛，一系列优秀的数据挖掘模型脱颖而出，受到广大建模者的认
转载
2024-02-29 09:37:01
176阅读
表面理解的线性对于给定的一组输入值x和输出值y，我们假定其关系为线性的，就会得出： y = kx+b，即我们在大学前接触到的最基本的线性方程，只要我们求出k和b来，就可以求出整条直线上的点，这就是很多人认为的线性： 简单来说很多人认为：线性回归模型假设输入数据和预测结果遵循一条直线的关系但是，这种理解是一叶障目。线性的含义线性回归模型是：利用线性函数对一个或多个自变量 （x 或 (x1,x2,…x
转载
2024-02-27 21:34:33
237阅读
回归问题 回归分析用于预测输入量变（自变量）和输出变量（因变量）之间的关系，特别是当输入变量的值发生变化时，输出变量值随之发生变化。只管来说回归问题等价于函数拟合，选择一条函数曲线使其很好的拟合已知数据且很好的预测未知数据。 回归分析根据自变量个数分为【一元回归分析与多元回归分析】，根据自变量与因变量关系分为【线性回归分析与非线性回归分析】，根据因变量个数分为【简单回归分析与多重回归分析】1.线性
转载
2024-07-06 04:59:34
63阅读
前言AdaBost算法是Boosting族算法最著名的代表。这一族算法的工作机制也是很类似的：先从初始训练集训练处一个基学习器，再根据基学习器的表现对训练样本分布进行调整，使得先前基学习器做错的训练样本在后续收到更多关注，然后基于调整之后的的样本分布来训练下一个基学习器；日此往复，直至基学习器数目达到事先指定的值T，最终将这T个基学习器进行加权组合。 由于这里重点介绍的是AdsBoost算法，接
在线性感知器算法中，我们使用了一个f(x)=x函数，作为激励函数，而在逻辑斯蒂回归中，我们将会采用sigmoid函数作为激励函数，所以它被称为sigmoid回归也叫对数几率回归（logistic regression），需要注意的是，虽然它的名字中带有回归，但事实上它并不是一种回归算法，而是一种分类算法。它的优点是，它是直接对分类的可能性进行建模的，无需事先假设数据分布，这样就避免了假设分布不准确
转载
2024-08-09 10:16:58
50阅读
这一节主要介绍以下使用XGBoost算法再CPU/GPU版本下代码的编写基本流程，主要分为以下几个部分：构造训练集/验证算法参数设置XGBoost模型训练/验证模型预测本节主要面对的任务场景是回归任务，有关多分类的任务见：XGBoost–4–代码编写基本流程–分类另外，除上述几个部分外，会涉及到sklearn用于加载数据集以及最后的模型预测的评价指标计算；导入使用到的库：import time
i
转载
2024-03-28 12:15:07
134阅读
一、图示两种方式的不同LN：Layer Normalization，LN是“横”着来的，对一个样本，不同的神经元neuron间做归一化。BN：Batch Normalization，BN是“竖”着来的，各个维度做归一化，所以与batch size有关系。二者提出的目的都是为了加快模型收敛，减少训练时间。二、BN解决网络中的Convariate Shift问题 批标准化（Bact
转载
2024-05-09 21:43:09
32阅读
