千寻22的博客_机器学习

SVM支持向量机算法介绍

如果你是一名模式识别专业的研究生，又或者你是机器学习爱好者，SVM是一个你避不开的问题。如果你只是有一堆数

svm

算法

约束条件

优化问题

最优解

原创 10月前 149 阅读

机器学习中的范数规则化之 L0、L1与L2范数

今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家，我将这个五个部分分成两篇博文。知识有限，以下都是我一些浅显的看法，如果理解存在错误，希望大家不吝指正。谢谢。 &

机器学习

正则化

过拟合

拟合

最小化

转载 2023-02-08 01:16:40 200 阅读

利用sklearn实现k近邻法算法

简介：近邻法（，）是一种基本分类与回归方法，它的原理是，对给定的训练数据集，对新的输入实例，在训练数据集中找到与该实例最近邻的个实例，依据“少数服从多数”的原则，根据这个实例中占多数的类，就把该实例分为这个类。从上面简介可以看出，算法实际上是利用训练数据集对特征空间进行划分。在分类方法中，值的选择、实例之间距离的度量及分类决策规则是近邻法的三个基本要素。近邻算法计算过程：

k近邻

sklearn

决策规则

数据集

权值

转载 2022-12-29 13:08:47 80 阅读

利用sklearn实现感知机（perceptron）算法

一、感知机（perceptron）感知机简介：感知机（perceptron）是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面。感知机是一种线性分类模型。感知机实际上表示为输入空间到输出空间的映射函数，如下所示：其中，和称为感知机的

sklearn

感知机

正例

测试数据

转载 2022-12-29 13:04:38 481 阅读

隐马尔可夫模型

本文是《统计学习方法》第10章的笔记，用一段167行的Python代码实现了隐马模型观测序列的生成、前向后向算法、Baum-Welch无监督训练、维特比算法。公式与代码相互对照，循序渐进。HMM算是个特别常见的模型，早在我没有挖ML这个坑的时候，就已经在用HMM做基于字符序列标注的分词和词性标注了，甚至照葫芦画瓢实现了一个2阶的HMM分词器。但我的理解仅仅停留在“前向算法”“Viterbi”等层次

隐马尔可夫

hmm

数据

递推

Python

转载 2022-12-29 13:03:50 234 阅读

统计学习方法---

4、朴素贝叶斯法http://www

python

统计学习方法学习

统计学习方法

统计学

html

转载 2022-11-14 23:05:53 83 阅读

数据挖掘之关联分析

数据挖掘之关联分析一（基本概念）数据挖掘之关联分析二（频繁项集的产生）数据挖掘之关联分析三（规则的产生）数据挖掘之关联分析四（连续属性处理）数据挖掘之关联分析五（序列模式）数据挖掘之关联分析六（子图模式）数据挖掘之关联分

数据挖掘

关联分析

频繁模式

转载 2022-11-14 23:05:26 62 阅读

机器学习面试要点总结

1、说到xgboost，不得不说g

总结

机器学习面试

javascript

用户画像

原创 2022-11-14 23:04:58 82 阅读

深入浅出K-Means算法

摘要：在数据挖掘中，K-Means算法是一种 clu

k-means

算法

聚类

数据

取值

转载 2022-11-14 23:04:46 84 阅读

GBDT（MART）迭代决策树入门教程

GBDT(Gradient Boosting Decision Tree) 又叫 MART（Multiple Additive Regression Tree)，是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论累加起来做最终答案。回归决策树。它在被提出之初就和SVM一起被认为是泛化能力（generaliza

GBDT

回归

决策树

子节点

搜索

转载 2022-10-11 20:51:56 58 阅读

文本相识度算法（余弦相似性、简单共有词、编辑距离、SimHash、汉明距离、Jaccard相似性系数、欧几里得距离、曼哈顿距离）

文本相似度计算在信息检索、数据挖掘、机器翻译、文档复制检测等领域有着广泛的应用。比如舆论控制，我们假设你开发了一个微博网站，并且已经把世界上骂人的句子都已经收录进了数据库，那么当一个用户发微博时会先跟骂人句子的数据库进行比较，如果符合里面的句子就不让用户发出。通常情况下，很多工程师就会想到用like或者where的sql语法去查找。可是当情况更为复杂呢？数据库存放了“你是个坏人”，用户要发“

余弦相似性

简单共有词

编辑距离

SimHash

汉明距离

转载 2022-09-27 09:55:15 3130 阅读 1点赞 1收藏

余弦方法计算相似度算法--Python实现 Java实现

x

余弦方法计算相似度算法

Java

实现

python

java

转载 2022-09-27 09:55:03 394 阅读

机器学习中的各种距离

可夫斯基距离

机器学习

距离

曼哈顿距离

欧氏距离

切比雪夫距离

转载 2022-09-27 09:40:14 73 阅读

xgboost原理及应用

1.背景关于xgboost的原理网络上的资源很少，大多数还停留在应用层面，本文通过学习陈天奇博士的PPT地址和xgboost导读和实战地址，希望对xgboost原理进行深入理解。2.xgboost vs gbdt 说到xgboost，不得不说gbdt。了解gbdt（梯度提升树）可以看我这篇文章地址，g

xgboost

原理

应用

权重

lua

转载 2022-09-27 09:39:31 203 阅读

主成分分析（PCA）原理详解

pca

主成分分析

数据

特征向量

特征值

转载 2022-09-27 09:35:10 862 阅读

奇异值分解(SVD)、主成分分析(PCA)、潜在语义索引(LSI)

下面谈谈...

svd

奇异值

LSI

方差

特征值

转载 2022-09-27 09:34:26 398 阅读

58同城推荐系统架构设计与实现-top100summit

2014年11月21日，58同城将在top100summit峰会的“架构设计专场”分享“58同城推荐系统架构设计与实现”，本文是对分享主题的一个“简要”的介绍。主题58同城推荐系统架构设计与实现一、推荐系统架构介绍推荐系统是一个微庞大的工程、算法与业务综合的系统，其主要分为三大子系统：1）线下推荐子系统；2）线上推荐子系统；3）效果评估子系统；后文将重点讨论以上三大子系统的设计与实现。二、线下推荐

推荐系统

架构

数据

58同城

转载 2022-09-27 09:27:54 248 阅读

如何理解主元分析（PCA）？

原文 https://mp.weixin.qq.com/s/oqnb8yv0bJ__OLpcBSvtVg

pca

转载 2022-09-27 09:23:54 43 阅读

理解LSTM网络

原文：https://www.jianshu.com/p/9dc9f41f0b29理解原文的关键在于理解，三个门（忘记门，输入门，输出门）和细胞状态的更新。

RNN

LSTM

转载 2022-09-27 09:23:40 35 阅读

FM（Factorization Machines ）特征处理

博客链接：知乎，讲解的比较好 https://zhuanlan.zhihu.com/p/37963267FM/FFM算法https://zhuanlan.zhihu.com/p/34564014工具包：xlearnhttps://github.com/aksnzhy/xlearn

FM

推荐系统

javascript

工程实践

知乎

转载 2022-09-27 09:23:21 73 阅读

机器学习：什么是欠拟合和过拟合

1. 什么是欠拟合和过拟合先看三张图片，这三张图片是线性回归模型拟合的函数和训练集的关系第一张图片拟合的函数和训练集误差较大，我们称这种情况为欠拟合第二张图片拟合的函数和训练集误差较小，我们称这种情况为合适拟合第三张图片拟合的函数完美的匹配训练集数据，我们称这种情况为过拟合类似的，对于逻辑回归同样也存在欠拟合和过拟合问题

机器学习

欠拟合

过拟合

拟合

正则化

原创 2022-09-27 09:22:02 216 阅读

数学基础

学如何理解协方差、相关系数和点积？ https://www.mat...

数学

程序猿数学

html

线性代数

最小二乘法

转载 2022-09-22 23:31:59 85 阅读

Kaggle案例之泰坦尼克船员幸存预测

无意间在网易云课堂上找了一个Kaggle案例

泰坦尼克船员幸存预测

kaggle

数据集

交叉验证

特征工程

转载 2022-09-22 23:30:40 244 阅读

xgboost相比传统gbdt有何不同？xgboost为什么快？如何支持并行？

传统GBDT以CART作为基分类器，xgboost还支持线性分类器，这个时候xgboost相当于带L1和L2正则化项的逻辑斯蒂回归（分类问代价函数里加入了正则项，用于...

gbdt

xgboost

迭代

割点

代价函数

转载 2022-09-18 02:28:09 252 阅读

机器学习算法-朴素贝叶斯分类

先上问题吧，我们统计了14天的气象数据(指标包括outlook，te

机器学习算法

朴素贝叶斯分类

朴素贝叶斯

数据

取值

转载 2022-09-12 00:12:00 433 阅读

centos6.9 安装tensorflow心得体会

综述：centos安装tensorflow太坑了，如何你是个使用linux的新手，建议你不

centos6.9

安装

tensorflow

linux

下载安装

原创 2022-09-12 00:09:27 210 阅读

大白话讲解遗传算法

博客原文：cnblogs.com/heaad/archive/2010/12/23/1914725.html　遗传算法 ( GA , Genetic Algorithm ) ，也称进化算法。遗传算法是

解遗传算法

遗传算法

字符串

背包问题

转载 2022-09-11 23:58:48 345 阅读

Bandit算法

推荐系统

协同过滤

聚类

转载 2022-09-11 23:57:43 197 阅读

机器学习算法-决策树

归纳决策树ID3先上问题吧，我们统计了14天的气象数据(指标包括outlook，temperature，humidity，windy)，并已知这些天气是否打球(play)。如果给出新一天的气象指标数据:sunny,cool,high,TRUE，判断一下会不会去打球。table 1outlooktemperaturehumidity

实现决策树

信息熵

决策树

git

原创 2022-09-11 23:55:27 454 阅读

统计学习方法---感知机算法拓展（神经网络）

神经元神经元是神经网络的基本单元，接受多个神经元传递过来的输入信号，然后通

神经网络

感知机学习算法

python

统计学习方法学习

统计学习方法

转载 2022-09-11 23:25:51 42 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

wx63199d5be8dbf的博客

SVM支持向量机算法介绍

机器学习中的范数规则化之 L0、L1与L2范数

利用sklearn实现k近邻法算法

利用sklearn实现感知机（perceptron）算法

隐马尔可夫模型

统计学习方法---

数据挖掘之关联分析

机器学习面试要点总结

深入浅出K-Means算法

GBDT（MART）迭代决策树入门教程

文本相识度算法（余弦相似性、简单共有词、编辑距离、SimHash、汉明距离、Jaccard相似性系数、欧几里得距离、曼哈顿距离）

余弦方法计算相似度算法--Python实现 Java实现

机器学习中的各种距离

xgboost原理及应用

主成分分析（PCA）原理详解

奇异值分解(SVD)、主成分分析(PCA)、潜在语义索引(LSI)

58同城推荐系统架构设计与实现-top100summit

如何理解主元分析（PCA）？

理解LSTM网络

FM（Factorization Machines ）特征处理

机器学习：什么是欠拟合和过拟合

数学基础

Kaggle案例之泰坦尼克船员幸存预测

xgboost相比传统gbdt有何不同？xgboost为什么快？如何支持并行？

机器学习算法-朴素贝叶斯分类

centos6.9 安装tensorflow心得体会

大白话讲解遗传算法

Bandit算法与推荐系统

机器学习算法-决策树

统计学习方法---感知机算法拓展（神经网络）