月来客栈的博客_机器学习

斯坦福机器学习-第三周（分类，逻辑回归，过度拟合及解决方法）

逻辑回归(Logistic Regression) 1. 分类(Classification) The classification problem is just like the regression problem, except that the values we now want to predict take on only a small number of discrete v

机器学习

线性回归

过度拟合

overfittin

classifica

原创 2022-04-23 20:12:36 314 阅读 1点赞

Neural Network（神经网络）实例--手写数字识别

本实例整理自斯坦福机器学习课程课后练习ex3本例是对一个手写体的数据集（0-9）进行分类，其最终实现的效果同上一个实例相同。只是两者在实现方式上有所不同。 In the previous part of this exercise, you implemented multi-class logistic regression to recognize handwritten digits. H

神经网络

机器学习

手写体

转载 2022-04-23 20:12:15 114 阅读

怎么把数据集的输出值转换成只含有0,1的标签向量

举个例子：某神经网络有5个输出值，分别对应1-5每个数字的输出概率，先有数据集x(i)x^{(i)}，其输出值为，

函数

神经网络

数据集

赋值

原创 2022-04-23 20:11:53 118 阅读 1点赞

K-means++算法思想

转自：http://www.cnblogs.com/yixuan-xu/p/6272208.htmlK-说在前面：在网上找了很多关于k-means++的中文文章，基本上就两个版本。这篇文章算一个（这个版本也就只有一篇）；另外一个版本应该来自同一人所写（其他几乎都是复制粘贴），但总觉得不怎么对劲。还好本文原博客贴出了一篇论文，以及笔者参考了维基百科。这个版本应该更让人信服一点。一、概述 meas

聚类

数据集

复制粘贴

转载 2022-04-23 20:11:36 580 阅读

An Entropy Weighting k-Means Algorithm for Subspace Clustering of High-Dimensional Sparse Data

本内容整理自 An Entropy Weighting k-Means Algorithm for Subspace Clustering of High-Dimensional Sparse Data前一篇论文Automated Variable Weighting in k-Means Type Clustering里面的WKMeans算法说到如何选择有用的特征维度(subspace)...

clustering

权值

聚类

数据集

转载 2022-04-23 20:11:19 295 阅读

利用反向传播训练多层神经网络的原理

原文链接戳此处Principles of training multi-layer neural network using backpropagation The project describes teaching process of multi-layer neural network employing backpropagation algorithm. To illu...

反向传播

权重

sed

神经网络

翻译 2022-04-22 20:22:35 182 阅读

图解微积分：反向传播

在反向传播算法被发明的时候，难道人们就没有更加的聚焦于前馈神经网络？同时，对于在前馈神经网络中运用求导来训练参数是否有效也尚不清楚。

神经网络

反向传播

路径和

翻译 2022-04-22 16:13:45 229 阅读

Multi-class Classication （多分类问题）实例--手写数字识别

本实例整理自斯坦福机器学习课程课后练习ex3本例是对一个手写体的数据集（0-9）进行分类，也就是对原有的数据集进行训练，然后给定一个手写体，识别该手写体是数字几。其分类思想就是之前Andrew Ng 讲的One-vs-all（详见此文第7点）。

机器学习

手写体识别

多分类

数据集

手写体

原创 2022-04-22 15:56:39 285 阅读

逻辑回归模型实例(by Fminunc and Gradient descent)

本实例整理自斯坦福机器学习课程课后练习ex2 一、Binary classification本例中是用机器学习通过已知的输入（两次考试成绩）和输出(是否被录取)来建立一个模型；然后根据输入的成绩来判断一个学生是否能被录取。

梯度下降

最小值

源码下载

原创 2022-04-22 15:53:22 230 阅读

关于反向传播算法中几个公式的推导

参考自资料，戳此处J(W,b;x,y)=12||hW,b(x)−y||2J(W,b;x,y)=\frac{1}{2}||h_{W,b}(x)-y||^2符号说明：lSlL=神经网络的某一层=第l层神经元的数目=神经网络的总层数\begin{align*}l&=神经网络的某一层\newlineS_l&=第l层神经元的数目\newlineL&=神经网络的总层数\end{align*} 如下图中

神经网络

代价函数

权重

原创 2022-04-22 12:47:56 732 阅读

斯坦福机器学习第五周（如何训练神经网络）

上一周Andrew Ng 介绍如何应用神经网络来识别手写体时，其网络已经是训练好的。也就是说整个网络的参数Θ(i)\Theta^{(i)}是已知的，而这一周的主要内容就是如何来训练一个神经网络，换句话说就是如何找到参数Θ\Theta.当然，采用的方法依旧是梯度下降或者fminunc等方法。

神经网络

机器学习

代价函数

梯度下降

原创 2022-04-22 10:39:08 124 阅读

SVM——（一）线性可分之目标函数推导方法1

最近在看支持向量机，也查了很多资料。其中关于如何推导出最终的优化目标函数（见文末(2.14)(2.14)）主要有两种方式。第

机器学习

svm

约束条件

最优化

数据

转载 2022-04-22 09:43:01 311 阅读

SVM——（二）线性可分之目标函数推导方法2

这是接着上一篇文章（方法1）整理的第二种推导方法。这是从另外一个点来思考如何求得目标优化函数，

svm分类器

机器学习

数据集

优化问题

最小值

原创 2022-04-22 09:32:15 118 阅读

神经网络训练实例（手写体识别）

本例子参考的Andrew Ng机器学习第五周的课后作业，只是在原来的基础上自己从新梳理了整个训练过程的关键部分。源码，戳此处我们照着上一篇文章中的步骤，一步步来做。先对该网络做一个说明

神经网络

机器学习

代价函数

反向传播

参数传递

原创 2022-04-20 17:03:05 190 阅读

朴素贝叶斯算法与贝叶斯估计

算法

贝叶斯

贝叶斯分类器

朴素贝叶斯

先验概率

原创 2022-04-20 16:20:34 521 阅读

斯坦福机器学习前三周概念总结图

简单版详细版 PDF版 VSDX版

其他

原创 2022-04-18 11:44:37 75 阅读

关于梯度下降算法的矢量化过程

这几天一直在看Angdrew Ng 的机器学习视频，里面关于梯度下降(Gradient descent)算法的矢量化(vectorization)过程听得云里雾里的，好在经过后面的编程作业，总算是大致弄清楚了矢量化的过程。Gradient descent： θj:=θj−α1m∑i=1m(hθ(x(i))−y(i))x(i)j θ0:=θ0−α1m∑i

机器学习

梯度下降算法

下划线

特征值

原创 2022-04-18 11:44:03 57 阅读

Feature sacling与Mean normalization

1.RescalingThe simplest method is rescaling the range of features to scale the range in [0, 1] or [−1, 1]. Selecting the target range depends on the nature of the data. The general formula is given as

features

标准差

处理方法

机器学习

原创 2022-04-18 11:43:52 25 阅读

斯坦福机器学习第二周线性回归、特征值标准

线性回归(Linear Regression): 1. 假设函数(hypothesis function)在机器学习中，总是用 x 来表示输入，y来表示输出；因此，为了研究机器学习就需要一个 x 与y之间的关系式，我们假设是 y=f(x) ，我们称之为目标函数(target function)。然而，遗憾的是我们并不知道这样一个关系式。因此，机器学习

机器学习

特征值

梯度下降算法

原创 2022-04-18 11:43:25 64 阅读

线性回归模型实例

本实例整理自斯坦福机器学习课程课后练习ex1，目的是为了弄清楚解决一个实际问题所需要的步骤。一、单变量的线性回归本例中是用机器学习通过已知的输入(populations)和输出(profits)来建立一个模型；然后一个城市的人口，来预测利润。 1.可视化(visualizing)在进行任何机器学习的相关问题前，可视化数据通常是一个用来理解数据不错选择，所以第一步就是可视化数据。%% useGr

梯度下降算法

迭代

数据

原创 2022-04-18 11:42:44 209 阅读

斯坦福机器学习第四周（神经网络及其应用）

1.为什么要引入神经网络（Neural Network）一句话总结就是当特征值n特别大时，比如当n为100时；仅仅是其2次项特征值 (x21,x1x2,x1x3…x1x100;x22,x2x3…x2x100;…) 就有大约5000个（从100累加到1）。而在实际问题中n的值往往有上百万，上亿。所以这样就非常容易导致过度拟合，以及计算量大的问题。因此，便引入了神经网络(neural

机器学习

神经网络

权重

特征值

原创 2022-04-18 11:42:05 65 阅读

K-Means算法（实例）

K-Means算法实例：本文的是上一篇的实例部分以下代码均是在Matl

kmeans算法

初始化

迭代

数据集

原创 2022-04-02 10:09:30 131 阅读

决策树——（二）决策树的生成与剪枝ID3,C4.5

1.基本概念在正式介绍决策树的生成算法前，我们先将之前的几个概念梳理

决策树id3算法

决策树c4-5

决策树生成

结点

决策树

原创 2022-02-28 15:49:30 202 阅读

文本处理之贝叶斯垃圾邮件分类

本文所讲解的是如何通过Python将文本读取,并且将每一个文本生

垃圾邮件分类

贝叶斯分类器

贝叶斯的数据分类

词向量

python

原创 2022-02-28 15:49:23 93 阅读

Automated Variable Weighting in k-Means Type Clustering

Automated Variable Weighting in k-Means Type

Wkmeans

权重

聚类

数据集

原创 2022-02-28 15:48:59 89 阅读

斯坦福机器学习第六周（模型选择、高偏差、高方差、学习曲线）

这篇文章主要讲解的是如何来对训练出来的代价函数进行评估，

函数

机器学习

方差

过拟合

拟合

原创 2022-02-28 15:48:35 95 阅读

斯坦福斯坦福机器学习第六周课后练习

本文整理自Coursera Machine Learning Exercise 5，

机器学习

数据集

泛化

代价函数

原创 2022-02-28 15:48:13 108 阅读

SVM——（六）软间隔目标函数求解

这次我们要说的是软间隔(soft margin)与正则化(regularization)1.

函数

svm

软间隔

数据集

过拟合

原创 2022-02-28 15:46:40 505 阅读

SVM——（五）线性不可分之核函数

本文主要包含以下内容：1.从线性不可分谈起 2.将低维特征映射到高维空间

函数

svm

核函数

数据集

特征空间

原创 2022-02-28 15:46:20 377 阅读

两个角度带你吃透PCA

关于(Principal Component Analysis)的推导方法很多，

pca主成分分析

二维

2d

方差

原创 2022-02-28 15:45:54 528 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

月来客栈博客

斯坦福机器学习-第三周（分类，逻辑回归，过度拟合及解决方法）

Neural Network（神经网络）实例--手写数字识别

怎么把数据集的输出值转换成只含有0,1的标签向量

K-means++算法思想

An Entropy Weighting k-Means Algorithm for Subspace Clustering of High-Dimensional Sparse Data

利用反向传播训练多层神经网络的原理

图解微积分：反向传播

Multi-class Classication （多分类问题）实例--手写数字识别

逻辑回归模型实例(by Fminunc and Gradient descent)

关于反向传播算法中几个公式的推导

斯坦福机器学习第五周（如何训练神经网络）

SVM——（一）线性可分之目标函数推导方法1

SVM——（二）线性可分之目标函数推导方法2

神经网络训练实例（手写体识别）

朴素贝叶斯算法与贝叶斯估计

斯坦福机器学习前三周概念总结图

关于梯度下降算法的矢量化过程

Feature sacling与Mean normalization

斯坦福机器学习第二周线性回归、特征值标准

线性回归模型实例

斯坦福机器学习第四周（神经网络及其应用）

K-Means算法（实例）

决策树——（二）决策树的生成与剪枝ID3,C4.5

文本处理之贝叶斯垃圾邮件分类

Automated Variable Weighting in k-Means Type Clustering

斯坦福机器学习第六周（模型选择、高偏差、高方差、学习曲线）

斯坦福斯坦福机器学习第六周课后练习

SVM——（六）软间隔目标函数求解

SVM——（五）线性不可分之核函数

两个角度带你吃透PCA