致于数据科学家的小陈的博客_数据建模与挖掘

补充(代码)-入门神经网络-Python 实现(下)

以案例 + 公式推导 + 代码编写, 来走一遍神经网络的 FG, BP算法.

激活函数

梯度下降

BP算法

神经网络

求导链式法则

原创 2022-10-07 18:01:08 123 阅读

代码视角-神经网络-Python 实现(上)

巩固神经网络的入门知识, 从代码上来认识这些概念会轻松很多.

MSE

神经元

神经网络

激活函数

权重

原创 2022-10-07 18:00:48 146 阅读

入门神经网络-Python 实现(下)

假设对BP的认识

链式法则

BP算法

神经网络

权重

数据

原创 2022-10-07 18:00:32 165 阅读

ML-求解 SVM 的SMO 算法

求解SVM 的 SMO算法

二次规划

smo

贪心训练

svm

python实现

转载 2022-08-23 10:40:28 159 阅读

ML- 线性回归推导

线性回归的推导和求解. 分别从矩阵代数, 微积分, 概率论, Pyhton 实现求解等, 巩固我的6年经验了.

高斯分布

线性回归

矩阵求导

贪心训练

最小二乘

原创 2022-08-23 10:40:09 133 阅读

神经网络-反向传播BP算法推导

BP算法工作流程及数学推导, 核心: 多元函数求偏导, 熟练应用链式法则就搞定了.

梯度下降

变量声明

神经网络

BP算法

反向传播

原创 2022-08-23 10:40:02 183 阅读

BP算法完整推导 2.0 (下)

BP 4 大核心公式推导, 即损失函数对输出层, 中间层, 偏置, 权值的梯度(误差)

梯度下降

BP算法

前向算法

神经网络

4大公式

原创 2022-08-23 10:39:35 150 阅读

卷积神经网络CNN 初识

CNN 入门, 重点是理解卷积和池化的过程, 及特征提取功效和降低计算的功效.

RELU

特征提取

CNN

卷积神经网络

过拟合

原创 2022-08-23 10:39:30 204 阅读

BP算法完整推导 2.0 (上)

BP再次推导, 重点理解BP过程及变量定义, 尤其是将误差, 定义为梯度, 这脑洞太大了.

梯度下降

BP算法

神经网络

四大公式

方向导数

原创 2022-08-23 10:39:28 189 阅读

彻底掌握 PCA 降维

从矩阵的本质, 矩阵变换理解 PCA, 从一个案例来numpy 撸 PCA

协方差矩阵

降维

pca

numpy

矩阵分解

原创 2022-08-23 10:04:24 133 阅读

卷积神经网络 CNN BP算法推导

CNN 的BP算法推演, 但只是完成了70%, 推导遇到困难, 理解还差些, 留个BUG 算.

卷积

卷积核

特征提取

原创 2022-08-23 10:04:20 308 阅读

EM-高斯混合模型

用极大似然来求解参数, 求导很有技巧,之前跟之前LDA相似, 还得用拉格朗日乘子求条件极值

参数估计

EM算法

极大似然法

贝叶斯公式

拉格朗日乘子

原创 2022-08-23 10:03:14 145 阅读

LP线性规划初识

认识LP 线性规划(Linear Programming) 特指目标函数和约束条件皆为线性的最优化问题. 目标函数: 多个变量形成的函数约束条件: 由多个等式/不等式形成的约束条件线性规划: 在线性约束条件下,目标函数求极值的问题可行解: 满足线性约束条件下的解可行域: 所有可行解

线性规划

贪心训练

lp

约束条件

最优解

原创 2022-08-23 10:03:02 450 阅读

XGBoost 引入 - 提升树

用过浅谈提升树公式和案例, 来引入 "残差训练"合理性, 引入 XGBoot 的推导需克服的难点.

泰勒级数

残差

提升树

XGBoost

集成学习

原创 2022-08-23 10:00:52 69 阅读

K-Means 算法

简单总结一波k-means

聚类

k-means

数据

迭代

原创 2022-08-23 09:59:46 98 阅读

EM算法-完整推导

基于jesen不等式, 参数似然估计, 全概率与贝叶斯来推导和证明EM收敛.

极大似然法

贝叶斯公式

凸函数

EM算法

jenseen不等式

原创 2022-08-23 09:59:34 104 阅读

神经网络-前向算法

通俗理解-人工神经网络-前向算法, 即网络如何工作的详细过程.

权值

激活函数

Softmax

隐含层

神经元

原创 2022-08-22 13:59:44 155 阅读

(补) 决策树-集成学习几个小点

加深对决策树, 集成学习理解, 如bagging, boosting, 为接下来XGBoost推导做准备

Boosting

Bagging

决策树

集成学习

弱分类器

原创 2022-08-22 13:58:08 90 阅读

MNIST实例-Tensorflow 初体验

体验一下 TensorFlow 导包套路, 获取数据 - 特征工程, 构建网络, 模型训练,

MNIST

Flatten

Dense

网络搭建

自动求导

原创 2022-08-22 13:46:42 95 阅读

LR_GD_MSE (公式补充)

对上篇线性模型中涉及的梯度计算代码进行数学原理推导

数学原理

梯度下降

MSE

导包

数学公式

原创 2022-08-22 13:45:04 152 阅读

复盘一篇讲sklearn库学习文章(上)

认识 sklearn 官网地址: https://scikit learn.gor/stable/ 从2007年发布以来, scikit learn

sklearn

KNN

数据集

数据

特征工程

原创 2022-08-22 13:39:07 150 阅读

手动实现KNN算法

手动实现KNN算法计算距离取k个邻近排序距离(欧氏) 预习实现欧式距离 KNN 计算输

机器学习

KNN

数据

升序

欧氏距离

原创 2022-08-22 13:38:28 224 阅读

图模型初识

初步认识一下有向图和无向图, 及其联合概率表示方式.

CRF

score函数

贝叶斯网络

联合概率

无向图

原创 2022-08-22 13:38:04 106 阅读

LP线性规划求解之单纯形算法

初步认识求解LP用单纯形算法

单纯形

lp

最优解

2d

原创 2022-08-22 13:37:57 234 阅读

K-means 和 EM 比较

k-means 其实是 EM 算法的特例, 分别举 "人的气质类型" 和理论角度来总结

气质类型

贝叶斯公式

EM算法

k-means

参数估计

原创 2022-08-22 13:37:41 244 阅读

ML-软间隔(slack)的 SVM

带松弛的svm推导

异常值

hinge loss

松弛型变量

软间隔

贪心训练

原创 2022-08-22 13:37:27 79 阅读

HMM (隐马尔可夫) 推导 (下) - 参数估计 (EM)

通过 EM 算法思想来求解参数, 计算核心是 F/B 算法.

状态转移矩阵

参数估计

HMM

EM算法

F/B 算法

原创 2022-08-22 13:37:19 165 阅读

HMM (隐马尔可夫) 推导 (上) - Viterbi算法求解隐变量

HMM 推导分两步, 这篇将隐变量求解部分, 用到Viterbi这样的动态规划算法

隐变量

状态转移矩阵

动态规划

viterbi算法

隐马尔可夫

原创 2022-08-22 13:37:11 81 阅读

HMM - (补充) 参数求解之 F/B 算法细节

通过动态规划思想, 拆分子问题, 结合有向图的联合概率写法, 用到D-separat

状态转移矩阵

发射概率矩阵

动态规划

F/B 算法

联合概率

原创 2022-08-22 13:36:29 96 阅读

ML-凸优化初识

凸优化的入门

目标函数

正定矩阵

Hessian Matrix

矩阵求导

凸优化

原创 2022-08-22 13:36:21 265 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

wx5c5aa1917588d的博客

补充(代码)-入门神经网络-Python 实现(下)

代码视角-神经网络-Python 实现(上)

入门神经网络-Python 实现(下)

ML-求解 SVM 的SMO 算法

ML- 线性回归推导

神经网络-反向传播BP算法推导

BP算法完整推导 2.0 (下)

卷积神经网络CNN 初识

BP算法完整推导 2.0 (上)

彻底掌握 PCA 降维

卷积神经网络 CNN BP算法推导

EM-高斯混合模型

LP线性规划初识

XGBoost 引入 - 提升树

K-Means 算法

EM算法-完整推导

神经网络-前向算法

(补) 决策树-集成学习几个小点

MNIST实例-Tensorflow 初体验

LR_GD_MSE (公式补充)

复盘一篇讲sklearn库学习文章(上)

手动实现KNN算法

图模型初识

LP线性规划求解之单纯形算法

K-means 和 EM 比较

ML-软间隔(slack)的 SVM

HMM (隐马尔可夫) 推导 (下) - 参数估计 (EM)

HMM (隐马尔可夫) 推导 (上) - Viterbi算法求解隐变量

HMM - (补充) 参数求解之 F/B 算法细节

ML-凸优化初识