西瓜书第一章-绪论1.1引言机器学习：研究如何通过计算来实现利用经验来改善系统自身。
“算法”/“学习算法”：如何在数据中的到模型经验：数据。模型：得到的结论。模型用来进行相应的判断（预测）。1.2基本术语1.2.1 数据集数据集（Data Set）：又称样本空间（Sample Space）。上图的行名。是一组记录、数据的集合。单个数据（Data）：又称为示例（Instance）、样本（Sa
进一步优化梯度下降现在我们要讨论用于进一步优化梯度下降的各种算法。1. 动量梯度下降法（Momentum）SGD方法中的高方差振荡使得网络很难稳定收敛，所以有研究者提出了一种称为动量（Momentum）的技术，通过优化相关方向的训练和弱化无关方向的振荡，来加速SGD训练。换句话说，这种新方法将上个步骤中更新向量的分量’γ’添加到当前更新向量。V(t)=γV(t−1)+η∇(θ).J(θ)最后通过θ
二、机器学习模型评估2.1 模型评估：基本概念错误率(Error Rate)预测错误的样本数a占样本总数的比例m\[E=\frac{a}{m}
\]准确率(Accuracy)准确率=1-错误率准确率=1−错误率误差(Error)学习器的实际预测输出与样本的真实输出之间的差异训练误差(Training Error)或经验误差(Empirical Error)学习器在训练集上的误差泛化误差(Gener
转载
2024-08-01 14:02:07
899阅读
深度访谈究需要详细、深入的访谈资料，它更注重访谈的质量，而不是数量。因此，深度访谈很少采用随机抽样，而是采用灵活机动的非随机抽样。Strauss和Cobin在《质性研究概要》中，介绍了三种不同的理论性抽样:开放性抽样、关系性和差异性抽样以及区别性抽样。开放性抽样是指根据研究的问题，选择那些能够为研究问题提供最大涵盖度的研究对象进行访谈，从而覆盖研究现象的方方面面并从中发现建构理论所需用的相关概念和
本地化ABP的本地化系统与Microsoft.Extensions.Localization无缝集成,并与AspnetCore的本地化文档兼容. 它添加了一些实用功能和增强功能, 使其更易于在实际开发中应用.Volo.Abp.Localization Package启动模板默认已经安装了此nuget包, 所以在大多数情况下, 你不需要手动安装它.Volo.Abp.Localization是本地化系
% 参数初始化 赋予随机性能够寻解和防止局部最优解 让随机数据收敛能够找到最优解
clear
clc
close all
%函数
figure(1);
lbx=-5;ubx=5; %函数自变量x范围【-5,5】
lby=-5;uby=5; %函数自变量y范围【-5,5】
ezmesh('x^2-2*sin(2*pi*x)+y^2-2*cos(2*pi*y)-15',[lbx,ubx,lb
图的概念树中的元素称为节点，图中的元素称为作顶点Vertex。图中的一个顶点可以与任意其他顶点建立连接关系，这种建立的关系叫作边Edge。跟顶点相连接的边的条数叫作顶点的度Degree。边有方向的图叫作有向图，边没有方向的图就叫作无向图。无向图中度表示一个顶点有多少条边，在有向图中，把度分为入度In-Degree和出度Out-Degree。入度表示有多少条边指向这个顶点，出度表示有多少条边是以这个
KS检验统计量的扩展应用 KS（Kolmogorov-Smirnov）检验是比较两个经验分布之间是否存在差异。 我们设X1, X2,…, Xm, Y1, Y2,…, Ym为两个独立随机样本，分别满足假设A1和A2，分布函数分别为F, G。现在我们想知道的是X和Y的概率分布之间是否存在差异，我们建立以下假设H0：F(t) = G(t), for ever
转载
2024-07-04 15:15:32
111阅读
机器学习系列问题（二）：生成模型和判别模型 文章目录机器学习系列问题（二）：生成模型和判别模型一、简单理解二、两者分别（个人理解） 一、简单理解维基百科上Generative条目里面有个经典的案例：假设有四个samples： 判别式模型的世界是这个样子： 生成式模型的世界是这个样子：二、两者分别（个人理解）生成模型是对条件概率分布P（y|x）进行建模； 判别模型是对联合概率分布P（x，y）进行建模
CD-DNN-HMM带来语音识别性能提升的三大关键因素是： 1)使用足够深的神经网络； 2）使用一长段的帧作为输入； 3）直接对三因素进行建模。 1.进行比较和分析的数据集实验： a.必应(bing)移动语音搜索数据集： 数据分为训练集、开发集、测试集，避免三个集合之间重复。 语言模型：一元词组、二元词组、三元词组。 语言模型混淆度/困惑度：PPL(Perplixity），度量语言模型性能。 PP
转载
2024-07-13 08:26:53
47阅读
一. 注意力评分函数1. 注意力评分权重在上篇博客李沐动手学深度学习V2-注意力机制中，使用高斯核来对查询和键之间的关系建模。 将Nadaraya-Watson-Gaussian中的高斯核指数部分视为注意力评分函数（attention scoring function）， 简称评分函数（scoring function）， 然后把这个函数的输出结果输入到softmax函数中进行运算。 通过上述步骤
一、预备知识依据原理：指标的变异程度越小，所反映的信息量也越少，其对应的权值也应该越低。（客观 = 数据本身就可以告诉我们权重） 一种极端的例子：对于所有的样本而言，这个指标都是相同的数值，那么我们可认为这个指标的权值为0，即这个指标对于我们的评价起不到任何帮助。信息量：越有可能发生的事情，信息量越少， 越不可能发生的事情，信息量就越多。 假设x表示事件X可能发生的某种情况，p表示这种情况发生的概
转载
2023-11-09 09:51:01
155阅读
高斯消元法的原理是： 若用初等行变换将增广矩阵 化为 ，则AX = B与CX = D是同解方程组。所以我们可以用初等行变换把增广矩阵转换为行阶梯阵，然后回代求出方程的解。 1、线性方程组  
转载
2024-07-12 17:52:21
77阅读
在训练二分类模型时，例如医疗诊断、网络入侵检测、信用卡反诈骗等，经常会遇到正负样本不均衡的问题。对于很多分类算法，如果直接采用不均衡的样本集来进行训练学习，会存在一些问题。例如，如果正负样本比例达到1∶99，则分类器简单地将所有样本都判为负样本就能达到99%的正确率，显然这并不是我们想要的，我们想让分类器在正样本和负样本上都有足够的准确率和召回率。对于二分类问题，当训练集中正负样本非常不均衡时，如
Teaching by Design经过一段时间的学习，一些老师已经掌握了学术文献检索的基本技能，有效提升了阅读学术论文和著作的效率，但是当开始准备和撰写文献综述时，经常会遇到以下问题： 众多文献中先读哪一篇？文献综述的框架应该如何确立？文献综述过程中涉及的论文众多，如何按照不同要求完成学术论文格式调整？针对以上问题，许宏晨教授和廖志华老师在《学术文献检索与整理》课程中为大家
转载
2024-09-01 18:01:47
947阅读
在构建深度学习模型时，设置合适的权重是一个极为重要的步骤。不当的权重初始化会导致模型学习效率不高、收敛缓慢甚至失效，进而影响到最终的业务成果。因此，我决定梳理出解决“深度学习中模型中设置权重一般”问题的完整过程，希望能为同样面临类似挑战的技术人员提供一些实用的指导。
在大多数情况下，模型权重的初始化对于网络学习过程至关重要。权重过小可能会导致梯度消失，而过大又可能引起梯度爆炸。根据业务模型的反馈
iostat命令
iostat 命令被用于监视系统输入输出设备和 CPU 的使用情况。它的特点是汇报磁盘活动统计情况，同时也会汇报出 CPU 使用情况。同 vmstat 一样，iostat 也有一个弱点，就是它不能对某个进程进行深入分析，仅对系统的整体情况进行分析。
语法
iostat(选项)(参数)
选项
-c：仅显示CPU使用情况；
-
问题背景 我有时会搞混，所以写一篇博客来记录下自己的理解KNN分类算法监督学习，数据集是带Label的数据没有明显的训练过程，就是费事儿，每次都要遍历所有已有的样本点去计算距离K值含义 ：对于一个样本X，要给它分类，首先从数据集中，在X附近找离它最近的K个数据点，将X划分为K个数据点中类别最多的一类K-means聚类算法非监督学习
提纲：分类模型 与 Loss 函数的定义，为什么不能用 Classification Error， Cross Entropy 的效果对比，为什么不用 Mean Squared Error， 定量理解 Cross Entropy， 总结， 参考资料。 交叉熵定义：分类模型 与 Loss 函数的定义 分类和回归问题，是监督学习的 2 大分支。 不同点在于：分类问题的目标变量是离散的，而回归是连续的
加了权重样本的AUC如何计算？对理解roc_auc_score函数里sample_weight参数以及xgb模型赋予样本权重再评估都有帮助哦～一、roc_auc_score函数中有个参数是sample_weight，可以给样本设置权重。一直不太理解加上weight怎么来计算AUC，先放个可选参数插图康康。二、直到有一天，我不得不面对这个问题。起因竟然是比较熟悉的xgboost（其实是硬往自己脸上贴
转载
2024-03-25 21:12:57
1596阅读
