目录1 均值2 方差3 标准差4 协方差5 协方差矩阵6 PCA （Principal Component Analysis）6.1 特征向量 & 特征值定义6.2 特征向量 & 特征值求解6.3 PCA原理和求解过程6.4 与神经网络模型的关联7 DL常用归一化方法7.1 Batch Normalization7.1.1 动机7.1.2 实现7.1.3 总结7.2 Layer
7/13 归一化的公式是（当前值-最小值）/（最大值-最小值），我认为归一化是一种相对值的处理方式，把传感器值“归一”，用一个万用表比喻，归一的过程就好像每次用的时候把万用表重新归零，并校准。 拿电磁车来举例说明，假设不用归一化处理时，距离中线零偏差时，电感A的值是1000，偏离赛道20厘米时，电感A值是200.当赛道电源不准时，比如输出电流由100ma变成了120ma，这时，电感A在零偏差的值和
转载
2024-05-01 12:11:25
803阅读
1、场景描述：为了消除数据特征之间的量纲影响，需要对特征进行归一化（Normalization）处理，使得不同特征处于同一个数量级，具有可比性2、常用的归一化方法2.1、线性函数归一化（Min-Max Scaling）对原始数据进行线性变换，使结果映射到 [0,1] 的范围内，实现对原始数据的等比缩放。 归一化公式： 其中，X为原始数据，min和max分别代表数据的最大最小值2.2、零均值归一化（
转载
2024-09-23 11:12:07
133阅读
几种缩写分别对应Batch NormalizationLayer NormalizationInstance NormalizationGroup Normalization需要normalization的原因（1）深度学习包含很多隐含层，每层参数都会随着训练而改变优化，所以隐层的输入分布总会变化，会使得每层输入不再是独立同分布。这就造成，上一层数据需要适应新的输入分布，数据输入激活函数时，会落入
转载
2024-08-08 08:33:36
105阅读
1.9 归一化Normaliation训练神经网络,其中一个加速训练的方法就是归一化输入(normalize inputs).假设我们有一个训练集,它有两个输入特征,所以输入特征x是二维的,这是数据集的散点图. 归一化输入需要两个步骤第一步-零均值化subtract out or to zero out the mean 计算出u即x(i)的均值u=1m∑i=1mx(i)u=1m∑i=1mx(i)
一. 归一化1.归一化的目的把数据变为（0，1）之间的数 ,使得在梯度下降的过程中，不同维度的θ值（或w）参数可以在接近的调整幅度上。保持数据在迭代过程中的θ值幅度基本一致。2.常用的归一化类别最大值最小值归一化 参数解释： Xj min: X 矩阵中第 j 列特征值的最小值， Xj max: X 矩阵中第 j 列特征值的最大值， Xij : X 矩阵中第 i 行第 j 列的数值， X*i,j :
转载
2024-06-26 10:13:56
261阅读
不同点对比点归一化标准化概念将数值规约到(0,1)或(-1,1)区间将对应数据的分布规约在均值为0,标准差为1的分布上侧重点数值的归一，丢失数据的分布信息，对数据之间的距离没有得到较好的保留，但保留了权重数据分布的归一，较好的保留了数据之间的分布，也即保留了样本之间的距离，但丢失了权值形式缺点1.丢失样本间的距离信息；2.鲁棒性较差，当有新的样本加入时最大值与最小值很容易受异常点影响1.丢失样本间
转载
2024-07-02 13:55:46
167阅读
深度学习常见问题——归一化归一化BN原理BN优点BN缺点BN, GN, LN, IN之间的异同？ 归一化BN原理BN的操作相当于在大梯度和非线性之间找到一个平衡点，使其能够在较快的收敛速度下保持网络的表达能力训练阶段： BN的初衷在于解决内部数据分布的偏移问题，也就是a+1层数据要不断适应a层数据的分布变化问题，这样会导致网络参数进入饱和区，导致梯度较小或者弥散。 所以BN通过将每层输出的数据归一
转载
2024-09-22 15:56:54
103阅读
9章 优化方法和归一化“Nearly all of deep learning is powered by one very important algorithm: Stochastic Gradient Descent (SGD)” – Goodfellow et al.[1]我们之前讨论了评价函数，它根据权重W和偏置b参数，根据输入返回数据点 的预测输出。我们也讨论了两种常见的损失函数，它能
归一化，标准化与正则化 1. 归一化（Normalization）2. 标准化（Normalization）3. 正则化（Regularization）参考链接 1. 归一化（Normalization）归一化 (Resaling) 一般是将数据映射到指定的范围，用于去除不同维度放入量纲以及量纲单位。常见的映射范围有 [ 0, -1 ] 和 [ -1, 1],最常见的归一化方法就是 Min-Ma
转载
2024-09-08 23:58:27
330阅读
K-近邻算法K-近邻算法的直观理解：给定一个训练集和， 对于新输入的实例，在这个集合中找k个与该实例最近的邻居，然后判断这k个邻居大多数归属某一类，于是这个新输入的实例就划分为这一类。K-近邻算法的三个要素K-近邻算法有三要素，k值的选取，邻居距离的度量和分类决策的制定。k值的选取k较小，分类算法的鲁棒性较差，也很容易发生过拟合现象。k较大，分类错误率很快回升。所以人们通常采取交叉验证。邻居距离的
1.什么是归一化将数据的数值规约到（0,1）或者是（-1,1）区间，让各维度数据分布接近，避免模型参数被分布范围较大或者较小的数据支配。2.为什么归一化机器学习的目标就是不断优化损失函数，使其值最小，未归一化时，使用梯度下降时，梯度方向会偏离最小值方向，使梯度更新总很多弯路，归一化之后，损失函数曲线变得比较圆，有利于梯度下降。加快梯度下降,损失函数收敛;—速度上提升模型精度–也就是分类准确率.(消
转载
2024-10-09 13:13:17
51阅读
# MySQL参数化是什么意思？
在数据库操作中，为了防止SQL注入攻击，参数化查询是一种非常重要的技术。参数化查询是指将查询语句中的变量部分用占位符代替，然后将变量值单独传递给数据库，这样可以有效防止恶意用户通过输入特殊字符来执行恶意操作。
## 参数化查询的好处
使用参数化查询的好处包括：
1. 防止SQL注入攻击
2. 提高查询性能，因为数据库可以对查询进行缓存
3. 代码更加清晰易读
原创
2024-02-26 03:59:40
23阅读
偏差和方差衡量的必要性，因为深度学习中，根据没免费午餐定理，降低了偏差一定增加了方差，降低了方差也增加了偏差。 高偏差：欠拟合，线性不能充分拟合，非线性才能充分拟合 高方差：过拟合，对部分点描述过度，泛化误差增大 偏差和方差一定程度对应着训练误差和验证误差。 基本误差为0的情况下， 1、训练误差降低 ...
转载
2021-09-30 21:16:00
543阅读
2评论
【PMP是啥意思】—— 全面解析PMP考试与认证
PMP，全称为项目管理专业人士（Project Management Professional），是由美国项目管理协会（PMI）发起的一项全球范围内的项目管理专业人士认证。该认证是项目管理领域中最具权威性和广泛认可度的证书之一。对于从事项目管理工作的人员来说，获得PMP认证不仅是对自身专业能力的认可，也是职业发展的重要资本。
一、PMP认证的价
原创
2023-11-16 16:54:45
100阅读
【PMP是啥意思】——全面解析PMP认证及考试
PMP，全称为项目管理专业人士（Project Management Professional），是由美国项目管理协会（PMI）发起的一项全球范围内的项目管理专业人士认证。该认证是项目管理领域中最具权威性和国际认可度的证书之一，被广泛应用于各行各业，成为许多企业和组织对项目管理人才的基本要求。
一、PMP认证价值
获得PMP认证，不仅意味着您掌
原创
2023-11-14 10:45:28
68阅读
【pmo是啥意思】PMP考试全解析
PMP（Project Management Professional）是一种国际认可的项目管理专业人士认证，对于想要提升项目管理技能和知识的人来说，PMP认证是一个非常重要的里程碑。而PMO（Project Management Office）则是项目管理办公室，是一个负责组织、协调、管理项目管理的机构。在本文中，我们将详细解析PMP考试的相关信息，以帮助读
原创
2023-11-09 12:38:02
83阅读
【PMP是啥意思】—— 深入解析PMP认证及其考试
PMP，即项目管理专业人士（Project Management Professional），是国际公认的项目管理领域的高级认证。PMP认证证明了个体在项目管理领域的知识和技能，是项目管理领域专业人士的标志。
一、PMP认证的价值
获得PMP认证，不仅代表你成功通过了国际项目管理师（PMI）设立的严格考试，更意味着你已经在项目管理领域具备了
原创
2023-11-16 09:27:45
177阅读
Linux是一种操作系统的内核，是自由软件和开源软件发展中最著名的一个例子。Linux诞生于1991年，由芬兰学生Linus Torvalds所开发，最初的目的只是为了学习和个人使用。因为Linux的源代码是公开的，任何人都可以看到并且可以修改它，所以它被称为是开源软件。Linux被广泛应用在服务器端、移动设备、嵌入式系统等领域。
Linux是一个多用户、多任务的操作系统，它采用了类Unix的设
原创
2024-03-08 11:43:35
148阅读
1.Configuration（public sealed class Configuration） 定义：表示适用于特定计算机、应用程序或资源的配置文件。 此类不能被继承 获取实例： ConfigurationManager 类，如果你的实体是客户端应用程序 ConfigurationManager 类，如果你的实体是客户端应用程序。 继承： Object -->
