我们已经了解了几种其他的一些生成模型，并且解释了GAN与这些模型的工作方式是不同的，那么GAN是如何工作的？3.1 GAN 框架GAN的基本思想是两个玩家共同参与的二人零和博弈。 其中一个叫生成器。 生成器试图生成与训练样本相同分布的样本。 另一个玩家是判别器。 判别器用来判别样本的真伪。 判别器使用传统的监督学习的方法，将输入分类为真和假两个类。 生成器被优化来试图欺骗判别器。 举个例子来说，
目录：人脸识别介绍损失函数发展Softmax lossCenter lossTriplet lossL-softmax lossSphereFace(A-Softmax loss)CosFace(AM-Softmax loss)ArcFace loss人脸识别流程相似度生成训练图片数据采样网络模型训练使用摄像头实时检测 人脸识别介绍MTCNN 实现人脸检测，回答了“是不是人脸”和“人脸在哪”的问
转载
2024-07-08 20:59:18
85阅读
DQN网络DQN（Deep Q Networks）网络属于深度强化学习中的一种网络，它是深度学习与Q学习的结合，在传统的Q学习中，我们需要维护一张Q(s,a)表，在实际运用中，Q表往往是巨大的，并且当状态和行为的组合无穷时，则无法通过查表的方式获取最优的行为，因此我们需要一个深度学习模型来拟合Q(s,a)表，即能够帮助Q算法在对应的状态下找出最优的行为，即DQN网络，其网络结构如下图所示：其中，D
前言8.1 mnist_soft,TensorFlow构建回归模型中对主要对计算图的概念与公式与计算图的转化进行了介绍,8.2则主要介绍一下TensorFlow中自带的几个算子,与优化函数,损失函数的定义,并以KNN的例子进行整体的串联.加载数据,依旧使用mnist手写数字的数据# 导入数据
from tensorflow.contrib.learn.python.learn.datasets i
转载
2023-07-21 17:24:45
145阅读
今天开始回头复习基础算法，emmmmm……从kNN开始~~1.kNN简介 k近邻（k-Nearest Neighbor,简称kNN）是一种监督学习算法，其工作机制是：给定测试样本，基于某种距离度量找出训练集中与其靠近的k个训练样本，然后基于这k个“邻居”的信息来进行预测。 敲黑板： <1> k近邻是监督学习算法； <2> k近
k近邻近邻算法： 多数表决规则等价于经验风险最小化： 损失函数最小化：一训练数据为基础，通过此类分类规则计算得到 一块区域，有k个训练数据，1,2,3个类别。1>2>3 当此区域判为1，损失函数等于2,3个数和 当此区域判为2，损失函数等于1,3个数和 当此区域判为3，损失函数为1,2个数和 选取损失函数最小的，即个数最多的类别。作为此区域类别。所以此区域判别为1. Kd树： 第一步：
转载
2024-04-30 16:56:26
51阅读
学习目标：1、了解kNN算法及其原理2、使用python手动实现kNN算法，并在sklearn中调用kNN算法3、了解监督学习和非监督学习的概念知识整理：【1】kNN算法简介： kNN(k-NearestNeighbor)，也就是k最近邻算法。所谓K最近邻，就是k个最近的邻居的意思。也就是在数据集中，认为每个样本可以用离他距离最近的k个邻居来代表 [ 比如样本集中有
转载
2023-12-20 09:35:33
82阅读
1 交叉熵(Cross Entropy) 考虑一种情况，对于一个样本集，存在两个概率分布 $p(x)$ 和 $q(x)$，其中 $p(x)$ 为真实分布，$q(x)$ 为非真实分布。基于真实分布 $p(x)$ 我们可以计算这个样本集的信息熵也就是编码长度的期望为： $H(p)=-\sum \limi ...
翻译
2021-07-20 15:52:00
1523阅读
2评论
损失函数我们之前讲了我们对于一张图片，我们对其进行打分，代表它被分为某一类的可能性，那么我们需要建立一个损失函数来对这个分类器的好坏进行衡量我们定义SVM损失函数有如下形式。SVM只是一个二元分类器，我们将其进行推广到多元的情况，定义了SVM损失函数。我们将正确类的打分与其他类打分做差，如果差值大一某个阈值（在下图例子中阈值为1），则损失函数为0,；若小于阈值，我们将损失函数定义为二者之差加上阈值
转载
2024-03-19 21:02:28
81阅读
传统的语言模型在预测序列中的下一个单词时只会考虑到前面的有限个单词，RNN与之不同，RNN网络会根据前面已经出现的所有输入来调整整个网络。下图是RNN网络的典型结构：Xt表示在t时刻的输入，ht表示t时刻的隐藏层状态，yt表示t时刻的输出。每一个隐藏层都有许多的神经元，这些神经元将上一层的输入做线性变换（矩阵乘法，也就是乘以权重），然后再使用非线性激活函数进行激活。t时刻的输入Xt和t-1时刻的隐
转载
2023-08-09 00:23:14
645阅读
损失函数Question？ 是什么？ 有什么用？ 怎么用？1 是什么？ 损失函数（loss function）是用来估量你模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风险函数重要组成部分。模型的结构风险函数包括了经验风险项和正则项，通常可以表示成如下式子：
转载
2024-05-09 13:20:58
51阅读
1、sigmoid函数 sigmoid函数，也就是s型曲线函数，如下： 函数： 导数： 上面是我们常见的形式，虽然知道这样的形式，也知道计算流程，不够感觉并不太直观，下面来分析一下。1.1 从指数函数到sigmoid 首先我们来画出指数函数的基本图形： 从上图，我们得到了这样的几个信息，指数函数过(0,1)点，单调递增/递减，定义域为(−∞,+∞)，值域为(0,+∞
转载
2023-12-21 22:54:48
391阅读
# 代价函数 * 代价函数的由来 一般来说给出一系列点欲求回归线性方程，即点到直线的距离最小  设对应关系为$H(x)$ 则希望$(H(x_ ...
转载
2021-10-02 03:39:00
211阅读
2评论
损失函数1.损失函数是什么？损失函数：衡量模型输出与真实标签的差异为什么目标函数有Regularization这一项呢？因为cost接近于0，不一定是好事？可能过拟合。增加正则项的目的就是加入约束条件。在一定程度上的抑制过拟合。在loss函数中，size_average和reduce不用再考虑了，都已经被reduction考虑进去了。同时可知loss也是继承了Module，就是...
原创
2021-08-02 14:09:30
332阅读
一、 什么是损失函数首先我们需要了解损失函数的定义是什么：衡量模型模型预测的好坏可能这么说有点小小的抽象 ，那么在解释下，损失函数就是用来表现预测与实际数据的差距程度比如你做一个线性回归
原创
2021-07-29 13:54:37
725阅读
上一篇文章《语音降噪模型归纳汇总》，很意外地收到了点赞收藏和关注，如此的反馈给了我极大的鼓舞，这里就再梳理了一下loss函数相关的知识，以求方便能作为一份工具性质的文章展现出来。能力一般，水平有限，欢迎大家指正。目录前言什么是损失（Loss）？ 预测值（估计值）与实际值（预期值、参考值、ground truth）之间会存在差异, “损失”意味着模型因未能产生预期结果而受到的惩罚。损失函数的作用？
转载
2023-10-07 19:19:32
78阅读
对数损失（Logarithmic Loss，Log Loss）是一种用于衡量分类模型的损失函数。它通常用于二元分类问题，但也可以用于多元分类问题。在二元分类问题中，Log Loss 基于预测概率和实际标签的对数误差来计算损失。对于一个样本 i，假设它的实际标签是 yi（取值为 0 或 1），模型预测的概率为 y^i（0 ≤ y^i ≤ 1），则它的
转载
2023-10-08 14:48:15
415阅读
1、模型结构——CBOW 输入层：上下文单词的onehot。单词向量空间dim为V，上下文单词个数为C所有onehot分别乘以共享的输入权重矩阵W。V*N矩阵，N为自己设定的数，初始化权重矩阵W所得的向量相加求平均作为隐层向量，size为1*N.乘以输出权重矩阵W'得到向量1*V激活函数处理得到V-dim概率分布，对应V个单词概率最大的index所指示的单词为预测出的中间词与true l
转载
2024-02-21 15:10:35
209阅读
目录1.均方误差损失函数（MSE）2.交叉熵损失2.1 二分类2.2多分类2.3 交叉熵损失 和 KL 散度2.4交叉熵损失函数的梯度3.Hinge Loss 损失函数是机器学习模型的关键部分：定义了衡量模型性能的目标，通过最小化损失函数来确定模型学习的权重参数的设置。有几种不同的常见损失函数可供选择：交叉熵损失、均方误差、huber loss和hinge loss等等。给定一个特定的模
转载
2024-03-21 19:40:05
226阅读
面试中被boss问到我了解的损失函数有哪些？？？瞬间懵逼。。现在总结几种常见的损失函数：（1）0-1损失：L = L(Y, f(x)) = 1 if ( Y != f(x)) else 001损失感觉实际使用的地方很少，只是判断函数值是否为GT，而且这个损失函数是非凸的，可以统计有多少样本预测出错。勘误：01损失在SVM中出现，只是由于01误差非凸，不连续的数学性质不好，导致目标函数不易求解，所以
转载
2023-07-17 21:20:54
213阅读
