前言一、已具备的loss曲线图二、AI助力1.为图像建立矩形遮板2.绘制趋势曲线 前言俗话说，一图胜千言，在一篇文章里，图是最吸引人的，画得好便会如虎添翼，让读者对文章主要方法的理解更加容易。今日分享和记录一下绘制损失(loss)函数图时发现的一个事后补救、锦上添花的小小小小~小技巧。看一下成品： 一、已具备的loss曲线图之前通过python的matplotlib或者plotly绘制好部分的l
转载
2023-11-28 06:39:15
603阅读
函数详解：（文末有原理推导，不想看可直接跳过） GAN的原始损失函数，咋一看是非常难以理解的，但仔细理解后就会发现其简洁性和丰富的含义。损失函数定义：一切损失计算都是在D（判别器）输出处产生的，而D的输出一般是fake/true的判断，所以整体上采用的是二进制交叉熵函数。左边包含两部分minG和maxD。首先看一下maxD部分，因为训练一般是先保持G（生成器）不变训练D的。D的训练目标是正确区
转载
2024-03-27 20:38:14
380阅读
上周对于NN的框架有了整体的把握，这周看了一些网络中的核心问题。中间穿插的看了一些视频，主要还是啃DL这本书，把第七章和第八章看完了（跳过了dropout，个人觉得这个对于现阶段的我有点细节）。第七章是正则化问题，着重理解了一些其中证明的过程；第八章是优化问题，书上的讲法偏顶层设计。以后就是对每个网络的研读了。正则化范数惩罚一种是参数范数惩罚，为了分析权重衰减的一些变化，假设了目标w*，并在w*
目录均方损失 绝对值损失函数 huber's robust Loss损失函数 是用来衡量预测值和真实值之间的区别。三个常用损失函数均方损失 绿色的线是 似然函数 (1的-l次方)。蓝色橙色如下图所示： 绝对值损失函数
转载
2024-04-29 11:05:55
168阅读
目录1、什么是损失函数2、为什么使用损失函数3、损失函数3.1 基于距离度量的损失函数3.1.1 L1_Loss3.1.2 L2_Loss3.1.3 Smooth L1损失函数与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。损失函数是经验风险函数的核心部分，也是结构风险函数重要组成部分。模型的结构风险函数包括了经验风险项和正则项，通常可以表示成如下式子：θ
转载
2024-06-07 17:28:14
49阅读
本节是上一节的延续，主要介绍一下损失函数的概率解释，以及梯度下降和牛顿法两种可以用于极值求解的优化算法。1. 损失函数的概率解释对于线性回归模型，为什么最小化损失函数J是一种合理的选择？假设目标变量和输入的关系如下：其中，代表偏差，可能是一些模型未覆盖的因素导致的偏差或者随机噪声，并且进一步假设它们服从高斯分布且独立同分布，。即：表示给定情况下 的条件分布。注意w是参数，并非随机变量，因此不能表示
转载
2024-05-23 11:10:32
39阅读
损失函数最小二乘法极大似然估计法交叉熵 【本文根据B站-王木头学科学-视频所学】 在梯度下降中，所求的梯度其实就是损失函数的梯度。损失函数有三种设计方法： （1）最小二乘法 （2）极大似然估计法 （3）交叉熵法什么是损失函数呢？ 其实就是我们想的模型标准和现实模型相比较，相差多少的定量表达。那么损失函数如何设计出来的呢？背后的含义是什么？最小二乘法公式：举例 存在一个神经网络，用于判断输入的图片
转载
2023-12-17 18:37:09
13阅读
一. 损失函数 在上一讲的线性分类器中，我们使图像与一个权重w相乘，然后输出每个分类可能性的分数。某个类别的分数越高，图像就越有可能是这一类。但是如何确定w的好坏，我们需要一个评价的标准。 我们可以把w输入到一个函数中，这个函数会返回对w的评价结果（一个分数），这个函数的返回值反映了w的好坏。这个函数我们就叫做损失函数。 1.1 多分类
转载
2024-06-04 08:32:47
157阅读
1. L2 loss （均方损失）除以2就是可以在求导时2和1/2可以相乘抵消。蓝色的曲线表示：y=0时，变化预测值y’的函数。 绿色曲线表示：似然函数。e^-l。 是一个高斯分布。 橙色的线：表示损失函数的梯度可以看到：但真实值y‘和真实值隔得比较远的时候，梯度的绝对值比较大，对参数的更新是比较多的。随着预测值慢慢靠近真实值的时候，靠近原点的时候，梯度的绝对值会变得越来越小，也意味着参数更新的幅
转载
2024-01-31 03:10:37
915阅读
机器学习是一门需要不断实验和试错的科学，拥有大量的实战经验几乎比拥有一个好的算法还要重要，没有一个机器学习模型能够对所有的问题有效。因此，想要学好机器学习一定要有非常多的项目练习作为支撑，从实践中探寻机器学习的技法。但一个机器学习项目的实施需要实践者拥有丰富的机器学习理论并具有将理论知识实践的能力，这让很多机器学习小白望而却步。本文将利用sklearn中自带的数据集(鸢尾花数据集),
转载
2024-01-11 20:49:44
275阅读
这是一篇根据我个人需要的复习笔记 本来想一篇写下的结果发现太多了自己找起来都好累 干脆分成两半 上半部分包括：Decision Tree/Random Forest/Preprocessing and Feature Engineering/PCA/Logistic Regression/Kmeans. 下半部分从SVM开始 还在整理中。七、SVM非常强（强学习器，线性分类非线性分类都能做、二分类
转载
2024-01-02 18:31:23
39阅读
# Python 如何绘制损失函数
在机器学习和深度学习中，损失函数是评估模型性能的重要指标。损失函数的值越低，说明模型在训练数据上的表现越好。通过绘制损失函数的图形，我们可以直观地观察到模型在训练过程中的表现变化；例如，损失函数是否在下降，是否出现过拟合现象等。本文将介绍如何使用 Python 绘制损失函数，并通过一个具体示例来演示这一过程。
## 1. 什么是损失函数？
损失函数，或称为
前文回顾：1.我们得到了一些数据集：dataset of （x,y）; 2.设置一个分数函数 score function：用来给线性分类器的结果打分，以衡量相似度。 3.设置了损失函数loss function：定量的计算我们的预测结果是否如意，衡量模型通过训练习得的参数是好还是坏。 4.提到了正则化的概念：通过给损失函数增加一个惩罚项，试图在训练数据之间进行权衡，并尽量输出一个更简单的模型。在
转载
2023-12-15 21:38:24
112阅读
文章目录1. 命名空间2. 如何开启TensorBoard3. 一个简单的神经网络应用TensorBoard4. 其他summary函数 Tensorflow提供了一个可视化工具TensorBoard。TensorBoard可以有效的展示TensorFlow在运行过程中的计算图、各种指标随时间的变化趋势以及训练中使用到的图像等信息。 1. 命名空间 在TensorFlow的默认视图中，T
转载
2024-08-18 08:54:47
147阅读
文章目录1 Regression1.1 均方误差（MSE）/L2损失1.2 均方根误差（root mean suqare error,RMSE）1.3 平均绝对误差MAE/L1损失1.4 平均偏差误差（Mean Bias Error）1.5 平均绝对百分比误差（Mean Absolute Pencent Error，MAPE）1.6 Huber损失函数2 Classification2.1 0-
转载
2023-11-09 17:18:03
163阅读
Eden寒假日更_04——损失函数与优化_02softmax损失优化每日面试（葫芦书） softmax损失除了多类别SVM损失函数之外，深度学习中另外的一个流行选择是多项逻辑斯蒂回归，现如今它通常将softmax函数作为他的损失函数。这个损失函数在深度学习领域可能使用得更为广泛。回顾之前提到的SVM损失函数，我们并没有对通过函数后的得分做过多的解释，我们知识希望正确分类的得分比不正确分类的得分要
转载
2024-07-17 16:06:00
25阅读
