前言一、已具备的loss曲线图二、AI助力1.为图像建立矩形遮板2.绘制趋势曲线 前言俗话说,一图胜千言,在一篇文章里,图是最吸引人的,画得好便会如虎添翼,让读者对文章主要方法的理解更加容易。今日分享和记录一下绘制损失(loss)函数图时发现的一个事后补救、锦上添花的小小小小~小技巧。看一下成品:  一、已具备的loss曲线图之前通过python的matplotlib或者plotly绘制好部分的l            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-28 06:39:15
                            
                                603阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            上周对于NN的框架有了整体的把握,这周看了一些网络中的核心问题。中间穿插的看了一些视频,主要还是啃DL这本书,把第七章和第八章看完了(跳过了dropout,个人觉得这个对于现阶段的我有点细节)。第七章是正则化问题,着重理解了一些其中证明的过程;第八章是优化问题,书上的讲法偏顶层设计。以后就是对每个网络的研读了。正则化范数惩罚一种是参数范数惩罚,为了分析权重衰减的一些变化,假设了目标w*,并在w*            
                
         
            
            
            
            # 用Python画损失函数曲线
## 介绍
损失函数是机器学习中非常重要的概念,它用于衡量模型的预测值与真实值之间的差距。在训练模型的过程中,我们希望通过调整模型的参数,使得损失函数的值最小化。在本文中,我们将使用Python来画出损失函数的曲线,并通过一个具体的例子来说明。
## 什么是损失函数?
损失函数是用来衡量模型预测值与真实值之间的差距的函数。在机器学习中,我们通常使用均方误差            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2023-12-27 03:56:22
                            
                                462阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            # 使用Python绘制CNN的损失函数曲线
## 引言
欢迎来到Python开发者的世界!在本篇文章中,我将教会你如何使用Python绘制卷积神经网络(CNN)的损失函数曲线。作为一名经验丰富的开发者,我将带你逐步完成这个任务。
## 整体流程
接下来,我将按照以下流程为你解释整个实现的步骤。请参考下表:
```mermaid
erDiagram
    Developer -->> Ne            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2023-11-11 05:08:33
                            
                                187阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            机器学习是一门需要不断实验和试错的科学,拥有大量的实战经验几乎比拥有一个好的算法还要重要,没有一个机器学习模型能够对所有的问题有效。因此,想要学好机器学习一定要有非常多的项目练习作为支撑,从实践中探寻机器学习的技法。但一个机器学习项目的实施需要实践者拥有丰富的机器学习理论并具有将理论知识实践的能力,这让很多机器学习小白望而却步。本文将利用sklearn中自带的数据集(鸢尾花数据集),            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-11 20:49:44
                            
                                275阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            目录均方损失 绝对值损失函数 huber's robust Loss损失函数 是用来衡量预测值和真实值之间的区别。三个常用损失函数均方损失        绿色的线是 似然函数 (1的-l次方)。蓝色橙色如下图所示:   绝对值损失函数               
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-29 11:05:55
                            
                                168阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            损失函数梯度下降其他优化算法多分类 损失函数损失函数:逻辑回归如果使用和线性回归相同的损失函数,那得到的损失函数图像如下:  由函数图像看出,这是一个非凸函数(凸函数最重要的特征是局部最优解同时也是全局最优解),并不适用于做逻辑回归的损失函数。  我们对损失函数作出改变,得到全新的损失函数并得到其图像:  从图像看出,函数只有一个最小值,这个最小值是局部最小值同时也是全局最小值。这个损失函数是一            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-28 11:56:09
                            
                                89阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            本节是上一节的延续,主要介绍一下损失函数的概率解释,以及梯度下降和牛顿法两种可以用于极值求解的优化算法。1. 损失函数的概率解释对于线性回归模型,为什么最小化损失函数J是一种合理的选择?假设目标变量和输入的关系如下:其中,代表偏差,可能是一些模型未覆盖的因素导致的偏差或者随机噪声,并且进一步假设它们服从高斯分布且独立同分布,。即:表示给定情况下 的条件分布。注意w是参数,并非随机变量,因此不能表示            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-23 11:10:32
                            
                                39阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            这是一篇根据我个人需要的复习笔记 本来想一篇写下的结果发现太多了自己找起来都好累 干脆分成两半 上半部分包括:Decision Tree/Random Forest/Preprocessing and Feature Engineering/PCA/Logistic Regression/Kmeans. 下半部分从SVM开始 还在整理中。七、SVM非常强(强学习器,线性分类非线性分类都能做、二分类            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-02 18:31:23
                            
                                39阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            目录1、什么是损失函数2、为什么使用损失函数3、损失函数3.1 基于距离度量的损失函数3.1.1 L1_Loss3.1.2 L2_Loss3.1.3 Smooth L1损失函数 
                                    
                             
         
            
            
            
            一. 损失函数    在上一讲的线性分类器中,我们使图像与一个权重w相乘,然后输出每个分类可能性的分数。某个类别的分数越高,图像就越有可能是这一类。但是如何确定w的好坏,我们需要一个评价的标准。    我们可以把w输入到一个函数中,这个函数会返回对w的评价结果(一个分数),这个函数的返回值反映了w的好坏。这个函数我们就叫做损失函数。 1.1 多分类            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-04 08:32:47
                            
                                157阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            1. L2 loss (均方损失)除以2就是可以在求导时2和1/2可以相乘抵消。蓝色的曲线表示:y=0时,变化预测值y’的函数。 绿色曲线表示:似然函数。e^-l。 是一个高斯分布。 橙色的线:表示损失函数的梯度可以看到:但真实值y‘和真实值隔得比较远的时候,梯度的绝对值比较大,对参数的更新是比较多的。随着预测值慢慢靠近真实值的时候,靠近原点的时候,梯度的绝对值会变得越来越小,也意味着参数更新的幅            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-31 03:10:37
                            
                                915阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            文章目录1. 命名空间2. 如何开启TensorBoard3. 一个简单的神经网络应用TensorBoard4. 其他summary函数    Tensorflow提供了一个可视化工具TensorBoard。TensorBoard可以有效的展示TensorFlow在运行过程中的计算图、各种指标随时间的变化趋势以及训练中使用到的图像等信息。 1. 命名空间  在TensorFlow的默认视图中,T            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-18 08:54:47
                            
                                147阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Eden寒假日更_04——损失函数与优化_02softmax损失优化每日面试(葫芦书) softmax损失除了多类别SVM损失函数之外,深度学习中另外的一个流行选择是多项逻辑斯蒂回归,现如今它通常将softmax函数作为他的损失函数。这个损失函数在深度学习领域可能使用得更为广泛。回顾之前提到的SVM损失函数,我们并没有对通过函数后的得分做过多的解释,我们知识希望正确分类的得分比不正确分类的得分要            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-17 16:06:00
                            
                                25阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            损失函数最小二乘法极大似然估计法交叉熵 【本文根据B站-王木头学科学-视频所学】 在梯度下降中,所求的梯度其实就是损失函数的梯度。损失函数有三种设计方法: (1)最小二乘法 (2)极大似然估计法 (3)交叉熵法什么是损失函数呢? 其实就是我们想的模型标准和现实模型相比较,相差多少的定量表达。那么损失函数如何设计出来的呢?背后的含义是什么?最小二乘法公式:举例 存在一个神经网络,用于判断输入的图片            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-17 18:37:09
                            
                                13阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            图文详解WGAN及其变体WGAN-GP并利用Tensorflow2实现WGAN与WGAN-GP构建WGAN(Wasserstein GAN)Wasserstein loss介绍1-Lipschitz约束的实现训练过程实现梯度惩罚(WGAN-GP)完整代码构建WGAN(Wasserstein GAN)自GAN提出以来,许多论文尝试通过使用启发式方法(例如尝试不同的网络体系结构,超参数和优化器)来解决            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-07 21:08:09
                            
                                1432阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            本文介绍Keras的几个常用的分类损失函数,包括categorical_crossentropy,sparse_categorical_crossentropy,binary_crossentropy,hinge, squared_hinge,categorical_hinge。基本用法如下:# 使用categorical_crossentropy;使用其他损失替换损失函数的指代词即可
model            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-15 10:20:44
                            
                                97阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            损失函数(Loss Function): 损失函数(loss function)就是用来度量模型的预测值f(x)与真实值Y的差异程度的运算函数,它是一个非负实值函数,通常使用L(Y, f(x))来表示,损失函数越小,模型的鲁棒性就越好。损失函数的作用:损失函数使用主要是在模型的训练阶段,每个批次的训练数据送入模型后,通过前向传播输出预测值,然后损失函数会计算出预测值和真实值之间的差异值,也就是损失            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-22 14:37:19
                            
                                536阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            损失函数Question?  是什么?  有什么用?  怎么用?1 是什么?  损失函数(loss function)是用来估量你模型的预测值f(x)与真实值Y的不一致程度,它是一个非负实值函数,通常使用L(Y, f(x))来表示,损失函数越小,模型的鲁棒性就越好。损失函数是经验风险函数的核心部分,也是结构风险函数重要组成部分。模型的结构风险函数包括了经验风险项和正则项,通常可以表示成如下式子:θ            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-06-07 17:28:14
                            
                                49阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            前文回顾:1.我们得到了一些数据集:dataset of (x,y); 2.设置一个分数函数 score function:用来给线性分类器的结果打分,以衡量相似度。 3.设置了损失函数loss function:定量的计算我们的预测结果是否如意,衡量模型通过训练习得的参数是好还是坏。 4.提到了正则化的概念:通过给损失函数增加一个惩罚项,试图在训练数据之间进行权衡,并尽量输出一个更简单的模型。在            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-15 21:38:24
                            
                                112阅读
                            
                                                                             
                 
                
                                
                    