HL越来越火,常用的HL软件也有好几个,而我 Deepfacelab 就是一种基于深度学习的软件,它可以把视频中的L替换成你想要的L。想想就很爽吧,但是这种对电脑的硬件依赖比较大,如显卡。而最近显卡价格的波动比较大,主要买不起,所以就拿游戏笔记本(GTX1060)做一个简单的样例。AI 换脸就是采用生成式对抗网络(GAN, Generative Adversarial Networks )的人工智            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-08 15:15:45
                            
                                136阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            第一种方法:重定向训练日志文件 我们在训练的时候会用到caffe/buile/tools/caffe 这个里面的train这个选项。在输入之后,正常会显示训练日志的详细信息。想要画出这里面显示的loss和accuracy图,就可以把这些输出的日志内容重定向到一个文件内,然后利用shell命令检索出其中的loss和accuracy值,再将其画出就行了。  这里需要注意的是,重定向的方式是在命令的后面            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-31 02:09:52
                            
                                578阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Original url:Loss曲线震荡:分析原因:  1:训练的batch_size太小1.       当数据量足够大的时候可以适当的减小batch_size,由于数据量太大,内存不够。但盲目减少会导致无法收敛,batch_size=1时为在线学习。2.  batch的选择,首先决定的是下降方向,如果数            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-14 15:03:31
                            
                                287阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Caffe自带工具包---绘制loss和accuracy曲线  为什么要绘制loss和accuracy曲线?在训练过程中画出accuracy 和loss曲线能够更直观的观察网络训练的状态,以便更好的优化网络的训练。本文主要介绍在基于caffe框架训练网络时,利用caffe自带的工具包来绘制曲线。caffe中自带小工具: caffe-master/tools/extra/parse_log.sh,            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-14 21:39:56
                            
                                548阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            如何在window下绘制caffe的loss和accuracy曲线其大概方法都是要先生成log文件,然后通过其来绘制这两条曲线。生产log文件基本有两种方法。方法一通过命令行来进行生成,其使用bat文件时的配置为:h:  
cd H:\VCproject\dd
caffe.exe train --solver=H:/VCproject/dd/solver.prototxt --weights=H:            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-17 07:42:51
                            
                                400阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            第一步保存日志文件,用重定向即可:  $TOOLS/caffe train --solver=$SOLVERFILE 2>&1 |tee out.log  第二步直接绘制:  python plot_training_log.py 2 testloss.png out.log  这个plot_training_log.py在这个目录下caffe-fast-rcnn/tools/ext            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-01 07:19:39
                            
                                299阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Hao Wang, Yitong Wang, Zheng Zhou, Xing Ji, Dihong Gong, Jingchao Zhou, Zhifeng Li∗, and Wei Liu∗Tencent AI Lab{hawelwang,yitongwang,encorezhou,denisji,sagazhou,michaelzfli}@tencent.comgongdihong@gmai            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-02-04 20:48:22
                            
                                243阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Loss曲线振荡:分析原因:  1:训练的batch_size太小 1.       当数据量足够大的时候可以适当的减小batch_size,由于数据量太大,内存不够。但盲目减少会导致无法收敛,batch_size=1时为在线学习。2.  batch的选择,首先决定的是下降方向,如果数据集比较小,则            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-18 23:54:20
                            
                                297阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            深度强化学习-DDPG算法原理与代码引言1 DDPG算法简介2 DDPG算法原理2.1 经验回放2.2 目标网络2.2.1 算法更新过程2.2.2 目标网络的更新2.2.3 引入目标网络的目的2.3 噪声探索3 DDPG算法伪代码 4 代码实现5 实验结果6 结论引言Deep Deterministic Policy Gradient (DDPG)算法是DeepMind团队提出的一种专门            
                
         
            
            
            
            目录摘要一、acc 曲线与 loss 曲线二、完整代码摘要loss / loss 可视化,可视化出准确率上升、损失函数下降的过程一、acc 曲线与 loss 曲线history = model.fit(训练集数据, 
                    训练集标签, 
                    bat            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-03 20:26:31
                            
                                1145阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            好记性不如烂笔头,纯粹为自己的学习生活记录点什么!tensorboard 同时显示多个模型准确率和损失率tensorboard 同时显示多个模型的accuracy和lossFound more than one graph event per run, or there was a metagraph containing a graph_def, as well as one or more g            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-20 22:10:52
                            
                                323阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Pixel2Mesh: Generating 3D Mesh Models from Single RGB ImagesPixel2Mesh[paper][code]一、Introduction从单一视角推断三维形状是人类视觉的一项基本功能,但对计算机视觉来说却是一项极具挑战性的工作。利用规则网格上的卷积层或多层感知,估计的三维形状作为神经网络的输出,可以表示为体积或点云。然而,这两            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-29 16:25:51
                            
                                171阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            由于最近使用caffe训练一个网络,学习了如何使用训练过程中生成的log来绘制loss函数曲线,主要用于观察所训练的网络是否收敛。  前提:安装完caffe后已经对pycaffe和matcaffe编译过了。  接下来从训练过程如何生成训练状态的日志(log)说明,直到绘制出loss函数的曲线。  Step1.对网络训练的脚本文件train.sh进行修改,加上生成log的语句。  使用vim打开tr            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-12 08:00:09
                            
                                908阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            # 深度学习Loss曲线分析项目方案
## 项目背景
在深度学习模型的训练过程中,Loss(损失)曲线是反映模型性能的重要指标。通过分析Loss曲线,研究者可以判断模型是否已经收敛、过拟合或欠拟合。因此,构建一个有效的Loss曲线分析工具,以帮助研究者优化模型训练过程,显得尤为重要。
## 项目目标
本项目旨在设计一个工具,能够在深度学习训练过程中实时监控Loss曲线,并辅助用户判断模型当            
                
         
            
            
            
            深度学习模型调参笔记train loss 下降,val loss下降,说明网络仍在学习; 奈斯,继续训练 train loss 下降,val loss上升,说明网络开始过拟合了;赶紧停止,然后数据增强、正则 train loss 不变,val loss不变,说明学习遇到瓶颈;调小学习率或批量数目 train loss 不变,val loss下降,说明数据集100%有问题;检查数据集标注有没有问题            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-13 01:46:28
                            
                                3310阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            # 深度学习中的Loss曲线及其横轴探讨
## 什么是Loss曲线?
Loss曲线是深度学习过程中非常重要的一个概念,它展示了随着训练的进行,模型在训练集或验证集上的损失变化情况。观察Loss曲线的横轴是很有意义的,它能帮助我们理解模型的学习过程。
## Loss曲线的横轴是什么?
Loss曲线的横轴通常是训练过程中的“训练轮次(epochs)”。每个epoch指的是整个训练数据集被用于训            
                
         
            
            
            
            前一段时间使用caffe在cifar10数据集上训练全卷积网络(前面的论文阅读的博客中有提到),为了方便调参需要很直观地看到训练过程中loss下降情况以及test accuracy情况,这就需要将训练过程中loss情况通过曲线形式进行绘制。caffe没有像tenserflow一样提供可以直接掉用的接口只是提供了各种工具可供用户绘制曲线使用,下面简单介绍下如何使用caffe自带的工具绘制训练过程中l            
                
         
            
            
            
                  写这篇博客的原因主要是为了总结下在深度学习中我们常会遇到的一些问题,以及不知道如何解决,我准备把这个部分作为一个系列,为了让大家少走一些坑,对于本博客有什么错误,欢迎大家指出,下面切入正题吧。1. 深度学习,一个令人头疼的问题就是如何调参?简而言之,如果数据集复杂的话,那么就要增加网络的层数,模型欠拟合了,加节点。2. 关于验证集的loss曲线和acc曲线            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-21 06:43:09
                            
                                53阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            1.背景与动机例子 Example >>问题:谷歌希望利用用户移动数据训练模型可能的解决方案:集中化学习 Centralized Learning搜集用户数据在集群上训练用户模型挑战:用户拒绝传递他们的数据,尤其是敏感数据,传递到谷歌的服务器上。即:目前机器学习面临数据孤岛的问题。联邦学习针对这样的问题进行解决。2.分布式机器学习与联邦学习参数服务器过程概述 分布式机器学习中有一个编程            
                
         
            
            
            
            有的模型训练的精度问题要到动态的训练过程中才会发现,这是就需要检查输入数据和loss曲线。检查loss曲线很多精度问题会在网络训练过程中发现,常见的问题或现象有:·权重初始化不合理(例如初始值为0,初始值范围不合理等);·权重中存在过大、过小值;·权重变化过大;·权重冻结不正确;·权重共享不正确;·激活值饱和或过弱(例如Sigmoid的输出接近1,Relu的输出全为0);·梯度爆炸、消失;·训练e            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-03 12:36:49
                            
                                1781阅读