一：pytorch.nn常用知识整理构建神经网络1.激活函数（1）softmax函数： 将多个神经元的输出，映射到（0,1）区间内； 很多时候，Sigmoid 作为最后一层的激活函数与交叉嫡代价函数组合； 如果需要将输出解释为概率分布，一般建议用softmax激活函数。 （2）ReLU激活函数：计算量小 一定程度上缓解“梯度消失”问题 使部分神经元的输出为零，一定程度
转载
2024-01-14 19:32:32
81阅读
对于二分类问题，使用softmax或者sigmoid，在实验结果上到底有没有区别(知乎上相关问题讨论还不少)。最近做的相关项目也用到了这一块，从结果上来说应该是没什么区别，但是在模型上还是存在一定差异性的(可以应用于多模型融合、在相关比赛项目当中还是可以使用的)。相关知识和代码总结如下。以下主要分为4个部分：交叉熵损失、二分类交叉熵损失、Focal loss及二分类Focal loss1. CE_
转载
2024-01-10 18:56:36
154阅读
背景最近一直在总结Pytorch中Loss的各种用法，交叉熵是深度学习中最常用的计算方法，写这个稿子把交叉熵的来龙去脉做一个总结。什么是交叉熵信息量引用百度百科中信息量的例子来看，在日常生活中，极少发生的事件一旦发生是容易引起人们关注的，而司空见惯的事不会引起注意，也就是说，极少见的事件所带来的信息量多。如果用统计学的术语来描述，就是出现概率小的事件信息量多。因此，事件出现得概率越小，信息量愈大。
转载
2024-08-21 19:26:25
57阅读
pytorch 常用loss函数1.L1 Loss/平均绝对误差（MAE）1.1 L1 Loss/平均绝对误差（MAE）简介1.2 编程实现2. L2 Loss/均方误差（MSE）2.1 L2 Loss/均方误差（MSE）简介2.2 编程实现3. SmoothL1 Loss3.1 SmoothL1 Loss简介3.2 编程实现4. BCELoss和BCEWithLogitsLoss4.1 BCE
对于loss的定义和选择，是决定一个模型能否收敛甚至是针对特定问题是否能够进行灵活应用的基石，因而对于loss的理解和把握是炼丹师的基本数学修养。从pytorch的loss的使用来看，是对于loss的理解的一个很好的入口。 对于Loss的理解应该是无止境的，有如下的一些比较高阶的理解：L1 loss，L2 loss 和 smoothL1loss对于L1 loss，L2 loss 和 sm
转载
2023-09-05 21:19:54
78阅读
损失函数一句话：损失函数就是计算预测值和真实值之间的误差。损失函数可以分为以下三类：回归损失函数：应用于预测连续的值，如房价，年龄等分类损失函数：用于离散的值，图像分类，图像分割等排序损失函数：用于预测输入数据之间的相对距离下面逐一介绍损失函数L1 loss L1 loss 也称为平均绝对误差（Mean Absolute Error），简称MAE，计算真实值和预测值之间绝对差之和的平均值。 应
转载
2023-10-08 23:10:36
523阅读
我用的是Anaconda3 ，用spyder编写pytorch的代码，在Anaconda3中新建了一个pytorch的虚拟环境（虚拟环境的名字就叫pytorch)。以下内容仅供参考哦~~1.首先打开Anaconda Prompt，然后输入activate pytorch，进入pytorch.2.输入pip install tensorboardX，安装完成后，输入python，用from tens
转载
2023-07-28 15:38:38
1080阅读
目录前言一、损失函数二、详解1.回归损失2.分类损失三. 总结 前言损失函数在深度学习中占据着非常重要的作用，选取的正确与否直接关系到模型的好坏。本文就常用的损失函数做一个通俗易懂的介绍。一、损失函数根据深度函数的模型类型，损失函数可分为三类：1. 回归损失（Regression loss）：预测连续的数值，即输出是连续数据：如预测房价、气温等；2. 分类损失（Classificat
转载
2023-07-11 13:39:17
156阅读
目录参考文献人脸损失函数CenterLoss （2016）余弦距离 cosine lossCosineMarginLoss（Large-Margin-Cosine-Loss）（2018 CosFace）ArcFaceCircle Loss（2020）MV-Softmax loss（2020）CurricularFace（2020）人脸损失函数github源码详解ArcFace（InsightFa
转载
2024-05-27 15:46:19
77阅读
文章目录1 Loss 介绍2 常见 LossL1 lossL2 lossNegative Log-Likelihood（NLL）Binary Cross-EntropyCross-EntropyHinge EmbeddingMargin Ranking LossTriplet Margin LossKL Divergence Loss3 Loss 设计4 softmax 及其变体5 Loss 异
转载
2024-03-11 12:11:44
203阅读
文章目录1. CrossEntropyLoss()1.1 CEL中不同计算模式的影响1.2 CEL中分类权重 weights 的影响1.3 nn.LogSoftmax()2. nn.NLLLoss()3. nn.BCELoss()4. nn.BCEWithLogitsLoss()5. nn.L1LOSS （MAE）6. nn.MSELoss7. nn.SmoothL1Loss8. nn.Pois
转载
2023-11-02 10:09:41
176阅读
文章目录1. 损失函数总览2. 回归损失函数3. 分类损失函数3.1 [交叉熵](https://charlesliuyx.github.io/2017/09/11/什么是信息熵、交叉熵和相对熵/ "【直观详解】信息熵、交叉熵和相对熵")3.2 分类损失函数3.3 总结 文章目录1. 损失函数总览2. 回归损失函数3. 分类损失函数3.1 [交叉熵](https://charlesliuyx.
转载
2023-08-09 00:55:43
223阅读
目录准备知识pytorch计算图（前馈+反向）pytorch线性回归（代码实战）构造数据pytorch中的分析构造模型构造损失函数和优化器迭代更新梯度输出与测试 准备知识注：了解计算图的同学可直接跳过。pytorch计算图（前馈+反向）无论在pytorch还是在tensorflow中，都是用计算图来计算前馈和反向传播过程。我们首先来介绍一个简单的计算图： 如上图所示，表示了y’ = w * x的
转载
2023-10-16 02:29:53
93阅读
文章目录1、CrossEntropyLoss-CE 交叉熵损失1.1 是什么？1.2 物理含义1.2 怎么代码实现和代码使用？1.2* 怎么代码实现和代码使用？1.3 应用场景1.3.1 多分类1.3.1 数值的回归参考 1、CrossEntropyLoss-CE 交叉熵损失1.1 是什么？一个损失函数，虽然说的是交叉熵，但是和《信息论》的交叉熵不一样。首先输入是size是(minibatch,
转载
2023-11-12 13:09:20
188阅读
在上一篇文章 中，我们自己手动实现了对于softmax操作和交叉熵的计算，可其实这些在Pytorch框架中已经被实现了，我们直接拿来使用即可。但是，为了能够对这些内容有着更深刻的理解，通常我们都会自己手动实现一次，然后在今后的使用中就可以直接拿现成的来用了。在接下来这篇文章中，笔者将首先介绍如何调用Pytorch中的交叉熵损失函数，然后再同时借助nn.Linear()来实现一个简洁版的
转载
2023-11-25 12:27:11
156阅读
前言交叉熵损失本质是衡量模型预测的概率分布与实际概率分布的差异程度，其值越小，表明模型的预测结果与实际结果越接近，模型效果越好。熵的概念来自与信息论，参考资料1对交叉熵的概念做了简明的介绍，很好理解。需要注意： Pytorch中的CrossEntropyLoss是LogSoftMax与NLLLoss的结合，下面以实例逐步拆解CrossEntropyLoss的计算过程。LogSoftMax当网络最后
转载
2023-08-11 21:23:36
171阅读
文章目录triplet losstriplet hard loss triplet loss官方文档：torch.nn — PyTorch master documentation关于三元损失，出自论文：FaceNet: A Unified Embedding for Face Recognition and Clustering三元损失的介绍很多看下图：训练集中随机选取一个样本：Anchor（
转载
2024-01-05 10:09:39
399阅读
在构建loss时pytorch常用的包中有最常见的MSE、cross entropy（logsoftmax+NLLLoss）、KL散度Loss、BCE、HingeLoss等等，详见：https://pytorch-cn.readthedocs.io/zh/latest/package_references/torch-nn/#loss-functions这里主要讲解一种考虑类间距离的Center
转载
2024-03-06 09:58:54
217阅读
caffe总结（八）训练集loss不下降1.模型结构和特征工程存在问题2.权重初始化方案有问题3.正则化过度4.选择合适的激活函数、损失函数5.选择合适的优化器和学习速率6.训练时间不足7.模型训练遇到瓶颈8.batch size过大9.数据集未打乱10.数据集有问题11.未进行归一化12.特征工程中对数据特征的选取有问题验证集loss不下降1.适当的正则化和降维2.适当降低模型的规模3.获取更
转载
2023-12-11 16:23:59
189阅读
PyTorch中的损失函数大致使用场景 最近学习 pytorch，将其损失函数大致使用场景做了一下汇总，多参考网上大家的文章，或直接引用，文后附有原文链接，如有不对，欢迎指正一、L1LossL1 Loss，它有几个别称：L1 范数损失最小绝对值偏差（LAD）最小绝对值误差（LAE）最常看到的 MAE 也是指L1 Loss损失函数它是把目标值 g 与模型输出(估计值) y 做绝对值得到的误差 。
转载
2024-06-16 13:20:13
66阅读
