目录基本信息张量(Tensor)类型定义转换GPU运行变量(Variable)说明组成结构例子标量求导矩阵求导数据集（Dataset）解释迭代器batchshufflesamplerbatch_samplernum_workerscollate_fnImageFolder解释roottransformloader模组(Module)模版(计算图)优化(torch.optim)一阶优化算法二阶优化
# Python绘图并保存
## 概述
在Python中，我们可以使用各种库来绘制图表。本文将教会你如何使用Python绘图并保存图表。我们将使用matplotlib库来实现这一目标。
## 整体流程
| 步骤 | 描述 |
| ---- | ---- |
| 1 | 导入matplotlib库和其他必要的库 |
| 2 | 创建数据用于绘制图表 |
| 3 | 创建图表对象 |
| 4 |
原创
2023-10-22 05:35:36
70阅读
1. 损失函数、代价函数与目标函数损失函数(Loss Function)：是定义在单个样本上的，是指一个样本的误差。代价函数(Cost Function)：是定义在整个训练集上的，是所有样本误差的平均，也就是所有损失函数值的平均。目标函数(Object Function)：是指最终需要优化的函数，一般来说是经验风险+结构风险，也就是(代价函数+正则化项)。--2. 常用的损失函数这一节转载自博客(
转载
2023-11-04 16:56:40
175阅读
# Python批量绘图并保存教程
## 引言
作为一名经验丰富的开发者，我非常乐意教会刚入行的小白如何使用Python实现批量绘图并保存。绘图是数据科学和数据可视化中非常重要的一环，它能够帮助我们更好地分析和理解数据。在本教程中，我们将使用Python的数据可视化库Matplotlib来实现这个功能。
## 整体流程
在开始之前，让我们先来看一下整个实现“Python批量绘图并保存”的流程。
原创
2023-08-10 06:24:44
490阅读
目录1. 导入库三种导库方法——以turtle库为例2. Turtle库的基本特点使用绝对坐标系：使用相对坐标系：色彩体系3. Turtle库的绘图流程画布的属性画笔的属性绘图命令1. 导入库三种导库方法——以turtle库为例海龟库是turtle绘图体系的Python实现，是Python语言的标准库之一，为入门级的图形绘制函数库。【库分为标准库和第三方库，第三方库是需要另外安装的】方法①impo
转载
2023-08-08 18:45:00
292阅读
# 使用Python绘制Loss曲线并保存图片的全流程
在深度学习项目中，观察训练过程中的Loss曲线是理解模型性能的重要方式。本文将详细介绍如何使用Python绘制Loss曲线并将其保存为图片，适合刚入行的小白学习与实践。
## 整体流程
以下是整个过程的简要步骤展示：
| 步骤 | 操作 | 说明
背景最近一直在总结Pytorch中Loss的各种用法，交叉熵是深度学习中最常用的计算方法，写这个稿子把交叉熵的来龙去脉做一个总结。什么是交叉熵信息量引用百度百科中信息量的例子来看，在日常生活中，极少发生的事件一旦发生是容易引起人们关注的，而司空见惯的事不会引起注意，也就是说，极少见的事件所带来的信息量多。如果用统计学的术语来描述，就是出现概率小的事件信息量多。因此，事件出现得概率越小，信息量愈大。
转载
2024-08-21 19:26:25
57阅读
# Pytorch 训练模型时如何记录数据并绘图
在PyTorch中，我们经常会训练神经网络模型来解决各种问题。在训练过程中，我们通常会记录模型的性能指标，并将这些数据可视化，以便更好地了解模型的训练情况。本文将介绍如何使用PyTorch中的工具记录数据并绘图。
## 记录数据
PyTorch提供了`torch.utils.tensorboard`模块，该模块可以帮助我们记录训练过程中的各种
原创
2024-02-26 05:50:10
259阅读
文章目录triplet losstriplet hard loss triplet loss官方文档：torch.nn — PyTorch master documentation关于三元损失，出自论文：FaceNet: A Unified Embedding for Face Recognition and Clustering三元损失的介绍很多看下图：训练集中随机选取一个样本：Anchor（
转载
2024-01-05 10:09:39
399阅读
在上一篇文章 中，我们自己手动实现了对于softmax操作和交叉熵的计算，可其实这些在Pytorch框架中已经被实现了，我们直接拿来使用即可。但是，为了能够对这些内容有着更深刻的理解，通常我们都会自己手动实现一次，然后在今后的使用中就可以直接拿现成的来用了。在接下来这篇文章中，笔者将首先介绍如何调用Pytorch中的交叉熵损失函数，然后再同时借助nn.Linear()来实现一个简洁版的
转载
2023-11-25 12:27:11
156阅读
在构建loss时pytorch常用的包中有最常见的MSE、cross entropy（logsoftmax+NLLLoss）、KL散度Loss、BCE、HingeLoss等等，详见：https://pytorch-cn.readthedocs.io/zh/latest/package_references/torch-nn/#loss-functions这里主要讲解一种考虑类间距离的Center
转载
2024-03-06 09:58:54
217阅读
前言交叉熵损失本质是衡量模型预测的概率分布与实际概率分布的差异程度，其值越小，表明模型的预测结果与实际结果越接近，模型效果越好。熵的概念来自与信息论，参考资料1对交叉熵的概念做了简明的介绍，很好理解。需要注意： Pytorch中的CrossEntropyLoss是LogSoftMax与NLLLoss的结合，下面以实例逐步拆解CrossEntropyLoss的计算过程。LogSoftMax当网络最后
转载
2023-08-11 21:23:36
171阅读
目录参考文献人脸损失函数CenterLoss （2016）余弦距离 cosine lossCosineMarginLoss（Large-Margin-Cosine-Loss）（2018 CosFace）ArcFaceCircle Loss（2020）MV-Softmax loss（2020）CurricularFace（2020）人脸损失函数github源码详解ArcFace（InsightFa
转载
2024-05-27 15:46:19
77阅读
目录前言一、损失函数二、详解1.回归损失2.分类损失三. 总结 前言损失函数在深度学习中占据着非常重要的作用，选取的正确与否直接关系到模型的好坏。本文就常用的损失函数做一个通俗易懂的介绍。一、损失函数根据深度函数的模型类型，损失函数可分为三类：1. 回归损失（Regression loss）：预测连续的数值，即输出是连续数据：如预测房价、气温等；2. 分类损失（Classificat
转载
2023-07-11 13:39:17
156阅读
我用的是Anaconda3 ，用spyder编写pytorch的代码，在Anaconda3中新建了一个pytorch的虚拟环境（虚拟环境的名字就叫pytorch)。以下内容仅供参考哦~~1.首先打开Anaconda Prompt，然后输入activate pytorch，进入pytorch.2.输入pip install tensorboardX，安装完成后，输入python，用from tens
转载
2023-07-28 15:38:38
1080阅读
文章目录1 Loss 介绍2 常见 LossL1 lossL2 lossNegative Log-Likelihood（NLL）Binary Cross-EntropyCross-EntropyHinge EmbeddingMargin Ranking LossTriplet Margin LossKL Divergence Loss3 Loss 设计4 softmax 及其变体5 Loss 异
转载
2024-03-11 12:11:44
203阅读
文章目录1. 损失函数总览2. 回归损失函数3. 分类损失函数3.1 [交叉熵](https://charlesliuyx.github.io/2017/09/11/什么是信息熵、交叉熵和相对熵/ "【直观详解】信息熵、交叉熵和相对熵")3.2 分类损失函数3.3 总结 文章目录1. 损失函数总览2. 回归损失函数3. 分类损失函数3.1 [交叉熵](https://charlesliuyx.
转载
2023-08-09 00:55:43
223阅读
目录准备知识pytorch计算图（前馈+反向）pytorch线性回归（代码实战）构造数据pytorch中的分析构造模型构造损失函数和优化器迭代更新梯度输出与测试 准备知识注：了解计算图的同学可直接跳过。pytorch计算图（前馈+反向）无论在pytorch还是在tensorflow中，都是用计算图来计算前馈和反向传播过程。我们首先来介绍一个简单的计算图： 如上图所示，表示了y’ = w * x的
转载
2023-10-16 02:29:53
93阅读
文章目录1、CrossEntropyLoss-CE 交叉熵损失1.1 是什么？1.2 物理含义1.2 怎么代码实现和代码使用？1.2* 怎么代码实现和代码使用？1.3 应用场景1.3.1 多分类1.3.1 数值的回归参考 1、CrossEntropyLoss-CE 交叉熵损失1.1 是什么？一个损失函数，虽然说的是交叉熵，但是和《信息论》的交叉熵不一样。首先输入是size是(minibatch,
转载
2023-11-12 13:09:20
188阅读
文章目录1. CrossEntropyLoss()1.1 CEL中不同计算模式的影响1.2 CEL中分类权重 weights 的影响1.3 nn.LogSoftmax()2. nn.NLLLoss()3. nn.BCELoss()4. nn.BCEWithLogitsLoss()5. nn.L1LOSS （MAE）6. nn.MSELoss7. nn.SmoothL1Loss8. nn.Pois
转载
2023-11-02 10:09:41
176阅读
