人脸识别实际训练模型中，随着新数据的逐渐增加，对新的数据进行finetune是必不可少的一步，在实际的finetune过程中，有可能出现神经网络对新出现的数据不敏感的情况（称之为训不动）。造成这种现象的一个原因在于weight-decay。在训练baseline的过程中，我们会选择一个合适的weight-decay来增强我们模型的泛化能力。问题在于，weight-decay会将一些对于baseli
转载
2024-05-28 09:49:43
24阅读
# PyTorch 中某一维度上复制的实现
在 PyTorch 中，复制张量的某一维度是一项常见的操作。当我们需要在深度学习模型中扩展张量的某个维度予以输入或输出时，这个操作显得尤为重要。本文将指导你实现这一目标，提供详细的步骤、代码实例以及图示。
## 任务流程概述
为了能更好地理解整个过程，我们将任务流程表述为以下几个步骤：
| 步骤 | 描述
# PyTorch只对某一维度操作的深入解析
PyTorch作为深度学习的热门框架，被广泛应用于各个领域。在实际应用中，我们常常需要对张量的某一维度进行特定的操作。本文将探讨PyTorch如何对特定维度进行操作，并通过代码示例进行说明。
## 张量基础
在介绍如何在PyTorch中对某一维度进行操作之前，首先要理解张量的概念。张量是一个多维数组，可以是0维（标量）、1维（向量）、2维（矩阵）
在使用 PyTorch 进行深度学习模型训练时，常常会遇到矩阵某一维度过大的问题。这通常会导致内存溢出或训练速度缓慢，影响模型的性能和效率。为了应对这些问题，我们需要制定详尽的备份策略、恢复流程、有效应对潜在的灾难场景，并妥善集成工具链，同时落实预防措施。以下是我对此的复盘记录。
备份策略非常重要，在处理大规模数据集时，确保能够随时恢复数据至关重要。我们将通过思维导图和存储架构来展示这一策略。
STEP0一、安装anaconde3 出现(base)则为安装成功二、配置显卡 1、创建一个虚拟环境：pytorch是环境名 conda create -n pytorch pythnotallow=3.6 2、激活这个环境 conda activate pytorch 3、看看pytorch中有哪些工具包 pip list 4、安装 安装torch：输入生成的指令即可 安装其他的： 例如在con
转载
2024-10-05 07:45:21
235阅读
浅谈Pytorch中的Variable的使用方法Variable的基本概念Variable的自动求导PyTorch中Variable的使用方法获取Variable里面的数据完整教学实例 Variable的基本概念autograd.Variable 是包的核心类。它包装了张量，并且支持几乎所有的操作。一旦你完成了你的计算， 就可以调用 .backward() 方法 来自动计算所有的梯度。你还可以通
转载
2023-10-19 10:43:23
91阅读
PyTorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/1.torch.div()
1.div_(value)：div()的in-place运算形式
2.torch.div(input, value, out=None)
1.将input逐元素除以标量值value，并返回结果到输出张量out。 即 out=tensor/value
转载
2023-12-18 19:10:07
186阅读
最近在写论文，要做一些对比实验，需要以Sphereface为基础。其实实验早该做了，就是一直拖拖拖…唉拖延症患者。今天总算是把github上的代码跑通了，赶紧做下小笔记。因为还要赶论文，就简单写一下，以后再回来改。 本次所使用的源码为:https://github.com/clcarwin/sphereface_pytorch 然而具体的操作步骤说明是有错误的 通过参考： 踩坑并填坑系列 代码中使
转载
2023-10-17 06:33:02
207阅读
Pytorch总结十六之优化算法：图像增广训练模型、微调（迁移学习）实现热狗识别1.图像增广在（深度卷积神经⽹络）⾥我们提到过，⼤规模数据集是成功应⽤深度神经⽹络的前提。图像增⼴（image augmentation）技术通过对训练图像做⼀系列随机改变，来产⽣相似但⼜不同的训练样本，从⽽扩⼤训练数据集的规模。图像增⼴的另⼀种解释是，随机改变训练样本可以降低模型对某些属性的依赖，从⽽提⾼模型的泛化能
转载
2023-12-15 14:57:10
124阅读
需求Pytorch加载模型时，只导入部分层权重，跳过部分指定网络层。（权重文件存储为dict形式）方法一常见方法：加载权重时用if对网络层进行筛选'''
# model为定义的网络结构：
class model(nn.Module):
def __init__(self):
super(model,self).__init__()
……
def f
转载
2024-02-12 16:04:57
178阅读
# 在 PyTorch 中打乱数据的某一维度
在深度学习和数据处理的过程中，数据的打乱（shuffle）是一个不可或缺的步骤。打乱数据的目的是为了打破数据中的潜在顺序，以便使模型更好地泛化，避免模型记住数据的顺序。今天，我们将深入探讨如何在 PyTorch 中打乱数据的某一维度，并给出一些代码示例。
## 一、什么是打乱数据？
在机器学习中，数据集的顺序可能会影响模型的训练效果。如果数据是有
原创
2024-10-22 03:41:07
429阅读
PyTorch深度学习总结第一章 Pytorch中张量(Tensor)的生成 文章目录PyTorch深度学习总结一、什么是PyTorch？二、张量(Tensor)1、张量的数据类型2、张量生成和信息获取总结 一、什么是PyTorch？PyTorch是一个开源的深度学习框架，基于Python语言。它由Facebook的人工智能研究团队于2016年开发并发布。PyTorch提供了一种灵活的、动态的计算
转载
2024-09-23 11:18:29
120阅读
# PyTorch中的张量维度大小获取
在深度学习中，Tensor（张量）是最基本的数据结构，其作用如同数据的容器。其中，张量的维度（即轴数）和每个维度的大小（即元素的个数）在处理数据时至关重要。Python中有一个流行的深度学习框架——PyTorch，它提供了丰富的API来操作张量。在这篇文章中，我们将探讨如何使用PyTorch来获取张量某一维度的大小，并通过代码示例和关系图帮助大家更好地理解
首先热身先了解一下pytorch的基础1.tensor(张量） 他是张量的英文，表示一个多维的矩阵，比如零维就是一个点，一维就是向量，二维就是一般的矩阵，和numpy对应。（但是pytorch可以在GPU上运行，而numpy的只能在CPU上运行） 它有各种不同的数据类型，比如32位的torch.Float和64位的torch.DoubleTensor等等。 并且他的默认是torch.FloatTe
转载
2023-10-19 12:58:49
81阅读
1、张量在深度学习中，我们通常将数据以张量的形式进行表示，比如我们用三维张量表示一个RGB图像，四维张量表示视频。几何代数中定义的张量是基于向量和矩阵的推广，比如我们可以将标量视为零阶张量，矢量可以视为一阶张量，矩阵就是二阶张量。张量是PyTorch里面基础的运算单位，与Numpy的ndarray相同都表示的是一个多维的矩阵。 与ndarray的最大区别就是，PyTorch的Tensor可以在 G
转载
2023-10-07 19:59:28
246阅读
在之前的两篇文章中分别介绍了如何用pytorch搭建简单神经网络用于回归与分类 HUST小菜鸡：Pytorch搭建简单神经网络（一）——回归zhuanlan.zhihu.com
HUST小菜鸡：Pytorch搭建简单神经网络（二）——分类zhuanlan.zhihu.com 但是如何快速搭建一个简单的神经网络而不是定义一个类再去调用，以及我们定义了
# 如何使用 Python 创建指定维度的数组
在数据科学和机器学习的世界中，数组是一种非常重要的数据结构。特别是在 Python 中，我们可以利用 NumPy 库轻松地创建和操作数组。对于刚入行的小白来说，了解如何创建指定维度的数组是第一步。
## 流程概述
在本文中，我们将通过以下步骤来实现指定维度数组的创建：
| 步骤 | 描述 |
|-----
原创
2024-10-16 04:15:08
70阅读
# Python 一维数组合并实现指南
## 简介
在实际的编程工作中，我们经常需要对数组进行操作，其中一个常见的需求是合并两个一维数组。本文将向你介绍如何使用 Python 实现一维数组的合并操作。我们将使用列表（List）来表示一维数组，并通过简单的示例来演示合并的过程。
## 总体流程
下面是实现一维数组合并的简单流程，我们将使用一个表格来展示每个步骤和相应的代码。
| 步骤 | 描述
原创
2023-09-06 17:09:04
266阅读
# jQuery 一维度数组 转对象的实现教程
在前端开发中，我们常常需要处理数据的转化，其中“一维度数组转对象”是一个常见的任务。今天，我们就通过一个简单的例子来学习如何使用 jQuery 将一维数组转换为对象。本文将详细介绍实现的每一个步骤，并附带相关的代码示例和说明。
## 实现流程
首先，我们需要了解整个转换过程的基本步骤。下面是实现的步骤表：
| 步骤 | 描述
# PyTorch按照某一维度的索引取值
在PyTorch中，我们经常需要按照某一维度的索引取值。这是一个常见的操作，特别是在数据处理和模型训练中。在本文中，我将向你展示如何使用PyTorch实现按照某一维度的索引取值。
## 理解数据结构
在开始编码之前，我们首先需要理解数据结构。在PyTorch中，我们使用张量（Tensor）来表示数据。张量是多维数组，类似于NumPy中的数组，但可以在
原创
2023-12-15 11:16:45
319阅读
