一. 概念：张量、算子 张量的定义是矩阵的扩展与延伸，我认为张量就是n个数量的n维数组，也可认为是高阶的矩阵。算子的定义是构建复杂机器学习模型的基础组件，我觉得算子是一个算法单元，就是一个可以进行某种操作的函数。二. 使用pytorch实现张量运算 1.2 张量1.2.1 创建张量1.2.1.1 指定数据创建张量a=torch.tensor([2.0,3.0,4.0]) #创建一个一维张量
b
转载
2024-02-02 22:05:44
183阅读
前言：前面介绍了如何自定义一个模型——通过继承nn.Module类来实现，在__init__构造函数中申明各个层的定义，在forward中实现层之间的连接关系，实际上就是前向传播的过程。事实上，在pytorch里面自定义层也是通过继承自nn.Module类来实现的，pytorch里面一般是没有层的概念，层也是当成一个模型来处理的，这里和keras是不一样的。当然也可以直接通过继承torch.aut
转载
2024-07-31 20:24:37
50阅读
文章目录pytorch接口设置编译的方式在运行是调用的形式要点如何自己编写使用CUDA的函数PointNet++Faster-RCNNPVCNN 目前，3D的网络，尤其时point-based的网络，很多模块在pytorch中都没有官方实现，这就需要我们自己写。例如PointNet++中的FPS，group，query等函数。之前也只是用过，对其的修改也限于python层面，这次，就好好探究一下
转载
2023-09-08 14:54:19
351阅读
import torch
# 引入torch.nn并指定别名
import torch.nn as nn
import torch.nn.functional as F
#这个包中包含了神经网络中使用的一些常用函数
'''
PyTorch中已经为我们准备好了现成的网络模型，
只要继承nn.Module，并实现它的forward方法，
PyTorch会根据autograd，自动实现backward
转载
2023-12-24 08:53:34
76阅读
总说虽然pytorch可以自动求导，但是有时候一些操作是不可导的，这时候你需要自定义求导方式。也就是所谓的 “Extending torch.autograd”. 官网虽然给了例子，但是很简单。这里将会更好的说明。扩展 torch.autogradclass LinearFunction(Function):
# 必须是staticmethod
@staticmethod
转载
2023-06-05 22:37:37
608阅读
目录4.4 自定义Layer4.4.1 不含参数的自定义4.4.2 含参数的自定义层4.5读取和存储4.5.1 读写Tensor4.5.2 读写Model4.5.2.1 state_dict4.5.2.2 保存和加载模型4.6 GPU计算4.6.1 计算设备4.6.2 Tensor的GPU计算4.6.3 Model的GPU计算说明 4.4 自定义Layer本节将介绍如何使用Module来自定义层
转载
2023-11-06 18:07:52
61阅读
深度学习Pytorch（七）——核心小结2之自定义自动求导函数+Pytorch和TensorFlow搭建网络的比较 文章目录深度学习Pytorch（七）——核心小结2之自定义自动求导函数+Pytorch和TensorFlow搭建网络的比较一、定义新的自动求导函数二、Pytorch 和 TensorFlow对比 一、定义新的自动求导函数在底层，每个原始的自动求导运算实际上是两个在Tensor上运行的
转载
2024-01-11 22:30:40
44阅读
博主在学习三值神经网络时，使用了LeNet-5模型，编程代码，需要对LeNet-5模型中的卷积层与全连接层进行自定义，搜索他人方法后，博主产生了一个疑问，绝大多数提供的自定义层方法都是继承 nn.Module 模型，而这方法据说是官方提供，自定义线性层代码如下：class Linear(nn.Module):
def __init__(self, input_features, outpu
转载
2023-08-10 20:41:07
178阅读
文章目录1. 直接利用torch.Tensor提供的接口2. 利用PyTorch的numpy/scipy扩展3. 写一个PyTorch的C扩展 1. 直接利用torch.Tensor提供的接口因为只是需要自定义loss，而loss可以看做对一个或多个Tensor的混合计算，比如计算一个三元组的Loss(Triplet Loss)，我们只需要如下操作：(假设输入的三个(anchor, positiv
转载
2023-08-14 12:54:22
135阅读
Pytorch搭建模型的五大层级级别、自定义模型、自定义网络层（待学习）pytorch搭建模型的的五大层次级别Pytorch搭建模型五大层次级别 博客下的Pytorch搭建模型的五大层次级别神经网络的基本流程可以分为两大步骤：网络结构搭建+参数的梯度更新（后者又包括 “前向传播+计算参数的梯度+梯度更新”）1）原始搭建——使用numpy实现# -*- coding: utf-
转载
2023-11-03 09:39:14
80阅读
简述Pytorch自定义数据集方法，应该是用pytorch做算法的最基本的东西。 往往网络上给的demo都是基于torch自带的MNIST的相关类。所以，为了解决使用其他的数据集，在查阅了torch关于MNIST数据集的源码之后，很容易就可以推广到了我们自己需要的代码上。 文章目录简述QuickStart补充说明数据预处理np.ndarrayPIL.Image关于图片一个导入图片的demo 具体操
转载
2023-08-08 09:49:30
312阅读
标量反向传播当目标张量为标量时，backward()无需传入参数。例子：假设都是标量， ，对标量调用backward()方法。自动求导的主要步骤import torch1.定义叶子结点，算子节点如果需要对Tensor求导，requires_grad要设置为True。# 定义输入张量x
x = torch.Tensor([2])
# 初始化权重参数w,偏置b,#设置requires_grad为Tru
转载
2024-06-05 16:06:44
173阅读
学习网站在此：https://datawhalechina.github.io/thorough-pytorch/以下是对知识的记录（都记下来）一、自定义损失函数许多损失函数并未出现在官方库中，需要我们自己来实现，尤其在日新月异的ai领域，模型与相关算法的更新很快，同时，在科学研究领域，当提出全新的损失函数时，这也要求我们自行定义，以验证其在数据集上的好坏1.1函数方式def my_loss(ou
转载
2023-12-18 20:14:56
155阅读
PyTorch进阶训练技巧import torch
import numpy as np
import torch.nn as nn
import torch.nn.functional as F1. 自定义损失函数# 以函数的方式定义损失函数,通过输出值和目标值进行计算，返回损失值
def my_loss(output,target):
loss = torch.mean((output
转载
2023-11-03 12:05:13
143阅读
一 利用Variable自动求导1.1 Variable1.1.1 定义 在pytorch中，我们需要能够构建计算图的 tensor，这就是 Variable数据结构。Variable 是对 tensor 的封装，操作和 tensor 是一样的，但是每个 Variabel都有三个属性，Variable 中的 tensor本身.data，对应 tensor 的梯度.grad以及这个 Variabl
转载
2024-03-01 11:26:41
35阅读
摘要在训练神经网络时，最常用的算法是反向传播。 在该算法中，参数（模型权重）根据损失函数相对于给定参数的梯度进行调整。 为了计算这些梯度，PyTorch 有一个名为 torch.autograd 的内置微分引擎。 它支持任何计算图的梯度自动计算。 考虑最简单的一层神经网络，输入 x，参数 w 和 b，以及一些损失函数。 它可以通过以下方式在 PyTorch 中定义：import torch
x
转载
2023-08-28 17:42:36
227阅读
pytorch 是一个基于 python 的深度学习库。pytorch 源码库的抽象层次少，结构清晰，代码量适中。相比于非常工程化的 tensorflow，pytorch 是一个更易入手的，非常棒的深度学习框架。对于系统学习 pytorch，官方提供了非常好的入门教程 ，同时还提供了面向深度学习的示例，同时热心网友分享了更简洁的示例。1. overview不同于 theano，
转载
2024-06-14 14:35:12
49阅读
# PyTorch自定义数据集
## 简介
PyTorch是一个开源的机器学习框架，广泛应用于深度学习领域。在PyTorch中，我们可以使用自定义数据集来加载和处理自己的数据。自定义数据集允许我们以适合我们的特定任务的方式加载和预处理数据。本文将介绍如何在PyTorch中创建和使用自定义数据集，以及一些常用的数据预处理技术。
## 自定义数据集的创建
要创建自定义数据集，我们可以继承PyT
原创
2024-01-29 11:18:39
69阅读
# PyTorch 自定义数据增强指南
在深度学习中，数据增强是一种常用的技术，通过对训练数据进行各种随机变换，增强模型的泛化能力。本文将教会你如何在 PyTorch 中实现自定义数据增强。我们将分步进行，首先概述整个流程，并在接下来的部分详细介绍每一步。
## 整体流程概述
以下是实现 PyTorch 自定义数据增强的步骤：
| 步骤 | 描述 |
| ---- | ---- |
| 1
根据这个标准化的代码模板，我们只需要根据自己的数据读取任务，分别往__init__()、__getitem__()和__len__()三个方法里添加读取
原创
2024-07-30 14:48:27
159阅读
