pytorch 是一个基于 python 的深度学习库。pytorch 源码库的抽象层次少，结构清晰，代码量适中。相比于非常工程化的 tensorflow，pytorch 是一个更易入手的，非常棒的深度学习框架。对于系统学习 pytorch，官方提供了非常好的入门教程 ，同时还提供了面向深度学习的示例，同时热心网友分享了更简洁的示例。1. overview不同于 theano，
转载
2024-06-14 14:35:12
49阅读
深度学习Pytorch（七）——核心小结2之自定义自动求导函数+Pytorch和TensorFlow搭建网络的比较 文章目录深度学习Pytorch（七）——核心小结2之自定义自动求导函数+Pytorch和TensorFlow搭建网络的比较一、定义新的自动求导函数二、Pytorch 和 TensorFlow对比 一、定义新的自动求导函数在底层，每个原始的自动求导运算实际上是两个在Tensor上运行的
转载
2024-01-11 22:30:40
44阅读
总说虽然pytorch可以自动求导，但是有时候一些操作是不可导的，这时候你需要自定义求导方式。也就是所谓的 “Extending torch.autograd”. 官网虽然给了例子，但是很简单。这里将会更好的说明。扩展 torch.autogradclass LinearFunction(Function):
# 必须是staticmethod
@staticmethod
转载
2023-06-05 22:37:37
608阅读
目录4.4 自定义Layer4.4.1 不含参数的自定义4.4.2 含参数的自定义层4.5读取和存储4.5.1 读写Tensor4.5.2 读写Model4.5.2.1 state_dict4.5.2.2 保存和加载模型4.6 GPU计算4.6.1 计算设备4.6.2 Tensor的GPU计算4.6.3 Model的GPU计算说明 4.4 自定义Layer本节将介绍如何使用Module来自定义层
转载
2023-11-06 18:07:52
61阅读
博主在学习三值神经网络时，使用了LeNet-5模型，编程代码，需要对LeNet-5模型中的卷积层与全连接层进行自定义，搜索他人方法后，博主产生了一个疑问，绝大多数提供的自定义层方法都是继承 nn.Module 模型，而这方法据说是官方提供，自定义线性层代码如下：class Linear(nn.Module):
def __init__(self, input_features, outpu
转载
2023-08-10 20:41:07
178阅读
标量反向传播当目标张量为标量时，backward()无需传入参数。例子：假设都是标量， ，对标量调用backward()方法。自动求导的主要步骤import torch1.定义叶子结点，算子节点如果需要对Tensor求导，requires_grad要设置为True。# 定义输入张量x
x = torch.Tensor([2])
# 初始化权重参数w,偏置b,#设置requires_grad为Tru
转载
2024-06-05 16:06:44
173阅读
一 利用Variable自动求导1.1 Variable1.1.1 定义 在pytorch中，我们需要能够构建计算图的 tensor，这就是 Variable数据结构。Variable 是对 tensor 的封装，操作和 tensor 是一样的，但是每个 Variabel都有三个属性，Variable 中的 tensor本身.data，对应 tensor 的梯度.grad以及这个 Variabl
转载
2024-03-01 11:26:41
35阅读
学习网站在此：https://datawhalechina.github.io/thorough-pytorch/以下是对知识的记录（都记下来）一、自定义损失函数许多损失函数并未出现在官方库中，需要我们自己来实现，尤其在日新月异的ai领域，模型与相关算法的更新很快，同时，在科学研究领域，当提出全新的损失函数时，这也要求我们自行定义，以验证其在数据集上的好坏1.1函数方式def my_loss(ou
转载
2023-12-18 20:14:56
155阅读
PyTorch进阶训练技巧import torch
import numpy as np
import torch.nn as nn
import torch.nn.functional as F1. 自定义损失函数# 以函数的方式定义损失函数,通过输出值和目标值进行计算，返回损失值
def my_loss(output,target):
loss = torch.mean((output
转载
2023-11-03 12:05:13
143阅读
摘要在训练神经网络时，最常用的算法是反向传播。 在该算法中，参数（模型权重）根据损失函数相对于给定参数的梯度进行调整。 为了计算这些梯度，PyTorch 有一个名为 torch.autograd 的内置微分引擎。 它支持任何计算图的梯度自动计算。 考虑最简单的一层神经网络，输入 x，参数 w 和 b，以及一些损失函数。 它可以通过以下方式在 PyTorch 中定义：import torch
x
转载
2023-08-28 17:42:36
227阅读
文章目录1. 直接利用torch.Tensor提供的接口2. 利用PyTorch的numpy/scipy扩展3. 写一个PyTorch的C扩展 1. 直接利用torch.Tensor提供的接口因为只是需要自定义loss，而loss可以看做对一个或多个Tensor的混合计算，比如计算一个三元组的Loss(Triplet Loss)，我们只需要如下操作：(假设输入的三个(anchor, positiv
转载
2023-08-14 12:54:22
135阅读
Pytorch搭建模型的五大层级级别、自定义模型、自定义网络层（待学习）pytorch搭建模型的的五大层次级别Pytorch搭建模型五大层次级别 博客下的Pytorch搭建模型的五大层次级别神经网络的基本流程可以分为两大步骤：网络结构搭建+参数的梯度更新（后者又包括 “前向传播+计算参数的梯度+梯度更新”）1）原始搭建——使用numpy实现# -*- coding: utf-
转载
2023-11-03 09:39:14
80阅读
一. 概念：张量、算子 张量的定义是矩阵的扩展与延伸，我认为张量就是n个数量的n维数组，也可认为是高阶的矩阵。算子的定义是构建复杂机器学习模型的基础组件，我觉得算子是一个算法单元，就是一个可以进行某种操作的函数。二. 使用pytorch实现张量运算 1.2 张量1.2.1 创建张量1.2.1.1 指定数据创建张量a=torch.tensor([2.0,3.0,4.0]) #创建一个一维张量
b
转载
2024-02-02 22:05:44
183阅读
Torch中可以创建一个DataSet对象，并与dataloader一起使用，在训练模型时不断为模型提供数据Torch中DataLoader的参数如下DataLoader(dataset, batch_size=1, shuffle=False, sampler=None,
batch_sampler=None, num_workers=0, collate_fn=None,
转载
2023-10-26 23:57:49
86阅读
前言：前面的系列文章已经详细介绍了使用torch.nn.Module来实现自己定义的模型、自定义层，本文将继续来说明如何自定义损失函数，需要明确一个观点，不管是定义层还是损失函数，方法有很多，但是通过统一的接口nn.Module是最便于查看的，这也是pytorch的优点之一，模型、层、损失函数的定义具有统一性，都是通过Module类来完成，不像tensorflow那样不规范。一、回顾1.1 关于n
转载
2023-11-28 15:12:09
161阅读
文章目录一、Dataset和DataLoader加载数据集1.torch.utils.data2. 加载数据流程3. Dataset4. dataloader类及其参数5. dataloader内部函数5.1 __next__函数5.2 DataLoaderIter函数6. dataloader循环二、代码示例1. transformer单句文本分类（HF教程）1.1使用Trainer训练1.2
转载
2023-08-10 23:38:56
226阅读
文章目录pytorch接口设置编译的方式在运行是调用的形式要点如何自己编写使用CUDA的函数PointNet++Faster-RCNNPVCNN 目前，3D的网络，尤其时point-based的网络，很多模块在pytorch中都没有官方实现，这就需要我们自己写。例如PointNet++中的FPS，group，query等函数。之前也只是用过，对其的修改也限于python层面，这次，就好好探究一下
转载
2023-09-08 14:54:19
351阅读
文章目录6.1自定义损失函数6.1.1 以函数方式定义6.1.2 以类方式定义（更加常用）6.2动态调整学习率6.2.1 使用官方scheduler6.2.2 自定义scheduler6.3 模型微调-torchvision6.3.1 模型微调的流程6.3.2 使用已有模型结构6.3.3 训练特定层6.4 模型微调 - timm6.4.1 timm的安装6.4.2 查看预训练模型种类6.2.3
转载
2023-12-09 16:41:11
44阅读
文章目录任务名称任务简介详细说明作业1. 将介绍的transforms方法一一地，单独地实现对图片的变换，并且通过plt.savefig将图片保存下来2. 自定义一个增加椒盐噪声的transforms方法，使得其能正确运行3. 用手机将自己钱包中的100元人民币正面进行拍照，并且放到hello pytorch/lesson/lesson-09/test_data/100文件夹下，通过修改不同的数
转载
2024-01-19 17:10:37
29阅读
1. 安装Python运行环境和Pycharm安装Pycharm, 配置好Python开发环境。 由于之前使用Django框架进行Web开发时，已经安装过Pycharm并且配置过Python3的环境，在此就不再次配置了，只做一下展示~，Python版本为3.6.3。2.安装PyTorch(1) 安装PyTorch 首先，进入PyTorch的官网，找到对应的下载位置。操作系统根据自己的系统进行选择，
转载
2023-09-21 13:29:45
176阅读
