从实际应用去学习Pytorch
以前的框架学习，过于花里胡哨，本章开始，从实际应用出发！包含单机多卡使用目录1.Pytorch中clone(),detach()在反向传播时的用法2.Pycharm字体放大任务栏放大：参考博文代码界面，鼠标滚动缩放：参考博文2.输出前K个最大值--torch.topk(input, k, dim=None, largest
转载
2024-07-12 00:27:34
167阅读
https://zhuanlan.zhihu.com/p/67415439 https://www.jianshu.com/p/812fce7de08d
原创
2022-02-19 14:27:40
546阅读
https://zhuanlan.zhihu.com/p/67415439
原创
2021-04-22 20:24:22
1069阅读
本文主要解释torch的官网对Pytorch Bi-LSTM + CRF 代码是如何计算公式为：(后面用logsumexp表示)在此之前可以先看完再看看这位的博客Bi-LSTM-CRF for Sequence Labeling PENG 首先是定义是对于输入序列对应的输出tag序列的分数： 其中是tag的转移概率矩阵，是Bi-LISTM的输出矩阵,其中代表词映射到的非归一化概率。代码处理在pyt
# 用PyTorch实现CTC Loss函数的指南
在深度学习中，CTC（Connectionist Temporal Classification）Loss是一种常用的损失函数，通常用于序列预测任务，如语音识别和手写识别。本文将引导你通过几个简单的步骤来实现CTC Loss函数在PyTorch中的应用。
## 实现步骤
为了顺利实现CTC Loss，我们可以按照以下步骤进行：
| 步骤
4.改良神经网络 文章目录4.改良神经网络1.损失函数2.激活函数3.改良优化方法4.标准化5.优化方法整合：5.知识点小结(原著版) 1.损失函数 有时候，我们会把一些神经网络的输出值设计为连续范围的值。例如，一个预测温度的网络会输出0~100°C的任何值。 也有时候，为你们会把网络设计成输出true/False(1/0)，也就是**binary classfication.**例如，我们要判断
笔者学习pytorch时遇到transforms函数对数据进行预处理，参考官方文档和大佬的讲解，自己进行总结并标注以作记录。 觉得有用请点个赞哦哈哈哈哈参考自《PyTorch 模型训练实用教程》，获取全文pdf请点击：https://github.com/tensor-yu/PyTorch_Tutorial还是按照大佬的思路，将其分为4大类：裁剪——Crop 中心裁剪：transforms.Cen
卷积递归神经网络此项目使用CNN + RNN + CTCLoss实现OCR系统，灵感来自CRNN网络。一、用法python ./train.py --help二、演示1、使用TestDataset数据生成器训练简单的OCR。训练60-100次。python train.py --test-init True --test-epoch 10 --output-dir &l...
转载
2021-08-30 14:14:03
2778阅读
摘要：本文主要讲述在MATLAB2020a环境下利用深度神经网络DeepLabV3+进行语义分割，分割感图像中的云层。讲述了：1.训练数据的获取、训练集制作；2.DeepLabV3+模型的构建；3.DeepLabV3+模型训练和验证1.数据获取与训练集制备为了方便大家，这里我把我构建完的的数据集放到云盘上（提取码：wtx4）：如果感兴趣数据集是如何建立的，请参考如下部分，否则可以直接跳转至 3)制
转载
2024-08-21 11:34:39
154阅读
向AI转型的程序员都关注了这个号????????????人工智能大数据与深度学习 ：datayx现在各种手写输入法很容易就能识别出各种各样的，潦草的字体。而OCR则还停留在对打印字...
转载
2022-04-25 21:47:25
550阅读
1.torch.device()torch.device()主要作用是：在训练时指定使用GPU训练还是CPU训练。使用方法： # cuda:0 代表第几块GPU
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") 2.nn.ModuleList()nn.ModuleList()主要作用:我们可以把任意 n
转载
2023-09-06 17:57:01
276阅读
第1步，导入相关的python包，并且下载训练集，其中训练集可以提前下载放到相应的目录下面。如果真的通过下面代码进行，将会相当耗时。from torchvision import datasets, transforms
import torch
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as
转载
2023-09-02 13:51:03
161阅读
PyTorch的许多函数在使用上和Numpy几乎一样，能够平滑地结合使用，Numpy的绝大多数操作同样可以用在PyTorch中。PyTorch的特色之一是提供构建动态计算图的框架，这样网络结构不再是一成不变的了，甚至可以在运行时修正它们。在神经网络方面，PyTorch的优点还在于使用了多GPU的强大加速能力、自定义数据加载器和极简的预处理过程等。尽管PyTorch与其他框架相比还算是新秀，仍然需要
转载
2023-09-22 18:29:59
107阅读
向AI转型的程序员都关注了这个号????????????人工智能大数据与深度学习 公众号：datayx现在各种手写输入法很容易就能识别出各种各样的，潦草的字体。而OCR则还停留在对打印字...
转载
2021-10-26 16:26:55
2787阅读
关于为什么要用Sampler可以阅读 "一文弄懂Pytorch的DataLoader, DataSet, Sampler之间的关系" 。 本文我们会从源代码的角度了解Sampler。 Sampler 首先需要知道的是所有的采样器都继承自 这个类，如下： 可以看到主要有三种方法：分别是： : 这个很好
原创
2021-04-30 22:24:52
1014阅读
在 PyTorch 中，torch.randperm(n) 函数用于生成一个从 0 到 n-1 的随机排列的整数序列。这个函数是非常有用的，尤其是在需要随机打乱数据或索引时，比如在训练机器学习模型时打乱数据顺序，以确保模型训练的泛化能力。参数
n (int): 输出张量的长度，即最大的数字为 n-1。返回值返回一个一维张量，包含了从 0 到 n-1 的随机排列。使用示例下面是一个基本的使用示例，展
转载
2024-10-09 18:56:50
62阅读
PyTorch 源码解读之 torch.cuda.amp: 自动混合精度详解Nvidia 在 Volta 架构中引入 Tensor Core 单元，来支持 FP32 和 FP16 混合精度计算。也在 2018 年提出一个 PyTorch 拓展 apex，来支持模型参数自动混合精度训练。自动混合精度（Automatic Mixed Precision, AMP)训练，是在训练一个数值精度 FP32
# PyTorch Dataset详解
## 引言
在深度学习中，数据集是非常重要的组成部分。PyTorch为我们提供了`torch.utils.data.Dataset`类，用于加载和预处理数据。本文将详细介绍PyTorch Dataset的使用方法，并为刚入行的小白提供实现的步骤和代码示例。
## 整体流程
下面是实现PyTorch Dataset的整体流程图：
```mermaid
原创
2023-09-14 08:58:16
85阅读
# PyTorch代码详解
## 引言
PyTorch是一个基于Python的科学计算库，主要用于构建深度神经网络。它提供了丰富的工具和接口，使得开发者可以轻松地构建和训练复杂的神经网络模型。本文将详细介绍PyTorch的代码结构和关键概念，并通过示例代码帮助读者更好地理解其用法。
## PyTorch的基本概念和结构
PyTorch的代码结构包括了多个重要的概念和组件。下面我们将逐一介绍
原创
2024-01-18 08:31:36
141阅读
概述本教程假定你已经对于 PyToch 训练一个简单模型有一定的基础理解。本教程将展示使用 3 种封装层级不同的方法调用 DDP (DistributedDataParallel) 进程，在多个 GPU 上训练同一个模型：使用 pytorch.distributed 模块的原生 PyTorch DDP 模块使用 ? Accelerate 对 pytorch.distributed 的轻量封装，确保
转载
2024-10-25 22:14:19
121阅读
