从实际应用去学习Pytorch
以前的框架学习，过于花里胡哨，本章开始，从实际应用出发！包含单机多卡使用目录1.Pytorch中clone(),detach()在反向传播时的用法2.Pycharm字体放大任务栏放大：参考博文代码界面，鼠标滚动缩放：参考博文2.输出前K个最大值--torch.topk(input, k, dim=None, largest
转载
2024-07-12 00:27:34
167阅读
本文主要解释torch的官网对Pytorch Bi-LSTM + CRF 代码是如何计算公式为：(后面用logsumexp表示)在此之前可以先看完再看看这位的博客Bi-LSTM-CRF for Sequence Labeling PENG 首先是定义是对于输入序列对应的输出tag序列的分数： 其中是tag的转移概率矩阵，是Bi-LISTM的输出矩阵,其中代表词映射到的非归一化概率。代码处理在pyt
https://zhuanlan.zhihu.com/p/67415439 https://www.jianshu.com/p/812fce7de08d
原创
2022-02-19 14:27:40
549阅读
# 用PyTorch实现CTC Loss函数的指南
在深度学习中，CTC（Connectionist Temporal Classification）Loss是一种常用的损失函数，通常用于序列预测任务，如语音识别和手写识别。本文将引导你通过几个简单的步骤来实现CTC Loss函数在PyTorch中的应用。
## 实现步骤
为了顺利实现CTC Loss，我们可以按照以下步骤进行：
| 步骤
https://zhuanlan.zhihu.com/p/67415439
原创
2021-04-22 20:24:22
1069阅读
笔者学习pytorch时遇到transforms函数对数据进行预处理，参考官方文档和大佬的讲解，自己进行总结并标注以作记录。 觉得有用请点个赞哦哈哈哈哈参考自《PyTorch 模型训练实用教程》，获取全文pdf请点击：https://github.com/tensor-yu/PyTorch_Tutorial还是按照大佬的思路，将其分为4大类：裁剪——Crop 中心裁剪：transforms.Cen
4.改良神经网络 文章目录4.改良神经网络1.损失函数2.激活函数3.改良优化方法4.标准化5.优化方法整合：5.知识点小结(原著版) 1.损失函数 有时候，我们会把一些神经网络的输出值设计为连续范围的值。例如，一个预测温度的网络会输出0~100°C的任何值。 也有时候，为你们会把网络设计成输出true/False(1/0)，也就是**binary classfication.**例如，我们要判断
卷积递归神经网络此项目使用CNN + RNN + CTCLoss实现OCR系统，灵感来自CRNN网络。一、用法python ./train.py --help二、演示1、使用TestDataset数据生成器训练简单的OCR。训练60-100次。python train.py --test-init True --test-epoch 10 --output-dir &l...
转载
2021-08-30 14:14:03
2778阅读
摘要：本文主要讲述在MATLAB2020a环境下利用深度神经网络DeepLabV3+进行语义分割，分割感图像中的云层。讲述了：1.训练数据的获取、训练集制作；2.DeepLabV3+模型的构建；3.DeepLabV3+模型训练和验证1.数据获取与训练集制备为了方便大家，这里我把我构建完的的数据集放到云盘上（提取码：wtx4）：如果感兴趣数据集是如何建立的，请参考如下部分，否则可以直接跳转至 3)制
转载
2024-08-21 11:34:39
154阅读
向AI转型的程序员都关注了这个号????????????人工智能大数据与深度学习 ：datayx现在各种手写输入法很容易就能识别出各种各样的，潦草的字体。而OCR则还停留在对打印字...
转载
2022-04-25 21:47:25
550阅读
向AI转型的程序员都关注了这个号????????????人工智能大数据与深度学习 公众号：datayx现在各种手写输入法很容易就能识别出各种各样的，潦草的字体。而OCR则还停留在对打印字...
转载
2021-10-26 16:26:55
2787阅读
如何使用PyTorch实现模型
## 引言
PyTorch是一个用于构建深度学习模型的开源框架，它提供了丰富的工具和库，帮助开发者更高效地实现和训练各种深度学习模型。本文将介绍使用PyTorch实现模型的步骤和必要的代码。
## 流程
下面是使用PyTorch实现模型的整个流程：
```mermaid
flowchart TD
A[数据准备] --> B[定义模型]
B
原创
2024-01-15 05:40:41
164阅读
PyTorch学习笔记（13）–现有网络模型的使用及修改 本博文是PyTorch的学习笔记，第13次内容记录，主要介绍如何使用现有的神经网络模型，如何修改现有的网络模型。 目录PyTorch学习笔记（13）--现有网络模型的使用及修改1.现有网络模型2.现有模型的使用2.1VGG16模型的结构2.2修改现有VGG16模型的结构3.学习小结 1.现有网络模型 在现有的torchvisio
转载
2023-09-08 11:34:48
593阅读
作者：Facebook编译：ronghuaiyang 导读 Facebook刚刚发布了PyTorch的最新版本，PyTorch1.1.0，这是自从发布PyTorch1.0以来的又一个重大的更新。Facebook刚刚发布了PyTorch的最新版本，PyTorch1.1.0，这是自从发布PyTorch1.0以来的又一个重大的更新，在这个版本中，最最显眼的一个更新就是官方支持TensorBoard了
转载
2023-12-27 22:20:53
126阅读
PyTorch是一个针对深度学习，并且使用GPU和CPU来优化的tensor library(张量库)。最新发布的稳定版本为1.9，源码在https://github.com/pytorch/pytorch 。它支持在Linux、Mac和Windows上编译和运行。调用Python接口可以通过Anaconda或Pip的方式安装，调用C++接口
转载
2023-08-14 15:21:08
198阅读
本文主要介绍了Pytorch分布式的一些常见错误，避免大家踩坑Distributed加载参数有一个坑是使用分布式计算的时候，每张卡的内存分配都应该是均匀的，但是有时候会出现0卡占用更多内存的情况，这个坑在知乎上有讨论：链接分布式本身的内存分配应该是均匀的（左图），但是有时候会出现另一种情况（有图）这是load模型的时候导致的，当用下面句子load模型时，torch.load会默认把load进来的数
转载
2023-12-25 13:14:29
1013阅读
在之前课程中，我们已经熟悉了 PyTorch 中 transforms 的运行机制，它提供了大量的图像增强方法，例如裁剪、旋转、翻转等等，以及可以自定义实现增强方法。本节课中，我们将进一步学习 transforms 中的图像增强方法。1. 数据增强数据增强 (Data Augmentation) 又称为数据增广、数据扩增，它是对 训练集&
转载
2023-11-15 22:51:39
144阅读
1.torch.device()torch.device()主要作用是：在训练时指定使用GPU训练还是CPU训练。使用方法： # cuda:0 代表第几块GPU
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") 2.nn.ModuleList()nn.ModuleList()主要作用:我们可以把任意 n
转载
2023-09-06 17:57:01
283阅读
pytorch的安装首先扫盲常用的pip和这里的conda有什么不一样：pip 和 conda 什么区别？先跟着这个win10 安装 pytorch，安装conda、cuda和cuDNN。然后参照win10离线安装pytorch和torchvision进行离线安装命令行输入nvidia-smi查看cuda版本，在官网pytorch的pip选项查看自己需要下载的包在这里下载上图中对应离线包
打开命令
转载
2023-09-25 13:06:40
137阅读
一、概念num_workers是Dataloader的概念，默认值是0。是告诉DataLoader实例要使用多少个子进程进行数据加载(和CPU有关，和GPU无关) 如果num_worker设为0，意味着每一轮迭代时，dataloader不再有自主加载数据到RAM这一步骤（因为没有worker了），而是在RAM中找batch，找不到时再加载相应的batch。缺点当然是速度慢。当num_worker不
转载
2023-11-10 10:40:05
128阅读
