目录transformer整体结构Encoder:Decoder:Positional Encodings:Position-wise Feed-Forward networkmulti-headed attention(多头注意力机制):Residuals(残差模块) Layer normalization的实现MaskPadding maskSequence maskencoder代            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-21 14:37:02
                            
                                234阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            【学习笔记】【Pytorch】三、常用的Transforms学习地址主要内容一、Transforms模块介绍二、transforms.ToTensor类的使用1.使用说明2.代码实现三、transforms.Normalize类的使用1.使用说明2.代码实现四、transforms.Resize类的使用1.使用说明2.代码实现五、transforms.Compose类的使用1.使用说明2.代码实            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-17 17:16:27
                            
                                99阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             文章目录1. 数据增强1.1. 中心化1.2. 标准化1.3. 缩放1.4. 裁剪1.5. 旋转1.6. 翻转1.7. 填充1.8. 亮度、对比度、饱和度和色相变换1.9. 空间几何变换1.10. 遮挡1.11 自定义lambda方法2. 选择操作2.1 RandomChoice2.2 RandomApply2.3 RandomOrder3. 自定义transforms方法 1. 数据增强1.1            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-07-27 21:52:02
                            
                                70阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Tensor在PyTorch中负责存储基本数据,PyTorch 针对Tensor也提供了丰富的方法,PyTorch中的Tensor与NumPy数组具有极高的相似性。1. Tensor的数据类型(1)torch.FloatTensor:用于生成数据类型为浮点型的Tensor,传 递给torch.FloatTensor的参数可以是一个列表,也可以是一个维度值。import torch 
a= torc            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-08-10 10:13:20
                            
                                105阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            作者:夜和大帝transforms 是图像处理函数,主要用于对索引出来的图片进行 剪切、翻转、平移、仿射等操作,也就是得到我们想要的预处理过程。pytorch 提供的 torchvision.transforms 模块是专门用来进行图像预处理的,本文按照处理方式的不同,分组介绍和试验这些预处理方法注意点transforms.Compose() 可以把多类转换操作结合起来可转换的图像包括 PIL I            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-12 20:11:08
                            
                                217阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            文章目录一、Transforms的使用二、Tensor数据类型三、常见的Transforms总结 一、Transforms的使用torchvision中的transforms主要是对图片进行一些变换。 tranforms对应 tranforms.py 文件,里面定义了很多类,输入一个图片对象,返回经过处理的图片对象。 transforms.py就像一个工具箱,里面定义的各种类就像各种工具,图片就            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-13 21:05:26
                            
                                66阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            PyTorch框架学习七——自定义transforms方法一、自定义transforms注意要素二、自定义transforms步骤三、自定义transforms实例:椒盐噪声 虽然前面的笔记介绍了很多PyTorch给出的transforms方法,也非常有用,但是也有可能在具体的问题中需要开发者自定义transforms方法,这次笔记就介绍如何自定义transforms方法。ps:本次笔记中使用的            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-03 08:27:07
                            
                                165阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             环境配置使用colab运行代码的对应环境pip install transformers==4.21.0 datasets evaluate
pip install transformers环境报错问题  调用transformers中的TrainingArguments报错:ImportError: Using the `Trainer` with `PyTorc            
                
         
            
            
            
            【学习笔记】Pytorch深度学习—优化器(一)什么是优化器optimizer的属性optimizer的方法 前面我们学习过了损失函数,损失函数Loss是衡量模型输出与真实标签之间的差异的。有了损失函数Loss,通过Loss根据一定的策略 来更新模型中的参数使得损失函数Loss逐步降低;这便是优化器optimizer的任务。本节优化器optimizer主要包括3方面内容,分别是(1)什么是优化器            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-14 14:27:03
                            
                                49阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            PyTorch 的数据增强我们在安装PyTorch时,还安装了torchvision,这是一个计算机视觉工具包。有 3 个主要的模块:
torchvision.transforms: 里面包括常用的图像预处理方法
torchvision.datasets: 里面包括常用数据集如 mnist、CIFAR-10、Image-Net 等
torchvision.models: 里面包括常用的预训练好的模            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-23 20:22:08
                            
                                32阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            目录一、transform的用法1. tranforms的结构 2. transforms的使用步骤二、 transforms.ToTensor()的使用 1. 内置__call__方法简介2. ToTensor()使用2.1 将PIL类型图像转换为tensor型 2.2 将numpy类型图像转换为tensor型 2.3 使用tensorboard            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-11-01 17:19:31
                            
                                85阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、基础知识1、计算机视觉工具包:torchvisiontorchvision.transforms : 常用的图像预处理方法torchvision.datasets : 常用数据集的dataset实现,MNIST,CIFAR-10,ImageNet等torchvision.model : 常用的模型预训练,AlexNet,VGG, ResNet,GoogLeNet等2、常用的图像预处理方法数据中            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-10 21:49:47
                            
                                123阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、函数运用1.torch.eye(n), n为维数生成n*n的对角矩阵2.torch.rand(n),n为数量产生n个从[0,1)内均匀分布的数值3.torch.sort(xxx) 给产生的张量进行排序该函数返回两个值,但我们只关心第一个,所以x_train, _ = torch.sort(torch.rand(n_train) * 5)4.torch.normal 正态分布生成一个均值为0,方            
                
         
            
            
            
             目录0. 简介1. 裁剪类(1) torchvision.transforms.CenterCrop(size)(2) torchvision.transforms.FiveCrop(size)(3) torchvision.transforms.RandomCrop()(4) torchvision.transforms.RandomResizedCrop()(5) torchvision.t            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-07 21:49:37
                            
                                286阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            变换是常见的图像变换。它们可以使用链接在一起Compose。此外,还有torchvision.transforms.functional模块。功能转换可以对转换进行细粒度控制。如果您必须构建更复杂的转换管道(例如,在分段任务的情况下),这将非常有用。torchvision.transforms.Compose(transforms)transforms(Transform对象列表)-要组成的变换列            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-20 16:35:42
                            
                                143阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            transforms用法介绍torchvision.transforms模块主要用于对图像进行转换等一系列预处理操作,其主要目的是对图像数据进行增强,进而提高模型的泛化能力。对图像预处理操作有数据中心化,缩放,裁剪,旋转,翻转,填充,添加噪声,灰度变换,线性变换,仿射变换,亮度,饱和度,对比变换等。transforms.Composetransforms.Compose是将一系列的图像转换函数进行            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-05 13:08:41
                            
                                134阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            transformer 是最新的处理 序列到序列 问题的架构,单纯由 self-attention 组成,其优良的可并行性以及可观的表现提升,让它在NLP领域大受欢迎,并引入到cv领域。transformer vs CNN RNNcnn 利用的是卷积,与 transformer 比较的话,卷积可理解为 局部注意力;rnn 也是处理序列问题的,把 rnn 的循环结构换成 self-attention            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-01 05:59:06
                            
                                21阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            Transforms从torch1.7开始新增了该特性,之前transform进行数据增强的方式是如下的,i.e. 使用compose的方式: default_configure = T.Compose([ T.RandomCrop(32, 4), T.RandomHorizontalFlip(),            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2021-12-29 10:23:52
                            
                                351阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            PyTorch学习笔记(1)Transforms的使用    本博文是PyTorch的学习笔记,第1次内容记录,主要记录了Transforms的使用。 目录PyTorch学习笔记(1)Transforms的使用1.什么是Transforms?1.1Transforms的定义1.2transforms.py文件中定义了哪些类2.Transforms应用举例2.1项目情况2.2代码详情2.3运行过程3            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-10-14 05:35:12
                            
                                90阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            前言:前面有系列文章讲解了Dataset,DataLoader,Transform三者之间的关系,里面在讲到Sampler的时候提到那是一个“采样器”,没有深入介绍,本文续接前面的文章,参考: 一、自上而下理解三者关系首先我们看一下DataLoader.__next__的源代码长什么样,为方便理解我只选取了num_works为0的情况(num_works简单理解就是能够并行化地读取数据)            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-31 20:52:51
                            
                                537阅读
                            
                                                                             
                 
                
                                
                    