记录下学习pytorch的各种概念。日积月累吧1.CrossEntropyLossPyTorch-损失函数的损失函数。是log_softmax 和 nll_loss 方法的结合.https://www.jianshu.com/p/e184663e2f8a2.BatchNorm2d()卷积层之后总会添加BatchNorm2d进行数据的归一化处理，这使得数据在进行Relu之前不会因为数据过大而导致网络
转载
2023-12-11 19:32:59
50阅读
1.合并数据集 出发点：数据集的合并或连接是通过一个或多个键将行链接起来的df1 = DataFrame({'key':['b','b','c','d','a','a'],'data1':range(6)})
# key data
# 0 b 0
# 1 b 1
# 2 c 2
# 3 d 3
# 4 a 4
# 5 a
转载
2023-11-09 10:00:27
122阅读
1. Dataset & DataLoader?在 PyTorch 中，Dataset 和 DataLoader 是用来处理数据的重要工具。它们的作用分别如下：Dataset： Dataset 用于存储数据样本及其对应的标签。在使用神经网络训练时，通常需要将原始数据集转换为 Dataset 对象，以便能够通过 DataLoader 进行批量读取数据，同时也可以方便地进行数据增强、数据预处理
转载
2023-11-25 10:55:41
432阅读
文章目录前言一、Dataset定义-组成分类二、获取数据集1.参数说明2.相关Demo 前言本文记录笔者关于Dataset的相关学习记录，以Pytorch官网文档为主进行学习一、Dataset定义-组成所谓Dataset，指的是我们在学习神经网络中要接触的数据集，一般由原始数据，标注Label及相关索引构成 这里笔者给出基于自己的理解所进行的论述，比方说，我们要训练一个识别猫和狗的神经网络，我们
转载
2023-10-01 10:12:12
135阅读
一、图像基本处理以及数据集的简单创建初次接触pytorch，配置环境还是比较麻烦的，主要是用到anaconda下面是对图像处理的基本操作from PIL import Image # 图像处理的库
img_path = r'D://情绪图片测试/path1.jpg' # 图片路径
img = Image.open(img_path) # 调用方法，打开该图像
print(img.size)
转载
2023-10-06 18:37:08
104阅读
import torch
import torchvision
from torchvision import datasets,transforms
dataroot = "data/celeba" # 数据集所在文件夹
# 创建数据集
dataset = datasets.ImageFolder(root=dataroot,
transf
转载
2024-04-02 19:48:37
65阅读
问题背景训练深度学习模型往往需要大规模的数据集，这些数据集往往无法直接一次性加载到计算机的内存中，通常需要分批加载。数据的I/O很可能成为训练深度网络模型的瓶颈，因此数据的读取速度对于大规模的数据集（几十G甚至上千G）是非常关键的。例如：https://discuss.pytorch.org/t/whats-the-best-way-to-load-large-data/2977采用数据库能够大大
转载
2023-10-18 07:30:27
136阅读
pytorch用于加载数据集的模块主要是torch.utils.data(https://pytorch.org/docs/stable/data.html)。本文详细介绍了如何在自己的项目中（针对CV）使用torch.utils.data。1 综述1.1 pytorch常规训练过程我们一般使用一个for循环（或多层的）来训练神经网络，每一次迭代，加载一个batch的数据，神经网络前向反向传播各一
转载
2023-09-25 09:51:40
96阅读
目录一.使用的工具包二. 数据准备三. 代码实现： 一.使用的工具包torch.utils.data.Dataset
torch.utils.data.DataLoader二. 数据准备 以猫狗为例实现分类，按照如下图所示建立文件和文件夹，我这里自己准备了20张猫狗图像。 test.txt文件是后面代码生成的，先不用管，cats和dogs里面放上自己的图片，然后通过脚本生成test.txt
转载
2023-10-16 22:19:27
276阅读
在解决深度学习问题的过程中，往往需要花费大量的精力去处理数据，包括图像、文本、语音或其它二进制数据等。数据的处理对训练神经网络来说十分重要，良好的数据处理不仅会加速模型训练，更会提高模型效果。考虑到这点，PyTorch提供了几个高效便捷的工具，以便使用者进行数据处理或增强等操作，同时可通过并行化加速数据加载。在PyTorch中，数据加载可通过自定义的数据集对象。数据集对象被抽象为Dataset类，
转载
2024-04-19 09:12:06
72阅读
前言PyTorch通过torch.utils.data对一般的常用数据进行封装，可以很容易地实现多线程数据预读和批量加载。torchvision已经预先实现了常用的图像数据集，包括CIFAR-10、ImageNet、COCO、MNIST、LSUN等数据集，可以通过torchvision.datasets进行方便的调用。Dataset在PyTorch中，Dataset是图像数据集中最为重要的一个类，
转载
2023-09-30 09:46:12
101阅读
PyTorch将数据集的处理过程标准化，提供了Dataset基本的数据 类，并在torchvision中提供了众多数据变换函数，数据加载的具体过程 主要分为3步： 1．继承Dataset类 对于数据集的处理，PyTorch提供了torch.utils.data.Dataset这个抽象 类，在使用时只需要继承该类，并重写__len__()和__getitem()__函数， 即可以方便地进行数据集的迭
转载
2023-08-23 14:40:30
67阅读
一、简介PyTorch自带了许多常用的数据集，包括：MNIST：手写数字图像数据集，用于图像分类任务。CIFAR：包含10个类别、60000张32x32的彩色图像数据集，用于图像分类任务。COCO：通用物体检测、分割、关键点检测数据集，包含超过330k个图像和2.5M个目标实例的大规模数据集。ImageNet：包含超过1400万张图像，用于图像分类和物体检测等任务。Penn-Fudan Datab
转载
2023-08-10 12:00:37
257阅读
关于Pytorch的MNIST数据集的预处理详解MNIST的准确率达到99.7%用于MNIST的卷积神经网络(CNN)的实现，具有各种技术，例如数据增强，丢失，伪随机化等。操作系统：ubuntu18.04显卡：GTX1080tipython版本：2.7(3.7)网络架构具有4层的CNN具有以下架构。输入层：784个节点(MNIST图像大小)第一卷积层：5x5x32第一个最大池层第二卷积层：5x5x
转载
2024-06-16 11:47:21
63阅读
欢迎使用 Markdown在线编辑器 MdEditorMarkdown是一种轻量级的「标记语言」Markdown是一种可以使用普通文本编辑器编写的标记语言，通过简单的标记语法，它可以使普通文本内容具有一定的格式。它允许人们使用易读易写的纯文本格式编写文档，然后转换成格式丰富的HTML页面，Markdown文件的后缀名便是“.md”MdEditor是一个在线编辑Markdown文档的编辑器MdEdi
转载
2024-08-23 15:01:18
68阅读
在3.5节我们利用PyTorch的torchvision、data等包，下载及预处理MNIST数据集。数据下载和预处理是机器学习、深度学习实际项目中耗时又重要的任务，尤其是数据预处理，关系到数据质量和模型性能，往往要占据项目的大部分时间。好在PyTorch为此提供了专门的数据下载、数据处理包，使用这些包，可极大提高我们的开发效率及数据质量。 本章将介绍以下内容： 简单介绍PyTorch相关的数
转载
2024-06-07 18:03:11
161阅读
PyTorch自制图像数据集PyTorch 自制数据集重构Dataset类实现读取自己的数据集使用`torchvision.transforms`方法进行数据批处理torchvision.datasets.ImageFolderDataLoader类生成Batch进行训练小结 PyTorch 自制数据集在做计算机视觉相关任务，如图像分类时，需要使用PyTorch构建神经网络进行模型训练，这时候如
转载
2023-08-11 16:57:42
184阅读
配套视频1配套视频2 pytorch入门之手写数字识别目录引言——MINIST是什么？基本构造loss小结非线性模型构造梯度下降优化参数如何进行预测 目录引言——MINIST是什么？ 现如今诸如车牌识别，验证码识别，身份证识别等应用在我们的日常生活中被使用的越来越广泛。为此有专门学者收集了基本数字从0-9不同写法的书写方式，形成一个专门的数据集，这便是MINIST手写数据集的由来。 MINIST手
转载
2023-12-10 08:37:32
71阅读
最终目的是复现fasterrcnn网络先附上整体代码#!/usr/bin/env python
# -*- coding: utf-8 -*-
# @Time : 2022/5/15 10:28
# @Author : 半岛铁盒
# @File : mydataset.py
# @Software: win10 python3.6
#定义一个自己的数据集
import random
转载
2023-12-15 09:30:10
54阅读
数据规整化：合并、清理、过滤pandas和python标准库提供了一整套高级、灵活的、高效的核心函数和算法将数据规整化为你想要的形式！本篇博客主要介绍：合并数据集：.merge()、.concat()等方法，类似于SQL或其他关系型数据库的连接操作。合并数据集1） merge 函数merge(left, right, how='inner', on=None, left_on=None, righ
转载
2023-05-23 16:46:03
239阅读
