1、过拟合与欠拟合的区别是什么，什么是正则化？ 不同曲线，对于样本的表达能力，各不相同，上图的几根曲线中：曲线1，使用一阶曲线，即直线模型，过于简单，出现大量的错误分类，此时的误差较大，模型欠拟合。曲线2，使用高阶曲线，几乎是完美的完成拟合任务，但如此严格的模型，当新的样本与训练样本稍有不同，极有可能出现误判，此时模型过拟合。而曲线3，一条相对平滑的曲线，基本能完成拟合任务
转载
2023-11-20 11:31:18
83阅读
前言 关于 PyTorch 炼丹，本文作者表示：如果你有 8 个 GPU，整个训练过程只需要 2 分钟，实现 11.5 倍的性能加速。如何提升 PyTorch「炼丹」速度？最近，知名机器学习与 AI 研究者 Sebastian Raschka 向我们展示了他的绝招。据他表示，他的方法在不影响模型准确率的情况下，仅仅通过改变几行代码，将 BERT 优化时间从 22.63 分钟缩减到 3.1
转载
2023-09-16 21:30:36
113阅读
Pytorch预训练模型以及修改pytorch中自带几种常用的深度学习网络预训练模型，torchvision.models包中包含alexnet、densenet、inception、resnet、squeezenet、vgg等常用网络结构，并且提供了预训练模型，可通过调用来读取网络结构和预训练模型（模型参数）。往往为了加快学习进度，训练的初期直接加载pretrain模型中预先训练好的参数。加载m
转载
2024-01-24 23:23:47
122阅读
Pytorch训练代码框架前言自己在学习和coding的过程中，感觉每次搞一个模型，需要写一堆的过程代码（大部分是可复用的），有的时候还需要从之前或者各个博客cv一点代码，这样开发起来效率可能比较低，所以整理了一份相对来说比较全面的Pytorch建模&训练框架，一些简单的trick也整理放在了里面，方便取用。因为个人用NLP比较多，这个框架主要也是在预训练+微调这一范式下写的，但是想去掉预
转载
2023-12-01 11:36:50
100阅读
定义是否使用GPU可有可无，默认为 cpudevice = torch.device("cuda" if torch.cuda.is_available() else "cpu")训练数据：BATCH_SIZE = 64 ：批处理尺寸，即一次处理图像的张数 加载训练数据 ： 以cifar10 为例trainset = torchvision.datasets.CIFAR10(root='./dat
转载
2023-07-10 18:35:55
109阅读
PyTorch学习笔记(4)_模型、数据、训练过程的可视化Tensorboard 文章目录PyTorch学习笔记(4)_模型、数据、训练过程的可视化Tensorboard0 本章概要1 安装TensorBoard1.1 数据和模型准备1.2 设置TensorBoard2 写入TensorBoard3 在TensorBoard中查看模型4 添加一个“Projector”到TensorBoard5 在
转载
2024-06-03 15:12:59
66阅读
事实上，你的模型可能还停留在石器时代的水平。估计你还在用32位精度或*GASP（一般活动仿真语言）*训练，甚至可能只在单GPU上训练。如果市面上有99个加速指南，但你可能只看过1个？（没错，就是这样）。但这份终极指南，会一步步教你清除模型中所有的（GP模型）。不要让你的神经网络变成这样。（图片来源：Monsters U）这份指南的介绍从简单到复杂，一直介绍到你可以完成的大多数PITA修改，以充分利
简介ResNet（Residual Neural Network）由微软研究院的Kaiming He等四名华人提出，通过使用ResNet Unit成功训练出了152层的神经网络，并在ILSVRC2015比赛中取得冠军，在top5上的错误率为3.57%，同时参数量比VGGNet低，效果非常突出。ResNet的结构可以极快的加速神经网络的训练，模型的准确率也有比较大的提升。同时ResNet的推广性非常
转载
2023-10-21 22:12:39
496阅读
项目结构总结一般项目都包含以下几个部分：
模型定义
数据处理和加载
训练模型（Train&Validate）
训练过程的可视化
测试（Test/Inference）
主要目录结构： - checkpoints/： 用于保存训练好的模型，可使程序在异常退出后仍能重新载入模型，恢复训练
- data/：数据相关操作，包括数据预处理、dataset实现等
-
转载
2023-07-05 10:21:00
212阅读
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、造成的原因二、查找不匹配的原因三、解决方法四、使用方法后言 前言最近在使用pytorch框架进行模型训练时遇到一个性能问题，即数据读取的速度远远大于GPU训练的速度，导致整个训练流程中有大部分时间都在等待数据发送到GPU，在资源管理器中呈现出CUDA使用率周期性波动，且大部分时间都是在等待数据加载。一、造成的原因其实
转载
2023-08-10 17:50:04
472阅读
目录一、模型保存与加载 Saving & Loading Model1. 原因2. 序列化与反序列化3. PyTorch序列化与反序列化4. 模型保存5. 模型加载二、模型段点续训练1. 原因2. 模型保存的参数3. 断点续训练三、参考 一、模型保存与加载 Saving & Loading Model模型的保存与加载，也可以称之为序列化与反序列化。1. 原因训练好的模型是为了以后
转载
2024-01-11 09:46:43
453阅读
初学神经网络和pytorch，这里参考大佬资料来总结一下有哪些激活函数和损失函数（pytorch表示） 首先pytorch初始化： import torch
import torch.nn.functional as F
from torch.autograd import Variable
i
转载
2023-08-07 16:21:28
160阅读
本文参考自 PyTorch Cookbook（常用代码段整理合集）训练代码示例先放个模型训练的整个 .py 检查版本torch.__version__ # PyTorch version
torch.version.cuda # Corresponding CUDA version
torch.backends.cudnn.versi
转载
2023-10-05 13:03:33
177阅读
pytorch的 model.eval()和model.train()作用 pytorch中model.train()和model.eval()的区别主要在于Batch Normalization和Dropout两层。model.eval()：认为停止Batch Normalization的均值和方差统计
转载
2024-05-09 16:05:18
43阅读
if epoch % p['epoch_size'] == p['epoch_size'] - 1:
lr_ = utils.lr_poly(base_lr=p['lr'], iter_=epoch, max_iter=nEpochs, power=0.9)
print('(poly lr policy) learning rate: ', lr_)
optimizer =
转载
2023-10-05 22:30:16
113阅读
文章目录前言模型训练套路1.准备数据集2.训练数据集和测试数据集的长度3.搭建网络模型4.创建网络模型、损失函数以及优化器5.添加tensorboard6.设置训练网络的一些参数7.开始训练模型8.查看tensorboard的结果模型验证套路1.输入图片2.加载网络模型3.验证结果总结 前言本周主要学习了Pytorch的使用，用Dataset读取文件中的数据，DataLoader对Dataset
转载
2023-08-11 20:22:27
197阅读
一、模型的训练 Step1.准备数据集import torchvision
train_data = torchvision.dataset.CIFAR10("../data",train=True,
transform=torchvision.ToTensor，download=True) --载入训练集
test_d
转载
2024-02-04 14:19:28
103阅读
神经网络训练加速的最简单方法是使用GPU，对弈神经网络中常规操作（矩阵乘法和加法）GPU运算速度要倍超于CPU。随着模型或数据集越来越大，一个GPU很快就会变得不足。例如，BERT和GPT-2等大型语言模型是在数百个GPU上训练的。对于多GPU训练，需要一种在不同GPU之间对模型和数据进行切分和调度的方法。PyTorch是非常流行的深度学习框架，它在主流框架中对于灵活性和易用性的平衡最好。Pyto
转载
2024-07-26 15:52:52
72阅读
教材官网：https://zh.d2l.ai/书介绍：https://zh-v2.d2l.ai/笔记基于2021年7月26日发布的版本，书及代码下载地址在github网页的最下面（d2l-ai/d2l-zh）《动手学深度学习》pytorch 笔记（2）前言（介绍各种机器学习问题） 文章目录3.1 线性回归3.1.1 线性回归的基本元素（102）（linear regression）线性模型（102
转载
2024-03-11 20:09:36
154阅读
前文（创建数据集）打开之前下载的ssd-pytorch源代码，进行修改，下图是在VScode中的文件夹目录结构：部分细节可能不一样，训练测试之后就会生成了。修改部分1.读取自己的数据集之前下载的预训练模型vgg16_reducedfc.pth要放在对应的文件夹下。 在config.py中# config.py
import os.path
# gets home dir cross platfo
转载
2023-09-04 19:32:22
193阅读
