目录1 模型的搭建1.1 模型定义的三要素1.2 nn.Sequetial2 权值初始化的⼗种⽅法2.1 权值初始化流程2.2 常用初始化方法1. Xavier 均匀分布2. Xavier 正态分布3. kaiming 均匀分布4. kaiming 正态分布5. 均匀分布初始化6. 正态分布初始化7. 常数初始化8. 单位矩阵初始化9. 正交初始化10. 稀疏初始化11. 计算增益2.3 权值初始
转载
2023-08-13 17:28:20
84阅读
yolo系列是目标识别的重头戏，为了更好的理解掌握它，我们必须从源码出发深刻理解代码。下面我们来讲解pytorch实现的yolov3源码。大部分同学在看论文时并不能把所有的知识全部掌握。我们必须结合代码（代码将理论变成实践），它是百分百还原理论的，也只有在掌握代码以及理论后，我们才能推陈出新有所收获，所以大家平时一定多接触代码，这里我们会结合yolov3的理论知识让大家真正在代码中理解思想。下面我
转载
2024-05-29 00:07:14
72阅读
前面的部分我们学了怎么构建神经网络以及如何训练，但有时候我们发现结果不如意，那么该怎么办呢？这部分就学习一些解决方法 文章目录使用测试集（验证集）早期停止正则化（Regulation）Dropout随机重新开始 使用测试集（验证集）下面哪个模型更优呢？其实肉眼是不太看的出来的，就算右边的模型好像所有点都分类正确了，但也有可能过拟合，所以我们可以引入测试集（或者验证集），先训练一部分，然后进行测试结
深度学习框架Pytroch系列注：大家觉得博客好的话，别忘了点赞收藏呀，本人每周都会更新关于人工智能和大数据相关的内容，内容多为原创，Python Java Scala SQL 代码，CV NLP 推荐系统等，Spark Flink Kafka Hbase Hive Flume等等~写的都是纯干货，各种顶会的论文解读，一起进步。 这个系列主要和大家分享深度学习框架Pytorch的各种api，从基础
转载
2023-08-04 22:38:57
90阅读
Pytorch应用训练好的模型1.保存训练好的模型：torch.save方法2.加载之前保存的模型：torch.load方法3.对于分类问题的补充4.CPU训练完整代码5.GPU训练方法一6.GPU训练方法二7.GPU训练过程的细节优化8.验证模型 1.保存训练好的模型：torch.save方法保存训练好的模型有两种方式，第一种保存模型结构且保存模型参数，第一种方式存在一种陷阱，也就是每次加载模
转载
2023-07-16 14:45:26
524阅读
5.3 PyTorch修改模型除了自己构建PyTorch模型外，还有另一种应用场景：我们已经有一个现成的模型，但该模型中的部分结构不符合我们的要求，为了使用模型，我们需要对模型结构进行必要的修改。随着深度学习的发展和PyTorch越来越广泛的使用，有越来越多的开源模型可以供我们使用，很多时候我们也不必从头开始构建模型。因此，掌握如何修改PyTorch模型就显得尤为重要。本节我们就来探索这一问题。经
转载
2023-08-11 21:22:39
225阅读
文章目录前言一、模型训练流程二、加载数据集三、定义模型四、模型训练&测试五、整体流程以下是训练的整体流程前言就本人在学习深度学习的过程中，记录并分享基于pytorch框架的一个深度学习神经网络的分类训练的模板；文末有源码。一、模型训练流程加载数据集数据预处理特征工程 （如果你需要有这个步骤？）模型训练模型评估二、加载数据集使用pytorch下的dataset类，其中分为两种形式：加载官方
转载
2023-10-16 19:58:24
126阅读
文章目录前言模型训练套路1.准备数据集2.训练数据集和测试数据集的长度3.搭建网络模型4.创建网络模型、损失函数以及优化器5.添加tensorboard6.设置训练网络的一些参数7.开始训练模型8.查看tensorboard的结果模型验证套路1.输入图片2.加载网络模型3.验证结果总结 前言本周主要学习了Pytorch的使用，用Dataset读取文件中的数据，DataLoader对Dataset
转载
2023-08-11 20:22:27
197阅读
opt=torch.optim.Adam(net.parameters(), lr=0.0008, betas=(0.9, 0.99))loss=nn.CTCLoss()
原创
2021-04-22 20:25:00
235阅读
opt=torch.optim.Adam(net.parameters(), lr=0.0008, betas=(0.9, 0.radients for next
原创
2022-02-19 14:28:21
250阅读
文章目录逻辑回归原理sigmoid函数优化建模代码实现自编代码sklearn代码代码测试原理测试交叉验证 逻辑回归原理此前介绍的线性回归基本模型和增加了正则项的优化模型都只能用来预测连续值（标签值是多少），如果想要应用于分类问题（标签值是1还是0），就还需要进一步操作，即本文即将介绍的逻辑回归，其本质是预测标签值是1和0的概率分别为多少。由于连续值的取值范围为，而概率值的取值范围是，所以需要将线
转载
2024-10-26 12:38:02
214阅读
文章目录1. 首先使用 torchvision加载和归一化我们的训练数据和测试数据。2. 定义模型3. 定义损失函数4. 训练（主调函数入口）5.测试 具体参考博客： 一般来说，使用深度学习框架我们会经过下面几个流程：模型定义（包括损失函数的选择） —>数据处理和加载 —> 训练（可能包含训练过程可视化） —> 测试所以我们在自己写代码的时候也基本上就按照这四个大模块四步走
转载
2024-02-19 22:11:35
25阅读
# 项目方案：使用PyTorch训练完如何绘制图形
## 1. 简介
PyTorch是一个开源的深度学习框架，可以用于构建和训练神经网络模型。在训练完模型后，通常需要对训练过程进行可视化，以便更好地理解模型的性能和进展。本文将介绍如何使用PyTorch训练完后绘制图形的方案，并给出代码示例。
## 2. 方案
### 2.1 数据准备
首先，我们需要准备训练数据和标签。假设我们有一个图像分类
原创
2024-02-07 10:39:47
277阅读
一.数据集下载链接: https://pan.baidu.com/s/1_7blbYJc0ouCGmqe8kBnTw 提取码: c6ex 复制这段内容后打开百度网盘手机App，操作更方便哦二.训练模型1.定义数据初始化import torchvision.transforms as transforms
image_size=(224,224) #
data_transforms=transfor
转载
2023-09-06 22:12:52
187阅读
PyTorch 2.0 通过简单一行 torch.compile() 就可以使模型训练速度提高 30%-200%，本教程将演示如何真实复现这种提速。torch.compile() 可以轻松地尝试不同的编译器后端，进而加速 PyTorch 代码的运行。它作为 torch.jit.script() 的直接替代品，可以直接在 nn.Module 上运行，无需修改源代码。上篇文章中，我们介绍了 torch
转载
2024-01-11 21:57:32
129阅读
PyTorch学习笔记(4)_模型、数据、训练过程的可视化Tensorboard 文章目录PyTorch学习笔记(4)_模型、数据、训练过程的可视化Tensorboard0 本章概要1 安装TensorBoard1.1 数据和模型准备1.2 设置TensorBoard2 写入TensorBoard3 在TensorBoard中查看模型4 添加一个“Projector”到TensorBoard5 在
转载
2024-06-03 15:12:59
66阅读
定义是否使用GPU可有可无，默认为 cpudevice = torch.device("cuda" if torch.cuda.is_available() else "cpu")训练数据：BATCH_SIZE = 64 ：批处理尺寸，即一次处理图像的张数 加载训练数据 ： 以cifar10 为例trainset = torchvision.datasets.CIFAR10(root='./dat
转载
2023-07-10 18:35:55
109阅读
Pytorch预训练模型以及修改pytorch中自带几种常用的深度学习网络预训练模型，torchvision.models包中包含alexnet、densenet、inception、resnet、squeezenet、vgg等常用网络结构，并且提供了预训练模型，可通过调用来读取网络结构和预训练模型（模型参数）。往往为了加快学习进度，训练的初期直接加载pretrain模型中预先训练好的参数。加载m
转载
2024-01-24 23:23:47
122阅读
前言上一篇文章中讲到了GPT，也简单讲到了GPT和BERT的区别，这里先贴回来温习一下： GPT和BERT之间的区别是：GPT选择了transformer中decoder阶段结构作为预训练结构；而BERT选择了transformer中encoder阶段结构作为预训练结构。 这样首先需要知道encoder结构和decoder结构之间的利弊：encoderdecoder双向网络单向网络没有天然的预测目
转载
2023-12-02 20:38:43
101阅读
目录1.选取训练模型中的损失函数1.1L1损失函数1.2均值平方差(MSE)损失函数1.3交叉熵损失（CrossEntropyLoss）函数1.4加权交叉熵1.5分类模型中常用的3种损失函数2.Softmax接口的使用3.优化器的使用与优化参数的查看3.1优化器的使用3.2优化参数的查看4.用退化学习率训练模型4.1手动实现退化学习率4.2PyTorch中的退化学习率接口----lr_sched
转载
2024-07-17 20:56:40
83阅读
