模型的存储与加载TF的API提供了两种方式来存储和加载模型: 1.生成检查点文件，扩展名.ckpt,通过在tf.train.Saver()对象上调用Saver.save()生成。包含权重和其他在程序中定义的变量，不包含图结构。 2.生成图协议文件，扩展名.pb，用tf.train.write_graph()保存，只包含图形结构，不包含权重，然后使用tf.import_graph_def()来加载图
在 PyTorch 中，我们可以使用 torch.save 函数将模型或张量保存到文件中，使用 torch.load 函数从文件中加载模型或张量。具体用法如下：保存模型import torch
# 定义模型
model = ...
# 保存模型
torch.save(model.state_dict(), 'model.pth')在上面的代码中，我们使用 model
转载
2024-04-23 10:48:47
124阅读
文章目录1.加载数据集2.迭代和可视化数据集3.创建自定义数据集4.准备数据以使用 DataLoaders 进行训练5.通过 DataLoader遍历6.Further Reading 处理数据样本的代码可能会变得混乱且难以维护；我们理想地希望我们的数据集代码与我们的模型训练代码分离，以获得更好的可读性和模块化。PyTorch 提供了两种数据原语：torch.utils.data.DataLoa
PyTorch框架学习十九——模型加载与保存一、序列化与反序列化二、PyTorch中的序列化与反序列化1.torch.save2.torch.load三、模型的保存1.方法一：保存整个Module2.方法二：仅保存模型参数四、模型的加载1.加载整个模型2.仅加载模型参数五、断点续训练1.断点续训练的模型保存2.断点续训练的模型加载 距离上次的学习笔记时隔了正好一个月。。。下面继续！其实深度学习的
PyTorch 转 ONNX 详解学习链接：模型部署入门教程（三）：PyTorch 转 ONNX 详解写在前面： 本文档为学习上述链接的相关记录，基本内容一致，仅用于学习用途，若侵权请联系我删除 PyTorch 转 ONNX 详解1 torch.onnx.export 细解1.1 计算图导出方法1.2 参数详解2 使用提示2.1 使模型在 ONNX 转换时有不同的行为2.2 利用中断张量跟踪的操作
转载
2024-05-13 14:13:19
128阅读
前两篇博客介绍了Windows下tensorflow和faster rcnn的安装和demo的运行，这篇介绍如何训练自己的模型和数据。Windows +TensorFlow+Faster Rcnn 详细安装步骤（一）Windows 下 TensorFlow 和 Faster rcnn 详细安装步骤（二）这里不再介绍VOC2007数据集，假设你已经制作好了自己的数据集。注意：这篇博客是基于上述两篇博
handler编写参考文件必须要求You can create custom handler by having class with any name, but it must have an `initialize` and a `handle` method.并且，参数和示例一样，不能缺少，哪怕那个参数不用，另外handle的输入和输出必须是list,并且list的元素个数需要一致示例#
目录一、基本介绍二、利用层次分析法解决评价类问题2.1判断矩阵2.2判断矩阵一致性检验 2.3计算权重 2.4算数平均法求权重 2.5几何平均法求权重 2.6特征值求权重三、总结 一、基本介绍层次分析法是评价类模型中的一种常见算法，它是用来根据多种准则，或是说因素从候选方案中选出最优的一种数学方法，例如我们在生活中会遇到各种各样的问题，比如各个高校
转载
2024-04-07 11:50:01
107阅读
文章目录一、方法二、读写tensor三、读写模型四、实例1.理解2.实例 一、方法·通过save函数和load函数可以很方便地读写Tensor。·通过save函数和load_state_dict函数可以很方便地读写模型的参数。二、读写tensorimport torch
import torch.nn as nn
# 1.创建x，并将其存入文件名为x.pt的文件里
x = torch.ones
转载
2024-03-22 11:59:41
76阅读
一、CriticCritic的作用：Critic就是一个神经网络，以状态 Critic的作用就是衡量一个Actor在某State状态下的优劣。Given an actor π, it evaluates the how good the actor is。Critic本身不能决定要采取哪一个Action。A critic does not determine the action.An actor
这是一篇将attention机制应用到graph convolution中的文章。但是文章中提出的模型其实是利用了attention的一部分思想，而不是和处理sequence的模型应用的attention机制是不完全一样的。处理sequence的模型引入的attention机制可以分为两类，一类是在输入sequence本身上计算attention的intertext情形；另一类是另外有一个用来计算
转载
2024-09-06 10:44:59
44阅读
开宗明义：attention就是一个加权机制，但是权重需要经过训练得到。感觉有些情况就是代替了concat然后过模型的场景，优势是更小、参数更少。 本文介绍一些我自己整理的常见attention类型。本文不关注别的博文里已经写烂了的attention机制的重要性和直觉解释（又不是写论文还要写introduction）。 multi-head attention也不在本文赘述。 文章目录1. att
一般我们训练深度学习模型都是等训练完成后才能查看loss acc等这些指标，然而当我们模型设计并不正确或者出现了过拟合甚至于数据拟合出现了很严重错误，但是在训练很深的网络的时候一般都要等上好久，我就遇到过用RestNet50训练100张图跑了三四天。这时候我们该浪费时间继续train呢还是等指标出来再判断，我们都不知道。庆幸的是现在我们用keras可以随时监督训练的过程，一旦训练出现了问题可以随时
1 准备数据集import torch
import torchvision
# 去网上下载CIFAR10数据集【此数据集为经典的图像数字识别数据集】
# train = True 代表取其中得训练数据集；
# transform 参数代表将图像转换为Tensor形式
# download 为True时会去网上下载数据集到指定路径【root】中，若本地已有此数据集则直接使用
train_data=
转载
2024-05-13 12:45:08
121阅读
目录Attention前言Encoder-DecoderAttention机制sele-attention机制decoder总结Attention的三大优点**中心思想：通过加权求和，context上下文理解。** Attention前言Attention即权重 翻译为例 games是游戏，但是综合2022 beijing winter 就翻译为比赛，不不不，应该是冬奥会。Encoder-Deco
转载
2024-05-02 11:28:36
42阅读
一、权重衰退（Weight_decay）正则限制针对模型训练时出现的过拟合问题，限制模型容量是一种很好的解决方法，目前常用的方法有以下两种：缩小模型参数量，例如降低模型层数，使得模型更加轻量化，正则化通过限制参数值的选择范围来控制模型容量，正则化：
使用均方范数作为硬性限制，即对于参数 ，假设其损失函数为 ，则其优化目标为 在上述约束中通常不对 进行约束，因为 是针对 点的偏移，且在实际中，
在做分类时常常需要估算不同样本之间的相似性度量(SimilarityMeasurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究，甚至关系到分类的正确与否。 本文的目的就是对常用的相似性度量作一个总结。本文目录：1.欧氏距离2.曼哈顿距离3. 切比雪夫距离4. 闵可夫斯基距离5.标准化欧氏距离6.马氏距离7.夹角余弦8.汉明距离9.杰
一、加载已有模型直接使用temp=torch.load("E:\\study-proj\\图像分类：从零到亿\\5.使用更多模型\\model_resnet101.pth") #加载模型，如果只有数值就只会加载模型数据，如果有字典，则会加载模型数据和字典数据
model.load_state_dict(temp) #返回是否成功由于模型保存的时候有保存数据和保存数据和字典的方式，所以加载的时候就
转载
2023-07-17 09:38:52
178阅读
演员-评论家算法(Actor-Critic Algorithm)是一种结合策略梯度和时序差分学习的强化学习方法，其中：演员(Actor)是指策略函数 ，即学习一个策略来得到尽量高的回报。评论家(Critic)是指值函数 ，对当前策略的值函数进行估计，即评估演员的好坏。借助于值函数，演员-评论家算法可以进行单步更新参数，不需要等到回合结束才进行更新。Actor-Critic 算法又可以根据更新策略的
转载
2024-10-16 10:02:44
47阅读
attention的本质 通过计算Query和一组Key的相似度（或者叫相关性/注意力分布），来给一组Value赋上权重，一般地还会求出这一组Value的加权和。 一个典型的soft attention如下公式所示： 先用Query求出分别和一组Key计算相似度，计算相似度的方法有很多种，常用的有点乘、perceptron 然后用softmax归一化，得到每个Key对应的概率分布α
转载
2024-08-01 15:07:09
63阅读
