几种目标检测方法比较这里建议去看一篇博客，里面讲了几种目标检测方法实现的大致原理，也对几种目标检测方法进行了比较ssd的实现原理计算机要确定一幅图片中某个参数的位置，也就是对准图片中的一个物体，画出一个框，需要四个参数，中心点的x和y的坐标，w（宽），h（高），如下图 我们的计算机要确定这幅图片中猫咪的位置，画一个框，框出猫咪，就需要这个框的四个参数，中心点坐标：x和y、框的宽、框的高。那么ssd
文章目录1、何为Embedding2、2013年以前科学家怎么做文本特征技术？2.1 OneHot2.2 TF-IDF2.3 小结3、2013年以后科学家怎么做? 用 Embedding3.1主要思想3.2 “word2vec”使embedding空前流行3.3 word2vec介绍（Tomas Mikolov 的三篇代表作 之一）3.4 基于word2vec的思路，如何表示sentence和d
转载
2023-12-13 07:35:17
276阅读
有两个Embedding函数，通常是用前面这一个 ref https://pytorch.org/docs/stable/generated/torch.nn.Embedding.html torch.nn.Embedding( num_embeddings, embedding_dim, padd ...
转载
2021-07-27 15:12:00
1916阅读
2评论
文章目录1 Word Embed1.1 One-hot编码1.2 Word Embed理解1.3 总结2 Pytorch中的embeding3 Example3.1 Ex1 一维编码3.2 Ex2 多维度编码3.3 超过下标后报错参考 1 Word Embed理解Embeding首先需要理解Word Embed，那什么是Word Embed呢？即将word转化为tensor：This is an
转载
2024-01-11 13:16:47
312阅读
Module 是 pytorch 提供的一个基类，每次我们要 搭建 自己的神经网络的时候都要继承这个类，继承这个类会使得我们 搭建网络的过程变得异常简单。本文主要关注 Module 类的内部是怎么样的。初始化方法中做了什么def __init__(self):
self._backend = thnn_backend
self._parameters = OrderedDict()
转载
2024-01-05 22:05:17
55阅读
目录一、自定义损失函数1. 以函数方式定义2. 以类方式定义3. 其他常见的自定义损失函数（1）BCE-Dice Loss（2）Jaccard/Intersection over Union (IoU) Loss（3）Focal Loss二、动态调整学习率1. 使用官方scheduler2. 自定义scheduler三、模型微调1. 模型微调 — torchvision（1）模型微调流程（2）使
转载
2024-05-14 14:28:12
37阅读
这篇文章主要是之前一段时间的总结，内容是有关PyTorch中卷积部分的源码。文章不会很透彻的去研究源码，只是大概地总结一下，主要内容有：PyTorch-拓展模块PyTorch对于卷积的内部实现为什么有了cudnn还需要PyTorch实现卷积？ 很感谢网上的优质博客，正是因为有了知识的共享，人们的生活质量才会不断提高~ 本人参考源码实现的卷积链接: [点我跳转]，为PyTorc
转载
2024-04-16 21:35:45
104阅读
关于Embedding和RNN-GRU-LSTM的使用详解
1. Embedding的使用pytorch中实现了Embedding，下面是关于Embedding的使用。torch.nn包下的Embedding，作为训练的一层，随模型训练得到适合的词向量。建立词向量层embed = torch.nn.Embedding(n_vocabulary,embed
转载
2023-08-11 20:48:51
256阅读
前言前段时间面试了许多应界生同学，惊讶地发现很多同学只做深度学习，对于LR/GBDT这样的传统机器学习算法，既不掌握理论，也从未实践过。于是就想写一篇文章，梳理一下推荐算法由传统机器学习，发展到深度学习，再到未来的强化学习、图神经网络的技术发展脉络，因为「只有了解过去，才能更好地把握当下与未来」。无奈这个题目太大，再加上近来分身乏术，实在无暇宏篇大论。于是今日小撰一文，聚焦于深度学习的核心思想Em
转载
2023-09-20 15:51:01
11阅读
做nlp很多时候要用到嵌入层，pytorch中自带了这个层什么是embedding层我用最通俗的语言给你讲 在nlp里，embedding层就是把单词表[‘你’，‘好’，‘吗’] 编码成‘你’ --------------[0.2,0.1]
‘好’ --------------[0.3,0.2]
‘吗’ --------------[0.6,0.5]的向量的办法为什么要embedding这是写
转载
2023-06-06 00:18:53
348阅读
自己这两天改代码的一些经历，记录一下。DDP对于多卡训练，Pytorch支持nn.DataParallel 和nn.parallel.DistributedDataParallel这两种方式。其中nn.DataParallel 最简单但是效率不高，nn.parallel.DistributedDataParallel(DDP)不仅支持多卡，同时还支持多机分布式训练，速度更快，更加强大。理论上来说，
转载
2023-12-07 01:04:19
107阅读
文章目录Transformer PE - sin-cos 1dVIT PE - trainable 1dSw PE - trainable relative bias 2dMAE PE - sin cos 2d Transformer PE - sin-cos 1d正余弦不可学习PE，之前的博客里面提到过了，这里引用一下就好PE矩阵可以看作是两个矩阵相乘，一个矩阵是pos（/左边），另一个矩阵是
转载
2024-01-17 10:28:09
100阅读
直接看代码：import torchimport torch.nn as nnembedding=nn.Embedding(10,3)input=torch.LongTensor([[1,2,4,5],[4,3,2,9]])embedding(input)tensor([[[ 0.8052, -0.1044, -0.6971], [ 1.3792, -0.1265, -1.1444
转载
2020-07-20 10:13:00
223阅读
2评论
今天开始用二十天的时间来学习一下pytorch，加油！！！一、Pytorch是什么？？Pytorch是一个基于Python的机器学习库。它广泛应用于计算机视觉，自然语言处理等深度学习领域。是目前和TensorFlow分庭抗礼的深度学习框架，在学术圈颇受欢迎。 它主要提供了以下两种核心功能：1，支持GPU加速的张量计算。2，方便优化模型的自动微分机制。二、Pytorch的主要优点？？1.简洁易懂Py
转载
2024-07-23 19:57:51
33阅读
# 使用PyTorch实现Positional Embedding
在深度学习领域，Positional Embedding是一种重要的技术，特别是在处理序列数据时。它能够为网络提供序列中每个单词或元素的位置信息，使模型能够理解元素之间的相对位置。在这篇文章中，我们将学习如何在PyTorch中实现自带的Positional Embedding。
## 整体流程
### 流程概览
| 步骤
原创
2024-08-22 05:57:51
330阅读
模型结构图Deep_Cross解决的问题：离散类特征编码后过于系数，不利于直接输入到神经网路中进行训练如何解决特征交叉组合的问题如何在输出层达成问题设定的优化目标模型设置Embedding层：作用：将类别型特征进行one-hot编码然后进行Embedding，将类别性特正转化为Embedding向量。 每一个特征（Feature1）进行Embedding层后会变成Embedding向量。 数值型特
转载
2024-09-23 06:59:09
132阅读
# 实现 PyTorch Entity Embedding
## 介绍
在这篇文章中，我将向你展示如何在 PyTorch 中实现 Entity Embedding。Entity Embedding 是一种在神经网络中用于表示分类变量的方法，可以将高维的离散特征转换为低维稠密向量，从而更好地表示特征之间的关系。
## 流程概述
为了实现 PyTorch Entity Embedding，我们将按
原创
2024-04-27 05:34:57
20阅读
# PyTorch Embedding导出
## 介绍
在深度学习中，嵌入（embedding）是一种常用的技术，用于将高维稀疏的离散特征转换为低维稠密的连续向量表示。PyTorch是一种常用的深度学习框架，提供了一种方便的方法来创建和使用嵌入层。然而，当我们需要将训练好的模型部署到其他平台或使用其他工具进行后续处理时，我们可能需要将嵌入层导出为其他格式。本文将介绍如何在PyTorch中导出嵌
原创
2024-01-12 08:41:12
192阅读
# PyTorch嵌入查找（Embedding Lookup）的实现流程
## 介绍
在自然语言处理（NLP）和推荐系统等领域，嵌入查找是一项常见的任务。PyTorch提供了一个简便的方法来实现嵌入查找，称为“Embedding Lookup”。在本文中，我将向你介绍如何使用PyTorch实现嵌入查找，并给出每一步需要做的具体代码。
## 步骤概览
下面是实现PyTorch嵌入查找的步骤概览：
原创
2023-08-02 11:57:46
250阅读
# PyTorch 中的类别嵌入（Embedding）
在深度学习中，尤其是在自然语言处理（NLP）和推荐系统等领域，类别嵌入（Categorical Embedding）是一种重要的技术。它通过将离散的类别变量转换为低维连续向量，使得模型能够更好地捕捉类别之间的相似性。本文将介绍 PyTorch 中类别嵌入的基本概念及其实现，并配以代码示例和可视化流程图。
## 什么是类别嵌入？
类别嵌入
