1. 函数汇总Tensor 的基本运算会对 tensor 的每一个元素进行操作，此类操作的输入与输出形状一致，常用操作见下表所示。 对于很多操作，例如 div、mul、pow、fmod、等， PyTorch 都实现了运算符重载，所以可以直接使用运算符，如 a ** 2 等价于 torch.pow(a, 2), a *2 等价于 torch.mul(a, 2)。2. 函数功能2.1 torch.ab
转载
2024-06-09 13:15:30
54阅读
概述虽然tensorflow2.0发布以来还是收获了一批用户，但是在自然语言处理领域，似乎pytorch见的更多一点。关系抽取是目前自然语言处理的主流任务之一，遗憾没能找到较新能用的开源代码。一方面是因为关系抽取任务的复杂性，目前数据集较少，且标注的成本极高，尤其是中文数据集，所以针对该任务的数据集屈指可数，这也限制了这方面的研究。另一方面，关系抽取任务的复杂性，程序多数不可通用。github上有
转载
2023-08-11 19:51:34
110阅读
反向传播（BP算法）python实现1、BP算法描述BP算法就是反向传播，要输入的数据经过一个前向传播会得到一个输出，但是由于权重的原因，所以其输出会和你想要的输出有差距，这个时候就需要进行反向传播，利用梯度下降，对所有的权重进行更新，这样的话在进行前向传播就会发现其输出和你想要的输出越来越接近了。上面只是其简单的原理，具体实现起来其实就是利用了链式法则，逐步的用误差对所有权重求导，这样便反向得到
转载
2023-08-24 20:38:30
139阅读
花书第10.2.2节的计算循环神经网络的梯度看了好久，总算是把公式的推导给看懂了，记录一下过程。 首先，对于一个普通的RNN来说，其前向传播过程为： $$\textbf{a}^{(t)}=\textbf{b}+\textbf{Wh}^{t-1}+\textbf{Ux}^{(t)}$$ $$\text
转载
2020-10-11 14:48:00
473阅读
2评论
激活函数到目前为止，我们使用的激活函数全部都是σ
σ
函数，然而这并不一定是最好的函数，有时其他可选的函数效果也很好，下面我们来介绍一下其他的函数。如图所示，我们在这里使用σ
σ
函数作为激活函数。我们现在使用g(z(x))，作为更一般的可以使用的函数。我们这里介绍一下tan
转载
2024-04-14 13:57:58
53阅读
附上y=2x-b拟合的简单的代码.
原创
2022-02-23 16:51:23
289阅读
目录1.准备可复现的随机数据2.实现并训练模型2.1定义模型2.2搭建并训练模型2.3评估及使用模型 1.准备可复现的随机数据可复现是指：一个程序在相同设备上多次运行，可以得到相同的结果。在调试程序过程中，常使用这种方式来复现问题，方便地找出上一次运行时所出现的问题。 具体做法是，在程序开始时固定torch的随机数种子，并固定numpy的随机数种子。import torch
import num
转载
2023-12-20 06:04:52
176阅读
示例一：可以进行相加的tensorfrom __future__ import print_function
import torch # 找不到torch模块是因为对应的解释器中没有torch模块
# File-Settings-grammer_learning-Project Interpreter:进行更换即可
x=torch.empty((6,1,2))
z=torch.empty((
转载
2024-01-31 16:06:22
127阅读
文章目录前言一、统计1.范数norm2.max/min/mean/sum/prod3.argmax/argmin/dim/keepdim4.Topk/kthvalue5.比较/eq/equal一、高级操作where/gather1.条件where2.gather总结 前言Pytorch学习笔记第四篇，关于Tensor的统计（max、min、mean等）、where、gather。一、统计1
转载
2023-11-02 06:48:23
62阅读
一、introductionVGG网络是2014年ILSVRC2014比赛分类项目的第二名（其中第一名是GoogLeNet）。论文发表于2015年的ICLR，其主要贡献是使用多个较小的卷积核（如3 X 3）替代大卷积核，降低了卷积核的尺寸，增加了网络深度。证明了不断加深网络深度可以提高网络的性能。二、网络结构 网上比较流行的网络结构如上图所示，通过对网络结构的评估，最终证明16层和19层的网络结构
转载
2023-10-24 09:20:27
85阅读
我们经常会看到后缀名为.pt, .pth, .pkl的pytorch模型文件，这几种模型文件在格式上有什么区别吗？其实它们并不是在格式上有区别，只是后缀不同而已(仅此而已)，在用torch.save()函数保存模型文件时，各人有不同的喜好，有些人喜欢用.pt后缀，有些人喜欢用.pth或.pkl.用相同的torch.save()语句保存出来的模型文件没有什么不同。在pytorch官方的文档/代码里，
转载
2023-08-17 16:52:01
102阅读
convolution参数详解以2d卷积为例torch.nn.Conv2d(in_channels,
out_channels,
kernel_size,
stride=1,
padding=0,
dilation=1,
转载
2023-07-04 17:21:19
164阅读
原文链接(https://mp.weixin.qq.com/s/tYXHOjZNp_7Sy8FlAadu9w)1.必要的PyTorch背景1.PyTorch是一个建立在Torch库之上的Python包，旨在加速深度学习应用。2.PyTorch提供一种类似NumPy的抽象方法来表征张量（或多维数组），它可以利用GPU来加速训练。!pytorch7.png(https://s2.51cto.com/i
原创
2022-07-14 16:22:30
262阅读
点赞
# PyTorch的Transformer实现
随着深度学习的发展，Transformer模型已经成为处理序列数据（如自然语言处理、时间序列预测等）的一种重要工具。本文将介绍如何在PyTorch框架中实现一个简单的Transformer模型，并展示一些关键的代码示例和步骤。
## Transformer模型的概述
Transformer模型由Vaswani等人在2017年提出，主要包括以下组
# 深度学习目标检测算法fastrcnn的pytorch实现
目标检测是计算机视觉领域中一个重要的任务，它的目标是在图像中检测出目标的位置和类别。在深度学习的发展过程中，出现了很多有效的目标检测算法，其中之一就是fastrcnn。fastrcnn是一种基于区域的卷积神经网络(R-CNN)的改进版本，其速度更快、准确率更高。本文将介绍fastrcnn的原理，并展示如何使用pytorch实现这一算法
原创
2024-05-01 07:47:04
73阅读
Transformer是一种广泛应用于自然语言处理和其他序列数据任务的深度学习模型。它是由Google研究人员于2017年提出的。本文将介绍Transformer的原理，并使用PyTorch实现一个简单的Transformer模型。
## Transformer模型的原理
Transformer模型是一种完全基于自注意力机制（self-attention）的序列到序列模型。相比于传统的循环神经
原创
2023-12-26 08:41:32
120阅读
# DCT的实现与PyTorch
离散余弦变换（DCT, Discrete Cosine Transform）是一种广泛应用于信号处理、图像压缩（如JPEG格式）等领域的重要工具。与离散傅里叶变换（DFT）类似，DCT也将信号从时域转换到频域，但在一些情况下，它能够提供更高的压缩效益和更好的视觉效果。本文将介绍DCT的基本概念，如何在PyTorch中实现DCT，以及应用示例。
## DCT的基
作者丨红色石头
极市导读从R-CNN到YOLO v3再到M2Det，近年来的目标检测新模型层出不穷，性能也越来越好。本文介绍了它们的PyTorch实现，目前Github已开源，非常实用。>>就在明天，极市直播：极市直播丨张志鹏：Ocean/Ocean+: 实时目标跟踪分割算法，小代价，大增益｜ECCV2020 大家还记得这张图吗？
纵
Densely Connected Convolutional NetworksPDF: https://arxiv.org/pdf/1608.06993.pdfPyTo
原创
2022-08-06 00:02:27
303阅读
Aggregated Residual Transformations for Deep Neural NetworksPDF: https://arxiv.org/pdf/1611.05431.p
原创
2022-08-06 00:02:33
339阅读
