从本专栏开始，正式开始研究Python深度学习、神经网络及人工智能相关知识。前一篇文章详细讲解了如何评价神经网络，绘制训练过程中的loss曲线，并结合图像分类案例讲解精确率、召回率和F值的计算过程。本篇文章将分享循环神经网络LSTM RNN如何实现回归预测，通过sin曲线拟合实现如下图所示效果。本文代码量比较长，但大家还是可以学习下的。基础性文章，希望对您有所帮助！文章目录：一.RNN和LSTM
转载
2024-09-04 08:53:21
45阅读
参考文章：知乎 - tf.nn.dynamic_rnn 详解 简单提一下，用TensorFlow实现RNN系列结构，基本就是定义一个cell，然后调用一个RNN函数，就获得输出了。而且，cell定义成什么类型基本就是什么类型的RNN了。 一、TensorFlow关于RNN函数的定义tf.nn.dynamic_rnn(
cell,
转载
2024-03-23 13:27:38
63阅读
# 使用 PyTorch 实现 RNN 文本生成：AI 小说写作入门指南
本文将指导您使用 PyTorch 实现基于 RNN（循环神经网络）的文本生成模型，帮助您生成小说或其他形式的文本。无论您是初学者还是希望深入了解 RNN 的开发者，您都能从中获益。我们将分步骤进行，每一步都附上详细的代码和解释。
## 1. 项目流程概览
在开始之前，让我们看看整个项目的步骤：
| 步骤 | 描述 |
解读tensorflow之rnn：该开始接触RNN我们都会看到这样的张图： 如上图可以看到每t-1时的forward的结果和t时的输入共同作为这一次forward的输入所以RNN存在一定的弊端，就是如果输入足够的长，因为每一次forward都会带有之前数据的信息，就会使效果变差：“张三走了！天气也不错，我要去打篮球。”这句话的重点肯定在于天气不错所以我去打球，而不是因为张三走
转载
2024-04-01 12:53:54
31阅读
直接看代码：github传送门数据集：Classify the sentiment of sentences from the Rotten Tomatoes dataset1. 数据预处理本项目实现了两种数据预处理方式，一种是使用pytorch提供的dataset和dataloader实现数据预处理，一种是直接使用torchtext（强烈推荐上手试试）。两种方法的实现过程大体都是一致的，分词、数
转载
2023-10-27 05:23:45
176阅读
本次学习主要分为三部分，分别是文本预处理、语言模型和循环神经网络。 文章目录文本处理读入文本分词建立词典将词转为索引语言模型n元语法时序数据的采样随机采样相邻采样循环神经网络循环神经网络的构造 文本处理文本处理是针对文本数据（即序列数据）进行建模前的准备工作，通常的处理包含四个步骤：读入文本；分词；建立字典，将每个词映射到一个唯一的索引（index）；将文本从词的序列转换为索引的序列，方便输入模型
转载
2023-11-11 01:53:22
172阅读
PyTorch深度学习实践-RNN基础篇RNNSRNN适用于处理诸如天气、股票和自然语言等带有序列性质的数据结构；①RNN CellRNN Cell就相当于是一个线性层，对输入的数据xt进行空间变换，生成输出数据ht。 p.s. RNN Cell也是基于权值共享的原则来进行的，也就是在同一层变换中所有的RNN Cell使用的是同一个线性变换。②RNN 计算逻辑序列中每一个点的数据传入RNN Cel
转载
2024-02-02 16:31:42
76阅读
翻译自官网教程:SEQUENCE-TO-SEQUENCE MODELING WITH NN.TRANSFORMER AND TORCHTEXT本文是关于如何使用nn.Transformer模块训练序列到序列(sequence-to-sequence)模型的教程。PyTorch 1.2 发布版包括了基于论文Attention is All You Need的标准transformer模块。这个tra
转载
2023-12-29 22:48:38
79阅读
前言：最近在做文本生成的工作，调研发现针对不同的文本生成场景（机器翻译、对话生成、图像描述、data-to-text 等），客观评价指标也不尽相同。虽然网络上已经有很多关于文本生成评价指标的文章，本博客也是基于现有资源的一个汇总，但这些文章大多是对评价指标原理的系统性梳理，很少结合相应的代码实现。我认为还是要使用理论实践相结合的方式，通过代码来辅助我们更好地理解这些评价指标，毕竟我们是要根据这些评
转载
2024-01-08 22:45:09
230阅读
前言本系列教程为pytorch官网文档翻译。本文对应官网地址:https://pytorch.org/tutorials/intermediate/char_rnn_generation_tutorial.html系列教程总目录传送门：我是一个传送门本系列教程对应的 jupyter notebook 可以在我的Github仓库下载：下载地址：https://github.com/Holy-Shin
转载
2024-05-06 10:45:03
175阅读
一.文本预处理文本是一类序列数据，一篇文章可以看作是字符或单词的序列，本节将介绍文本数据的常见预处理步骤，预处理通常包括四个步骤： 1.读入文本 2.分词 3.建立字典，将每个词映射到一个唯一的索引（index） 4.将文本从词的序列转换为索引的序列，方便输入模型1.读入文本import collections
import re
def read_time_machine():
# open
转载
2024-01-04 07:36:19
186阅读
基于pytorch的LSTM进行字符级文本生成实战 文章目录基于pytorch的LSTM进行字符级文本生成实战前言一、数据集二、代码实现1.导入库及LSTM模型构建2.数据预处理函数3.训练函数4.预测函数5.文本生成函数6.主函数总结完整代码后续 前言随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习中深度学习的内容使用pytorch构建LST
转载
2024-03-06 07:45:35
106阅读
RNN（ Recurrent Neural Networks循环神经网络）循环神经网络的主要用途是处理和预测序列数据，在全连接神经网络或卷积神经网络中，网络结果都是从输入层到隐含层再到输出层，层与层之间是全连接或部分连接的，但每层之间的结点是无连接的。考虑这样一个问题，如果要预测句子的下一个单词是什么，一般需要用到当前单词以及前面的单词，因为句子中前后单词并不是独立的，比如，当前单词是“很”，前一
1 简介Char-RNN，字符级循环神经网络，出自于Andrej Karpathy写的The Unreasonable Effectiveness of Recurrent Neural Networks。众所周知，RNN非常擅长处理序列问题。序列数据前后有很强的关联性，而RNN通过每个单元权重与偏置的共享以及循环计算（前面处理过的信息会被利用处理后续...
原创
2023-05-17 18:24:37
76阅读
一、HTML与文件下载如果希望在前端侧直接触发某些资源的下载，最方便快捷的方法就是使用HTML5原生的download属性，例如：<a href="large.jpg" download>下载</a>复制代码具体介绍可参考我之前的文章：“了解HTML/HTML5中的download属性”。但显然，如果纯粹利用HTML属性来实现文件的下载（而不是浏览器打开或浏览），对于动态内
转载
2024-06-18 07:51:58
56阅读
系列文章链接：AI艺术的背后：详解文本生成图像模型【基于 VQ-VAE】AI艺术的背后：详解文本生成图像模型【基于GAN】AI艺术的背后：详解文本生成图像模型【基于Diffusion Model】导言AI 艺术生成已经开始走进大众的视野中。在过去一年里，出现了大量的文本生成图像模型，尤其是随着 Stable Diffusion 以及 Midjourney 的出现，带起了一股 AI 艺术创作热潮，甚
转载
2024-05-13 12:47:55
151阅读
文章目录一、简介二、transformer结构三、用于文本分类的transformer1. embedding layer（嵌入层）2. positional encoding（位置编码）3. Scaled dot-product attention（缩放的点乘注意力机制）4. Multi-head attention（多头注意力）5. Padding mask6. 残差连接7. Layer N
去年4月，OpenAI发布的DALL-E 2用更高的分辨率、更真实的图像生成以及更准确地理解自然描述，横扫整个AIGC领域。不过图像生成真正进入全民化还要数Stable Diffusion的开源，仅在消费级的GPU上即可运行，用户可以在自己的数据集上进行微调，也不用忍受各大绘画网站为了「安全」设立的各种过滤词表，真正实现了「绘画自由」。而在视频生成领域，目前各家大厂还是只敢拿demo出来演示，普通
提示：文本生成是nlp的重要领域，而可控文本生成的出现对于NLP研究具有重大意义。边学边总结不断更新，先把大框架搞好。 文章目录前言一、可控文本生成任务通过关键字生成可控文本通过知识图谱生成可控文本通过键值对生成可控文本通过标题生成可控文本基于文本增强的文本生成二、文本生成模型与挑战1.模型预训练模型(Pretrained Models)2.挑战三、文本生成的小子类 评论生成四、可控文本生成实现的
转载
2024-05-22 16:01:14
135阅读
在我们不方便阅读，但又需要了解一些文章信息的时候，各位小伙伴们会怎么做呢？是等方便的时候再进行阅读吗？还是说让他人帮忙转述呢？其实我们可以让文字自己说话，只需要一些软件配合即可。那你们知道如何让文字变成语音吗？今天我就来给大家分享几种让文字变成语音的方法，有需要的小伙伴快往下看吧。方法一：使用文字转语音软件来把文字变成语音迅捷文字转语音是我经常使用的文字转语音软件，我们可以自行挑选软件自带的语音类
转载
2024-03-22 13:03:33
101阅读
