导读：机器翻译，能够实现多种语言之间的自动翻译，方便人类的沟通和交流，具有重要的研究和应用价值。Transformer是机器翻译领域的一个经典模型，一经问世，便取得了SOTA效果。本文将带领大家一同探秘Transformer，并送上基于飞桨实现 Transformer的实战教程。1. 机器翻译概述 1.1.机器翻译是什么 机器翻译（Machine Translati
机器翻译及相关技术机器翻译（MT）是将一种语言转换成另一种语言，语言之间表达一个含义用的词汇量是不同的，之前讲到的RNN、LSTM、GRU【人工智能学习】【十一】循环神经网络进阶里的输出要么是多对多、要么多对一。参考【人工智能学习】【六】循环神经网络里的图。比如翻译“我我是中国人”——>“I am Chinese”，就会把5个字符翻译成3个词，这种前后不等长的问题是机器翻译要解决的问题。下面
转载
2024-05-12 13:00:43
68阅读
文章目录1 机器翻译及相关技术1.1 机器翻译基本原理1.2 Encoder-Decoder1.3 Sequence to Sequence模型1.4 Beam Search2 注意力机制与Seq2seq模型2.1 注意力机制2.2 注意力机制的计算函数介绍2.3 引入注意力机制的Seq2seq模型3 Transformer3.1 Transformer结构概念3.2 Transformer结构
转载
2024-02-27 10:49:48
51阅读
机器翻译机器翻译， 将一段文本从一种语言自动翻译为另一种语言。其 输出为单词序列。处理步骤数据预处理分词建立词典输入模型Encodr-DecoderSequence to Sequence注意力机制看作适合处理由一个句子（或篇章）生成另外一个句子（或篇章）的通用处理模型。对于句子对<X,Y>。 --------（思考：<X,Y>对很通用，X是一个问句，Y是答案；X是一个句子
转载
2024-04-24 14:47:11
89阅读
课程内容概述机器翻译注意力机制带有注意力机制的seq2seq模型神经机器翻译（NMT）通过构造一个大型的神经网络，以端到端的方式来训练模型，实现这个过程的系统就称为神经机器翻译系统（Neural Machine Translation, NMT）。神经机器翻译的架构通常一个神经机器翻译系统都是按照Encoder-Decoder的结构建立的，也就是如下图所示的结构。 在这个结构中，我们将源语言序列作
转载
2024-03-09 20:35:00
37阅读
什么是机器翻译？一直以来，人类从Babel塔的传说开始，就透露出对无障碍语言交流的渴望和梦想。而这一梦想，在上世纪八十年代才开始逐步实现，伴随着科技的大发展，尤其是计算机技术的迅速发展而逐步得以实现。而一直以来，机器翻译的低准确率，也是困扰研究人员的最大问题。而这一问题，近年，随着人工智能的大发展，人工神经网络系统的研究对机器翻译的质量的提升起到了至关重要的作用。神经网络翻译方法 ，就是借助人工神
转载
2024-04-30 12:01:55
20阅读
一、机器翻译机器翻译采用的是seq2seq的模型机器翻译（MT）：将一段文本从一种语言自动翻译为另一种语言，用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。数据预处理 ---> 分词 ---> 建立词典 --->&
转载
2024-06-04 10:12:46
101阅读
不久前，一个实时翻译视频风靡网络，视频中两名分别说着英语和西班牙语的人借助Skype软件的实时翻译功能竟然实现了无障碍交流。这种之前只在科幻片中存在的场景如今已成现实，而这一切都得益于机器翻译技术。那么什么是机器翻译呢？机器翻译（machine translation），又称为自动翻译，是利用计算机把一种自然语言转变为另一种自然语言的过程。机器翻译的实现方法随着科技和社会经济的快速发展，全世界的互
转载
2024-07-21 20:46:25
45阅读
基于seq2seq的机器翻译
机器翻译是利用计算机将一种自然语言(源语言)转换为另一种自然语言(目标语言)的过程。
这里，我们将根据源语言输入，自动输出目标语言译文。这是一个典型的序列到序列(sequence2sequence, seq2seq）建模的场景，编码器-解码器（Encoder-Decoder）框架是解决seq2seq问题的经典方法，它能够将一个任意长度的源序列转换成另一个任意长度的目
转载
2024-03-28 16:49:38
95阅读
巴比伦塔的失败说明了语言不通导致的沟通不畅会严重影响生产力，然而我们又无法统一语言，所以机器翻译是一个重要的研究领域。人类的语言是如此繁杂不规范，尽管有语法，但是几乎处处有例外。我们在书面和口头交流的时候很难把全部的语义用语言表达出来，语言只是表达了一小部分，而且这部分还可能会有歧义甚至残缺不全，剩下的部分我们需要通过情景经验常识来识别。接收到信息之后，我们根据接收到的信息结合自己的理解生成一
转载
2024-08-19 11:00:40
23阅读
机器翻译小结 机器翻译主要是通过计算机将一种语言翻译到其他语言，也就是最基本的序列到序列的问题。传统的机器翻译主要是基于统计的机器翻译，一般能够在精确度上做的比较好，但是在译文流畅度上有很大的不足，往往是只是翻译出对应单词的意思而缺少句子的整体信息。近几年，出现了基于神经网络的机器翻译，在译文流畅度和精确度上均有较好的表现。目前，主流的神经网络翻
转载
2024-05-22 19:26:11
63阅读
近年来，机器翻译有了长足的进步，这是自然语言处理与人工智能的一次重大飞跃。Google的神经翻译机器（Google Neural Machine Translation，简称GNMT）在很多语言上的翻译表现已经接近了人类翻译的水平。本次课程就是介绍Google的GNMT的主要原理和相关技术。背景所谓的机器翻译可以看作是如下这张图：我们的翻译机器就是其中带有问号的黑箱，它的作用就是能够将一个语言的序
转载
2024-08-19 15:21:20
62阅读
1、最早的时候，机器翻译使用基于lstm或者rnn的eq2seq模型。 整个模型分为解码和编码两个过程，将输入序列X进行编码得到向量C，然后对C进行解码得到输出序列Y。其中，X、Y均由各自的单词序列组成（X,Y是两种不同的语言）：X = (x1,x2,...,xm)Y = (y1,y2,...,yn)Encoder：是将输入序列通过
转载
2024-05-10 19:43:47
34阅读
前言本篇博文是笔者学习自然语言处理课程的笔记，首发于公众号NLP学习者机器翻译模型首先简单回顾一下之前说的机器翻译模型，一般的机器翻译模型都由encoder与一个decoder组成，模型图如下：注意力模型Attention如果考虑普通的encoder-decoder模型，我们将会遇到这样的问题，即decoder只接受encoder的最后一个输出作为decoder的输入，所以我们需要在整个解码过程中
转载
2024-05-09 18:46:22
145阅读
1.机器翻译概述： 使用计算机将一种自然语言转换成另一种自然语言的过程,机器翻译试图利用计算机来模拟人的翻译能力，因此他也成为人工智能的一个重要分支[1]。 2.机器翻译发展历史 开创期：（1947-1964） 1954年美国乔治敦大学与IBM公司合作，首次完成了英俄机器翻译，展示了机器翻译的可行性，拉开了机器翻译发展的序幕，随后多个国家开始对机器翻译的研究。[2] 低潮期：（1964-1975）
转载
2024-03-24 09:19:00
83阅读
机器翻译1.定义将一段文本从一种语言自动翻译为另一种语言， 用神经网络解决这个问题通常称为神经机器翻译（NMT）。 主要特征：输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同。2.code 实现## 机器翻译定义
"""
主要是将一段文本从一种语言自动翻译成另外一种语言
输出是单词序列而不是单个单词。 输出序列的长度可能与源序列的长度不同
"""
import os
os.li
转载
2024-03-26 14:31:19
169阅读
本系列将记录一些最近的机器翻译模型，作为笔记，以备日后查看。1、Google’s Neural Machine Translation System: Bridging the Gap between Human and Machine Translation 这篇论文试图解决神经网络机器翻译的一些问题：1、较慢的训练与预测速度，2、解决稀少词的
转载
2024-03-20 10:30:13
138阅读
机器翻译自出生到现在经历了四个时期的演变和发展：基于规则的机器翻译 机器翻译的源头，可以追溯至1949年，资讯理论研究者Warren Weave正式提出了机器翻译的概念。五年后，也就是1954年，IBM与美国乔治敦大学合作公布了世界上第一台翻译机IBM-701。它能够将俄语翻译为英文，别看它有巨大的身躯，事实上它里面只内建了6条文法规则，以及250个单字。但即使如此，这仍是技术的重大突破，那时人类
转载
2024-04-18 10:09:59
66阅读
目前有如之前基于统计的开源翻译系统介绍中提到的许多开源统计翻译系统，在由原始平行语料到形成最后的翻译系统的整个过程中，它们有一些相同的处理步骤，从这次的文章开始，陆续介绍几个最重要的过程做法及其意义。 一般在我们得到双语平行语料之后，在构建双语统计翻译系统之前，都会有一个双语数据预处理的过程，为后续例如词对齐处理提供分好词且格式恰当的双语数据。这里以汉英双语数据举例。 在中英翻译系统构建过程中，
转载
2024-04-15 18:12:34
183阅读
1、语言模型（language model）与翻译模型（translate model）经常接触两个名词，语言模型（LM）和翻译模型（TM），这一概念最早是从统计机器翻译中来的，统计机器翻译的首要任务是为语言的产生构造某种合理的统计模型，并在此统计模型基础上，定义要估计的模型参数，并设计参数估计算法。早期的基于词的统计机器翻译采用的是噪声信道模型（生成式模型），采用最大似然准则进行无监督训练，而近
转载
2024-03-09 20:35:57
221阅读
