前言
AI领域的基石,那些还沉迷于CNN，RNN的被警告：放弃战斗吧，向Transformer投降！
在过去的二十年中，自然语言处理研究领域发生了翻天覆地的变化。
在这段时间里，自然语言处理经历了不同的处理范式，并进入了一个由的Transformer体系结构的。 Transformer深度架构是通过继承许多方法而产生的，其中包括上下文词嵌入、多头注意力机制、位置编码、并行体系结构、模型压缩、迁移、跨语言模型等。在各种基于神经的自然语言处理方法中， Transformer架构逐渐演变为基于注意力的“编码器-解码器”体系结构，并持续发展到今天。
现在，我们在文献中看到了这种体系结构的新的成功变体。目前研究已经发现了只使用 Transformer 架构中编码器部分的出色模型，如 BERT(Bidirectional Encoder Representations from Transformers,Transformers双向编码表示);或者只使用Transformer架构 中解码器部分的出色模型，如 GPT(Generated Pre -trained Transformer,生成式的预训练 Transformer)。
本书涵盖了Transformer 深度体系结构的理论知识和实践指南。借 Hugging Face 社区 的Transformer 库，本书循序渐进地提供了各种自然语言处理问题的解决方案。本书采用理论和实 践相结合的方式，系统地阐述了自然语言处理的相关理论和技术，详细介绍了使用Transformer 训练、微调和部署自然语言处理解决方案的流程。
通过本书的，读者可以利用Transformer 库探索的自然语言处理解决方案；使用 Transformer体系结构训练任何语言模型；微调预训练的语言模型以执行多个下游任务；监控训练过 程、可视化解释Transformer 内部表示以及部署生产环境。
本书的读者对象主要包括深度研究人员、自然语言处理从业人员、教师和学生。本书要求读者具有良好的Python 基础知识以及机器和深度的基本知识。
## 目录 Transformer到底是什么，让ChatGPT如此迷恋？这只变形金刚，到底是只什么怪兽？——用于自然语言处理（NLP）的神经网络架构
第1 章 从词袋到Transformer。
本章简要介绍了自然语言处理的历史，并将传统方法、深度学习模型(如CNIN、RNN 和LSTM) 与Transformer模型进行了比较分析。
第2章 Transformer的实践操作入门。
本章深入探讨了如何使用Transformer模型，并通过实际例子阐述了分词器和模型，如BERT。
第3章 自编码语言模型。
本章讨论了如何从零开始在任何给定语言上训练自编码语言模型。训练过程将包括模型的预训练和特定任务的训练。
第4章 自回归和其他语言模型。
本章讨论了自回归语言模型的理论细节，并引导读者如何在自己的语料库中对模型进行预训练。读者将学习如何在自己的文本上预训练任何语言模型(如GPT- 2),并在各种任务(如语言生成)中使用该模型。
第5章 微调文本分类语言模型。
在本章中，读者将学习如何配置文本分类的预训练模型，以及如何微调文本分类下游任务的模型(如情感分析或多类别分类)。
第6章 微调标记分类语言模型。
本章讲述如何微调标记分类任务的语言模型[如命名实体识别 (NER)、词性标注 (POS)和问题回答 (QA)系统]。
第7章 文本表示。
在本章中，读者将学习文本表示技术以及如何有效地利用Transformer 体系结构，特别是对于无监督任务，如聚类、语义搜索和主题建模。
第8章 使用高效的Transformer。
本章展示了如何使用提炼、剪枝和量化方法，从预训练模型中 生成高效的模型。然后，读者将获得有关高效稀疏Transformer的知识，如Linformer 和 BigBird，以及如何使用这些模型。
第9章 跨语言和多语言建模。
在本章中，读者将学习多语言和跨语种语言模型预训练以及单语言和多语言预训练之间的差异。本章涉及的其他主题包括因果语言建模和翻译语言建模。
第10章 部署 Transformer 模型。
本章将详细介绍如何在 CPU/GPU环境中，为基于 Transformer的自然语言处理解决方案提供服务。本章还将描述如何使用 TensorFlow 扩展 (TFX) 部署机器学习系统。
第11 章 注意力可视化与实验跟踪。
本章涵盖两个不同的技术概念：注意力可视化与实验跟踪。 我们将使用诸如exBERT 和 BertViz之类的复杂工具进行实验练习。
