前言
推荐一本全面介绍大语言模型技术的书籍——《大语言模型》，它不仅涵盖了基础原理和关键技术，还展望了技术的未来应用前景。
本书主要面向希望系统学习大语言模型技术的读者，将重点突出核心概念与算法，并且配以示例与代码（伪代码）帮助读者理解特定算法的实现逻辑。由于大语言模型技术的快速更迭，本书无法覆盖所有相关内容，旨在梳理最具代表性的基础知识内容，帮助读者更好地了解大语言模型技术的核心知识点，能够快速上手相关的科研与工程项目。
本书旨在为读者提供关于大模型技术的全面了解，包括其基础原理、关键技术和应用前景。通过深入研究和实践，我们可以不断探索和改进大模型技术，为人工智能领域的发展做出贡献。
目录
一、背景与基础知识
- 第一章 引言（大模型发展历程、重要技术概览）
- 第二章 基础介绍（Scaling Law、GPT系列模型发展历程）
- 第三章 大模型资源（开源模型、数据、代码库）
二、预训练
- 第四章 数据准备（数据收集、清洗、配比、课程方法）
- 第五章 模型架构（Transformer 结构、大模型主流架构、细节改进）
- 第六章 模型预训练（预训练任务、优化参数设置、并行训练方法）
三、微调与对齐
- 第七章 指令微调（指令数据收集与合成方法、指令微调策略与作用）
- 第八章 人类对齐（3H标准、RLHF算法、非RL算法）
四、大模型使用
- 第九章 解码与部署（解码生成算法、解码加速算法、模型压缩算法）
- 第十章 提示学习（基础提示方法、上下文学习、思维链）
- 第十一章 规划与智能体（复杂规划方法、智能体搭建方法）
五、评测与应用
- 第十二章 评测（评测指标与方法、基础与高级能力评测、评测体系）
- 第十三章 应用（概览研究领域与专业领域的应用）
