《Happy-LLM：从零开始构建大模型》内容简介与阅读建议

Name: Happy-LLM：从零开始构建大模型
Author: 朱信忠/宋志学/邹雨衡
ISBN: 9787115685032

获取这本书 暂无已核验电子书资源

下载

作者: 朱信忠/宋志学/邹雨衡
分类: 科技技术
出版年份: 2026
出版社: 人民邮电出版社
页数: 220 页
语言: 中文

《Happy-LLM：从零开始构建大模型》内容简介

2022年底，ChatGPT的诞生引发变革，以GPT系列模型为代表的大语言模型(Large Language Model，LLM)成为人工智能领域的研究热点，LLM在此背景下基于预训练语言模型取得突破性进展。本书分为基础知识与实战应用两大部分，基础知识部分包含第1～4章，首先介绍NLP的基本任务及文本表示的发展历程，接着阐述LLM基本架构Transformer和经典PLM架构，最后详述LLM的特点、能力和训练过程;实战应用部分包含第5～7章，依次讲解基于PyTorch搭建LLM的全流程，借助主流框架实现LLM训练，以及LLM的各类应用，帮助读者构建完整的LLM知识体系。

《Happy-LLM：从零开始构建大模型》书籍信息摘要

《Happy-LLM：从零开始构建大模型》内容简介与阅读建议，作者朱信忠/宋志学/邹雨衡，科技技术，2026年。获取前建议核对作者、出版社、年份、ISBN、版本和正版渠道。相关主题：LLM、Transformer、NLP、智能体、计算机类。

作者：朱信忠/宋志学/邹雨衡
分类：科技技术
出版年份：2026
出版社：人民邮电出版社
页数：220 页
语言：中文
格式：暂无已核验合规下载格式

《Happy-LLM：从零开始构建大模型》适合哪些读者？

适合希望系统学习技术概念、实践方法、工具使用和行业知识的读者。

查看朱信忠/宋志学/邹雨衡的作品顺序浏览科技技术书籍查看“LLM”相关书籍读完这本读什么查看书籍排行榜

获取建议

《Happy-LLM：从零开始构建大模型》怎么获取更合适？

优先确认版本和阅读目的；下载区只展示已核验的公版、授权、开放许可或官方试读资源。

下载

暂无已核验电子书资源；本站不展示未授权完整文件。

下载

版本

优先选择作者、译者、出版社、出版年份和 ISBN 信息明确的版本；经典作品可优先选择校注、导读或权威出版社版本。

1.3.5 实体识别 5
1.3.6 关系抽取 6
1.3.7 文本摘要 6
1.3.8 机器翻译 7
1.3.9 自动问答 8
1.4 文本表示的发展历程 8
1.4.1 词向量 9
1.4.2 语言模型 10
1.4.3 Word2Vec 10
1.4.4 ELMo 11
1.5 本章小结 12
参考资料 12
第 2 章 Transformer 架构 14
2.1 注意力机制 14
2.1.1 什么是注意力机制 14
2.1.2 深入理解注意力机制 17
2.1.3 注意力机制的实现 19
2.1.4 自注意力 20
2.1.5 掩码自注意力 20
2.1.6 多头注意力 22
2.2 编码器 - 解码器架构 26
2.2.1 Seq2Seq 27
2.2.2 全连接神经网络 28
2.2.3 层归一化 29
2.2.4 残差连接 31
2.2.5 编码器 32
2.2.6 解码器 33
2.3 搭建一个 Transformer 模型 34
2.3.1 嵌入层 35
2.3.2 位置编码 36
2.3.3 一个完整的 Transformer 41
参考资料 44
第 3 章 PLM 45
3.1 仅编码器 PLM 45
3.1.1 BERT 46
3.1.2 RoBERTa 54
3.1.3 ALBERT 57
3.2 编码器 - 解码器 PLM 59
T5 60
3.3 仅解码器 PLM 66
3.3.1 GPT 66
3.3.2 LLaMA 72
3.3.3 GLM 74
参考资料 78
第 4 章 LLM 80
4.1 什么是 LLM 81
4.1.1 LLM 的定义 81
4.1.2 LLM 的能力 82
4.1.3 LLM 的特点 84
4.2 如何训练一个 LLM 86
4.2.1 预训练 87
4.2.2 SFT 91
4.2.3 RLHF 96
参考资料 100
第 5 章动手搭建大模型 101
5.1 动手搭建一个 LLaMA2 大模型 101
5.1.1 定义超参数 101
5.1.2 构建 RMS 归一化 102
5.1.3 构建 LLaMA2 Attention 模块 104
5.1.4 构建 LLaMA2 MLP 模块 111
5.1.5 构建 LLaMA2 的解码器层 113
5.1.6 构建 LLaMA2 大模型 115
5.2 训练分词器 119
5.2.1 词级分词器 119
5.2.2 字符级分词器 120
5.2.3 子词级分词器 120
5.2.4 训练一个分词器 122
5.3 预训练一个小型 LLM 129
5.3.1 数据下载 129
5.3.2 分词器训练实战 131
5.3.3 数据集 137
5.3.4 预训练 142
5.3.5 SFT 训练 148
5.3.6 使用模型生成文本 154
第 6 章大模型训练流程实践 161
6.1 模型预训练 161
6.1.1 Transformers 框架介绍 161
6.1.2 初始化 LLM 162
6.1.3 预训练数据处理 166
6.1.4 使用 Trainer 类进行训练 169
6.1.5 使用 DeepSpeed 实现分布式训练 170
6.2 模型 SFT 178
6.2.1 预训练与 SFT 179
6.2.2 微调数据处理 179
6.3 高效微调 185
6.3.1 高效微调方案 186
6.3.2 LoRA 微调 187
6.3.3 LoRA 微调的原理 188
6.3.4 LoRA 微调的代码实现 189
6.3.5 使用 peft 实现 LoRA 微调 192
参考资料 194
第 7 章大模型应用 195
7.1 大模型评测 195
7.1.1 LLM 的评测数据集 196
7.1.2 主流的大模型评测榜单 197
7.1.3 特定的大模型评测榜单 198
7.2 RAG 199
7.2.1 RAG 的基本原理 199
7.2.2 实现一个 RAG 框架 200
7.3 智能体 209
7.3.1 什么是智能体 209
7.3.2 智能体的类型 210
7.3.3 动手构造一个小型智能体 212
参考资料 219

合规获取说明

当前暂无已核验电子书资源。若是商业出版物，建议优先通过出版社、书店或官方电子书平台获取。

常见问题

《Happy-LLM：从零开始构建大模型》适合谁读？

适合希望系统学习技术概念、实践方法、工具使用和行业知识的读者。

《Happy-LLM：从零开始构建大模型》阅读难度高吗？

建议先看简介、目录、作者和相关书籍，再判断是否适合当前阶段阅读。

《Happy-LLM：从零开始构建大模型》纸质书值得买吗？

当前暂未接入已核验的纸质书购买链接，建议通过出版社、京东、当当等正版渠道核对版本后购买。

《Happy-LLM：从零开始构建大模型》哪个版本更适合？

优先选择作者、译者、出版社、出版年份和 ISBN 信息清楚的版本；经典作品可优先选择校注、导读或权威出版社版本。

在哪里可以合法获取《Happy-LLM：从零开始构建大模型》？

当前没有确认授权的电子书下载资源，也暂未接入已核验购买链接；商业出版物不提供未授权下载，建议通过出版社、京东、当当或官方电子书平台核对获取。

如何继续查找《Happy-LLM：从零开始构建大模型》相关书籍？

可以进入朱信忠/宋志学/邹雨衡作者页查看其他作品，也可以通过分类、标签、排行榜、人工推荐和“读完这本还可以读”继续发现相近主题。