《动手构建大模型》内容简介与阅读建议

获取这本书 暂无已核验电子书资源
下载
分类
科技技术
出版年份
2025
译者
孟二利/鲁骁/刘春晓/王斌
出版社
人民邮电出版社
页数
330 页
语言
中文
豆瓣评分
★ 8.9

《动手构建大模型》内容简介

本书采用创新且实用的教学策略,巧妙融合理论基础与实践应用,深入剖析自然语言处理(Natural Language Processing,NLP)领域的新进展,以及大语言模型(Large Language Model,LLM)的原理。书中不仅系统阐述了 LLM 的理论基础,还通过实际项目案例展示了如何将这些模型应用于构建RAG系统。本书遵循由浅入深的路径,从LLM的基础知识入手,详细阐释了模型的训练流程,并深入探讨了如何利用提示技术与模型进行高效交互。书中还重点介绍了两个在业界得到广泛认可的框架—LlamaIndex和LangChain,它们是开发RAG应用的强大工具。书中的项目案例不仅为读者提供了宝贵的实践经验,也能够加深读者对相关概念的理解和应用。此外,书中进一步探讨了包括智能体和微调在内的高级技术,这些技术能够显著提升问答系统的性能。

《动手构建大模型》书籍信息摘要

《动手构建大模型》内容简介与阅读建议,作者 [加]路易斯-弗朗索瓦·布沙尔/[英]路易·彼得斯,科技技术,2025年。获取前建议核对作者、出版社、年份、ISBN、版本和正版渠道。相关主题:大语言模型、RAG系统、微调技术、计算机类。

《动手构建大模型》适合哪些读者?

适合希望系统学习技术概念、实践方法、工具使用和行业知识的读者。 评分 8.9 可作为选书参考。

获取建议

《动手构建大模型》怎么获取更合适?

优先确认版本和阅读目的;下载区只展示已核验的公版、授权、开放许可或官方试读资源。

下载

暂无已核验电子书资源;本站不展示未授权完整文件。

下载

版本

优先选择作者、译者、出版社、出版年份和 ISBN 信息明确的版本;经典作品可优先选择校注、导读或权威出版社版本。

目录

  1. 第 1章 LLM简介 1
  2. 1.1 语言模型简史 1
  3. 1.2 什么是LLM 2
  4. 1.3 LLM的组成 2
  5. 1.3.1 Transformer 2
  6. 1.3.2 语言建模 3
  7. 1.3.3 分词 3
  8. 1.3.4 嵌入 4
展开全部(共 240 章节)
  1. 1.3.5 训练/微调 5
  2. 1.3.6 预测 5
  3. 1.3.7 上下文窗口 5
  4. 1.3.8 规模法则 6
  5. 1.3.9 提示词 7
  6. 1.3.10 LLM中的涌现能力及测试基准 7
  7. 1.3.11 LLM简史 9
  8. 1.3.12 项目:使用LLM(GPT-3.5 API)进行翻译 13
  9. 1.3.13 项目:通过小样本学习来控制LLM的输出 14
  10. 1.4 本章小结 16
  11. 第 2章 LLM架构和概况 17
  12. 2.1 理解Transformer 17
  13. 2.1.1 论文“Attention Is All You Need” 17
  14. 2.1.2 架构实战 21
  15. 2.2 Transformer架构的设计选择 24
  16. 2.2.1 编码器-解码器架构 24
  17. 2.2.2 仅编码器架构 26
  18. 2.2.3 仅解码器架构 28
  19. 2.2.4 Transformer架构的优化技术 30
  20. 2.3 生成式预训练Transformer(GPT)架构 31
  21. 2.3.1 掩码自注意力 31
  22. 2.3.2 GPT的训练过程 31
  23. 2.3.3 MinGPT 32
  24. 2.4 LMM简介 33
  25. 2.4.1 常见架构和训练目标 33
  26. 2.4.2 开源版本的Flamingo 34
  27. 2.4.3 指令微调的LMM 35
  28. 2.4.4 探索LLaVA—一个指令微调的LMM 36
  29. 2.4.5 超越视觉和语言 36
  30. 2.5 专有模型vs.开放模型vs.开源模型 37
  31. 2.5.1 Cohere LLM 37
  32. 2.5.2 OpenAI的GPT-3.5 turbo、GPT-4o和GPT-4o mini 38
  33. 2.5.3 Anthropic的Claude 3模型 38
  34. 2.5.4 Google DeepMind的Gemini 39
  35. 2.5.5 Meta的LLaMA 2 39
  36. 2.5.6 Mistral LLM 40
  37. 2.6 LLM的应用和示例 41
  38. 2.6.1 商业与职业 41
  39. 2.6.2 法律与合规 42
  40. 2.6.3 医疗保健和健康 42
  41. 2.6.4 教育与研究 43
  42. 2.6.5 媒体与娱乐 43
  43. 2.6.6 技术与软件 43
  44. 2.6.7 个人发展与生活方式 44
  45. 2.6.8 金融与投资 45
  46. 2.6.9 运动与健康 45
  47. 2.6.10 其他 46
  48. 2.6.11 使用LLM的风险和伦理考量 46
  49. 2.7 本章小结 46
  50. 第3章 LLM实践 48
  51. 3.1 理解幻觉和偏见 48
  52. 3.1.1 通过控制输出减轻LLM的幻觉 49
  53. 3.1.2 解码方法 51
  54. 3.1.3 微调LLM 52
  55. 3.2 LLM性能评估 54
  56. 3.2.1 目标函数和评估指标 54
  57. 3.2.2 内在指标:困惑度 55
  58. 3.2.3 外部指标:基准测试 56
  59. 3.3 本章小结 58
  60. 第4章 提示技术简介 59
  61. 4.1 提示词和提示工程 59
  62. 4.2 提示技术 63
  63. 4.2.1 零样本提示 63
  64. 4.2.2 上下文学习和小样本提示 63
  65. 4.2.3 角色提示 64
  66. 4.2.4 链式提示 65
  67. 4.2.5 思维链提示 65
  68. 4.3 提示注入与安全 66
  69. 4.4 本章小结 68
  70. 第5章 RAG 70
  71. 5.1 为什么使用RAG 70
  72. 5.2 嵌入向量 71
  73. 5.3 向量数据库与向量存储 72
  74. 5.4 从头构建一个RAG管道 73
  75. 5.4.1 数据预处理 73
  76. 5.4.2 生成嵌入向量 75
  77. 5.4.3 查找相关文本块 76
  78. 5.4.4 测试余弦相似度 77
  79. 5.4.5 相似度计算实战 77
  80. 5.4.6 提示词增强 79
  81. 5.5 本章小结 82
  82. 第6章 LangChain和LlamaIndex简介 83
  83. 6.1 LLM框架 83
  84. 6.2 LangChain介绍 83
  85. 6.3 项目1:使用LangChain构建LLM驱动的应用 86
  86. 6.3.1 提示模板 86
  87. 6.3.2 摘要链示例 87
  88. 6.3.3 问答链示例 88
  89. 6.4 项目2:构建新闻文章摘要器 89
  90. 6.5 LlamaIndex介绍 94
  91. 6.5.1 数据连接器 94
  92. 6.5.2 节点 95
  93. 6.5.3 索引 96
  94. 6.5.4 查询引擎 98
  95. 6.5.5 路由器 98
  96. 6.5.6 保存和加载本地索引 99
  97. 6.6 LangChain、LlamaIndex与OpenAI Assistants 99
  98. 6.7 本章小结 101
  99. 第7章 使用LangChain进行提示 102
  100. 7.1 LangChain提示模板 102
  101. 7.2 小样本提示和样例选择器 107
  102. 7.2.1 人类与AI的信息交互 108
  103. 7.2.2 小样本提示 108
  104. 7.2.3 样例选择器 110
  105. 7.3 LangChain链 114
  106. 7.3.1 使用LLMChain生成文本 114
  107. 7.3.2 在会话链中增加记忆 115
  108. 7.3.3 使用顺序链连接链 116
  109. 7.3.4 调试链 116
  110. 7.3.5 定制链 117
  111. 7.4 项目1:使用输出解析器管理输出 118
  112. 7.5 项目2:新闻文章摘要器的改进 127
  113. 7.6 项目3:基于文本数据创建知识图谱—揭示隐藏的连接 133
  114. 7.6.1 使用LangChain构建知识图谱 134
  115. 7.6.2 知识图谱可视化 135
  116. 7.7 本章小结 137
  117. 第8章 索引、检索与数据预处理 138
  118. 8.1 LangChain的索引和检索器 138
  119. 8.2 数据摄取 141
  120. 8.2.1 从PDF中加载数据 142
  121. 8.2.2 从网页中加载数据 142
  122. 8.2.3 从Google Drive 中加载数据 144
  123. 8.3 文本切分器 144
  124. 8.3.1 基于字符长度的文本切分 145
  125. 8.3.2 基于逻辑终点的文本切分 146
  126. 8.3.3 基于NLTK的其他语种切分 148
  127. 8.3.4 基于SpaCy的其他语种切分 148
  128. 8.3.5 Markdown格式的文本切分 149
  129. 8.3.6 基于Token的文本切分 151
  130. 8.4 相似性搜索与嵌入向量 152
  131. 8.4.1 开源嵌入模型 153
  132. 8.4.2 Cohere嵌入 154
  133. 8.5 项目1:客服问答聊天机器人 156
  134. 8.5.1 工作流程 157
  135. 8.5.2 文档切分及向量化 158
  136. 8.5.3 基于策略设计提示词 159
  137. 8.5.4 基于LLM生成回答 160
  138. 8.6 项目2:基于Whisper和LangChain的YouTube视频摘要器 161
  139. 8.6.1 使用Whisper进行音频转录 163
  140. 8.6.2 切分文档并生成摘要 163
  141. 8.6.3 将转录内容添加到Deep Lake 166
  142. 8.7 项目3:为你的知识库创建语音助手 169
  143. 8.7.1 从Hugging Face Hub获取内容 170
  144. 8.7.2 加载和切分文本 171
  145. 8.7.3 嵌入向量以及Deep Lake库 172
  146. 8.7.4 创建语音助手 173
  147. 8.7.5 基于Streamlit构建交互界面 175
  148. 8.8 通过自批判链防止输出不良内容 177
  149. 8.9 在客服问答聊天机器人中防止输出不良内容 181
  150. 8.10 本章小结 185
  151. 第9章 高级RAG 187
  152. 9.1 从概念验证到产品:RAG系统的挑战 187
  153. 9.2 使用LlamaIndex的高级RAG技术 187
  154. 9.2.1 嵌入模型与LLM微调 189
  155. 9.2.2 RAG监控与评估 189
  156. 9.2.3 混合检索与嵌入向量检索 189
  157. 9.3 LlamaIndex查询 189
  158. 9.3.1 查询构建 190
  159. 9.3.2 查询扩展 190
  160. 9.3.3 查询转换 191
  161. 9.3.4 使用查询引擎来回答问题 191
  162. 9.3.5 重排序 195
  163. 9.3.6 递归检索与从小到大的检索 197
  164. 9.4 RAG指标与评估 198
  165. 9.4.1 RAG与LLM评估指标 198
  166. 9.4.2 检索评估指标 200
  167. 9.4.3 基于社区的评估工具 202
  168. 9.4.4 自定义RAG评估工作流 205
  169. 9.5 LangChain的LangSmith与LangChain Hub 210
  170. 9.6 本章小结 214
  171. 第 10章 智能体 215
  172. 10.1 什么是智能体:大模型作为推理引擎 215
  173. 10.2 AutoGPT和BabyAGI概述 220
  174. 10.2.1 AutoGPT 220
  175. 10.2.2 使用AutoGPT与LangChain 221
  176. 10.2.3 BabyAGI 227
  177. 10.2.4 使用BabyAGI与LangChain 229
  178. 10.3 LangChain中的智能体仿真项目 232
  179. 10.3.1 CAMEL项目 233
  180. 10.3.2 生成式智能体 234
  181. 10.4 项目1:构建创建分析报告的智能体 235
  182. 10.5 项目2:使用LlamaIndex查询和汇总数据库 242
  183. 10.5.1 第 1步:定义数据源并创建向量存储索引 242
  184. 10.5.2 第 2步:配置查询引擎 244
  185. 10.5.3 第3步:开发会话智能体 245
  186. 10.5.4 第4步:为智能体添加自定义函数 246
  187. 10.6 项目3:使用OpenAI Assistants构建智能体 249
  188. 10.7 项目4:LangChain OpenGPTs 251
  189. 10.8 项目5:对PDF中的财务信息进行多模态分析 253
  190. 10.8.1 数据提取 253
  191. 10.8.2 存储在Deep Lake中 257
  192. 10.8.3 微调嵌入空间 259
  193. 10.8.4 聊天机器人实战 262
  194. 10.9 本章小结 264
  195. 第 11章 微调 265
  196. 11.1 理解微调 265
  197. 11.2 LoRA 266
  198. 11.3 项目1:使用LoRA进行SFT 267
  199. 11.3.1 加载数据集 268
  200. 11.3.2 设置LoRA配置和训练超参数 270
  201. 11.3.3 合并LoRA和OPT参数 272
  202. 11.3.4 推理 274
  203. 11.4 项目2:使用SFT和LoRA进行金融情感分析 276
  204. 11.4.1 加载数据集 277
  205. 11.4.2 初始化模型和训练器 278
  206. 11.4.3 合并LoRA和OPT 280
  207. 11.4.4 推理 281
  208. 11.5 项目3:用医疗数据微调Cohere LLM 283
  209. 11.5.1 Cohere API 283
  210. 11.5.2 数据集 284
  211. 11.5.3 微调 287
  212. 11.6 RLHF 290
  213. 11.7 项目4:使用RLHF改进LLM 292
  214. 11.7.1 SFT 293
  215. 11.7.2 训练奖励模型 297
  216. 11.7.3 强化学习 300
  217. 11.7.4 推理 305
  218. 11.8 本章小结 307
  219. 第 12章 部署与优化 309
  220. 12.1 模型蒸馏和教师模型 309
  221. 12.2 LLM部署优化:量化、剪枝和投机解码 312
  222. 12.2.1 模型量化 313
  223. 12.2.2 量化LLM 315
  224. 12.2.3 模型剪枝 316
  225. 12.2.4 投机解码 318
  226. 12.3 项目:使用谷歌云平台上的CPU部署量化模型 319
  227. 12.3.1 量化模型 320
  228. 12.3.2 使用量化模型进行推理 322
  229. 12.3.3 使用谷歌云平台上的计算引擎部署量化模型 323
  230. 12.4 在云服务提供商上部署开源LLM 325
  231. 12.5 本章小结 326
  232. 总结 328

常见问题

《动手构建大模型》适合谁读?

适合希望系统学习技术概念、实践方法、工具使用和行业知识的读者。 评分 8.9 可作为选书参考。

《动手构建大模型》阅读难度高吗?

建议先看简介、目录、作者和相关书籍,再判断是否适合当前阶段阅读。

《动手构建大模型》纸质书值得买吗?

当前暂未接入已核验的纸质书购买链接,建议通过出版社、京东、当当等正版渠道核对版本后购买。

《动手构建大模型》哪个版本更适合?

优先选择作者、译者、出版社、出版年份和 ISBN 信息清楚的版本;经典作品可优先选择校注、导读或权威出版社版本。

在哪里可以合法获取《动手构建大模型》?

当前没有确认授权的电子书下载资源,也暂未接入已核验购买链接;商业出版物不提供未授权下载,建议通过出版社、京东、当当或官方电子书平台核对获取。

如何继续查找《动手构建大模型》相关书籍?

可以进入 [加]路易斯-弗朗索瓦·布沙尔/[英]路易·彼得斯 作者页查看其他作品,也可以通过分类、标签、排行榜、人工推荐和“读完这本还可以读”继续发现相近主题。

手机扫码下载

使用手机扫描二维码

扫码后会直接打开下载链接。

电子书下载二维码

手机端点击下载会直接跳转,无需扫码。