大模型轻量化：模型压缩与训练加速
梁志远
560人在读
12.9万字总字数
¥87.72定价
梁志远
"《大模型轻量化:模型压缩与训练加速》围绕大模型轻量化这一主题，系统地阐述大模型轻量化的基本理论与实现方法，旨在提升模型的部署效率和计算性能。全书分为3部分，共10章。第1部分（第1～5章），介绍大模型的背景与面临的问题，以及Transformer和MoE架构的基本原理；重点讲解模型压缩、训练加速和推理优化等核心技术，包括量化、蒸馏和剪枝等，并通过实际案例验证其效果。第2部分（第6、7章），重点介绍端侧学习与计算引擎优化策略，尤其是动态Batch和异构执行的工程实现。第3部分（第8～10章），针对高性能算子库与手工算子开发，分别以cuDNN、NEON、CUDA等为代表，揭示算子优化的细节，最后，以国产开源模型DeepSeek-V3为例，展现从训练到推理的综合优化方案。 《大模型轻量化:模型压缩与训练加速》提供全面实用的轻量化方法论，结合丰富代码示例与实践案例，适合从事大模型开发与优化的工程师，也为研究人员提供深入探讨的素材与视角，助力解决大模型训练与推理中的实际问题。"
这本书感觉是作者先写个大纲，然后让大模型来填充。中间很多章节有重复。看完感受：理论概念似乎很多，但是读完脑袋空空。缺少作者的细化以及深入的思考，算是个概念大杂烩吧。
样例比较简单，但介绍的知识点比较多
比较系统地介绍了从PC到端侧各种模型轻量化技术，针对每种技术都有相关代码实现讲解，看完可以对模型量化压缩训练加速等会有个比较全方位的认知。