大语言模型工程师手册：从概念到生产实践
[罗]保罗·尤斯廷 [英]马克西姆·拉博纳
1248人在读
33.2万字总字数
¥63.87定价
[罗]保罗·尤斯廷 [英]马克西姆·拉博纳
AI技术已取得飞速发展，而大语言模型（LLM）正在引领这场技术革命。本书基于MLOps最佳实践，提供了在实际场景中设计、训练和部署LLM的原理与实践内容。本书将指导读者构建一个兼具成本效益、可扩展且模块化的LLM Twin系统，突破传统Jupyter Notebook演示的局限，着重讲解如何构建生产级的端到端LLM系统。 本书涵盖数据工程、有监督微调和部署的相关知识，通过手把手地带领读者构建LLM Twin项目，帮助读者将MLOps的原则和组件应用于实际项目。同时，本书还涉及推理优化、偏好对齐和实时数据处理等进阶内容，是那些希望在项目中应用LLM的读者的重要学习资源。 阅读本书，读者将熟练掌握如何部署强大的LLM—既能解决实际问题，又能具备低延迟和高可用的推理能力。无论是AI领域的新手还是经验丰富的从业者，本书提供的深入的理论知识和实用的技巧，都将加深读者对LLM的理解，并提升读者在真实场景中应用它们的能力。
模型的基础扫盲书，图文并茂，体系得当。不过Agent时代有新的风暴和新的关注点。
1. 本书共11章，完整讲述了LLM Twin项目的特征流水线、训练流水线与推理流水线，可以分为3个部分，第一部分是1-4章，介绍特征准备，包含LLM Twin项目概况、工具安装、数据工程和RAG特征流水线，第二部分是5-7章，介绍模型训练，包含监督微调、偏好对齐和评估，第三部分是8-11章，介绍推理流水线、部署与MLOps； 2. 本书以端到端的流水线思维，串联起了数据采集、特征工程、训练、评估、部署和监控，同时，也包含了丰富的工程细节，诸如python环境管理Poetry、编排工件ZenML、实验跟踪ZenML、提示监控Opik，RAG的索引、检索、生成三步骤，DevOps、MLOps、LLMOps的迭代，CI/CD/CT监控流水线等； 3. 本书中文版出版于2025年5月，这一年多来LLM的发展日新月异，RAG有了多模态MRAG、上下文增加到了一百万、Flash模型推理速度增加、幻觉出现概率降低、遵循指令能力增强，之前需要微调或RAG的任务现在可能已经不需要了，LLM应用层出现百花齐放的景象，正在从知识问答走向工作的各个场景，本书书名为LLM工程师手册并不全面，对于正在做RAG的工程师，推荐翻阅相关章节，如果在做LLM工程其他方面的工程师，本书并不适合。