大語言模型工程師手冊：從概念到生產實踐
[羅]保羅·尤斯廷 [英]馬克西姆·拉博納
1248人在讀
33.2萬字總字數
¥63.87定價
[羅]保羅·尤斯廷 [英]馬克西姆·拉博納
AI技術已取得飛速發展，而大語言模型（LLM）正在引領這場技術革命。本書基於MLOps最佳實踐，提供了在實際場景中設計、訓練和部署LLM的原理與實踐內容。本書將指導讀者構建一個兼具成本效益、可擴展且模塊化的LLM Twin系統，突破傳統Jupyter Notebook演示的侷限，着重講解如何構建生產級的端到端LLM系統。 本書涵蓋數據工程、有監督微調和部署的相關知識，通過手把手地帶領讀者構建LLM Twin項目，幫助讀者將MLOps的原則和組件應用於實際項目。同時，本書還涉及推理優化、偏好對齊和實時數據處理等進階內容，是那些希望在項目中應用LLM的讀者的重要學習資源。 閱讀本書，讀者將熟練掌握如何部署強大的LLM—既能解決實際問題，又能具備低延遲和高可用的推理能力。無論是AI領域的新手還是經驗豐富的從業者，本書提供的深入的理論知識和實用的技巧，都將加深讀者對LLM的理解，並提升讀者在真實場景中應用它們的能力。
模型的基礎掃盲書，圖文並茂，體系得當。不過Agent時代有新的風暴和新的關注點。
1. 本書共11章，完整講述了LLM Twin項目的特徵流水線、訓練流水線與推理流水線，可以分爲3個部分，第一部分是1-4章，介紹特徵準備，包含LLM Twin項目概況、工具安裝、數據工程和RAG特徵流水線，第二部分是5-7章，介紹模型訓練，包含監督微調、偏好對齊和評估，第三部分是8-11章，介紹推理流水線、部署與MLOps； 2. 本書以端到端的流水線思維，串聯起了數據採集、特徵工程、訓練、評估、部署和監控，同時，也包含了豐富的工程細節，諸如python環境管理Poetry、編排工件ZenML、實驗跟蹤ZenML、提示監控Opik，RAG的索引、檢索、生成三步驟，DevOps、MLOps、LLMOps的迭代，CI/CD/CT監控流水線等； 3. 本書中文版出版於2025年5月，這一年多來LLM的發展日新月異，RAG有了多模態MRAG、上下文增加到了一百萬、Flash模型推理速度增加、幻覺出現概率降低、遵循指令能力增強，之前需要微調或RAG的任務現在可能已經不需要了，LLM應用層出現百花齊放的景象，正在從知識問答走向工作的各個場景，本書書名爲LLM工程師手冊並不全面，對於正在做RAG的工程師，推薦翻閱相關章節，如果在做LLM工程其他方面的工程師，本書並不適合。