
[加]安德烈·布可夫
大模型經歷了從統計語言模型到基於神經網絡的語言模型,再到Transformer架構的演進過程,如今已在各領域廣泛應用且備受關注。本書圍繞大模型展開,共分爲6章。首先介紹機器學習基礎,包括人工智能、模型、神經網絡等概念;接着闡述語言建模基礎,涵蓋統計語言模型及其評估技術;隨後聚焦循環神經網絡,講解其實現與訓練過程;繼而深入解析Transformer架構,涉及自注意力機制等關鍵組件;然後探討與大模型相關的議題,如微調預訓練模型、減少幻覺現象等;最後總結全書並延伸介紹混合專家模型、模型壓縮等前沿拓展內容。全書語言精練,配有實操代碼示例。 本書適合軟件開發者、數據科學家、機器學習工程師,以及對大模型感興趣、具備一定編程經驗(最好熟悉Python語言)和大學數學基礎,希望理解大模型的數學基礎、探究其運作原理、自行實現核心組件或學習高效運用大模型的方法的讀者閱讀。