
傅莘莘
本書帶領讀者手把手實現深度學習推理框架,並支持大語言模型的推理。 全書共 9 章,以實現開源深度學習推理框架 KuiperInfer 爲例,從基礎的張量設計入手,逐步深入講 解計算圖、核心算子等關鍵模塊的設計與實現。最後,書中還涵蓋了如何支持深度學習模型如 ResNet、 YOLOv5,以及大語言模型 Llama 2 的推理。通過本書,讀者不僅能夠獲得構建和優化深度學習推理框架 的實踐經驗,還能深入理解框架的內部機制。 本書面向深度學習初學者、希望進一步瞭解深度學習推理框架的開發者,以及其他對相關內容感興趣 的 AI 從業者。
翻到第五章連往下翻都不想翻了,真對這個項目感興趣還不如直接幹啃github源碼,有問題問大模型,書實在寫的太垃圾了,作者真是喫相難看。