大模型應用開發 動手做AI Agent

先打個廣告 大家可否關注一下我的新書《RAG實戰課》，我是試圖總結最新知識，形成大模型應用開發技術的閉環。然而新書出版後，總是誠惶誠恐，不知道讀者是否滿意。黃老師也不容易。 這本書微信讀書暫時不會上架。 (轉發一篇認真且中肯的書評) 作者：isaachan（來自豆瓣） 隨着ChatGPT在2022年11月開始爆火，市面上出現了大量介紹LLM/ChatGPT的書，我在書店裏翻過幾本，感覺這些書一般都有兩個“缺點”，一是大量講形而上的哲學話題，二是用大段代碼的介紹一個玩具案例。而這本書在這些方面做得比較剋制，既沒有陷入形而上的抽象討論，也避免了將技術解釋流於表面，這點顯得難能可貴。 看完這本書後，我總結下它能給到讀者的是： 以對話和場景帶入的形式進行生動的講解 書中採用對話體形式，通過虛擬的問答交流，幫助讀者逐步釐清大語言模型的工作原理和應用場景。這種形式不僅生動有趣，還能讓讀者在輕鬆的氛圍中逐步加深理解，而不是像閱讀技術論文那樣晦澀枯燥。有很多次，當我對某些內容產生疑問的時候，書中的人物“小雪”剛好也有同樣問題，於是作者在恰到好處的時機進行了解釋。 有一定深度和貼近現實的案例 本書精心設計了七個案例，通過一家初創花店的業務發展巧妙地串聯起來。案例的內容涵蓋多個領域，從文本生成到輔助決策，展示了大語言模型的多種應用場景。這些案例並非簡單的“聊天機器人”演示，而是引導讀者理解大語言模型如何在實際任務中解決問題。這些案例既具備一定深度，又足夠貼近現實，具有一定的啓發性和參考價值。 強調應用思維 作者在書中反覆強調如何將大語言模型的能力與實際業務需求結合起來，避免將LLM僅僅看作一個“文本生成工具”，而是通過各種方法讓它成爲更具生產力的工具。書中提到的一些提示詞優化、任務拆解等技巧，對希望應用ChatGPT進行工作的讀者來說非常實用。 另外，這本書並沒有給到讀者如下的內容： 過於依賴ChatGPT而缺少開源和國內的大模型 儘管本書提供了豐富的案例，但其討論和實驗幾乎完全依賴於ChatGPT這一具體工具。書中較少涉及其他大型語言模型，如Claude、Gemini、LLaMA等，它們在性能、使用場景以及成本等方面也各有特色。這種侷限性使得本書的內容略顯單一，對於想要全面瞭解LLM生態的讀者來說，可能不夠滿足需求，而且對於國內的讀者和準備付諸實踐者來說，選擇ChatGPT有些衆所周知的挑戰，這讓本書的實戰效果打了折扣。 缺少工程實現細節 雖然本書深入淺出地介紹了大語言模型的應用場景和原理，但在工程實現層面顯得較爲“輕描淡寫”。例如，對於如何調用API進行二次開發、如何部署一個本地語言模型、如何優化響應速度等問題，書中幾乎沒有具體的代碼示例或架構設計分析。對於具備一定技術基礎、希望深入瞭解實現細節的讀者來說，本書在這一點上稍顯不足。 缺少對技術侷限性的討論 本書在介紹大語言模型的能力時，難免流露出一定的“樂觀主義”。然而，現實中LLM仍面臨諸如幻覺現象、上下文窗口限制、數據隱私等問題。這些技術侷限在書中並未得到充分討論，容易讓讀者對當前技術的能力和邊界產生誤解。 總結一下，前面的幾點只是本書“給到”和“沒有給到”讀者的內容，並不是“優點”和“缺點”，因爲這本書的定位決定的，同時也是LLM領域當前快速發展產生的不確定性導致的。讀者可以根據自身訴求來選擇是否閱讀或者閱讀哪些部分。不可否認的是，這本書的編寫是非常用心的，這些同類書籍普遍浮誇的背景下很不容易了。 最後 ，《Agent設計模式》一書2026年2月已經出版。

這本書應該說是寫早了。Agent的理論本身沒有錯，只是當前這套基於大模型的Agent，是想讓大模型充當Agent的“大腦”，換言之就是依賴大模型的邏輯推理能力和複雜指令遵循能力，但當前大模型，就算是GPT4級別的幾個模型，邏輯推理能力也支撐不住這個角色，其他的3.5級別的就更別提了，只能看5出來的時候推理能力怎麼樣。 這就導致這本書很尷尬的一點：理論的地方很理論，但給的實際例子又很淺，就看起來略水......這也沒辦法，基於當前模型能力的Agent也就做到這個份上了，除非你在垂直領域去寫很多定製邏輯，去提升的專業能力。所以現在這個時候，Scaling Law還在生效，模型能力還沒觸頂，這種上層的包括Langchain、Function Calling這些很容易被替代和顛覆掉的..... 之所以覺得略水還給推薦，因爲我知道寫書這件事很難，熬的都是作者的心血和頭髮😂，我從來不給任何一本書打差評，我感覺水的書我一般都選擇不說話，但是吧......本書作者黃佳老師的其他書，包括他這種寓教於樂的寫作風格，都還挺好的，我也是看了他之前的書，所以這本紙質版出來的時候，就第一時間讀了，黃佳老師也要愛惜自己的羽毛呀......

這本書加入書架很長時間了，一直沒機會看，就這麼放到了今年春節，纔有時間把它讀完 書中延續了黃佳老師一貫的風格，總能用日常事物解釋陌生的專業詞彙，語言生動有趣，偶爾加入對話式的討論，可以點出讀者心中的疑問，並逐一加以解答。同時也少不了“硬核”的代碼實戰內容，通過代碼實操加深對技術的理解。這種“軟硬結合”的講述方式，讓不同基礎的讀者都能有不錯的閱讀體驗。 Agent其實已經融入我們的工作生活當中了，從普通用戶的體驗來看，使用過程是對技術和執行流程低感知的，只需要清晰表達需求，它就能給你快速提供解決方案，獲得授權後自動完成後續步驟。就像今年春節期間，通義千問的“請客喝奶茶”一樣，只需要和它說出奶茶的口味、規格等需求，它就可以理解你的意圖，自動篩選出附近奶茶店以及推薦飲品，覈對地址信息及支付授權之後，就能完成點單，最後順利喝上奶茶。 而對開發者來說，需要保持Agent執行流程可追蹤、行爲可控。比如AI編程類工具，只需要描述清楚開發需求，Agent就可以自主理解需求、查閱技術文檔、調用外部API、生成對應代碼，最終把想要的功能做出來。它的執行過程直觀可見，開發者可以根據反饋，隨時進行確認和調整。 本書對Agent背後的技術，做了詳細講解。先從ReAct框架，如何把任務拆分成“思考-行動”循環，再引出兩大主流框架LangChain和LlamaIndex。分別爲Agent開發提供流程控制及工具調用能力，以及連接和檢索外部數據能力，可以實現快速搭建Agent應用。 實戰部分用一家鮮花電商“花語祕境”作爲案例，來展示大模型和Agent技術如何在業務場景中使用，比如實現自動定價、智能調度庫存、財報檢索等功能。讓ReAct框架、Plan-and-Execute，LlamaIndex等技術理論都能和實操結合起來，理解起來不費勁。 AI的發展日新月異，本書是24年中出版，沒想到短短一年多的時間，Agent的方向已經發生了明顯變化，尤其是OpenClaw出現之後，帶起一股熱潮，各大廠商迅速跟進，相關產品和框架也不斷出現。目前多Agent協同已經逐漸成爲重要的發展方向，通過職責分工和協同執行，可以緩解單一Agent在上下文和推理方面的限制，並提升系統的準確率與穩定性。這本書如果未來有機會再版，期待能夠補充新的進展和案例。

這是24年的一本書，AI行業日新月異，看起來有些過時，在當時Harness工程都沒流行起來，但書中提到的一些原理和實踐的的確確是構建Harness工程的技術基礎以及實踐範式，比如Function Calling、Tools、RAG等技術，以及ReACT，Plan-and-Execute等解決方案。 站在瞭解底層技術實現、特定場景下的解決方案以及LangChain等開源框架的實現與使用的維度，這本書值得一讀。

同之前幾本書比起來，該書寫的略水，前幾章講的太過泛泛，中間幾章框架講解的可圈可點，但案例太過簡單粗糙，離落地替代當前workflow得方式實現SOP自動化還有點距離，最後幾章靠log湊字數也是有點醉了😵‍💫希望黃老師恢復實力，再創新作

2025年讀完的第十七本書，這本書原本也不是在今年閱讀的計劃清單之中。閱讀這本書的契機有兩個。第一契機，是有朋友最近苦惱於怎麼在公司的內部接入Deepseek或者其他大語言模型的AI工具，通過工作賦能AI。第二契機，我在一本疑似用Deepseek寫的如何使用Deepseek的熱門的書籍《15分鐘瞭解Deepseek：DeepSeek R1輕鬆上手指南（輕科技）》中留下的辯證性評判長評論，幾天內獲得超過百人以上的點贊，並且按照這個趨勢推算，後期可能會有超過千人點贊；但是，我深入對自己進行了反思和覆盤，覺得自己對AI的認知還停留在淺薄的朦朧階段，“膽敢”憑藉對其淺薄的認知，洋洋灑灑留下幾千字的評論，也不知道會不會造成“以其昏昏使其昭昭”的不良影響；因此，我認爲後期自己更加需要多讀幾本AI相關的書籍，加深一下對AI的認知，爲身邊的人提供更真實和更有價值的幫助。 在我看來，目前的大語言模型貌似進入了跟以前Intel和AMD鬥參數、鬥性能的白熱化競爭階段。各個“AI廠商”各自拿出自己的看家本領，比大語言模型的輸入參數總量，通過各自技術和方案通過降低訓練大語言模型的算力比“降本增效”，通過比更低的訓練成本實現更好的模型，等等。在我看來，現在大語言模型這個“AI大腦”已經足夠好了，但是很多普通人還沒有對AI有足夠的認識，有能力盡其所能、物盡所用地利用AI服務自己的工作和生活。然而AI Agent的誕生正是彌補了“低成本”、高效能使用AI的“最後一公里”。我認爲，目前大語言模型這個AI大腦思考和推理能力已經足夠能用了，但是應該如何指導這個大腦去分析問題，得出求解的方案，觀察執行過程的步驟，覆盤執行結果，最後得出以後的改進方案的這些步驟，正是AI Agent需要做的事情。 下面是讀書筆記： 1.AI Agent被定義爲一個能夠感知環境，做出決策、自主執行任務，並與環境互動的系統。它具有自主性、適應性、交互性和功能性。Agent技術實現的四大要素——規劃、工具、記憶和執行。 2.通過思維鏈(Chain of Thought，CoT)、ReAct（Reasoning and Acting，推理並行動）和問題分解(Problem Decomposition)等邏輯框架，引導Agent展現出與符號Agent相媲美的推理和規劃能力。 3.高德納(Gartner)公司發佈“AI技術成熟度曲線”也被稱爲“AI技術炒作週期”，主要分爲這幾個發展階段：創新觸發點、期望頂峯、失望低谷、啓蒙斜坡和生產力高原。 4.泛化是機器學習的一個重要概念，它指的是模型對未見過的數據做出準確預測或合理反應的能力。這種泛化帶給大模型更通用的能力，而通用性也爲Agent提供了前所未有的創造力和靈活性。 5.整個大模型應用開發的核心理念就是操作的序列並非硬編碼在代碼中，而是使用大模型來選擇執行的操作序列。這凸顯了大模型作爲AI自主決定應用程序邏輯這個編程新範式的價值。 6.Agent的四大特性：適應性、自主性、交互性、功能性 7.大模型要被特定行業所用，從難到易有4種方式，分別是重新訓練或從頭構建模型、微調模型、動態提示（RAG就是其中一種技術）和簡單提示工程。 8.Functions讓大模型可以連接到外部工具，從而賦予開發者更多的靈活性和創造力，以促進和加速AI在各種行業和領域中的應用。 9.Function Calling是連接GPT模型的自然語言理解能力與外部工具或API的橋樑，可以使從大模型中獲取結構化數據或基於大模型輸出觸發外部動作的方式更爲可靠。 10.在Zero-shot-CoT認知框架中，模型被設計爲在面對新穎任務時，能夠藉助其已有的知識和邏輯推理能力，通過內部生成一系列思維步驟（即“思維鏈”）來解決問題。這種框架使得模型即使在沒有針對特定任務的訓練數據的情況下，也能有效推理和解決問題。 11.AutoGPT是通過自動化多步提示過程將目標分解爲子任務，並自動鏈接多個任務，以實現用戶設定的大目標。Baby AGI驅動的任務管理系統的主要功能包括3部分：運用OpenAI公司的自然語言處理能力以及大模型的思考能力來生成、排序和執行任務；利用Pinecone等向量數據庫引擎來存儲和檢索特定任務的結果，提供執行任務的相關上下文；採用LangChain框架進行決策。CAMEL的核心創新點是，通過角色扮演和啓發式提示來引導Agent的交流過程。在我看來，AutoGPT和Baby AGI這類自主Agent更像是通過推理實現的一種歸納法，而CAMEL更像是通過發展實現的一種演繹法。 最近以來，我一直通過讀書進行學習，之前只是淺薄地學習主題書籍的內容，而現在的我更喜歡帶着問題去讀書。這本書除了通過深入淺出地講解AI Agent的原理，還試圖通過開發代碼和現實案例貫穿整本書的知識脈絡，雖然其中有一些案例和解析都是點到即止，它確實能夠引領讀者邁入這個AI Agent的門檻，讓讀者能夠初窺一下AI Agent的門道。在讀這本書之前，我一直以爲，如果需要使用AI去做成尼基市場的產品，需要重新訓練一個場景專用的專家模型。在讀完這本書後，我深刻地認識到，其實我們可以像牛頓一樣，站在巨人的肩膀上實現自己的目標。因爲書裏面總結了AI的使用，門檻緯度從低到高分別爲：簡單提示工程(零樣本和少樣本提示)>動態提示(RAG)>模型微調(指令微調LLM)>重頭訓練或從頭構建模型(例如構建一個其它的AI模型)，對於需要創業做產品的人來講，可以根據自己的情況選擇不一樣的切入點來開發產品。總結來講，就是這本書是屬於那種“大而不細，廣而不深”的書籍，它目前讓我進入了一種，對於AI和大語言模型“看山不是山”的認知階段。後期，我應該再多讀幾本類似的AI類書籍，爭取早點進入“看山還是山”的認知階段。

也算是第一次這麼全面的瞭解下什麼是agent。 讀完《動手做AI Agent》，我對AI的理解從“聊天工具”升級爲“能自主解決問題的智能體”。這本書不僅讓我搞懂了Agent的核心邏輯，更通過豐富的案例，讓我看到了AI技術落地的無限可能。 以前總覺得AI是遙不可及的黑科技，而書中對Agent的定義讓我豁然開朗：它就像一個擁有“感知-思考-行動”閉環的智能助手。它能通過傳感器感知環境，用大模型進行邏輯推理，再通過執行器調用工具完成具體任務——從簡單的天氣查詢到複雜的跨應用辦公自動化，Agent的本質是讓AI從“被動回答”轉向“主動執行”。 書中提到的ReAct、Plan-and-Execute等範式，更是讓我理解了AI如何像人類一樣“邊思考邊行動”，或是“先規劃再執行”，這種技術邏輯的拆解，徹底打破了我對AI的模糊認知。 更讓我驚喜的是書中展示的各種AI新嘗試。不怕行動，而怕沒有思想指導。提出問題比解決問題厲害的多。比如多Agent協作系統，不同智能體可以像團隊一樣分工合作，一個負責數據分析，一個負責生成報告，另一個負責發送郵件，這種“AI團隊”的模式讓我看到了自動化辦公的未來；還有結合RAG技術的知識型Agent，能實時檢索外部數據，徹底解決了大模型“信息滯後”的問題。書中提到的Hermes Agent“自我進化”機制更是讓我印象深刻——它能從任務中總結經驗、固化技能，越用越懂用戶，這種“會成長的AI”完全顛覆了我對工具的固有印象。 這本書最打動我的，是它讓我意識到：AI不再是少數人的專利。無論是開發自動化腳本，還是搭建個人智能助手，普通人也能通過動手實踐參與到AI創新中。這種技術民主化的趨勢，讓我對未來的AI世界充滿期待。

我讀完這本書之後，不太推薦。 主要問題不是它完全錯誤，而是它給人的“理解深度”是有問題的。書裏用了很多AI、計算、生命科學相關的概念（比如圖靈、信息、神經網絡這些），但很多時候只是停留在表面瞭解，然後通過類比或者拼接，把它們組合成一些看起來很有啓發性的結論。問題在於，這些結論往往並沒有經過嚴格推理，甚至存在一些概念上的混淆，比如把“理論上可計算”當成“現實中一定能做到”，或者把類比當成論證。這會讓整本書讀起來會發現不少地方是站不住的。 另外，它在不同層次之間跳躍比較頻繁。從理論、到AI Agent工程實現、再到哲學結論，中間缺少必要的論證，這也是我覺得比較不嚴謹的地方，甚至可能會帶來一些誤導。

思路清晰 也能利用簡單的例子自圓其說 不過 類似找些依賴大模型而適配的各類工具箱，似乎處在一個比較尷尬的境地 大模型本身的發展就跟工具箱分割不開 獨立通用的第三方工具箱就變得不是第一選擇 現在的熱度都是發令槍響後的第一波衝出來的工具 伴隨着成熟度的提升 還有待走向成熟 不過這也正是機會 太多的領域還處在原生態階段

《大模型應用開發 動手做 AI Agent》書評：技術演進中的智能體開發實踐在國內外大模型技術快速迭代的背景下，本書爲開發者提供了一份兼具理論認知與技術實操的參考指南。儘管書中案例主要基於ChatGPT、LangChain等框架展開，但其對AI Agent開發範式的系統梳理，對於當前國內大模型應用生態建設具有現實意義。 技術解析與實踐平衡全書採用模塊化分析框架，將AI Agent分解爲思維、感知、執行三個功能單元。通過智能問答、文檔解析等典型場景，作者展示瞭如何將大模型與傳統編程技術結合。書中對LangChain框架的講解，着重剖析了記憶管理、工具調用等關鍵機制，既保留了技術細節的深度，又通過流程示意圖保持了內容的可讀性。值得關注的是，作者在案例設計中預留了模型接口的可替換性，爲適配不同大模型提供了技術可能性。 方法論層面的探索區別於單純的工具使用手冊，本書嘗試建立智能體開發的認知框架。書中提出的任務分解策略和異常處理機制，反映了當前行業對AI Agent穩定性的普遍關注。不過需要指出的是，相關方法論仍需結合具體業務場景進行驗證，書中提供的更多是方向性參考。 技術適配性的思考隨着DeepSeek等國產大模型應用深化，開發者在技術選型上面臨新的考量。本書在架構設計層面強調的"業務邏輯與模型解耦"原則，客觀上降低了框架遷移的技術門檻。通過模型路由代理等設計方案，展示了異構模型協同的技術路徑。但需要說明的是，由於不同大模型的API接口與能力特性存在差異，實際落地時仍需進行鍼對性調試。 作爲聚焦AI Agent開發的實踐類書籍，本書的價值在於系統呈現了該領域的技術實現路徑。它在保持技術嚴謹性的同時，通過漸進式案例降低了學習曲線。對於希望瞭解智能體開發基礎架構的讀者而言，書中關於工具調用鏈設計、記憶管理等核心組件的解析具有較高參考價值。在技術快速演進的背景下，這種既呈現現有技術方案又揭示底層邏輯的寫作方式，爲讀者應對未來技術變遷保留了必要的認知延展空間。