Python深度學習（第2版）

在讀本書之前，關於現在大火特火的大模型，我一直好奇幾個問題。 1. 大模型的一系列基礎知識，如對外提供的接口是什麼？應用程序應該如何跟大模型交互？ 大模型本身只能接收張量作爲輸入/輸出，我們現在體驗到的文本聊天、圖片處理、視頻處理都需要有個前置動作，就是把各種各樣的內容轉成合適類型的張量。 大模型訓練好以後，其實就是計算出來其中各種函數的參數，或者說確定了使用的函數，這個是很容易描述的，因此把訓練好的大模型dump到磁盤，然後在其他地方讀取使用非常容易。 大模型中的張量計算就是矩陣計算，非常適合並行計算，而GPU就是做並行計算的，因此比CPU更適合。 大模型不是數學，是工程學。原因是我們並不能通過數學的方式精確推導出大模型的結果或者效果，必須通過實踐的方式才能拿到模型效果，這也就帶來了一個事實，可能有時候會發現這麼做效果很高，但爲什麼會提升卻解釋不了。 大模型主要是四種架構：密集連接網絡、卷積神經網絡、循環神經網絡和Transformer，各自有擅長的領域。 2. 大模型能不能用來預測股票？ 這個問題是我在大模型還沒火起來的時候就一直有的疑問，並且聽說很多人在做這方面的嘗試，甚至還靠這個發了大財。 書中對這個問題給出了明確的解釋：“永遠要記住，所有交易本質上都是信息套利：利用其他市場參與者所不具備的數據或洞察力來獲得優勢。如果試圖使用衆所周知的機器學習技術和公開可用的數據來擊敗市場，這實際上是一條死衚衕，因爲與其他人相比，你沒有任何信息優勢。你很可能會浪費時間和資源，卻一無所獲。” 3. 爲什麼chatGPT發佈以後，別的公司很快就紛紛發佈自己的大模型？ 讀完本書後，我的理解是從技術層面來說，模型原理完全是公開的，主流的就那麼幾種類型，chatGPT應該是確定了某種類型的模型很適合用於test-generation，所以大家都可以很快跟進。當然，這裏涉及到一個非常重要的點就是數據集，從來源看必然都是來自互聯網，沒有比這裏數據更多的地方了，但就像書裏說的，相比模型，對數據集的處理，也就是特徵工程往往最難最耗時。目前大家跟openai的差距可能就在這裏，也就是說加入openai公開了自己的數據集，那麼每家公司都可以搞出跟chatgpt一樣能力的模型。 本書雖然是一本技術書，但很多段落融入了哲學思想，非常值的讀者思考，絕對可以稱得上是在AI火爆的當下，深度學習入門的絕佳讀物。

這是一本對深度學習原理剖析的相當透徹的一本書，沒有其類似書籍讓人繁複頭暈的數學公式，基本上都是大白話，能用陳述性的自然語言把深度學習講得如此深入淺出，可見作者機器學習的功力非同一般。弗朗索瓦·肖萊（François Chollet）谷歌公司深度學習科學家，流行深度學習框架Keras之父，果然還是父親最瞭解自己的兒子。 在深度學習中，一切都是向量，一切都是幾何空間中的點。首先將模型的輸入（文本、圖像等）和目標向量化，即將其轉換爲初始輸入向量空間和目標向量空間。再通過模型中的一連串層將這種複雜的幾何結構分解爲一系列簡單的幾何變換，即將輸入空間逐點映射到目標空間。它由層的權重來參數化，權重是根據模型當前的表現來迭代更新的。這種幾何變換有一個關鍵性質，那就是它必須是可微的，這樣我們才能通過梯度下降來學習其參數。 正如理查德•費曼在1972年接受電視臺採訪時曾經對宇宙的描述：“它並不複雜，只是很多而已”。

砍又砍不懂～鞋又鞋不費～又喜翻砍👀傻了窩吧😲😲😲

認真地讀完了這本書的前六章，對於深度學習的相關概念的理解有了進一步認識。雖然行文中有很多的代碼，但還是在閱讀過程中認真的學習並理解，這還是大有裨益的。 後面的章節內容是關於深度學習在不同情景下的應用問題，就走馬觀花的看了一遍。 最終章的總結，還是比較系統的回顧了本書的內容。既是對當前深度學習相關概念的梳理，也是對其面臨的挑戰以及未來的發展做了分析，我覺得這對於想了解機器學習的讀者來說是有好處的。 在本書的閱讀過程當中，尤其是在前六章的閱讀當中，我是一邊閱讀中文，一邊對照着英文原著看的，這有助於深入透徹的瞭解作者的原意。建議有興趣的讀者也找到原著來看一看，很有啓發性。 總體來說，這本書還是很值得推薦的！

一位人工智能大佬的耐心教授，屬實值得反覆學習。在當前AI大潮下，學習下人工智能的底層基礎原理是很有必要的。個人覺得本書勝在非常有系統性，由淺及深，循循善誘，旁徵博引，鞭辟入裏，豁然開朗。以下是書中印象深刻的一些概念或知識： 1、張量 2、訓練集、測試集、驗證集 3、激活函數，損失函數，梯度下降，反向傳播； 4、訓練精度&驗證精度，過擬合； 5、批量 6、優化器 7、正則化&dropout 8、流形 9、標準化，歸一化 10、超參數 11、有監督學習，無監督學習，自監督學習 12、卷積神經網絡 13、數據增強 14、精度曲線、損失曲線 15、詞元、transformer 16、序列到序列 17、泛化 讓transformer大放異彩的，是它結合注意力機制、位置編碼，解決了序列到序列的問題。姑且把世界想象成一個數學空間，任何事物統統表達爲向量，任何關係也都是向量間的關係，你能想象到的、說到的任何語句，都已經被編碼進了這個空間。所以本書作者的結論是大模型並沒有按人類方式理解語言，大模型是一個非常非常大的字典，裏面的key和value非常非常多，而且幾乎可以做到任意組合。

打開這本書時的心情和我這段時間一來的心境頗爲類似。患得患失，覺得時間緊迫，不知道把大量時間花在學習深度學習上對自己的研究是否有益。然而另一方面又把更多的時間浪費在很多無意義的事上面。我在很久以前就看過，科研是需要坐的住冷板凳的，然而最近被某些消息茲擾，恐怕變得有些急功近利了。 最近才感到人生的偶然和身不由己，一頭霧水的扎進了一個自己完全不瞭解的方向。對領域內的技術脈絡和前沿都一無所知，也不知道可以去哪裏獲取相關信息，導師忙於行政事務，我的性格又有些沉默，不知怎麼向他吐露規劃，實感無人指導之苦。 或許按照老師的說法，我將精力放在深度學習上面純屬迷失方向，我們的工作重點應該放在射頻信息的特徵提取，而分類器僅僅是個工具。但和深度學習比起來，本領域簡直是冷門中的冷門，看文獻雲裏霧裏，又無書籍和教程可尋，入門實在艱難…… 最後還是打算看看這本書，希望能夠得到一些啓發和收穫。

很好的一本書，但是被微信讀書搞的太拉胯了！各種漏印！本來以爲電子版都是這樣的，直到我在京東上用9.9買了一版電子書，才發現人家都是正確的！

對於深度學習入門來說，這是本書講的條理清晰，結合應用實例與常人易於理解的例子，讓讀者能夠很好的理解抽象概念。 最令我也是在研究和學習相關概念應用到自己的工作領域中，閱讀本書，對於我的一些深度學習領域的基本認知是有很大的提升，比如哪些問題適合用哪些網絡來解決。 四種架構：密集連接網絡適合分類和回顧預測、卷積神經網絡適合圖像處理類問題、循環神經網絡和Transformer適合語言處理時間序列分析和文本生成等，各自有擅長的領域。 密集連接網絡（DenseNet） • 擅長領域：圖像分類、目標檢測、語義分割等計算機視覺任務。 卷積神經網絡（CNN） • 擅長領域：圖像識別、目標檢測、自然語言處理、醫療影像分析和自動駕駛等。 循環神經網絡（RNN） • 擅長領域：自然語言處理、語音識別、時間序列分析、文本生成、圖像字幕生成和視頻分析等。 Transformer • 擅長領域：機器翻譯、文本生成、文本摘要、問答系統、語音識別、計算機視覺（如圖像分類、目標檢測）和多模態學習等。

由於很早以前就關注tensorflow了，而且也借鑑其思想實現了一個小型的flow，所以在torch大流行的此刻，我也還是在用tf。神經網絡當下極爲流行，用在了各行各業；我所從事的行業由於與時序分析高度相關，自然也是神經網絡的用武之地。本書對於神經網絡的講解深入淺出，同時給出了大量基於Keras的代碼作爲參考，很適合讀者直接上手探索學習，以便加深理解。

2026年看這本幾年前的經典，基礎部分透徹紮實，很有收穫；14章的不少結論已明顯過時，llm這幾年的發展，讓人感覺在讀中世紀天文學。