AI萬金油：商業幻想與科技狂潮

可以看作一本AI錯題集。 這本書的核心是說明AI的發展並沒有方案商宣傳的那麼順利，特別是在預測式AI的領域，實際預測的準確性大多都無法達到聲稱的水平。並對其原因進行了闡述，我認爲核心實際上只有一點，主流的算法都是基於歷史上發生過的事件進行學習和分析。然而未來本身就有很多不確定性，從根本上對於未來的預測都是很難做到高準確率的。其中有些特別的案例，比如預測內戰的可能性，即使不用模型，我們也知道大部分國家的大部分時間都處於和平階段。而轉變可能需要幾年的時間，這樣的預測模型即使達到90%的正確率也沒有意義。它只需要一直預測【不會發生內戰】就可以了。 這本書雖然有點想到哪講到哪的感覺，但是書裏列出的那些失敗的案例本身能讓我們更直觀的理解什麼是算法歧視，以及不好的AI將給我們帶來什麼樣的隱患。就如作者所說，我們需要了解AI的侷限性，才能在生活中質疑和抵制類似有害的AI被廣泛使用。特別是AI如何被使用，被誰使用，達到什麼樣的目的。科技並不總是向善。 最後，作者嚮往的是通過有效監管讓AI朝着有利於人類的方向發展。不要進行一刀切，比如教師認爲學生用AI都是作弊。生在這個時代的孩子們，他們的生活已經不可避免地和AI共生，無法阻止孩子們使用AI。正確的方法還是有效的監管機制，而不是盲目樂觀或者盲目悲觀。

一本書看懂AI 推薦等級：★★★★★ 央視新聞最近報道了號稱“外國山海經”的AI拼接怪獸動畫，不光有熱度有流量，更在收割了許多小孩子的注意力之後以實際玩具出現，讓人大開眼界。時至今日，我們離AI是如此之近。 《AI萬金油：商業幻想與科技狂潮》以科學嚴謹的態度告訴我們如今的AI被過度炒作。在商業世界裏看似熱門的背後是人們對此的認知不足。儘管看到鋪天蓋地的消息，大多數人還是沒有真正瞭解AI。對於普通讀者，想要真正看懂AI，閱讀本書無疑是一個不錯的開始。 1.過度炒作 從AI行業的研究人員到商業世界裏的創業者和投資者，由新聞媒體到普通民衆，日益嚴重的AI炒作之風裏都扮演着各自的角色。在這種過度炒作的整體氛圍下，我們不光難以瞭解其中的真相，更容易帶來新的問題和危機。 本書的兩位作者憑藉着多年的研究經驗告訴讀者當下AI存在的侷限性，讓人破除對於其不切實際的期待之後看到更爲真實的情況，從而對於未來有了更爲靠譜的判斷。 “本書是一本幫助你識別AI虛假宣傳和炒作的實用指南。”通過作者抽絲剝繭的剖析，不難發現如今所謂的AI魔法就像曾經在美國流行的萬金油一樣，被江湖遊醫用來騙人。 儘管並非所有的AI都像萬金油一樣，只有通過像本書這樣嚴謹的科學分析之後才讓人明白在合適條件下可以真正運行的AI與之有何本質性的區別，從而明白如何進行下一步的發展。 瞭解到AI的侷限性，才更明白其可以發揮什麼作用。更爲重要的是意識到即便是有用，也可能帶來害處，至少會對人類帶來負面影響。這一點《技術與文明》裏早就指出，技術和人類的演化路徑是不同的。 2.全面瞭解 如果要用一句話來簡單概括如今的AI，那可以說即便是再權威的人給出相關的觀點和建議也可能是錯誤的，至少是不值得完全相信。在這一點上，本書作者更是敢於向自己開頭，指出其曾經的研究成果就存在一定的錯誤和瑕疵。 可複製性，可以稱之爲是現代科學的核心。只有經歷過獨立驗證的科學實驗結果才更爲值得信任。在這一方面，衆所周知心理學是重災區，然而要是和AI相比那算是小巫見大巫。 一方面是無孔不入的宣傳，另一方面是極爲嚴重的可複製性危機。那些從業者也好，科學家也罷，不管是否以專家自詡，都不得不面臨的尷尬現實的是所給出的研究成果往往經不住他人的再次檢驗。 實踐是檢驗的最好辦法。可要是按照這一標準來說，那樣看似無所不能的AI其實都是紙老虎。聽起來名聲不小，可除了那些唬人的噱頭之外很難體現出所謂的技術優勢。 更爲直白一點，那些耗費了巨大電力的AI可能只是新瓶裝舊酒，甚至只是包裝精美的垃圾。當然沒有一個所謂的AI分類，或者說現實中相關的產品是如此複雜以至於很難用簡單分類去實現。 3.兩種分類 對於普通讀者來說，出於認知上的方面，或許在表述上沒有那麼精準但依然可以參考書中對於AI的分類。按照作者的劃分，大致可以歸爲兩類，一類是預測式AI，一類是生成式AI。 在科幻作品和一些媒體的煽風點火下，人們很容易對於AI產生恐懼等心理，從擔心被其奪走工作到憂心整個人類被其滅絕。出於此方面的考慮，對於AI進行禁止和限制的聲音不絕於耳。 通過作者的科學分析之後，不難發現如今所謂的預測式AI遠沒有那麼厲害，更不能像美劇《疑犯追蹤》一樣對於現實生活中的罪犯活動進行準確預測。要是考慮到預測本身的難度，簡單來說大可不必過於擔心，更不必理會那些缺乏根據的炒作消息。 對於普通人來說，離得最近的可能是生成式AI。從圖文到視頻，其所展現的能力讓人大喫一驚。不光會對於很多行業從業者帶來衝擊，更是造成了一系列的問題和危機。 從抄襲到AI的胡編亂造，再到被用來詐騙的音視頻，每個人彷彿都不得不膽戰心驚。然而經過一番深究之後發現其中很多擔心是沒有必要的。更爲準確一點說，我們的擔心是可以理解的，但可能擔心錯了問題從而忽視了真正該擔心的。 4.被人利用 以書中提到的社交媒體爲例，從扎克伯格提出用AI來進行審覈到其他相關內容，不難發現技術的出現並不是包治百病的良方。聯繫到《技術壟斷》裏的提醒來說，更像是重蹈了唯科學主義的覆轍。 如作者所言，AI的出現會讓很多負責內容審覈的人員不得不像《幕後之人》裏變成了在商業流水線上作業的工具人。在所謂的降本增效之下失去了可靠性，更變成了《投餵AI》裏捲入逐底競爭的外包混戰，覆蓋全球難以改變。 從AI在內容審覈上本身就難以避免的政治傾向到實際操作中的各種現實挑戰，不少像《履單》裏的科技巨頭爲了瘋狂逐利而不在乎他人的處境惡化和生死存亡。 《操控》裏提醒人們對於算法和平臺的警惕，本書更是以近乎赤裸的方式展現了其商業包裝之下的殘酷真相。用一個不太恰當的比喻，其不僅沒有變成了解決問題的有效工具，逐漸變成了亟需解決的問題。 與其讓我們擔憂科幻作品和影視劇裏那些AI相關的場景，倒不如關注現實世界裏正在發生的變化。在這一方面，從所謂的商業領袖到技術大拿，其提出的觀點和具體行爲都是值得懷疑的，或許說常常夾帶私貨，更有甚者是別有居心。 好在作者通過一個個真實案例，讓我們意識到其中的謊言，從而降低了被欺騙的可能性，很大程度上避免被人利用。倘若多一個人閱讀本書，就會少一個人上當受騙。 5.認知偏見 除了書中提到的那些謊言之外，作者更是反覆提醒讀者注意那些人類本身就存在的認知偏見。在這些難以察覺的認知偏見裏，我們不光會被他人利用，更可能會對自身造成難以想象的傷害。 解釋深度錯覺，讓人誤以爲自己對於複雜概念的理解比實際的深刻。過度自信導致的自以爲是很容易犯錯。在閱讀和思考的過程中我也不得不承認自己有這方面的毛病。對於那些經常關注相關新聞的普通人來說，也容易因此中招。 啓動效應、虛假真理效應、錨定偏見、確認偏見，書中提到的這些常常難以完全察覺，更是會被一些公司、研究者和記者等加以利用。意識到這些的存在並進行改善有助於我們被這些別有用心的人所欺瞞。 受限於現實情況的複雜多變，書中所提供的建議更像是一個參考答案，很難說做到面面俱到。從某種角度上來說只是告訴讀者那些過去出現的常見把戲，未來可能會有新的騙術和騙局，需要擦亮眼睛謹慎對待。 面對現實挑戰，作者最後給出了兩個虛擬人物所處的世界，讓我們意識到未來的不同可能性。這不光取決於當下的行動，更在於我們每個人如何進行選擇。 6.寫在最後 面對一個如此重大且人人關心的話題，書中的內容自然無法全面覆蓋，但是對於普通人值得關心的問題也進行了比較深入的討論。哪怕是零基礎的小白一樣可以在作者的科普中有所收穫。 看穿騙局是本書的一大價值，然而在這種對鏡子的過程中我們更容易發現別人的，往往會忽視自身的。當牽扯到更多的現實利益，人們哪怕意識到問題的存在，也可能希望像擊鼓傳花一樣認爲自己是智豬博弈裏的幸運兒。 破除迷信，祛魅之後的我們更需要對於自身以及AI相關的內容有更爲科學準確的認知。藉助前人的努力，我們可以避開書中那些坑，但也難保自己就不會犯錯。 事實上就像我們關心的重點會偏離一樣，每個人從認知到行動上難免都會出錯。這一點本書作者就是一個很好的例子。作爲一個從業多年的研究者也不得不面對自己犯下的錯誤。 對於那些想要使用和接觸AI的人來說，犯錯可能是一種常態。在與其進行交流和學習的過程中早晚都會出現，關鍵是如何去應對。是像本書一樣用科學認知爲基礎還是繼續自欺欺人？這取決於每一個人的選擇，也會導致未來出現截然不同的改變。 坦白講，一本書看懂AI是不現實的，可要是快速入門並識別一些常見的騙局還是可以的。這就是本書的價值所在，也是對於普通人來說現在選擇閱讀本書的一大重要理由。

給 AI 熱潮潑冷水 本書是由普林斯頓大學計算機科學教授阿爾文德·納拉亞南與前臉書工程師薩亞什·卡普爾合著，兩位作者均入選《時代》週刊“全球AI領域最具影響力100人”。本書以“AI萬金油”（源自19世紀江湖騙術“蛇油”）爲隱喻，批判當前AI技術生態中過度炒作、虛假宣傳與盲目應用的現象，呼籲公衆迴歸技術理性。 我粗看了一下，有點老登的感覺，英偉達突破 5 萬億美元，黃仁勳畫出“AI 生態”的大餅，從 6G 網絡到量子技術，英偉達希望成爲未來世界技術的基座，大家是否記得當年互聯網初期炒域名和網名，新技術的出現肯定伴隨泡沫，但也會成就新的英雄。 在美股紛紛創新高的今天，大公司也在裁員， 當年黃仁勳 呼籲傳統車企要改變思路，電動車已經不是簡單的運輸工具，是新的物種，可奔馳大佬不當回事，現在追悔莫及。 作者認爲AI競賽本質是商業利益驅動，非技術革命；提出“智能革命的終極命題不是‘AI多強大’，而是‘我們想成爲怎樣的人’。”有些雞湯，只要認真回顧30 年來的世界變化，無論是戰場上的無人機，還是已經無所不在的 AI，技術已經在改變世界。 2025年#360

雖然不贊成作者的大部分觀點，但是還是給出了推薦的評價。主要原因是作者嚴謹的治學與寫作態度，可以說在專業知識方面是準確的。通讀此書可以對人工智能發展的歷史與各階段的技術發展情況有個準確的瞭解。由於非技術書籍，書中沒有涉及具體的技術細節，但內容應該足夠滿足絕大多數讀者了。 不贊成的部分主要來自於作者對技術發展的態度：作者更傾向於論述技術發展中遇到的挫折與失敗，這在任何領域都是不可避免的。而在人工智能發展過程中，人們經歷了在理論與方法方面探索過程中的迷惘與失敗，也曾經在某些應用領域中的誤用，但是相關從業者正是在這些失敗與誤用中積跬步才達到目前的成績。我本人認爲雖然不能忽視問題，但是更應該關注進步與成長，而不是在失敗面前躊步不前。 目前大模型已經取得了巨大的進展，雖然這一波進步可能無法達到AGI，但是這次讓我們看到了希望。當我們迷戀於當下大模型的魅力時，必定有研究者在默默尋求突破Transform的下一代技術，未來可期。 不可否認，從技術發展應用與瘋狂的投資匹配角度來看，這次人工智能的爆發也存在着泡沫，但是即使泡沫破滅也會給我們留下巨大的“遺產”，因爲這已經讓人們看到了技術能夠發展到什麼程度，更讓很多人體驗到了這波技術進步帶來的便利。 綜合來說，此書值得一讀，但建議在讀書時注意“揚棄”。

《AI萬金油：商業幻想與科技狂潮》的核心觀點可歸納爲以下七點：1. ​​寫作動機​​：在 AI 熱潮中，大量產品被過度宣傳而缺乏真實價值，作者希望提供一部“理性消費指南”幫助公衆與企業辨別炒作。2. ​​“AI 萬金油”概念​​：書中把那些聲稱能“一招鮮、喫遍天”但實際上既無科學依據也難以奏效的算法或服務稱爲“AI 萬金油”，提醒讀者警惕營銷噱頭。3. ​​三類真實可用的 AI​​： • ​​生成式 AI​​：如文本、圖像生成，在創造內容方面有潛力，但也易產生偏見或侵權問題。 • ​​預測式 AI​​：如信用評分、需求預測，在數據充足且因果關係明確時效果顯著；若數據本身帶有歧視，則會放大偏見。 • ​​內容審覈 AI​​：如 moderation、視頻監控，在大規模內容治理上有成本優勢，卻可能侵犯隱私與自由裁量權。4. ​​技術有效 ≠ 應用無害​​：作者強調，算法在技術上可行並不意味着在所有場景中都安全或公平，需要從“模型失效”“過度炒作”“應用本身有害”三方面歸因風險。5. ​​行業落地的機遇與風險​​：書中逐領域討論教育、醫療、招聘、銀行、保險、刑事司法等可能出現的收益與陷阱，指出若不加監管，偏見和不公可能被算法放大。6. ​​大型科技公司與壟斷風險​​：在缺乏有效監管的情況下，巨頭壟斷 AI 算法與數據資源，會使中小企業和欠發達地區被邊緣化，進一步擴大數字鴻溝。7. ​​行動建議與價值​​： • 企業層面：學會評估 AI 項目的真實 ROI，避免被營銷話術牽着走。 • 個人層面：理解算法決策對隱私、就業和社會公平的影響，更理性地使用 AI 產品。 • 政策層面：建立問責機制與開放標準，推動算法透明度和數據治理。一句話總結：這本書提醒我們，AI 的真正威力並非“萬能”，關鍵在於人類如何選擇、部署與監管這些技術，既抓住其價值，又防範其潛在危害。

人工智能已成爲全球競爭的關鍵變量，左邊將AI視爲決定未來國際格局的新戰略武器，右邊則警告需要警惕狂熱的技術炒作，現實應用還是技術泡沫一起看看正好討論一下這兩者之間的落差及抉擇？ 技術發展嵌套在國家安全與全球競爭的框架中，從來不是單獨的市場行爲。科技企業與政府的合作曾是美國競爭力的核心，如今的硅谷似乎遺忘了這段歷史。AI作爲21世紀的競爭核心，硅谷的工程師們需要重新與國家利益綁定。精英文化從國家建設轉向個人成功、技術烏托邦主義、消費主義主導科技投資等，這也是美國文化空心化的深層原因。國家間算法、算力的競技驅動軍事行動，AI 是新的戰略資產，硅谷的工程師們應重新擁抱技術即國家力量的理念，與政府聯盟形成新的曼哈頓計劃，政府則採用硅谷式管理，提高效率、減少官僚主義，以適應新技術時代的競爭，確保美國繼續主導世界科技與安全格局。 但AI如果作爲技術泡沫看，需要警惕過度炒作，如果政府、企業及社會盲目相信AI神話，可能會導致嚴重的資源浪費，過度依賴AI可能會讓決策變得更不透明，甚至帶來新的社會風險；過度懷疑 AI又可能導致技術投入不足，導致本國在AI競賽中落後。AI產業在很大程度上被資本市場所推動，許多AI產品的真實能力確實不如宣傳的那麼強大。真正的挑戰在於如何甄別及平衡技術現實和市場預期之間的差距，還有相關倫理問題也有待討論。AI不是魔法，它是統計的工具，決策精度取決於數據質量，但許多數據本身就自帶偏見。現有AI還無法真正理解世界，無法像人類一樣獨立思考，AI的價值在增強人類的能力。 AI作爲國家內部的治理工具，表面上是技術治理的進步，實質是權力的進一步集中，個體在經濟和信息上的自主權進一步被剝奪，人類社會逐漸接近算法驅動的極權模式？通過算法和數據精準控制社會，又使反抗不再具有可能性？這種秩序感取代明顯的暴力鎮壓，但也吞噬了真正的自由選擇。意識形態的同質化較明確的國別界線，加速全球階級矛盾的分化？技術極權主義可能加速文明的退步。。。

這本書的兩位作者都來自普林斯頓大學。第一作者阿爾文德·納拉亞南是計算機科學教授，常年研究AI等數字技術對社會的影響；另一位是他的博士生。 書名的英文《AI SNAKE OIL》原意是“AI蛇油”。19世紀末的美國，江湖遊醫四處兜售一種號稱“包治百病”的“蛇油”。實際上，這些藥油幾乎不含任何有效成分，甚至有害健康。 作者借用這個概念，想說的是：今天許多被吹得神乎其神的AI技術，其實就是當年的“蛇油”——名聲在外，但實際效果與宣傳相去甚遠，甚至潛藏着風險。 AI萬金油的翻譯還不夠貶義，叫《AI大力丸》可能更能表達出原書名想要表達的意思：在現今AI產業的敘事中，我們是不是在被許諾一種“立竿見影”的技術奇蹟？而且，“大力出奇跡”本就是互聯網常用梗，契合AI行業“算力至上”“蠻力堆疊”的底層邏輯——諷刺意味更當代、更精準。 第一部分：兩種AI，兩套問題 在深入之前，先明確兩個概念： • 預測式AI：核心任務是“做判斷”。人臉識別（這張臉是誰？）、垃圾郵件過濾（這是垃圾郵件嗎？）、醫療影像診斷（這個結節是良性還是惡性？）。這裏的“預測”不限於“預知未來”，而是泛指“做判斷、下結論”。 • 生成式AI：核心任務是“搞創作”。ChatGPT、文生圖、文生視頻——輸出我們能理解、能欣賞的文字、圖片、視頻。 兩類AI，各有各的問題。 第二部分：預測式AI的三大“暗礁” 第一重：可預見的侷限——爲什麼有的AI怎麼訓都訓不好？ 2015年，普林斯頓大學搞了一項名爲“脆弱家庭挑戰”的研究。他們追蹤了4000多名兒童從出生到15歲的數據，邀請全球160個團隊用孩子9歲前的全部信息，來預測他們15歲時的表現——GPA、住房穩定性、家庭物質狀況等6項指標。 結果令人大跌眼鏡：最好的模型也只比隨機猜測略強一點點。 很多人第一反應是：數據量不夠大？不是。每個孩子已經收集了約1萬個特徵維度，已經多到超乎想象。 研究人員去回訪預測誤差最大的家庭，發現了一個關鍵細節：一個原本成績較差的孩子突然表現出色，原因是鄰居幫他輔導作業、提供食物。但這些“來自家庭外的支持”，數據里根本沒有記錄。 要解決這個問題，理論上需要記錄孩子的一舉一動，甚至每個念頭——這在倫理、法律和實踐層面都不可接受。這就是預測式AI在社會領域的第一重困境：數據維度的天然缺失。 爲什麼圖像識別就不會有這個問題？因爲判斷一張圖裏是貓還是狗，所需的所有信息已經完整地包含在圖片裏了。圖片本身就是“完整的數據”，不存在關鍵信息的遺漏。 第二重困境在於問題本身的內在複雜性。 社會規律是會變的。20年前的商業成功法則，放到今天可能就是“作死指南”。用歷史數據訓練的模型，本質上就是“刻舟求劍”。 社會事件還充滿隨機性。一本書的早期好評可能只是因爲某個大V隨手轉了一下；一個人的成功可能只是因爲某次會議上恰好坐在了貴人旁邊。這些隨機因素，本質上是不可預測的。 更麻煩的是“互動性難題”：預測行爲本身會改變被預測的對象。節假日第一天上午高速公路會堵車——這個預測廣爲人知後，大家都提前到凌晨出發，結果凌晨堵了。預測改變了現實，現實推翻了預測。 這些侷限是“可預見的”。一個清醒的AI設計者在部署模型之前，就應該知道：這類問題，AI就是搞不定。 第二重：隱蔽的陷阱——爲什麼有的AI“一學就會，一用就廢”？ 有的模型在測試集上表現優異，一到現實就拉胯。原因之一是“數據泄露”——測試集裏的題目，模型在訓練時已經見過了。好比考試卷子裏的題你全做過，分數再高也不代表你真懂。 另一個更隱蔽的原因是：預測式AI經常把“相關性”當成“因果性”。 新冠肺炎疫情期間，有大量研究聲稱能用胸部X光片高精度區分新冠患者和普通肺炎患者。但後來有人發現，在那些研究的數據集中，幾乎所有新冠影像來自成人，所有普通肺炎影像來自兒童。AI學到的根本不是“磨玻璃影、白肺”這些真正的病理特徵，而是“成人→可能得新冠，兒童→可能只是感冒”。 這個模式在原數據集上準確率極高，但邏輯是錯的。而且因爲訓練集和測試集來自同一批數據，這個錯誤規律在測試中根本暴露不出來——直到模型被扔進真實世界，才原形畢露。 更棘手的是，當前的AI模型本質上是“黑箱”。數以萬計的複雜參數中，我們無法直接審視它做判斷的內在機理。當模型依賴虛假關聯而非真正的因果特徵時，這類錯誤極爲隱蔽。 第三重：致命的偏差——當“優化目標”本身就是錯的 這是最值得警惕的一類問題。AI訓練的核心，是人爲設定一個“優化目標”——一個明確的數學公式。模型不斷調整內部參數，就是爲了讓這個目標函數的分數最優。 問題在於：如果目標本身有偏差，模型訓練得再“完美”，結果也是錯的。 書中列舉了一個可怕的例子：美國一家保險公司用AI來調整汽車保險費率。它設定的目標是：在不流失過多客戶的前提下，最大化利潤。 爲了實現這個目標，模型需要解決一個核心問題：識別哪些客戶對漲價不敏感。它發現，62歲以上老年人更換保險公司的傾向更低。於是，該人羣被系統性地給予更少的折扣和更高的保費漲幅。 公司沒有主觀宣稱“要歧視老年人”，但“利潤最大化”這個目標函數與數據的結合，必然導向這一結果。更諷刺的是，開發者可以用“算法複雜性”當擋箭牌，聲稱這是“數據驅動的客觀最優解”。 我們最需要警惕的，或許不是科幻片裏的“機器人覺醒”，而是那些隱藏在冰冷數據和“客觀”算法之下的、由錯誤的代理指標和商業利益驅動的、無聲無息卻影響深遠的系統性偏見與歧視。 一句話總結：技術之上應有理性，理性之上應有良知。 第三部分：生成式AI的“幻覺”與“刷分競賽” “幻覺”：一本正經地胡說八道 大語言模型雖然聊天能力很強，但很容易“一本正經地胡說八道”——語言流暢、邏輯自洽、充滿自信，但核心內容完全是假的。 爲什麼？因爲大模型本質上是一個概率性的文本生成器。它通過在海量語料上訓練，學習詞語之間的統計關係，然後預測“下一個最有可能出現的詞是什麼”。它的目標是生成“看起來合理”的文本，而不是“真實”的文本。事實準確性，從來不是其核心設計目標。 基準測試陷阱：大家都在“應試”，沒人關心“能力” 當前整個AI領域陷入了一場圍繞“基準測試”的激烈競賽。各大公司輪番發佈在各項標準化測試中的“刷分”成績。 但問題在於：這些測試只關注模型在特定任務上的表現，卻不評估那些在現實世界中更重要的維度——模型是否固化了文化偏見？輸出的內容是否會對社會穩定造成風險？這些在基準測試中統統是“隱形”的。 當所有開發者都以“分數”爲唯一目標時，他們就會有意無意地“爲測試而優化”。這就像一個只爲應試而學習的學生，能熟練掌握所有考點，但在真實世界中解決複雜問題的能力卻不堪一擊。 衡量一項技術真實價值的唯一標準，是它在真實世界中的表現。 第四部分：AI會產生自我意識，從而威脅人類嗎？ 作者給出了否定的答案。他認爲，即使在理論上有可能性，人類最大的威脅也不是來自AI“自主背叛”，而是來自人類對AI的濫用。 爲什麼AI不會誕生自主意識？因爲它所有行爲都受限於一個由人類設定的、外在的目標函數。AI沒有“內在驅動力”——它沒有好奇心，沒有求知慾，沒有生存本能。它不會因爲“想”理解世界而去學習，而只是因爲“被設定”要去擬合訓練數據中的統計模式。 而自主意識的核心，在於能夠自主設定目標。一個有意識的生命體，其行爲受內在、分層的目標驅動：從最底層的生存、繁衍，到更高層的自我實現。這些目標不是由外部工程師編碼的，而是由億萬年的生物進化“寫入”基因之中的。 當AI對你表達“同情”時，它並沒有真正“感受”到你的情緒，只是學習到了在特定情境下，生成“表示同情的文本”能夠最大化其目標函數。 所以，我們應該重點防範的不是一個遙遠的、幾乎不可能發生的“AI叛變”，而是AI這樣一個沒有意識、沒有道德、但能力極其強大的工具，被別有用心的人用於牟利、詐騙、製造謊言、實施監控甚至發動戰爭。 第五部分：兩個未來——凱的世界 vs 瑪雅的世界 最後一章作者設想了兩個出生在大模型時代的孩子——凱和瑪雅——在不同假設的未來中，他們的生活會如何發展。 凱的世界：被動防禦 社會對AI的風險充滿警惕，學校禁止學生使用AI，大多數應用選擇“一刀切”地屏蔽。但天性好奇的凱只能求助於那些未經審查的商業AI工具。社交媒體與AI深度融合，用算法生成了無窮無盡、令人上癮的內容流，吞噬了凱的注意力。學校使用預測式AI，根據凱的成績和家庭數據將他分入“低潛力”組，過早地限制了他的職業機會。整個社會瀰漫着“工作即將被取代”的論調，讓凱對學業和未來都喪失了動力。 凱的世界揭示了一個殘酷的現實：以“保護”爲名的被動防禦，實際上是將塑造未來的權力拱手讓給了不受約束的商業力量。 瑪雅的世界：主動面對 AI影響的研究資金增加了10倍，監管跟上了技術發展。法律強制打破了推薦算法的壟斷，催生了更健康的社交媒體生態。學校將AI素養視爲核心能力，系統性地融入教學。 大多數大學錄取轉爲“部分抽籤制”，削弱了名校光環，社會評價體系變得更加多元和務實。AI主要負責自動化“任務”而非取代“職業”，企業也適應了定期對員工進行技能再培訓的常態。瑪雅對自己的未來充滿信心。 哪個世界更有可能實現？從今天的角度看，凱的世界更可能成爲我們的“默認現實”。我們只需要繼續以畏懼和順從的態度回應科技行業的發展，便會自然滑向那裏。而要實現瑪雅的世界，則需要大量的公共投資和全社會態度的轉變。 不作爲，肯定不會帶來一個理想的未來。 凱的沉淪，源於被動地接受；瑪雅的希望，始於主動地面對。我們人類，永遠不應該把選擇權交給機器，而要牢牢把握在自己手中。

一本用證據拆穿"AI 萬能"神話的清醒劑——兩位普林斯頓研究者把市場上氾濫的 AI 宣傳分成"預測式 AI"與"生成式 AI"兩類的真實能力邊界，逐一戳破：預測式 AI 在生死攸關的決策上常常失靈且加劇不公，生成式 AI 確有價值卻被誇成"通用智能"，而"AI 將統治/拯救人類"的敘事大多是萬金油式（snake oil）的江湖郎中話。核心告誡：非凡之言，需有非凡之證。

當前AI無疑是最熱門的話題，一時間議論紛紛，各類大模型紛紛上場，逐漸走入人們日常生活和工作，雖然本書成書時間較早，但其對待AI的理念仍舊值得學習，技術進步要以開放包容的心態，主動積極作爲，規範監管，瞭解掌握技術，不盲目，真正爲我所用。

簡而言之，這本書既揭示AI技術的魅力，也潑冷水的提醒潛在風險，爲公衆、企業與政策制定者提供了一份“防坑指南”