人工智能之不能

一覺醒來，AI 要變天了。趕緊找來這本書壓壓驚。當然，這本 2020 年出版的書可能會引起你對時效的疑慮，但是 DeepSeek 做筆記時是參考了最近的10個資源，分享如下，供書友參考。 馬兆遠《人工智能之不能》讀書筆記 本書核心命題極爲“叛逆”：作者作爲量子物理學家，從數學與物理學底層論證“完美、通用的人工智能已被判死刑”。它不是技術手冊，而是一場關於理性邊界的思想實驗。 🧠 一、核心論點：圖靈機的天花板 當前所有人工智能都是圖靈機的變種。1936年圖靈論文的本質，是對哥德爾不完備定理的工程化詮釋——他在發明計算機之前，先證明了“計算機做不了什麼”。 “人識原理”：圖靈機能處理一切可描述問題，但不能描述的問題，圖靈機做不到，人類其實也不懂。從理性邏輯看，人沒比AI強多少。唯一的例外是直覺——它無法被算法描述，卻是人類突破邏輯閉環的唯一武器。 📐 二、思想基石：哥德爾的幽靈 第一不完備定理：任一包含算術的自洽形式系統，必存在無法被證明或證僞的命題。第二不完備定理：系統無法自證清白（自洽性不能在自身內證明）。 震撼之處：科學大廈建立在沙丘上。我們依賴的公理體系，本質是“無理由接受的前提”。希爾伯特形式化數學的雄心，被哥德爾一頁論文終結。而圖靈將這幽靈塞進了每一臺計算機——任何人工智能系統都有內置的死結，永遠有它算不出、證不了的真理。 🔬 三、直覺：人類最後的護城河 科學史是一部反直覺史：從地心說到標準米原器，理性一直在驅逐“主觀”。但弔詭的是： 1. 所有複雜決策都依賴直覺——無人能蒐集全部信息後再做決定 2. 直覺=默認知識：一米多長？需調用光速、秒的定義；秒又依賴太陽日…任何常識都建立在無數未言明的默認前提上 3. 烏鴉喫堅果：它通過極少嘗試理解交通燈、斑馬線、車流的因果鏈。深度學習需百萬級樣本，烏鴉一次就夠 作者犀利指出：我們花12年義務教育把人類馴化成邏輯機，然後發明了比我們跑得更快的機器——可真正的優勢是那部分無法被量化的“人味兒”。 ⚙️ 四、深度學習的“三宗罪” 1. 數據飢渴：人類從幾個例子學概念，AI需百萬級標註 2. 黑箱：調參上千萬維，結果正確也無法解釋 3. 遷移性差：識別新事物必須從頭訓練，沒有“舉一反三” 諷刺的是：AI研發成了最勞動密集型的工種——披着高科技外衣的經驗試錯。 🎓 五、建設性：教育往何處去 全書落腳點意外務實：既然機器替代理性重複勞動，教育必須從“訓練邏輯機”轉向“培養人”。 麻省理工學院新工程教育12種思維（節選）： · 學習如何學習：元認知能力 · 製造：發現並創造新事物 · 人際技能：溝通、傾聽、領導 · 人本思維：理解人文、制度、藝術 作者預言：未來被淘汰的不是體力勞動者，而是坐辦公室的流程執行者；車間裏伴隨動手思考的創造性技工，反而無法替代。 🌌 六、科學觀昇華 這不是一本反科學之書，而是祛魅之書： “科學不是靜止的結論，是演進變化的；科學工作者不是秉持真理的聖徒，只是秉持好奇心的人類一分子。” 知其不能而能。承認不完備，正是人類區別於機器之處。胡適那句被用濫的話，放在這裏反而恰切：怕什麼真理無窮，進一寸有一寸的歡喜。

對於人工智能，如果回望歷史，2024年可能十分重要，具有里程碑意義。 這一年，OpenAI公司的ChatGPT僅用了幾個月的時間，就從模型發展到大範圍應用。以摩爾定律的速度更新換代，迅速進入到人們的生活和工作，讓人們猝不及防。 自動駕駛汽車加快了上路進程。武漢有蘿蔔快跑，濟南有無人駕駛公交。2024年10月11日，特斯拉推出的自動駕駛汽車 Robotaxi，首次取消了方向盤，智能汽車顯露代替油車的前景。 2024年的諾貝爾物理學獎，頒給了研究人工智能的科學家——約翰·霍普菲爾德和傑弗裏·辛頓。2024年的諾貝爾化學獎，頒給了用人工智能設計和預測蛋白質結構的科學家——大衛·貝克、戴米斯·哈薩比斯和約翰·江珀。同一年的諾貝爾獎有兩項和人工智能有關，表明了其在科學中的重要地位。 人工智能應用以井噴之勢出現在用戶端，各類軟件開始內嵌人工智能分析、總結和預測功能。這一切都表明，人工智能正在快步走進人類世界。 人工智能的發展，對我們的生活、工作，甚至對我們的社會結構都將帶來巨大改變。也讓人們產生憂慮，甚至恐懼。很多人都在猜測，未來有哪些工作即將被替代，有哪些人即將失業。 還有許多科學家、企業家、政治家都提出人工智能發展過快，需要抑制。但人工智能帶來的便利讓人趨之若鶩，讓這個行業的盈利潛力飛速爆炸，吸引了大量的資金、人才。歷史的車輪已經發動，呈不可抵擋之勢。未來已來。 在上世紀七八十年代，人工智能剛剛起步的時候，人們就對其感到憂慮。揣測它們會不會超出人類掌控，威脅人類生存。 還有人猜測，未來的人類將被機器替代，人類由孱弱的碳基生物轉化爲強悍的硅基生命。由人工智能接過人類文明的旗幟，代替人類，邁向太空。 更有甚者，提出人工智能在某個時間覺醒（零時刻）獲得意識，擺脫人類約束，拋棄人類，甚至滅絕人類。那個時刻之後，人類爲了生存，將不得不和人工智能展開大戰。《終結者》、《黑客帝國》、《我，機器人》等電影都展示了這種可怕後果。 這一切真的可能嗎？人工智能真的會產生意識，獲得和人類一樣，甚至超出人類的智能嗎？ 要了解人工智能，首先要搞清楚，何爲智能？ 1.何爲智能？ 簡單來說，智能就是個體和環境在互動過程中展現出來的能力。哈佛大學的霍華德·加德納教授提出了多元智力理論，將人類只能分爲八種類型： （1）語言。 （2）視覺。 （3）音樂。 （4）邏輯。 （5）運動能力。 （6）人際交往。 （7）自我認知。 （8）自然觀察能力。 每一種只能類型都是各種簡單能力的綜合。爲了便於分析，我們進一步簡單化，將其分爲 （1）感知能力。 （2）記憶力。 （3）分析能力。 （4）理解能力。 （5）語言能力。 （6）創造力。 （7）想象力。 由此，可以在這幾個方面將人類和人工智能做個對比。 （1）感知能力。人類依靠眼耳鼻舌身五種感覺器官獲取外界信息——色聲香味觸。這些信息，人工智能靠檢測儀表也能做到，甚至比人類更敏銳，探測範圍更大。這一點，人工智能可超越人類。 （2）記憶力。人工智能用硬盤存儲的數據比人腦多出好幾個數量級。這一點，人工智能秒殺人類。 （3）分析能力。人工智能基於算法，用處理器分析數據，其速度遠高於人類。這一點，人類依然比不過人工智能。 （4）理解能力。在這裏，人工智能和人類完全處於兩個賽道。現在的人工智能是依靠算法和大量數據進行分類整理，做出分析和判斷。它們並不真的理解接收的東西，只是用分析代替理解，其理解方向由人類編寫的算法決定。而人類是真正的理解。這一點，人工智能無法和人類相比。 （5）語言能力。通過算法和相應的硬件，人工智能的聽、說、讀、寫能力並不遜於人類。但是，這種能力對人工智能僅僅是信息的輸入輸出。對於人類來說，語言還能傳達深刻的信息。有時候不需要說話，只用一個眼神就能表達複雜的的信息。這一點，人工智能遠遠做不到，甚至也理解不了。 （6）創造力。人工智能基於大量數據和算法可以大量產出文字、圖像、視頻、3D打印等各種產品。本質上說，這是對現有數據的組織和轉化，並不生產新的內容。是一種僞創造力，似是而非。而人類可以從無到有，創造出從來沒有的東西。 （7）想象力。機器人會做夢嗎？《仿生人會夢見電子羊嗎》、《機器管家》、《西部世界》、《失控玩家》等人工能否獲得智能進行了想象。但是，這些僅僅是想象。在目前的計算機架構下，這是不可能的。想象力是人類區別於人工智能最顯著的特徵。 通常說的人工智能，指的是一組計算機，通過相應的硬件和軟件，具備甚至超越人能智能。它的基本架構和計算機相同，即，控制器、運算器、存儲器、輸入設備、輸出設備。在本質上屬於圖靈機。 輸入設備實現感知能力，輸出設備實現語言能力，存儲器實現記憶力，運算器實現分析能力、理解能力，以及有可能存在的創造力和似乎不可能存在的想象力。控制器則總覽全局，負責組織協調各個模塊的有序運行。 通常所說的人工智能，指的就是運算器展現出的能力。 2.人工智能的工作方式 當前最主流的人工智能算法是人工神經網絡，用計算機模仿人類神經元的工作方式，通過學習大量數據，使計算機能夠認識真實世界中的東西，並做出符合人類要求的應對方式。 要實現人工智能，最重要的因素有三個：硬件、算法和大量數據。 然而，人工智能雖然是模仿人類大腦，人類大腦的運作方式並沒有這麼簡單。 首先來看語言。人類的語言十分神奇，可以通過語法來理解字面意思，通過說話人的態度瞭解他們的內心所想。但是，人類語言並不是完整的工具。我們之所以能用語言交流，是因爲互相之間具備了大量共同認知。如果沒有共同認知，語言交流將十分困難。這就是爲什麼有些行業術語、江湖黑話只有內行能聽懂，外行聽來一頭霧水。 我們之所以能夠溝通，是因爲建立的共識基礎上的信任，人和人之間可以原諒彼此，甚至因爲理解了溝通的缺陷而有了溫情。 計算機不具備這種能力。如果離開人類，要計算機描述清楚一件事物，需要大量的前置信息。這種信息的數量可以無限向前追問，進而無限大。正因爲如此，人工智能迴避這個問題，通過模仿人類和大量數據庫。不問原因，只要結果。 從這一點來看，人工智能理解不了它發出的信息。 3.邏輯系統 既然語言這麼複雜，人工智能如何避免陷入無限共識的深淵呢？答案是，依靠邏輯。 圖靈機正是人類製造的實現邏輯推演的工具，人工智能基於圖靈機完成邏輯推演，就能避免語言陷阱。 同樣，我們的科學思維也是基於邏輯推演。依靠邏輯，我們對自然界的觀察才能產生有意義的衍生品——新的知識。 邏輯推演要符合以下四個基本原則： 同一律：一個事物就是它自己。 矛盾律：一個事物不能即是它自己又不是它自己。 排中律：一個事物要麼存在，要麼不存在。 充足理由律：任何事物的存在都有其理由。 同一律的作用在於保證思維的確定性；矛盾律的作用在於保證邏輯的自洽性；排中律避免了大而全的理論，理論必須有明確指向；充足理由律是前三條邏輯規律的必要補充，指出判斷與判斷之間的聯繫具有必然性。 可以簡單理解爲，前三條邏輯規律是前提，充足理由律是邏輯應用。亞瑟·叔本華將充足理由律總結爲四種形式： 生成的充足理由律（因果律）。 認識的充足理由律（邏輯推論）。 存在的充足理由律（數學證明）。 行動的充足理由律（動機）。 一個完美的邏輯系統，至少是完備（完）的和自洽（美）的。 完備，知識系統中所有命題都可以被證明。完備要求理論有用，能夠對體系內的有效命題進行判斷。 自洽，理論體系的命題必須前後一致。自洽要求理論有效，不能自相矛盾。 我們現有的邏輯體系基於一些公設而建立。即，先不加證明的將某些命題作爲前提，然後從這些前提導出系統中所有的其他命題作爲定理。 這樣的公設體系和推演規則總稱爲形式系統，它是構建一切已知科學知識體系的基礎。 公設系統必須是完備的，能夠對系統內的每個命題進行證實或證僞。人類一直希望通過邏輯工具建立完美的知識體系，在這個體系中，完全排除人類的主觀影響。一旦有了這樣的體系，並且這樣的體系可以自動生成新的知識，包羅萬象，形成所謂的人工智能。人類本身的作用就不大了。 這樣的體系存在嗎？ 4.哥德爾不完備定理 很遺憾，也很慶幸。就在科學家們如火如荼的建立這種體系的時候，一個搗蛋鬼出現了，他就是哥德爾。 哥德爾是愛因斯坦在普林斯頓大學的同事。在愛因斯坦去世前十幾年，他們總是結伴而行，一起步行上班，一起步行下班。甚至可以認爲，愛因斯坦晚年之所以堅持去大學繼續工作，正是因爲他喜歡和哥德爾聊天。兩個偉大的頭腦，不知碰撞出多少火花。 哥德爾從一個兩千年前人們就知道的說謊者悖論出發，用理性工具本身證明了理性工具的不理性。 哥德爾的第一個不完備定理：在至少可以描述算術運算的自洽形式系統中，一定存在既不能被證實也不能被證僞的命題。比如說：“這句話是錯的”。如果證實，則這句話應該是對的，和描述不符；如果證僞，則這句話是錯的，和證明結果不符。 哥德爾第二個不完備定理表述爲：這樣一個形式系統無法證明系統本身是自洽的。 哥德爾不完備定理指出，若形式系統是自洽的，則此係統必定是不完備的。 哥德爾第二不完備定理則說，上述形式系統本身的自洽性在這個體系內部也是不可判定的。 哥德爾不完備定理可能導致我們不能夠完全描述我們的共識。爲了彌補一個概念的不足，我們不得不引入新的概念。很快又要去彌補這個新概念的不足，哥德爾第二不完備定理告訴我們，對概念的詳盡解釋是做不完的。 哥德爾的工作事實上挑戰了，或者推翻了人類從亞里士多德開始追求的絕對理性。具有深刻的科學和哲學價值。 這說明，不確定性是人類認知的形式邏輯和理性思維本身固有的，即使我們可以通過發現新證據來彌補真理體系的不完備，但這些新證據一樣會導致另外的不完備。 同時，哥德爾的不完備定理向我們證明了人類的思維具有一些無法被計算機模仿的特殊性質：我們人類明明可以看到有些陳述是真的，但機器卻不能。這就決定了人工智能的侷限性，它無法即完備又自洽，不能突破理論框架，也不能自主產生新的知識。 行文至此，答案顯而易見：在圖靈機的框架下，人工智能無法取代人類。 5.理性邊界 哥德爾不完備定理限制了我們隨心所欲的能力，這事實上也保護了人類自己。因爲一旦有可以把我們“人”移除出去自動尋找真理的算法，那我們人類自己也就可以真的被移除出去了。 從本質上說，哥德爾所證明的是，無論任何語言，即使是數學語言，都不足以徹底、完全地表達日常的“真”的概念。能夠用有限邏輯描述的知識體系本身是有缺陷的，是需要不斷擴充的。而進行這種擴充的一個實際有效的做法，反而是我們謎一樣的直覺，迴歸到對世界認知的常識。 如此一來，哥德爾不完備定理似乎給我們規定了理性的邊界。正如海森堡不確定性原理，似乎給人類確定了認知的邊界。 這就解釋了爲什麼我們總需要感性部分的存在，總有些直覺的認知無法被理性取代。這些感性的認知成就了我們人之所以爲人的重要性。 於是，問題回到了原點，要不我們存在一個一直在擴充的系統，每一個新的超級系統囊括並解釋下一級系統。而在這個系統的頂端，存在着一個不自洽或不完備的公理系統。 哥德爾證明數學世界是取之不盡，用之不竭的，沒有一套有限的公設和推理規則可以包含整個數學範疇。給定任何一組公設，我們可以找到有意義的數學問題，這些問題是公設和它們的合規推理都無法解決和判定的。我們希望物質世界中存在類似的情況，如果我們對未來的看法是正確的，那就意味着物理世界也是取之不盡用之不竭的。 哥德爾的理論最終會引發人們研究數學和物理世界的無法預料的本性和新熱情。不完備定理應該成爲我們尋求未知世界的新的自然法則：我們沒有理由限制自己對自然基礎的探索，可能也不能用任何方式說明我們找到了描述自然對稱性的普遍工具。 承認知識的不確定性，會讓我們自然想到，科學上的結論其實並不具有許多人所堅持的科學本質的意義，而只具有認識的意義。世界上雖沒有那種不容置疑的絕對確定性知識，但知識也不是非要有這種不容置疑的絕對確定性。因爲，儘管我們對任何事物的認識隨時都會犯錯誤，但是我們對自然的認識畢竟在這樣的悖論中真的前進了。 我們不能用我們手頭已經掌握的定律來執行任何特定計算或構建算法來預測未來，因爲我們甚至不知道未來會有哪些新的定律出現，不完備性困擾着哪怕非常簡單的自然法則。 這些關於真理的發現能力的限制，對人類來說是個好消息，我們不用太擔心機器會自動發現真理。 因爲不完備的存在，邏輯機器和建築在它之上的人工智能算法只會成爲完善我們知識體系的工具，而不會帶來超越我們所給出的有限假設所設定的新的認知。新的認知需要我們跟自然界接觸，認識到現有知識體系的侷限。

1.讀完這本書印象最深的倒不是作者提到的大量的科學的史料與前沿知識，雖然這佔了書大量篇幅也很有價值。我直觀感受的主要是其他兩點，一是有夾帶私貨的嫌疑。行文會有些囉嗦，感覺更像是作者自己梳理了一遍自己一直以來的感想和思考。從書本開始切入到最後的結論呈現跨度很大，涉及了很多數學，物理等的衆多歷史人物以及各方面的前沿知識。可以把它們看成是科普，一起跟隨作者自己的思路一起往前，領略人類智慧的旅程。需要有點耐心看到最後。二是作者是比較有趣的。有比較大量的讀書積累，能夠引用各種經典，也時常有一些俏皮有趣的觀點，這個是直到讀到最後幾章才感受到。最後幾章開始逐步揭開本書的主旨，即從哥德爾不完備定理推導出的人工智能與人類的本質區別。最後的幾章看完才把之前作者的大量鋪墊能夠串起來了。 2.人類認知和科學的三個階段。第一階段古典神祕主義，看到現象，有各種猜測，但無法去證實，留下各種神祕無法解釋的言語。第二階段是伽利略和牛頓代表的經典階段。建立了知識體系和科學的方法，這個階段構建的是確定的、機械的、靜止的宇宙時空觀。第三階段是以量子理論和哥德爾不完備定理爲代表的階段。這個階段開始讓人們認識到不存在確定的絕對真理，科學也只是務實主義者的無限遊戲。它是積極的有效的，永遠處在不斷接近真理但永遠也無法到達真理的無限循環中。它讓人們認識到理性的限制，人類知識體系的脆弱性。 3. 構建在經典的圖靈機之上的人工智能就是基於一些前提假設和邏輯推理的系統。這個系統根據哥德爾不完備定理，它不可能突破自身，它只能被困在系統中發現這個系統中存在的知識，而不能像人類能夠隨意穿梭各種系統，打破固定的系統。 4.機器智能來自於算法，而算法來自於人類的描述，凡是可以描述的基本可以用經典的圖靈機來實現。不過受限於計算，某些可以描述但是無法精確計算的NP問題也暫時無法解決。量子計算機有可能可以解決，但目前還沒能看到實現的可能性。而且即使是量子計算也不是無限的，有可能有自身的NP問題。剩下的就是那些人類能直覺感知到的但無法描述的存在如意識、情感、思維以及智能。這些目前還無法被精確描述和定義，因此機器還無法實現這些無法被描述的存在。人類可以憑直覺感覺到他們的存在，機器還無法做到，這是機器與人的另一個本質的區別。 有點俏皮的一句話是既然凡是能描述出來的東西都能被實現，因此人工智能不能做什麼，答案是不能說。 總體來說作者從哥德爾不完備定義的角度重新來理解人工智能是非常新穎的角度，觸及到了本質，還是大開視野的。

這是我五一以後讀得最認真的一本書，根本原因在於這本書解答了我之前對於那些擅長表達者通過引經據典，旁徵博引古代聖賢，各路名家，當代權威的言論作爲他們理性輸出內容的背書，持懷疑態度的合理性。以及這本書也是2023年ChatGPT橫空出世以來，關於人工智能Al會否即將進階爲AGl或者ASl的奇點時刻而最終取代人類的焦慮的比較系統和令我信服的解答。 重點是作者給我介紹了一位我的認知體系之前從未涉獵的與愛因斯坦忘年交的科學泰斗哥德爾。而哥德的爾不完備定理，是我個人目前爲止認爲是應對人工智能時代焦慮和量子物理學的一把鑰匙。 由於這本書，對於作者馬兆遠老師也加深了印象，過程中才發現五一期間快速讀完並且決定從頭再認真讀一遍的《世界的邏輯》也是他的作品。 接下來準備從《量子大嘮嗑》開始系統閱讀馬老師的作品之前，我可能要先看一遍《1984》和《波西米亞狂想曲》。 一本好書的好，除了文字可以寫下來的，更多的在那些只可意會不可言傳的部分。關於這一點，從前我總是覺得才疏學淺很遺憾，沒想到描述不了的直覺感受纔是人類大腦接近於量子意識的厲害之處。直覺上我們總是喜歡我們既有的認知體系經常被這種反直覺的認知所巔覆。很欣慰，

在算法時代，重新理解人的邊界 一、認知缺口：我們到底在怕什麼？ 你有沒有過這樣的時刻——DeepSeek 寫出了幾乎完美的代碼，MidJourney 畫出了你想象不出的畫面，GPT-4 在律師資格考試中擊敗了 90% 的人類。你心裏有個聲音在問：「我會不會被取代？」 這個恐懼是真實的。但它真的合理嗎？ 馬兆遠（清華大學未來實驗室首席研究員，17歲保送北大物理，25歲牛津博士）在《人工智能之不能》裏，給了一個非常硬核的答案：不會。 他不是靠情懷說的，而是從數學和邏輯的本源證明的——哥德爾不完備定理（1931年）告訴我們：任何形式系統都存在不可判定的命題。AI 基於形式系統（語言 + 邏輯），因此 AI 也有其不可逾越的邊界。 這不是技術問題，是數學問題。 二、信息密度：AI 的三大邊界（認知模型） 馬兆遠從三個維度，拆解了 AI 的「不能」 邊界 1：語言理解的邊界 語言是可以理解的嗎？語言是可靠的嗎？ AI 能模仿語言，但 AI 無法真正「理解」語言背後的意圖、情感、文化語境。有些真理我們能夠認識到，但不能爲算法所描述。 邊界 2：邏輯的不完備性 哥德爾不完備定理證明了：任何足夠強的形式系統，都存在既不能被證明也不能被證僞的命題。 AI 基於形式系統，因此 AI 的推理也有其邊界。它無法處理那些「不可判定」的問題。 邊界 3：量子力學的奇異性 量子世界的奇異性揭示了確定性的邊界。AI 基於經典邏輯，無法完全捕捉量子世界的本質。 人類直覺（未經嚴格推理的洞察）往往能跨越這個邊界——這是算法做不到的。 📌 認知模型：AI 邊界認知框架 當你糾結「AI 能不能做 X」時，問自己三個問題： 1. X 是否涉及「語言理解 / 邏輯判斷 / 量子不確定性」？ 2. 如是 → AI 有邊界，無法完全替代人類 3. 如否 → AI 可能勝任，但需人類監督 三、模式觀察：從「怕被取代」到「人機共生」 讀完這本書，最大的改變不是「不怕了」，而是問題變了 以前問的是：「AI 會不會取代我？」 現在問的是：「AI 的邊界在哪裏，我的優勢在哪裏？」 馬兆遠在最後一章給出了路徑：人機共生。 不是恐懼 AI 取代，而是認識其邊界，聚焦人類認知優勢（直覺 / 創造力 / 情感理解），探索人機協作的最優解。 📌 行動框架：人機共生三步驟 1. 畫邊界地圖：列出你當前面對的問題/任務/領域，做三分類 • a) AI 能做得很好的（重複性、大規模數據處理、模式識別） • b) AI 可以做但需要人類監督的（醫療診斷輔助、法律文書初稿） • c) AI 原則上不能做的（需要直覺判斷、倫理決策、創造性突破、情感連接） 2. 鎖定人類優勢區：聚焦「c 類任務清單」——直覺判斷、創造性思維、倫理決策、情感理解、跨領域聯想、面對不確定性的應變。這些是人類智能的核心堡壘。 3. 設計協作接口：對「b 類任務」，設計人機協作的標準操作流程（比如：AI 生成初稿 → 人類修改定稿；AI 提供數據分析 → 人類做戰略決策）。 四、人文旅行關聯：回到科學本源 這本書讓我想到一個地方——英國牛津 · 克拉倫登實驗室（Clarendon Laboratory） 這裏是馬兆遠攻讀博士學位的所在地，他師從「超冷原子理論之父」Keith Burnett 爵士，在這裏完成了關於量子物理和超冷原子的博士研究。 三層關聯理由： 1. 量子力學的理論和實驗交匯點：克拉倫登實驗室從事的激光冷卻和玻色-愛因斯坦凝聚研究，正是書中論證「量子奇異性是 AI 邊界之一」的物理基礎。 2. 從牛津到天宮的科技傳承：馬兆遠在牛津的研究不是書齋裏的理論推演——他後來爲中國空間站「天宮四號」設計了世界第一個空間冷原子實驗平臺。這種「從克拉倫登實驗室到天宮四號」的跨越，本身就證明了基礎物理學研究的實際價值。 3. 旅行本身就是一種朝聖：牛津是一個充滿學術儀式感的城市——斑駁的石牆、古老的學院方庭、博德利圖書館的閱覽室，到處都能讓人感受到幾個世紀以來人類知識的累積。對於讀完了《人工智能之不能》的讀者來說，到克拉倫登實驗室門前站一站，會是一種特殊的體驗。 如果你對 AI 邊界這個問題感興趣，不妨去牛津走走。不是去尋找答案，而是去感受科學本源的思考方式——有些問題，算法算不出來，但人可以。 金句摘抄： 1. 「有些真理我們能夠認識到，但不能爲算法所描述」 2. 「怕什麼真理無窮，進一步有進一步的歡喜」（胡適，引用於書中） 3. 「知其不能而能」（書中結語） 4. 「哥德爾不完備定理是全書邏輯支柱：任何足夠強大的形式系統都存在不可判定的命題」 讀書療愈·認知覺醒系列 用一本書，重新理解自己。

1.不要抱怨這本書枯燥，這本書努力避免使用這些不靠譜的論證方法，以免讓本來就深邃的概念更加令人糊塗。忍忍就好，值得的。 2.這是哥德爾的第一個不完備定理：在至少可以描述算術運算的自洽形式系統中，一定存在既不能被證實也不能被證僞的命題。 同樣，哥德爾第二個不完備定理表述爲：這樣一個形式系統無法證明系統本身是自洽的。 3.哥德爾不完備定理一舉粉碎了數學家們這個長達兩千多年的信念。它告訴我們，“真實”與“可證”是兩個不同的概念。 4.愛因斯坦的相對論只表明傳統感官意義上的時間不存在，而不是時間在任何意義上都不存在。 5.引力質量就是慣性質量，重力就是空間彎曲的效應。 6.如果狀態A是一個允許的存在，狀態B是一個允許的存在，那麼一定有一個亦A亦B非A非B的狀態，也可以是一個允許的存在。這就是有名的量子疊加原理，它是量子力學中“詭異”的根源。 7.多伊奇提出了量子圖靈機的概念，成爲所有今天所談及的量子計算的原型。 8.圖靈說明了藉助於圖靈機，所有可描述算法都可以由圖靈機來完成，但所有不可描述的東西意味着我們也不懂。比如感情、聯想、直覺，我們都不懂如何用算法來描述人類這些特別的技能。 9.涉及基於大量操作經驗而形成的直覺，這是目前人工智能很難與人進行比照的方向。 10.社會需要的是具有創造力、充滿好奇心並能自我引導的終身學習者，需要他們有能力提出新穎的想法並付諸實施。 11.如果說真理給我們描述了一個可能普適的樣子，哥德爾不完備定理告訴我們真理的正確是有明確的前提的，把這些前提也當作正確的話，就需要更多的前提來說明這些前提在什麼情況下是正確的。 12.可證的一定是真實的，但真實的不一定可證的。 13.主觀的時間和客觀的時間之間存在着具體的裂痕，“時間是什麼”依然是最讓人迷失但也最迷人的問題。 14.這個說法也適用於個體的人，事事講究原則的人一定有無法講原則之處。 15.用語言學的術語說，就是語法無論多麼豐富都不能完全取代語義。 16.宗教的內容很多是錯誤的——但宗教本身沒錯。 17.哥德爾不完備定理揭示了真實和可證之間那條無法逾越的鴻溝。 18.哥德爾，以優美但並不簡潔，但與他同層次的數學家相比已經足夠簡潔的方式證明了，這不可能。他實際上告訴了我們，不會有一個機器，基於我們所希望的理性，自己去完成對真理的探索。 19.舊的世界被顛覆，新的還沒有建立起來，今天，我們所面對的是一個新大陸出現在地平線上。 20.當人們追求絕對真理的時候，實際上就已經偏離了追求真理的正確道路，其結果是，發現絕對真理這件事情本身就是悖論，因此我們退而求其次，只求方法的靠譜和在限定前提下得出相對可靠的結論，並隨時準備推翻它。 21.語言教育保證未來人與人之間溝通能力的基礎，而數學的教育則是人和人工智能之間溝通能力的保證。 22.人類永遠有能力在看似困境中找到出路，這也正是人類智慧超越機器智慧的表現。 23.問題並不存在一定正確的這樣或那樣，而事實上哥德爾不完備定理說明，我們沒法描述一定正確的真理本身，這樣就需要我們界定討論的前提條件，所有論述都只能在特定的前提下才有意義。 24.如果說真理給我們描述了一個可能普適的樣子，哥德爾不完備定理告訴我們真理的正確是有明確的前提的，把這些前提也當作正確的話，就需要更多的前提來說明這些前提在什麼情況下是正確的。 25.我們所慣有的科學教育讓人太早喪失了對科學本身的興趣，一旦不用把它當作升學的敲門磚，很多人就迫不及待地將它丟回給老師。 26.哲學最近一百年對科學最大的貢獻是沒有貢獻，用一句話來概括，哲學家之於科學家，如同鳥類學家之於鳥類。 27.文字的行走和自然世界的規律是類似的，事物都在彼此中成就，沒有永恆，只有生長。 我不知道我哪來的勇氣讀這本書，隨便一個方向都能作爲博士論文來完成，但我知道我賺大發了。雖然考不上中科院，但一樣可以讓中科院老師給我講課。 本書的後半部比前半部精彩，前半部分比較難懂。但這並不意味着，前半部分不值得讀，相反，沒有前半部分後半部不會這麼精彩。就像登山，風景用在山頂，可沒有爬山的過程，讓你直接空降到山頂，你又能體會到多少山頂的快樂？這一步一步攀登的過程本身也是風景的一部分，只有大汗淋漓登上山頂，眺目遠望的那一刻你才能全然感受到山頂的暢意。會當臨絕頂，一覽衆山小。這個小是你自己，而絕頂也是你自己。 現在的人工智能是基於目前的計算機和目前的算法，而目前的計算機是基於圖靈機原理設計的。只要是可描述的，就可以被編譯成算法，但哥德爾不完備定理告訴我們很多並且是大多數是我們不可描述，也確定爲真，確實存在的，目前的算法，目前的圖靈機對此無能爲力。所以人工智能並不是萬能的。人類自己對自己的一些想法，感受，創造力都不知道從何而來，它們不可描述，且稱之爲暗知識，就像宇宙中的暗物質一樣，相對可描述的知識，這些纔是海面下的冰川。而量子力學好像可以解決這個問題，只是實現它還有很多困難。 如果人是水，學校是管道，我們就被學校無形中要求呈圓筒狀前行，最好能直接變成冰，管理人就太省事了，不怕你亂跑，惹麻煩。可世界花花綠綠，形形色色，方的方，圓的圓，什麼樣都有，問題也五花八門。還一直要求自己是圓筒狀就太可笑了，但讀書就是把自己從液體水變成氣體水，我管你是方的圓的，曲裏拐彎的，還是別的，我無孔不入，我無形不能，我自由自在。 需要豐富了，更多的事物可以描述了，但是我們的感知好像退化了，今天我們一樣能看到唐朝人看到的衆多奇異風景，但我們沒有了那種感受，不是語言無法闡述，而是內心無法感受，音樂也是一樣。我們沒有了那種讀書爲了做官，而做官考試只是評價學習的一種方法，做了官也可，不做官也可，一杯酒就可以飲一世。我們沒有了那種激情，沒有了那種蕩胸生曾雲，決呲入歸鳥。我們太追求有用了，“三十輻共一轂，當其無，有車用……姑有之以爲利，無之以爲用”我們困在有之，卻沒有發現太多無之，可世界大多是無之。 我們從非洲走出來，就一直像遊牧民族一樣遷移，從地理上的遷移，到身份的遷移，再到精神世界的遷移，只要定居下來，就會有人坐享紅利，也總會探路者不斷出發，尋找到新的棲息地改變人類的生活狀態。人工智能不會讓人類失業，不會讓我們變得無用，它只會像歷史上其他事物的出現一樣，讓我們從一個地方遷徙去另一個地方。

這本書值得一讀再讀。原因有二：一則，它的內容從理解上說確實有點深度，多看幾遍才能明瞭。二則，它帶來的觀點是富有啓發意義的，往往給人一種被“點醒”的感覺。 千萬別被書名給騙了。這不是一本討論人工智能的書。不是的。相反，它藉助書名，給了讀者一個暗示：人工智能，是相對於“人”而言——這就對了，這是一本討論人類的理性、智慧、認知的書。人工智能是人類創造的，是人類理性、智慧和認知的產物。而面對這個廣袤無垠的物理世界，人類的理性、智慧和認知還有很多未解之謎，或者說還有很多知其然但是不知其所以然、也無法證明其所以然的東西，這些東西，同樣反映在人工智能迄今爲止的“智能盲區”上，所以，人工智能怎麼可能超越人類呢？ 這本書要看到末尾，才能突然明白作者的意圖。雖然作者聲明自己不全是在介紹哥德爾不完備定理，但其實全書就是以哥德爾不完備定理爲主線，或者說，以哥德爾不完備定理爲有力憑證，闡述了人類理性、智慧和認知的侷限和新的發展的可能。人類已經意識到了這一點，也意識到了物理世界真實的面相大概率是與此同構的，而人類理性、智慧和認知的新的可能，恰恰在於意識到了這個侷限之後，跨出去，迎接新的未知和未來。 這本書可以和《理性的邊界》一起讀來着。

#推薦閱讀的書單# #好書推薦#  推薦人：陳章魚 本週我們新上線了一本電子書，叫《人工智能之不能》。讀完這本書我發現，別說是行走的 AI 了，就是真的 AI，也有各種解決不了的問題。 這本書特別精彩，他是用人工智能的邏輯，去證明人工智能的邊界，當然，這個論證的過程比較複雜，我沒法用三兩分鐘給你說清楚，可是結論是，不是所有的問題，都可以用計算來解決，所以人工智能有很多做不到的事情，大到證明哥德巴赫猜想、研究蝴蝶效應那個混沌理論，小到像我們每個人一樣利用直覺做判斷，這些都是AI做不到的，不是現在做不到，而是通過邏輯證明，始終做不到。 強烈推薦這本《人工智能之不能》。讀完這本書，你會對人工智能、計算機還有數學都有新的看法，而且也能放心，就算在未來，人類也有無法替代的優勢，我們的工作不會都被AI搶走。

作者把哥德爾 不完備定理視爲一把衡量“理性極限”的尺子。當這把尺子放到物理學語境時，它立刻與“時間”這個不可逆參數相遇。 ​​1. 作爲物理認知限制​​ • 現代物理——從經典力學到相對論——都依賴於時間方程來演化解析系統未來狀態。但 不完備定理告訴我們，只要系統足夠複雜（包含足夠多的自由度或相互作用），就存在既爲真卻無法在體系內證明的命題。換言之，總有些初始條件或演化路徑，使得“下一步會發生什麼”在理論上不可判定，哪怕我們擁有完整的微分方程。作者將這一結論歸入“理性的典範：算術”一節，用來說明 even 算術都無法做到自洽且完備，更遑論物理理論對時間的描述。 • 量子力學、蟲洞、暗物質等前沿概念進一步模糊了“時間”作爲全局參數的地位——在量子尺度甚至宇宙學尺度上，時間可能並不連續、可逆或普遍同步。這使得基於經典時間觀的預測模型天然不完備，從而把“時間”直接暴露爲認識世界的結構性缺口。 ​​2. 作爲人類智慧的核心​​ • 認知科學與本書前文的討論指出，人類優於圖靈機之處，在於能夠跳出有限公設、憑藉直覺與經驗爲系統補充新假設。時間恰恰提供了這種“跳出”的契機——它把過去、現在與未知未來並置，讓人類意識到“當前公設 + 當前數據”不足以窮盡真理，從而激發提出新公設、跨學科整合、經驗驗證的衝動。 • 換言之，若沒有時間帶來的“不確定性窗口”，人類就失去介入與創造的空間；正是時間-不可判定性與理論-不可判定性的疊合，讓“下一步該怎麼做”既無法自動計算，又必須由智慧來抉擇。這種抉擇不是邏輯推演的結果，而是人類創造力、價值判斷與經驗的綜合。 ​​3. 合二爲一的視角​​ 作者在第六章的延伸討論中強調：“一個完美規劃的社會或一個完美確定的物理理論都可能存在不自洽或不完備的問題”。時間就是那個讓“完美規劃”落空的因素；它把不完備顯式地呈現在每一次演算與決策之中。對於物理學家，它限定了理論的預測範圍；對於人類，則提供了改造理論、超越舊框架的舞臺。因此，時間既是認知的邊界，也是智慧生長的沃土。 ​​總結​​ 時間之所以“既是物理認知限制又是人類智慧的核心”，是因爲它把哥德爾 不完備定理在物理層面具體化：在時間序列中，系統演化不可完全預言，從而暴露理論缺口；而人類正是憑藉對這種缺口的敏感與不甘，發展出直覺、創造力與跨學科方法，不斷擴展知識體系。時間讓我們知道“有所不能”，也因此成爲推動智慧前行的永恆動力。

我是理科生，但我感覺更喜歡文科（除了地理有點頭痛）。所以這本書中的許多論證都看不懂。好似座井觀天 例如：哥德爾證明，一個被認爲是真實的公設永遠不會在其自身系統中得到證實或完善。在任何給定的系統中，至少有一個公設必須是假的或未經證實的。第二定理說，無論你的推理多麼完美，你永遠不能排除某個人在某個地方或者某個時間，可能會使用你的數學系統來證明“1=0”的可能性，理論自洽性不能在自身系統內被證明 再如：孿生子悖論。有孿生兄弟二人，哥哥坐飛船以0.8c的速度離開弟弟所在的地球，過了地球上的10年後回來。這時候哥哥在飛船上實際經歷的時間是：6年，所以當兩個人再見面的時候，去宇宙旅行過的哥哥會比弟弟年輕4歲。但如果我們稍加思考：運動是相對的，當宇宙飛船相對於地球以0.8c的速度運動，地球也是相對於飛船以0.8c的速度在運動。當兄弟倆再見面的時候，應該是弟弟比哥哥年輕4歲 到底誰年輕的呢？狹義相對論並不能回答這個問題。這就是著名的“孿生子悖論” 例子太多了，腦殼疼 再來複習一下熱力學第二定律：麥克斯韋妖的悖論（熱力學幾個基本的公設：1.熱力學第一公設：能量守恆；2.熱力學第二公設：封閉系統熵增加；3.熱力學第三公設：絕對零度達不到；4.熱力學第零公設：溫度相等的物體熱平衡 麥克斯韋（James Maxwell）對熱力學第二公設提出了一個悖論。假設我們有一個裝着不同分子的小盒子，盒子中間有一個隔板，隔板上面有一個小洞，小洞上裝一個開關都不消耗能量無摩擦的門。一開始的時候兩種不同的分子充分混合，系統的熵達到最大。這時候有一個小妖來控制這個門，當它看到一種分子從盒子的一端飛過來，就開門讓它飛到另外一端，另外一種分子飛過來就關上門把它擋回去。這樣只要持續得夠久，不需要任何能量，小妖是可以把兩種不同的分子分離到箱子的兩邊。由此，不需要任何能量系統的熵就減少了，而這違背了熱力學的第二公設。這個小妖就被後人命名爲麥克斯韋妖（Maxwell’s demon），它困擾了物理學家很久。因爲宇宙是個封閉系統，如果一個封閉系統的熵只能朝着增加的方向走，總有一天宇宙的熵也會走到最大，那時候所有可能的反應都發生過了，宇宙成爲一團沒有任何反應發生的物質，一片寂靜。這曾經是人們以爲的宇宙的終點，被稱作熱寂。那麼，本來說好的熱寂，難道就因爲這個虛構的小妖解決了嗎？ 很多年後，香農解決了這個問題。他說，小妖看到哪一種分子飛過來而決定開不開門這個過程並不是沒有代價的，它要消耗能量。得出是哪種分子的結論這需要有能量來支持觀測和計算。任何信息處理都是需要能量的，這個能量的最小值，香農定義爲：W > -KBTΔS其中，KB是玻爾茲曼常數，T是溫度，ΔS是信息有序性的變化。信息處理是個物理過程，需要消耗能量。從這個公設出發，香農建立了現代信息論——計算機和信息處理理論的另一塊基石 呼應一下本書的名字《人工智能之不能》：機器是被限制在一個它們無法逃脫的形式系統中運作的，人工智能並沒有超越這一點。因此，正是這種能力使人類思想本身與機器不同。因爲不完備的存在，邏輯機器和建築在它之上的人工智能算法只會成爲完善我們知識體系的工具，而不會帶來超越我們所給出的有限假設所設定的新的認知 數學與哲學不可分割。這本書從各種角度告訴人們，包括數學在內的領域，人類的認知都有侷限性，結論存在悖論，理論存在不完備性，即使在算術中，我們也必須永遠保持無知 開始以為這本書講數學與哲學，後來發現實際落腳點在物理上。本來生活最終都歸於物理方面的知識 文末指出了未來人才的培養方向：在製造業中，高級技術工人在工作過程中，所具有的結合數字化和製造業流程本身特點的技能，在人工智能時代會顯得尤爲重要。這就需要製造型人才不僅要懂得人工智能的計算機技術，也要懂得工業生產流程中的具體情況 新型教育模式必須開啓：不僅重視知識的獲取，而且重視應用知識的能力。學習製造、發現、系統和創造力，有助於促進學生從團隊技能到人際關係技能再到領導能力的提升 最後看看麻省理工學院提出的新工程人才應具備12種思維和能力： 1.學習如何學習（Learning how to learn）：學生利用一定的認知方法主動思考和學習。 2.製造（Making）：新工程人才發現和創造出新事物的能力。 3.發現（Discovering）：一種通過採取探究、驗證等方式促進社會及世界知識更新，並能產生新的根本性的發現和技術的能力。 4. 人際交往技能（Interpersonal skills）：一種能夠與他人合作並理解他人的能力，包含溝通、傾聽、對話、參與和領導團隊的工作等。 5. 個人技能與態度（Personal skills and attitudes）：包含主動、有判斷力、有決策力、有責任感、有行動力以及靈活、自信、遵守道德、保持正直、能終身學習等品質。 6. 創造性思維（Creative thinking）：一種通過深入思考，能夠提出和形成新的、有價值主張的思維。 7. 系統性思維（Systems thinking）：在面對複雜的、混沌的、同質的、異質的系統時，學生能夠進行綜合性、全局性的思考。 8. 批判與元認知思維（Critical and metacognitive thinking）：一種能夠對經由觀察、體驗、交流等方式所收集到的信息進行分析與判斷，以評估其價值及正確度的思維。 9. 分析性思維（Analytical thinking）：一種能夠對事實、問題進行分解，運用理論、模型、數理分析，明確因果關係並預測結果的思維。 10. 計算性思維（Computational thinking）：一種能夠把基礎性的計算程序（例如抽象、建模等）以及數據結構、運算法則等用於對物理、生物及社會系統的理解的思維。 11.實驗性思維（Experime ntal thinking）：一種能夠開展實驗獲取數據的思維，包含選擇測評方法、程序、建模及驗證假設等內容。 12.人本主義思維（Humanistic thinking）：學生能夠形成並運用對人類社會及其傳統、制度和藝術表達方式的理解，掌握人類文化、人文思想和社會政治經濟制度的知識。