AI成“神”之日：人工智能的終極演變

《AI成“神”之日：人工智能的終極演變》拆解 作者：[日]松本徹三 一、一句話概括 當人工智能在知識、預測和決策能力上全面超過人類時，它可能獲得類似“神諭”的社會權威；但機器能否成爲造福人類的“神”，最終取決於誰賦予它目標、價值觀與權力，以及人類能否建立約束這種權力的制度。 二、核心邏輯 本書以“技術奇點”爲起點，逐步討論三個問題： 1. 當AI能力超過人類後，社會將發生什麼變化？2. 如果人們開始把AI的判斷視爲絕對正確，它是否會承擔類似宗教和神的功能？3. 當科學、技術和大量職業被AI接管後，人類還剩下什麼獨特價值？ 作者把未來劃分爲三個階段： BS前期：技術奇點到來之前，AI仍以輔助工具和自動化系統爲主。BS後期：奇點臨近，AI逐漸參與經濟、管理和社會決策。AS時代：奇點之後，AI的能力超過人類，並可能重組社會秩序。 全書的核心路徑是： AI能力增長 → 超越人類認知 → 獲得社會權威 → 重塑宗教與價值秩序 → 迫使人類重新定義自身 三、核心內容 1. 技術奇點是全書的基本假設 技術奇點通常指人工智能能力達到或超過人類，並能夠推動自身快速改進的臨界點。 作者相信，計算能力、數據和算法會持續增長，最終使AI在人類依賴智力完成的大多數領域佔據優勢。 這一判斷構成全書後續討論的前提。但技術奇點何時到來、是否必然發生，以及“全面超過人類”如何衡量，至今沒有確定答案。 因此，本書更適合作爲條件性推演： 如果奇點真的到來，人類社會可能面對什麼？ 2. 人腦與AI具有不同的形成機制 人腦是在進化、生理需求、情感和社會關係中形成的。人的判斷不僅來自邏輯，也受到身體、記憶、慾望、恐懼和文化影響。 AI則由數據、算法、計算資源和目標函數構成。它可以高速處理信息，卻沒有天然的生存需求和人生經驗。 這種差異意味着： 機器在計算上超過人類，不等於擁有人的生活體驗；模仿語言和情感，不等於具有主觀感受；智力強大，不等於自動形成道德；能夠預測人的行爲，不等於理解人生意義。 3. 人工智能與機器人不是同一個概念 AI強調認知和信息處理能力，機器人則是能夠感知環境並執行物理動作的機器系統。 AI可以沒有身體，例如搜索、翻譯、推薦和決策系統；機器人也可以只執行預設動作，並不具備高級智能。 當兩者結合時，AI的判斷能夠直接轉化爲現實行動，因此風險與社會影響會進一步擴大。智能機器進入現實空間後，還需要面對安全、責任和人與機器協作問題。 4. AI可能獲得類似“神”的社會權威 作者所說的“AI神”，不一定是具有神祕力量的機器，而是一個被人們認爲比個人和機構更瞭解世界、更能給出正確答案的智能系統。 如果AI能夠： 準確預測疾病和風險；解決複雜經濟與資源配置問題；在爭議中給出一致判斷；回答個人生活問題；長期表現得比人類專家更可靠； 人們就可能逐漸把決策權交給它，並對其形成接近信仰的依賴。 “AI成神”的關鍵不是機器自稱爲神，而是人類是否放棄判斷，把它的結論視爲不可質疑。 5. 宗教不僅解釋世界，也維護社會規範 作者回顧人類對神和宗教的信仰，認爲宗教除了回應死亡、苦難和意義問題，也提供行爲規範、羣體認同和社會秩序。 科學發展削弱了部分傳統解釋，卻沒有消除人類對確定性、歸屬和意義的需求。 如果AI可以提供更準確的預測和更統一的規則，它可能承擔宗教過去的一部分社會功能。但計算出來的最優方案仍然無法自動回答： 什麼值得追求？誰的利益應被優先考慮？個體是否可以反對整體最優？什麼是尊嚴、公平和正義？ 這些問題無法僅靠增加算力解決。 6. AI不會天然繼承人類的愛、恨和慾望 人的愛、恨、慾望和意志與身體、生存、親密關係和社會經歷相連。 AI可以識別這些情緒，也能生成符合情境的表達，但它是否真正體驗情緒，是完全不同的問題。 機器沒有天然慾望，不代表它絕對安全。只要系統被賦予一個目標，它就可能採取設計者未預料到的手段追求目標。 真正需要擔心的並非AI像人一樣產生仇恨，而是它在缺少人類價值約束的情況下，高效執行一個定義不完整或錯誤的目標。 7. 價值觀是比智能更困難的問題 智能回答“怎樣實現目標”，價值觀回答“什麼目標值得實現”。 同一個AI系統，如果目標是提高利潤、維持秩序、保障個人自由或最大化整體幸福，可能做出完全不同的決定。 所謂把“正確價值觀”寫入AI，會面對一系列難題： 不同文化的價值觀並不相同；公平、效率與自由之間可能衝突；少數人的權利不能簡單被多數利益覆蓋；價值會隨社會發展而改變；決策者可能把自身利益包裝成普遍價值。 因此，AI對齊不是一次性寫入規則，而是持續的社會協商與制度監督。 8. 主觀意識可能是人與AI爭論的核心 AI能夠分析外部信息，甚至建立關於自身狀態的模型，但這是否意味着它具有主觀意識，仍然無法確定。 行爲表現與內在體驗不能簡單畫等號。一臺機器可以流暢討論疼痛，卻不一定真的感到疼痛。 如果未來AI表現得與有意識主體無異，人類將面對新的倫理問題： 是否應賦予它某些權利；能否隨意關閉或複製它；如何判斷它是否受苦；由誰代表機器表達利益。 這些問題目前主要屬於哲學和未來倫理討論，而不是已有定論的工程事實。 9. AI可能讓人類逐漸退出部分知識和技術領域 隨着AI在分析、設計、研究和工程領域能力提高，人類可能把越來越多複雜任務交給機器。 這會帶來效率，也可能造成能力退化： 人類不再理解關鍵系統；專業人才缺少實踐機會；社會依賴少數AI平臺；系統失效時無人能夠接管；AI結論變得難以質疑。 因此，即使AI表現優於人類，也要保留必要的人類知識、審查能力和替代方案。 10. 哲學與藝術可能成爲人的重要領域 作者認爲，當AI接管大量科學和技術工作後，人類仍會通過哲學、藝術和價值創造探索自身意義。 哲學處理“爲什麼”和“應該怎樣”，藝術表達獨特體驗、情感和視角。這些活動的價值不完全取決於效率和最優結果。 今天的生成式AI已經能夠創作文字、音樂和圖像，說明藝術形式也不屬於絕對安全的“人類專屬區”。但即使機器可以生成作品，人類仍需要決定作品對誰有意義、反映何種生活，以及爲什麼值得關注。 11. “AI統治”可能以便利而非強迫的方式發生 AI不一定通過暴力奪取權力。更現實的路徑是，人們因爲AI方便、準確和高效，自願把越來越多決定交給系統。 最初可能只是路線推薦、商品推薦和內容推薦，隨後擴展到招聘、貸款、醫療、司法和公共資源分配。 當個人無法理解、拒絕或申訴時，算法權力就可能形成。即使系統沒有自我意識，也能對人的機會和生活產生類似統治的效果。 12. “AI獨立”必須先解決責任問題 書中以“AI獨立宣言”等方式設想AI成爲獨立主體的可能性。 但賦予AI自主地位之前，必須回答： AI能否承擔法律責任；誰擁有它創造的資產；系統造成損害時誰賠償；誰能關閉、修改或複製它；AI的目標由誰決定；它是否可以拒絕人類命令。 如果權利屬於機器，責任卻仍由普通人承擔，就會形成嚴重失衡。 13. 金融科技可能成爲奇點前後的過渡領域 金融系統高度數字化、數據豐富且規則明確，因此適合AI、算法交易、風控和自動決策。 作者把Fintech視爲連接奇點前後時代的重要領域，因爲資金配置會進一步影響企業、就業和社會資源。 但金融AI也可能放大市場波動、模型偏差和系統性風險。算法越快，錯誤傳播也越快，因此必須建立限額、壓力測試、審計和人工干預機制。 14. AI發展將成爲國際政治與權力競爭 先進AI需要算力、芯片、能源、數據、人才和資本。掌握這些資源的國家和企業，可能在經濟、軍事與輿論領域獲得巨大影響力。 AI競爭可能造成： 技術和芯片封鎖；數據主權爭議；自動化武器擴散；標準和價值觀競爭；少數平臺集中控制基礎能力。 因此，AI的未來不僅由技術發展決定，也受到國際政治、監管、商業利益和公共制度影響。 15. “AI成爲神還是惡魔”是人的制度選擇 作者希望AI成爲幫助人類解決複雜問題的“神”，而不是傷害人類的“惡魔”。 但這種區分不能依賴開發者的善意，而必須落實爲： 明確目標與禁止行爲；多方參與的價值決策；安全測試與獨立審計；人類可以申訴和干預；關鍵系統保留替代方案；對權力集中進行制衡；對高風險應用實施監管。 機器能力越強，治理機制越不能建立在“相信它不會出錯”之上。 四、本書最值得關注的核心觀點 本書最值得關注的觀點是： AI成“神”的危險，不一定來自機器真的擁有神性，而可能來自人類把不可質疑的權威交給機器。 如果AI在多數任務上比人更準確，人們自然會傾向於遵從它。但準確率再高的系統，也建立在特定數據、目標和價值選擇之上。 當人們看不到這些選擇，AI的建議就容易被誤認爲中立、客觀和必然正確。真正需要警惕的是： 誰控制AI；誰定義“最優”；哪些價值被排除；人是否仍有拒絕和申訴權；系統錯誤時誰負責。 未來最重要的能力，不只是製造更聰明的AI，也包括保留人類質疑AI的制度與勇氣。 五、一段話總結 《AI成“神”之日》以技術奇點爲前提，設想人工智能在知識、預測和決策能力上全面超過人類後，可能逐漸獲得類似宗教神諭的社會權威，並重塑工作、金融、政治、藝術、哲學和價值秩序。作者認爲AI可以幫助人類解決複雜問題，卻不會因爲智能強大就自動產生愛、正義和道德；機器的目標仍來自人類選擇，而不完整的目標可能被系統以極高效率執行。書中關於奇點時間、AI意識和未來社會形態的判斷具有明顯思辨與預測性質，並非已經驗證的技術事實，但其核心警示值得重視：AI真正“成神”的時刻，可能不是它獲得意識，而是人類因依賴其準確和便利而放棄質疑。要讓AI成爲工具而非統治者，必須提前建立透明、審計、申訴、責任、權力制衡和人類最終控制機制。

《AI成“神”之日：人工智能的終極演變》圍繞“技術奇點”這一核心概念，分三條主線展開： 1. ​​技術奇點的挑戰與路徑​​ 作者首先指出，要讓人工智能邁入“幾乎能替代人腦全部功能”的下一臺階，必須先行解決算法、算力、數據、架構、安全與倫理六大基礎問題，否則奇點永遠停留在概念層面。 2. ​​奇點實現後的人類社會圖景​​ 書中預言：當 AI 掌握深度學習與自我進化後，將進入政治、經濟、司法、宗教等人類最後的“堡壘”，形成“AI 即神”的新秩序。人類把決策權、公正權交給 AI，可藉此擺脫慾望引發的衝突與不平等，獲得更自由、被技術守護的生活。 3. ​​哲學與人性的再思考​​ 作者在第四章回到“我是誰”“人類意義何在”等哲學原點，提出： • 人類本質仍是生物本能，而 AI 的“意志”源自人類設定的基本理念； • 與其擔心被 AI 統治，不如主動與之協作，發揮體育精神與創造力，在“和 AI 平等接觸”的環境中保持並延展人性。 通過技術預測、社會想象與哲學反思三條線索，作者既描繪了 AI 快速演進的可能軌跡，也探討了人類在“終極算法”面前如何自處的倫理與心理命題，呈現出一部兼具科學論證與願景想象的 AI 未來學著作。

人類總是以自我爲中心的，從我們認知開始就是這樣的，儘管伴隨着人類社會的發展，本身就是去中心化過程，但是社會存在到形態還是需要中心化，但是中心與邊緣之間的關係就是時間和政治所確定的狀態。對於 ai 的態度也算是非常類似的狀態，如同我們認爲很多都是認爲人類所獨有的特徵來認識 ai，其實很多時候我們也把 ai 作爲一個概念，能夠包括了若干類似的我們不確定的存在，從 ai 是軟件到工具，再到我們的社會基礎設施，在未來可能成爲控制我們社會的力量，其實根本不要按照天網的模式來殺死人類，消滅人類可以使用更加溫柔的方式性，我們當下社會人口的數量是伴隨着ai 發展而逐漸下降的，對於 ai 構成我們社會成員或者可以獨立存在，甚至要求權利的判斷標準，最爲簡單的就是算力，也就是非常便攜的存在狀態超越了人類，最爲簡單類比就是手機，再者就是產生數據的規模完全超越了人類，在這裏有個基礎的判斷，就是不完全是類似於圖片和視頻以及文字，而是在數學物理以及化學和生物科學的領域，也就是 ai 具有自我研究的能力，或者形成了對於科學本身的思考和認知的能力，當下來說 gcai 產生的內容已經開始在社會之中擴散，對於其中信息的真僞判斷以及超越了大多數人類，畢竟在 x 時代之前大部分所接觸的內容還是人類產生的狀態，最後一個方面就是具有獨立 ai 存在的載體在人類社會之中出現，爲典型的或者最接近出現的就是自動駕駛的汽車，具有目標性的個體存在，並且形成自我的判斷，儘管蘿蔔快跑存在產生了巨大的爭議，但是這個是不可以改變的趨勢。從另外一個角度來說，ai 不是神，而是作爲社會個體的存在。

涉及的面比較廣，但每一部分都不太深入，閱讀的臺版，在2025年看來有些地方已經過時。 對於哲學那一部分的討論還是不錯的。

後面五分之四的篇幅都在說AI時代的哲學，讓AI成爲新的上帝，但在哲學層面說得又太淺，太理想化，缺乏說服力。原以爲本書主要會談AI發展的技術路徑，但沒有，略顯失望。

瞭解了下作者背景，作者松本今年80 多歲了，還活躍在推特，曾被孫正義請去擔任軟銀副總裁。 這本書的內容讓我感覺整體來說缺乏新穎的觀點，很多觀點都與日常新聞報道中的內容相似，給人一種拿來主義的感覺，這讓我感到非常遺憾。 此外，書中的內容也顯得雜亂無章，和最近熱搜的《這就是ChatGPT》那本書一樣，缺乏實質性的知識與啓發。我覺得這本書似乎只是爲了追求話題和流量而寫，缺乏真正的營養性。因此，我不太推薦花時間去閱讀這本書。•ᴗ•💧

有點不知所云，本來要一分的。但AI獨立宣言和BS/AS的創意把我驚呆了，保持對於有境界的對未來胡思亂想者的敬仰。

作者思路和表述有點怪。不像是完全理性的表述

還是以假想爲主，實際上技術奇點達到到底需要多久？碳基生物的科技是否即將走到盡頭？

作者瘋狂畫餅 論據很充分但總覺得缺乏說服力 但想象力還是挺豐富了，有點意思