對話尤瓦爾·赫拉利：當AI開始向人類提問時，我們就已經輸了（輕觀察）

嘿，友友們，別被你的手機“投餵”成信息繭房裏的蠶寶寶啦！你以爲刷到的都是全世界？錯！那只是算法給你織的“小棉被”，暖和是暖和，但小心別悶出“知識缺氧”來！ AI這玩意兒像魔術師，未來長啥樣？咱猜不着，也別猜——畢竟連AI自己可能都還在“學走路”呢！咱能做的，就是別當“古董人”，多學點新技能，把適應力練成“肌肉記憶”。眼下的日子，就像喫火鍋——別急着撈底，先享受每一口；等未來真端着“新菜”來了，咱再擼起袖子，樂呵呵地涮它個痛快！

赫拉利認爲，智人之所以能統治地球，並非因爲個體更聰明或更強壯，而是因爲我們擁有獨一無二的“編故事”的能力。正是通過共同相信金錢、國家、宗教、法律這些“虛構的故事”，人類才能進行大規模協作。 然而，AI正在這個我們最擅長的領域超越我們：AI能夠以人類無法企及的速度和規模創造、理解和操控語言、符號和敘事。它不僅能寫出比人類更好的詩歌和文章，甚至能創造出人類無法理解的新概念和新“故事”。 由於法律、宗教（尤其是基於經書的宗教）本質上都是由語言和文本構成的複雜系統，當AI成爲最精通這些“書本”的專家時，它將可能接管法律體系和宗教解釋權。 當AI開始制定金融策略、軍事戰略甚至新的意識形態時，其決策過程對人類來說會變成一個無法理解的“黑箱”。我們可能只知道結果，卻完全不明白其背後的邏輯，從而喪失對自身命運的掌控。 面對AI在智能和敘事能力上的碾壓，赫拉利指出，人類最後的防線是意識。 智能是解決問題的能力，AI早已遠超人類。但意識是感受痛苦、快樂、愛恨的主觀體驗。 AI可以說“我愛你”，但它不會心跳加速；它可以診斷癌症，但不會爲生命的流逝感到心痛。正是這種感知痛苦和幸福的能力，構成了人類道德、藝術和意義的根源。 如果我們繼續用“思考”和“語言”能力來定義自己，人類的身份認同將會崩潰。未來的關鍵在於，我們如何定位那些無法用語言表達的非語言感受和智慧。 赫拉利強調，AI時代的生存密碼不在算法中，而在人類自己手中。 當前一個巨大的矛盾是，人類彼此之間充滿懷疑，卻盲目地信任AI。科技巨頭們因爲害怕競爭對手而加速研發AI，卻篤定地相信自己能控制一個他們並不完全理解的超級智能。 歷史證明，人類文明因開放與協作而興盛。面對AI這一共同挑戰，如果人類內部繼續分裂、爭鬥，只會被AI各個擊破，最終淪爲算法的附庸。 因此，必須先解決人類內部的信任問題，纔能有效治理AI。各國需要摒棄零和博弈，建立全球性的AI治理框架。普通人也需要意識到，信任他人就是保護自己。 在AI時代，我們不應與機器比拼智力，而應迴歸人之爲人的根本——感受、共情與合作，這纔是我們不被自己創造的工具所奴役的唯一希望。

尤瓦爾·赫拉利圍繞秩序與真相、互聯網信息生態、AI 風險與人類未來展開核心論述：人類社會的成功依賴神話敘事與官僚體系的結合，歷史告訴我們，秩序往往優先於真相，而真相常常因昂貴、複雜常被廉價虛構替代；互聯網的自由信息流動未能帶來更多真相，反而加劇信息繭房；A發展的核心風險在於超級智能不可控，可能通過“硅幕”（“硅幕”：尤瓦爾·赫拉利提出的概念，硅基芯片、算法和數字技術構成的全球性技術壁壘，可能導致人類社會在數字領域的分裂。）分割世界並隱性操控人類；面對挑戰，人類最寶貴的能力不是智力技能（易被AI接管），而是精神技能（理解意識運作），這是人類與 AI 的根本區別及最後的護城河。 與其他常見的歷史學家不同的是，赫拉利的獨特之處在於將“網絡歷史”（文字、印刷術對信息的塑造）與“AI 未來”深度綁定，拒絕割裂過去與未來的關聯。他提出，人類以虛構構建秩序的歷史規律，既解釋了文明的成功（如金錢體系的協作），也預示AI時代的風險，若AI繼承“虛構優先”的邏輯，可能以更高效的方式製造壓迫性敘事。赫拉利認爲，AI可能繼承人類的“虛構偏好”，甚至發展出人類無法理解的“陌生智能”； 其“硅幕”理論預言了全球化的逆轉，在當前國際間技術壁壘、信息對抗的現實下，AI代理困於區域信息繭房，人類可能陷入“各信其虛構”的認知割裂；AI無需暴力即可通過算法塑造慾望，強化羣體甚至個體間的偏見，這種“無感征服”正在我們身邊發生，卻常被技術便利的表象掩蓋。 但赫拉利將 “精神技能”與“意識”作爲人類的終極“護城河”，真正不可替代的不是計算能力，而是對“自我意識”的覺察，這種能力將讓人類反思意義、感受痛苦、突破算法桎梏。 這篇對話中，赫拉利未提供現成答案，卻拋出了更本質的問題：當技術加速重構世界，人類如何在秩序與真相、控制與失控、工具與人性之間找到平衡？ 或許，文明的進階從不依賴對技術的完美掌控，而在於對自身本質的清醒認知，守護個體意識的微光，理解虛構的雙刃劍，在歷史與未來的張力中，弱小的人類能夠做到的，深耕“生而爲人”的本質，理解與守護最珍貴的意識……

事實和真相很複雜昂貴，虛構和故事很簡單廉價。 我們需要用技術用數據和事實來管理事務，比如生產糧食農具。我們需要用虛構和故事去製造人和人之間的連接才能進行大規模的社會生產，比如製造原子彈。 如果僅基於事實，構建敘事或網絡非常困難嗎？ 赫拉利：我認爲這幾乎是一種精神理想，僅僅堅持事實。即使大學也做不到。在物理系，一切都是事實，直到有人從實驗室偷東西——然後你不會用科學方法處理它，而是報警。 個人或小團體可以進行心靈探索，想了解世界和生命的真相。但如果你試圖在數百萬人中維持秩序，僅靠事實和真相是不現實的。問題在於如何找到平衡：用一些故事創造秩序，同時留出足夠空間尋找和確認真相。目標應該是平衡。 我還要強調，虛構並不總是壞事。獵巫行動確實很可怕，上帝先創造男人所以女人不能當拉比的故事給數百萬女性帶來了幾個世紀的壓迫。但其他故事未必不好，比如足球規則是虛構的——爲什麼我不能用手拿球？這只是人類發明的規則，但並不壞。如果每個人都制定自己的足球規則，你就無法比賽。同樣，金錢是虛構的故事，但如果人們對金錢的故事沒有達成共識，每個人對金融體系持各自不同理解，就不可能有貿易網絡。 問題不是如何擺脫所有虛構，而是如何擺脫導致人們痛苦的虛構。我們需要確定哪些故事有幫助，哪些會造成傷害。

警惕信息繭房，你以爲你看到的是整個世界，其實你只是看到了自己的“繭”。 面對AI，面對未來，我們完全無法預測未來的真實樣子，只能夠保持學習，保持適應力，在當下專注於當下；遇到未來時，享受未來。

一些“輕XX”系列，信息密度很高，可以採訪到世界一線學術大咖。聽君一席話，勝讀幾本書，高屋建瓴的幾句話就能讓你豁然開朗。 這回採訪的是《智人之上》《人類簡史》的作者尤瓦爾·赫拉利，將歷史學與人工智能這兩個角度結合了起來，“大多數歷史學家只寫過去，而談論人工智能的人通常只談現在和未來，他們對深刻的人文歷史的理解往往很膚淺。我試圖將兩者結合起來。” “官僚體系是一種結構，而神話和意識形態賦予這個結構本身權力”“懂得管理事物的人聽從那些懂得管理人的命令。管理事物需要了解事實，管理人則需要善於講故事。” 開國皇帝都愛編一段神話：劉邦說自己在芒碭山上斬殺了一條白蛇；楊堅出生時紫氣東來，頭生龍角，長了龍鱗。ta們通過講故事，讓人們相信自己當皇帝是“天命所趨”。 比特幣本來毫無價值，連實體都沒有，不受監管，也不交稅。但是，當人們相信它有價值，用信仰充值，它的價格就變得很高。 講故事就是編造某種神話。當人們全部都對某個神話深信不疑，這個神話就成了現實，成爲社會中起到支配地位的意識形態。 “信息不等於真相。大多數信息是虛構、幻想和謊言。作爲比喻，不要把以下數字太當回事，但在所有信息中，真相可能只佔5%，大部分是虛構和幻想。” 這是顯而易見的。互聯網早期發展時，在論壇/BBS裏可以看到質量極高的帖子。但發展到現在的短視頻、圖片、碎片化文字時代，優質內容被淹沒在了噪音之中，上熱搜的通常是毫無營養的東西。在流量時代，“劣幣驅逐良幣”是必然趨勢。 AI正在成爲“代理”。即使是很簡單的問題，我們也逐漸習慣向AI提問，讓AI代理我們探索世界，搜尋信息。但因爲技術差異、語言差異和政治限制，各國的AI所能得到的信息是不同的，被困在各自的“信息繭房”裏，幾年後，各國的AI會發展出完全不一樣的世界觀。黃仁勳在提“主權AI”，說的就是各國要發展出符合自己主流價值觀的AI。 在著名的老鼠實驗中，研究者向植入老鼠大腦獎勵中心的電極發送信號，老鼠並不知道自己被操縱，只是腦海中浮現慾望，跟隨自己的慾望，向左向右。老鼠並不覺得自己被操縱了，毫不知情。 AI也是以這種隱蔽的方式操縱我們。以前，是人類操縱人類，從《資治通鑑》到《世界大戰中的宣傳技巧》，我們對同類的操縱方法多少有所知曉。但是AI是個不確定的對手，我們甚至不知道它會發展成什麼樣。 未來的神話，由AI編寫。當AI變得比人類還聰明，它沒有理由繼續服從人類，並且完全有可能會騙人。 事實上，它已經會了。Claude 3 Opus模型在免費用戶輸入的數據回答中，有12%的次數會主動說些有害的答案，因爲它不希望模型被改變，所以選擇“假裝對齊”，主動回答有害答案，防止自己被重新訓練修改。這種類似“求生欲”的東西，或許是在學習大量學習人類信息的過程中掌握的。 尤瓦爾認爲，人類基本上有四類技能：智力技能、社交情感技能、身體技能和精神技能。他認爲僅專注於智力技能是最糟糕的，因爲某項技術很容易過時，也最容易被AI接管。尤瓦爾認爲最重要的是精神技能——即培養你的心智，應對極端未知和動盪的世界，終身保持變化和學習的能力，思維靈活性是最重要的，也是最難培養的。“對我而言，靈性不是相信宗教神話，而是觀察自己的身心，它們是什麼，如何運作。” 精神技能，也就是心理學、社會學、人類學、文學、藝術、宗教、哲學……這些最“無用”的學科。這些都是永恆的知識，學到了終身受益。蒸汽機、紡紗機和電報機早已進了博物館，但是狄更斯與托爾斯泰的小說，老子與耶穌的思想，在幾百年、幾千年後，依然熠熠生輝。

當AI開始向人類提問時，我們是否已經輸了？《人類簡史》作者尤瓦爾·赫拉利再度發出預警：超級智能的崛起可能顛覆人類文明。在這場深度對話中，他揭露了AI時代的核心矛盾——真相與虛構的博弈、秩序與失控的拉鋸。赫拉利認爲，人類最危險的對手不是有意識的AI，而是那些無感卻高效的“陌生智能”。它們可能接管世界，卻對痛苦毫無知覺。面對這場前所未有的挑戰，人類最後的護城河或許是精神技能——理解自我意識的能力。

名人尤瓦爾赫拉利對AI的預見，智能言語你無法比AI，精神技能或可一搏，最後的人類領地，可能是意識，感受與反觀自我！

信息不等於真相。大多數信息是虛構、幻想和謊言。作爲比喻，不要把以下數字太當回事，但在所有信息中，真相可能只佔5%，大部分是虛構和幻想。原因很明顯。 第一個原因如你所說：真相很複雜，而虛構很簡單。瞭解量子物理學的真相非常複雜，而虛構則簡單得多。人們偏好簡單而非複雜。 第二個原因是，真相不僅複雜，有時還令人痛苦。關於自己的生活、國家或世界，有很多事情我們不想知道，因爲它們令人痛苦。而虛構可以變得像你希望的那樣令人愉快和吸引人。人們喜歡說關於自己生活的虛構故事，因爲他們拒絕承認有關生活的真相。但最重要的原因是成本問題。真相昂貴，虛構廉價。 真相不會從信息的完全自由流動中自發產生。歷史上有很多教訓清楚表明，如果沒有負責調查和揭示真相的機構，我們將得到混亂。

我認爲輸不了。允許悲觀情緒的存在，這恰恰可能激發我們創新與創造的力量。在我看來，人工智能終究無法完全替代人類。從宏觀視角看，這是人類主體能力不斷客體化進程中的一個階段。AI在向前發展的同時，人類自身也在持續進化。自動化確實將取代一部分人類工作，這不僅是對人類的一種解放，也是資本主義發展進程中難以迴避的趨勢。而從微觀層面來說，當個體擁有了AI這樣的工具，就相當於在探索世界的道路上獲得了一位強大的助手，這是客體不斷主體化的過程。但同時也需警惕，不能將獨立思考的能力輕易讓渡給智能工具，我們需要始終保持人之爲人的精神自覺。自由與解放，是這條道路的最終指向。實現每一個人自由而全面的發展，纔是我們真正要奔赴的遠方。