技術之外：社會聯結中的人工智能

《技術之外：社會聯結中的人工智能》是凱特·克勞福德（Kate Crawford）教授的一部重要著作。作爲人工智能社會影響領域的頂尖學者，克勞福德在書中運用“地圖集”（Atlas）的視角，帶領讀者穿越礦山、數據中心、物流倉庫和分類實驗室，揭示了AI並非純粹的技術產物，而是一套 deeply embedded 在物質、政治和社會結構中的權力系統。 以下是爲您整理的詳細讀書筆記： --- 讀書筆記：《技術之外：社會聯結中的人工智能》 副標題：破除“技術中立”的神話，看見AI背後的真實世界 作者： [美]凱特·克勞福德（Kate Crawford） 出版時間： 2024年3月 核心主題： 人工智能既不“人工”，也不“智能”。它依賴於從地球深處到全球勞工的龐大供應鏈，是一種行使權力的形式和一種組織化的資本表現。 --- 一、 核心論點：AI是一部權力地圖 本書開篇即挑戰了主流敘事。克勞福德認爲，要真正理解AI，不能只看硅谷的實驗室和算法代碼，而必須繪製一張涵蓋“提取、政治和技術力量機制”的廣角地圖。 金句： “人工智能是一種行使權力的形式和一種觀看方式，也是一種高度組織化的資本表現，人工智能完全依賴於一套更廣泛的政治和社會結構。” 作者提出“真實存在的AI”（Real AI）這一概念，強調AI系統的生命週期始於玻利維亞的鹽湖、剛果的礦山，經由無數底層勞工的雙手，最終服務於國家的監控和企業的利潤。 --- 二、 逐章精華梳理 第一章：地球 —— 計算的物質性與環境成本 AI是“虛擬”的嗎？克勞福德給出了否定的答案。她從地下開始繪製地圖，揭露了AI沉重的“肉身”： · 資源提取政治： AI硬件（芯片、電池、屏幕）依賴於稀土礦物、鋰、鈷和錫。這些資源的開採往往發生在監管薄弱的地區，伴隨着環境破壞和地緣衝突。 · 能源與水： 訓練大型語言模型和運行數據中心的能耗驚人。作者指出，科技行業的碳足跡常被低估，其耗電量甚至相當於某些國家的總耗電量。此外，數據中心需要大量的水進行冷卻，加劇了水資源緊張。 · “潔淨技術”的謊言： 科技巨頭通過購買碳信用來宣稱“綠色”，這在中世紀如同贖罪券。實際上，他們仍在幫助石油巨頭開採化石燃料。 第二章：勞工 —— 隱藏的“幽靈工作” 在光鮮的機器學習工程師背後，是維持AI運轉的龐大影子勞動力： · 全球產業鏈上的勞工： 從印尼錫礦的礦工，到菲律賓的內容審覈員，再到印度的數據標註員。AI系統依靠這些低薪、無保障的勞動力來識別圖片、過濾暴力和“假裝”智能。 · 土耳其機器人： 人類被要求像機器一樣完成微小的任務，以維持“AI自動運行”的假象。 · 工作場所的權力： 亞馬遜倉庫和外賣平臺利用AI監控員工的一舉一動（如手環振動、如廁計時），這不是解放勞動力，而是向泰勒式科學管理的倒退，進一步加劇了權力的不對稱。 第三章：數據 —— 從公共空間到訓練集的掠奪 數據的收集是一種新的提取哲學： · “收割世界”： 科技公司的心態是“你在現實世界中看到的任何東西，都需要納入我們的數據庫之中”。街道、公園、個人照片、社交媒體辯論，都被一視同仁地抓取。 · 知情同意的終結： 數據收集常態化，以至於不盡可能多地收集數據被認爲是一種浪費。這曾經只是情報機構的做法，現在已成爲商業模式的基石。 · 基礎設施化： 我們的面部、手勢和語音不再僅僅是個人資料，而是成爲了訓練AI模型的免費基礎設施。 第四章：分類 —— 偏見只是冰山一角 數據集從來不是客觀的原材料，而是“政治干預”的產物： · 命名與框定： AI通過標籤（如種族、性別、情緒）對世界進行分類。這些標籤簡化了流動複雜的現實，強化了二元性別、刻板印象和等級制度。 · 操作型圖像： 圖像不再是爲了給人看，而是爲了給機器看。這種“看待世界的方式”決定了哪些特徵被突出，哪些被忽略。 · 循環邏輯： 如果一個系統通過有偏見的“基本事實”訓練，它輸出的結果必然帶有偏見。通過一張臉預測性取向或犯罪傾向，正是這種危險邏輯的體現。 第五章：情感 —— 測量靈魂的謬誤 情感識別系統是本書重點批判的對象： · 還原論： 基於保羅·艾克曼等心理學家備受爭議的理論，這些系統試圖通過面部微表情將複雜的人類情感簡化爲幾類普適情緒。 · 應用場景的危險： 儘管科學依據存疑，這些工具已被迅速應用於招聘面試、課堂注意力檢測和安防審訊中。 · 魔術師的手法： 它告訴我們關於這些工具及其創造者的信息，比它聲稱看到的信息更多——這是一種控制的手段。 第六章：國家 —— 從軍事到市政的權力工具 AI與國家的結合帶來了深遠的政治後果： · 軍工複合體： 從Maven計劃（用AI分析無人機視頻）到“第三次抵消戰略”，硅谷與五角大樓深度綁定，將預測算法用於致命打擊。 · 監控的民主化： 原本屬於間諜機構的技術（如元數據追蹤、車牌識別）如今下沉到市政層面。移民警察使用預測平臺鎖定無證移民，失業補貼系統利用算法指控公民欺詐。 · 社會信用評分： 作者討論了這種邏輯如何在全球範圍內蔓延，利用不穩定的分類系統對公民進行評分和排序。 第七章：權力 —— 誰的AI？ 總結全書，克勞福德指出AI系統服務於股東價值和現有的權力結構： · 公共補貼的私有化： AI的發展嚴重依賴於公共資源（國家資助的科研、公共數據、基礎設施補貼），但其利潤卻被少數巨頭私有化。 · 準國家實體： 少數科技巨頭擁有的權力超越了大多數民族國家，它們決定言論的邊界、分配社會資源、甚至影響地緣政治。 終曲：太空 —— 逃離地球的幻想 在書的結尾，作者將目光投向了馬斯克的SpaceX和貝佐斯的藍色起源。她認爲，億萬富翁對太空的迷戀是“對地球的一種防禦”，是建立在掠奪地球資源基礎上的“逃離想象”。這種對權力的極致追求，是AI背後邏輯的終極體現。 --- 三、 關鍵概念總結 概念 內涵解讀 AI現實主義 既不盲目樂觀也不悲觀，基於實地考察（礦山、數據中心、血汗工廠）直面AI的真實成本。 操作型圖像 完全爲機器創造的世界表象，圖像的含義和語境被剝離，僅留下可供算法識別的數據點。 提取政治 貫穿AI生命週期的邏輯：從地下礦物、人類勞工、公共數據中提取價值，並將環境與社會成本外部化。 傑文斯悖論 效率的提高（如推理能耗降低）反而導致資源總消耗量的激增，因爲使用場景被無限擴大。 幽靈工作 隱藏在算法背後，維持AI系統運轉但不可見的人類勞動（數據標註、內容審覈）。 --- 四、 經典摘錄 1. 關於AI的定義： “AI既不人工，也不智能。相反，人工智能是具身的，也是物質的，它由自然資源、燃料、人力、基礎設施、物流、歷史和分類構成。” 2. 關於技術中立： “儘管技術系統呈現出客觀和中立的外表，但作者認爲它們是被設計來服務和強化現有的權力系統的。” 3. 關於分類的權力： “我們很容易忘記，爲了塑造技術系統而隨意選擇的分類，可以在塑造社會和物質世界方面發揮動態作用。” 4. 關於結構性不公： “當某人滔滔不絕地推銷某物，大談收益而決口不提成本的時候，你要想想，你是不是就是那個成本了！” 5. 關於未來： “當我回顧那些經歷和那些旅程時，給我希望的是這樣一個事實：一切都可以改變。現在正在建造的任何東西在10年後都不會以同樣的方式存在。沒有什麼是不可避免的。” --- 五、 評價與思考 本書的價值在於： 1. 祛魅： 它成功打破了籠罩在AI頭上的“技術中立”光環，讓讀者看到代碼背後沾滿泥土、汗水與鮮血的供應鏈。 2. 系統性視角： 作者沒有停留在算法歧視的單一維度，而是將環境科學、勞動經濟學、政治學與計算機科學結合，構建了一個宏大的跨學科批判框架。 3. 緊迫感： 通過對能源消耗和權力集中的分析，作者提醒我們，現在正是對AI發展方向進行干預的“最後的機會窗口”。 讀後思考： 作爲普通人和技術使用者，我們往往只看到“現在購買”按鈕的便捷，卻看不到按鈕背後的“無盡紙板箱、送貨卡車和資源消耗”。克勞福德的這本書是一份邀請，邀請我們成爲“AI現實主義者”——不是拒絕技術，而是追問：這項技術爲誰優化？誰在承擔成本？界限應該在哪裏？ 在這個意義上，《技術之外》不僅是對硅谷的批判，更是一部關於如何在AI時代重新思考人類未來、民主與環境的地緣政治學指南。

從她的這本書中已經能夠看到她對AI對整個世界的影響的看法是全方位的，不只是需要從技術的維度來理解AI的益處與危害，而且還需要從環境、氣候和社會關係等實實在在的視角來剖析AI對整體世界的影響。 正好聽了她的一段對話，對話的標題是：“我們必須在爲時已晚之前解決人工智能對氣候的影響——凱特·克勞福德（Leading AI Professor: We Must Address AI's Climate Impact Before It’s Too Late | Kate Crawford），這應該是對她的這本書有所拓展。最後增加了一個我感興趣的方面：教育。向AI提問，她的觀點在教育上有何啓發。 她在對話最後說的話，說明她是一個行動主義者，讓人敬佩： “我認爲樂觀主義與悲觀主義的辯論已經太陳舊了，已經過時了。我認爲自己是一個AI現實主義者，我之所以持這種立場，是因爲我做了研究，因爲我深入一線，因爲我與人們會面，因爲我去了這些系統被建造的現場，因爲我訪問了礦山，因爲我去了數據中心，因爲我真正找出了這裏正在發生的事情的完整圖景。” 事實上，她在這本書的最後，寫道她是是去探訪貝佐斯的藍色起源公司基地的，“它（藍色起源公司基地）是由地球上最富有的人驅動的、正在建設中的私人基礎設施，有警衛和門控，是對權力、提取和逃離的科技想象。這是對地球的一種防禦。” 她渴望人們一起努力，讓世界變得更好： “當我回顧那些經歷和那些旅程時，給我希望的是這樣一個事實：一切都可以改變。現在正在建造的任何東西在10年後都不會以同樣的方式存在。沒有什麼是不可避免的。人們擁有比他們想象中更大的力量來說：這就是我們想要生活的世界。這就是我們希望自己的社區繁榮發展的方式。這就是我們希望我們自己的資源、我們自己的環境所發生的事情。” \ 對話內容（AI總結） 這是一場關於人工智能的環境與社會成本的深度對話，訪談對象是南加州大學教授、人工智能領域的權威研究者凱特·克勞福德（Kate Crawford）。對話系統性地揭示了AI發展背後被忽視的重大問題： 核心論點 1. AI並非"虛擬"技術——它是本世紀最大的工業轉型 • AI系統依賴大量半導體芯片（如A100、H100），這些芯片需要巨大的能源併產生大量熱量 • 數據中心預計到明年將消耗相當於日本的電力 • 生成式AI到2030年將使用相當於印度全國的能源 2. 環境成本的全生命週期 • 訓練階段：使用海量數據集訓練，耗時可達一年或更長，極其耗能耗水 • 推理階段：每次查詢的能耗是普通搜索的5-10倍，OpenAI每天處理約25億次查詢 • 礦物開採：需要開採稀土、鋰、鈷等礦物，涉及環境破壞和童工剝削 3. 對社區的實際傷害 • 孟菲斯南部的馬斯克"巨人"數據中心使用甲烷發電機，向本已哮喘率高企的黑人社區排放有毒氮氧化物 • 弗吉尼亞州25%的電力用於數據中心，幾年後將達到50% • 電費成本在某些地區翻倍，轉嫁給普通消費者 4. "效率悖論"（傑文斯悖論） • 雖然高科技公司聲稱推理能耗降低98%，但這隻會導致使用量激增 • 效率提升反而刺激更大規模的模型開發和更廣泛的應用 • AI被嵌入到所有日常應用中，改變人們的行爲模式 5. 錯誤的"零和博弈"敘事 • 美國將AI競賽框架設定爲"國家安全vs.地球環境" • 這讓科技公司逃避責任，因爲決策者必然選擇國家安全 • 實際上中國正在大力投資可再生能源（2024年新增300GW太陽能），證明兩者可以兼得 6. 權力集中的威脅 • 5-10家公司壟斷規模化AI生產 • 8位億萬富翁控制着80億人的生活——這種權力集中在歷史上極爲罕見，類似封建帝國 • AI公司已經成爲"準國家"，其權力超越民族國家 7. 歷史視角：AI是帝國延續 • 克勞福德的藝術裝置《計算帝國》追溯500年曆史 • 從1500年代的資本主義、殖民主義、印刷術開始 • AI延續了歷史上權力集中、資源掠奪、勞動剝削的模式 8. 認識論威脅 • AI引擎成爲主要信息源，而非報紙或網頁 • 少數人可以操縱AI輸出的"事實"（如馬斯克改變Grok對政治問題的回答） • 這是比過去任何宣傳形式都更嚴重的心理和真相控制 9. 科學研究被削弱 • 恰恰在最需要獨立研究的時刻，AI影響研究卻遭到大幅削減 • 實驗室關閉，研究人員離開美國 • 這種後果將持續20-30年 10. 可能的解決方案 • 使用可再生能源（如中國的太陽能戰略） • 採用更精細的策劃數據集而非互聯網規模數據 • 使用"專家混合"方法（如DeepSeek）降低訓練能耗 • 爲特定問題設計小型高效模型，而非通用大模型 • 將數據中心建在非缺水地區 ________________________________________ 對教育者的重要啓示 一、批判性思維教育的緊迫性 啓示1：解構"技術中立論" • 克勞福德強調："技術從來不是中立的"——它是"政治的固化形式" • 教育應用：教導學生質疑技術的呈現方式，追問"這項技術服務誰？誰承擔成本？" • 培養學生識別技術敘事背後的權力結構和經濟動機 啓示2：培養"技術現實主義"而非盲目樂觀/悲觀 • 克勞福德自稱"AI現實主義者"，基於實地研究而非意識形態 • 教育應用：鼓勵學生進行基於證據的分析，避免極端化技術樂觀主義或恐懼論 • 教授如何追蹤信息源頭，驗證技術公司聲明 二、系統性思維與跨學科教育 啓示3：揭示完整的"供應鏈" • AI不僅是代碼，還涉及採礦、能源、水資源、勞動、地緣政治 • 教育應用： o 將技術教育與環境科學、社會學、經濟學、倫理學整合 o 設計項目讓學生追蹤一項技術從原材料到廢棄的全生命週期 o 案例研究：調查手機/AI設備的礦物來源 啓示4：歷史縱深視角 • 克勞福德回溯500年曆史來理解當前AI發展 • 教育應用： o 教授技術史，幫助學生識別重複的模式（如工業革命、殖民主義、信息革命） o 避免"技術當下主義"——認爲一切都是前所未有的 o 討論歷史上類似的權力集中案例（東印度公司vs.現代科技巨頭） 三、環境素養與公民責任 啓示5：揭穿"個人碳足跡"陷阱 • 克勞福德批評將系統性問題轉嫁給個人（如"不用塑料吸管"） • 教育應用： o 區分個人行爲改變與結構性改革 o 教導學生識別"洗綠"（greenwashing）策略 o 培養倡導系統性改變的能力（政策參與、集體行動） 啓示6：能源政策與國家安全的關聯 • 中國的可再生能源戰略既是環保也是國家安全 • 教育應用： o 在STEM課程中整合能源政策討論 o 分析不同國家的能源策略案例 o 思考：如何讓氣候行動與國家利益對齊？ 四、數字素養與AI時代的生存技能 啓示7：理解AI的實質成本 • 每次ChatGPT查詢的能耗、水耗、碳排放 • 教育應用： o 在計算機課程中教授AI的物理基礎設施 o 計算項目：估算學校/個人的AI碳足跡 o 討論：何時使用AI是合理的？何時是不必要的浪費？ 啓示8：信息驗證能力 • AI引擎可能被操縱輸出特定"事實" • 教育應用： o 強化媒體素養課程 o 教導學生交叉驗證AI生成的信息 o 練習識別AI偏見和幻覺（hallucination） o 對比多個信息源（傳統媒體、學術文獻、AI引擎） 五、權力意識與公民參與 啓示9：理解權力集中的危險 • 8位億萬富翁控制80億人的生活 • 教育應用： o 公民教育課程中討論科技壟斷 o 分析案例：科技公司vs.民主政府的權力動態 o 激發思考：如何確保技術發展的民主參與？ 啓示10："最後的機會窗口"意識 • 克勞福德強調：現在是改變AI基礎設施的最後時刻 • 教育應用： o 培養學生的緊迫感和行動導向 o 組織參與式項目：給議員寫信、參加社區聽證會 o 討論：作爲未來繼承者，學生可以採取哪些行動？ 六、倫理推理與價值觀教育 啓示11：質疑"技術競賽"敘事 • "競賽"框架導致短期思維和降低底線 • 教育應用： o 探討合作vs.競爭的不同範式 o 案例分析：科學研究中的開源vs.專利 o 辯論：AI發展應該是競賽還是全球合作？ 啓示12：邊緣化社區的負擔 • 孟菲斯黑人社區承受AI的污染成本 • 教育應用： o 環境正義（environmental justice）課程 o 田野調查：本地區的技術基礎設施對哪些社區造成影響？ o 培養同理心和社會責任感 七、教學法層面的創新 啓示13：實地研究與親身體驗 • 克勞福德訪問礦山、數據中心、實驗室 • 教育應用： o 組織實地考察（數據中心、回收設施、能源站） o 虛擬實地考察（VR參觀礦山或芯片工廠） o 邀請從業者（礦工、數據中心工程師）分享經驗 啓示14：藝術與科學的融合 • 克勞福德的《計算帝國》藝術裝置獲獎 • 教育應用： o 跨學科項目：用藝術表達技術問題 o 視覺敘事：創建信息圖展示AI的供應鏈 o 戲劇表演：角色扮演不同利益相關者（礦工、工程師、用戶、政策制定者） 八、未來導向的準備 啓示15：爲"多極世界"做準備 • 研究中心可能從美國轉移到歐洲、加拿大、印度等地 • 教育應用： o 培養全球視野和跨文化能力 o 學習多種語言和區域研究 o 理解不同國家的技術治理模式 啓示16：培養適應性而非依賴 • 避免過度依賴AI工具而喪失基本技能 • 教育應用： o 平衡AI工具使用與基礎能力培養 o 教授"無AI"情境下的問題解決 o 討論：哪些能力是不可外包給AI的？ ________________________________________ 核心教育哲學轉變 這場對話最深刻的啓示是：教育不能僅僅培養"使用者"，而要培養"設計者"和"質疑者"。 \ 以此作爲本書的讀後感吧。

在人工智能技術飛速迭代的當下，許多潛藏的社會問題常被技術光環遮蔽，而《技術之外：社會聯結中的人工智能》恰好掀開了這層迷霧，引導我們以更理性、更全面的視角審視AI。 這本書堪稱一部“反AI神話”的力作——它跳出技術崇拜，將人工智能放回地球資源、勞動體系、數據邏輯與權力結構的脈絡中重新審視。全書以“地圖集”爲精妙隱喻，逐章帶領讀者跨越空間與維度：從地殼深處的礦產到遙遠太空的幻想，從產業鏈底層的礦工到算法背後的權力博弈，層層透視AI技術的真實成本與深層社會結構。其核心內容可梳理爲三大板塊： 一、寫作立場與方法：打破技術單一視角 作者凱特·克勞福德提出核心觀點：人工智能既非完全“人工”（依賴全球資源與分散勞動），也非傳統意義上的“智能”（本質是統計與數據驅動），而是一種依託大規模資源、數據與勞動的權力行使方式。她摒棄純技術分析，採用“地圖集”式寫作——將技術原理、政治邏輯、經濟鏈條與環境代價並置呈現，時刻提醒讀者：理解AI不能只盯着算法，更要看見其背後的複雜系統。 二、分章脈絡：一幅立體的AI社會圖景 - 第一章“地球”：以俯瞰硅谷的航班爲起點，揭開AI的物質根基——內華達州的鋰礦、數據中心的能源消耗、全球化的資源供應鏈，明確指出AI是一套“深深紮根於地殼”的行星級系統。 - 第二章“勞工”：聚焦AI背後的隱形勞動鏈——從印度尼西亞的採礦工，到衆包平臺的低薪標註員，再到承受心理創傷的內容審覈員，揭露“自動化”表象下，AI依賴的是分散、低薪且被算法嚴密監控的勞動力。 - 第三章“數據”：剖析數據的資本化路徑——個人自拍、街景圖像等數字痕跡被無差別抓取，從隱私記錄淪爲資本資產；同時指出，數據集自帶的歷史偏見會被算法放大，加劇社會不平等。 - 第四章“分類”：將19世紀塞繆爾·莫頓的顱骨測量（種族分級）與當代ImageNet的人羣標註並置，揭示算法分類本質是對歷史等級觀念的承襲，解決偏見的核心是重構社會權力結構，而非單純調整技術參數。 - 第五章“情感”：追溯“六種普遍情緒”理論如何從心理學假設，演變爲估值數百億的情感識別產業，批判其掩蓋心理學爭議、侵犯隱私且放大文化偏見的風險。 - 第六章“國家”：梳理AI與國家權力的淵源——自20世紀50年代起，美國軍方與情報機構（如ARPA）便是AI研究的核心資助者，不僅奠定“高-中-低”風險研究邏輯，更將學術與產業成果納入國家安全體系。 - 第七章“權力”：以AlphaGo爲案例，分析封閉系統內算法自我進化帶來的“決策黑箱”，警示算法權威正不斷擠壓公衆對技術的理性認知，強化權力集中。 - 終曲“太空”：批判貝佐斯、馬斯克等科技巨頭的太空幻想——將太空視爲新商業邊疆，延續殖民邏輯，卻迴避地球資源枯竭與社會不平等的根本問題，只是將矛盾“轉移”而非“解決”。 三、結論與啓示：技術之外的核心命題 全書最終得出關鍵結論：AI的“智能”往往是權力、資源與社會關係的產物，而非純粹的技術奇蹟；要真正理解AI，必須同時看見地球的資源消耗、勞動者的付出，以及數據背後的制度與文化邏輯。 作者爲此發出呼籲：在政策制定、技術設計與倫理討論中，必須打破“技術中立”的迷思，重新分配資源與權力，讓AI發展與社會公平、生態可持續的目標相匹配，而非淪爲資本與權力的工具。 薦讀理由 《技術之外：社會聯結中的人工智能》通過跨學科的敘事的方式，爲讀者繪製了一幅“技術之外”的導航圖——它教會我們跳出對算法的迷戀，看見AI與人類社會、地球生態的深層聯結。對於關注社會公平、善於獨立思考，且對地球未來懷有責任感的有識之士而言，這本書不僅是理解AI的絕佳指南，更能啓發我們對技術文明、權力分配與生態可持續性的深度思考，值得一讀。

1.“當我們談論AI時，我們實際在談論一種新型全球權力拓撲——數據從邊緣流向中心，利潤從中心流向資本，代價則由邊緣承擔。” 2.“‘算法偏見’的說法本身就是陷阱——問題不在算法，而在社會；不在代碼，而在權力。” 3. “與其問‘AI會取代多少工作’，不如問‘AI將如何重構勞動剝削的全球地圖’。” 《技術之外：社會聯結中的人工智能》（Beyond Technology: AI in the Web of Social Connections）是美國AI倫理權威學者凱特·克勞福德（Kate Crawford）的最新著作，中文版由中國科學技術出版社2024年3月出版。作爲《AI地圖集》（Atlas of AI）的續作，本書延續其“技術批判地理學”研究路徑，通過12個跨國案例（從剛果鈷礦到亞馬遜倉庫），揭示人工智能如何嵌入社會權力結構，被《新科學家》評爲“2024年最具顛覆性的科技著作”。 歐盟《人工智能法案》修訂時引用其剛果鈷礦案例，要求AI企業披露關鍵礦產來源；谷歌AI倫理委員會將其列爲必讀書目。正如麻省理工學院教授雪莉·特克爾評價：“克勞福德教會我們——看清AI的真相，需要先摘下‘技術進步’的玫瑰色眼鏡。” 克勞福德是AI倫理領域的標誌性學者，谷歌AI倫理委員會前成員，與諾獎得主斯賓塞共同創立“AINow研究所”，其研究以“揭示技術背後的隱性社會成本”著稱。本書融合社會學、地理學、科學史視角，挑戰“AI中立論”，提出“人工智能既非人工，也不智能——它是全球供應鏈、勞動剝削與環境代價的集合體”（封底推薦語）。 一、核心主題與批判框架 1. AI的“物質性”：被忽視的全球供應鏈 克勞福德尖銳指出，主流AI話語沉迷於算法黑箱與算力競賽，卻掩蓋了其“血腥的物質基礎”： （1）礦產掠奪：數字時代的“殖民式開採” • 案例：剛果（金）鈷礦工人日均工資不足2美元，用手工開採用於智能手機與AI服務器的稀有金屬，每年約4萬兒童參與開採。 • 數據：訓練一個GPT-3級模型的耗電量相當於300輛汽車的終身能耗（MIT 2023年研究）。 • 悖論：標榜“綠色科技”的AI產業，其礦產開採導致剛果鈷礦地區90%的河流重金屬超標。 （2）數據殖民：無償勞動的數據佃農 • 論證：用戶每使用一次智能音箱，就完成一次無償數據標註，相當於爲科技公司貢獻0.001美元價值。 • 案例：亞馬遜Mechanical Turk平臺將全球低收入者變爲“AI訓練工”，菲律賓工人爲每1000條圖像標註僅獲0.5美元報酬。 • 批判：“數據就是新石油”的隱喻實爲陷阱——石油需開採付費，而用戶數據被無償佔有並轉化爲資本。 2. 算法治理的權力重構 書中系統解構了AI如何成爲新型治理工具，強化既有的社會不平等： （1）自動化歧視的三重機制 • 數據偏見：美國COMPAS算法對黑人罪犯的再犯率預測錯誤率比白人高近 twice（ProPublica 調查）。 • 決策黑箱：荷蘭兒童福利系統AI誤判2600個家庭“欺詐”，僅因移民家庭地址變更頻繁。 • 責任轉移：當AI招聘系統歧視女性時，企業將責任歸咎於“算法中立”，逃避監管。 （2）勞動控制的技術化升級 • 案例：亞馬遜倉庫AI實時監控員工如廁時間，系統自動生成解僱指令，2022年導致美國倉庫工人年均受傷率是行業2.8倍 • 理論創新：提出“數字泰勒主義”概念——通過實時數據監控將勞動強度精確到秒，實現“算法暴政”。 3. 對“AI救世論”的系統批判 克勞福德逐一駁斥科技巨頭的烏托邦敘事： 主流敘事 批判視角 現實案例 “AI提高效率” 效率收益集中於資本，勞動者承受健康成本（如富士康AI質檢導致工人視力損傷率上升40%） 谷歌搜索算法優化使廣告收入激增，但內容創作者報酬下降65% “AI減少人爲偏見” 算法將歷史歧視編碼爲數學公式，形成“自動化壓迫” 美國房貸AI對少數族裔的拒貸率是白人的3倍 “通用人工智能近在眼前” 忽視AI的“情境愚蠢”——自動駕駛在暴雨中識別失效，依賴人類遠程操控員“救火” 特斯拉Autopilot系統2023年致17起致命事故，均因無法處理極端天氣 二、方法論創新：AI批判的空間轉向 本書獨創“AI地緣政治分析框架”，將技術置於全球權力結構中考察： 1. 地圖集式敘事 通過12幅信息圖表揭示AI產業鏈的空間不平等： • 資源端：剛果（鈷）、智利（鋰）、馬來西亞（稀土）構成“AI礦產三角” • 數據端：菲律賓、印度、肯尼亞爲“數字種植園”，提供低價數據標註服務 • 消費端：歐美佔據70%AI服務使用量，卻僅承擔12%的環境成本 2. 跨學科融合 • 社會學：借鑑布迪厄“象徵暴力”理論，分析算法如何將階級壓迫轉化爲“技術合理性” • 地理學：用“中心-邊緣”模型解釋AI收益的全球虹吸效應 • 科學史：對比19世紀鐵路擴張與當代AI滲透，揭示技術擴張的相似殖民邏輯 三、現實意義與讀者價值 1. 對政策制定者 • 提出“AI倫理影響評估”制度，要求企業公開算法訓練數據來源與環境成本 • 呼籲建立“數據主權”，將用戶數據視爲“數字勞動成果”，要求平臺支付報酬 2. 對技術從業者 • 提供“倫理設計 checklist”，包括供應鏈透明度審計、算法偏見壓力測試等工具 • 批判“技術解決主義”，倡導工程師的“制度性反思”能力 3. 對普通讀者 • 提供識別“AI神話”的批判性工具，如質問：“這個AI系統的訓練數據來自哪裏？誰爲此付出了代價？” • 案例式寫作風格，通過剛果礦工日記、亞馬遜工人訴訟等故事增強可讀性

這本書一直在說AI既不替代人工，也沒那麼智能。 這大概是十幾年前的論調了。 但書裏的祛魅視角很獨到，AI在書裏，是由地球深處的礦物、全球隱形的勞動者，以及我們日常生活中被無償攫取的數據，三層疊加構造而成的提取系統。 我們看見那尊所謂“智能”的雕像，下面墊着的是地球的傷口、勞動者被榨乾的時間，以及我們每個人被無情收割的日常。 由此看來，我們處於這個時刻裏就需要對人工智能的生產和接受提出關鍵性問題。 問題應該包括：我們如何定義AI，它爲誰服務，以及界限應該在哪裏。 這本書花了大量篇幅，試圖告訴我們，人工智能是一種理念、一種基礎設施、一種產業、一種行使權力的形式和一種觀察的方式。 作者認爲，在技術本身之外，AI它也是一種高度組織化的資本的表現，是由供應鏈環繞整個地球的巨大的開採和物流系統所支持。 以上所有這些都是人工智能的一部分：一個由四個字組成的詞語，映射着一系列複雜的期望、意識形態、慾望和恐懼。 就像民主一樣，技術的可行性最終取決於司法實踐和對權力的限制。 簡單來說，人工智能現在是能夠塑造知識、交流方式和權力的重要角色。 相關重構發生在認識論、正義原則、社會組織、政治表達、文化、對人體的理解、主體性和身份的層面，即人工智能決定了我們是什麼，我們可以是什麼。 所以現在可以理解爲什麼AI公司在大量的招募哲學家了。 因爲，我們不能被技術衝散作爲人的定義，更不能因爲技術的快速迭代而讓現有的社會框架散架。 如若不然，這將是一場不亞於物種大滅絕級別的巨大災難，且還是如同核災難一樣，是人類自己創造的。

凱特·克勞福德解構了人工智能神話，揭示其作爲全球權力與資源不平等載體的本質，本書的核心觀點顛覆主流認知：AI既非純粹“人工”，也不具備真正“智能”，而是根植於行星物質網絡和社會剝削系統。 所謂“人工”掩蓋了AI對地球資源的瘋狂榨取——依賴剛果鈷礦、印尼錫礦等全球供應鏈的開採，造成生態環境破壞與勞工權益侵害，如鋰電池生產所需鋰礦開採使原住民社區承受污染成本而科技巨頭獨享利潤。所謂“智能”實則是人類勞動的隱形轉嫁：從非洲數據標註員以低至每小時2美元處理有害內容，到ChatGPT依賴人工反饋訓練（RLHF）維持表現，本質仍是預定義規則下的模式匹配，無法理解世界。 AI系統實爲“權力登記表”，通過壟斷技術與數據加劇不平等。少數“AI豪門”（谷歌、微軟等）掌控資本與算力，延續殖民主義邏輯——訓練數據隱含着西方中心主義視角，將人臉識別等系統中的種族標籤制度化，簡化複雜身份爲二進制代碼以服務於統治結構。 國家權力與資本進一步合流，利用AI監控系統（如人臉識別追蹤示威者）形成威權工具，模糊公共與私營界限，擴張“監視資本主義”版圖。這種權力運作背後是三重代價：首先是環境危機，超大規模數據中心耗水量媲美小國，佔全球碳排放14%，科技公司卻以虛購“碳補償”掩蓋真相；其次是勞工剝削鏈條，從南半球礦工到亞馬遜倉庫工人被AI系統逼迫至生理極限，甚至情感也被“情緒識別算法”異化爲控制指標；最後是民主侵蝕，AI界面設計以簡潔性（如ChatGPT對話框）掩蓋複雜性與不透明性，製造技術神話逃避公共問責。 克勞福德以“地圖集”方法論創新地繪製AI物質-社會聯結網絡，揭示其與殖民主義、軍事化的歷史共謀。從礦物開採、數據訓練到國家監控的全過程構成一臺碾壓性的“巨機器”，其未來需通過行星倫理重構：一是啓動透明度革命，立法強制披露資源消耗（如《2024年AI環境影響法案》）；二是建立國際監管公約，限制AI監視濫用；三是推動資源主權迴歸社羣，如玻利維亞鋰礦國有化運動。作者旨在祛魅技術中立幻想——當人類驚歎於流暢的AI對話時，必須直視其背後酸化的河流、被算法禁錮的勞工、以及權力操控的真實代價。唯有將AI重新錨定於社會正義和生態責任，方能在算力狂潮中守護人之尊嚴。

“AI既不人工，也不智能。相反，人工智能既是具身的，也是物質的，是由自然資源、燃料、人力、基礎設施、物流、歷史和分類構成的。” “理解、捕獲、分類和命名數據的方式，從根本上來說是一種構建世界並對其進行控制的行爲。” “工具的可供性成了真理的地平線（The affordances of the tools become the horizon of truth）。”

凱特·克勞福德通過引入地圖集的方式來討論塑造人工智能的經濟、政治、文化和歷史力量，只有將人工智能與這些更廣泛的結構和社會系統聯繫起來，才能夠擺脫純粹技術概念的人工智能。 人工智能是一種行使權力的形式和一種觀看方式，也是一種高度組織化的資本表現，人工智能完全依賴於一套更廣泛的政治和社會結構。在如今人工智能大行其道的世界裏，通過不斷對人工智能進行追問和批判性思考，才能夠逐步接近真實的答案。 《紐約客》《金融時報》《麻省理工科技評論》交口稱讚。比起進步，AI更有可能讓整顆行星走向毀滅。 揭示人工智能的底層邏輯，ChatGPT給科技界帶來的巨震不僅在於開放共享的新業態，也在於殘忍無情的資源爭奪戰。 現在開始考慮並預防AI可能給人類社會造成的後果，並不算晚。 作者在導言中提出，試圖建立一種“人工智能理論”的野心，即把人工智能當作一個理論而非技術概念來看待。文中所涉及的權力、政治、環境、分類、勞工等則是聚集在這一理論體系下可供延伸的研究面向。這一觀念的提出具有啓發意義，但一方面，作者忽略對“人工智能”具體的理論定位，而暫時停留在對人工智能現實圖景的廣泛描摹之上；另一方面，本書的寫作也缺乏作者所承諾的理論維度。 本書證明了人工智能既不“人工”，也沒有那麼“智能”，是一次令人驚奇的對訓練人工智能的數據的歷史梳理。

# 《技術之外》高階書評：AI 不是工具革命，而是社會關係的重新編排 ## 1. 這本書在 2026 年重新被閱讀的真正價值 2026 年再讀這類關於人工智能的批判性作品，意義已經不同於幾年前。過去，人們討論 AI，重點往往是“它能做什麼”：能否寫代碼、生成圖像、輔助科研、替代客服、優化管理、預測風險。到了 2026 年，更關鍵的問題變成：**AI 正在通過什麼樣的資源、勞動、權力和制度關係，被嵌入我們的社會生活？** 這本書的真正價值，不是反技術，也不是給 AI 熱潮潑冷水，而是提醒讀者：人工智能從來不是純粹漂浮在雲端的算法奇蹟。它背後有礦產、能源、數據、勞工、平臺、資本、監管、軍事、教育、城市治理和日常生活的複雜連接。所謂“智能”，並不是機器自然生長出來的能力，而是一個社會系統通過大規模資源調動、數據採集、勞動隱形化和權力集中共同生產出來的結果。 對 35–45 歲的博士、博士後、技術管理者和知識型轉型者而言，這種視角尤其重要。因爲很多高學歷技術人容易把 AI 理解爲模型、參數、算力、論文、產品和效率工具，卻忽視它作爲一種社會基礎設施正在改變職業結構、組織權力、知識價值和個體命運。真正成熟的 AI 認知，不是隻會使用工具，而是能看見工具背後的社會結構。 --- ## 2. 表層主題之外的底層命題 表面看，這本書討論的是人工智能與社會之間的關係；更深層看，它討論的是：**技術如何被包裝成中立力量，卻在現實中參與資源分配、身份塑造和權力再生產。** 現代技術敘事常常有一種強烈傾向：把複雜社會問題轉化爲技術問題。教育不公平，可以做智能評估；就業匹配困難，可以做算法推薦；城市治理複雜，可以做智能監控；醫療資源不足，可以做 AI 輔助診斷；組織效率低下，可以做自動化管理。 這些方案並非沒有價值，但危險在於，一旦問題被重新命名爲技術問題，原本關於制度、倫理、權力、利益和責任的討論就容易被壓縮。人們開始相信，只要數據足夠多、模型足夠強、系統足夠自動化，複雜社會矛盾就能被優化掉。 這本書真正要拆解的，正是這種“技術中立幻覺”。AI 不只是解決問題的工具，它也會重新定義什麼是問題、誰有資格被計算、誰被納入系統、誰被排除在外、誰承擔錯誤後果、誰從效率提升中獲益。 因此，它的底層命題不是“AI 好還是壞”，而是：**當一種技術成爲社會基礎設施時，我們是否仍然有能力追問它背後的權力結構、成本結構和責任結構。** --- ## 3. 跨學科高維解讀 ### 社會學視角：AI 是社會關係的壓縮器，而不是社會之外的機器 從社會學角度看，AI 並不是獨立於社會運行的中性工具，而是把既有社會關係壓縮進數據、模型和平臺規則之中。 數據來自社會，標註依賴勞動，模型訓練依賴資源，系統部署依賴組織權力，最終結果又反過來影響社會成員的機會分配。招聘算法會影響誰獲得面試機會；內容推薦會影響公衆注意力；風控模型會影響誰被認爲可信；智能管理系統會影響勞動節奏；城市感知系統會影響公共空間中的可見性與可疑性。 技術表面上看起來客觀，但它吸收的是歷史形成的數據，而歷史數據中本就包含階層、性別、地域、種族、教育、收入和制度差異。AI 的危險不一定來自“機器產生偏見”，而是來自機器把過去的不平等轉化爲未來的自動化判斷。 這對高學歷人羣有一個重要啓發：如果只理解算法，不理解社會，就很容易把偏差當成噪音，把權力當成參數，把人的處境當成樣本。真正高級的技術判斷，必須同時理解模型性能與社會後果。 ### 經濟學視角：AI 的效率神話背後，是成本轉移與收益集中 AI 常被描述爲效率革命。但經濟學上必須追問：效率提升的收益歸誰？成本由誰承擔？風險被轉移給誰？ 生成式 AI、自動化辦公、智能客服、無人倉儲、算法管理和內容生產工具確實提高了許多流程效率。但與此同時，知識勞動的價格被壓低，入門級崗位被壓縮，中間層管理被重構，勞動者需要不斷自我升級以適應系統變化。企業獲得降本增效，平臺獲得數據和網絡效應，資本獲得估值敘事，而許多個體承擔的是職業不穩定、技能折舊和持續焦慮。 更隱蔽的是，AI 的物質成本常常被抽象化。算力需要能源，芯片需要礦產，數據中心需要土地、水、電和冷卻系統，訓練數據需要大量人類勞動清洗、審覈和標註。所謂“雲端智能”，並不是無重量的未來，而是高度物質化的基礎設施。 因此，AI 經濟不是簡單的“技術提高生產率”，而是一次新的成本—收益重分配。成熟讀者必須看見，所謂智能化轉型並不自動帶來公平收益，它可能擴大少數平臺與資本主體的議價能力，同時削弱普通知識勞動者的穩定性。 ### 政治學視角：AI 是治理能力，也是治理權力 從政治學角度看，AI 的核心問題不只是技術能力，而是治理權力。誰擁有數據，誰定義模型目標，誰設定分類標準，誰解釋系統結果，誰承擔誤判責任，誰有權拒絕被自動化處理，這些都是政治問題。 AI 在公共治理、安防、金融、醫療、教育、人力資源和內容平臺中的應用，使得分類、評分、預測、推薦和監控成爲日常治理方式。它們看似提高了治理效率，但也可能降低人的申訴空間和解釋權。 當一個系統說你“不匹配”“高風險”“低潛力”“不推薦”“異常”，你面對的往往不是一個可溝通的人，而是一套複雜卻不透明的機制。這意味着權力從顯性的管理者轉向隱性的技術系統。人不再只是被制度管理，也開始被模型畫像、分層、預測和排序。 這本書的重要性就在於，它迫使我們重新理解 AI 時代的自由問題。自由不只是能否使用新工具，也包括能否理解、質疑、拒絕和糾正工具對自己的判斷。 ### 技術哲學視角：AI 改變的不只是生產力，而是“人如何被定義” AI 的深層影響，不只是提高效率，而是改變社會如何理解人。 當人的語言、圖像、行爲、位置、消費、社交、學習和工作都可以被數據化，人就越來越容易被系統理解爲一組可計算特徵。一個員工是績效數據、協作數據和潛力評分；一個學生是學習軌跡和預測成績；一個消費者是偏好標籤和轉化概率；一個公民是身份記錄、行爲模式和風險畫像。 這種變化非常深刻。它不是簡單地“機器理解人”，而是社會開始按照機器可理解的方式重新組織人。不可量化的經驗、倫理、直覺、沉默、痛苦、尊嚴和關係，很容易被排除在系統之外。 因此，AI 時代最重要的問題之一是：我們是否還承認人有不可被充分數據化的部分？如果一切都必須進入指標、模型和預測，人就會被迫適應系統的可計算性，而不是系統服務於人的複雜性。 ### 複雜系統視角：AI 放大反饋迴路，也放大脆弱性 AI 系統不是一次性工具，而是持續影響行爲的反饋機制。推薦系統改變人的注意力，人的點擊又反過來訓練推薦系統；招聘模型篩選候選人，候選人又會調整簡歷迎合模型；教育評價系統改變學生學習策略，學生行爲又進入下一輪數據；金融風控影響借貸機會，借貸結果又強化模型判斷。 這類反饋迴路會產生路徑依賴和自我強化。系統越被廣泛使用，其分類方式就越可能塑造現實本身。模型不只是預測世界，也開始參與制造世界。 這對組織管理者尤其重要。AI 部署不是“上一套系統”那麼簡單，而是在組織中引入新的反饋機制。如果指標設計錯誤、數據質量偏差、責任邊界不清，AI 會把原有問題自動化、規模化、隱形化，甚至讓組織更難發現自身錯誤。 --- ## 4. 對博士、博士後和高學歷轉型者的特殊啓發 ### 從“技術能力”升級爲“結構性判斷力” 高學歷技術人常常擅長問：模型是否先進？算法是否有效？系統是否可擴展？性能是否提升？這些問題當然重要，但已經不夠。 AI 時代更高階的問題是： 這個系統解決的是真問題，還是把社會問題技術化？ 它優化的是局部指標，還是整體福祉？ 它提高了誰的效率，又增加了誰的負擔？ 它是否改變了組織中的權力分配？ 它是否讓人更有能力，還是更依賴系統？ 它的錯誤由誰承擔？ 博士訓練提供了抽象、建模和證據意識，但產業轉型需要把這些能力延展到社會結構、組織權力和商業後果之中。未來真正稀缺的不是隻懂 AI 技術的人，而是能夠判斷 AI 在什麼場景中該用、如何用、用到什麼邊界、由誰負責的人。 ### 從“深井型專家”轉向“社會技術架構師” 很多博士和博士後在職業轉型中面臨一個隱性瓶頸：他們擁有深度知識，卻缺少跨系統表達能力。他們能解釋模型機制，卻不一定能解釋該技術如何影響客戶、組織、監管、倫理和商業模式。 這本書提供的啓發是：AI 不是單純技術問題，而是社會技術系統問題。因此，高學歷轉型者的第二曲線，不一定是去追逐最新模型，而是成爲連接技術、行業、治理和組織的人。 所謂社會技術架構師，至少需要四種能力： 1. **技術理解力**：知道 AI 的能力邊界，而不是被營銷敘事牽着走。 2. **場景判斷力**：理解真實業務流程、用戶處境和組織約束。 3. **倫理與風險意識**：識別偏見、隱私、責任、合規和外部性。 4. **跨圈層溝通力**：能與工程師、管理者、法務、業務、監管和公衆溝通同一個問題。 這類能力比單純模型調優更難被自動化替代，也更適合中年知識型人羣積累長期議價能力。 ### 避免高學歷羣體的“技術純潔性幻覺” 科研訓練容易形成一種技術純潔性：只要理論正確、實驗有效、指標提升，技術就是進步的。但現實中的技術從來不是在真空中運行。它會進入組織 KPI、資本壓力、用戶習慣、監管缺口和社會不平等之中。 高學歷人羣如果只堅持技術正確，而不理解技術被誰使用、如何部署、服務什麼目標，就容易成爲系統的一顆高效螺絲，而不是擁有判斷力的責任主體。 這本書對技術人的真正警醒是：不能因爲自己做的是算法、數據、模型、工程，就以爲自己與社會後果無關。AI 時代的專業倫理，不是寫在附錄裏的原則，而是嵌入產品設計、數據選擇、指標設定、上線決策和組織激勵中的日常實踐。 ### 建立長期議價能力：從工具使用者到制度翻譯者 2026 年，使用 AI 工具已經不再稀缺。真正稀缺的是能解釋 AI 如何改變制度、流程和組織的人。 對中年轉型者而言，最有價值的路徑不是簡單地學習更多工具，而是把自己定位爲“制度翻譯者”：既懂技術語言，也懂組織語言；既能看到效率，也能看到風險；既能推動應用，也能設置邊界；既能理解商業目標，也能維護長期信任。 這類人會在企業 AI 轉型、數據治理、智能風控、AI 合規、組織自動化、科研管理、教育技術、醫療智能化等領域擁有更高價值。因爲未來企業缺的不只是會調用模型的人，而是能讓 AI 安全、合理、可持續地嵌入組織的人。 --- ## 5. 這本書的侷限與誤讀風險 這類批判性作品最大的誤讀風險，是被讀成“反 AI”或“技術悲觀主義”。如果這樣理解，就會錯過它真正的價值。它不是否定人工智能，而是反對把人工智能神祕化、中立化和去社會化。 但它也有自身邊界。 首先，批判視角容易強調權力、剝削和不平等，卻相對低估技術在醫療、科研、教育、無障礙服務、生產效率和知識普惠方面的真實潛力。成熟讀者不能從技術樂觀主義跳到技術犬儒主義。AI 的確會製造新問題，也確實能解決許多舊問題。 其次，社會批判如果停留在揭露層面，容易缺少操作性。對企業管理者、工程團隊和政策制定者來說，問題不只是“AI 有權力結構”，還包括如何設計審計機制、責任鏈條、數據治理、用戶申訴、模型評估和組織流程。這需要從批判走向建設。 再次，這本書強調 AI 背後的物質與社會基礎，非常必要，但在 2026 年生成式 AI 快速進入日常工作的背景下，還需要補充對個體能力重構的討論。普通知識勞動者不僅要理解 AI 的社會代價，也要面對它對自身職業路徑的直接衝擊。 最後，不能把“社會聯結”理解成一種抽象道德姿態。真正的問題不是簡單呼籲技術向善，而是要在商業激勵、監管制度、組織實踐和個人選擇中建立具體制衡機制。否則，批判很容易變成道德正確但現實無力。 --- ## 6. 最終判斷 這本書最重要的貢獻，是把人工智能從“技術奇觀”重新放回社會現實之中。它讓我們看到，AI 並不是一個獨立於人類社會的智能實體，而是由資源、勞動、資本、數據、制度和權力共同編織出來的社會技術系統。 對博士、博士後和高學歷職業轉型者而言，它提供的不是工具指南，而是一種認知升級：從只關心模型能力，轉向理解技術如何重組社會；從只追求專業深度，轉向建立結構性判斷；從把自己定位爲技術執行者，轉向成爲能承擔後果、設置邊界、連接多方的複雜系統參與者。 在 2026 年的 AI 浪潮中，真正成熟的人不是盲目擁抱技術，也不是簡單拒絕技術，而是能同時看見它的效率、代價、權力和可能性。技術之外，並不是技術的對立面，而是技術真正發生作用的地方。

雖然有些內容淺嘗輒止，但我個人認爲在如今科技狂潮的時代，在chat gpt,deepseek席捲我們生活的同時，我們需要降溫，這本書就是一種降溫，當我們越來越依賴人工智能，甚至將自己的決定交給它做的時候，人類也在面臨去主體化的問題。順便提一句，我在元寶裏嘗試了一下，當我說是女性，請給我推薦書籍時，基本都是情感類，家庭類以及克服焦慮類，而我說我是男性，就出現了事業類書籍，雖然這些書單來自現實世界裏的排行榜（本來就存在這種偏見），但人工智能無疑在某種程度上加重了性別刻板印象。