技术之外：社会联结中的人工智能

《技术之外：社会联结中的人工智能》是凯特·克劳福德（Kate Crawford）教授的一部重要著作。作为人工智能社会影响领域的顶尖学者，克劳福德在书中运用“地图集”（Atlas）的视角，带领读者穿越矿山、数据中心、物流仓库和分类实验室，揭示了AI并非纯粹的技术产物，而是一套 deeply embedded 在物质、政治和社会结构中的权力系统。 以下是为您整理的详细读书笔记： --- 读书笔记：《技术之外：社会联结中的人工智能》 副标题：破除“技术中立”的神话，看见AI背后的真实世界 作者： [美]凯特·克劳福德（Kate Crawford） 出版时间： 2024年3月 核心主题： 人工智能既不“人工”，也不“智能”。它依赖于从地球深处到全球劳工的庞大供应链，是一种行使权力的形式和一种组织化的资本表现。 --- 一、 核心论点：AI是一部权力地图 本书开篇即挑战了主流叙事。克劳福德认为，要真正理解AI，不能只看硅谷的实验室和算法代码，而必须绘制一张涵盖“提取、政治和技术力量机制”的广角地图。 金句： “人工智能是一种行使权力的形式和一种观看方式，也是一种高度组织化的资本表现，人工智能完全依赖于一套更广泛的政治和社会结构。” 作者提出“真实存在的AI”（Real AI）这一概念，强调AI系统的生命周期始于玻利维亚的盐湖、刚果的矿山，经由无数底层劳工的双手，最终服务于国家的监控和企业的利润。 --- 二、 逐章精华梳理 第一章：地球 —— 计算的物质性与环境成本 AI是“虚拟”的吗？克劳福德给出了否定的答案。她从地下开始绘制地图，揭露了AI沉重的“肉身”： · 资源提取政治： AI硬件（芯片、电池、屏幕）依赖于稀土矿物、锂、钴和锡。这些资源的开采往往发生在监管薄弱的地区，伴随着环境破坏和地缘冲突。 · 能源与水： 训练大型语言模型和运行数据中心的能耗惊人。作者指出，科技行业的碳足迹常被低估，其耗电量甚至相当于某些国家的总耗电量。此外，数据中心需要大量的水进行冷却，加剧了水资源紧张。 · “洁净技术”的谎言： 科技巨头通过购买碳信用来宣称“绿色”，这在中世纪如同赎罪券。实际上，他们仍在帮助石油巨头开采化石燃料。 第二章：劳工 —— 隐藏的“幽灵工作” 在光鲜的机器学习工程师背后，是维持AI运转的庞大影子劳动力： · 全球产业链上的劳工： 从印尼锡矿的矿工，到菲律宾的内容审核员，再到印度的数据标注员。AI系统依靠这些低薪、无保障的劳动力来识别图片、过滤暴力和“假装”智能。 · 土耳其机器人： 人类被要求像机器一样完成微小的任务，以维持“AI自动运行”的假象。 · 工作场所的权力： 亚马逊仓库和外卖平台利用AI监控员工的一举一动（如手环振动、如厕计时），这不是解放劳动力，而是向泰勒式科学管理的倒退，进一步加剧了权力的不对称。 第三章：数据 —— 从公共空间到训练集的掠夺 数据的收集是一种新的提取哲学： · “收割世界”： 科技公司的心态是“你在现实世界中看到的任何东西，都需要纳入我们的数据库之中”。街道、公园、个人照片、社交媒体辩论，都被一视同仁地抓取。 · 知情同意的终结： 数据收集常态化，以至于不尽可能多地收集数据被认为是一种浪费。这曾经只是情报机构的做法，现在已成为商业模式的基石。 · 基础设施化： 我们的面部、手势和语音不再仅仅是个人资料，而是成为了训练AI模型的免费基础设施。 第四章：分类 —— 偏见只是冰山一角 数据集从来不是客观的原材料，而是“政治干预”的产物： · 命名与框定： AI通过标签（如种族、性别、情绪）对世界进行分类。这些标签简化了流动复杂的现实，强化了二元性别、刻板印象和等级制度。 · 操作型图像： 图像不再是为了给人看，而是为了给机器看。这种“看待世界的方式”决定了哪些特征被突出，哪些被忽略。 · 循环逻辑： 如果一个系统通过有偏见的“基本事实”训练，它输出的结果必然带有偏见。通过一张脸预测性取向或犯罪倾向，正是这种危险逻辑的体现。 第五章：情感 —— 测量灵魂的谬误 情感识别系统是本书重点批判的对象： · 还原论： 基于保罗·艾克曼等心理学家备受争议的理论，这些系统试图通过面部微表情将复杂的人类情感简化为几类普适情绪。 · 应用场景的危险： 尽管科学依据存疑，这些工具已被迅速应用于招聘面试、课堂注意力检测和安防审讯中。 · 魔术师的手法： 它告诉我们关于这些工具及其创造者的信息，比它声称看到的信息更多——这是一种控制的手段。 第六章：国家 —— 从军事到市政的权力工具 AI与国家的结合带来了深远的政治后果： · 军工复合体： 从Maven计划（用AI分析无人机视频）到“第三次抵消战略”，硅谷与五角大楼深度绑定，将预测算法用于致命打击。 · 监控的民主化： 原本属于间谍机构的技术（如元数据追踪、车牌识别）如今下沉到市政层面。移民警察使用预测平台锁定无证移民，失业补贴系统利用算法指控公民欺诈。 · 社会信用评分： 作者讨论了这种逻辑如何在全球范围内蔓延，利用不稳定的分类系统对公民进行评分和排序。 第七章：权力 —— 谁的AI？ 总结全书，克劳福德指出AI系统服务于股东价值和现有的权力结构： · 公共补贴的私有化： AI的发展严重依赖于公共资源（国家资助的科研、公共数据、基础设施补贴），但其利润却被少数巨头私有化。 · 准国家实体： 少数科技巨头拥有的权力超越了大多数民族国家，它们决定言论的边界、分配社会资源、甚至影响地缘政治。 终曲：太空 —— 逃离地球的幻想 在书的结尾，作者将目光投向了马斯克的SpaceX和贝佐斯的蓝色起源。她认为，亿万富翁对太空的迷恋是“对地球的一种防御”，是建立在掠夺地球资源基础上的“逃离想象”。这种对权力的极致追求，是AI背后逻辑的终极体现。 --- 三、 关键概念总结 概念 内涵解读 AI现实主义 既不盲目乐观也不悲观，基于实地考察（矿山、数据中心、血汗工厂）直面AI的真实成本。 操作型图像 完全为机器创造的世界表象，图像的含义和语境被剥离，仅留下可供算法识别的数据点。 提取政治 贯穿AI生命周期的逻辑：从地下矿物、人类劳工、公共数据中提取价值，并将环境与社会成本外部化。 杰文斯悖论 效率的提高（如推理能耗降低）反而导致资源总消耗量的激增，因为使用场景被无限扩大。 幽灵工作 隐藏在算法背后，维持AI系统运转但不可见的人类劳动（数据标注、内容审核）。 --- 四、 经典摘录 1. 关于AI的定义： “AI既不人工，也不智能。相反，人工智能是具身的，也是物质的，它由自然资源、燃料、人力、基础设施、物流、历史和分类构成。” 2. 关于技术中立： “尽管技术系统呈现出客观和中立的外表，但作者认为它们是被设计来服务和强化现有的权力系统的。” 3. 关于分类的权力： “我们很容易忘记，为了塑造技术系统而随意选择的分类，可以在塑造社会和物质世界方面发挥动态作用。” 4. 关于结构性不公： “当某人滔滔不绝地推销某物，大谈收益而决口不提成本的时候，你要想想，你是不是就是那个成本了！” 5. 关于未来： “当我回顾那些经历和那些旅程时，给我希望的是这样一个事实：一切都可以改变。现在正在建造的任何东西在10年后都不会以同样的方式存在。没有什么是不可避免的。” --- 五、 评价与思考 本书的价值在于： 1. 祛魅： 它成功打破了笼罩在AI头上的“技术中立”光环，让读者看到代码背后沾满泥土、汗水与鲜血的供应链。 2. 系统性视角： 作者没有停留在算法歧视的单一维度，而是将环境科学、劳动经济学、政治学与计算机科学结合，构建了一个宏大的跨学科批判框架。 3. 紧迫感： 通过对能源消耗和权力集中的分析，作者提醒我们，现在正是对AI发展方向进行干预的“最后的机会窗口”。 读后思考： 作为普通人和技术使用者，我们往往只看到“现在购买”按钮的便捷，却看不到按钮背后的“无尽纸板箱、送货卡车和资源消耗”。克劳福德的这本书是一份邀请，邀请我们成为“AI现实主义者”——不是拒绝技术，而是追问：这项技术为谁优化？谁在承担成本？界限应该在哪里？ 在这个意义上，《技术之外》不仅是对硅谷的批判，更是一部关于如何在AI时代重新思考人类未来、民主与环境的地缘政治学指南。

从她的这本书中已经能够看到她对AI对整个世界的影响的看法是全方位的，不只是需要从技术的维度来理解AI的益处与危害，而且还需要从环境、气候和社会关系等实实在在的视角来剖析AI对整体世界的影响。 正好听了她的一段对话，对话的标题是：“我们必须在为时已晚之前解决人工智能对气候的影响——凯特·克劳福德（Leading AI Professor: We Must Address AI's Climate Impact Before It’s Too Late | Kate Crawford），这应该是对她的这本书有所拓展。最后增加了一个我感兴趣的方面：教育。向AI提问，她的观点在教育上有何启发。 她在对话最后说的话，说明她是一个行动主义者，让人敬佩： “我认为乐观主义与悲观主义的辩论已经太陈旧了，已经过时了。我认为自己是一个AI现实主义者，我之所以持这种立场，是因为我做了研究，因为我深入一线，因为我与人们会面，因为我去了这些系统被建造的现场，因为我访问了矿山，因为我去了数据中心，因为我真正找出了这里正在发生的事情的完整图景。” 事实上，她在这本书的最后，写道她是是去探访贝佐斯的蓝色起源公司基地的，“它（蓝色起源公司基地）是由地球上最富有的人驱动的、正在建设中的私人基础设施，有警卫和门控，是对权力、提取和逃离的科技想象。这是对地球的一种防御。” 她渴望人们一起努力，让世界变得更好： “当我回顾那些经历和那些旅程时，给我希望的是这样一个事实：一切都可以改变。现在正在建造的任何东西在10年后都不会以同样的方式存在。没有什么是不可避免的。人们拥有比他们想象中更大的力量来说：这就是我们想要生活的世界。这就是我们希望自己的社区繁荣发展的方式。这就是我们希望我们自己的资源、我们自己的环境所发生的事情。” \ 对话内容（AI总结） 这是一场关于人工智能的环境与社会成本的深度对话，访谈对象是南加州大学教授、人工智能领域的权威研究者凯特·克劳福德（Kate Crawford）。对话系统性地揭示了AI发展背后被忽视的重大问题： 核心论点 1. AI并非"虚拟"技术——它是本世纪最大的工业转型 • AI系统依赖大量半导体芯片（如A100、H100），这些芯片需要巨大的能源并产生大量热量 • 数据中心预计到明年将消耗相当于日本的电力 • 生成式AI到2030年将使用相当于印度全国的能源 2. 环境成本的全生命周期 • 训练阶段：使用海量数据集训练，耗时可达一年或更长，极其耗能耗水 • 推理阶段：每次查询的能耗是普通搜索的5-10倍，OpenAI每天处理约25亿次查询 • 矿物开采：需要开采稀土、锂、钴等矿物，涉及环境破坏和童工剥削 3. 对社区的实际伤害 • 孟菲斯南部的马斯克"巨人"数据中心使用甲烷发电机，向本已哮喘率高企的黑人社区排放有毒氮氧化物 • 弗吉尼亚州25%的电力用于数据中心，几年后将达到50% • 电费成本在某些地区翻倍，转嫁给普通消费者 4. "效率悖论"（杰文斯悖论） • 虽然高科技公司声称推理能耗降低98%，但这只会导致使用量激增 • 效率提升反而刺激更大规模的模型开发和更广泛的应用 • AI被嵌入到所有日常应用中，改变人们的行为模式 5. 错误的"零和博弈"叙事 • 美国将AI竞赛框架设定为"国家安全vs.地球环境" • 这让科技公司逃避责任，因为决策者必然选择国家安全 • 实际上中国正在大力投资可再生能源（2024年新增300GW太阳能），证明两者可以兼得 6. 权力集中的威胁 • 5-10家公司垄断规模化AI生产 • 8位亿万富翁控制着80亿人的生活——这种权力集中在历史上极为罕见，类似封建帝国 • AI公司已经成为"准国家"，其权力超越民族国家 7. 历史视角：AI是帝国延续 • 克劳福德的艺术装置《计算帝国》追溯500年历史 • 从1500年代的资本主义、殖民主义、印刷术开始 • AI延续了历史上权力集中、资源掠夺、劳动剥削的模式 8. 认识论威胁 • AI引擎成为主要信息源，而非报纸或网页 • 少数人可以操纵AI输出的"事实"（如马斯克改变Grok对政治问题的回答） • 这是比过去任何宣传形式都更严重的心理和真相控制 9. 科学研究被削弱 • 恰恰在最需要独立研究的时刻，AI影响研究却遭到大幅削减 • 实验室关闭，研究人员离开美国 • 这种后果将持续20-30年 10. 可能的解决方案 • 使用可再生能源（如中国的太阳能战略） • 采用更精细的策划数据集而非互联网规模数据 • 使用"专家混合"方法（如DeepSeek）降低训练能耗 • 为特定问题设计小型高效模型，而非通用大模型 • 将数据中心建在非缺水地区 ________________________________________ 对教育者的重要启示 一、批判性思维教育的紧迫性 启示1：解构"技术中立论" • 克劳福德强调："技术从来不是中立的"——它是"政治的固化形式" • 教育应用：教导学生质疑技术的呈现方式，追问"这项技术服务谁？谁承担成本？" • 培养学生识别技术叙事背后的权力结构和经济动机 启示2：培养"技术现实主义"而非盲目乐观/悲观 • 克劳福德自称"AI现实主义者"，基于实地研究而非意识形态 • 教育应用：鼓励学生进行基于证据的分析，避免极端化技术乐观主义或恐惧论 • 教授如何追踪信息源头，验证技术公司声明 二、系统性思维与跨学科教育 启示3：揭示完整的"供应链" • AI不仅是代码，还涉及采矿、能源、水资源、劳动、地缘政治 • 教育应用： o 将技术教育与环境科学、社会学、经济学、伦理学整合 o 设计项目让学生追踪一项技术从原材料到废弃的全生命周期 o 案例研究：调查手机/AI设备的矿物来源 启示4：历史纵深视角 • 克劳福德回溯500年历史来理解当前AI发展 • 教育应用： o 教授技术史，帮助学生识别重复的模式（如工业革命、殖民主义、信息革命） o 避免"技术当下主义"——认为一切都是前所未有的 o 讨论历史上类似的权力集中案例（东印度公司vs.现代科技巨头） 三、环境素养与公民责任 启示5：揭穿"个人碳足迹"陷阱 • 克劳福德批评将系统性问题转嫁给个人（如"不用塑料吸管"） • 教育应用： o 区分个人行为改变与结构性改革 o 教导学生识别"洗绿"（greenwashing）策略 o 培养倡导系统性改变的能力（政策参与、集体行动） 启示6：能源政策与国家安全的关联 • 中国的可再生能源战略既是环保也是国家安全 • 教育应用： o 在STEM课程中整合能源政策讨论 o 分析不同国家的能源策略案例 o 思考：如何让气候行动与国家利益对齐？ 四、数字素养与AI时代的生存技能 启示7：理解AI的实质成本 • 每次ChatGPT查询的能耗、水耗、碳排放 • 教育应用： o 在计算机课程中教授AI的物理基础设施 o 计算项目：估算学校/个人的AI碳足迹 o 讨论：何时使用AI是合理的？何时是不必要的浪费？ 启示8：信息验证能力 • AI引擎可能被操纵输出特定"事实" • 教育应用： o 强化媒体素养课程 o 教导学生交叉验证AI生成的信息 o 练习识别AI偏见和幻觉（hallucination） o 对比多个信息源（传统媒体、学术文献、AI引擎） 五、权力意识与公民参与 启示9：理解权力集中的危险 • 8位亿万富翁控制80亿人的生活 • 教育应用： o 公民教育课程中讨论科技垄断 o 分析案例：科技公司vs.民主政府的权力动态 o 激发思考：如何确保技术发展的民主参与？ 启示10："最后的机会窗口"意识 • 克劳福德强调：现在是改变AI基础设施的最后时刻 • 教育应用： o 培养学生的紧迫感和行动导向 o 组织参与式项目：给议员写信、参加社区听证会 o 讨论：作为未来继承者，学生可以采取哪些行动？ 六、伦理推理与价值观教育 启示11：质疑"技术竞赛"叙事 • "竞赛"框架导致短期思维和降低底线 • 教育应用： o 探讨合作vs.竞争的不同范式 o 案例分析：科学研究中的开源vs.专利 o 辩论：AI发展应该是竞赛还是全球合作？ 启示12：边缘化社区的负担 • 孟菲斯黑人社区承受AI的污染成本 • 教育应用： o 环境正义（environmental justice）课程 o 田野调查：本地区的技术基础设施对哪些社区造成影响？ o 培养同理心和社会责任感 七、教学法层面的创新 启示13：实地研究与亲身体验 • 克劳福德访问矿山、数据中心、实验室 • 教育应用： o 组织实地考察（数据中心、回收设施、能源站） o 虚拟实地考察（VR参观矿山或芯片工厂） o 邀请从业者（矿工、数据中心工程师）分享经验 启示14：艺术与科学的融合 • 克劳福德的《计算帝国》艺术装置获奖 • 教育应用： o 跨学科项目：用艺术表达技术问题 o 视觉叙事：创建信息图展示AI的供应链 o 戏剧表演：角色扮演不同利益相关者（矿工、工程师、用户、政策制定者） 八、未来导向的准备 启示15：为"多极世界"做准备 • 研究中心可能从美国转移到欧洲、加拿大、印度等地 • 教育应用： o 培养全球视野和跨文化能力 o 学习多种语言和区域研究 o 理解不同国家的技术治理模式 启示16：培养适应性而非依赖 • 避免过度依赖AI工具而丧失基本技能 • 教育应用： o 平衡AI工具使用与基础能力培养 o 教授"无AI"情境下的问题解决 o 讨论：哪些能力是不可外包给AI的？ ________________________________________ 核心教育哲学转变 这场对话最深刻的启示是：教育不能仅仅培养"使用者"，而要培养"设计者"和"质疑者"。 \ 以此作为本书的读后感吧。

在人工智能技术飞速迭代的当下，许多潜藏的社会问题常被技术光环遮蔽，而《技术之外：社会联结中的人工智能》恰好掀开了这层迷雾，引导我们以更理性、更全面的视角审视AI。 这本书堪称一部“反AI神话”的力作——它跳出技术崇拜，将人工智能放回地球资源、劳动体系、数据逻辑与权力结构的脉络中重新审视。全书以“地图集”为精妙隐喻，逐章带领读者跨越空间与维度：从地壳深处的矿产到遥远太空的幻想，从产业链底层的矿工到算法背后的权力博弈，层层透视AI技术的真实成本与深层社会结构。其核心内容可梳理为三大板块： 一、写作立场与方法：打破技术单一视角 作者凯特·克劳福德提出核心观点：人工智能既非完全“人工”（依赖全球资源与分散劳动），也非传统意义上的“智能”（本质是统计与数据驱动），而是一种依托大规模资源、数据与劳动的权力行使方式。她摒弃纯技术分析，采用“地图集”式写作——将技术原理、政治逻辑、经济链条与环境代价并置呈现，时刻提醒读者：理解AI不能只盯着算法，更要看见其背后的复杂系统。 二、分章脉络：一幅立体的AI社会图景 - 第一章“地球”：以俯瞰硅谷的航班为起点，揭开AI的物质根基——内华达州的锂矿、数据中心的能源消耗、全球化的资源供应链，明确指出AI是一套“深深扎根于地壳”的行星级系统。 - 第二章“劳工”：聚焦AI背后的隐形劳动链——从印度尼西亚的采矿工，到众包平台的低薪标注员，再到承受心理创伤的内容审核员，揭露“自动化”表象下，AI依赖的是分散、低薪且被算法严密监控的劳动力。 - 第三章“数据”：剖析数据的资本化路径——个人自拍、街景图像等数字痕迹被无差别抓取，从隐私记录沦为资本资产；同时指出，数据集自带的历史偏见会被算法放大，加剧社会不平等。 - 第四章“分类”：将19世纪塞缪尔·莫顿的颅骨测量（种族分级）与当代ImageNet的人群标注并置，揭示算法分类本质是对历史等级观念的承袭，解决偏见的核心是重构社会权力结构，而非单纯调整技术参数。 - 第五章“情感”：追溯“六种普遍情绪”理论如何从心理学假设，演变为估值数百亿的情感识别产业，批判其掩盖心理学争议、侵犯隐私且放大文化偏见的风险。 - 第六章“国家”：梳理AI与国家权力的渊源——自20世纪50年代起，美国军方与情报机构（如ARPA）便是AI研究的核心资助者，不仅奠定“高-中-低”风险研究逻辑，更将学术与产业成果纳入国家安全体系。 - 第七章“权力”：以AlphaGo为案例，分析封闭系统内算法自我进化带来的“决策黑箱”，警示算法权威正不断挤压公众对技术的理性认知，强化权力集中。 - 终曲“太空”：批判贝佐斯、马斯克等科技巨头的太空幻想——将太空视为新商业边疆，延续殖民逻辑，却回避地球资源枯竭与社会不平等的根本问题，只是将矛盾“转移”而非“解决”。 三、结论与启示：技术之外的核心命题 全书最终得出关键结论：AI的“智能”往往是权力、资源与社会关系的产物，而非纯粹的技术奇迹；要真正理解AI，必须同时看见地球的资源消耗、劳动者的付出，以及数据背后的制度与文化逻辑。 作者为此发出呼吁：在政策制定、技术设计与伦理讨论中，必须打破“技术中立”的迷思，重新分配资源与权力，让AI发展与社会公平、生态可持续的目标相匹配，而非沦为资本与权力的工具。 荐读理由 《技术之外：社会联结中的人工智能》通过跨学科的叙事的方式，为读者绘制了一幅“技术之外”的导航图——它教会我们跳出对算法的迷恋，看见AI与人类社会、地球生态的深层联结。对于关注社会公平、善于独立思考，且对地球未来怀有责任感的有识之士而言，这本书不仅是理解AI的绝佳指南，更能启发我们对技术文明、权力分配与生态可持续性的深度思考，值得一读。

1.“当我们谈论AI时，我们实际在谈论一种新型全球权力拓扑——数据从边缘流向中心，利润从中心流向资本，代价则由边缘承担。” 2.“‘算法偏见’的说法本身就是陷阱——问题不在算法，而在社会；不在代码，而在权力。” 3. “与其问‘AI会取代多少工作’，不如问‘AI将如何重构劳动剥削的全球地图’。” 《技术之外：社会联结中的人工智能》（Beyond Technology: AI in the Web of Social Connections）是美国AI伦理权威学者凯特·克劳福德（Kate Crawford）的最新著作，中文版由中国科学技术出版社2024年3月出版。作为《AI地图集》（Atlas of AI）的续作，本书延续其“技术批判地理学”研究路径，通过12个跨国案例（从刚果钴矿到亚马逊仓库），揭示人工智能如何嵌入社会权力结构，被《新科学家》评为“2024年最具颠覆性的科技著作”。 欧盟《人工智能法案》修订时引用其刚果钴矿案例，要求AI企业披露关键矿产来源；谷歌AI伦理委员会将其列为必读书目。正如麻省理工学院教授雪莉·特克尔评价：“克劳福德教会我们——看清AI的真相，需要先摘下‘技术进步’的玫瑰色眼镜。” 克劳福德是AI伦理领域的标志性学者，谷歌AI伦理委员会前成员，与诺奖得主斯宾塞共同创立“AINow研究所”，其研究以“揭示技术背后的隐性社会成本”著称。本书融合社会学、地理学、科学史视角，挑战“AI中立论”，提出“人工智能既非人工，也不智能——它是全球供应链、劳动剥削与环境代价的集合体”（封底推荐语）。 一、核心主题与批判框架 1. AI的“物质性”：被忽视的全球供应链 克劳福德尖锐指出，主流AI话语沉迷于算法黑箱与算力竞赛，却掩盖了其“血腥的物质基础”： （1）矿产掠夺：数字时代的“殖民式开采” • 案例：刚果（金）钴矿工人日均工资不足2美元，用手工开采用于智能手机与AI服务器的稀有金属，每年约4万儿童参与开采。 • 数据：训练一个GPT-3级模型的耗电量相当于300辆汽车的终身能耗（MIT 2023年研究）。 • 悖论：标榜“绿色科技”的AI产业，其矿产开采导致刚果钴矿地区90%的河流重金属超标。 （2）数据殖民：无偿劳动的数据佃农 • 论证：用户每使用一次智能音箱，就完成一次无偿数据标注，相当于为科技公司贡献0.001美元价值。 • 案例：亚马逊Mechanical Turk平台将全球低收入者变为“AI训练工”，菲律宾工人为每1000条图像标注仅获0.5美元报酬。 • 批判：“数据就是新石油”的隐喻实为陷阱——石油需开采付费，而用户数据被无偿占有并转化为资本。 2. 算法治理的权力重构 书中系统解构了AI如何成为新型治理工具，强化既有的社会不平等： （1）自动化歧视的三重机制 • 数据偏见：美国COMPAS算法对黑人罪犯的再犯率预测错误率比白人高近 twice（ProPublica 调查）。 • 决策黑箱：荷兰儿童福利系统AI误判2600个家庭“欺诈”，仅因移民家庭地址变更频繁。 • 责任转移：当AI招聘系统歧视女性时，企业将责任归咎于“算法中立”，逃避监管。 （2）劳动控制的技术化升级 • 案例：亚马逊仓库AI实时监控员工如厕时间，系统自动生成解雇指令，2022年导致美国仓库工人年均受伤率是行业2.8倍 • 理论创新：提出“数字泰勒主义”概念——通过实时数据监控将劳动强度精确到秒，实现“算法暴政”。 3. 对“AI救世论”的系统批判 克劳福德逐一驳斥科技巨头的乌托邦叙事： 主流叙事 批判视角 现实案例 “AI提高效率” 效率收益集中于资本，劳动者承受健康成本（如富士康AI质检导致工人视力损伤率上升40%） 谷歌搜索算法优化使广告收入激增，但内容创作者报酬下降65% “AI减少人为偏见” 算法将历史歧视编码为数学公式，形成“自动化压迫” 美国房贷AI对少数族裔的拒贷率是白人的3倍 “通用人工智能近在眼前” 忽视AI的“情境愚蠢”——自动驾驶在暴雨中识别失效，依赖人类远程操控员“救火” 特斯拉Autopilot系统2023年致17起致命事故，均因无法处理极端天气 二、方法论创新：AI批判的空间转向 本书独创“AI地缘政治分析框架”，将技术置于全球权力结构中考察： 1. 地图集式叙事 通过12幅信息图表揭示AI产业链的空间不平等： • 资源端：刚果（钴）、智利（锂）、马来西亚（稀土）构成“AI矿产三角” • 数据端：菲律宾、印度、肯尼亚为“数字种植园”，提供低价数据标注服务 • 消费端：欧美占据70%AI服务使用量，却仅承担12%的环境成本 2. 跨学科融合 • 社会学：借鉴布迪厄“象征暴力”理论，分析算法如何将阶级压迫转化为“技术合理性” • 地理学：用“中心-边缘”模型解释AI收益的全球虹吸效应 • 科学史：对比19世纪铁路扩张与当代AI渗透，揭示技术扩张的相似殖民逻辑 三、现实意义与读者价值 1. 对政策制定者 • 提出“AI伦理影响评估”制度，要求企业公开算法训练数据来源与环境成本 • 呼吁建立“数据主权”，将用户数据视为“数字劳动成果”，要求平台支付报酬 2. 对技术从业者 • 提供“伦理设计 checklist”，包括供应链透明度审计、算法偏见压力测试等工具 • 批判“技术解决主义”，倡导工程师的“制度性反思”能力 3. 对普通读者 • 提供识别“AI神话”的批判性工具，如质问：“这个AI系统的训练数据来自哪里？谁为此付出了代价？” • 案例式写作风格，通过刚果矿工日记、亚马逊工人诉讼等故事增强可读性

这本书一直在说AI既不替代人工，也没那么智能。 这大概是十几年前的论调了。 但书里的祛魅视角很独到，AI在书里，是由地球深处的矿物、全球隐形的劳动者，以及我们日常生活中被无偿攫取的数据，三层叠加构造而成的提取系统。 我们看见那尊所谓“智能”的雕像，下面垫着的是地球的伤口、劳动者被榨干的时间，以及我们每个人被无情收割的日常。 由此看来，我们处于这个时刻里就需要对人工智能的生产和接受提出关键性问题。 问题应该包括：我们如何定义AI，它为谁服务，以及界限应该在哪里。 这本书花了大量篇幅，试图告诉我们，人工智能是一种理念、一种基础设施、一种产业、一种行使权力的形式和一种观察的方式。 作者认为，在技术本身之外，AI它也是一种高度组织化的资本的表现，是由供应链环绕整个地球的巨大的开采和物流系统所支持。 以上所有这些都是人工智能的一部分：一个由四个字组成的词语，映射着一系列复杂的期望、意识形态、欲望和恐惧。 就像民主一样，技术的可行性最终取决于司法实践和对权力的限制。 简单来说，人工智能现在是能够塑造知识、交流方式和权力的重要角色。 相关重构发生在认识论、正义原则、社会组织、政治表达、文化、对人体的理解、主体性和身份的层面，即人工智能决定了我们是什么，我们可以是什么。 所以现在可以理解为什么AI公司在大量的招募哲学家了。 因为，我们不能被技术冲散作为人的定义，更不能因为技术的快速迭代而让现有的社会框架散架。 如若不然，这将是一场不亚于物种大灭绝级别的巨大灾难，且还是如同核灾难一样，是人类自己创造的。

凯特·克劳福德解构了人工智能神话，揭示其作为全球权力与资源不平等载体的本质，本书的核心观点颠覆主流认知：AI既非纯粹“人工”，也不具备真正“智能”，而是根植于行星物质网络和社会剥削系统。 所谓“人工”掩盖了AI对地球资源的疯狂榨取——依赖刚果钴矿、印尼锡矿等全球供应链的开采，造成生态环境破坏与劳工权益侵害，如锂电池生产所需锂矿开采使原住民社区承受污染成本而科技巨头独享利润。所谓“智能”实则是人类劳动的隐形转嫁：从非洲数据标注员以低至每小时2美元处理有害内容，到ChatGPT依赖人工反馈训练（RLHF）维持表现，本质仍是预定义规则下的模式匹配，无法理解世界。 AI系统实为“权力登记表”，通过垄断技术与数据加剧不平等。少数“AI豪门”（谷歌、微软等）掌控资本与算力，延续殖民主义逻辑——训练数据隐含着西方中心主义视角，将人脸识别等系统中的种族标签制度化，简化复杂身份为二进制代码以服务于统治结构。 国家权力与资本进一步合流，利用AI监控系统（如人脸识别追踪示威者）形成威权工具，模糊公共与私营界限，扩张“监视资本主义”版图。这种权力运作背后是三重代价：首先是环境危机，超大规模数据中心耗水量媲美小国，占全球碳排放14%，科技公司却以虚购“碳补偿”掩盖真相；其次是劳工剥削链条，从南半球矿工到亚马逊仓库工人被AI系统逼迫至生理极限，甚至情感也被“情绪识别算法”异化为控制指标；最后是民主侵蚀，AI界面设计以简洁性（如ChatGPT对话框）掩盖复杂性与不透明性，制造技术神话逃避公共问责。 克劳福德以“地图集”方法论创新地绘制AI物质-社会联结网络，揭示其与殖民主义、军事化的历史共谋。从矿物开采、数据训练到国家监控的全过程构成一台碾压性的“巨机器”，其未来需通过行星伦理重构：一是启动透明度革命，立法强制披露资源消耗（如《2024年AI环境影响法案》）；二是建立国际监管公约，限制AI监视滥用；三是推动资源主权回归社群，如玻利维亚锂矿国有化运动。作者旨在祛魅技术中立幻想——当人类惊叹于流畅的AI对话时，必须直视其背后酸化的河流、被算法禁锢的劳工、以及权力操控的真实代价。唯有将AI重新锚定于社会正义和生态责任，方能在算力狂潮中守护人之尊严。

“AI既不人工，也不智能。相反，人工智能既是具身的，也是物质的，是由自然资源、燃料、人力、基础设施、物流、历史和分类构成的。” “理解、捕获、分类和命名数据的方式，从根本上来说是一种构建世界并对其进行控制的行为。” “工具的可供性成了真理的地平线（The affordances of the tools become the horizon of truth）。”

凯特·克劳福德通过引入地图集的方式来讨论塑造人工智能的经济、政治、文化和历史力量，只有将人工智能与这些更广泛的结构和社会系统联系起来，才能够摆脱纯粹技术概念的人工智能。 人工智能是一种行使权力的形式和一种观看方式，也是一种高度组织化的资本表现，人工智能完全依赖于一套更广泛的政治和社会结构。在如今人工智能大行其道的世界里，通过不断对人工智能进行追问和批判性思考，才能够逐步接近真实的答案。 《纽约客》《金融时报》《麻省理工科技评论》交口称赞。比起进步，AI更有可能让整颗行星走向毁灭。 揭示人工智能的底层逻辑，ChatGPT给科技界带来的巨震不仅在于开放共享的新业态，也在于残忍无情的资源争夺战。 现在开始考虑并预防AI可能给人类社会造成的后果，并不算晚。 作者在导言中提出，试图建立一种“人工智能理论”的野心，即把人工智能当作一个理论而非技术概念来看待。文中所涉及的权力、政治、环境、分类、劳工等则是聚集在这一理论体系下可供延伸的研究面向。这一观念的提出具有启发意义，但一方面，作者忽略对“人工智能”具体的理论定位，而暂时停留在对人工智能现实图景的广泛描摹之上；另一方面，本书的写作也缺乏作者所承诺的理论维度。 本书证明了人工智能既不“人工”，也没有那么“智能”，是一次令人惊奇的对训练人工智能的数据的历史梳理。

# 《技术之外》高阶书评：AI 不是工具革命，而是社会关系的重新编排 ## 1. 这本书在 2026 年重新被阅读的真正价值 2026 年再读这类关于人工智能的批判性作品，意义已经不同于几年前。过去，人们讨论 AI，重点往往是“它能做什么”：能否写代码、生成图像、辅助科研、替代客服、优化管理、预测风险。到了 2026 年，更关键的问题变成：**AI 正在通过什么样的资源、劳动、权力和制度关系，被嵌入我们的社会生活？** 这本书的真正价值，不是反技术，也不是给 AI 热潮泼冷水，而是提醒读者：人工智能从来不是纯粹漂浮在云端的算法奇迹。它背后有矿产、能源、数据、劳工、平台、资本、监管、军事、教育、城市治理和日常生活的复杂连接。所谓“智能”，并不是机器自然生长出来的能力，而是一个社会系统通过大规模资源调动、数据采集、劳动隐形化和权力集中共同生产出来的结果。 对 35–45 岁的博士、博士后、技术管理者和知识型转型者而言，这种视角尤其重要。因为很多高学历技术人容易把 AI 理解为模型、参数、算力、论文、产品和效率工具，却忽视它作为一种社会基础设施正在改变职业结构、组织权力、知识价值和个体命运。真正成熟的 AI 认知，不是只会使用工具，而是能看见工具背后的社会结构。 --- ## 2. 表层主题之外的底层命题 表面看，这本书讨论的是人工智能与社会之间的关系；更深层看，它讨论的是：**技术如何被包装成中立力量，却在现实中参与资源分配、身份塑造和权力再生产。** 现代技术叙事常常有一种强烈倾向：把复杂社会问题转化为技术问题。教育不公平，可以做智能评估；就业匹配困难，可以做算法推荐；城市治理复杂，可以做智能监控；医疗资源不足，可以做 AI 辅助诊断；组织效率低下，可以做自动化管理。 这些方案并非没有价值，但危险在于，一旦问题被重新命名为技术问题，原本关于制度、伦理、权力、利益和责任的讨论就容易被压缩。人们开始相信，只要数据足够多、模型足够强、系统足够自动化，复杂社会矛盾就能被优化掉。 这本书真正要拆解的，正是这种“技术中立幻觉”。AI 不只是解决问题的工具，它也会重新定义什么是问题、谁有资格被计算、谁被纳入系统、谁被排除在外、谁承担错误后果、谁从效率提升中获益。 因此，它的底层命题不是“AI 好还是坏”，而是：**当一种技术成为社会基础设施时，我们是否仍然有能力追问它背后的权力结构、成本结构和责任结构。** --- ## 3. 跨学科高维解读 ### 社会学视角：AI 是社会关系的压缩器，而不是社会之外的机器 从社会学角度看，AI 并不是独立于社会运行的中性工具，而是把既有社会关系压缩进数据、模型和平台规则之中。 数据来自社会，标注依赖劳动，模型训练依赖资源，系统部署依赖组织权力，最终结果又反过来影响社会成员的机会分配。招聘算法会影响谁获得面试机会；内容推荐会影响公众注意力；风控模型会影响谁被认为可信；智能管理系统会影响劳动节奏；城市感知系统会影响公共空间中的可见性与可疑性。 技术表面上看起来客观，但它吸收的是历史形成的数据，而历史数据中本就包含阶层、性别、地域、种族、教育、收入和制度差异。AI 的危险不一定来自“机器产生偏见”，而是来自机器把过去的不平等转化为未来的自动化判断。 这对高学历人群有一个重要启发：如果只理解算法，不理解社会，就很容易把偏差当成噪音，把权力当成参数，把人的处境当成样本。真正高级的技术判断，必须同时理解模型性能与社会后果。 ### 经济学视角：AI 的效率神话背后，是成本转移与收益集中 AI 常被描述为效率革命。但经济学上必须追问：效率提升的收益归谁？成本由谁承担？风险被转移给谁？ 生成式 AI、自动化办公、智能客服、无人仓储、算法管理和内容生产工具确实提高了许多流程效率。但与此同时，知识劳动的价格被压低，入门级岗位被压缩，中间层管理被重构，劳动者需要不断自我升级以适应系统变化。企业获得降本增效，平台获得数据和网络效应，资本获得估值叙事，而许多个体承担的是职业不稳定、技能折旧和持续焦虑。 更隐蔽的是，AI 的物质成本常常被抽象化。算力需要能源，芯片需要矿产，数据中心需要土地、水、电和冷却系统，训练数据需要大量人类劳动清洗、审核和标注。所谓“云端智能”，并不是无重量的未来，而是高度物质化的基础设施。 因此，AI 经济不是简单的“技术提高生产率”，而是一次新的成本—收益重分配。成熟读者必须看见，所谓智能化转型并不自动带来公平收益，它可能扩大少数平台与资本主体的议价能力，同时削弱普通知识劳动者的稳定性。 ### 政治学视角：AI 是治理能力，也是治理权力 从政治学角度看，AI 的核心问题不只是技术能力，而是治理权力。谁拥有数据，谁定义模型目标，谁设定分类标准，谁解释系统结果，谁承担误判责任，谁有权拒绝被自动化处理，这些都是政治问题。 AI 在公共治理、安防、金融、医疗、教育、人力资源和内容平台中的应用，使得分类、评分、预测、推荐和监控成为日常治理方式。它们看似提高了治理效率，但也可能降低人的申诉空间和解释权。 当一个系统说你“不匹配”“高风险”“低潜力”“不推荐”“异常”，你面对的往往不是一个可沟通的人，而是一套复杂却不透明的机制。这意味着权力从显性的管理者转向隐性的技术系统。人不再只是被制度管理，也开始被模型画像、分层、预测和排序。 这本书的重要性就在于，它迫使我们重新理解 AI 时代的自由问题。自由不只是能否使用新工具，也包括能否理解、质疑、拒绝和纠正工具对自己的判断。 ### 技术哲学视角：AI 改变的不只是生产力，而是“人如何被定义” AI 的深层影响，不只是提高效率，而是改变社会如何理解人。 当人的语言、图像、行为、位置、消费、社交、学习和工作都可以被数据化，人就越来越容易被系统理解为一组可计算特征。一个员工是绩效数据、协作数据和潜力评分；一个学生是学习轨迹和预测成绩；一个消费者是偏好标签和转化概率；一个公民是身份记录、行为模式和风险画像。 这种变化非常深刻。它不是简单地“机器理解人”，而是社会开始按照机器可理解的方式重新组织人。不可量化的经验、伦理、直觉、沉默、痛苦、尊严和关系，很容易被排除在系统之外。 因此，AI 时代最重要的问题之一是：我们是否还承认人有不可被充分数据化的部分？如果一切都必须进入指标、模型和预测，人就会被迫适应系统的可计算性，而不是系统服务于人的复杂性。 ### 复杂系统视角：AI 放大反馈回路，也放大脆弱性 AI 系统不是一次性工具，而是持续影响行为的反馈机制。推荐系统改变人的注意力，人的点击又反过来训练推荐系统；招聘模型筛选候选人，候选人又会调整简历迎合模型；教育评价系统改变学生学习策略，学生行为又进入下一轮数据；金融风控影响借贷机会，借贷结果又强化模型判断。 这类反馈回路会产生路径依赖和自我强化。系统越被广泛使用，其分类方式就越可能塑造现实本身。模型不只是预测世界，也开始参与制造世界。 这对组织管理者尤其重要。AI 部署不是“上一套系统”那么简单，而是在组织中引入新的反馈机制。如果指标设计错误、数据质量偏差、责任边界不清，AI 会把原有问题自动化、规模化、隐形化，甚至让组织更难发现自身错误。 --- ## 4. 对博士、博士后和高学历转型者的特殊启发 ### 从“技术能力”升级为“结构性判断力” 高学历技术人常常擅长问：模型是否先进？算法是否有效？系统是否可扩展？性能是否提升？这些问题当然重要，但已经不够。 AI 时代更高阶的问题是： 这个系统解决的是真问题，还是把社会问题技术化？ 它优化的是局部指标，还是整体福祉？ 它提高了谁的效率，又增加了谁的负担？ 它是否改变了组织中的权力分配？ 它是否让人更有能力，还是更依赖系统？ 它的错误由谁承担？ 博士训练提供了抽象、建模和证据意识，但产业转型需要把这些能力延展到社会结构、组织权力和商业后果之中。未来真正稀缺的不是只懂 AI 技术的人，而是能够判断 AI 在什么场景中该用、如何用、用到什么边界、由谁负责的人。 ### 从“深井型专家”转向“社会技术架构师” 很多博士和博士后在职业转型中面临一个隐性瓶颈：他们拥有深度知识，却缺少跨系统表达能力。他们能解释模型机制，却不一定能解释该技术如何影响客户、组织、监管、伦理和商业模式。 这本书提供的启发是：AI 不是单纯技术问题，而是社会技术系统问题。因此，高学历转型者的第二曲线，不一定是去追逐最新模型，而是成为连接技术、行业、治理和组织的人。 所谓社会技术架构师，至少需要四种能力： 1. **技术理解力**：知道 AI 的能力边界，而不是被营销叙事牵着走。 2. **场景判断力**：理解真实业务流程、用户处境和组织约束。 3. **伦理与风险意识**：识别偏见、隐私、责任、合规和外部性。 4. **跨圈层沟通力**：能与工程师、管理者、法务、业务、监管和公众沟通同一个问题。 这类能力比单纯模型调优更难被自动化替代，也更适合中年知识型人群积累长期议价能力。 ### 避免高学历群体的“技术纯洁性幻觉” 科研训练容易形成一种技术纯洁性：只要理论正确、实验有效、指标提升，技术就是进步的。但现实中的技术从来不是在真空中运行。它会进入组织 KPI、资本压力、用户习惯、监管缺口和社会不平等之中。 高学历人群如果只坚持技术正确，而不理解技术被谁使用、如何部署、服务什么目标，就容易成为系统的一颗高效螺丝，而不是拥有判断力的责任主体。 这本书对技术人的真正警醒是：不能因为自己做的是算法、数据、模型、工程，就以为自己与社会后果无关。AI 时代的专业伦理，不是写在附录里的原则，而是嵌入产品设计、数据选择、指标设定、上线决策和组织激励中的日常实践。 ### 建立长期议价能力：从工具使用者到制度翻译者 2026 年，使用 AI 工具已经不再稀缺。真正稀缺的是能解释 AI 如何改变制度、流程和组织的人。 对中年转型者而言，最有价值的路径不是简单地学习更多工具，而是把自己定位为“制度翻译者”：既懂技术语言，也懂组织语言；既能看到效率，也能看到风险；既能推动应用，也能设置边界；既能理解商业目标，也能维护长期信任。 这类人会在企业 AI 转型、数据治理、智能风控、AI 合规、组织自动化、科研管理、教育技术、医疗智能化等领域拥有更高价值。因为未来企业缺的不只是会调用模型的人，而是能让 AI 安全、合理、可持续地嵌入组织的人。 --- ## 5. 这本书的局限与误读风险 这类批判性作品最大的误读风险，是被读成“反 AI”或“技术悲观主义”。如果这样理解，就会错过它真正的价值。它不是否定人工智能，而是反对把人工智能神秘化、中立化和去社会化。 但它也有自身边界。 首先，批判视角容易强调权力、剥削和不平等，却相对低估技术在医疗、科研、教育、无障碍服务、生产效率和知识普惠方面的真实潜力。成熟读者不能从技术乐观主义跳到技术犬儒主义。AI 的确会制造新问题，也确实能解决许多旧问题。 其次，社会批判如果停留在揭露层面，容易缺少操作性。对企业管理者、工程团队和政策制定者来说，问题不只是“AI 有权力结构”，还包括如何设计审计机制、责任链条、数据治理、用户申诉、模型评估和组织流程。这需要从批判走向建设。 再次，这本书强调 AI 背后的物质与社会基础，非常必要，但在 2026 年生成式 AI 快速进入日常工作的背景下，还需要补充对个体能力重构的讨论。普通知识劳动者不仅要理解 AI 的社会代价，也要面对它对自身职业路径的直接冲击。 最后，不能把“社会联结”理解成一种抽象道德姿态。真正的问题不是简单呼吁技术向善，而是要在商业激励、监管制度、组织实践和个人选择中建立具体制衡机制。否则，批判很容易变成道德正确但现实无力。 --- ## 6. 最终判断 这本书最重要的贡献，是把人工智能从“技术奇观”重新放回社会现实之中。它让我们看到，AI 并不是一个独立于人类社会的智能实体，而是由资源、劳动、资本、数据、制度和权力共同编织出来的社会技术系统。 对博士、博士后和高学历职业转型者而言，它提供的不是工具指南，而是一种认知升级：从只关心模型能力，转向理解技术如何重组社会；从只追求专业深度，转向建立结构性判断；从把自己定位为技术执行者，转向成为能承担后果、设置边界、连接多方的复杂系统参与者。 在 2026 年的 AI 浪潮中，真正成熟的人不是盲目拥抱技术，也不是简单拒绝技术，而是能同时看见它的效率、代价、权力和可能性。技术之外，并不是技术的对立面，而是技术真正发生作用的地方。

虽然有些内容浅尝辄止，但我个人认为在如今科技狂潮的时代，在chat gpt,deepseek席卷我们生活的同时，我们需要降温，这本书就是一种降温，当我们越来越依赖人工智能，甚至将自己的决定交给它做的时候，人类也在面临去主体化的问题。顺便提一句，我在元宝里尝试了一下，当我说是女性，请给我推荐书籍时，基本都是情感类，家庭类以及克服焦虑类，而我说我是男性，就出现了事业类书籍，虽然这些书单来自现实世界里的排行榜（本来就存在这种偏见），但人工智能无疑在某种程度上加重了性别刻板印象。