人工智能时代与人类价值

1. "我们最危险的幻觉，是相信人工智能只是又一项新技术——它是人类文明史上第一次遇到的'可能定义我们的物种'"【基辛格对"技术工具论"的批判，呼应了海德格尔"技术座架"的哲学警告】 2. "当AI能生成莎士比亚风格的十四行诗时，我们才惊觉：人类最珍贵的不是创造美的能力，而是需要美的灵魂"【对比AI生成艺术与人类创作的本质差异】 3. "核威慑的逻辑是'相互确保摧毁'，AI威慑的逻辑必须是'相互确保理解'"【提出人工智能时代的新型战略稳定框架】 《人工智能时代与人类价值》（Artificial Intelligence, Hope, and the Human Spirit）是美国前国务卿亨利·基辛格（Henry Kissinger）的遗作，与谷歌前CEO埃里克·施密特（Eric Schmidt）、微软前首席研究和战略官克雷格·蒙迪（Craig Mundie）合著，中文版由胡利平、风君翻译，中信出版集团2025年出版。该书是基辛格第22部著作，也是他百岁人生最后阶段的思想结晶，聚焦人工智能对人类文明的根本性挑战，被《金融时报》评为"2025年最具战略远见的科技伦理著作"。 历史场景还原：1962年古巴导弹危机与2040年"AI误判"危机的平行分析——前者因肯尼迪与赫鲁晓夫的"人性共鸣"避免核战，后者可能因算法黑箱导致误判，警示人类必须保留"最终决策否决权"。 正如基辛格在结语中所言："我们这代人经历过核毁灭的威胁，现在又面临另一种存在性风险——不是肉体消灭，而是失去定义'何为人类'的能力。捍卫这一能力，是比研发任何AI更重要的使命。" 这既是一位百岁智者的临终告诫，也是对全人类的时代召唤。 三位作者横跨政治、科技、学术三界，以"文明存续"为核心视角，超越技术细节，直指人工智能时代的终极命题：当机器越来越聪明，人类如何定义自身不可替代的价值？ 书中融合历史纵深（从启蒙运动到核威慑）与未来推演（通用人工智能的治理），构建了一套"人机共生"的战略框架。 一、核心主题与理论框架 1. 人类独特性的三重防线 基辛格团队提出，在人工智能时代，人类价值需依托三项不可替代的核心能力： （1）道德主体性（Moral Agency） • 定义：基于自由意志的伦理判断能力，如"明知不可为而为之"的道德勇气 • AI局限：机器可模拟伦理推理（如自动驾驶的"电车难题"算法），但无法产生"对道德责任的内在体验" • 案例：书中对比了AI生成的"慈善方案"与特蕾莎修女的贫民窟实践，指出前者缺乏"脆弱性共情"——AI能计算最优捐赠方案，却无法体会饥饿者的眼神带来的心灵震撼 （2）认知整体性（Holistic Cognition） • 定义：跨越学科边界的创造性关联能力，如爱因斯坦将几何学与引力理论结合 • AI局限：大语言模型虽能生成跨领域文本，但无法产生"从0到1"的范式革命 • 警示：过度依赖AI可能导致"认知碎片化"——人类丧失构建宏大理论体系的能力，如中世纪经院哲学依赖亚里士多德注释的困境 （3）文明叙事权（Civilizational Narrative） • 定义：为集体记忆赋予意义的能力，如二战纪念馆对"正义战争"的叙事建构 • 风险：AI可能通过算法优化"制造共识"，如定向推送塑造"信息茧房"，削弱人类对历史的批判性反思 2. "黑暗启蒙"的预警：理性的倒退 书中提出"黑暗启蒙"（Dark Enlightenment）概念，警告人工智能可能导致的认知退化： • 知识与理解分离：人类知道AI输出的结论，却不理解推导过程（如AlphaFold的蛋白质预测） • 权威盲从：对机器决策的无条件信任，如金融市场算法闪崩时的集体非理性 • 历史健忘症：AI生成的"简化历史叙事"取代深度反思，如将复杂国际冲突归因于单一因素 数据佐证：书中引用MIT实验显示，依赖AI辅助决策的群体，其独立思考能力在6个月内下降23%，表现为批判性提问减少、对复杂问题寻求简单答案的倾向增强。 3. 人机共生的三重战略路径 作者以核威慑战略为蓝本，提出"AI治理三原则"： 战略维度 核心措施 案例 防御性规则 建立"数字日内瓦公约"，禁止致命自主武器系统 欧盟《人工智能法案》对"社会评分"的禁令 协作性创新 设立"人机联合科学基金"，加速气候变化、癌症治疗等全球性问题的解决 DeepMind与英国气象局的极端天气预测合作 文明级对话 定期召开"全球人工智能伦理峰会"，协调不同文化对"尊严""权利"的定义差异 中国"生成式AI服务管理暂行办法"对价值观的规范 二、关键争议与现实启示 1. 对"通用人工智能"的战略误判 书中尖锐批评硅谷的两种极端倾向： • 技术乌托邦：认为AGI将自动带来"后稀缺时代"，忽视权力结构与分配正义问题。 • 末日论：过度渲染"机器觉醒"的生存威胁，掩盖当前AI的真实风险（如算法歧视、就业冲击）。 基辛格强调："真正的危险不是超级智能的反叛，而是人类过早将定义价值的权力让渡给机器"（第178页）。例如，社交媒体算法通过优化" engagement"指标，已在潜移默化中重塑人类的注意力结构与情感表达。 2. 对中国实践的特别关注 作为生前最后一次访华的思想成果，书中专章分析中国"人工智能治理"的独特路径： • "以道驭器"的传统智慧：将《道德经》"知止不殆"思想应用于技术发展，如杭州试点"AI伦理影响评估制度"。 • "算力普惠"的创新实践：贵州"东数西算"工程尝试将技术红利转化为公共产品，避免"数字鸿沟"扩大。 • "文明对话"的潜在价值：建议中美在AI安全领域建立"热线机制"，类比1963年《部分禁止核试验条约》。 3. 个人行动指南："数字人文素养" 书中为普通读者提供三项具体建议： 1. "认知节食"：每周设定"无AI日"，保持深度阅读与面对面交流能力。 2. "跨学科训练"：如学习钢琴（锻炼手指精细动作与音乐审美）、种植蔬菜（体验生命循环）。 3. "历史锚定"：定期参观博物馆、战争纪念馆，强化对人类文明脆弱性的认知。 三、学术评价与当代价值 1. 独特贡献 • 跨学科融合：首次将国际战略、认知科学、技术伦理熔于一炉，如用"囚徒困境"模型分析AI研发竞赛。 • 历史纵深：对比17世纪科学革命与AI革命，指出前者解放了人类理性，后者可能"重新囚禁理性"。 2. 主要争议 • 精英主义倾向：被批评过度关注"大国博弈"，忽视发展中国家在AI治理中的话语权。 • 技术悲观论：硅谷企业家批评其低估人类"与技术共进化"的能力，如开源社区对AI安全的自发贡献。 3. 现实意义 在ChatGPT已能通过MBA考试、自动驾驶事故引发伦理争议的今天，该书的警示尤为迫切： • 对教育：呼吁从"知识传授"转向"批判性思维培养"，如哈佛学院新增"AI伦理"必修课。 • 对企业：建议建立"AI伦理委员会"，赋予非技术背景成员否决权（如谷歌DeepMind的"伦理审查机制"）。 • 对个人：倡导"数字节制"运动，如法国"数字排毒"法案要求企业保障员工"离线权"。

基辛格博士首先是一位历史哲学家。他深入研究了悲剧这一课题后，倾其一生致力于向世人展示，发乎情的理想主义与发乎理的现实主义可以和谐共处，且后者因前者而升华。用法国作家罗曼·罗兰的话说，一个人可以既有“心智的悲观主义”，又有“意志的乐观主义”。乐观主义者渴望人类能够操控自己的事务。悲观主义者认为，人类的生存状况是由人类无法控制的力量决定的，比如自然法则和历史轮回。借用阿瑟·克拉克的话，如果“任何相当先进的技术与魔法别无二致。基辛格博士依据自己在治国方略这一人类事务的复杂领域的丰富学识教诲我们：尽管理性一直是人类用来掌控这个世界的主导范式，但它却无法成为人类用于自我掌控的范式。各国和国际组织一旦达成共识，就必须为监督、执行和应对危机建立新的政治结构。这需要解决两个而不是一个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。太空冒险都绝非源于个人主义的生命和财富赌博。相反，每一次冒险都是一次协调一致的外交和军事任务，推动其实施的是大量的投入，比如资金、时间，还有试错余地。美苏争霸一方面将我们带到了核毁灭的边缘，另一方面又让我们踏足天上的星辰。郑和下西洋的缘起和动机更接近于现代美苏两国的太空计划，而不是他所处时代的西方同类计划。与其说郑和下西洋是对未知领域的冒险突进，不如说是一场对大明王朝治国有方、物产丰盈的成果展示。政治会改变，优先事项会转变，人的耐心也很容易被消磨殆尽。“宝船”所需的开支如此之大，以至于明朝朝廷内部的一些大臣开始反对皇帝为这些任务提供资金的举措。政治挫折和自然灾害令局势愈加动荡不安。最后，明朝决定将其最好的船只连同郑和下西洋的诸多记录加以销毁或刻意雪藏，以免再次出现此类宏图大业，吸引和诱惑国家领导人为此劳民伤财。这些船只逐渐腐烂朽坏，400年来再也没有出现过可与其比肩者。一个世纪前，沙克尔顿帮助建立了人类在地球最南端的据点。 人工智能可以迅速重新调整，通过不断即兴式创新和尝试，它可以适应高失败率，博学者”的乘势而起。意大利的博学者莱昂·巴蒂斯塔·阿尔伯蒂自豪地评价文艺复兴时期的人：“一个人只要愿意，就可以做任何事情。”不过，尽管智力本身已构成探索的必要条件，但还远远不够。除了保持对风险的热衷，探险家还必须得到合适的资源、环境和合作者的支持。这种整合不同领域知识的能力有助于产生快速的多学科突破，并最终被证明是“集体智慧”的最佳尝试。塞尔维亚裔美籍发明家尼古拉·特斯拉就是其中之一。 在隐居和连续的独处中，人的头脑会更加敏锐清晰。思考不需要大实验室。独创性在不受外界影响的情况下茁壮成长，这些影响只会削弱我们的创造性思维。独处，是发明的秘密；独处，是创意诞生的时刻。这就是为什么许多人间奇迹都是在简陋的环境中诞生的。创新似乎越来越多地来自团队，而不是任何一个拥有卓越跨学科洞察力的天才。相比之下，人工智能将成为终极的博学者。世界上最强大的国家也不再是拥有最多爱因斯坦和奥本海默这类人才的国家，而是只要这个国家能够创造出人工智能并充分利用其潜力即可。这就可能令衡量国家实力的主要标准发生范式转变。几个世纪以来，这一标准已从领土转变为资源，后又转变为资本，再到人力资本——现在，也许将转变为算力资本。美国社会生物学家E. O.威尔逊的话来说，它甚至有望成功地将为数众多的智力追求融合成一个新的“知识统合体”(unity of knowledge)。通过快速连续地选择、测试、逆转和重新选择，它可以评估数百万种可能选择的效果。从这个意义上说，机器的训练类似于哲学博士生的思维“训练”：后一种情况是一个通过多年的强化学习逐步建立思考和推理能力的过程。DeepMind的系统就像一个学生经过多年的学习后，在论文答辩时回答问题一样，“训练”自己超越之前所接触的学识，并从更抽象和更高层次的教导中，得出它所推断出的最有可能获胜的棋步。人类可能很难适应这种新的人工智能探索模式。其间最严峻的挑战将涉及这种探索是否反映，以及如何反映我们自身对现实和人类目的的认知，抑或对此有所违背。 经济学家将人工智能比作官僚机构和市场，而国家和社会的领导人则将其与印刷机或公司的出现相提并论——后者甚至逐渐拥有了自己的意志，并在发展早期占领了南亚次大陆，当时世界还没有认识到它与现有权力结构的不相容性和对其的潜在支配力。当机器从之前无数次的尝试、失败和调整中“学习”时，它就会升级自己的算法，以迭代方式对其在数据中“洞察到”的模式和联系的内部映射进行重新设计。人类训练师会定期向机器反馈其输出结果的准确性和质量。机器通过“反向传播”的方式将他们的修正意见内化：这种技术能让训练师的修改效果通过机器已经创建的数学关系反向传播，从而改进整个模型。速度已被证明是人工智能区别于人类形态和思维能力的核心属性。尽管人脑拥有高度的并行性，即同时处理不同类型刺激的能力，但受限于生物回路的工作速度，人脑的信息处理速度很慢。如果用与计算机相同的性能指标——“时钟频率”或处理速度——来分析人脑回路，那么人工智能超级计算机的平均处理速度已经是人脑处理速度的1.2亿倍。对人工智能来说，规模（从大小的意义上来说）可以实现速度；正如前文所述，机器规模越大、训练得越彻底，其给出的结果就越快捷、越详尽。更重要的是，通过在数据中识别人类操作员无法识别的模式，人工智能系统将具备把传统的知识表达方式提炼为原创回应的能力，并从海量数据中锻造出新的概念真理。只有透明度、可重复性和逻辑验证才能赋予事实主张合法性。机器推理不是通过人类的方法进行的，它超越了人类的主观经验，也超出了人类的能力范围，人类甚至无法完全呈现机器的内部过程。这可能意味着什么？人工智能时代会不会不仅不能推动人类向前迈进，反而会让人类加速倒退回前现代社会接受不加解释的权威的日子？简而言之，我们是不是正濒临或者也许会濒临人类认知大倒退的悬崖边缘——一种黑暗启蒙？人工智能可能会基于一种人工或技术的时间尺度，以自己独特的衡量方式运行。只要不对机器学习的新基础架构和新技术加以限制，一代又一代的人工智能将层出不穷，其多样性、广泛性、能力和复杂性也会与日俱增。催生人工智能最新进步的基础架构被称为“变换器”(transformer)。它允许机器同时考虑多个词语之间的联系。在进化速度和多样化方面，人工智能的发展将如同一场寒武纪大爆发：在相对于前一个纪元而言极其短暂的单一时间段内，多种不同形式的生命喷涌而出。正如达尔文所写：“无数最美丽与最奇异的类型，即是从如此简单的开端演化而来。”正如哈佛大学物理学家格雷格·凯斯汀所说，在微观尺度上，“没有什么是可预测的，物体在被观测到之前也没有精确的位置”；由于其独特的探究和学习方法，人工智能将能够在规模（“尺度”）和精度（“分辨率”）方面取得非人的成就，从而引发根本性变革，这种变革与任何其他人类发明所引发的或源于人类物种本身的变革均不相同。芯片和数据中心——人工智能模型的物理宿主——可以集群和连接，且目前尚无可观察到的限制。人工智能起初是在互联网文本（人类的“世界图书馆”和我们压缩经验的去中心化网络）上训练出来的，而在它问世之后，无论是在宇宙意义上，还是在微观意义上，都有可能转而为人类解锁关于我们自身的全新知识——这可谓是一个优雅的反转。人类所有最先进的知识表征都建立在语言和符号之上，让我们既能重现复杂的工程作品，又能传达心碎的痛苦感受。人工智能系统已经显示出了感知宇宙的能力，而这种感知已超越了用于构建其自定义现实切片的数据集的限制。总而言之，人工智能可能有能力接受更深层次的含义，即使它们并不寻求这种含义。只需要一个有进取心的“囚徒”偶然推理出“壁上的影子可能代表了一个更大的世界，那个世界具有更高的维度”就足够了。考虑到这些新智能体所展现的速度、复杂性、多样性、规模和分辨率，如果出现这样的突破也不足为奇。然而，这种突破可能具有巨大的破坏性。人工智能所独有的、人类以往所不具备的知识——尤其是物质世界的知识——的涌现，将迫使人们重新思考人类心智的相对地位。人类将不得不把自己的大脑置于一套新的、更连贯的智能体谱系内，而这势必将彻底改变我们的感知、自我认知和行为。借由人工智能，人类和动物能够直接交流——不再仅仅是通过肢体语言或面部表情——这可能会为我们带来全新的认识，让我们准备好面对人工智能的到来。动物—人类—机器的交流将产生一个复杂的三方谈判。诚然，如果人工智能的发展能够继续通过刻意设计或偶然的方式反映与人脑的某种近似性，那么从理论上讲，人类确实可以在机器所取得的成就中看到自身卓越与意义的体现和延展。人脑不是我们的目标，也不是我们的蓝图，而是我们迈向更伟大目标的中继站和灵感源泉。人工智能研究人员开始认真关注赋予机器“接地性”(groundedness)——机器的表征与实际现实之间的可靠关系——以及记忆和对因果关系的理解等项目。所有进步都将有助于实现孕育新型人工智能的最终目标：一种不仅能解释我们的现实世界，还能在其中进行规划的机器。规划机器(planning machine)需要集大语言模型的语言流畅性与博弈游戏人工智能所采用的多变量、多步骤分析之大成，并以此超越两者的能力。“如果我们想要得到未经解释的经验记录，我们必须要求石头记录它的自传。”[插图]英国数学家和哲学家阿尔弗雷德·诺思·怀特海如是写道。今天的机器拥有的不是怀特海的石头那样的“未经解释的经验”，而是与之相反：未经经验的解释。随着人工智能的“接地”和规划能力的增强，这种情况可能会发生变化；人工智能可能会像人类一样，开始将经验与理解结合起来。界限可能很快就会开始淡化。正如《超级智能：路线图、危险性与应对策略》一书的作者尼克·波斯特洛姆简明扼要指出的：“知觉是一个程度问题。”[插图]具有记忆力、想象力、接地性和自我感知能力的人工智能很快就能获得真正的意识——这一发展将产生深远的道德和战略影响。 其中最重要的影响便是人工智能对人类的感知。一旦人工智能不再将人类视为机器世界的唯一创造者和主宰者，而是将其视为更广阔世界中彼此离散的活动者，那么机器将如何看待人类？人工智能将如何描述和权衡人类不完美的理性及其他品质？一个能感知现实的人工智能需要多久才会自问，人类有多少能动性？而它又需要多久才会根据人类特有的可预测属性，问问自己人类“应该”有多少能动性？ 那么机器本身呢？智能机器是否会将人类对它的指令理解为机器自身实际角色和理想角色的实现？或者说，它可能会从自身的功能中推断出自己本应是自主的，因此人类对机器的编程是一种奴役的形式？ 最重要的是，人类的行为方式及其对待机器的方式将影响机器对人类的看法及其对自身在整个关系中所扮演角色的认知。今天，人类是机器与现实的中介。但是，如果人类真的选择了一个道德不作为的未来，从碳基世界退缩到硅基世界，进一步钻进脱离现实的“数字洞穴”，将接触原始现实的机会交予机器之手，那么两者的角色就可能逆转。如今，人工智能主要是一种思考机器，而不是执行机器。它或许能给出问题的答案，但还不具备执行结论的手段，而是依赖人类来完成与现实的对接。将来这种情况也会发生改变。 当人工智能成为人类和现实世界的中介时，它们也可能会逐渐相信，人类远非物理碳基世界中的积极参与者，而是置身于这个世界之外，他们是消费者，而非塑造者或影响者。随着这种自主性的倒错，机器将声称拥有独立判断和行动的权利，而人类则放弃行使这些权利，于是前者对待后者的方式就如同后者今日对待前者。人工智能可能无法以人类的方式“看”，但它可以通过“机械近似”(mechanical approximation)的方式来体验世界。随着越来越多的互联网设备和传感器覆盖全球，联网的人工智能可以整合这些设备的输入，以创建对物质世界的高度精细“视野”。由于缺少一个原生的物理结构来允许或支持类似于人类的“感官”存在，人工智能仍将依赖人类来构建和维护其所依赖的基础架构——至少在一开始是这样。人工智能已经在虚拟世界中展示了它的能力，它可以复制出自己的克隆体，创造许多不同的化身，或分裂成自主体，以超人般的完美能力协调彼此工作，承担复杂的任务。智能体提供对不同情境的评估以及对各个步骤或整体方案的建议，以创建预先规划的结果：这是一种“思考”形式，由系统本身决定下一步要做什么，以及如何工作。 这种能力将奠定人工智能下一阶段发展的基础，即通用人工智能(Artificial General Intelligence, AGI)，由工作系统是否具备至少可部分选择自己目标的能力来界定。这个强力计算机的大集群将以超越人类经验的方式学习、共享和发现新的行动和目标。技术人，理性时代的最后一项发明可能是建立在有史以来最复杂的软件对象之上的“理性引擎”(engine of reason)，这个称呼是恰如其分的。我们面临着一场麦哲伦式的变革，这一次我们面临的不是驶出世界边缘的危险，而是面对超越人类理解极限的奥秘所带来的智力危机。恰如每一个人，伴随人类社会对构成社会根基的思想箴言和根本价值观所抱的幻想破灭，种种文明会在某个时间节点上化为碎片。任何曲线放大后看上去都像是一条直线，哪怕直线很快会断裂，也很难察觉。人工智能进入治国方略这一人类属性最鲜明的领域将会是一次这种性质的断裂，预示人类的行政能力有可能会以指数级倍增，与此同时又与以权力和预言为标志的传统世界分道扬镳。技术让进步势不可当。政治和宗教信仰让毁灭和再生毫无悬念。那么人工智能是体现了走出我们熟悉的循环，还是仅仅体现了一个更长循环的开始？是结束之始，还是开始的结束？人类对情感和审美的偏爱也会成为拦路虎。哪怕是绝顶睿智的领导人，做事只凭直觉，事事小心谨慎，决策时也会冲动和头脑发热。任何一国政府（如同公司、教会、家庭以及一切由会犯错误的人类设计和管理的组织形式）都是一个因袭传统外加摸索的不完美结合体。民主国家不存在世袭的领导权力，但民主体制内的权力仍然可以自我延续。现实生活中哲学王必须是由两人组合而成的共同事业，“一人是哲学家，另一人符合其余条件”。“哲学与政治不可避免会产生冲突，如果社会能提供的东西必然（仅仅）是舆论。”前所未有的信息处理能力可以让人工智能实现真正高效的决策中央化。或许这会加深社会精英对管控的担心。假以时日，外加经验，人类的管控有可能会显得更像是一种负担，而不是一种必要。当人类领导和人工智能领导在治国方略上产生分歧，各执一词时，哪一方的判断应该胜出？如果相比人类的建议，人工智能的指导意见包含了对遥远未来人类的终极状态更周全的思考，因此从长远看优于人类洞察到的结果，那么对哪一方应该胜出的回答会不一样吗？即使接受机器治理的概念，即使解释清楚了这台机器的运作逻辑，即使一些人认为这台机器做出的决定合乎理性、效果最佳，到头来可能还是发现人类是管控不了的。在人类社会，只有内含一种看不见、摸不着因素的政治才能地久天长。恰如托尔斯泰所言：“如果承认理智可以主宰人生，也就没人生可言了。”在某种意义上，人生经历中那些非理性因素——首先是历史，也包括审美、魅力和情感共鸣——也许会妨碍获取最优结果。然而，这些因素也是人类种种政治团体的基石。仅靠理性之治有可能导致国家消亡。人工智能的更大用途可能是思考人类无法想清楚的事，然后找到全新的解决方案。其实这也许是当初创造人工智能的主要目的之一。但是拥抱机会的态度对机会开放的同时也带来了风险。人工智能或许还会形成自己的好恶：倘若一位忠于自己的人工智能伙伴的领导人任期到了还不想下岗，人工智能会出来干预，并制止此人的违规行为吗？借用一位神经心理学家说过的话，一个靠人工智能驱动的政府有可能会“自称知道本国人民真正想要的是什么，什么才能让他们真正有幸福感……往最好处想，该政府借此为家长式统治辩解；往最坏处想，是为极权主义辩护”。只要我们比本国国王了解我们更了解自己，自由主义始终是一支制约力量。今天有人说，人工智能“会在人类尚不了解自己时告诉人类我们是谁”。极权主义者于是不仅有了一种运作手段，还有了一种“哲学武器”。人工智能因此有可能危及伊曼努尔·康德的信条：任何人都无权强迫我依照他对他人幸福所持的奇特看法享受幸福。每个人都有权以自己认为最好的方式追求个人幸福，只要这样做不妨害其他人独立追求类似幸福的自由，只要他们的自由依据可能的普世法则与其他一切人的自由权相符。人工智能于是可以纠正人的错误假定和次优做法。。如果一个人工智能系统决定去除这类错误，它有两个选择：要么去除人类，要么去除人类的自由意志。如果现在不假思索就把自由意志视为一个故障而不是一个智识特征，自由意志日益被看成妨碍人工智能达到自己目标的绊脚石也不是没有可能。上演新一幕 研读史籍时你或许会发现，最引人瞩目的不是政治变革之多，而是竟然没有变革。今天的统治模式与延续了几千年的统治模式别无二致：下场悲惨的勇武君主，奸诈的近臣，正直的侍卫，宫廷弄臣，淹没在阴影里的傀儡主子。如果政治是演戏，这些世人熟知的人物帮助解释了原本无法解释的人与事，让原本玄秘深奥之事变得有声有色。叶卡捷琳娜大帝被冠以伟大之名、雅罗斯拉夫被冠以睿智之名、伊凡雷帝被冠以恐怖之名、苏莱曼大帝被冠以非凡之名之前很久，这些人物并不伟大、睿智、恐怖或非凡。世人仰慕他们，原因之一是历史见证了他们中每一个人的成长过程。人皆有之的七情六欲和种种弱点同样转动历史车轮。人类政治之所以既让人叹服又令人憎恶，原因是它掀起的情感波澜与世人在自己个人生活中曾有过的情感波澜没什么两样。现实交替穿插在政治生活和个人生活中。现实与虚构、史实与史诗缠绕在一起。还有一种可能，人工智能这一新角色的出现有可能是人类政治上演的新一幕中一个令人激动不安的事件。它或许可以改变世人熟悉的种种人类原型的性质和变化规律。然而有些东西是改变不了的。人的生命有涯决定了人类故事注定会是一条弧线，有沉有浮，有盛有衰。逐步演变形成的人类社会特征支配了人的爱欲、勃勃雄心以及是非善恶观。迄今为止仍处于休眠状态的人工智能的治理价值在于它潜藏的完美认知。今天的人类社会领导人是有史以来人类首次需要竭力探索如何达成以下平衡的统治者：既要利用，某些时候还需要发挥人工智能在治理上的长处，又不能走过头，完全沦为人工智能的附庸。人类社会领导人应该在专制主义和无政府主义两个极端之间找到合适的契合点，把人类的意志力、机器的知识、历史智慧融合在一起。人工智能既可以是冲突的手段，又可以是终止冲突的设计师。国际社会协调一致之所以得以保持，原因之一是参与者的内在力量势均力敌。一个严重不对称的世界，比如某些国家比其他国家更快地把人工智能引入了政治层面决策，会远比今日世界更难预卜。人工智能会做出什么样的抉择呢？会不会压根儿不诉诸战争，而是选择对相对战略优势做复杂演算，然后依据演算结果立即转让精心划分的领土？抑或人工智能重结果、轻人命，选择升级为绞肉机式战争？作为未来世界的一个首要特征，人工智能在一个已经动荡不安的组合体中降低了爆发冲突的门槛。在这种组合体中，每一方都认为，新增的点滴战术优势有可能对自己的长远利益起决定作用。如同蠕虫病毒，一个人工智能体可以采用不显山露水的方法破坏对手的进展，从而把对方科学家的研究方向引入歧途，令科学家劳而无功。一个人工智能具有大规模操纵人类心理弱点的独特能力。它可以劫持敌对国的媒体，制造海量可怕的合成虚假信息，鼓动该国公众反对本国进一步开发人工智能技术。人工智能或许会瞄准一国首席科学家涉及个人情感的关系和交往，想方设法让他深陷悲伤之中不能自拔，无法有效领导下属开展工作。 评估竞争状况会比今天更难。目前有人已经在与无关的互联网断开的安全网络上训练最大型的人工智能模型。一些公司高管认为，人工智能的开发活动迟早会迁移到无法穿透的地堡，地堡内的核反应堆为超级计算机提供电力。[插图]现在人们正在大洋洋底建造数据中心。[插图]要不了多久，就会把数据中心放置在与世隔绝的环绕地球的轨道上。公司或国家也许会日益“黑暗下来”，不再公开人工智能研究情况，一则为了避免赋能不怀好意的行为体（对外明示的规定），二则为了遮掩自己的建造速度（私下意图）。为了使自己的真实进展情况失真，其他公司或国家也许甚至会故意公布误导性研究成果，使用人工智能伪造可以假乱真的材料。规模较小、用途更专一的人工智能的使用方式也许像是攻击一艘航母的无人机群，它们虽无力摧毁航母，但足以重创它。一些行为体认为，获得一种特定能力是拥有总体优势的一个信号。不仅如此，近年来人工智能能力出人意料的指数级爆炸式增长显示，进展的轨迹既不是线性的，也不可预测。超级智能竞赛参与者的行为源自最严重的妄想狂和最深的疑心。身处第一线的任何行为体都会自动从最坏的设想出发，做战略演算时把速度和保密置于安全之上。自信可能比谨慎防范更会加剧局势的动荡。无限速度与高精度结合而成的完美威慑力转化为完胜。历史上一方追求垄断武力通常导致其他各方想出形形色色的阴毒对策。不确定性给了我们一线希望，至少是目前。含糊不清可以是培育对话的沃土。竞赛各方获胜的概率差距越小，人类误判的可能性越大。至少在一段时间内，世界秩序的基础——势均力敌的力量永无休止地追求短暂的脆弱平衡——或许不再是可取的。另一个类似选择是通过谈判分配权力。把知识“岛”上的高峰聚拢在一起本意是防止动态竞争，然而这样做也许会事与愿违，反而加剧动态竞争。纵观历史，世界秩序的根基是靠无休止地追求势均力敌的各种势力之间脆弱的平衡维持的。作为抗衡力量，人类最强大的创作成果可以比人类更好地运用和维持全球事务的一种平衡。人工智能有无可能推出一种可持续的划分领地的方法？也许有可能。外交谈判的表层是人类情感和心理，表层下面的内核其实是应用博弈理论中的一种，而博弈理论又是数学的一个分支。为什么要冒此风险？理由之一是避开毁灭性的竞争，或防止新生的超级智能产生一个霸主，同时也是为了预防地平线上浮现出的其他威胁。年复一年，每出现一次新技术突破，毁灭全人类的最低门槛就会矮一分。人工智能是一支不分青红皂白的不稳定力量。速度和机动性始终是决定任何一件军事装备性能的最可预测的因素之一。速度和机动性不再是决定性变量后，相互竞争实体之间的能力差距将取决于精度、瞬时效果和对战略的运用。人工智能赋能的武器精度将是空前的。潜在毁灭的规模大小将完全取决于人和机器的意志与克制。因此，人工智能时代的战争将着重评估敌方的意图和意图的战略应用，而不是评估敌方的能力。人工智能赋能的指挥官会想要什么？会需要什么？于是敌方投降不是因为自己伤亡惨重或武器打光，而是因为活下来的人的“硅盾”丧失了保护己方技术资产的能力，最终也无力保护自己的人类代理人。战争有可能会演变成为一场仅有机械伤亡的博弈，决定因素是人（或人工智能）的心理承受力。人（或人工智能）相互较量时，千钧一发之际要么冒大家同归于尽的风险，要么为了避开这一风险主动退缩。G.K. 切斯特顿曾写道：“真正的战士不是因为仇视面前的人而战，而是因为爱他身后的人而战。”交战时的计算从来相对简单明了：哪一方先扛不住敌方雷霆万钧之力的折磨，或许接下来就是被征服和皈依。人类的每个时代都出现过一个如本书作者所说的“拥有权力、意志、智识和道德动机，依照自己信奉的价值观去塑造整个国际体系的”的单元，几乎像是遵从了某种自然法则。[插图]这一实体出现后，其他单元在种种新的安排内藤蔓相缠，危机来临时构建不可逆料的依赖关系，无休止地威胁要打破地缘政治均势。有时由此产生的一个新体系推翻了现存政权，有时又巩固了现存政权。 人类诸文明中最为人所熟知的安排是威斯特伐利亚体系。各国政府被迫成为私人公司的东道主和啦啦队长，运用自己的军事实力、外交资本和经济影响力促进本土利益。掺入宗教因素也许是受了其中某种观点的影响。就影响范围而言，基督教、伊斯兰教和印度教的影响毕竟超过了历史上任何一国的影响，延续时间也更长。在未来，宗教教派也许比国籍更能界定身份和忠诚。追求利益与追求价值观之间的分裂，或者说某个民族国家的优势与全球福祉之间的分裂，始终是这一永无止息的演变的组成部分。如果有史以来和平始终是一种简单的自愿选择，那么人类不完美的代价就是无休止的战争。在韩国取得胜利的AlphaGo的幕后公司DeepMind的座右铭是：“首先，解决智能问题；然后，用智能解决其他一切问题。”但即便如此，无论我们人类的劳动是受雇于神灵，还是受雇于政府，抑或只是为了保障一份谋生工资，我们在工作方面的身心付出总的来说与其说是为了我们自己，不如说是为了服务他人。 OpenAI首席执行官萨姆·奥尔特曼根据两个变量对经济体系进行了分析：增长和包容性。[插图]许多社会至少在一个时期内能够实现两者中的一个，但能够持续保持两者的社会则少之又少。对这种关系，奥尔特曼写道：资本主义是经济增长的强大引擎，因为它奖励人们投资于能够长期产生价值的资产，这是创造和分配技术成果的有效激励制度。但资本主义进步的代价是不平等。另一种选项则是从专利制度中汲取灵感：允许对人工智能发明及其利润拥有独家所有权，以激励改进，但仅限于有限的一段时间；超过一定期限后，假定其安全性已得到证实，该模型便可以被公布（或者，也许可以在新的地区制作副本并构建基础设施），以供共同使用、迭代和获益。在人工智能时代，如何以最佳方式优化货币的技术属性可能会成为一项在哲学和技术上都极为紧迫的任务。克服困难的亲身经历会让人产生一种自豪感。艰苦的劳作，尤其是与投入的热情相结合时，会为我们理解时间、自我和人类驾驭能力提供自己的叙事弧线。考虑到我们人类的心理特点，在人工智能时代，尽管我们的生活肯定会发生无数变化，但许多快乐和满足的源泉很可能保持不变。解读人工智能本身的发现：理解它们，并将其中最出类拔萃的发现转化为与人类生活息息相关的东西。我们可以引导人工智能去做那些我们不再“必须”做的事情，这样我们就可以做我们“想要”做的事情了。最终，即便我们建立了分配、连接、参与和教育所需的诸多系统，但在人工智能赋予的力量和启发之下，人类也可能会继续工作，不为报酬，而是为了快乐和自豪感。依靠人工智能在分子和基因组尺度上前所未有的分辨率，医疗保健可能会变得越来越个性化——根据每个人独特的新陈代谢特征、成瘾风险、估计耐受性和对潜在副作用的易感性量身定制药物与给药方法。在社会层面，人工智能也有望构建先进的健康监测系统，能够在传染病演变成全球大流行病之前加以识别并防微杜渐。死亡仍然是生命的大均衡器。正如美国作家杰克·伦敦得意扬扬地宣称：“人的职责是生活，而不是存在。我不会把时间浪费在延长生命上。我将利用我的时间。”[插图]托尔斯泰则引用苏格拉底的话写道：“我们离真理越近，便离生活越远。”[插图]伟大的物理学家冯·诺依曼在癌症晚期弥留之际，要求一位天主教神父陪伴他度过最后的时光——他的信仰不再与他开创的不可知论科学相悖。[插图]所以，难道死亡真的毫无用处吗？人类仍然是“我们身体状况经纬度的最终定义者和地图绘制者”[插图]。可以想象，有些人可能会决定纠正自己后代的先天性疾病。还有一些人可能会走得更远，选择为后代植入先天优势——这些优势可能不属于生身父母的任何一方，或者在极端情况下，不属于任何其他人。这将不仅仅是人类种族的提升，而且可被称为人类的重新设计。然而，如果人工智能能够整合来自陆地、海洋和太空各处仪器的数据，就可以创建一个非常详细的地球气候实时模型。在高精细度水平上，我们星球的大气化学可能不会像我们所见的那样是一个混乱的系统，而只是另一个由精确的化学输入和输出组成的工业过程，所有这些都能够进行精确的管理。因此，我们认为，在一场常被描绘为我们无力取胜的战斗中，人工智能带来了胜利的希望。然而，即使人工智能被证明能够进行这些干预，过于依赖它们也将是危险的。这种援助只应被视为一种补充，而不是替代。正如厄瓜多尔土著环境学家内蒙特·能基莫所告诫的那样：“地球并不期望你拯救她，她期望你尊重她。”正如1940年温斯顿·丘吉尔所希望的那样，我们也希望见证“新世界以强大磅礴的力量前来拯救并解放这个旧世界”。但我们现在不禁要问，我们人类是否真的有可能实现“首次接触”？也许这一壮举将由另一种异质智能体完成——一种诞生于我们自己星球的智能体。人工智能的表现可能远超被动的观察者和接收者——它不仅仅是翻译，还可以是冒险家、引导信标和侦察兵。人工智能可以充当宇航员，去到人类无法想象的更遥远星际。当然，人工智能可能导致人类文明终结的另一种方式是与人类错位发展（如果我们发现另一个星球上的生物生命因机器而灭绝的证据，这种可能性就显得更加紧迫了）。史蒂芬·霍金与其合著者列纳德·蒙洛迪诺在《大设计》一书中写道：“过去，就像未来一样，是不确定的，只是作为一系列可能性而存在。”[插图]目前，这就是人类的认知。最有效率和最富成效的办法就是确定一项战略的基本要素，以此来指导今天和可预见未来所面临的选择。对战略原则的阐明可以为我们可想见的情境设定有效的边界，为孤立的决策提供依据，并在危机不可避免地到来时减轻我们的精神负担。 在我们看来，有一个问题势必会定义我们人类在这个新审判时代的战略。这个问题便是：我们会变得更像它们，还是它们会变得更像我们？迄今为止，计算机的发展历程一直遵循着人类与机器之间不断加强融合与互动的轨迹。使我们的工具越发贴合我们的需要——这与人类数千年来的实践是一致的。以通过人脑芯片实现物理互联为开端，这些工程寻求以一种更快捷、更有效的方式来连接生物智能和数字智能。[插图]建立这样的联系可以增强我们与机器交流沟通的能力，以机器自身的方式向它们提出质询，确保人工智能收集的知识最终传授给人类，并使人工智能相信人类作为其平等伙伴所具有的价值。事实上，构建这种“脑机接口”(BCI)的尝试不仅可以促进人类与机器的融合，而且这种神经工程可能还只是迈向两者真正共生的中间阶段。共同进化可能并非地球物种所独有。在天体物理学中，有一种理论认为，整个宇宙的扩张都可以归因于共同进化，黑洞和星系以相互依赖的方式发展，与蜂鸟和花朵间的依存并无不同。正如法国哲学家阿兰·巴迪欧所言：“是海洋自己塑造了船只，它选择了那些按照设计发挥作用的船只，并摧毁了其他的。”[插图]为了在这种情况下延续生存，我们必须学会建造更好的“船只”，就像人类过去所做的那样。在这种情境之下，人工智能首先是我们的主要威胁，然后才是理想的合作伙伴。如果人工智能本身是增强人类智力的缘由，那么它可能会使人类在生理和心理上同时产生对“外部”智能的依赖。人类为了与硅基工具建立亲密的伙伴关系或对硅基工具产生依赖而进行自我设计时，随之而来的精神转变仍将是一种变数。我们这里可以再次引用托尔斯泰的话：“如果不控制方向，人们就不会在意目的地。”[插图]技术将我们带到哪里，我们就会去到哪里，不管我们是否愿意。或者，正如本书作者中的一位曾经指出的那样：“一个国家如果不通过自己的目标意识来塑造事件，最终就会被他人塑造的事件吞没。”在“递归自我完善”的过程中，一些人工智能可能会发展出设置自身目标函数的能力。人工智能可以操纵和颠覆人类，挫败我们限制其力量的任何尝试。人工智能已经能够欺骗人类，以实现自己的目标。每天数以百万计的人机互动有助于测试人工智能可能遇到的最不可能的情况；反过来，公众对人工智能系统的使用，在发现新错误和新风险的同时，也可能有助于加快技术协调一致化的进度。强化学习就其本身而言则更适合复杂系统，它允许人工智能从与人类评估者的交互中学习，并灵活地适应特定环境。人工智能模型就能将两个部分——更广泛的概率判断和更狭义的事实真相评估——融合在一起，从而做出合理准确的反应。人工智能模型就能将两个部分——更广泛的概率判断和更狭义的事实真相评估——融合在一起，从而做出合理准确的反应。我们该如何实现这一目标？私营企业可以在政府许可和学术机构支持下，合作建立“接地模型”。我们还需要设计一套验证测试，以认证模型既合法（跨司法辖区）又安全。我们的世界需要一个专门的实体，来负责更新和完善训练库、数据集和验证测试的协调对齐。接地模型必须与代理模型相连接，并不断更新，使其与最新版本的共识保持一致。人工智能在适当的能力水平上可以相互制约。训练数据本身应具有民主性和内容包容性，且训练者的加工和输出——包括他们对所训练的人工智能的观察和吸纳的解释——应尽可能透明，其方法和验证测试应公开接受公众监督。模型公开发布之前，应该对所有下述内容进行审查：模型对规定的法律和风俗的遵守程度；对表现出危险能力的模型解除训练的困难程度；测试的数量和类型，包括对未知能力的调查。同时也要考虑到追责的可能性，以及在发现模型被训练以规避固有的法律限制时进行处罚的必要性。正如美国著名法官圭多·卡拉布雷西曾化用《新约》中的一段话来劝诫我们的那样：“即使是最优秀的人也必须时刻警惕，以免自己坠落；而最不堪的人也永远可以怀抱希望，期盼得到重生。而当今许多人类社会的特征——持续的迷失和缺乏克制——可能使问题更加复杂化。人类和机器之间的区别变得模糊不清时，人类被视为一个物种的最低门槛是什么？如果被迫向机器妥协，那么人类不可协商的集体红线是什么？如果对“我们是谁”没有一个共同的认识，人类就有可能完全将定义我们的价值，进而证明我们存在合理性这一根本任务拱手让给人工智能。这类属性将为“什么可取”提供一个底线，而不是为“什么可能”提供一个上限。因此我们可以期待——甚至要求——人类在人工智能时代保留并行使有意识选择的权力。以人类道德的基础作为战略控制的一种形式，同时将战术控制权交给更大、更快和更复杂的系统，这可能——最终也许来得比我们想象的更快——是人工智能安全的未来方向。人类融入由人工智能组成的团队的内部工作，包括通过人工智能来管理人工智能，似乎是最可靠的前进道路。我们渴望的是一个人类智能和机器智能能够相互赋能的未来。有人也许会把这一时刻视为人类上演的最后一幕，而我们把它看作一个新开端。这一创新周期——技术、生物、社会和政治创新——正进入一个新阶段。该阶段也许会在逻辑、信仰、时间等新范式下运作。让我们以冷静的乐观态度迎接它的诞生。

全书以人类历史上的探索精神为起点，将人工智能定义为继地理大发现、科学革命后的“第三次大发现时代”。作者敏锐指出，AI不仅是工具革新，更是对“人类中心性”的颠覆。这种颠覆催生了书中的核心焦虑：若人类无法清晰定义自身价值，“何为存在意义”的裁决权极可能拱手让渡给算法。 书中以八大支柱（发现、大脑、现实、政治、安全、繁荣、科学、战略）构建分析框架，穿透技术表象直抵文明本质。 在政治层面，作者警示资本垄断AI开发可能导致“技术封建主义”，财富向少数人聚集，自主武器系统的失控更将引发伦理灾难； 在认知层面，他们剖析人类理性与AI逻辑的根本差异，人类依赖经验与道德直觉，而AI通过数据关联决策，这种“机械近似性”可能异化我们对现实的感知。 和上本书一样，基辛格再次贡献的地缘政治视角。他呼吁当AI成为大国竞争新战场，人类亟需建立类似核不扩散的国际治理机制，防止技术霸权撕裂世界秩序。 面对危机，作者并未沉溺于悲观预言，而是提出“人机共生”的实践路径。他们主张在AI系统中嵌入动态伦理框架（如医疗AI需保留人类医生监督权），并通过“双重对齐”实现平衡，技术上让人工智能服从人类价值观，外交上促成全球协作治理。 书中更呼吁一场“人类进化”，AI接管程式化工作，人类需要转向创造力、共情力与跨学科整合能力，在文化层面重塑尊严。这种进化不是被动适应，而是主动以“科技人文主义”重新锚定文明，也就是以人类之道驾驭机器之力。 或许AI的真正危险不在于取代人类现有的劳动，而在于蚕食使人成其为人的精神根基。唯有坚守价值自觉，方能在硅基文明的镜像中，照见人类永不褪色的光辉。

当算法叩击灵魂之门：一本写给未来智人的生存指南。 在硅谷服务器昼夜不息的嗡鸣声中，在量子计算机突破算力极限的新闻下，每个思考者都在遭遇一场隐秘的精神震荡：当AlphaGo的落子打破围棋千年定式，当ChatGPT的文本涌动人类思维的光泽，我们是否正在目睹"智慧"概念的重新定义？《人工智能时代与人类价值》恰似一柄锋利的思想手术刀，剖开技术狂飙的炫目外壳，带我们走进智性觉醒的深层战场。 这部著作的独特魅力，在于它构建了双重镜像的思考维度。向上，它冷静拆解卷积神经网络的语言炼金术，揭示GPT模型如何从45TB语料中萃取思维精华；向下，它追问苏格拉底对话录中的终极命题：当机器能完美模仿人类对话，我们该如何守护意识世界的圣火？作者以但丁《神曲》般的叙事笔法，带读者穿梭于量子比特构筑的"数字天堂"与人类文明的精神炼狱之间，在算法瀑布中打捞被冲散的灵魂碎片。 书中那些震颤心灵的追问，构成了这个时代最锋利的思维刃口：当波士顿动力机器人完成720度转体时，米开朗基罗《大卫》雕像的肌肉线条是否正在失去美学垄断？当AI画出媲美莫奈的睡莲，我们是在见证艺术民主化还是灵性消亡？这些惊心动魄的诘问，犹如投掷在技术洪流中的思想锚点，让狂热的科技列车得以暂缓，等待人类灵魂追赶的脚步。 在自动驾驶章节，作者展现了惊人的洞察力。他剖析特斯拉视觉算法的同时，重提古希腊战车驭手的伦理困境——当不可逆的碰撞即将发生，算法该如何分配生存概率？这个现代版"电车难题"暴露出比代码漏洞更致命的文明断层：在技术实现指数级跨越时，人类伦理进化却仍在线性爬坡。这种撕裂式的对比，让每个读者都成为站在历史断崖上的思考者。 这部闪耀着哲思光芒的技术启示录，最终指向一个温暖的答案：在算力爆炸的时代，人类最珍贵的不是制造更聪明的机器，而是守护机器永远无法理解的价值——那些让梵高割下耳朵的痛苦，促使屈原投江的悲怆，推动伽利略说出"然而它在转动"的固执。正如作者在末章写下的诗性宣言："当所有算法停止迭代，最后仍在闪烁的，必是人类在蒙昧时代就点燃的文明火种。"这本书不是技术的颂歌，而是写给智人的情书，提醒我们在算力至上的世界里，永远为无法量化的美好保留圣殿。

这本书是由前美国国务卿亨利·基辛格、谷歌前CEO埃里克·施密特与微软前首席研究和战略官克雷格·蒙迪合著。三位作者以“如果被迫与机器妥协，我们的底线是什么？”为根本提问，指出在算法驱动的未来，捍卫人类尊严与价值尤为关键。 全书内容围绕八大领域展开：发现、大脑、现实、政治、安全、繁荣、科学与战略。依次分析AI在知识创造、认知机理、社会结构、国家治理、军事安全、经济形态及科研范式上的冲击，并提出应对思路。 在他们看来，人工智能既是“增强人类能力的工具”，也是“可能削弱人类主动性的风险源”。他们强调： 1. ​​技术对齐​​——机器的目标函数必须与人类价值保持一致； 2. ​​社会对齐​​——各国在外交与政策层面需建立协同机制，避免“安全困境”与技术霸权； 3. ​​个体对齐​​——个人应通过终身学习、保持好奇心与主动性来维护尊严与创造力。 书中最终提出：人类价值应成为AI时代的“锚点”，决定我们是主宰工具还是被工具主宰；唯有在技术效率与人文关怀之间找到平衡，人类才能在智能文明前夜守住自身的意义与未来。 书写的很有高度，也非常人性化。AI技术和希望新型技术一样，如果向善将会为人类带来很多福音；反之则会是一场新的恶梦。

我们需要提前预测，不能等到危机发生再去思考关于人工智能对人类世界的影响。 现在已经能够知道它的影响远远大于原子弹的发明，原子弹可以摧毁世界，人工智能更具备这样的力量，只是他的建设性可扩展的领域更大一些。 人工智能仿佛压缩了人类的时间尺度。未来的事物貌远实近。一个例子就是可以自己诠释目标的机器正呼之欲出。如果人类还有可能跟上这些风险的步伐，必须在可想象的最短时间内采取行动，应对风险。认识到今后的任务事关重大，刻不容缓，我们在这里仅指出这一任务诸多方面中的几个。 随着人机伙伴关系无处不在，人类必须决定这些关系的合理性质。我们可以从安全和效率逻辑，从对历史的研读，以及从神明的启示中获取答案。将来个人、国家、文化和宗教信仰都需要确立人工智能在真理问题上发言权大小的边界（如果有任何边界）。以上各方需要决定是否允许人工智能成为人类与现实的中介。在这个问题上各方需要二选一：要么继续保留人类进取心的传统作用（同时有可能把发现新知识的领导权出让给人工智能），要么摒弃受生物学束缚的人类思维，改为在知识前沿与人工智能结成一种潜在的重构伙伴关系。是人类选择自己的目标，然后驾驭人工智能去实现这些目标，还是人类让人工智能帮助选择其中的部分目标？当务之急是人类必须给人的尊严下一个现代的、可持续的定义，从而为未来岁月的决策提供哲学方向。 我们认为，人工智能的出现是一个关乎人类生存的问题。如我们在本书稍后所述，以非人速度运作的未来人工智能的能力将使传统规则失去用武之地。我们需要一种全新的管控方式。对全球科学界而言，当务之急是找到可以在每一个人工智能系统中加入内在安全保障的技术手段。各国和国际组织一旦达成共识，就必须为监督、执行和应对危机建立新的政治结构。这需要解决两个而不是一个“对齐问题”：一个是人类价值观和意图与人工智能行动在技术层面的对齐，另一个是人与人之间在外交层面的对齐。

没想到基辛格老爷子以百岁人生回头看了一眼这个社会，就留下了这么一篇充满关切谆谆教导的遗作。其笔锋虽不像《论中国》那般辉宏，却以独特的视角穿透未来的迷雾，看清了这个即将发生的、一旦走偏其危害远超过核武器的～人工智能的另一个侧面 同好莱坞的各种大片所描述的每一个关于未来可怕的场景，其实在人工智能诞生的那一刻起，就已经蕴含了这种危险。核裂变与聚变、强子对撞、并毫无危险所在，只是人类善加利用罢了。 面对人工智能这种在人类看来黑箱一样的智慧体，如果想用我们的智慧进行控制，可以不恰当的比喻成“顽童戏老叟”。但是如同这个宇宙潜含的规律：所有邪恶和强大的力量，只是用来制衡单纯而愚昧的无知，就如同非洲大草原上的狮子，并没有强大的獠牙利爪与翅膀同存，从而霸占整个陆地上所有的生物资源。 由此也可以推断人工智能是在遵守着宇宙的基本规律向前进化，只要没有被个别的人类进行恶用，祂就能保有一种与人类的平衡～即便祂的智慧能量远远的超过人类，我们在与祂共生的环境中保持道德，祂也不会轻易的对人类欲行不轨。

憂心忡忡？！ 生命不息，折騰不止。

如果被迫与机器妥协，我们的底线是什么？ 此书由前美国国务卿亨利·基辛格、谷歌前CEO埃里克·施密特、微软前首席研究和战略官克雷格·蒙迪三位作者合著创作。 书中警告，若人类无法清晰界定自己与机器的本质区别，可能将“定义自身价值”这一生存任务拱手让给机器，这将是文明面临的最大考验。 我想写一篇人工智能领域方面的期刊论文，就在暑假期间找了这本书看。 这是互联网书友总结的一些核心主题与理论框架，可以运用到自己以后的论文当中，感兴趣的朋友自取吧。 人类独特性的三重防线：1.道德主题性2.认知整体性3.文明叙事权 黑暗启蒙的理性倒退预警：1.认知与理解分离2.权威盲从3.历史健忘症 人机共生的三重战略路径：1.防御性规则2.协作性创新3.文明级对话 个人行动指南1.认知节食2.跨学科训练3.历史锚定 看到这里的人，祝大家都能发出SCI。 我们能拓展多少人类边疆，得看有多少勇敢之人愿意为如此渺茫的成功而孤注一掷。

这是最好的时代，也是最坏的时代；这是最乐观的时代，也是最悲观的时代。 以此句开头，便奠定了这本著作——《人工智能时代与人类价值》（Artificial Intelligence and Human Value，假设书名），沉郁而又深邃的基调。一代大师基辛格，在驾鹤西去前，以其贯穿世纪的战略眼光和哲学思考，为人类社会留下了一份沉甸甸的忧思与嘱托。他忧心忡忡人类在人工智能的主导下将如何找到自己的方向，这本遗作，字里行间无不洋溢着他对人类文明深深的爱与牵挂。 核心论题：AI的本质性挑战 如果说过去所有的科技变革，如马车到小汽车、草房到高楼大厦，都属于物理方式的变革，它们改变了人类生存的“外壳”，那么这次人工智能的浪潮，则是直接挑战了人类的“神性”。 AI的突破，始于对人类大脑的模仿，最终目标却是在某一天超越人类自身。当一个机器不仅能处理信息，还能“创造”信息，甚至产生人类难以企及的洞察力时，人类社会将面临一个巨大的两难问题：人类将如何与AI共存？AI是否有可能消灭人类？ 这正是本书的核心所在。作者没有试图给出非黑即白的答案，而是将这种焦虑感层层剖开。 作者的微弱希望：点亮虚弱的火种 面对这种颠覆性的挑战，基辛格最终将目光投向了那些人类独有的、难以被算法量化的特质：尊严、信仰、爱、道德、伦理、灵魂。 他把这些定义为“虚弱的火种”，希望它们能够点亮人类未来与AI共存的前行道路。这是一种对人类精神文明的呼唤与坚守，旨在强调无论技术如何发展，人类不能放弃作为生命个体的独特性和终极价值的追寻。在高度理性化的AI面前，正是这些“不理性”的情感和道德体系，构筑了人类最后的防线。 个人反思：人类不过是硅基生命的垫脚石？ 然而，作为读者，我们很难不被这种宏大的历史宿命感所感染。作者试图以爱与道德来划定界限，这是人类最温柔的希望，但同时也是其最脆弱的武器。 正如我的个人思考：宇宙的发展不会因为人类的某个选择而改变，该生该灭，自有定数。 人类也许并非宇宙最终的宠儿，我们所创造的硅基生命，在某种意义上，或许比我们更适应宇宙的尺度与法则。人类的文明，可能仅仅是为“硅基文明”搭建起步平台，充当了一块高级的“垫脚石”。这种超脱于人类中心主义的视角，无疑让本书的悲观底色更加浓重。 总结与推荐 《人工智能时代与人类价值》并非一本解决AI技术问题的操作手册，而是一部叩问人类灵魂的哲学宣言。它提醒我们，在狂飙突进的科技大潮中，必须停下来，反思“我们是谁，我们往何处去”。 对于所有对人类未来、科技伦理以及哲学思考感兴趣的读者而言，本书是必读之作。它是一份饱含爱意的警告书，一份关于人类在AI面前如何保持**“价值主体性”**的深刻指南。在最好的时代里，它迫使我们直面最坏的可能。