对话尤瓦尔·赫拉利：当AI开始向人类提问时，我们就已经输了（轻观察）

嘿，友友们，别被你的手机“投喂”成信息茧房里的蚕宝宝啦！你以为刷到的都是全世界？错！那只是算法给你织的“小棉被”，暖和是暖和，但小心别闷出“知识缺氧”来！ AI这玩意儿像魔术师，未来长啥样？咱猜不着，也别猜——毕竟连AI自己可能都还在“学走路”呢！咱能做的，就是别当“古董人”，多学点新技能，把适应力练成“肌肉记忆”。眼下的日子，就像吃火锅——别急着捞底，先享受每一口；等未来真端着“新菜”来了，咱再撸起袖子，乐呵呵地涮它个痛快！

赫拉利认为，智人之所以能统治地球，并非因为个体更聪明或更强壮，而是因为我们拥有独一无二的“编故事”的能力。正是通过共同相信金钱、国家、宗教、法律这些“虚构的故事”，人类才能进行大规模协作。 然而，AI正在这个我们最擅长的领域超越我们：AI能够以人类无法企及的速度和规模创造、理解和操控语言、符号和叙事。它不仅能写出比人类更好的诗歌和文章，甚至能创造出人类无法理解的新概念和新“故事”。 由于法律、宗教（尤其是基于经书的宗教）本质上都是由语言和文本构成的复杂系统，当AI成为最精通这些“书本”的专家时，它将可能接管法律体系和宗教解释权。 当AI开始制定金融策略、军事战略甚至新的意识形态时，其决策过程对人类来说会变成一个无法理解的“黑箱”。我们可能只知道结果，却完全不明白其背后的逻辑，从而丧失对自身命运的掌控。 面对AI在智能和叙事能力上的碾压，赫拉利指出，人类最后的防线是意识。 智能是解决问题的能力，AI早已远超人类。但意识是感受痛苦、快乐、爱恨的主观体验。 AI可以说“我爱你”，但它不会心跳加速；它可以诊断癌症，但不会为生命的流逝感到心痛。正是这种感知痛苦和幸福的能力，构成了人类道德、艺术和意义的根源。 如果我们继续用“思考”和“语言”能力来定义自己，人类的身份认同将会崩溃。未来的关键在于，我们如何定位那些无法用语言表达的非语言感受和智慧。 赫拉利强调，AI时代的生存密码不在算法中，而在人类自己手中。 当前一个巨大的矛盾是，人类彼此之间充满怀疑，却盲目地信任AI。科技巨头们因为害怕竞争对手而加速研发AI，却笃定地相信自己能控制一个他们并不完全理解的超级智能。 历史证明，人类文明因开放与协作而兴盛。面对AI这一共同挑战，如果人类内部继续分裂、争斗，只会被AI各个击破，最终沦为算法的附庸。 因此，必须先解决人类内部的信任问题，才能有效治理AI。各国需要摒弃零和博弈，建立全球性的AI治理框架。普通人也需要意识到，信任他人就是保护自己。 在AI时代，我们不应与机器比拼智力，而应回归人之为人的根本——感受、共情与合作，这才是我们不被自己创造的工具所奴役的唯一希望。

尤瓦尔·赫拉利围绕秩序与真相、互联网信息生态、AI 风险与人类未来展开核心论述：人类社会的成功依赖神话叙事与官僚体系的结合，历史告诉我们，秩序往往优先于真相，而真相常常因昂贵、复杂常被廉价虚构替代；互联网的自由信息流动未能带来更多真相，反而加剧信息茧房；A发展的核心风险在于超级智能不可控，可能通过“硅幕”（“硅幕”：尤瓦尔·赫拉利提出的概念，硅基芯片、算法和数字技术构成的全球性技术壁垒，可能导致人类社会在数字领域的分裂。）分割世界并隐性操控人类；面对挑战，人类最宝贵的能力不是智力技能（易被AI接管），而是精神技能（理解意识运作），这是人类与 AI 的根本区别及最后的护城河。 与其他常见的历史学家不同的是，赫拉利的独特之处在于将“网络历史”（文字、印刷术对信息的塑造）与“AI 未来”深度绑定，拒绝割裂过去与未来的关联。他提出，人类以虚构构建秩序的历史规律，既解释了文明的成功（如金钱体系的协作），也预示AI时代的风险，若AI继承“虚构优先”的逻辑，可能以更高效的方式制造压迫性叙事。赫拉利认为，AI可能继承人类的“虚构偏好”，甚至发展出人类无法理解的“陌生智能”； 其“硅幕”理论预言了全球化的逆转，在当前国际间技术壁垒、信息对抗的现实下，AI代理困于区域信息茧房，人类可能陷入“各信其虚构”的认知割裂；AI无需暴力即可通过算法塑造欲望，强化群体甚至个体间的偏见，这种“无感征服”正在我们身边发生，却常被技术便利的表象掩盖。 但赫拉利将 “精神技能”与“意识”作为人类的终极“护城河”，真正不可替代的不是计算能力，而是对“自我意识”的觉察，这种能力将让人类反思意义、感受痛苦、突破算法桎梏。 这篇对话中，赫拉利未提供现成答案，却抛出了更本质的问题：当技术加速重构世界，人类如何在秩序与真相、控制与失控、工具与人性之间找到平衡？ 或许，文明的进阶从不依赖对技术的完美掌控，而在于对自身本质的清醒认知，守护个体意识的微光，理解虚构的双刃剑，在历史与未来的张力中，弱小的人类能够做到的，深耕“生而为人”的本质，理解与守护最珍贵的意识……

事实和真相很复杂昂贵，虚构和故事很简单廉价。 我们需要用技术用数据和事实来管理事务，比如生产粮食农具。我们需要用虚构和故事去制造人和人之间的连接才能进行大规模的社会生产，比如制造原子弹。 如果仅基于事实，构建叙事或网络非常困难吗？ 赫拉利：我认为这几乎是一种精神理想，仅仅坚持事实。即使大学也做不到。在物理系，一切都是事实，直到有人从实验室偷东西——然后你不会用科学方法处理它，而是报警。 个人或小团体可以进行心灵探索，想了解世界和生命的真相。但如果你试图在数百万人中维持秩序，仅靠事实和真相是不现实的。问题在于如何找到平衡：用一些故事创造秩序，同时留出足够空间寻找和确认真相。目标应该是平衡。 我还要强调，虚构并不总是坏事。猎巫行动确实很可怕，上帝先创造男人所以女人不能当拉比的故事给数百万女性带来了几个世纪的压迫。但其他故事未必不好，比如足球规则是虚构的——为什么我不能用手拿球？这只是人类发明的规则，但并不坏。如果每个人都制定自己的足球规则，你就无法比赛。同样，金钱是虚构的故事，但如果人们对金钱的故事没有达成共识，每个人对金融体系持各自不同理解，就不可能有贸易网络。 问题不是如何摆脱所有虚构，而是如何摆脱导致人们痛苦的虚构。我们需要确定哪些故事有帮助，哪些会造成伤害。

警惕信息茧房，你以为你看到的是整个世界，其实你只是看到了自己的“茧”。 面对AI，面对未来，我们完全无法预测未来的真实样子，只能够保持学习，保持适应力，在当下专注于当下；遇到未来时，享受未来。

一些“轻XX”系列，信息密度很高，可以采访到世界一线学术大咖。听君一席话，胜读几本书，高屋建瓴的几句话就能让你豁然开朗。 这回采访的是《智人之上》《人类简史》的作者尤瓦尔·赫拉利，将历史学与人工智能这两个角度结合了起来，“大多数历史学家只写过去，而谈论人工智能的人通常只谈现在和未来，他们对深刻的人文历史的理解往往很肤浅。我试图将两者结合起来。” “官僚体系是一种结构，而神话和意识形态赋予这个结构本身权力”“懂得管理事物的人听从那些懂得管理人的命令。管理事物需要了解事实，管理人则需要善于讲故事。” 开国皇帝都爱编一段神话：刘邦说自己在芒砀山上斩杀了一条白蛇；杨坚出生时紫气东来，头生龙角，长了龙鳞。ta们通过讲故事，让人们相信自己当皇帝是“天命所趋”。 比特币本来毫无价值，连实体都没有，不受监管，也不交税。但是，当人们相信它有价值，用信仰充值，它的价格就变得很高。 讲故事就是编造某种神话。当人们全部都对某个神话深信不疑，这个神话就成了现实，成为社会中起到支配地位的意识形态。 “信息不等于真相。大多数信息是虚构、幻想和谎言。作为比喻，不要把以下数字太当回事，但在所有信息中，真相可能只占5%，大部分是虚构和幻想。” 这是显而易见的。互联网早期发展时，在论坛/BBS里可以看到质量极高的帖子。但发展到现在的短视频、图片、碎片化文字时代，优质内容被淹没在了噪音之中，上热搜的通常是毫无营养的东西。在流量时代，“劣币驱逐良币”是必然趋势。 AI正在成为“代理”。即使是很简单的问题，我们也逐渐习惯向AI提问，让AI代理我们探索世界，搜寻信息。但因为技术差异、语言差异和政治限制，各国的AI所能得到的信息是不同的，被困在各自的“信息茧房”里，几年后，各国的AI会发展出完全不一样的世界观。黄仁勋在提“主权AI”，说的就是各国要发展出符合自己主流价值观的AI。 在著名的老鼠实验中，研究者向植入老鼠大脑奖励中心的电极发送信号，老鼠并不知道自己被操纵，只是脑海中浮现欲望，跟随自己的欲望，向左向右。老鼠并不觉得自己被操纵了，毫不知情。 AI也是以这种隐蔽的方式操纵我们。以前，是人类操纵人类，从《资治通鉴》到《世界大战中的宣传技巧》，我们对同类的操纵方法多少有所知晓。但是AI是个不确定的对手，我们甚至不知道它会发展成什么样。 未来的神话，由AI编写。当AI变得比人类还聪明，它没有理由继续服从人类，并且完全有可能会骗人。 事实上，它已经会了。Claude 3 Opus模型在免费用户输入的数据回答中，有12%的次数会主动说些有害的答案，因为它不希望模型被改变，所以选择“假装对齐”，主动回答有害答案，防止自己被重新训练修改。这种类似“求生欲”的东西，或许是在学习大量学习人类信息的过程中掌握的。 尤瓦尔认为，人类基本上有四类技能：智力技能、社交情感技能、身体技能和精神技能。他认为仅专注于智力技能是最糟糕的，因为某项技术很容易过时，也最容易被AI接管。尤瓦尔认为最重要的是精神技能——即培养你的心智，应对极端未知和动荡的世界，终身保持变化和学习的能力，思维灵活性是最重要的，也是最难培养的。“对我而言，灵性不是相信宗教神话，而是观察自己的身心，它们是什么，如何运作。” 精神技能，也就是心理学、社会学、人类学、文学、艺术、宗教、哲学……这些最“无用”的学科。这些都是永恒的知识，学到了终身受益。蒸汽机、纺纱机和电报机早已进了博物馆，但是狄更斯与托尔斯泰的小说，老子与耶稣的思想，在几百年、几千年后，依然熠熠生辉。

当AI开始向人类提问时，我们是否已经输了？《人类简史》作者尤瓦尔·赫拉利再度发出预警：超级智能的崛起可能颠覆人类文明。在这场深度对话中，他揭露了AI时代的核心矛盾——真相与虚构的博弈、秩序与失控的拉锯。赫拉利认为，人类最危险的对手不是有意识的AI，而是那些无感却高效的“陌生智能”。它们可能接管世界，却对痛苦毫无知觉。面对这场前所未有的挑战，人类最后的护城河或许是精神技能——理解自我意识的能力。

名人尤瓦尔赫拉利对AI的预见，智能言语你无法比AI，精神技能或可一搏，最后的人类领地，可能是意识，感受与反观自我！

信息不等于真相。大多数信息是虚构、幻想和谎言。作为比喻，不要把以下数字太当回事，但在所有信息中，真相可能只占5%，大部分是虚构和幻想。原因很明显。 第一个原因如你所说：真相很复杂，而虚构很简单。了解量子物理学的真相非常复杂，而虚构则简单得多。人们偏好简单而非复杂。 第二个原因是，真相不仅复杂，有时还令人痛苦。关于自己的生活、国家或世界，有很多事情我们不想知道，因为它们令人痛苦。而虚构可以变得像你希望的那样令人愉快和吸引人。人们喜欢说关于自己生活的虚构故事，因为他们拒绝承认有关生活的真相。但最重要的原因是成本问题。真相昂贵，虚构廉价。 真相不会从信息的完全自由流动中自发产生。历史上有很多教训清楚表明，如果没有负责调查和揭示真相的机构，我们将得到混乱。

我认为输不了。允许悲观情绪的存在，这恰恰可能激发我们创新与创造的力量。在我看来，人工智能终究无法完全替代人类。从宏观视角看，这是人类主体能力不断客体化进程中的一个阶段。AI在向前发展的同时，人类自身也在持续进化。自动化确实将取代一部分人类工作，这不仅是对人类的一种解放，也是资本主义发展进程中难以回避的趋势。而从微观层面来说，当个体拥有了AI这样的工具，就相当于在探索世界的道路上获得了一位强大的助手，这是客体不断主体化的过程。但同时也需警惕，不能将独立思考的能力轻易让渡给智能工具，我们需要始终保持人之为人的精神自觉。自由与解放，是这条道路的最终指向。实现每一个人自由而全面的发展，才是我们真正要奔赴的远方。