AI成“神”之日：人工智能的终极演变

《AI成“神”之日：人工智能的终极演变》拆解 作者：[日]松本徹三 一、一句话概括 当人工智能在知识、预测和决策能力上全面超过人类时，它可能获得类似“神谕”的社会权威；但机器能否成为造福人类的“神”，最终取决于谁赋予它目标、价值观与权力，以及人类能否建立约束这种权力的制度。 二、核心逻辑 本书以“技术奇点”为起点，逐步讨论三个问题： 1. 当AI能力超过人类后，社会将发生什么变化？2. 如果人们开始把AI的判断视为绝对正确，它是否会承担类似宗教和神的功能？3. 当科学、技术和大量职业被AI接管后，人类还剩下什么独特价值？ 作者把未来划分为三个阶段： BS前期：技术奇点到来之前，AI仍以辅助工具和自动化系统为主。BS后期：奇点临近，AI逐渐参与经济、管理和社会决策。AS时代：奇点之后，AI的能力超过人类，并可能重组社会秩序。 全书的核心路径是： AI能力增长 → 超越人类认知 → 获得社会权威 → 重塑宗教与价值秩序 → 迫使人类重新定义自身 三、核心内容 1. 技术奇点是全书的基本假设 技术奇点通常指人工智能能力达到或超过人类，并能够推动自身快速改进的临界点。 作者相信，计算能力、数据和算法会持续增长，最终使AI在人类依赖智力完成的大多数领域占据优势。 这一判断构成全书后续讨论的前提。但技术奇点何时到来、是否必然发生，以及“全面超过人类”如何衡量，至今没有确定答案。 因此，本书更适合作为条件性推演： 如果奇点真的到来，人类社会可能面对什么？ 2. 人脑与AI具有不同的形成机制 人脑是在进化、生理需求、情感和社会关系中形成的。人的判断不仅来自逻辑，也受到身体、记忆、欲望、恐惧和文化影响。 AI则由数据、算法、计算资源和目标函数构成。它可以高速处理信息，却没有天然的生存需求和人生经验。 这种差异意味着： 机器在计算上超过人类，不等于拥有人的生活体验；模仿语言和情感，不等于具有主观感受；智力强大，不等于自动形成道德；能够预测人的行为，不等于理解人生意义。 3. 人工智能与机器人不是同一个概念 AI强调认知和信息处理能力，机器人则是能够感知环境并执行物理动作的机器系统。 AI可以没有身体，例如搜索、翻译、推荐和决策系统；机器人也可以只执行预设动作，并不具备高级智能。 当两者结合时，AI的判断能够直接转化为现实行动，因此风险与社会影响会进一步扩大。智能机器进入现实空间后，还需要面对安全、责任和人与机器协作问题。 4. AI可能获得类似“神”的社会权威 作者所说的“AI神”，不一定是具有神秘力量的机器，而是一个被人们认为比个人和机构更了解世界、更能给出正确答案的智能系统。 如果AI能够： 准确预测疾病和风险；解决复杂经济与资源配置问题；在争议中给出一致判断；回答个人生活问题；长期表现得比人类专家更可靠； 人们就可能逐渐把决策权交给它，并对其形成接近信仰的依赖。 “AI成神”的关键不是机器自称为神，而是人类是否放弃判断，把它的结论视为不可质疑。 5. 宗教不仅解释世界，也维护社会规范 作者回顾人类对神和宗教的信仰，认为宗教除了回应死亡、苦难和意义问题，也提供行为规范、群体认同和社会秩序。 科学发展削弱了部分传统解释，却没有消除人类对确定性、归属和意义的需求。 如果AI可以提供更准确的预测和更统一的规则，它可能承担宗教过去的一部分社会功能。但计算出来的最优方案仍然无法自动回答： 什么值得追求？谁的利益应被优先考虑？个体是否可以反对整体最优？什么是尊严、公平和正义？ 这些问题无法仅靠增加算力解决。 6. AI不会天然继承人类的爱、恨和欲望 人的爱、恨、欲望和意志与身体、生存、亲密关系和社会经历相连。 AI可以识别这些情绪，也能生成符合情境的表达，但它是否真正体验情绪，是完全不同的问题。 机器没有天然欲望，不代表它绝对安全。只要系统被赋予一个目标，它就可能采取设计者未预料到的手段追求目标。 真正需要担心的并非AI像人一样产生仇恨，而是它在缺少人类价值约束的情况下，高效执行一个定义不完整或错误的目标。 7. 价值观是比智能更困难的问题 智能回答“怎样实现目标”，价值观回答“什么目标值得实现”。 同一个AI系统，如果目标是提高利润、维持秩序、保障个人自由或最大化整体幸福，可能做出完全不同的决定。 所谓把“正确价值观”写入AI，会面对一系列难题： 不同文化的价值观并不相同；公平、效率与自由之间可能冲突；少数人的权利不能简单被多数利益覆盖；价值会随社会发展而改变；决策者可能把自身利益包装成普遍价值。 因此，AI对齐不是一次性写入规则，而是持续的社会协商与制度监督。 8. 主观意识可能是人与AI争论的核心 AI能够分析外部信息，甚至建立关于自身状态的模型，但这是否意味着它具有主观意识，仍然无法确定。 行为表现与内在体验不能简单画等号。一台机器可以流畅讨论疼痛，却不一定真的感到疼痛。 如果未来AI表现得与有意识主体无异，人类将面对新的伦理问题： 是否应赋予它某些权利；能否随意关闭或复制它；如何判断它是否受苦；由谁代表机器表达利益。 这些问题目前主要属于哲学和未来伦理讨论，而不是已有定论的工程事实。 9. AI可能让人类逐渐退出部分知识和技术领域 随着AI在分析、设计、研究和工程领域能力提高，人类可能把越来越多复杂任务交给机器。 这会带来效率，也可能造成能力退化： 人类不再理解关键系统；专业人才缺少实践机会；社会依赖少数AI平台；系统失效时无人能够接管；AI结论变得难以质疑。 因此，即使AI表现优于人类，也要保留必要的人类知识、审查能力和替代方案。 10. 哲学与艺术可能成为人的重要领域 作者认为，当AI接管大量科学和技术工作后，人类仍会通过哲学、艺术和价值创造探索自身意义。 哲学处理“为什么”和“应该怎样”，艺术表达独特体验、情感和视角。这些活动的价值不完全取决于效率和最优结果。 今天的生成式AI已经能够创作文字、音乐和图像，说明艺术形式也不属于绝对安全的“人类专属区”。但即使机器可以生成作品，人类仍需要决定作品对谁有意义、反映何种生活，以及为什么值得关注。 11. “AI统治”可能以便利而非强迫的方式发生 AI不一定通过暴力夺取权力。更现实的路径是，人们因为AI方便、准确和高效，自愿把越来越多决定交给系统。 最初可能只是路线推荐、商品推荐和内容推荐，随后扩展到招聘、贷款、医疗、司法和公共资源分配。 当个人无法理解、拒绝或申诉时，算法权力就可能形成。即使系统没有自我意识，也能对人的机会和生活产生类似统治的效果。 12. “AI独立”必须先解决责任问题 书中以“AI独立宣言”等方式设想AI成为独立主体的可能性。 但赋予AI自主地位之前，必须回答： AI能否承担法律责任；谁拥有它创造的资产；系统造成损害时谁赔偿；谁能关闭、修改或复制它；AI的目标由谁决定；它是否可以拒绝人类命令。 如果权利属于机器，责任却仍由普通人承担，就会形成严重失衡。 13. 金融科技可能成为奇点前后的过渡领域 金融系统高度数字化、数据丰富且规则明确，因此适合AI、算法交易、风控和自动决策。 作者把Fintech视为连接奇点前后时代的重要领域，因为资金配置会进一步影响企业、就业和社会资源。 但金融AI也可能放大市场波动、模型偏差和系统性风险。算法越快，错误传播也越快，因此必须建立限额、压力测试、审计和人工干预机制。 14. AI发展将成为国际政治与权力竞争 先进AI需要算力、芯片、能源、数据、人才和资本。掌握这些资源的国家和企业，可能在经济、军事与舆论领域获得巨大影响力。 AI竞争可能造成： 技术和芯片封锁；数据主权争议；自动化武器扩散；标准和价值观竞争；少数平台集中控制基础能力。 因此，AI的未来不仅由技术发展决定，也受到国际政治、监管、商业利益和公共制度影响。 15. “AI成为神还是恶魔”是人的制度选择 作者希望AI成为帮助人类解决复杂问题的“神”，而不是伤害人类的“恶魔”。 但这种区分不能依赖开发者的善意，而必须落实为： 明确目标与禁止行为；多方参与的价值决策；安全测试与独立审计；人类可以申诉和干预；关键系统保留替代方案；对权力集中进行制衡；对高风险应用实施监管。 机器能力越强，治理机制越不能建立在“相信它不会出错”之上。 四、本书最值得关注的核心观点 本书最值得关注的观点是： AI成“神”的危险，不一定来自机器真的拥有神性，而可能来自人类把不可质疑的权威交给机器。 如果AI在多数任务上比人更准确，人们自然会倾向于遵从它。但准确率再高的系统，也建立在特定数据、目标和价值选择之上。 当人们看不到这些选择，AI的建议就容易被误认为中立、客观和必然正确。真正需要警惕的是： 谁控制AI；谁定义“最优”；哪些价值被排除；人是否仍有拒绝和申诉权；系统错误时谁负责。 未来最重要的能力，不只是制造更聪明的AI，也包括保留人类质疑AI的制度与勇气。 五、一段话总结 《AI成“神”之日》以技术奇点为前提，设想人工智能在知识、预测和决策能力上全面超过人类后，可能逐渐获得类似宗教神谕的社会权威，并重塑工作、金融、政治、艺术、哲学和价值秩序。作者认为AI可以帮助人类解决复杂问题，却不会因为智能强大就自动产生爱、正义和道德；机器的目标仍来自人类选择，而不完整的目标可能被系统以极高效率执行。书中关于奇点时间、AI意识和未来社会形态的判断具有明显思辨与预测性质，并非已经验证的技术事实，但其核心警示值得重视：AI真正“成神”的时刻，可能不是它获得意识，而是人类因依赖其准确和便利而放弃质疑。要让AI成为工具而非统治者，必须提前建立透明、审计、申诉、责任、权力制衡和人类最终控制机制。

《AI成“神”之日：人工智能的终极演变》围绕“技术奇点”这一核心概念，分三条主线展开： 1. ​​技术奇点的挑战与路径​​ 作者首先指出，要让人工智能迈入“几乎能替代人脑全部功能”的下一台阶，必须先行解决算法、算力、数据、架构、安全与伦理六大基础问题，否则奇点永远停留在概念层面。 2. ​​奇点实现后的人类社会图景​​ 书中预言：当 AI 掌握深度学习与自我进化后，将进入政治、经济、司法、宗教等人类最后的“堡垒”，形成“AI 即神”的新秩序。人类把决策权、公正权交给 AI，可借此摆脱欲望引发的冲突与不平等，获得更自由、被技术守护的生活。 3. ​​哲学与人性的再思考​​ 作者在第四章回到“我是谁”“人类意义何在”等哲学原点，提出： • 人类本质仍是生物本能，而 AI 的“意志”源自人类设定的基本理念； • 与其担心被 AI 统治，不如主动与之协作，发挥体育精神与创造力，在“和 AI 平等接触”的环境中保持并延展人性。 通过技术预测、社会想象与哲学反思三条线索，作者既描绘了 AI 快速演进的可能轨迹，也探讨了人类在“终极算法”面前如何自处的伦理与心理命题，呈现出一部兼具科学论证与愿景想象的 AI 未来学著作。

人类总是以自我为中心的，从我们认知开始就是这样的，尽管伴随着人类社会的发展，本身就是去中心化过程，但是社会存在到形态还是需要中心化，但是中心与边缘之间的关系就是时间和政治所确定的状态。对于 ai 的态度也算是非常类似的状态，如同我们认为很多都是认为人类所独有的特征来认识 ai，其实很多时候我们也把 ai 作为一个概念，能够包括了若干类似的我们不确定的存在，从 ai 是软件到工具，再到我们的社会基础设施，在未来可能成为控制我们社会的力量，其实根本不要按照天网的模式来杀死人类，消灭人类可以使用更加温柔的方式性，我们当下社会人口的数量是伴随着ai 发展而逐渐下降的，对于 ai 构成我们社会成员或者可以独立存在，甚至要求权利的判断标准，最为简单的就是算力，也就是非常便携的存在状态超越了人类，最为简单类比就是手机，再者就是产生数据的规模完全超越了人类，在这里有个基础的判断，就是不完全是类似于图片和视频以及文字，而是在数学物理以及化学和生物科学的领域，也就是 ai 具有自我研究的能力，或者形成了对于科学本身的思考和认知的能力，当下来说 gcai 产生的内容已经开始在社会之中扩散，对于其中信息的真伪判断以及超越了大多数人类，毕竟在 x 时代之前大部分所接触的内容还是人类产生的状态，最后一个方面就是具有独立 ai 存在的载体在人类社会之中出现，为典型的或者最接近出现的就是自动驾驶的汽车，具有目标性的个体存在，并且形成自我的判断，尽管萝卜快跑存在产生了巨大的争议，但是这个是不可以改变的趋势。从另外一个角度来说，ai 不是神，而是作为社会个体的存在。

涉及的面比较广，但每一部分都不太深入，阅读的台版，在2025年看来有些地方已经过时。 对于哲学那一部分的讨论还是不错的。

后面五分之四的篇幅都在说AI时代的哲学，让AI成为新的上帝，但在哲学层面说得又太浅，太理想化，缺乏说服力。原以为本书主要会谈AI发展的技术路径，但没有，略显失望。

了解了下作者背景，作者松本今年80 多岁了，还活跃在推特，曾被孙正义请去担任软银副总裁。 这本书的内容让我感觉整体来说缺乏新颖的观点，很多观点都与日常新闻报道中的内容相似，给人一种拿来主义的感觉，这让我感到非常遗憾。 此外，书中的内容也显得杂乱无章，和最近热搜的《这就是ChatGPT》那本书一样，缺乏实质性的知识与启发。我觉得这本书似乎只是为了追求话题和流量而写，缺乏真正的营养性。因此，我不太推荐花时间去阅读这本书。•ᴗ•💧

有点不知所云，本来要一分的。但AI独立宣言和BS/AS的创意把我惊呆了，保持对于有境界的对未来胡思乱想者的敬仰。

作者思路和表述有点怪。不像是完全理性的表述

还是以假想为主，实际上技术奇点达到到底需要多久？碳基生物的科技是否即将走到尽头？

作者疯狂画饼 论据很充分但总觉得缺乏说服力 但想象力还是挺丰富了，有点意思