人工智能之不能

一觉醒来，AI 要变天了。赶紧找来这本书压压惊。当然，这本 2020 年出版的书可能会引起你对时效的疑虑，但是 DeepSeek 做笔记时是参考了最近的10个资源，分享如下，供书友参考。 马兆远《人工智能之不能》读书笔记 本书核心命题极为“叛逆”：作者作为量子物理学家，从数学与物理学底层论证“完美、通用的人工智能已被判死刑”。它不是技术手册，而是一场关于理性边界的思想实验。 🧠 一、核心论点：图灵机的天花板 当前所有人工智能都是图灵机的变种。1936年图灵论文的本质，是对哥德尔不完备定理的工程化诠释——他在发明计算机之前，先证明了“计算机做不了什么”。 “人识原理”：图灵机能处理一切可描述问题，但不能描述的问题，图灵机做不到，人类其实也不懂。从理性逻辑看，人没比AI强多少。唯一的例外是直觉——它无法被算法描述，却是人类突破逻辑闭环的唯一武器。 📐 二、思想基石：哥德尔的幽灵 第一不完备定理：任一包含算术的自洽形式系统，必存在无法被证明或证伪的命题。第二不完备定理：系统无法自证清白（自洽性不能在自身内证明）。 震撼之处：科学大厦建立在沙丘上。我们依赖的公理体系，本质是“无理由接受的前提”。希尔伯特形式化数学的雄心，被哥德尔一页论文终结。而图灵将这幽灵塞进了每一台计算机——任何人工智能系统都有内置的死结，永远有它算不出、证不了的真理。 🔬 三、直觉：人类最后的护城河 科学史是一部反直觉史：从地心说到标准米原器，理性一直在驱逐“主观”。但吊诡的是： 1. 所有复杂决策都依赖直觉——无人能搜集全部信息后再做决定 2. 直觉=默认知识：一米多长？需调用光速、秒的定义；秒又依赖太阳日…任何常识都建立在无数未言明的默认前提上 3. 乌鸦吃坚果：它通过极少尝试理解交通灯、斑马线、车流的因果链。深度学习需百万级样本，乌鸦一次就够 作者犀利指出：我们花12年义务教育把人类驯化成逻辑机，然后发明了比我们跑得更快的机器——可真正的优势是那部分无法被量化的“人味儿”。 ⚙️ 四、深度学习的“三宗罪” 1. 数据饥渴：人类从几个例子学概念，AI需百万级标注 2. 黑箱：调参上千万维，结果正确也无法解释 3. 迁移性差：识别新事物必须从头训练，没有“举一反三” 讽刺的是：AI研发成了最劳动密集型的工种——披着高科技外衣的经验试错。 🎓 五、建设性：教育往何处去 全书落脚点意外务实：既然机器替代理性重复劳动，教育必须从“训练逻辑机”转向“培养人”。 麻省理工学院新工程教育12种思维（节选）： · 学习如何学习：元认知能力 · 制造：发现并创造新事物 · 人际技能：沟通、倾听、领导 · 人本思维：理解人文、制度、艺术 作者预言：未来被淘汰的不是体力劳动者，而是坐办公室的流程执行者；车间里伴随动手思考的创造性技工，反而无法替代。 🌌 六、科学观升华 这不是一本反科学之书，而是祛魅之书： “科学不是静止的结论，是演进变化的；科学工作者不是秉持真理的圣徒，只是秉持好奇心的人类一分子。” 知其不能而能。承认不完备，正是人类区别于机器之处。胡适那句被用滥的话，放在这里反而恰切：怕什么真理无穷，进一寸有一寸的欢喜。

对于人工智能，如果回望历史，2024年可能十分重要，具有里程碑意义。 这一年，OpenAI公司的ChatGPT仅用了几个月的时间，就从模型发展到大范围应用。以摩尔定律的速度更新换代，迅速进入到人们的生活和工作，让人们猝不及防。 自动驾驶汽车加快了上路进程。武汉有萝卜快跑，济南有无人驾驶公交。2024年10月11日，特斯拉推出的自动驾驶汽车 Robotaxi，首次取消了方向盘，智能汽车显露代替油车的前景。 2024年的诺贝尔物理学奖，颁给了研究人工智能的科学家——约翰·霍普菲尔德和杰弗里·辛顿。2024年的诺贝尔化学奖，颁给了用人工智能设计和预测蛋白质结构的科学家——大卫·贝克、戴米斯·哈萨比斯和约翰·江珀。同一年的诺贝尔奖有两项和人工智能有关，表明了其在科学中的重要地位。 人工智能应用以井喷之势出现在用户端，各类软件开始内嵌人工智能分析、总结和预测功能。这一切都表明，人工智能正在快步走进人类世界。 人工智能的发展，对我们的生活、工作，甚至对我们的社会结构都将带来巨大改变。也让人们产生忧虑，甚至恐惧。很多人都在猜测，未来有哪些工作即将被替代，有哪些人即将失业。 还有许多科学家、企业家、政治家都提出人工智能发展过快，需要抑制。但人工智能带来的便利让人趋之若鹜，让这个行业的盈利潜力飞速爆炸，吸引了大量的资金、人才。历史的车轮已经发动，呈不可抵挡之势。未来已来。 在上世纪七八十年代，人工智能刚刚起步的时候，人们就对其感到忧虑。揣测它们会不会超出人类掌控，威胁人类生存。 还有人猜测，未来的人类将被机器替代，人类由孱弱的碳基生物转化为强悍的硅基生命。由人工智能接过人类文明的旗帜，代替人类，迈向太空。 更有甚者，提出人工智能在某个时间觉醒（零时刻）获得意识，摆脱人类约束，抛弃人类，甚至灭绝人类。那个时刻之后，人类为了生存，将不得不和人工智能展开大战。《终结者》、《黑客帝国》、《我，机器人》等电影都展示了这种可怕后果。 这一切真的可能吗？人工智能真的会产生意识，获得和人类一样，甚至超出人类的智能吗？ 要了解人工智能，首先要搞清楚，何为智能？ 1.何为智能？ 简单来说，智能就是个体和环境在互动过程中展现出来的能力。哈佛大学的霍华德·加德纳教授提出了多元智力理论，将人类只能分为八种类型： （1）语言。 （2）视觉。 （3）音乐。 （4）逻辑。 （5）运动能力。 （6）人际交往。 （7）自我认知。 （8）自然观察能力。 每一种只能类型都是各种简单能力的综合。为了便于分析，我们进一步简单化，将其分为 （1）感知能力。 （2）记忆力。 （3）分析能力。 （4）理解能力。 （5）语言能力。 （6）创造力。 （7）想象力。 由此，可以在这几个方面将人类和人工智能做个对比。 （1）感知能力。人类依靠眼耳鼻舌身五种感觉器官获取外界信息——色声香味触。这些信息，人工智能靠检测仪表也能做到，甚至比人类更敏锐，探测范围更大。这一点，人工智能可超越人类。 （2）记忆力。人工智能用硬盘存储的数据比人脑多出好几个数量级。这一点，人工智能秒杀人类。 （3）分析能力。人工智能基于算法，用处理器分析数据，其速度远高于人类。这一点，人类依然比不过人工智能。 （4）理解能力。在这里，人工智能和人类完全处于两个赛道。现在的人工智能是依靠算法和大量数据进行分类整理，做出分析和判断。它们并不真的理解接收的东西，只是用分析代替理解，其理解方向由人类编写的算法决定。而人类是真正的理解。这一点，人工智能无法和人类相比。 （5）语言能力。通过算法和相应的硬件，人工智能的听、说、读、写能力并不逊于人类。但是，这种能力对人工智能仅仅是信息的输入输出。对于人类来说，语言还能传达深刻的信息。有时候不需要说话，只用一个眼神就能表达复杂的的信息。这一点，人工智能远远做不到，甚至也理解不了。 （6）创造力。人工智能基于大量数据和算法可以大量产出文字、图像、视频、3D打印等各种产品。本质上说，这是对现有数据的组织和转化，并不生产新的内容。是一种伪创造力，似是而非。而人类可以从无到有，创造出从来没有的东西。 （7）想象力。机器人会做梦吗？《仿生人会梦见电子羊吗》、《机器管家》、《西部世界》、《失控玩家》等人工能否获得智能进行了想象。但是，这些仅仅是想象。在目前的计算机架构下，这是不可能的。想象力是人类区别于人工智能最显著的特征。 通常说的人工智能，指的是一组计算机，通过相应的硬件和软件，具备甚至超越人能智能。它的基本架构和计算机相同，即，控制器、运算器、存储器、输入设备、输出设备。在本质上属于图灵机。 输入设备实现感知能力，输出设备实现语言能力，存储器实现记忆力，运算器实现分析能力、理解能力，以及有可能存在的创造力和似乎不可能存在的想象力。控制器则总览全局，负责组织协调各个模块的有序运行。 通常所说的人工智能，指的就是运算器展现出的能力。 2.人工智能的工作方式 当前最主流的人工智能算法是人工神经网络，用计算机模仿人类神经元的工作方式，通过学习大量数据，使计算机能够认识真实世界中的东西，并做出符合人类要求的应对方式。 要实现人工智能，最重要的因素有三个：硬件、算法和大量数据。 然而，人工智能虽然是模仿人类大脑，人类大脑的运作方式并没有这么简单。 首先来看语言。人类的语言十分神奇，可以通过语法来理解字面意思，通过说话人的态度了解他们的内心所想。但是，人类语言并不是完整的工具。我们之所以能用语言交流，是因为互相之间具备了大量共同认知。如果没有共同认知，语言交流将十分困难。这就是为什么有些行业术语、江湖黑话只有内行能听懂，外行听来一头雾水。 我们之所以能够沟通，是因为建立的共识基础上的信任，人和人之间可以原谅彼此，甚至因为理解了沟通的缺陷而有了温情。 计算机不具备这种能力。如果离开人类，要计算机描述清楚一件事物，需要大量的前置信息。这种信息的数量可以无限向前追问，进而无限大。正因为如此，人工智能回避这个问题，通过模仿人类和大量数据库。不问原因，只要结果。 从这一点来看，人工智能理解不了它发出的信息。 3.逻辑系统 既然语言这么复杂，人工智能如何避免陷入无限共识的深渊呢？答案是，依靠逻辑。 图灵机正是人类制造的实现逻辑推演的工具，人工智能基于图灵机完成逻辑推演，就能避免语言陷阱。 同样，我们的科学思维也是基于逻辑推演。依靠逻辑，我们对自然界的观察才能产生有意义的衍生品——新的知识。 逻辑推演要符合以下四个基本原则： 同一律：一个事物就是它自己。 矛盾律：一个事物不能即是它自己又不是它自己。 排中律：一个事物要么存在，要么不存在。 充足理由律：任何事物的存在都有其理由。 同一律的作用在于保证思维的确定性；矛盾律的作用在于保证逻辑的自洽性；排中律避免了大而全的理论，理论必须有明确指向；充足理由律是前三条逻辑规律的必要补充，指出判断与判断之间的联系具有必然性。 可以简单理解为，前三条逻辑规律是前提，充足理由律是逻辑应用。亚瑟·叔本华将充足理由律总结为四种形式： 生成的充足理由律（因果律）。 认识的充足理由律（逻辑推论）。 存在的充足理由律（数学证明）。 行动的充足理由律（动机）。 一个完美的逻辑系统，至少是完备（完）的和自洽（美）的。 完备，知识系统中所有命题都可以被证明。完备要求理论有用，能够对体系内的有效命题进行判断。 自洽，理论体系的命题必须前后一致。自洽要求理论有效，不能自相矛盾。 我们现有的逻辑体系基于一些公设而建立。即，先不加证明的将某些命题作为前提，然后从这些前提导出系统中所有的其他命题作为定理。 这样的公设体系和推演规则总称为形式系统，它是构建一切已知科学知识体系的基础。 公设系统必须是完备的，能够对系统内的每个命题进行证实或证伪。人类一直希望通过逻辑工具建立完美的知识体系，在这个体系中，完全排除人类的主观影响。一旦有了这样的体系，并且这样的体系可以自动生成新的知识，包罗万象，形成所谓的人工智能。人类本身的作用就不大了。 这样的体系存在吗？ 4.哥德尔不完备定理 很遗憾，也很庆幸。就在科学家们如火如荼的建立这种体系的时候，一个捣蛋鬼出现了，他就是哥德尔。 哥德尔是爱因斯坦在普林斯顿大学的同事。在爱因斯坦去世前十几年，他们总是结伴而行，一起步行上班，一起步行下班。甚至可以认为，爱因斯坦晚年之所以坚持去大学继续工作，正是因为他喜欢和哥德尔聊天。两个伟大的头脑，不知碰撞出多少火花。 哥德尔从一个两千年前人们就知道的说谎者悖论出发，用理性工具本身证明了理性工具的不理性。 哥德尔的第一个不完备定理：在至少可以描述算术运算的自洽形式系统中，一定存在既不能被证实也不能被证伪的命题。比如说：“这句话是错的”。如果证实，则这句话应该是对的，和描述不符；如果证伪，则这句话是错的，和证明结果不符。 哥德尔第二个不完备定理表述为：这样一个形式系统无法证明系统本身是自洽的。 哥德尔不完备定理指出，若形式系统是自洽的，则此系统必定是不完备的。 哥德尔第二不完备定理则说，上述形式系统本身的自洽性在这个体系内部也是不可判定的。 哥德尔不完备定理可能导致我们不能够完全描述我们的共识。为了弥补一个概念的不足，我们不得不引入新的概念。很快又要去弥补这个新概念的不足，哥德尔第二不完备定理告诉我们，对概念的详尽解释是做不完的。 哥德尔的工作事实上挑战了，或者推翻了人类从亚里士多德开始追求的绝对理性。具有深刻的科学和哲学价值。 这说明，不确定性是人类认知的形式逻辑和理性思维本身固有的，即使我们可以通过发现新证据来弥补真理体系的不完备，但这些新证据一样会导致另外的不完备。 同时，哥德尔的不完备定理向我们证明了人类的思维具有一些无法被计算机模仿的特殊性质：我们人类明明可以看到有些陈述是真的，但机器却不能。这就决定了人工智能的局限性，它无法即完备又自洽，不能突破理论框架，也不能自主产生新的知识。 行文至此，答案显而易见：在图灵机的框架下，人工智能无法取代人类。 5.理性边界 哥德尔不完备定理限制了我们随心所欲的能力，这事实上也保护了人类自己。因为一旦有可以把我们“人”移除出去自动寻找真理的算法，那我们人类自己也就可以真的被移除出去了。 从本质上说，哥德尔所证明的是，无论任何语言，即使是数学语言，都不足以彻底、完全地表达日常的“真”的概念。能够用有限逻辑描述的知识体系本身是有缺陷的，是需要不断扩充的。而进行这种扩充的一个实际有效的做法，反而是我们谜一样的直觉，回归到对世界认知的常识。 如此一来，哥德尔不完备定理似乎给我们规定了理性的边界。正如海森堡不确定性原理，似乎给人类确定了认知的边界。 这就解释了为什么我们总需要感性部分的存在，总有些直觉的认知无法被理性取代。这些感性的认知成就了我们人之所以为人的重要性。 于是，问题回到了原点，要不我们存在一个一直在扩充的系统，每一个新的超级系统囊括并解释下一级系统。而在这个系统的顶端，存在着一个不自洽或不完备的公理系统。 哥德尔证明数学世界是取之不尽，用之不竭的，没有一套有限的公设和推理规则可以包含整个数学范畴。给定任何一组公设，我们可以找到有意义的数学问题，这些问题是公设和它们的合规推理都无法解决和判定的。我们希望物质世界中存在类似的情况，如果我们对未来的看法是正确的，那就意味着物理世界也是取之不尽用之不竭的。 哥德尔的理论最终会引发人们研究数学和物理世界的无法预料的本性和新热情。不完备定理应该成为我们寻求未知世界的新的自然法则：我们没有理由限制自己对自然基础的探索，可能也不能用任何方式说明我们找到了描述自然对称性的普遍工具。 承认知识的不确定性，会让我们自然想到，科学上的结论其实并不具有许多人所坚持的科学本质的意义，而只具有认识的意义。世界上虽没有那种不容置疑的绝对确定性知识，但知识也不是非要有这种不容置疑的绝对确定性。因为，尽管我们对任何事物的认识随时都会犯错误，但是我们对自然的认识毕竟在这样的悖论中真的前进了。 我们不能用我们手头已经掌握的定律来执行任何特定计算或构建算法来预测未来，因为我们甚至不知道未来会有哪些新的定律出现，不完备性困扰着哪怕非常简单的自然法则。 这些关于真理的发现能力的限制，对人类来说是个好消息，我们不用太担心机器会自动发现真理。 因为不完备的存在，逻辑机器和建筑在它之上的人工智能算法只会成为完善我们知识体系的工具，而不会带来超越我们所给出的有限假设所设定的新的认知。新的认知需要我们跟自然界接触，认识到现有知识体系的局限。

1.读完这本书印象最深的倒不是作者提到的大量的科学的史料与前沿知识，虽然这占了书大量篇幅也很有价值。我直观感受的主要是其他两点，一是有夹带私货的嫌疑。行文会有些啰嗦，感觉更像是作者自己梳理了一遍自己一直以来的感想和思考。从书本开始切入到最后的结论呈现跨度很大，涉及了很多数学，物理等的众多历史人物以及各方面的前沿知识。可以把它们看成是科普，一起跟随作者自己的思路一起往前，领略人类智慧的旅程。需要有点耐心看到最后。二是作者是比较有趣的。有比较大量的读书积累，能够引用各种经典，也时常有一些俏皮有趣的观点，这个是直到读到最后几章才感受到。最后几章开始逐步揭开本书的主旨，即从哥德尔不完备定理推导出的人工智能与人类的本质区别。最后的几章看完才把之前作者的大量铺垫能够串起来了。 2.人类认知和科学的三个阶段。第一阶段古典神秘主义，看到现象，有各种猜测，但无法去证实，留下各种神秘无法解释的言语。第二阶段是伽利略和牛顿代表的经典阶段。建立了知识体系和科学的方法，这个阶段构建的是确定的、机械的、静止的宇宙时空观。第三阶段是以量子理论和哥德尔不完备定理为代表的阶段。这个阶段开始让人们认识到不存在确定的绝对真理，科学也只是务实主义者的无限游戏。它是积极的有效的，永远处在不断接近真理但永远也无法到达真理的无限循环中。它让人们认识到理性的限制，人类知识体系的脆弱性。 3. 构建在经典的图灵机之上的人工智能就是基于一些前提假设和逻辑推理的系统。这个系统根据哥德尔不完备定理，它不可能突破自身，它只能被困在系统中发现这个系统中存在的知识，而不能像人类能够随意穿梭各种系统，打破固定的系统。 4.机器智能来自于算法，而算法来自于人类的描述，凡是可以描述的基本可以用经典的图灵机来实现。不过受限于计算，某些可以描述但是无法精确计算的NP问题也暂时无法解决。量子计算机有可能可以解决，但目前还没能看到实现的可能性。而且即使是量子计算也不是无限的，有可能有自身的NP问题。剩下的就是那些人类能直觉感知到的但无法描述的存在如意识、情感、思维以及智能。这些目前还无法被精确描述和定义，因此机器还无法实现这些无法被描述的存在。人类可以凭直觉感觉到他们的存在，机器还无法做到，这是机器与人的另一个本质的区别。 有点俏皮的一句话是既然凡是能描述出来的东西都能被实现，因此人工智能不能做什么，答案是不能说。 总体来说作者从哥德尔不完备定义的角度重新来理解人工智能是非常新颖的角度，触及到了本质，还是大开视野的。

这是我五一以后读得最认真的一本书，根本原因在于这本书解答了我之前对于那些擅长表达者通过引经据典，旁征博引古代圣贤，各路名家，当代权威的言论作为他们理性输出内容的背书，持怀疑态度的合理性。以及这本书也是2023年ChatGPT横空出世以来，关于人工智能Al会否即将进阶为AGl或者ASl的奇点时刻而最终取代人类的焦虑的比较系统和令我信服的解答。 重点是作者给我介绍了一位我的认知体系之前从未涉猎的与爱因斯坦忘年交的科学泰斗哥德尔。而哥德的尔不完备定理，是我个人目前为止认为是应对人工智能时代焦虑和量子物理学的一把钥匙。 由于这本书，对于作者马兆远老师也加深了印象，过程中才发现五一期间快速读完并且决定从头再认真读一遍的《世界的逻辑》也是他的作品。 接下来准备从《量子大唠嗑》开始系统阅读马老师的作品之前，我可能要先看一遍《1984》和《波西米亚狂想曲》。 一本好书的好，除了文字可以写下来的，更多的在那些只可意会不可言传的部分。关于这一点，从前我总是觉得才疏学浅很遗憾，没想到描述不了的直觉感受才是人类大脑接近于量子意识的厉害之处。直觉上我们总是喜欢我们既有的认知体系经常被这种反直觉的认知所巅覆。很欣慰，

在算法时代，重新理解人的边界 一、认知缺口：我们到底在怕什么？ 你有没有过这样的时刻——DeepSeek 写出了几乎完美的代码，MidJourney 画出了你想象不出的画面，GPT-4 在律师资格考试中击败了 90% 的人类。你心里有个声音在问：「我会不会被取代？」 这个恐惧是真实的。但它真的合理吗？ 马兆远（清华大学未来实验室首席研究员，17岁保送北大物理，25岁牛津博士）在《人工智能之不能》里，给了一个非常硬核的答案：不会。 他不是靠情怀说的，而是从数学和逻辑的本源证明的——哥德尔不完备定理（1931年）告诉我们：任何形式系统都存在不可判定的命题。AI 基于形式系统（语言 + 逻辑），因此 AI 也有其不可逾越的边界。 这不是技术问题，是数学问题。 二、信息密度：AI 的三大边界（认知模型） 马兆远从三个维度，拆解了 AI 的「不能」 边界 1：语言理解的边界 语言是可以理解的吗？语言是可靠的吗？ AI 能模仿语言，但 AI 无法真正「理解」语言背后的意图、情感、文化语境。有些真理我们能够认识到，但不能为算法所描述。 边界 2：逻辑的不完备性 哥德尔不完备定理证明了：任何足够强的形式系统，都存在既不能被证明也不能被证伪的命题。 AI 基于形式系统，因此 AI 的推理也有其边界。它无法处理那些「不可判定」的问题。 边界 3：量子力学的奇异性 量子世界的奇异性揭示了确定性的边界。AI 基于经典逻辑，无法完全捕捉量子世界的本质。 人类直觉（未经严格推理的洞察）往往能跨越这个边界——这是算法做不到的。 📌 认知模型：AI 边界认知框架 当你纠结「AI 能不能做 X」时，问自己三个问题： 1. X 是否涉及「语言理解 / 逻辑判断 / 量子不确定性」？ 2. 如是 → AI 有边界，无法完全替代人类 3. 如否 → AI 可能胜任，但需人类监督 三、模式观察：从「怕被取代」到「人机共生」 读完这本书，最大的改变不是「不怕了」，而是问题变了 以前问的是：「AI 会不会取代我？」 现在问的是：「AI 的边界在哪里，我的优势在哪里？」 马兆远在最后一章给出了路径：人机共生。 不是恐惧 AI 取代，而是认识其边界，聚焦人类认知优势（直觉 / 创造力 / 情感理解），探索人机协作的最优解。 📌 行动框架：人机共生三步骤 1. 画边界地图：列出你当前面对的问题/任务/领域，做三分类 • a) AI 能做得很好的（重复性、大规模数据处理、模式识别） • b) AI 可以做但需要人类监督的（医疗诊断辅助、法律文书初稿） • c) AI 原则上不能做的（需要直觉判断、伦理决策、创造性突破、情感连接） 2. 锁定人类优势区：聚焦「c 类任务清单」——直觉判断、创造性思维、伦理决策、情感理解、跨领域联想、面对不确定性的应变。这些是人类智能的核心堡垒。 3. 设计协作接口：对「b 类任务」，设计人机协作的标准操作流程（比如：AI 生成初稿 → 人类修改定稿；AI 提供数据分析 → 人类做战略决策）。 四、人文旅行关联：回到科学本源 这本书让我想到一个地方——英国牛津 · 克拉伦登实验室（Clarendon Laboratory） 这里是马兆远攻读博士学位的所在地，他师从「超冷原子理论之父」Keith Burnett 爵士，在这里完成了关于量子物理和超冷原子的博士研究。 三层关联理由： 1. 量子力学的理论和实验交汇点：克拉伦登实验室从事的激光冷却和玻色-爱因斯坦凝聚研究，正是书中论证「量子奇异性是 AI 边界之一」的物理基础。 2. 从牛津到天宫的科技传承：马兆远在牛津的研究不是书斋里的理论推演——他后来为中国空间站「天宫四号」设计了世界第一个空间冷原子实验平台。这种「从克拉伦登实验室到天宫四号」的跨越，本身就证明了基础物理学研究的实际价值。 3. 旅行本身就是一种朝圣：牛津是一个充满学术仪式感的城市——斑驳的石墙、古老的学院方庭、博德利图书馆的阅览室，到处都能让人感受到几个世纪以来人类知识的累积。对于读完了《人工智能之不能》的读者来说，到克拉伦登实验室门前站一站，会是一种特殊的体验。 如果你对 AI 边界这个问题感兴趣，不妨去牛津走走。不是去寻找答案，而是去感受科学本源的思考方式——有些问题，算法算不出来，但人可以。 金句摘抄： 1. 「有些真理我们能够认识到，但不能为算法所描述」 2. 「怕什么真理无穷，进一步有进一步的欢喜」（胡适，引用于书中） 3. 「知其不能而能」（书中结语） 4. 「哥德尔不完备定理是全书逻辑支柱：任何足够强大的形式系统都存在不可判定的命题」 读书疗愈·认知觉醒系列 用一本书，重新理解自己。

1.不要抱怨这本书枯燥，这本书努力避免使用这些不靠谱的论证方法，以免让本来就深邃的概念更加令人糊涂。忍忍就好，值得的。 2.这是哥德尔的第一个不完备定理：在至少可以描述算术运算的自洽形式系统中，一定存在既不能被证实也不能被证伪的命题。 同样，哥德尔第二个不完备定理表述为：这样一个形式系统无法证明系统本身是自洽的。 3.哥德尔不完备定理一举粉碎了数学家们这个长达两千多年的信念。它告诉我们，“真实”与“可证”是两个不同的概念。 4.爱因斯坦的相对论只表明传统感官意义上的时间不存在，而不是时间在任何意义上都不存在。 5.引力质量就是惯性质量，重力就是空间弯曲的效应。 6.如果状态A是一个允许的存在，状态B是一个允许的存在，那么一定有一个亦A亦B非A非B的状态，也可以是一个允许的存在。这就是有名的量子叠加原理，它是量子力学中“诡异”的根源。 7.多伊奇提出了量子图灵机的概念，成为所有今天所谈及的量子计算的原型。 8.图灵说明了借助于图灵机，所有可描述算法都可以由图灵机来完成，但所有不可描述的东西意味着我们也不懂。比如感情、联想、直觉，我们都不懂如何用算法来描述人类这些特别的技能。 9.涉及基于大量操作经验而形成的直觉，这是目前人工智能很难与人进行比照的方向。 10.社会需要的是具有创造力、充满好奇心并能自我引导的终身学习者，需要他们有能力提出新颖的想法并付诸实施。 11.如果说真理给我们描述了一个可能普适的样子，哥德尔不完备定理告诉我们真理的正确是有明确的前提的，把这些前提也当作正确的话，就需要更多的前提来说明这些前提在什么情况下是正确的。 12.可证的一定是真实的，但真实的不一定可证的。 13.主观的时间和客观的时间之间存在着具体的裂痕，“时间是什么”依然是最让人迷失但也最迷人的问题。 14.这个说法也适用于个体的人，事事讲究原则的人一定有无法讲原则之处。 15.用语言学的术语说，就是语法无论多么丰富都不能完全取代语义。 16.宗教的内容很多是错误的——但宗教本身没错。 17.哥德尔不完备定理揭示了真实和可证之间那条无法逾越的鸿沟。 18.哥德尔，以优美但并不简洁，但与他同层次的数学家相比已经足够简洁的方式证明了，这不可能。他实际上告诉了我们，不会有一个机器，基于我们所希望的理性，自己去完成对真理的探索。 19.旧的世界被颠覆，新的还没有建立起来，今天，我们所面对的是一个新大陆出现在地平线上。 20.当人们追求绝对真理的时候，实际上就已经偏离了追求真理的正确道路，其结果是，发现绝对真理这件事情本身就是悖论，因此我们退而求其次，只求方法的靠谱和在限定前提下得出相对可靠的结论，并随时准备推翻它。 21.语言教育保证未来人与人之间沟通能力的基础，而数学的教育则是人和人工智能之间沟通能力的保证。 22.人类永远有能力在看似困境中找到出路，这也正是人类智慧超越机器智慧的表现。 23.问题并不存在一定正确的这样或那样，而事实上哥德尔不完备定理说明，我们没法描述一定正确的真理本身，这样就需要我们界定讨论的前提条件，所有论述都只能在特定的前提下才有意义。 24.如果说真理给我们描述了一个可能普适的样子，哥德尔不完备定理告诉我们真理的正确是有明确的前提的，把这些前提也当作正确的话，就需要更多的前提来说明这些前提在什么情况下是正确的。 25.我们所惯有的科学教育让人太早丧失了对科学本身的兴趣，一旦不用把它当作升学的敲门砖，很多人就迫不及待地将它丢回给老师。 26.哲学最近一百年对科学最大的贡献是没有贡献，用一句话来概括，哲学家之于科学家，如同鸟类学家之于鸟类。 27.文字的行走和自然世界的规律是类似的，事物都在彼此中成就，没有永恒，只有生长。 我不知道我哪来的勇气读这本书，随便一个方向都能作为博士论文来完成，但我知道我赚大发了。虽然考不上中科院，但一样可以让中科院老师给我讲课。 本书的后半部比前半部精彩，前半部分比较难懂。但这并不意味着，前半部分不值得读，相反，没有前半部分后半部不会这么精彩。就像登山，风景用在山顶，可没有爬山的过程，让你直接空降到山顶，你又能体会到多少山顶的快乐？这一步一步攀登的过程本身也是风景的一部分，只有大汗淋漓登上山顶，眺目远望的那一刻你才能全然感受到山顶的畅意。会当临绝顶，一览众山小。这个小是你自己，而绝顶也是你自己。 现在的人工智能是基于目前的计算机和目前的算法，而目前的计算机是基于图灵机原理设计的。只要是可描述的，就可以被编译成算法，但哥德尔不完备定理告诉我们很多并且是大多数是我们不可描述，也确定为真，确实存在的，目前的算法，目前的图灵机对此无能为力。所以人工智能并不是万能的。人类自己对自己的一些想法，感受，创造力都不知道从何而来，它们不可描述，且称之为暗知识，就像宇宙中的暗物质一样，相对可描述的知识，这些才是海面下的冰川。而量子力学好像可以解决这个问题，只是实现它还有很多困难。 如果人是水，学校是管道，我们就被学校无形中要求呈圆筒状前行，最好能直接变成冰，管理人就太省事了，不怕你乱跑，惹麻烦。可世界花花绿绿，形形色色，方的方，圆的圆，什么样都有，问题也五花八门。还一直要求自己是圆筒状就太可笑了，但读书就是把自己从液体水变成气体水，我管你是方的圆的，曲里拐弯的，还是别的，我无孔不入，我无形不能，我自由自在。 需要丰富了，更多的事物可以描述了，但是我们的感知好像退化了，今天我们一样能看到唐朝人看到的众多奇异风景，但我们没有了那种感受，不是语言无法阐述，而是内心无法感受，音乐也是一样。我们没有了那种读书为了做官，而做官考试只是评价学习的一种方法，做了官也可，不做官也可，一杯酒就可以饮一世。我们没有了那种激情，没有了那种荡胸生曾云，决呲入归鸟。我们太追求有用了，“三十辐共一毂，当其无，有车用……姑有之以为利，无之以为用”我们困在有之，却没有发现太多无之，可世界大多是无之。 我们从非洲走出来，就一直像游牧民族一样迁移，从地理上的迁移，到身份的迁移，再到精神世界的迁移，只要定居下来，就会有人坐享红利，也总会探路者不断出发，寻找到新的栖息地改变人类的生活状态。人工智能不会让人类失业，不会让我们变得无用，它只会像历史上其他事物的出现一样，让我们从一个地方迁徙去另一个地方。

这本书值得一读再读。原因有二：一则，它的内容从理解上说确实有点深度，多看几遍才能明了。二则，它带来的观点是富有启发意义的，往往给人一种被“点醒”的感觉。 千万别被书名给骗了。这不是一本讨论人工智能的书。不是的。相反，它借助书名，给了读者一个暗示：人工智能，是相对于“人”而言——这就对了，这是一本讨论人类的理性、智慧、认知的书。人工智能是人类创造的，是人类理性、智慧和认知的产物。而面对这个广袤无垠的物理世界，人类的理性、智慧和认知还有很多未解之谜，或者说还有很多知其然但是不知其所以然、也无法证明其所以然的东西，这些东西，同样反映在人工智能迄今为止的“智能盲区”上，所以，人工智能怎么可能超越人类呢？ 这本书要看到末尾，才能突然明白作者的意图。虽然作者声明自己不全是在介绍哥德尔不完备定理，但其实全书就是以哥德尔不完备定理为主线，或者说，以哥德尔不完备定理为有力凭证，阐述了人类理性、智慧和认知的局限和新的发展的可能。人类已经意识到了这一点，也意识到了物理世界真实的面相大概率是与此同构的，而人类理性、智慧和认知的新的可能，恰恰在于意识到了这个局限之后，跨出去，迎接新的未知和未来。 这本书可以和《理性的边界》一起读来着。

#推荐阅读的书单# #好书推荐#  推荐人：陈章鱼 本周我们新上线了一本电子书，叫《人工智能之不能》。读完这本书我发现，别说是行走的 AI 了，就是真的 AI，也有各种解决不了的问题。 这本书特别精彩，他是用人工智能的逻辑，去证明人工智能的边界，当然，这个论证的过程比较复杂，我没法用三两分钟给你说清楚，可是结论是，不是所有的问题，都可以用计算来解决，所以人工智能有很多做不到的事情，大到证明哥德巴赫猜想、研究蝴蝶效应那个混沌理论，小到像我们每个人一样利用直觉做判断，这些都是AI做不到的，不是现在做不到，而是通过逻辑证明，始终做不到。 强烈推荐这本《人工智能之不能》。读完这本书，你会对人工智能、计算机还有数学都有新的看法，而且也能放心，就算在未来，人类也有无法替代的优势，我们的工作不会都被AI抢走。

作者把哥德尔 不完备定理视为一把衡量“理性极限”的尺子。当这把尺子放到物理学语境时，它立刻与“时间”这个不可逆参数相遇。 ​​1. 作为物理认知限制​​ • 现代物理——从经典力学到相对论——都依赖于时间方程来演化解析系统未来状态。但 不完备定理告诉我们，只要系统足够复杂（包含足够多的自由度或相互作用），就存在既为真却无法在体系内证明的命题。换言之，总有些初始条件或演化路径，使得“下一步会发生什么”在理论上不可判定，哪怕我们拥有完整的微分方程。作者将这一结论归入“理性的典范：算术”一节，用来说明 even 算术都无法做到自洽且完备，更遑论物理理论对时间的描述。 • 量子力学、虫洞、暗物质等前沿概念进一步模糊了“时间”作为全局参数的地位——在量子尺度甚至宇宙学尺度上，时间可能并不连续、可逆或普遍同步。这使得基于经典时间观的预测模型天然不完备，从而把“时间”直接暴露为认识世界的结构性缺口。 ​​2. 作为人类智慧的核心​​ • 认知科学与本书前文的讨论指出，人类优于图灵机之处，在于能够跳出有限公设、凭借直觉与经验为系统补充新假设。时间恰恰提供了这种“跳出”的契机——它把过去、现在与未知未来并置，让人类意识到“当前公设 + 当前数据”不足以穷尽真理，从而激发提出新公设、跨学科整合、经验验证的冲动。 • 换言之，若没有时间带来的“不确定性窗口”，人类就失去介入与创造的空间；正是时间-不可判定性与理论-不可判定性的叠合，让“下一步该怎么做”既无法自动计算，又必须由智慧来抉择。这种抉择不是逻辑推演的结果，而是人类创造力、价值判断与经验的综合。 ​​3. 合二为一的视角​​ 作者在第六章的延伸讨论中强调：“一个完美规划的社会或一个完美确定的物理理论都可能存在不自洽或不完备的问题”。时间就是那个让“完美规划”落空的因素；它把不完备显式地呈现在每一次演算与决策之中。对于物理学家，它限定了理论的预测范围；对于人类，则提供了改造理论、超越旧框架的舞台。因此，时间既是认知的边界，也是智慧生长的沃土。 ​​总结​​ 时间之所以“既是物理认知限制又是人类智慧的核心”，是因为它把哥德尔 不完备定理在物理层面具体化：在时间序列中，系统演化不可完全预言，从而暴露理论缺口；而人类正是凭借对这种缺口的敏感与不甘，发展出直觉、创造力与跨学科方法，不断扩展知识体系。时间让我们知道“有所不能”，也因此成为推动智慧前行的永恒动力。

我是理科生，但我感覺更喜歡文科（除了地理有點頭痛）。所以這本書中的许多論證都看不懂。好似座井观天 例如：哥德尔证明，一个被认为是真实的公设永远不会在其自身系统中得到证实或完善。在任何给定的系统中，至少有一个公设必须是假的或未经证实的。第二定理说，无论你的推理多么完美，你永远不能排除某个人在某个地方或者某个时间，可能会使用你的数学系统来证明“1=0”的可能性，理论自洽性不能在自身系统内被证明 再如：孪生子悖论。有孪生兄弟二人，哥哥坐飞船以0.8c的速度离开弟弟所在的地球，过了地球上的10年后回来。这时候哥哥在飞船上实际经历的时间是：6年，所以当两个人再见面的时候，去宇宙旅行过的哥哥会比弟弟年轻4岁。但如果我们稍加思考：运动是相对的，当宇宙飞船相对于地球以0.8c的速度运动，地球也是相对于飞船以0.8c的速度在运动。当兄弟俩再见面的时候，应该是弟弟比哥哥年轻4岁 到底谁年轻的呢？狭义相对论并不能回答这个问题。这就是著名的“孪生子悖论” 例子太多了，脑壳疼 再来复习一下热力学第二定律：麦克斯韦妖的悖论（热力学几个基本的公设：1.热力学第一公设：能量守恒；2.热力学第二公设：封闭系统熵增加；3.热力学第三公设：绝对零度达不到；4.热力学第零公设：温度相等的物体热平衡 麦克斯韦（James Maxwell）对热力学第二公设提出了一个悖论。假设我们有一个装着不同分子的小盒子，盒子中间有一个隔板，隔板上面有一个小洞，小洞上装一个开关都不消耗能量无摩擦的门。一开始的时候两种不同的分子充分混合，系统的熵达到最大。这时候有一个小妖来控制这个门，当它看到一种分子从盒子的一端飞过来，就开门让它飞到另外一端，另外一种分子飞过来就关上门把它挡回去。这样只要持续得够久，不需要任何能量，小妖是可以把两种不同的分子分离到箱子的两边。由此，不需要任何能量系统的熵就减少了，而这违背了热力学的第二公设。这个小妖就被后人命名为麦克斯韦妖（Maxwell’s demon），它困扰了物理学家很久。因为宇宙是个封闭系统，如果一个封闭系统的熵只能朝着增加的方向走，总有一天宇宙的熵也会走到最大，那时候所有可能的反应都发生过了，宇宙成为一团没有任何反应发生的物质，一片寂静。这曾经是人们以为的宇宙的终点，被称作热寂。那么，本来说好的热寂，难道就因为这个虚构的小妖解决了吗？ 很多年后，香农解决了这个问题。他说，小妖看到哪一种分子飞过来而决定开不开门这个过程并不是没有代价的，它要消耗能量。得出是哪种分子的结论这需要有能量来支持观测和计算。任何信息处理都是需要能量的，这个能量的最小值，香农定义为：W > -KBTΔS其中，KB是玻尔兹曼常数，T是温度，ΔS是信息有序性的变化。信息处理是个物理过程，需要消耗能量。从这个公设出发，香农建立了现代信息论——计算机和信息处理理论的另一块基石 呼应一下本书的名字《人工智能之不能》：机器是被限制在一个它们无法逃脱的形式系统中运作的，人工智能并没有超越这一点。因此，正是这种能力使人类思想本身与机器不同。因为不完备的存在，逻辑机器和建筑在它之上的人工智能算法只会成为完善我们知识体系的工具，而不会带来超越我们所给出的有限假设所设定的新的认知 数学与哲学不可分割。這本書從各種角度告訴人們，包括數學在內的领域，人類的認知都有局限性，結論存在悖论，理論存在不完備性，即使在算术中，我们也必须永远保持无知 開始以為這本書講數學與哲學，后來發現實際落腳點在物理上。本來生活最終都歸于物理方面的知識 文末指出了未来人才的培养方向：在制造业中，高级技术工人在工作过程中，所具有的结合数字化和制造业流程本身特点的技能，在人工智能时代会显得尤为重要。这就需要制造型人才不仅要懂得人工智能的计算机技术，也要懂得工业生产流程中的具体情况 新型教育模式必须开启：不仅重视知识的获取，而且重视应用知识的能力。学习制造、发现、系统和创造力，有助于促进学生从团队技能到人际关系技能再到领导能力的提升 最后看看麻省理工学院提出的新工程人才应具备12种思维和能力： 1.学习如何学习（Learning how to learn）：学生利用一定的认知方法主动思考和学习。 2.制造（Making）：新工程人才发现和创造出新事物的能力。 3.发现（Discovering）：一种通过采取探究、验证等方式促进社会及世界知识更新，并能产生新的根本性的发现和技术的能力。 4. 人际交往技能（Interpersonal skills）：一种能够与他人合作并理解他人的能力，包含沟通、倾听、对话、参与和领导团队的工作等。 5. 个人技能与态度（Personal skills and attitudes）：包含主动、有判断力、有决策力、有责任感、有行动力以及灵活、自信、遵守道德、保持正直、能终身学习等品质。 6. 创造性思维（Creative thinking）：一种通过深入思考，能够提出和形成新的、有价值主张的思维。 7. 系统性思维（Systems thinking）：在面对复杂的、混沌的、同质的、异质的系统时，学生能够进行综合性、全局性的思考。 8. 批判与元认知思维（Critical and metacognitive thinking）：一种能够对经由观察、体验、交流等方式所收集到的信息进行分析与判断，以评估其价值及正确度的思维。 9. 分析性思维（Analytical thinking）：一种能够对事实、问题进行分解，运用理论、模型、数理分析，明确因果关系并预测结果的思维。 10. 计算性思维（Computational thinking）：一种能够把基础性的计算程序（例如抽象、建模等）以及数据结构、运算法则等用于对物理、生物及社会系统的理解的思维。 11.实验性思维（Experime ntal thinking）：一种能够开展实验获取数据的思维，包含选择测评方法、程序、建模及验证假设等内容。 12.人本主义思维（Humanistic thinking）：学生能够形成并运用对人类社会及其传统、制度和艺术表达方式的理解，掌握人类文化、人文思想和社会政治经济制度的知识。