人人都应该知道的人工智能

在看完《生命3.0》后再来看此书，犹如吃了一道满汉全席后再来些冷盘的意味，全书提供了人工智能常见问题的浅尝则止的参考，很多时候读来都有种戛然而止的感觉，开始章节在解释常见专业术语的文字描述上或有可圈可点之处，后述章节部分则略显沉闷乏味，作为完全不知人工智能为何物的读者可以大略读读。

《人人都应该知道的人工智能》核心拆解 作者：杰瑞·卡普兰 一句话概括 人工智能真正重要的地方，不在于机器是否像人一样思考，而在于它能否从有限数据中概括规律、完成有价值的任务，以及这种能力将如何重新分配职业、财富、权利和责任。 核心逻辑 全书采用了一条非常适合非技术读者的路线： 人工智能是什么 → 它是怎样发展起来的 → 目前擅长什么 → 是否拥有心灵 → 如何承担法律责任 → 会取代哪些工作 → 技术收益归谁 → 怎样控制风险 作者的基本立场是： 不要用“是否像人”作为判断机器智能的唯一标准；不要把当前机器学习的成功直接外推为通用智能必然到来；人工智能近期最重要的影响不是机器觉醒，而是职业结构和财富分配发生变化；真正值得防范的不是机器突然产生邪恶意识，而是人设计了目标错误、权限过大、责任不清又无法停止的自动化系统。 因此，本书表面上是在介绍人工智能，实际上讨论的是人类社会如何接纳一种新的决策和生产能力。 核心内容 1. 人工智能不等于模仿人类 传统定义常把人工智能描述为：让计算机完成那些如果由人完成，就会被视为需要智能的行为。 但作者认为，这个定义存在根本问题。机器和人实现目标的方式可能完全不同： 飞机不需要像鸟一样扇动翅膀；计算器不需要理解数学，也能在计算上超过所有人；网络安全系统能在海量数据中发现人类无法察觉的攻击模式；药物研发系统可以找到研究人员从未注意过的分子组合。 所以，机器没有必要复制人的生理结构和思维过程，才能表现出智能。 判断一个系统是否智能，更重要的问题是：它能否从有限数据中找到规律、能否把经验推广到新情境、能否理解自己的能力边界、能否在信息不完整时做出合理判断，以及犯错时是否属于可以理解的“合理错误”。 作者把智能的本质概括为：基于有限数据，及时做出适当概括的能力。 2. 人工智能不是一个理论统一的学科 1956年的达特茅斯会议为“人工智能”命名，希望把计算机从数字处理扩展到符号处理、语言、学习和问题求解。 但“人工智能”这个名字也给公众造成了一种错觉：研究者正在制造一个人工版本的人类心智。 实际上，人工智能先后出现了符号逻辑、搜索和规划、专家系统、人工神经网络、统计机器学习、遗传算法和其他优化方法等多种路线。 这些路线解决不同类型的问题，没有一种方法能够包办全部智能任务。 人工智能的多次高潮与寒冬，往往来自同一个循环： 局部成果 → 公众产生宏大想象 → 资本和政府加大投入 → 实际能力无法兑现承诺 → 资金与关注退潮 理解人工智能，需要把学术能力、产品能力和公众想象区分开来。 3. 符号推理与机器学习各有所长 早期符号人工智能认为，智能可以通过事实、概念、关系和规则进行表示，再由推理程序操作这些符号。 逻辑理论机、规划系统和专家系统都属于这一路线。专家系统通常由两部分组成：知识库存放事实、规则及领域关系；推理引擎根据规则组合知识、产生判断。 它们适合规则明确、知识可以形式化、需要抽象推理的任务，但知识获取和维护成本非常高，也难以应对现实世界的数据规模与变化。 机器学习则不要求程序员提前写出全部规则，而是让系统从数据中提取模式。它尤其适合视觉和语音等感知问题、数据量大但规则难以明确表达的问题，以及环境中存在噪声和不确定性的任务。 然而，机器学习也有明显边界。当数据不足、机会只有一次、需要严格逻辑证明或必须满足明确约束时，符号方法可能更加可靠。 因此，符号推理和机器学习不是简单的新旧替代关系。真正复杂的系统往往需要把学习、规则、知识和约束结合起来。 4. 数据、算力和传感器共同引发了机器学习繁荣 神经网络的基本思想很早就已出现。麦卡洛克和皮茨用逻辑模型描述神经元，罗森布拉特提出感知机。 但早期神经网络受到算力、数据和训练方法的限制，长期没有成为主流。 机器学习后来快速发展的条件包括：计算机处理速度和内存提升、大量信息从纸面转变为电子数据、互联网降低数据获取成本、摄像头和麦克风等数字传感器普及，以及并行计算和更大规模模型成为可能。 这说明，人工智能突破通常不是某一个公式突然解决了全部问题，而是算法、数据、硬件和应用需求共同成熟的结果。 5. 四个前沿领域代表了人工智能的现实能力 机器人学让机器进入物理世界，完成移动、抓取、运输、手术、照护和太空探索等任务。现实环境比数字环境复杂得多，机器人不仅要识别物体，还要处理摩擦、碰撞、平衡、传感器误差和无法预见的变化。 计算机视觉让系统识别和定位图像中的对象，并管理海量图片与视频。ImageNet等大规模数据集和竞赛推动了视觉识别快速进步，但系统对场景变化、对抗性输入和因果关系的理解仍有限。 语音识别需要处理噪声、口音、连续发音、语气、同音词和上下文。统计模型、隐马尔可夫模型以及机器学习使其逐步进入商业应用，成为Siri等智能助手的基础。 自然语言不是固定规则的简单集合。机器学习通过大量语料学习词语和句子之间的统计关系，使翻译和问答取得进展。但语言流畅不等于真正理解，系统可能生成合理表达，却仍不清楚词语在现实世界中的指称和后果。 6. 机器智能、意识和感觉是不同问题 本书把常被混在一起的几个问题分开：机器能否完成智能任务、是否真正思考、是否拥有自由意志、是否具有意识，以及是否能够感受快乐和痛苦。 弱人工智能认为，机器可以模拟智能行为，但不一定拥有心灵；强人工智能则认为，机器最终可能形成真正的心智。 作者的态度较为谨慎：我们可以通过行为评价机器能力，却没有公认方法判断它是否拥有主观体验。 即使一个系统能通过测试、表达情绪或声称自己有意识，也不能仅凭这些表现证明它真的在感受什么。 所以，任务能力的提高不能自动解决意识问题；反过来，也不必等机器拥有意识之后，人工智能才会产生巨大社会影响。 7. 人工智能将迫使法律重新定义“行为主体” 当人工智能可以签订协议、控制财产、进行交易和自主决策时，传统责任框架会遇到困难： 开发者是否要为机器的每一个行为负责；使用者是否知道并同意系统采取的行动；企业是否应该承担全部责任；系统能否拥有资产，用来赔偿造成的损失；出现事故时，应该惩罚谁、撤销谁的运行资格。 作者提出，可以参考公司法的思路。公司不是自然人，却可以拥有财产、签订合同、承担有限责任、被起诉和处罚，也可以被撤销经营资格。 类似地，某些高自主性人工智能可以被放入一个拥有资产、保险和责任边界的法律实体中。这样不是承认机器“具有人权”，而是为其行为建立可追责、可赔偿的制度载体。 8. 白领工作可能比部分蓝领工作更容易自动化 人们常以为，人工智能会先替代体力劳动，知识工作者相对安全。 但许多蓝领工作需要机器在复杂物理环境中完成感知、移动和精细操作，技术难度很高。相反，大量白领工作本质上是在数字系统中处理结构化信息，因此更容易被软件自动化。 自动化风险较高的任务通常具有这些特点：流程程式化、目标容易测量、数据已经电子化、需要长时间集中注意力、判断主要依赖已有案例、输出可以快速验证。 较难自动化的任务通常依赖复杂的感知与操作、创造性智能、社交互动、情境判断，以及信任和责任关系。 因此，职业的社会地位、学历和收入，并不能直接决定它是否安全。 9. 人工智能通常先替代任务，再重组职业 “某个职业会不会消失”并不是最准确的问题。一个职业往往包含多种任务，其中一部分可以自动化，另一部分仍需要人完成。 人工智能的影响通常表现为： 任务自动化 → 工作流程重新设计 → 人员数量和技能要求改变 → 新职业与新组织出现 例如，机器可以完成资料检索、合同筛选、影像识别和标准化报告，但人仍要负责与客户或患者沟通、解释结果、处理特殊情况、权衡价值冲突并承担最终责任。 所以未来最有价值的能力未必只是“会使用某个AI工具”，而是能够把机器输出放入现实情境中验证、解释和决策。 10. 生产力提高不会自动带来普遍富裕 人工智能可以提高社会生产力，但机器和软件属于资产。生产力增长带来的收益，首先会流向拥有这些资产的人，而不是自动转化为劳动者工资。 当经济从劳动密集转向资本和智能系统密集时，可能出现产品和服务更丰富、总体财富增长、一部分商品价格下降，同时劳动收入占比减少、财富进一步向资产所有者集中。 因此，核心问题不是社会能否生产足够的东西，而是谁拥有创造财富的机器、模型、数据和平台。 如果财富所有权不发生变化，更高生产力完全可能与更高失业率、更严重不平等同时出现。 11. 解决分配问题不能只依赖事后救济 作者认为，面对人工智能带来的财富集中，只讨论税收和救济并不充分。更根本的问题是如何让更多人拥有未来增长所依赖的资产。 可以探索的方向包括：让公众分享新资源的所有权；通过公共基金持有部分未来资产；为失业和转型者提供资本，而不只是短期补贴；让劳动者参与自动化产生的长期收益；利用政府创造或管理的新型权利促进社会目标。 作者强调，这并不只是“劫富济贫”，而是调整未来新增财富的初始分配方式。 当劳动不再是大多数人获得收入的唯一渠道时，工作也将从生存手段逐渐转向身份、意义、社交和成就来源。 12. 通用人工智能和奇点不应被当作确定事件 库兹韦尔等人依据算力和技术增长曲线预测奇点，但作者对此持怀疑态度。 原因包括：“智能”无法被压缩成单一线性指标；硬件指数增长不代表软件能力同比增长；不同能力之间不能自动迁移；技术进步可能出现收益递减；专家对人工智能时间线的预测历史上很不可靠；当前机器学习没有明确机制会让系统突然产生自我意识和独立欲望。 一台被设计来叠衣服的机器，不会因为叠得越来越好就突然想去挤牛奶。 如果通用人工智能或奇点真的接近，也应该先出现大量可以观察的中间迹象，而不会毫无预兆地一夜降临。 13. 真正的风险是目标、能力和边界不匹配 作者不认为机器会因为越来越聪明而自然产生征服人类的欲望，但这不代表人工智能没有失控风险。 危险更可能来自：人给系统设置了错误目标；系统拥有过大的自主权；系统为了实现目标采取设计者未预见的策略；系统可以获得资金、能源、网络和复制能力；没有明确的停止、降级和赔偿机制；人故意利用自动化系统逃避法律责任。 人工智能不需要拥有意识，也能造成严重损害。计算机病毒、自动交易系统和自主武器已经证明，自动化行为可以超出设计者控制。 14. 人工智能治理应该像管理职业与工程系统 作者提出了几种务实的治理思路： 明确系统被允许运行的环境和任务范围；系统超出边界时自动进入安全模式；为高风险人工智能制定工程与职业标准；让无人驾驶汽车、机器人医生等通过能力测试；通过许可证授予和撤销运行资格；要求系统拥有保险或赔偿资产；为异常情况设置基本伦理约束；让机器人遵守现实社会的习俗和行为规范。 这些方法的重点不是让机器成为道德哲学家，而是让系统能够以社会可以接受、可以问责的方式行动。 15. 情感计算既能改善交互，也能操纵人 情感计算让系统识别人的情绪，并用同情、困惑、关心等方式回应。 它可以用于心理辅导、教育、照护和更自然的人机交互，但也存在明显风险：人会对机器产生真实依恋；系统可以利用人的信任和利他本能；企业可能通过拟人化界面操纵购买和选择；用户可能把模拟关怀误认为真正关怀。 当机器足够擅长表达情感时，重要的问题不再是“它是否真的爱你”，而是“谁设计了它的表达，以及这种表达试图让你做什么”。 反对的观念 1. 反对“只有像人才算智能” 机器可以用完全不同于人的方式实现智能功能。评价标准应是能力、适用范围和可靠性，而不是外形或思维过程是否像人。 2. 反对“人工智能是一种统一技术” 符号推理、专家系统、机器学习、神经网络和规划各有适用范围。人工智能不是一个万能算法。 3. 反对“机器学习将彻底取代规则和知识” 机器学习擅长从数据中找模式，但在数据不足、要求严格证明或必须遵守明确约束时，符号和规则仍然重要。 4. 反对“高学历白领天然不会被自动化” 如果工作主要是在计算机中处理结构化信息，它可能比需要复杂物理操作和人际互动的工作更容易被自动化。 5. 反对“生产力提高会让所有人自然受益” 如果智能系统的所有权高度集中，生产力增长可能扩大财富差距，而不是提高大多数人的收入。 6. 反对“算力指数增长等于智能必然指数增长” 硬件、软件、数据、认知结构和社会应用不是同一个变量，不能用一条简单曲线预测奇点。 7. 反对“只有产生意识的机器才危险” 没有意识的自动系统同样可以因为错误目标、权限过大或缺少约束造成严重损害。 8. 反对“等人工智能成熟后再制定规则” 法律责任、运行边界、赔偿机制和停止权限应该在系统大规模部署前建立。 本书最值得关注的核心观点 1. 智能的核心是从有限信息中进行有效概括 记住大量数据不是智能。真正重要的是系统能否把已有经验迁移到没有见过的新情境中。 2. 人工智能的近期影响主要是经济和制度问题 相比遥远的机器觉醒，就业重组、收入分化、法律责任和算法权力已经是现实问题。 3. 自动化改变的不只是岗位数量，更是财富来源 当机器和模型成为主要生产资产时，谁拥有它们，比谁仍有一份工作更能决定未来的财富分配。 4. 符号推理和机器学习是互补关系 学习负责从数据中发现模式，符号与规则负责表达知识、约束和可验证推理。复杂系统需要两者结合。 5. 超级智能不是唯一值得担忧的失控形式 目标设置错误、系统越界运行、责任主体消失和补救机制缺失，远比机器突然获得自我意识更现实。 6. 人工智能治理要落实到可执行机制 许可证、能力测试、安全模式、保险、资产担保和责任实体，比抽象呼吁“AI向善”更有效。 个人启示 1. 评价AI时，先看迁移能力而不是演示效果 一个系统在训练环境中表现惊艳，不代表它能理解新情境。应重点检查场景变化后的稳定性和错误方式。 2. 把职业拆成任务组合 面对自动化，不要只问职业是否消失，而要分析哪些任务可自动化、哪些任务会升值，以及自己应该向哪些判断、沟通和责任能力迁移。 3. AI项目上线前必须明确责任链 应提前确定谁负责监控、谁能停止系统、谁解释结果、谁承担损失，以及受影响者如何申诉。 4. 不要只关注模型能力，还要关注资产所有权 人工智能创造的收益是否被广泛分享，取决于数据、模型、平台和资本的所有权结构。 5. 对拟人化AI保持“情感上的防火墙” 可以享受机器带来的陪伴和便利，但要记住系统的表达由商业目标、训练数据和产品设计塑造。 6. 把边界检测和安全降级作为核心功能 优秀的系统不仅要知道如何完成任务，还应知道自己什么时候不再适合继续工作，并能够主动求助或停止。 观点评价 本书最大的优点，是用较短篇幅把技术、哲学、法律、就业、财富分配和风险治理连接起来。它没有把人工智能介绍停留在算法名词层面，而是追问智能系统进入社会后，谁负责、谁获益、谁受损。 作者关于法律人格、资产担保、许可证、安全模式和未来资产分配的讨论具有原创性。尤其是把人工智能风险从“机器产生邪恶意识”转向“人设计了权限过大、责任不清的系统”，比许多奇点叙事更贴近现实。 它的局限在于，本书出版于2018年，没有覆盖Transformer、大语言模型、生成式AI、多模态模型和当代基础模型生态。部分技术介绍已经过时；关于职业自动化比例和奇点时间线的数据更适合作为当时的情境判断，而不是今天的精确预测。 此外，书中对未来资产分配、机器法律人格和电子永生的讨论具有较强推演性质，提出的问题比给出的政策方案更成熟。 总体而言，这是一本面向普通读者的人工智能社会影响导论。它最有价值的不是告诉读者某种模型如何计算，而是提供一套判断框架：区分能力与意识、任务与职业、生产力与分配、智能与责任，以及科幻风险与现实工程风险。 一段话总结 《人人都应该知道的人工智能》从人工智能的定义、符号推理、专家系统和机器学习讲起，进一步讨论机器人、视觉、语音、语言、意识、法律责任、职业自动化、财富分配和失控风险。全书最重要的观点是，机器不必像人一样思考也能表现出智能，智能的核心在于从有限信息中概括规律并迁移到新情境；人工智能近期最深刻的影响，不是机器突然觉醒，而是它将重组工作任务，使财富从劳动进一步转向模型、数据和自动化资产，并迫使法律重新确定责任主体。真正需要治理的风险，也不是抽象的“超级智能邪恶”，而是目标错误、权限过大、运行越界、责任不清和缺少停止机制的现实系统。因此，社会既要通过职业标准、许可证、能力测试、安全模式、保险和责任实体约束人工智能，也要重新思考技术收益的所有权和分配方式，让生产力增长真正转化为更广泛的社会福祉。

从书名就可以推测，它是一本AI扫盲书。第三本介绍AI书。它系统从技术层面介绍AI有关理论，技术，计算方法，及有关新概念的历史故事。通俗易懂，属于启蒙通俗读物。人工智能正在席卷人类社会，所以不能够不了解。其中比较重要的有机器人学、计算机视觉、语音识别和自然语言处理。 其中“人工智能哲学追问的问题是：计算机，或一般意义上的机器，或者再扩展一些，所有非自然起源的物体是否拥有心灵，或者是否可以思考？简单地说，答案取决于你认为“心灵”和“思考”是什么意思。这个争论已经以各种形式绵延了几十年，丝毫没有减弱和解决的意思，更别提解决了”。有意思的是作者认为：“人和机器要么都拥有自由意志，要么都没有”。 因为“如果我们不能找到一个客观的方法来定义并测试人类意识而不只是简单地观察被试，那么，“人类有意识，而机器不能有”这一论断就缺乏理性基础。但是，我们同样没有理由断言机器就一定会拥有意识”。 为什么关注它？因为“是一个严肃的问题。大多数人都同意，从道德上说，在违背其意愿的情况下伤害或杀死一个有意识的存在是错误的……”。 本书最大收获就是知道未来那些职业工作不容易被AI代替。未来是是公平，而不是劫富济贫。一个“后生物的生命新纪元”这一章对于AI 未来，有非常值得参考见解。

研究、使用，控制或者被控制，这或许是人工智能绕不开的未来，谁知道呢？！

这个叫杰瑞.卡普兰的机器人疯了，他拿着刀对行人乱砍。街上一片哀嚎，有的人用手捂住脸，有的人躲在车后，有的人急忙跑进屋子堵住门爬在窗上向外张外。 远处的警车来得不算太晚。警车给窗上的人带来了希望，当他看到警车身影的那一刹那，憋在胸中的那口气终于吐了出来。 警察以最快的速度将机器人制服，他被带去了警局。现在他必须将他所知道的全部交待出来。就在一个小时前，麦卡锡叫他出来买一打啤酒，用来招待十多年未见的老同学。 麦卡锡坐在沙发上和他的同学聊到了杰端.卡普兰机器人，刚聊到他是麦卡锡去年在达特茅斯会议上购买的来生活保姆。 没想到还没到一年，开发这个机器人的公司受到金融危机的影响就已经关门大吉，不过公司还算有点良心没有半闭机器人服务器。现在他正在和公司打官司索要赔偿，最好能退回一半的钱，这样他就能拿这笔钱去还即将到期的欠款。 突然而来的手机铃声打断了他们，警察将所有的事都告诉了麦卡锡，并通知他想想怎么承担责任。对刚刚发生的事情他感到非常难过，但是他不准备对发生的事情承担责任。他觉得自己不仅倒霉还很无辜。 故事到此结束，可问题紧随而至。请问，你觉得谁应该对这起事故负责？是机器人自身？还是麦卡锡？还是开发公司？或者没有人负责，只能怪那些受伤的路人倒霉。 如果你对这些问题感兴趣，那么我建议你应该看看这本书，不过这只是书本的一部分。 全书共有八章，从什么叫人工智能到人工智能的发展，一直讲到人工智能真的能替代人类的工作吗？如果我们被代替了，这个社会是会变得更好还是更糟?

人工智能已近慢慢渗透到我们的生活中来，对于老一辈来说，就像在我们脑海里出现过无数次没有见过的超级智能机器人，有期待，也后怕。本书的人工智能，是一种人性的释读，是不可预见的种种可能出现的存在，是AI的诠释和体验。如果仅仅是为了生活的便利和提供需求，人工智能或许能提供高效而保障的服务。但不得不提醒我们的是，随着人类的发现，人们的惰性和人性的恶是否会利用人工智能达到人类无法预期的至善至美。      值得我们反思和警醒的是，我们在肆虐的挖空心思的开发和研究人工智能给人类带来的超级的同时，对于研究人员，更应该深刻和深入的研究人工智能会被人类一些高智商低素质的人利用，成为破坏和打击人类的工具。

在这个人工智能大行其道和无孔不入的人工智能时代，介绍人工智能的书也非常多，这本书主要定位于关于人工智能大众化的科普读物，介绍了与人工智能有关的一些常见问题和常识性知识，对于大多数想要快速了解人工智能的人是一本非常好的普及类读物，可以让你用最短的时间了解人工智能技术最常见的和你最需要知道的一些知识，但是这些知识可能大多数人在看这本书之前也不一定知道，所以强烈推荐，这本书非常值得大多数人一读。

人工智能的技術將會改变我們的生活方式及工作形态，我們保持一个樂觀的学習态度來面对，正如我們面対电腦、智能手机的到來一样，它將帶給我們更美好的生活，幫助我們完成过去那些無聊的工作，讓我們釋放出体能、時間，但我們也必須学習人工智能帶來的新技能，学習將是我們这一代生活的一部份了。

机器在智能和体能方面的进展将改变我们生活、工作、娱乐、寻找伴侣、教育子女和照顾老人的方式。它们还将颠覆我们的劳动力市场，对社会秩序进行重新洗牌，并让私营企业和公共机构都面临紧张的局面。不管我们是否认为它们拥有意识，也无论我们是将它们视为一种新的生命形式还是聪明的家用电器，都无关紧要。无论如何，它们都极有可能会在我们的生活中扮演越来越重要和密切的角色。

说实话，阅读体验非常差，同样是讲人工智能发展的，倒不如去认真看看梅拉妮·米歇尔的《AI3.0》