未来机器人畅想

纯阳书评（豆瓣:纯阳子/公众号:纯阳书评／微信号:chimbusco88）第471期《未来机器人畅想》作为一个成语，名不副实是指名称或名声与实际不相符的一种状态，作为一种不相符的状态，名不副实并不单纯，还可以继续一分为二，其中一个分支是名称高过实质，这就是通常意义上的名过其实，很显然把这种情况反过来就可以轻易地得到另一个分支，即内容高过名称，尽管后者经常被人遗忘，但是它却实实在在的存在，既广泛存在于事中，也广泛存在于物中，当然也存在于书中。这本书就属于这种情况，从中文名来看，属于严重地名不副实，而且是第二种情况的名不副实，具体评价如下： 第一、这本书严重名不副实，绝非轻松的畅想。 无论畅想什么，畅想首先是一种想象，而且是一种无拘无束地想象，这种想象的主要原料和主要结果也必然还是想象。既然畅想的核心就是想象，所以有关未来机器人的畅想，可以远离现实，描绘未来机器人的强大能力；可以天马行空，刻画未来机器人满地跑的世界；也可以信马由缰，讲述机器人的爱恨情仇。尽管这些内容也可以写得赏心悦目，但是始终缺少一个现实的根，能把这些内容留在现实之中。 而本书的内容绝非简单的畅想，而是在为想象保留翅膀的同时，将想象狠狠地扎入现实的土壤，让想象在土壤之中生根发芽，因此无论想象如何生长，想象始终都能够获得来自现实的营养。走到这一步，我们不难发现如果说本书的内容主要也是想象的话，那么这种想象也是基于现实的想象，来自现实的想象，而绝非畅想和空想；这种想象本质上是我们走向未来之前的一种远望，一种对未来我们必然面临问题的提前构想，显然这本书是一本严肃的读物，不是在夸夸其谈，而是要认真地坐而论道，不是泛泛而谈，而是要切入具体问题，探究解决之道。 所以说这本书内容严重名不副实，绝非轻松的畅想，就其内容的严肃性、实用性来说，已经远远超越了先天空洞的畅想。 第二、这本书严重名不副实，其内容不只严肃还很重要。 都说人工智能必然登场，甚至是已经登场，但是人工智能、机器人的发展方向到底是什么还不是一个说得很清楚的问题。主流观点认为强人工智能的研发就是方向，我们需要做的就是让机器变得越来越强大。但是这条路始终存在一个不确定性，如何保证那样的强人工智能肯定会出现？ 本书作者提出了另外一个思路，真正的未来机器人世界有可能没有、甚至是无需强人工智能机器人的出现，我们要做的就是怎么基于现实的条件去构建一个能够人机共存的世界。在这个世界中，真正重要的不再是足够聪明机器人，而是能够形成人机互补结构的协作关系，机器不需要那么强大，只需要能够处理好和人的关系、机器之间的关系、机器和环境的关系，那么一个现实的机器人世界就可以形成。 按照这个思路，机器人的研发方向也应该做出适当调整，不再一味追求机器人的强大，而是要基于人机工程学、认知心理学等科学理论，关注人机、机机、机环的关系处理，这可能才是真正务实的机器人研发之道。 综上所述，这本书是机器人、人工智能领域的一本好书，一本严肃的好书，当然了还是一本名不副实的好书。

《未来机器人畅想》拆解 作者：劳拉·梅杰、朱莉·沙阿 一、一句话概括 未来机器人能否安全融入社会，关键不在于制造一台永不犯错的完美机器，而在于让机器人、人类使用者、旁观者和环境形成能够相互理解、共同学习并持续改进的协作系统。 二、核心逻辑 本书反对一种常见想象：只要机器人足够智能、足够自主，就能独立解决现实问题。 作者认为，现实中的机器人始终处于复杂的人类社会之中。它不仅要与直接使用者配合，还要面对不了解其意图的旁观者、其他机器人、交通规则、建筑空间和社会规范。 全书的逻辑可以概括为： 机器人不是孤立产品 → 人机协作必然存在磨合 → 机器必须理解人的行为 → 人也必须理解机器的能力与意图 → 环境和制度需要共同适配 → 通过真实经验持续提高安全性 商业航空的发展是全书的重要类比：飞机自动化并非一开始就完美，而是经过长期培训、事故调查、报告制度、系统改进和人机分工调整，才形成今天相对可靠的航空系统。 三、核心内容 1. 自动化正在进入开放的人类环境 早期工业机器人通常在围栏内工作，任务和环境高度固定。 今天的机器人逐渐进入道路、医院、仓库、商场、办公室和家庭，需要与普通人共享空间。自动驾驶汽车、配送机器人和服务机器人无法要求所有人严格按照预设规则行动。 开放环境意味着机器人必须面对： 不完整和不确定的信息；难以预测的人类行为；没有参与培训的旁观者；不同文化和习惯；突发障碍与规则冲突；技术能力和社会期待之间的差距。 机器人越接近真实社会，问题就越不只是工程问题。 2. 没有真正“自力更生”的机器人 机器人看起来能够自主行动，背后却依赖大量人类和基础设施： 工程师选择目标与训练数据；操作人员监控异常；维护人员修理设备；地图、道路和标识提供环境信息；云服务和网络支持计算与通信；法律和运营规则限定行为；人类在系统失效时接管。 “自主”通常只表示机器能在某些条件下独立完成部分任务，不意味着它不再需要人类系统。 评价机器人时，不能只观察机器本体，还要看到支持其运行的完整网络。 3. 过度追求完美可能制造新的危险 高度自动化能够减少部分人为错误，却也可能让人逐渐脱离任务、降低警觉，并失去接管系统所需的技能。 当机器人长期表现良好时，人容易形成过度信任。一旦机器遇到超出能力边界的情况，使用者可能无法及时识别，更无法迅速接管。 这与航空自动化中的问题类似： 自动系统承担越来越多操作；人类从操作者变成监督者；监督长期稳定系统非常困难；真正需要人工时，往往正是最复杂和危险的时刻。 安全设计不能假设人会一直专注地等待机器失败。 4. “事故主要来自人为错误”是过度简化 事故调查经常把原因归为驾驶员、操作员或使用者失误，但人的错误可能是系统设计问题的最终表现。 例如： 界面没有清楚显示系统状态；自动化模式容易被误解；警报出现得太迟；操作流程不符合人的认知习惯；培训与实际任务脱节；组织鼓励效率，却忽视风险；系统把不合理负担留给人类补救。 把事故简单归咎于个人，会掩盖人、机器、环境和组织之间的系统性问题。 5. 机器人越聪明，行为越可能难以预测 传统工具的行为比较固定，人容易形成稳定预期。具有学习和自主规划能力的机器人会根据环境动态选择行动，反而可能让人难以判断它下一步要做什么。 技术能力提高不一定自动改善协作。如果机器能够快速改变路线、策略和任务，人类可能发现它的行为越来越不透明。 因此，智能机器人不仅要做出正确行动，还要用人能够理解的方式表达： 当前看到了什么；正在执行什么任务；为什么采取这一行动；下一步可能做什么；是否需要人类帮助；何时达到了能力边界。 6. 现实协作存在“人—机器人—旁观者”三体问题 传统人机交互常只考虑一个人和一台机器人，但现实中还有旁观者。 例如，自动驾驶汽车与车内乘客建立了交互关系，同时还必须让行人、自行车骑行者和其他司机理解它是否准备停车、转弯或让行。 旁观者没有接受产品培训，也未必知道机器的传感范围和行为规则。机器人如果只照顾直接用户，仍可能对周围人造成困惑或危险。 所谓“三体问题”强调，机器人设计必须同时考虑： 机器如何理解使用者；机器如何理解旁观者；使用者如何理解机器；旁观者如何理解机器；使用者与旁观者之间如何互相影响。 7. 机器人行为必须具有可读性 机器人不能只在内部计算正确方案，还要让人从外部动作中推断其意图。 在人际互动中，人们会通过眼神、速度、姿势、停顿和行动方向预测对方。机器人也需要提供类似的社会信号。 可读性可能来自： 清晰、平稳的运动轨迹；提前减速或停顿；灯光、声音和显示界面；明确的方向和任务提示；与社会习惯一致的让行方式；在不确定时主动请求帮助。 设计目标不是让机器人看起来像人，而是让它的行为容易被正确解释。 8. 机器人不一定要长得可爱或像人 拟人化外观可以提高亲和力，却也可能使人高估机器的理解、情感和责任能力。 如果机器人拥有眼睛、表情和语言，人们容易把它当成具有完整心智的社会主体，并对其产生不符合实际的期待。 机器人的外形应服务于功能和交互： 需要让人快速判断其运动方向；需要清楚显示传感器和工作范围；不应掩盖危险机械结构；不应以可爱外表诱导用户忽视风险；外观暗示的能力应与实际能力一致。 可信赖比讨人喜欢更重要。 9. 人和机器人需要建立共同的“心智模型” 所谓心智模型，是人对系统如何工作、能够做什么以及何时会失败的理解。 如果用户以为机器人能理解所有自然语言，但系统只能识别固定命令，协作就会失败。反过来，机器人也需要根据人的动作、目标和知识状态预测其行为。 有效协作需要双方使用兼容的表达方式： 机器人清楚说明状态和限制；人类指令符合机器能够理解的形式；系统根据反馈修正对人的判断；使用者通过培训和经验理解机器逻辑。 人机合作的重点不是让一方完全适应另一方，而是逐步缩小双方理解上的差距。 10. 多人、多机器人协作会增加系统复杂度 当场景中存在许多人和许多机器人时，每台机器单独表现合理，并不保证整体系统安全高效。 机器人之间需要共享任务、位置和意图，避免互相阻塞或重复工作。不同厂商的机器人还可能使用不同标准和行为规则。 同时，机器人协作不能忽略人。机器为了提高整体效率形成的紧密调度，可能让人类难以穿行、打断或接管。 未来需要在通信协议、优先级、异常处理和人类控制权方面建立共同标准。 11. 城市将成为“半个机器人” 智能城市并不只是城市中部署了许多机器人，而是道路、建筑、传感器、网络和软件本身逐渐具有感知与行动能力。 城市可以通过以下方式帮助机器人： 提供机器可读的地图和交通信息；设置适合机器人识别的标志；为配送机器人规划通道；通过基础设施传感器补充机器视野；让电梯、门禁和充电系统支持自动设备；提供统一通信与调度接口。 把所有智能都塞进单台机器人会极其昂贵。由环境承担部分感知和协调，可以降低机器复杂度。 但智能环境也会增加监控、网络攻击、系统依赖和公共权力扩张的风险。 12. 社会规范也是机器人必须学习的环境 现实世界不仅由物理规则构成，还存在大量不成文规范：排队距离、让行方式、礼貌表达、私人空间和不同场所的行为期待。 机器人如果只遵守形式规则，仍可能表现得粗鲁、突兀或危险。 这些规范还会因地区、文化和人群而变化。系统需要理解一定的情境差异，同时避免把某一群体的习惯当作所有人的标准。 机器人社会化不仅是识别人类动作，也包括学习何种行为在特定环境中是可接受的。 13. 机器人安全需要全社会共同学习 机器人进入开放社会后，不可能在实验室中预先覆盖所有情况。安全能力必须通过真实运行经验不断积累。 作者借鉴航空安全体系，主张建立： 事故和险情报告制度；可以匿名分享问题的渠道；跨公司共享的安全数据库；标准化事件分类；独立调查和系统性复盘；受控的机器人试验场；培训和认证机制；根据现实反馈持续更新设计。 如果企业因担心声誉而隐藏失败，整个行业就会重复同样的错误。 14. 机器人需要像孩子一样被逐步“培养” 作者使用“培养机器人”的比喻，不是说机器真的具有儿童心智，而是强调社会适应能力需要逐步形成。 机器人应先在范围有限、风险可控的环境中运行，经过监督、反馈和能力验证后，再进入更复杂场景。 这种成长路径包括： 受控试验 → 小规模使用 → 收集异常 → 改进系统 → 扩大范围 → 持续监督 社会不应要求新技术一开始就绝对完美，也不能因为它仍在学习就放弃基本安全责任。 四、本书最值得关注的核心观点 本书最值得关注的观点是： 机器人安全不是机器本身的一项静态属性，而是人、机器、环境与制度共同产生的结果。 一台实验室中准确率极高的机器人，进入拥挤街道后仍可能失败，因为旁观者不了解其意图、道路设施不适配、网络发生中断，或者运营规则迫使它追求过高效率。 因此，改进机器人不能只升级算法和传感器，还要同步设计： 人能够理解的行为信号；合理的人机分工；使用者培训；环境基础设施；事故报告与调查制度；责任和监管规则。 未来不是机器人单方面适应人类，也不是人类被迫服从机器，而是双方连同社会环境一起学习如何合作。 五、一段话总结 《未来机器人畅想》指出，机器人从工厂围栏进入道路、医院、商场和家庭后，安全问题便不再只是机器能否准确执行任务，而是机器人、直接使用者、旁观者、其他机器、基础设施和社会规范能否形成可理解的协作系统。高度自动化可能降低部分人为错误，也会造成过度信任、技能退化和紧急接管困难；机器人即使行动正确，如果不能清楚表达意图，也可能让周围人误判。作者因此主张借鉴商业航空的成熟过程，通过可读行为设计、共同心智模型、使用者培训、智能环境、跨系统标准、事故与险情报告、受控试验场和持续复盘，逐步培养机器人适应社会的能力。真正可靠的未来，不来自一台永不犯错的完美机器人，而来自一套能够发现错误、共享经验并持续改进的人机社会系统。

机器人是人类智能化的一种智慧工具，赋予人的实践活动功能。在使用过程中杜绝机器人逆反现象是需要注意的问题。