AI新生：破解人机共存密码·人类最后一个大问题

ChatGpt让人们惊诧于 Al技术的突飞猛进，也不得不认真思考人类的前途命运：是不是机器控制人类的时代即将到来？我们如何应对？常言道，当你走进死胡同时，最好掉头返回，找出走错的地方。维护信誉系统功能的第一种方法，是注入尽可能接近事实的来源。 20世纪70年代初，生物学家开始担心，新的重组DNA技术——将一个有机体的基因连接到另一个有机体上，可能会给人类健康和全球生态系统带来巨大风险。1973年和1975年在加利福尼亚州的阿西洛马举行的两次会议首次让这类实验暂停下来，然后人们制定了针对一切相关实验风险的详细生物安全指导方针。有些种类的实验，如涉及毒素基因的实验，因被认为太危险而被禁止。 从比尔·盖茨、埃隆·马斯克到霍金，众多企业家和科学家都曾表示担心AI对人类生存造成威胁。他们担心真的有一天，人类会成为自己发明的机器的受害者吗？ 在过去很长的一段时间，人类之所以能控制地球，是因为人类的大脑比其他动物的大脑要复杂得多。但如果AI变得比人类更聪明，我们要如何掌控这个世界？智能是一种权力，我们能否控制智能，决定了我们未来的命运。 这本书讲述了我们为理解和创造智能，在过去、现在和未来所做的尝试。这很重要，并不是因为AI正迅速成为当前的一种普遍现象，而是因为它是未来的主导技术。世界上的各个大国正在意识到这一事实，各家大公司也早就知道了这一点。 作者在书中提出了一个大问题：如何破解人机共存密码，掌控比我们强大得多的智能，让AI获得新生？这可能是人类面临的最后一个大问题。这本书的目的是解释为什么这可能是人类历史上的最后一件事，以及如何确保这不会成为现实。

非常推荐，虽然你不应该期望看了这书就可以掌握AI的魔法。如果定要学技术可以找找本书作者的另一本书。即便如此还是很推荐，关于AI的思考或者短期内都无解，但是思考本身胜过结果，毕竟当可能性空间无限张开，复杂性和建模过程都对于人类大脑来说难免有点超负荷。说起来，如果真的有造物主，人类不知道算不算ta创造的MVP，有很多问题ta或许未必思考过或者说，至少ta未必有清楚的明确的答案才着手开始工作的吧？作为产品经理ta可能真的不在意时间，似乎也不在意结果，所以进化既伟大而专注又显得漫无目标充满了随机性的惊吓和惊艳…那么人类的创造呢？AI如果是人类的创造，我们怎么能在自己也没找到答案的情况下期望教育好孩子？这些问题迷人而令人生畏，读一本好书，让整个周末熠熠生辉。

斯图尔特·罗素《AI新生：破解人机共存密码·人类最后一个大问题》，这整本书都在围绕如果人类发明了超级人工智能该如何？ “机器越智能越好，但我们必须做好功课才能做到这一点。”当前的科学突破还不足以使我们实现它，但是作者眼里它是可期许的未来，“我们必须面对的事实是，我们正计划着制造出远比人类强大的实体。我们如何确保它们永远不会掌控我们？”人类需要为此做好准备。 作者提出了有益机器的原则: “1.机器的唯一目标是最大限度地实现人类的偏好。 2.机器最初不确定这些偏好是什么。 3.关于人类偏好的最终信息来源是人类行为。” 这三条原则主要用于指导人工智能研究人员和开发人员如何创建有益的人工智能系统。它们并非人工智能系统要遵循的明确定律。 作者还用数学做了相应推理，并从效益主义的视角分析了人类复杂性，看不太懂，但是作者希望借此实现“可证明有益的人工智能”。 想法虽然好，但是“结局如何，还有待观察。” 我想不只是他一个人没有答案，好像还没谁有。 有点啰嗦的一本书。

当我们无法确定自己想成为什么样的人时，行动时可以参照“职业生涯的VSOP”理论。 20岁年龄段：变化(V)——多尝试； 30岁年龄段：专业(S)——深耕专业； 40岁年龄段：创意(O)——让人感受到你独有的特色； 50岁年龄段：人格(P)——让人想与你合作。 我将VSOP理论发展了一下，变成VSOP-EL 理论: E（Ecosystem）生态（60岁） 从“个体价值”转向“系统创造”，如张忠谋台积电退休后主导半导体产业联盟 MIT 2023年研究显示：成功企业家的第二曲线68%始于60-65岁 L（Lighthouse）灯塔（70岁） 牛津大学职业研究所提出：智慧资本转化率在70岁达到峰值 典型案例：宫崎骏78岁创作《你想活出怎样的人生》获奥斯卡

AI行业大师罗素的扛鼎之作，在chatGPT世界流行的当口，读完感受颇深。 书中点明了AI威胁，是AI产生的超级AI，也就是能够思考的“智慧”AI。作者细致剖析了目标导向和偏好导向的区别，认为不能让AI局限于实现具体的某个目标，因为不同的目标之间会有冲突、实现目标可能达到意想不到的副作用，以及不同的群体甚至坏人能够用AI作恶；而偏好导向，则是一种基于道德规则等的综合思考，让AI能够结合整体社会来做出综合判断，前提是为了避免伤害人类可以牺牲自己。 对于书中的观点我有点无法苟同：如果AI已经产生智慧，产生了情感，那是不是也应该算作智慧生命的范畴，那么人类凭什么让AI为了人类牺牲自己？实力强大的AI又为什么不为了自己“种群”的利益消灭人类？ 为了规避未来AI对人类产生的种种威胁，作者举出了种种方法。但我同样无法苟同，原因很简单，不像基因技术之类的还有物理层面的限制措施，这世界上AI科学家太多了，而且各有各的想法和习惯，互联网最大的特点就是没有监管、肆意创新，要想让别人把这些方法应用于技术开发，真的是难上加难，因为人类有时候往往是最愚蠢和目光短浅，为了眼前的名利根本不考虑全人类的未来。 读完这本书，觉得AI时代早晚会到来。其实AI时代已经来临，模特、摄影、设计、编程等行业已经受到了巨大冲击。但是更可怕的是超级AI时代，感觉无可避免，甚至速度会出乎人类的想象。就好像工业时代人类的进化速度是之前的几千倍一样，AI时代的进化速度很有可能大大超乎人类的想象。当那一天到来的时候，我们又会在哪里，做些什么？

计算机，人工智能的发展，让人类越来越享受高科技。从智能手机到智能家居，智能化设备的确让人类的认知和生活便利提高到一个很舒适的高度。只是在舒适中我们也体验着危机。工业革命取代了人工业，人在机器的主导下生产机械式劳作，人沦为机器的劳动奴隶。智能手机让使用者最快速的获取所需知识和信息，信息的不准确化导致难辨真伪，导致一部分不爱思考的人随大流人云亦云，人沦为互联网的思考奴隶。互联网手机文化，抖音，游戏，让我们对手机爱不释手，以至于远离亲人朋友，交流靠手机，娱乐靠手机，手机变成我们生活中的绝大部分。手机没电已经成为一部分人最大的恐慌。 未来，人工智能的发展，会不会先掠夺人的体力工作，再而掠夺人类的脑力劳动？很有可能，现今人工智能已经逐步取代了航空业的航班安排工作，导致机器故障机场处于停滞状态。全自动工厂完成整个生产过程也只需要几个人的操作。机器不但剥夺了人类的工作机会，未来还准备侵略思考领域。难怪图灵和霍金要求延迟人工智能的开发和利用，人类的发展将在风口浪尖上面临更大的危险。

《AI新生》：在技术狂飙前叩问控制权的终极命题 当2016年DeepMind的AlphaGo击败顶尖围棋冠军，AI彻底从实验室走入公众视野，成为席卷全球的热议话题。而《AI新生》的英文版恰于2019年问世，中文版紧随其后在2020年落地，这一出版时机绝非偶然。早在AI技术井喷的十余年前，作者便已深耕“人工智能安全”这一前瞻性议题，在全民为技术突破欢呼之时，冷静抛出“如何避免失控”的根本追问，其对领域的深度跟踪与战略视野，在喧嚣的技术狂热中更显珍贵。 贯穿全书的核心命题，始终是“控制权”的终极悖论：倘若未来机器智能全面超越人类，谁将手握最终的决策权力？作者以一针见血的论断刺破技术乐观主义的泡沫——如果在AI研发中单纯追求“更聪明”，却将“对齐与安全”抛诸脑后，人类终将从技术的创造者沦为被动的依附者，甚至面临被反噬的生存危机。这一观点颠覆了“先发展再规范”的惯性思维，直指行业痛点：“可控”必须是AI设计的先决条件，而非事后弥补的补丁，这既是对技术伦理的坚守，更是对人类命运的负责。 而当我们试图解构“AI控制权”这一抽象命题时，从历史规律中可以提炼出极具启发性的参照系——这并非书中的观点，而是基于历史洞察的延伸思考。回看楚汉争霸与明初基业的建立，刘邦、朱元璋在创业初期，便对麾下能力强于自身且难以掌控的文臣武将保持高度警惕，从招纳贤才的那一刻起，他们便在思考、观察并调整应对策略，防止这些潜在的“强力量”反噬自身、稀释权力。这种对“控制权”的前置性把控，与《AI新生》探讨的核心问题，有着惊人的底层逻辑共通性：二者都是在面对“可能超越自身的强大存在”时，提前思考“如何规避失控风险”。 当然，这两类问题的场域与解法截然不同。刘邦、朱元璋的应对之策，植根于封建时代的人性博弈与权力规则，倚仗的是威权制衡与血缘纽带；而《AI新生》聚焦的AI安全命题，则落脚于科学领域与技术层面，需要依靠制度设计、算法优化与工程实践的三重保障。作者在书中以核技术类比AI，反复强调“能力越强，风险越高，越需要刚性的外部约束”，这一论断恰好与历史洞察形成呼应——无论是人类社会的权力博弈，还是科技领域的智能探索，“控风险”永远要先于“追效能”。 纵观全书，一条清晰的逻辑脉络贯穿始终：敏锐的出版时机，折射出作者超越时代的前瞻性；“控制权”的核心追问，构成全书不变的思想主线；而从历史规律中延伸出的跨界思考，则为抽象的技术难题提供了具象的参照系；真正的终极挑战，在于如何将这些跨越古今的洞见，转化为一套可落地、可执行的AI安全架构。《AI新生》的价值，从来不止于对技术风险的预警，更在于为人类提供了一个开放性的思考框架——在技术狂飙的时代，唯有以历史为镜、以安全为纲，才能让AI真正成为服务人类的“新生力量”，而非悬于头顶的“达摩克利斯之剑”。

这是一本关于AI的伦理书，里面的思考挺全面，好多的东西我确实以前没有想到过，能给我很多的联想和启迪，至于里面的观点是对是错，个人可能有个人的想法，但是没有争论就没有进步，看完之后感觉还是很开心的。推荐。

《AI新生》最核心的一句贡献是——我们不必造一个"追求自己目标"的神，而可以造一个"永远不确定自己是否懂你、因而永远谦卑"的助手。把目标从"机器的最大化对象"换成"人类的偏好"，并把不确定性保留下来，超级智能就从"最后一个大问题"变成"可共存的同伴"。问题没彻底解决，但方向被作者清晰地扭转了：安全不是给强机器套枷锁，而是从一开始就不让它自以为知道你想要什么。

『5个“人类未来最大事件”的候选选项： 1. 我们灭亡了（因为小行星撞击、气候灾难、流行病等）。 2. 我们都能永生（医学攻克了衰老）。 3. 我们发明了超光速旅行，征服了宇宙。 4. 高级外星文明造访了我们。 5. 我们发明了超级人工智能。 我认为第5个候选选项，即我们发明了超级人工智能，将会胜出，因为如果可能，超级人工智能将帮助我们避免灾难，实现永生和超光速旅行。它将代表我们文明的一次巨大飞跃，或者说一次突变。超级人工智能的到来在许多方面类似于高级外星文明的到来，但前者更有可能发生。也许最重要的是，人工智能不同于外星人，它是我们对其有发言权的东西。（摘录）』