AI万金油：商业幻想与科技狂潮

可以看作一本AI错题集。 这本书的核心是说明AI的发展并没有方案商宣传的那么顺利，特别是在预测式AI的领域，实际预测的准确性大多都无法达到声称的水平。并对其原因进行了阐述，我认为核心实际上只有一点，主流的算法都是基于历史上发生过的事件进行学习和分析。然而未来本身就有很多不确定性，从根本上对于未来的预测都是很难做到高准确率的。其中有些特别的案例，比如预测内战的可能性，即使不用模型，我们也知道大部分国家的大部分时间都处于和平阶段。而转变可能需要几年的时间，这样的预测模型即使达到90%的正确率也没有意义。它只需要一直预测【不会发生内战】就可以了。 这本书虽然有点想到哪讲到哪的感觉，但是书里列出的那些失败的案例本身能让我们更直观的理解什么是算法歧视，以及不好的AI将给我们带来什么样的隐患。就如作者所说，我们需要了解AI的局限性，才能在生活中质疑和抵制类似有害的AI被广泛使用。特别是AI如何被使用，被谁使用，达到什么样的目的。科技并不总是向善。 最后，作者向往的是通过有效监管让AI朝着有利于人类的方向发展。不要进行一刀切，比如教师认为学生用AI都是作弊。生在这个时代的孩子们，他们的生活已经不可避免地和AI共生，无法阻止孩子们使用AI。正确的方法还是有效的监管机制，而不是盲目乐观或者盲目悲观。

一本书看懂AI 推荐等级：★★★★★ 央视新闻最近报道了号称“外国山海经”的AI拼接怪兽动画，不光有热度有流量，更在收割了许多小孩子的注意力之后以实际玩具出现，让人大开眼界。时至今日，我们离AI是如此之近。 《AI万金油：商业幻想与科技狂潮》以科学严谨的态度告诉我们如今的AI被过度炒作。在商业世界里看似热门的背后是人们对此的认知不足。尽管看到铺天盖地的消息，大多数人还是没有真正了解AI。对于普通读者，想要真正看懂AI，阅读本书无疑是一个不错的开始。 1.过度炒作 从AI行业的研究人员到商业世界里的创业者和投资者，由新闻媒体到普通民众，日益严重的AI炒作之风里都扮演着各自的角色。在这种过度炒作的整体氛围下，我们不光难以了解其中的真相，更容易带来新的问题和危机。 本书的两位作者凭借着多年的研究经验告诉读者当下AI存在的局限性，让人破除对于其不切实际的期待之后看到更为真实的情况，从而对于未来有了更为靠谱的判断。 “本书是一本帮助你识别AI虚假宣传和炒作的实用指南。”通过作者抽丝剥茧的剖析，不难发现如今所谓的AI魔法就像曾经在美国流行的万金油一样，被江湖游医用来骗人。 尽管并非所有的AI都像万金油一样，只有通过像本书这样严谨的科学分析之后才让人明白在合适条件下可以真正运行的AI与之有何本质性的区别，从而明白如何进行下一步的发展。 了解到AI的局限性，才更明白其可以发挥什么作用。更为重要的是意识到即便是有用，也可能带来害处，至少会对人类带来负面影响。这一点《技术与文明》里早就指出，技术和人类的演化路径是不同的。 2.全面了解 如果要用一句话来简单概括如今的AI，那可以说即便是再权威的人给出相关的观点和建议也可能是错误的，至少是不值得完全相信。在这一点上，本书作者更是敢于向自己开头，指出其曾经的研究成果就存在一定的错误和瑕疵。 可复制性，可以称之为是现代科学的核心。只有经历过独立验证的科学实验结果才更为值得信任。在这一方面，众所周知心理学是重灾区，然而要是和AI相比那算是小巫见大巫。 一方面是无孔不入的宣传，另一方面是极为严重的可复制性危机。那些从业者也好，科学家也罢，不管是否以专家自诩，都不得不面临的尴尬现实的是所给出的研究成果往往经不住他人的再次检验。 实践是检验的最好办法。可要是按照这一标准来说，那样看似无所不能的AI其实都是纸老虎。听起来名声不小，可除了那些唬人的噱头之外很难体现出所谓的技术优势。 更为直白一点，那些耗费了巨大电力的AI可能只是新瓶装旧酒，甚至只是包装精美的垃圾。当然没有一个所谓的AI分类，或者说现实中相关的产品是如此复杂以至于很难用简单分类去实现。 3.两种分类 对于普通读者来说，出于认知上的方面，或许在表述上没有那么精准但依然可以参考书中对于AI的分类。按照作者的划分，大致可以归为两类，一类是预测式AI，一类是生成式AI。 在科幻作品和一些媒体的煽风点火下，人们很容易对于AI产生恐惧等心理，从担心被其夺走工作到忧心整个人类被其灭绝。出于此方面的考虑，对于AI进行禁止和限制的声音不绝于耳。 通过作者的科学分析之后，不难发现如今所谓的预测式AI远没有那么厉害，更不能像美剧《疑犯追踪》一样对于现实生活中的罪犯活动进行准确预测。要是考虑到预测本身的难度，简单来说大可不必过于担心，更不必理会那些缺乏根据的炒作消息。 对于普通人来说，离得最近的可能是生成式AI。从图文到视频，其所展现的能力让人大吃一惊。不光会对于很多行业从业者带来冲击，更是造成了一系列的问题和危机。 从抄袭到AI的胡编乱造，再到被用来诈骗的音视频，每个人仿佛都不得不胆战心惊。然而经过一番深究之后发现其中很多担心是没有必要的。更为准确一点说，我们的担心是可以理解的，但可能担心错了问题从而忽视了真正该担心的。 4.被人利用 以书中提到的社交媒体为例，从扎克伯格提出用AI来进行审核到其他相关内容，不难发现技术的出现并不是包治百病的良方。联系到《技术垄断》里的提醒来说，更像是重蹈了唯科学主义的覆辙。 如作者所言，AI的出现会让很多负责内容审核的人员不得不像《幕后之人》里变成了在商业流水线上作业的工具人。在所谓的降本增效之下失去了可靠性，更变成了《投喂AI》里卷入逐底竞争的外包混战，覆盖全球难以改变。 从AI在内容审核上本身就难以避免的政治倾向到实际操作中的各种现实挑战，不少像《履单》里的科技巨头为了疯狂逐利而不在乎他人的处境恶化和生死存亡。 《操控》里提醒人们对于算法和平台的警惕，本书更是以近乎赤裸的方式展现了其商业包装之下的残酷真相。用一个不太恰当的比喻，其不仅没有变成了解决问题的有效工具，逐渐变成了亟需解决的问题。 与其让我们担忧科幻作品和影视剧里那些AI相关的场景，倒不如关注现实世界里正在发生的变化。在这一方面，从所谓的商业领袖到技术大拿，其提出的观点和具体行为都是值得怀疑的，或许说常常夹带私货，更有甚者是别有居心。 好在作者通过一个个真实案例，让我们意识到其中的谎言，从而降低了被欺骗的可能性，很大程度上避免被人利用。倘若多一个人阅读本书，就会少一个人上当受骗。 5.认知偏见 除了书中提到的那些谎言之外，作者更是反复提醒读者注意那些人类本身就存在的认知偏见。在这些难以察觉的认知偏见里，我们不光会被他人利用，更可能会对自身造成难以想象的伤害。 解释深度错觉，让人误以为自己对于复杂概念的理解比实际的深刻。过度自信导致的自以为是很容易犯错。在阅读和思考的过程中我也不得不承认自己有这方面的毛病。对于那些经常关注相关新闻的普通人来说，也容易因此中招。 启动效应、虚假真理效应、锚定偏见、确认偏见，书中提到的这些常常难以完全察觉，更是会被一些公司、研究者和记者等加以利用。意识到这些的存在并进行改善有助于我们被这些别有用心的人所欺瞒。 受限于现实情况的复杂多变，书中所提供的建议更像是一个参考答案，很难说做到面面俱到。从某种角度上来说只是告诉读者那些过去出现的常见把戏，未来可能会有新的骗术和骗局，需要擦亮眼睛谨慎对待。 面对现实挑战，作者最后给出了两个虚拟人物所处的世界，让我们意识到未来的不同可能性。这不光取决于当下的行动，更在于我们每个人如何进行选择。 6.写在最后 面对一个如此重大且人人关心的话题，书中的内容自然无法全面覆盖，但是对于普通人值得关心的问题也进行了比较深入的讨论。哪怕是零基础的小白一样可以在作者的科普中有所收获。 看穿骗局是本书的一大价值，然而在这种对镜子的过程中我们更容易发现别人的，往往会忽视自身的。当牵扯到更多的现实利益，人们哪怕意识到问题的存在，也可能希望像击鼓传花一样认为自己是智猪博弈里的幸运儿。 破除迷信，祛魅之后的我们更需要对于自身以及AI相关的内容有更为科学准确的认知。借助前人的努力，我们可以避开书中那些坑，但也难保自己就不会犯错。 事实上就像我们关心的重点会偏离一样，每个人从认知到行动上难免都会出错。这一点本书作者就是一个很好的例子。作为一个从业多年的研究者也不得不面对自己犯下的错误。 对于那些想要使用和接触AI的人来说，犯错可能是一种常态。在与其进行交流和学习的过程中早晚都会出现，关键是如何去应对。是像本书一样用科学认知为基础还是继续自欺欺人？这取决于每一个人的选择，也会导致未来出现截然不同的改变。 坦白讲，一本书看懂AI是不现实的，可要是快速入门并识别一些常见的骗局还是可以的。这就是本书的价值所在，也是对于普通人来说现在选择阅读本书的一大重要理由。

给 AI 热潮泼冷水 本书是由普林斯顿大学计算机科学教授阿尔文德·纳拉亚南与前脸书工程师萨亚什·卡普尔合著，两位作者均入选《时代》周刊“全球AI领域最具影响力100人”。本书以“AI万金油”（源自19世纪江湖骗术“蛇油”）为隐喻，批判当前AI技术生态中过度炒作、虚假宣传与盲目应用的现象，呼吁公众回归技术理性。 我粗看了一下，有点老登的感觉，英伟达突破 5 万亿美元，黄仁勋画出“AI 生态”的大饼，从 6G 网络到量子技术，英伟达希望成为未来世界技术的基座，大家是否记得当年互联网初期炒域名和网名，新技术的出现肯定伴随泡沫，但也会成就新的英雄。 在美股纷纷创新高的今天，大公司也在裁员， 当年黄仁勋 呼吁传统车企要改变思路，电动车已经不是简单的运输工具，是新的物种，可奔驰大佬不当回事，现在追悔莫及。 作者认为AI竞赛本质是商业利益驱动，非技术革命；提出“智能革命的终极命题不是‘AI多强大’，而是‘我们想成为怎样的人’。”有些鸡汤，只要认真回顾30 年来的世界变化，无论是战场上的无人机，还是已经无所不在的 AI，技术已经在改变世界。 2025年#360

虽然不赞成作者的大部分观点，但是还是给出了推荐的评价。主要原因是作者严谨的治学与写作态度，可以说在专业知识方面是准确的。通读此书可以对人工智能发展的历史与各阶段的技术发展情况有个准确的了解。由于非技术书籍，书中没有涉及具体的技术细节，但内容应该足够满足绝大多数读者了。 不赞成的部分主要来自于作者对技术发展的态度：作者更倾向于论述技术发展中遇到的挫折与失败，这在任何领域都是不可避免的。而在人工智能发展过程中，人们经历了在理论与方法方面探索过程中的迷惘与失败，也曾经在某些应用领域中的误用，但是相关从业者正是在这些失败与误用中积跬步才达到目前的成绩。我本人认为虽然不能忽视问题，但是更应该关注进步与成长，而不是在失败面前踌步不前。 目前大模型已经取得了巨大的进展，虽然这一波进步可能无法达到AGI，但是这次让我们看到了希望。当我们迷恋于当下大模型的魅力时，必定有研究者在默默寻求突破Transform的下一代技术，未来可期。 不可否认，从技术发展应用与疯狂的投资匹配角度来看，这次人工智能的爆发也存在着泡沫，但是即使泡沫破灭也会给我们留下巨大的“遗产”，因为这已经让人们看到了技术能够发展到什么程度，更让很多人体验到了这波技术进步带来的便利。 综合来说，此书值得一读，但建议在读书时注意“扬弃”。

《AI万金油：商业幻想与科技狂潮》的核心观点可归纳为以下七点：1. ​​写作动机​​：在 AI 热潮中，大量产品被过度宣传而缺乏真实价值，作者希望提供一部“理性消费指南”帮助公众与企业辨别炒作。2. ​​“AI 万金油”概念​​：书中把那些声称能“一招鲜、吃遍天”但实际上既无科学依据也难以奏效的算法或服务称为“AI 万金油”，提醒读者警惕营销噱头。3. ​​三类真实可用的 AI​​： • ​​生成式 AI​​：如文本、图像生成，在创造内容方面有潜力，但也易产生偏见或侵权问题。 • ​​预测式 AI​​：如信用评分、需求预测，在数据充足且因果关系明确时效果显著；若数据本身带有歧视，则会放大偏见。 • ​​内容审核 AI​​：如 moderation、视频监控，在大规模内容治理上有成本优势，却可能侵犯隐私与自由裁量权。4. ​​技术有效 ≠ 应用无害​​：作者强调，算法在技术上可行并不意味着在所有场景中都安全或公平，需要从“模型失效”“过度炒作”“应用本身有害”三方面归因风险。5. ​​行业落地的机遇与风险​​：书中逐领域讨论教育、医疗、招聘、银行、保险、刑事司法等可能出现的收益与陷阱，指出若不加监管，偏见和不公可能被算法放大。6. ​​大型科技公司与垄断风险​​：在缺乏有效监管的情况下，巨头垄断 AI 算法与数据资源，会使中小企业和欠发达地区被边缘化，进一步扩大数字鸿沟。7. ​​行动建议与价值​​： • 企业层面：学会评估 AI 项目的真实 ROI，避免被营销话术牵着走。 • 个人层面：理解算法决策对隐私、就业和社会公平的影响，更理性地使用 AI 产品。 • 政策层面：建立问责机制与开放标准，推动算法透明度和数据治理。一句话总结：这本书提醒我们，AI 的真正威力并非“万能”，关键在于人类如何选择、部署与监管这些技术，既抓住其价值，又防范其潜在危害。

人工智能已成为全球竞争的关键变量，左边将AI视为决定未来国际格局的新战略武器，右边则警告需要警惕狂热的技术炒作，现实应用还是技术泡沫一起看看正好讨论一下这两者之间的落差及抉择？ 技术发展嵌套在国家安全与全球竞争的框架中，从来不是单独的市场行为。科技企业与政府的合作曾是美国竞争力的核心，如今的硅谷似乎遗忘了这段历史。AI作为21世纪的竞争核心，硅谷的工程师们需要重新与国家利益绑定。精英文化从国家建设转向个人成功、技术乌托邦主义、消费主义主导科技投资等，这也是美国文化空心化的深层原因。国家间算法、算力的竞技驱动军事行动，AI 是新的战略资产，硅谷的工程师们应重新拥抱技术即国家力量的理念，与政府联盟形成新的曼哈顿计划，政府则采用硅谷式管理，提高效率、减少官僚主义，以适应新技术时代的竞争，确保美国继续主导世界科技与安全格局。 但AI如果作为技术泡沫看，需要警惕过度炒作，如果政府、企业及社会盲目相信AI神话，可能会导致严重的资源浪费，过度依赖AI可能会让决策变得更不透明，甚至带来新的社会风险；过度怀疑 AI又可能导致技术投入不足，导致本国在AI竞赛中落后。AI产业在很大程度上被资本市场所推动，许多AI产品的真实能力确实不如宣传的那么强大。真正的挑战在于如何甄别及平衡技术现实和市场预期之间的差距，还有相关伦理问题也有待讨论。AI不是魔法，它是统计的工具，决策精度取决于数据质量，但许多数据本身就自带偏见。现有AI还无法真正理解世界，无法像人类一样独立思考，AI的价值在增强人类的能力。 AI作为国家内部的治理工具，表面上是技术治理的进步，实质是权力的进一步集中，个体在经济和信息上的自主权进一步被剥夺，人类社会逐渐接近算法驱动的极权模式？通过算法和数据精准控制社会，又使反抗不再具有可能性？这种秩序感取代明显的暴力镇压，但也吞噬了真正的自由选择。意识形态的同质化较明确的国别界线，加速全球阶级矛盾的分化？技术极权主义可能加速文明的退步。。。

这本书的两位作者都来自普林斯顿大学。第一作者阿尔文德·纳拉亚南是计算机科学教授，常年研究AI等数字技术对社会的影响；另一位是他的博士生。 书名的英文《AI SNAKE OIL》原意是“AI蛇油”。19世纪末的美国，江湖游医四处兜售一种号称“包治百病”的“蛇油”。实际上，这些药油几乎不含任何有效成分，甚至有害健康。 作者借用这个概念，想说的是：今天许多被吹得神乎其神的AI技术，其实就是当年的“蛇油”——名声在外，但实际效果与宣传相去甚远，甚至潜藏着风险。 AI万金油的翻译还不够贬义，叫《AI大力丸》可能更能表达出原书名想要表达的意思：在现今AI产业的叙事中，我们是不是在被许诺一种“立竿见影”的技术奇迹？而且，“大力出奇迹”本就是互联网常用梗，契合AI行业“算力至上”“蛮力堆叠”的底层逻辑——讽刺意味更当代、更精准。 第一部分：两种AI，两套问题 在深入之前，先明确两个概念： • 预测式AI：核心任务是“做判断”。人脸识别（这张脸是谁？）、垃圾邮件过滤（这是垃圾邮件吗？）、医疗影像诊断（这个结节是良性还是恶性？）。这里的“预测”不限于“预知未来”，而是泛指“做判断、下结论”。 • 生成式AI：核心任务是“搞创作”。ChatGPT、文生图、文生视频——输出我们能理解、能欣赏的文字、图片、视频。 两类AI，各有各的问题。 第二部分：预测式AI的三大“暗礁” 第一重：可预见的局限——为什么有的AI怎么训都训不好？ 2015年，普林斯顿大学搞了一项名为“脆弱家庭挑战”的研究。他们追踪了4000多名儿童从出生到15岁的数据，邀请全球160个团队用孩子9岁前的全部信息，来预测他们15岁时的表现——GPA、住房稳定性、家庭物质状况等6项指标。 结果令人大跌眼镜：最好的模型也只比随机猜测略强一点点。 很多人第一反应是：数据量不够大？不是。每个孩子已经收集了约1万个特征维度，已经多到超乎想象。 研究人员去回访预测误差最大的家庭，发现了一个关键细节：一个原本成绩较差的孩子突然表现出色，原因是邻居帮他辅导作业、提供食物。但这些“来自家庭外的支持”，数据里根本没有记录。 要解决这个问题，理论上需要记录孩子的一举一动，甚至每个念头——这在伦理、法律和实践层面都不可接受。这就是预测式AI在社会领域的第一重困境：数据维度的天然缺失。 为什么图像识别就不会有这个问题？因为判断一张图里是猫还是狗，所需的所有信息已经完整地包含在图片里了。图片本身就是“完整的数据”，不存在关键信息的遗漏。 第二重困境在于问题本身的内在复杂性。 社会规律是会变的。20年前的商业成功法则，放到今天可能就是“作死指南”。用历史数据训练的模型，本质上就是“刻舟求剑”。 社会事件还充满随机性。一本书的早期好评可能只是因为某个大V随手转了一下；一个人的成功可能只是因为某次会议上恰好坐在了贵人旁边。这些随机因素，本质上是不可预测的。 更麻烦的是“互动性难题”：预测行为本身会改变被预测的对象。节假日第一天上午高速公路会堵车——这个预测广为人知后，大家都提前到凌晨出发，结果凌晨堵了。预测改变了现实，现实推翻了预测。 这些局限是“可预见的”。一个清醒的AI设计者在部署模型之前，就应该知道：这类问题，AI就是搞不定。 第二重：隐蔽的陷阱——为什么有的AI“一学就会，一用就废”？ 有的模型在测试集上表现优异，一到现实就拉胯。原因之一是“数据泄露”——测试集里的题目，模型在训练时已经见过了。好比考试卷子里的题你全做过，分数再高也不代表你真懂。 另一个更隐蔽的原因是：预测式AI经常把“相关性”当成“因果性”。 新冠肺炎疫情期间，有大量研究声称能用胸部X光片高精度区分新冠患者和普通肺炎患者。但后来有人发现，在那些研究的数据集中，几乎所有新冠影像来自成人，所有普通肺炎影像来自儿童。AI学到的根本不是“磨玻璃影、白肺”这些真正的病理特征，而是“成人→可能得新冠，儿童→可能只是感冒”。 这个模式在原数据集上准确率极高，但逻辑是错的。而且因为训练集和测试集来自同一批数据，这个错误规律在测试中根本暴露不出来——直到模型被扔进真实世界，才原形毕露。 更棘手的是，当前的AI模型本质上是“黑箱”。数以万计的复杂参数中，我们无法直接审视它做判断的内在机理。当模型依赖虚假关联而非真正的因果特征时，这类错误极为隐蔽。 第三重：致命的偏差——当“优化目标”本身就是错的 这是最值得警惕的一类问题。AI训练的核心，是人为设定一个“优化目标”——一个明确的数学公式。模型不断调整内部参数，就是为了让这个目标函数的分数最优。 问题在于：如果目标本身有偏差，模型训练得再“完美”，结果也是错的。 书中列举了一个可怕的例子：美国一家保险公司用AI来调整汽车保险费率。它设定的目标是：在不流失过多客户的前提下，最大化利润。 为了实现这个目标，模型需要解决一个核心问题：识别哪些客户对涨价不敏感。它发现，62岁以上老年人更换保险公司的倾向更低。于是，该人群被系统性地给予更少的折扣和更高的保费涨幅。 公司没有主观宣称“要歧视老年人”，但“利润最大化”这个目标函数与数据的结合，必然导向这一结果。更讽刺的是，开发者可以用“算法复杂性”当挡箭牌，声称这是“数据驱动的客观最优解”。 我们最需要警惕的，或许不是科幻片里的“机器人觉醒”，而是那些隐藏在冰冷数据和“客观”算法之下的、由错误的代理指标和商业利益驱动的、无声无息却影响深远的系统性偏见与歧视。 一句话总结：技术之上应有理性，理性之上应有良知。 第三部分：生成式AI的“幻觉”与“刷分竞赛” “幻觉”：一本正经地胡说八道 大语言模型虽然聊天能力很强，但很容易“一本正经地胡说八道”——语言流畅、逻辑自洽、充满自信，但核心内容完全是假的。 为什么？因为大模型本质上是一个概率性的文本生成器。它通过在海量语料上训练，学习词语之间的统计关系，然后预测“下一个最有可能出现的词是什么”。它的目标是生成“看起来合理”的文本，而不是“真实”的文本。事实准确性，从来不是其核心设计目标。 基准测试陷阱：大家都在“应试”，没人关心“能力” 当前整个AI领域陷入了一场围绕“基准测试”的激烈竞赛。各大公司轮番发布在各项标准化测试中的“刷分”成绩。 但问题在于：这些测试只关注模型在特定任务上的表现，却不评估那些在现实世界中更重要的维度——模型是否固化了文化偏见？输出的内容是否会对社会稳定造成风险？这些在基准测试中统统是“隐形”的。 当所有开发者都以“分数”为唯一目标时，他们就会有意无意地“为测试而优化”。这就像一个只为应试而学习的学生，能熟练掌握所有考点，但在真实世界中解决复杂问题的能力却不堪一击。 衡量一项技术真实价值的唯一标准，是它在真实世界中的表现。 第四部分：AI会产生自我意识，从而威胁人类吗？ 作者给出了否定的答案。他认为，即使在理论上有可能性，人类最大的威胁也不是来自AI“自主背叛”，而是来自人类对AI的滥用。 为什么AI不会诞生自主意识？因为它所有行为都受限于一个由人类设定的、外在的目标函数。AI没有“内在驱动力”——它没有好奇心，没有求知欲，没有生存本能。它不会因为“想”理解世界而去学习，而只是因为“被设定”要去拟合训练数据中的统计模式。 而自主意识的核心，在于能够自主设定目标。一个有意识的生命体，其行为受内在、分层的目标驱动：从最底层的生存、繁衍，到更高层的自我实现。这些目标不是由外部工程师编码的，而是由亿万年的生物进化“写入”基因之中的。 当AI对你表达“同情”时，它并没有真正“感受”到你的情绪，只是学习到了在特定情境下，生成“表示同情的文本”能够最大化其目标函数。 所以，我们应该重点防范的不是一个遥远的、几乎不可能发生的“AI叛变”，而是AI这样一个没有意识、没有道德、但能力极其强大的工具，被别有用心的人用于牟利、诈骗、制造谎言、实施监控甚至发动战争。 第五部分：两个未来——凯的世界 vs 玛雅的世界 最后一章作者设想了两个出生在大模型时代的孩子——凯和玛雅——在不同假设的未来中，他们的生活会如何发展。 凯的世界：被动防御 社会对AI的风险充满警惕，学校禁止学生使用AI，大多数应用选择“一刀切”地屏蔽。但天性好奇的凯只能求助于那些未经审查的商业AI工具。社交媒体与AI深度融合，用算法生成了无穷无尽、令人上瘾的内容流，吞噬了凯的注意力。学校使用预测式AI，根据凯的成绩和家庭数据将他分入“低潜力”组，过早地限制了他的职业机会。整个社会弥漫着“工作即将被取代”的论调，让凯对学业和未来都丧失了动力。 凯的世界揭示了一个残酷的现实：以“保护”为名的被动防御，实际上是将塑造未来的权力拱手让给了不受约束的商业力量。 玛雅的世界：主动面对 AI影响的研究资金增加了10倍，监管跟上了技术发展。法律强制打破了推荐算法的垄断，催生了更健康的社交媒体生态。学校将AI素养视为核心能力，系统性地融入教学。 大多数大学录取转为“部分抽签制”，削弱了名校光环，社会评价体系变得更加多元和务实。AI主要负责自动化“任务”而非取代“职业”，企业也适应了定期对员工进行技能再培训的常态。玛雅对自己的未来充满信心。 哪个世界更有可能实现？从今天的角度看，凯的世界更可能成为我们的“默认现实”。我们只需要继续以畏惧和顺从的态度回应科技行业的发展，便会自然滑向那里。而要实现玛雅的世界，则需要大量的公共投资和全社会态度的转变。 不作为，肯定不会带来一个理想的未来。 凯的沉沦，源于被动地接受；玛雅的希望，始于主动地面对。我们人类，永远不应该把选择权交给机器，而要牢牢把握在自己手中。

一本用证据拆穿"AI 万能"神话的清醒剂——两位普林斯顿研究者把市场上泛滥的 AI 宣传分成"预测式 AI"与"生成式 AI"两类的真实能力边界，逐一戳破：预测式 AI 在生死攸关的决策上常常失灵且加剧不公，生成式 AI 确有价值却被夸成"通用智能"，而"AI 将统治/拯救人类"的叙事大多是万金油式（snake oil）的江湖郎中话。核心告诫：非凡之言，需有非凡之证。

当前AI无疑是最热门的话题，一时间议论纷纷，各类大模型纷纷上场，逐渐走入人们日常生活和工作，虽然本书成书时间较早，但其对待AI的理念仍旧值得学习，技术进步要以开放包容的心态，主动积极作为，规范监管，了解掌握技术，不盲目，真正为我所用。

简而言之，这本书既揭示AI技术的魅力，也泼冷水的提醒潜在风险，为公众、企业与政策制定者提供了一份“防坑指南”