驯服AI

盖瑞·马库斯是真的在担心一件事：我们跟AI的关系，到底谁在驯谁。 书的核心观点：必须给AI套上规则和常识的笼头，否则它迟早要脱缰。 马库斯花了大量篇幅批判当下这波靠海量数据硬怼出来的大模型路线，他认为这条路走到头，AI也就是个超级模仿机器，没有真正的理解能力。 他反复强调要把人类常识、因果推理这些硬东西塞进AI的底层架构里，而不是指望模型自己从数据里悟出来。 坦白讲，读前面几章的时候我是频频点头的，因为他说得太对了。 我也觉得现在这些AI有时候聪明得吓人，有时候又蠢得让人想摔键盘，这种分裂感本身就说明它缺了点什么根本的东西。 但读到后半段，就开始跑偏了。 怎么说呢，书里提出的驯服方案太规整了，规整得不像是在解决一个正在野蛮生长的真问题。 他设想的是我们可以像立法一样，一层一层把伦理边界和安全规则焊死在系统里，然后AI就能安分守己地为人类服务。 可现实根本不吃这一套呀。 前段时间AI教父辛顿自己都说了，人类面对AI没有摆脱这个选项，只能想办法驯服。 但他紧接着就补了一句：更聪明的物种天然会试图控制不那么聪明的物种，靠压制根本走不远。 连祖师爷级别的科学家都承认这事悬，马库斯的方案就显得有点过于乐观了。 而且说实话，我越来越觉得驯服这个词本身就有点一厢情愿。 我们普通人每天跟AI打交道，谁在驯谁还真不好说。 我一个朋友做自媒体的，以前选题天马行空什么都敢试，自从用上AI辅助之后，阅读量确实稳了，但他发现自己已经完全不会独立写完一篇文章了。 算法推什么就写什么，AI搭什么框架就填什么内容，表面上是人在用工具，实际上是工具在重新塑造人做事的路径和节奏。 有时候我会想，也许AI根本不需要反抗人类，它只需要温和地改变我们使用它的习惯，驯服就已经悄悄完成了。 不过话说回来，这本书还是有它不可替代的价值。 马库斯反复提醒读者别把技术当成神话来膜拜，这一点放在今天看简直太重要了。 当所有人都在吹捧大模型无所不能的时候，他站出来指出这东西没有常识、不会推理、容易被数据里的偏见带跑偏，这些批评本身就是一种清醒剂。 而且他提到的在早期就把善意根植进去的思路，其实后来辛顿也用自己的方式呼应过。 辛顿用过一个比喻，说与其终身挥舞皮鞭压制AI，不如像母亲对待婴儿那样，从一开始就把关怀内化进去。 这个思路比冷冰冰的规则清单更有温度，也更有远见。 马库斯的担忧是真实的，他的方案未必是最好的，但他至少帮我们把问题问对了。 在这个人人都在教你用AI赚钱发财的时代，能遇到一本帮你停下来想一想的书，已经很难得了。

不得不说，看后有点震惊和不安，一直使用的AI背后有那么多隐藏的污点，虽然科技给我们带来了便利，但是这是有代价的。

展现欧美的AI巨头的现状和提出保护公民权益的倡议，有借鉴学习意义