循环：AI如何影响人类，人类如何应对AI

我们需要怎样的AI？~木铎书评之《循环》 这本书篇幅很长，但是它讨论了一个非常简单但是非常棘手的问题：我们需要怎样的AI？什么样的AI才能和人类共存？ 现在AI是一个非常热的话题，大家都在讨论如何利用AI提供我们工作和学习的效率，以及AI对人类就业市场的影响。但是我们很少想一个问题，AI是什么?我们需要什么样的AI? 现在的生成式AI和以往的专业性AI不同，它的使用场景更多，能力更强大，并且具备随机性和复杂性，所以很多人误以为生成式AI是AGI（通用人工智能）到来的前奏。对于生成式AI能不能产生AGI，我们暂时不用过度担心，首先AGI的定义太模糊，我们很难说清什么样的AI才算是AGI，其次AGI的参照系是人类智能，而现在的生成式AI则是一种完全不同的符号智能，两者完全无法比较。 为什么说现在的生成式AI是一种符号智能呢？因为它的训练过程决定了它只能在符号世界中应对自如。生成式AI的训练分成预训练，监督微调和强化学习这几个步骤，这几个步骤的目的不同，预训练是为了让AI熟悉训练数据中符号之间的关系，监督微调就像我们作为家长教小孩说话，是用正确答案来帮AI形成正确的对话方式，强化学习就像学生们刷题一样，通过比较AI的反馈和人类喜欢的反馈之间的差距让AI学习到人类的思维模式。 生成式AI对我们最大的意义在于它给我们了解自己创造了一面镜子。我们人类的学习过程和AI的训练过程是类似的，我们的本能是在几百万年的自然演化中形成的，这就有点类似AI的预训练。我们天生具备语言能力，使用工具的能力，逻辑推理能力，共情能力等本能。在我们的本能逐渐发挥作用的过程中，我们需要父母或其他监护者和我们的大量互动来帮助我们迅速了解一些基础知识，这就类似于AI的监督微调。比如我们虽然天生具有语言能力，但是学会某一种语言的过程中还需要和监护者的大量对话，如何使用工具吃东西也需要监护者的指导。 等我们再长大一些，我们就需要通过其他人的指导和反馈来学习一些生存所需的技能，这就类似AI的强化学习。比如我们通过观察他人，自己尝试和获得他人反馈的过程来学习做饭等生存技能。我们也是通过和同学，老师等其他社会成员的互动来学会如何遵守社会规则和通行的价值观。强化学习的特点是别人不会像家长那样直接告诉我们答案，而是要我们通过观察别人的反馈来不断微调自己的行为。 正是因为现在的AI在训练过程方面和人类的相似性，所以它才具有广泛的用途和强大的能力，那么这些AI是不是也像我们人类一样也自带一些缺陷呢？答案是肯定的。我们不得不承认人性不是完美的，人类虽然表现出极高的智能，可以把火箭送往太空，可以观察微生物，可以编辑生物的基因，可以制作出精密的机械，但是人的认知是在几百万年的狩猎采集中形成的，很多默认反应模式在今天看来完全就是bug。 我们经常担心AI是具有偏见的，但是我们往往不愿意承认，我们人类的偏见程度要远远高于AI，甚至可以说AI的偏见完全是继承自人类。人类天生就会对自己和和自己关系亲密的人更有好，而对陌生人更警惕和怀疑，越是和我们关系疏远的，我们越容易怀疑他们对我们有恶意。我们天生容易被团体内的人说服，或是为了取悦和自己同一团体的人而作出违背自己道德和价值的行为。 不仅在社会行为中我们有着默认的行为模式，甚至我们的饮食和认知习惯都是自带默认设置的。我们之所以经常走神就是因为要在狩猎采集的过程中对周围环境保持警惕和敏感。我们天生无法抑制对甜味的青睐，因为甜味在自然界中代表了成熟的水果和充足的糖分，这些对我们的生存都是至关重要的。这些默认的习惯是我们几百万年的小团体狩猎采集生活的进化环境决定的。 其实人类和AI的认知构建过程是类似的，人类默认的心智模式和行为习惯是百万年自然演化形成的，就像AI对人类语言的理解是在大量数据上预训练出来的一样，人类也有预训练，只不过这个过程长达百万年，并且是在狩猎采集环境下做的预训练。 人类从狩猎采集到农耕定居，再到工业时代和互联网时代，这一切的过程不过发生在一万年内。我们的心智模式和行为习惯却是已经在狩猎采集预训练好了的，这一万年根本不够重新做预训练的时间，也就是说人类都是用狩猎采集时代的心智模式来应对互联网时代的社会，我们都是一群披着文明外衣的原始人。 人类的先天心智模式给予我们一定的灵活性，所以我们能用快速的文明演化代替慢悠悠的基因演化，在社会进步的道路上一路狂奔。人类现在所有的文明都是建立在后天对人的培训和塑造上，就像AI的对话能力是基于强化学习和监督微调一样。强化学习和监督微调对AI的作用都是有限的，如果预训练数据中缺乏某些方面的数据，后期训练很难补上短板。人类也是一样，文明对人的塑造过程都是后天的，有失效的可能。 如果我们了解了人类和AI在认知构建过程中的相似性，我们就能回答本书的核心问题：我们需要什么样的AI?我们需要和人类互补的AI，而不是利用人类预训练过程和现代社会组织能力之间的差距来操纵人性的AI。最典型的操纵人性的AI就是我们每天接触的社交媒体APP，这些APP都是一些精通人类心理学和认知科学的人开发的，他们开发的AI只预测一件事，如何吸引你的注意力。你的注意力在他们眼中就是滚滚财源，就是广告收入，所以他们尽全力利用你的天性来吸引你的注意力，不断刺激你头脑中的多巴胺分泌。 这些AI在你的社交媒体记录上进行训练，它比你自己还了解你，甚至可以通过你的行为习惯来判断你的潜意识中的反应。这些AI现在用来按照互联网巨头和他们的客户的利益来对你施加影响，促使你去买他们想卖的东西，促使你去给他们支持的人和政策投票和助威。还有一些AI是根据你的消费数据训练的，它可以准确地预测你的需求，甚至在你意识到你的需求之前，更加强大的是它还可以帮助互联网电商为你制造个性化的需求，把定制化的产品卖给你。 这些AI是互联网巨头根据你的数据训练出来的，但是它们满足的是这些互联网巨头的商业利益，这就有可能出现问题：这些基于你的数据训练出来的AI却在日复一日地伤害你的长期利益。你本来应该工作，学习，陪伴家人的时间却被AI的精准内容推送占据了，这些AI推送的内容不断地刺激着你的多巴胺分泌。你本来可以花在自我成长上的金钱却被AI定制化推送的大量商品消耗了，你除了一屋子的快递盒子，并没有得到自己真正需要的成长和快乐，这样的例子每天都发生在我们身边。 这些根据个人行为训练出来，但是被他人利益需求驱动的AI真的是我们需要的吗？这些AI真的是符合我们的长期利益吗？这些问题都是我们需要面对的难题。面对这些难题，我相信需要个人和立法者共同努力规范互联网巨头使用个人数据训练和使用AI的方式，确保这些基于个人数据训练出来的AI是符合数据拥有者的利益的，而不是吃着人家的饭还砸人家的锅。 作为消费者和使用者，我们在购买和使用各种高科技的电子产品之前也要提前想好我们使用这些高科技电子产品的目的和使用方式。比如我们可以给自己规定每天使用几次微信，每天刷多长时间的短视频，并且给自己设定好闹钟和日程表。 我们应当做好这些高科技产品的主人，而不是被这些高科技产品设计好的算法绑架我们的时间和注意力。我们不要相信凭借我们的天性就可以使用好这些产品，因为这些产品的设计者比我们自己更了解我们的天性，唯一摆脱这些高科技产品操控的机会就是反天性而行之。 说到底，我们真正需要的AI是帮助我们应对危险乏味任务的，是帮助我们用新的角度认识这个世界的，是用来帮助我们成长的，而不是用我们自己的行为数据操控我们的，让我们沉溺于低质量的多巴胺刺激的。AI真正的作用应该是让我们发现新的星辰大海，而不是一种新的神经毒品，把我们变成《黑客帝国》中人形电池，这是我们需要共同努力的方向。

还行 赌场角度切入不深 前面和中间的一些部分写的有参考价值