人工沟通与法：算法如何生产社会智能

《人工沟通与法：算法如何生产社会智能》｜埃琳娜·埃斯波西托 一句话概括 这是一本用社会系统理论重新解释算法的著作：算法未必像人一样思考，却能作为沟通伙伴参与社会，从而改变我们组织信息、理解个人、保存记忆、预测未来和实施法律的方式。 核心逻辑 全书围绕“人工智能不如说是人工沟通”展开： 1. 机器无需拥有人的意识，也可以参与沟通并影响社会。2. 列表、排名和可视化等算法形式，会重新组织信息和注意力。3. 个性化系统不必真正认识个人，也能依据数据生产有效画像。4. 数字平台改变了社会记忆、遗忘和图像体验。5. 算法预测不只是描述未来，也会反过来塑造未来。6. 法律AI的关键问题不仅是技术透明，还包括解释、责任与正当性。7. 人类需要学习如何与不理解意义、却能够产生社会后果的机器沟通。 核心观点是：研究算法不能只问“机器是否聪明”，更要问“机器参与了什么沟通，以及这种沟通怎样改变社会”。 核心内容 1. 从“人工智能”转向“人工沟通” 人们习惯把算法与人类智能类比，讨论机器能不能思考、理解或拥有意识。 作者认为，这种类比可能掩盖算法真正的社会作用。一个系统不必像人一样理解内容，也可以： - 回答问题。- 推荐商品和信息。- 排列搜索结果。- 生成文本和图像。- 判断风险。- 参与法律和行政决策。- 改变人们下一步的行动。 算法的社会重要性来自它能够进入沟通过程，而不是来自它是否拥有人的内心世界。 2. 人类可以与“不思考”的伙伴沟通 通常我们认为沟通双方都应理解信息，但数字社会已经出现大量不同情况： - 搜索引擎不理解用户，却能回应查询。- 推荐系统不认识个人，却能预测偏好。- 聊天程序没有生活经验，却能生成恰当话语。- 风险模型不理解案件，却能影响法律判断。- 平台算法没有立场，却能改变公共讨论的可见度。 这类互动之所以成立，是因为人会解释算法输出、调整自己的行为，并把它当作下一轮沟通的依据。 换言之，意义主要由社会使用过程产生，不必预先存在于机器内部。 3. “虚拟偶联”让算法成为沟通伙伴 人和算法之间并不是传统的人际关系。用户通常不知道算法如何运作，算法也不理解用户的真实意图。 双方依然可以形成一种虚拟的连接： 1. 用户提供查询、点击、停留和选择。2. 算法根据数据生成输出。3. 用户解释并回应输出。4. 新行为又成为算法下一轮计算的数据。5. 互动不断循环并逐渐塑造彼此。 这里的“伙伴”并不意味着平等主体，而是说明算法已经进入沟通链条，并能产生可观察的后续效果。 4. “谷歌化”改变知识的可见性 搜索引擎不只是帮助人找到已有知识，还会根据排序决定什么更容易被看见。 当搜索排名成为获取信息的主要入口时： - 可见性被当成重要性。- 点击量影响未来排名。- 用户更少接触排序靠后的内容。- 优化算法的行为反过来改变网页生产。- 搜索结果逐渐成为现实判断的参照。 因此，算法并非中性地复制社会信息，而是通过筛选、排序和反馈参与知识秩序的形成。 5. 算法“学习”与人的学习不同 机器学习从数据中提取统计模式，通过误差反馈调整参数。它不必理解概念的意义，也能提高预测或分类效果。 人类则会在社会关系、语言、身体经验和价值判断中学习。 机器学习更接近： - 找到重复模式。- 估计变量之间的关系。- 根据历史数据预测结果。- 优化预先规定的目标。- 从反馈中调整模型。 机器学会的是完成某项任务的方法，而不是人类意义上的生活知识。社会必须学习如何理解、使用和限制这种不同类型的学习。 6. 列表、评级和排名创造秩序 列表看似只是整理信息，实际会主动塑造现实。 当学校、医院、商品、员工或城市被评分和排名时： - 不同对象被放进同一个比较框架。- 复杂差异被压缩成少数指标。- 排名靠前的对象获得更多关注和资源。- 被评价者会调整行为迎合指标。- 指标可能从测量工具变成行动目标。 算法化列表无需真正理解对象，也能产生强大的组织能力。 问题不只是排名是否计算准确，还包括谁选择了指标、哪些价值被排除，以及被评价者能否质疑结果。 7. 数字可视化是一种新的阅读方式 数字文本分析会把大量作品、词语和关系转换成图表、网络与空间分布。 这种“远距离阅读”能够发现单篇阅读不易察觉的整体模式，例如： - 某类词语随时代变化的趋势。- 人物关系网络。- 文学类型之间的结构差异。- 大规模文本中的聚类与异常。 但可视化并不直接给出意义。图像仍需要人解释，结果也受到数据选择、算法参数和视觉设计影响。 算法式阅读扩展了阅读范围，却不能完全替代对具体文本、历史语境和语言细节的理解。 8. 算法个性化并不需要认识“真正的你” 推荐系统常让人觉得“它比我更了解我”，但算法未必需要形成完整、稳定的人格描述。 系统可以根据特定场景中的行为预测下一步： - 看过什么。- 点击了什么。- 与哪些用户相似。- 当前时间和位置是什么。- 哪种内容最可能提高互动。- 哪类商品最可能被购买。 这种个性化具有匿名性和行为性：系统关注的是怎样产生有效回应，而不一定关心你究竟是谁。 9. 个性化也会带来标准化 个性化看似让每个人获得独特体验，背后却依赖标准分类和可计算特征。 用户需要先被转换成： - 兴趣标签。- 风险分数。- 消费类别。- 相似用户群。- 可预测行为模式。- 平台能够处理的数据字段。 因此，个性化和标准化并非对立。平台越想针对个人，就越需要把个人表示成统一的数据结构。 个性化结果还会反过来影响选择，让人更频繁接触算法认为自己喜欢的东西，逐渐收窄探索范围。 10. 数字记忆改变了社会如何遗忘 传统社会中的遗忘往往自然发生：信息难以保存、查找和传播，时间会削弱过去的影响。 数字平台却可以低成本保存、复制和检索数据，使过去持续出现在现在： - 旧新闻仍可被搜索。- 多年前的言论可以重新传播。- 用户画像不断累积历史行为。- 数据可能脱离最初语境继续被使用。- 个人难以知道哪些记录仍被保留。 这使“被遗忘权”成为重要法律议题。它不是简单删除历史，而是在公共知情、历史记录、个人尊严和数据控制之间寻找平衡。 11. 算法记忆不等于人的记忆 人的记忆会选择、重构并遗忘。遗忘能够减弱细节、更新身份，并让人从过去进入新的生活。 数据库则可以长久保存大量记录，却未必理解： - 信息当初为何产生。- 当时处于什么语境。- 个人后来是否改变。- 某条记录是否仍然相关。- 继续使用会造成什么伤害。 数字系统可能“记住”数据，却没有人的回忆经验。社会需要用法律、制度和技术规则，决定数据何时应被保留、限制、更新或删除。 12. 摄影从保存过去转向制造现在 传统摄影常被视为保存重要时刻的方法。智能手机和社交平台则让拍摄成为持续发生的日常活动。 图像不仅用于未来回忆，也用于当下： - 证明自己正在某处。- 向他人展示生活。- 获得点赞和互动。- 调整个人形象。- 参与公共事件。- 为平台提供识别和推荐数据。 过度记录可能让人更关注怎样呈现体验，而不是怎样经历体验。图像保存得越来越多，却未必形成更丰富的记忆。 13. 算法预测管理不确定性 统计预测根据过去的群体规律估计未来概率，机器学习则能利用更多变量进行高度个性化的预测。 算法预测可以用于： - 信贷和保险风险。- 犯罪与治安。- 医疗诊断。- 招聘和教育。- 消费与内容推荐。- 法院量刑和案件管理。 这些预测并不只是被动描述未来。机构会根据预测分配资源、加强审查或改变待遇，进而影响预测对象的实际未来。 14. 预测可能通过行动制造结果 如果系统认为某人风险较高，机构可能对其加强监督、减少机会或提高成本。这些行动可能使对方更难改善处境，最终让预测看起来正确。 反过来，一个正确预测也可能因为干预成功而在结果上“显得错误”： - 模型预测某人会发病。- 医生因此提前治疗。- 疾病最终没有发生。- 结果似乎推翻了预测，实际却可能证明干预有效。 评价算法不能只看预测结果是否发生，还要分析预测如何改变了后续行动。 15. 过拟合让模型准确描述过去，却无法面对未来 算法可以在历史数据上表现很好，却因过度学习偶然细节而无法适应新环境。 过拟合意味着： - 模型捕捉了噪声而非稳定规律。- 数据中的旧偏见被当作未来规则。- 一旦环境变化，性能迅速下降。- 少数罕见群体容易被错误分类。- 模型看似精确，实际缺乏迁移能力。 预测系统需要独立验证、持续监控和定期更新，也必须承认未来始终包含无法从过去推导的不确定性。 16. 法律AI不能只追求“打开黑箱” 法律领域要求决定具有理由、能够申诉并符合正当程序，因此算法透明度十分重要。 但公开代码或模型参数不等于真正解释： - 普通人可能无法理解技术细节。- 模型结构不能说明为何对某个个案作出决定。- 训练数据和目标函数同样影响结果。- 法律理由不仅是因果描述，也包含规范判断。- 完全透明可能暴露隐私、安全和商业信息。 真正有效的解释应针对具体对象和具体问题，说明哪些因素影响结果、规则如何适用，以及决定能否被质疑和纠正。 17. 模糊性在法律中并非纯粹缺陷 法律语言经常包含“合理”“适当”“重大”等开放概念。这种模糊性使规则能够适应复杂事实和不断变化的社会。 算法倾向把问题转化为明确变量和固定分类，但法律判断还需要： - 解释语境。- 比较先例。- 权衡冲突价值。- 考虑比例和公平。- 说明例外。- 为新的情况保留调整空间。 如果为了机器处理而消除所有模糊性，法律可能失去应对具体个案的弹性。 18. 人工沟通需要新的责任结构 算法没有人的责任感，却能参与产生重要社会结果。责任不能因此消失，也不能简单归给“机器”。 需要明确： - 谁设定目标。- 谁选择和标注数据。- 谁决定模型适用场景。- 谁监控错误和偏差。- 谁向受影响者提供解释。- 谁处理申诉和纠正。- 谁承担最终决策责任。 算法可以辅助法律、行政和商业判断，但制度必须保留人类可审查、可纠错和可问责的入口。 本书最值得关注的核心观点 算法最重要的社会能力，不是模仿人的思想，而是让人类围绕其输出展开新的沟通和行动。 因此，评价算法不应只看它“聪不聪明”或“预测准不准”，还要观察： 它让什么变得可见？把谁归入了什么类别？谁会依据结果采取行动？受影响者能否理解、质疑和改变结果？ 真正需要治理的，不只是模型内部的计算过程，更是算法嵌入社会以后形成的整个沟通与责任链条。 一段话总结 《人工沟通与法》借助卢曼的社会沟通理论，提出机器学习等数字技术与其被称为“人工智能”，不如被理解为“人工沟通”：算法无需像人一样思考或理解，也能通过搜索、推荐、排名、画像、预测和生成内容进入社会沟通过程。全书依次分析列表和评级如何组织现实，数字可视化如何改变阅读，算法个性化如何同时依赖标准化，平台数据如何重塑社会记忆、遗忘和图像体验，以及算法预测如何通过机构行动制造未来。法律部分进一步指出，AI治理不能只追求技术透明，还要提供针对个案的有效解释、申诉和纠错机制，并保留法律语言应对复杂情境所需的模糊性。全书最核心的启发是：算法的社会力量并不取决于它是否拥有人的智能，而取决于人类如何解释、依赖并回应其输出；因此，真正需要审视的是算法构成的沟通秩序、行为反馈和责任结构。

有很多的点值得思考与探讨，也可能涉及的学科过多或者内容冗杂，对很多问题的讨论都比较浅尝辄止。奇怪的是阅读的时候总会产生一些撕裂感，如果能抛弃那种脑子里的概念和书中所提及的内容的差异与撕裂感，还是有很多内容可以思考的。

壮壮老哥的译作很棒，人工智能治理研究者必看！