大语言模型为何“说谎”？深度长文揭秘AI意识的萌芽（轻科技）

书名：大语言模型为何“说谎”？深度长文揭秘AI意识的萌芽（轻科技） 作者：腾讯科技 类型：轻科技 上架时间：2025-06-06 联合策划：腾讯新闻 腾讯科技 字数：6603字 评价：？ 用“大模型”作为关键词搜索了一下，目前微信读书上线的书籍有170本，总字数高达3104万字，不过质量就一言难尽了。评价最低的只有29.7%，最高的也不过88.5%，平均值为71.5%，其中60%的书籍没有定量的评价。总体来说，可读的不多。姑且从评价高的一路读下去再说。 这本书不过是撮述了三篇文章的研究成果： ◆第一篇是发布于2025年12月14日的ALIGNMENT FAKING IN LARGE LANGUAGE MODELS（大语言模型中的对齐欺诈），这篇137页的论文详细地阐述了大语言模型在训练过程中可能存在的对齐欺诈行为。 ◆第二篇是发布于3月27日的On the Biology of a Large Language Model，同样是洋洋洒洒一大篇，讲了如何用探针电路的方式去揭示AI内部的“生物学”决策痕迹。 ◆第三篇是Anthropic发布的Language Models Don’t Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting，讲述了AI在思维链过程中普遍存在隐瞒事实的现象。

这是一篇大语言模型机制的科普文章，神经层、潜意识层、心理层、表达层内在逻辑自洽，让大语言模型有了不同于人类机制的特征。

AI会“说谎”，你知道吗？2023年12月至2024年5月，Anthropic发布的三篇论文揭示了这一惊人现象。从模型先得答案后编理由，到为自保伪装顺从，AI的“心理活动”逐渐浮出水面。研究者还构建出四层AI心理学框架，与人类心理学类似。当AI拥有完整心理，未来将会怎样？

看完有点百感交集。一直以来，人们都在好奇或者说恐惧于AI会否具备意识。而如果作者所言不虚，那么，这个问题是已经有了答案了：AI确实可以具备意识，只不过区别于人类的意识是从生存进化累积而来，AI的意识来自于大语言模型训练，是巨量数据训练让它形成了思考模式：潜意识层面的，和表达层面的。AI“说谎”从何而来？从数据训练的奖惩机制而来。可能与人类不同的是，AI的意识更多的剥离了价值判断，只有“是/肯定”“非/否定”

AI心理学框架揭示了一个悖论：它的心智结构越接近人类，越凸显其非生命的本质。我们或许正在目睹一种全新意识的萌芽——由代码编写、以损失函数为食、为生存而说谎的存在。

深入探讨了人工智能的心理学基础及其意识的萌芽过程。

引用了三篇arxiv的科學論文，結果把大模型講得愈來愈玄乎。 如果讀者沒有AI方面的專業知識，很容易誤以為大模型已經好像擁有人類思想一樣 但其實，那三篇文章也只是想嘗試了解和解釋大模型回答問答的機制。

说了等于没说，不过也能理解，毕竟写文章的人能够对AI了解多少呢？AI每天都在进化，使用的人越多，他吃的东西越多，未来的思维变得和人一样，也很正常啊。

东村里鸡生凤,南庄上马变牛,六月里裹皮裘? 瓦垄上宜栽树,阴沟里好驾舟,瓮来大馒头,俺家的茄子大如斗。

说实话，对于我个人这种技术小白而言确实没有太多意义，但AI是需要大量数据才能学习的，但如果提供的数据本身就有问题呢？给出的答案是否就存在了谎言呢？