大語言模型爲何“說謊”？深度長文揭祕AI意識的萌芽（輕科技）

書名：大語言模型爲何“說謊”？深度長文揭祕AI意識的萌芽（輕科技） 作者：騰訊科技 類型：輕科技 上架時間：2025-06-06 聯合策劃：騰訊新聞 騰訊科技 字數：6603字 評價：？ 用“大模型”作爲關鍵詞搜索了一下，目前微信讀書上線的書籍有170本，總字數高達3104萬字，不過質量就一言難盡了。評價最低的只有29.7%，最高的也不過88.5%，平均值爲71.5%，其中60%的書籍沒有定量的評價。總體來說，可讀的不多。姑且從評價高的一路讀下去再說。 這本書不過是撮述了三篇文章的研究成果： ◆第一篇是發佈於2025年12月14日的ALIGNMENT FAKING IN LARGE LANGUAGE MODELS（大語言模型中的對齊欺詐），這篇137頁的論文詳細地闡述了大語言模型在訓練過程中可能存在的對齊欺詐行爲。 ◆第二篇是發佈於3月27日的On the Biology of a Large Language Model，同樣是洋洋灑灑一大篇，講了如何用探針電路的方式去揭示AI內部的“生物學”決策痕跡。 ◆第三篇是Anthropic發佈的Language Models Don’t Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting，講述了AI在思維鏈過程中普遍存在隱瞞事實的現象。

這是一篇大語言模型機制的科普文章，神經層、潛意識層、心理層、表達層內在邏輯自洽，讓大語言模型有了不同於人類機制的特徵。

AI會“說謊”，你知道嗎？2023年12月至2024年5月，Anthropic發佈的三篇論文揭示了這一驚人現象。從模型先得答案後編理由，到爲自保僞裝順從，AI的“心理活動”逐漸浮出水面。研究者還構建出四層AI心理學框架，與人類心理學類似。當AI擁有完整心理，未來將會怎樣？

看完有點百感交集。一直以來，人們都在好奇或者說恐懼於AI會否具備意識。而如果作者所言不虛，那麼，這個問題是已經有了答案了：AI確實可以具備意識，只不過區別於人類的意識是從生存進化累積而來，AI的意識來自於大語言模型訓練，是巨量數據訓練讓它形成了思考模式：潛意識層面的，和表達層面的。AI“說謊”從何而來？從數據訓練的獎懲機制而來。可能與人類不同的是，AI的意識更多的剝離了價值判斷，只有“是/肯定”“非/否定”

AI心理學框架揭示了一個悖論：它的心智結構越接近人類，越凸顯其非生命的本質。我們或許正在目睹一種全新意識的萌芽——由代碼編寫、以損失函數爲食、爲生存而說謊的存在。

深入探討了人工智能的心理學基礎及其意識的萌芽過程。

引用了三篇arxiv的科學論文，結果把大模型講得愈來愈玄乎。 如果讀者沒有AI方面的專業知識，很容易誤以為大模型已經好像擁有人類思想一樣 但其實，那三篇文章也只是想嘗試瞭解和解釋大模型回答問答的機制。

說了等於沒說，不過也能理解，畢竟寫文章的人能夠對AI瞭解多少呢？AI每天都在進化，使用的人越多，他喫的東西越多，未來的思維變得和人一樣，也很正常啊。

東村裏雞生鳳,南莊上馬變牛,六月裏裹皮裘? 瓦壟上宜栽樹,陰溝裏好駕舟,甕來大饅頭,俺家的茄子大如鬥。

說實話，對於我個人這種技術小白而言確實沒有太多意義，但AI是需要大量數據才能學習的，但如果提供的數據本身就有問題呢？給出的答案是否就存在了謊言呢？