循環：AI如何影響人類，人類如何應對AI

我們需要怎樣的AI？~木鐸書評之《循環》 這本書篇幅很長，但是它討論了一個非常簡單但是非常棘手的問題：我們需要怎樣的AI？什麼樣的AI才能和人類共存？ 現在AI是一個非常熱的話題，大家都在討論如何利用AI提供我們工作和學習的效率，以及AI對人類就業市場的影響。但是我們很少想一個問題，AI是什麼?我們需要什麼樣的AI? 現在的生成式AI和以往的專業性AI不同，它的使用場景更多，能力更強大，並且具備隨機性和複雜性，所以很多人誤以爲生成式AI是AGI（通用人工智能）到來的前奏。對於生成式AI能不能產生AGI，我們暫時不用過度擔心，首先AGI的定義太模糊，我們很難說清什麼樣的AI纔算是AGI，其次AGI的參照系是人類智能，而現在的生成式AI則是一種完全不同的符號智能，兩者完全無法比較。 爲什麼說現在的生成式AI是一種符號智能呢？因爲它的訓練過程決定了它只能在符號世界中應對自如。生成式AI的訓練分成預訓練，監督微調和強化學習這幾個步驟，這幾個步驟的目的不同，預訓練是爲了讓AI熟悉訓練數據中符號之間的關係，監督微調就像我們作爲家長教小孩說話，是用正確答案來幫AI形成正確的對話方式，強化學習就像學生們刷題一樣，通過比較AI的反饋和人類喜歡的反饋之間的差距讓AI學習到人類的思維模式。 生成式AI對我們最大的意義在於它給我們瞭解自己創造了一面鏡子。我們人類的學習過程和AI的訓練過程是類似的，我們的本能是在幾百萬年的自然演化中形成的，這就有點類似AI的預訓練。我們天生具備語言能力，使用工具的能力，邏輯推理能力，共情能力等本能。在我們的本能逐漸發揮作用的過程中，我們需要父母或其他監護者和我們的大量互動來幫助我們迅速瞭解一些基礎知識，這就類似於AI的監督微調。比如我們雖然天生具有語言能力，但是學會某一種語言的過程中還需要和監護者的大量對話，如何使用工具喫東西也需要監護者的指導。 等我們再長大一些，我們就需要通過其他人的指導和反饋來學習一些生存所需的技能，這就類似AI的強化學習。比如我們通過觀察他人，自己嘗試和獲得他人反饋的過程來學習做飯等生存技能。我們也是通過和同學，老師等其他社會成員的互動來學會如何遵守社會規則和通行的價值觀。強化學習的特點是別人不會像家長那樣直接告訴我們答案，而是要我們通過觀察別人的反饋來不斷微調自己的行爲。 正是因爲現在的AI在訓練過程方面和人類的相似性，所以它才具有廣泛的用途和強大的能力，那麼這些AI是不是也像我們人類一樣也自帶一些缺陷呢？答案是肯定的。我們不得不承認人性不是完美的，人類雖然表現出極高的智能，可以把火箭送往太空，可以觀察微生物，可以編輯生物的基因，可以製作出精密的機械，但是人的認知是在幾百萬年的狩獵採集中形成的，很多默認反應模式在今天看來完全就是bug。 我們經常擔心AI是具有偏見的，但是我們往往不願意承認，我們人類的偏見程度要遠遠高於AI，甚至可以說AI的偏見完全是繼承自人類。人類天生就會對自己和和自己關係親密的人更有好，而對陌生人更警惕和懷疑，越是和我們關係疏遠的，我們越容易懷疑他們對我們有惡意。我們天生容易被團體內的人說服，或是爲了取悅和自己同一團體的人而作出違背自己道德和價值的行爲。 不僅在社會行爲中我們有着默認的行爲模式，甚至我們的飲食和認知習慣都是自帶默認設置的。我們之所以經常走神就是因爲要在狩獵採集的過程中對周圍環境保持警惕和敏感。我們天生無法抑制對甜味的青睞，因爲甜味在自然界中代表了成熟的水果和充足的糖分，這些對我們的生存都是至關重要的。這些默認的習慣是我們幾百萬年的小團體狩獵採集生活的進化環境決定的。 其實人類和AI的認知構建過程是類似的，人類默認的心智模式和行爲習慣是百萬年自然演化形成的，就像AI對人類語言的理解是在大量數據上預訓練出來的一樣，人類也有預訓練，只不過這個過程長達百萬年，並且是在狩獵採集環境下做的預訓練。 人類從狩獵採集到農耕定居，再到工業時代和互聯網時代，這一切的過程不過發生在一萬年內。我們的心智模式和行爲習慣卻是已經在狩獵採集預訓練好了的，這一萬年根本不夠重新做預訓練的時間，也就是說人類都是用狩獵採集時代的心智模式來應對互聯網時代的社會，我們都是一羣披着文明外衣的原始人。 人類的先天心智模式給予我們一定的靈活性，所以我們能用快速的文明演化代替慢悠悠的基因演化，在社會進步的道路上一路狂奔。人類現在所有的文明都是建立在後天對人的培訓和塑造上，就像AI的對話能力是基於強化學習和監督微調一樣。強化學習和監督微調對AI的作用都是有限的，如果預訓練數據中缺乏某些方面的數據，後期訓練很難補上短板。人類也是一樣，文明對人的塑造過程都是後天的，有失效的可能。 如果我們瞭解了人類和AI在認知構建過程中的相似性，我們就能回答本書的核心問題：我們需要什麼樣的AI?我們需要和人類互補的AI，而不是利用人類預訓練過程和現代社會組織能力之間的差距來操縱人性的AI。最典型的操縱人性的AI就是我們每天接觸的社交媒體APP，這些APP都是一些精通人類心理學和認知科學的人開發的，他們開發的AI只預測一件事，如何吸引你的注意力。你的注意力在他們眼中就是滾滾財源，就是廣告收入，所以他們盡全力利用你的天性來吸引你的注意力，不斷刺激你頭腦中的多巴胺分泌。 這些AI在你的社交媒體記錄上進行訓練，它比你自己還了解你，甚至可以通過你的行爲習慣來判斷你的潛意識中的反應。這些AI現在用來按照互聯網巨頭和他們的客戶的利益來對你施加影響，促使你去買他們想賣的東西，促使你去給他們支持的人和政策投票和助威。還有一些AI是根據你的消費數據訓練的，它可以準確地預測你的需求，甚至在你意識到你的需求之前，更加強大的是它還可以幫助互聯網電商爲你製造個性化的需求，把定製化的產品賣給你。 這些AI是互聯網巨頭根據你的數據訓練出來的，但是它們滿足的是這些互聯網巨頭的商業利益，這就有可能出現問題：這些基於你的數據訓練出來的AI卻在日復一日地傷害你的長期利益。你本來應該工作，學習，陪伴家人的時間卻被AI的精準內容推送佔據了，這些AI推送的內容不斷地刺激着你的多巴胺分泌。你本來可以花在自我成長上的金錢卻被AI定製化推送的大量商品消耗了，你除了一屋子的快遞盒子，並沒有得到自己真正需要的成長和快樂，這樣的例子每天都發生在我們身邊。 這些根據個人行爲訓練出來，但是被他人利益需求驅動的AI真的是我們需要的嗎？這些AI真的是符合我們的長期利益嗎？這些問題都是我們需要面對的難題。面對這些難題，我相信需要個人和立法者共同努力規範互聯網巨頭使用個人數據訓練和使用AI的方式，確保這些基於個人數據訓練出來的AI是符合數據擁有者的利益的，而不是喫着人家的飯還砸人家的鍋。 作爲消費者和使用者，我們在購買和使用各種高科技的電子產品之前也要提前想好我們使用這些高科技電子產品的目的和使用方式。比如我們可以給自己規定每天使用幾次微信，每天刷多長時間的短視頻，並且給自己設定好鬧鐘和日程表。 我們應當做好這些高科技產品的主人，而不是被這些高科技產品設計好的算法綁架我們的時間和注意力。我們不要相信憑藉我們的天性就可以使用好這些產品，因爲這些產品的設計者比我們自己更瞭解我們的天性，唯一擺脫這些高科技產品操控的機會就是反天性而行之。 說到底，我們真正需要的AI是幫助我們應對危險乏味任務的，是幫助我們用新的角度認識這個世界的，是用來幫助我們成長的，而不是用我們自己的行爲數據操控我們的，讓我們沉溺於低質量的多巴胺刺激的。AI真正的作用應該是讓我們發現新的星辰大海，而不是一種新的神經毒品，把我們變成《黑客帝國》中人形電池，這是我們需要共同努力的方向。

還行 賭場角度切入不深 前面和中間的一些部分寫的有參考價值