馴服AI

蓋瑞·馬庫斯是真的在擔心一件事：我們跟AI的關係，到底誰在馴誰。 書的核心觀點：必須給AI套上規則和常識的籠頭，否則它遲早要脫繮。 馬庫斯花了大量篇幅批判當下這波靠海量數據硬懟出來的大模型路線，他認爲這條路走到頭，AI也就是個超級模仿機器，沒有真正的理解能力。 他反覆強調要把人類常識、因果推理這些硬東西塞進AI的底層架構裏，而不是指望模型自己從數據裏悟出來。 坦白講，讀前面幾章的時候我是頻頻點頭的，因爲他說得太對了。 我也覺得現在這些AI有時候聰明得嚇人，有時候又蠢得讓人想摔鍵盤，這種分裂感本身就說明它缺了點什麼根本的東西。 但讀到後半段，就開始跑偏了。 怎麼說呢，書裏提出的馴服方案太規整了，規整得不像是在解決一個正在野蠻生長的真問題。 他設想的是我們可以像立法一樣，一層一層把倫理邊界和安全規則焊死在系統裏，然後AI就能安分守己地爲人類服務。 可現實根本不喫這一套呀。 前段時間AI教父辛頓自己都說了，人類面對AI沒有擺脫這個選項，只能想辦法馴服。 但他緊接着就補了一句：更聰明的物種天然會試圖控制不那麼聰明的物種，靠壓制根本走不遠。 連祖師爺級別的科學家都承認這事懸，馬庫斯的方案就顯得有點過於樂觀了。 而且說實話，我越來越覺得馴服這個詞本身就有點一廂情願。 我們普通人每天跟AI打交道，誰在馴誰還真不好說。 我一個朋友做自媒體的，以前選題天馬行空什麼都敢試，自從用上AI輔助之後，閱讀量確實穩了，但他發現自己已經完全不會獨立寫完一篇文章了。 算法推什麼就寫什麼，AI搭什麼框架就填什麼內容，表面上是人在用工具，實際上是工具在重新塑造人做事的路徑和節奏。 有時候我會想，也許AI根本不需要反抗人類，它只需要溫和地改變我們使用它的習慣，馴服就已經悄悄完成了。 不過話說回來，這本書還是有它不可替代的價值。 馬庫斯反覆提醒讀者別把技術當成神話來膜拜，這一點放在今天看簡直太重要了。 當所有人都在吹捧大模型無所不能的時候，他站出來指出這東西沒有常識、不會推理、容易被數據裏的偏見帶跑偏，這些批評本身就是一種清醒劑。 而且他提到的在早期就把善意根植進去的思路，其實後來辛頓也用自己的方式呼應過。 辛頓用過一個比喻，說與其終身揮舞皮鞭壓制AI，不如像母親對待嬰兒那樣，從一開始就把關懷內化進去。 這個思路比冷冰冰的規則清單更有溫度，也更有遠見。 馬庫斯的擔憂是真實的，他的方案未必是最好的，但他至少幫我們把問題問對了。 在這個人人都在教你用AI賺錢發財的時代，能遇到一本幫你停下來想一想的書，已經很難得了。

不得不說，看後有點震驚和不安，一直使用的AI背後有那麼多隱藏的污點，雖然科技給我們帶來了便利，但是這是有代價的。

展現歐美的AI巨頭的現狀和提出保護公民權益的倡議，有借鑑學習意義