AI新生：破解人機共存密碼·人類最後一個大問題

ChatGpt讓人們驚詫於 Al技術的突飛猛進，也不得不認真思考人類的前途命運：是不是機器控制人類的時代即將到來？我們如何應對？常言道，當你走進死衚衕時，最好掉頭返回，找出走錯的地方。維護信譽系統功能的第一種方法，是注入儘可能接近事實的來源。 20世紀70年代初，生物學家開始擔心，新的重組DNA技術——將一個有機體的基因連接到另一個有機體上，可能會給人類健康和全球生態系統帶來巨大風險。1973年和1975年在加利福尼亞州的阿西洛馬舉行的兩次會議首次讓這類實驗暫停下來，然後人們制定了針對一切相關實驗風險的詳細生物安全指導方針。有些種類的實驗，如涉及毒素基因的實驗，因被認爲太危險而被禁止。 從比爾·蓋茨、埃隆·馬斯克到霍金，衆多企業家和科學家都曾表示擔心AI對人類生存造成威脅。他們擔心真的有一天，人類會成爲自己發明的機器的受害者嗎？ 在過去很長的一段時間，人類之所以能控制地球，是因爲人類的大腦比其他動物的大腦要複雜得多。但如果AI變得比人類更聰明，我們要如何掌控這個世界？智能是一種權力，我們能否控制智能，決定了我們未來的命運。 這本書講述了我們爲理解和創造智能，在過去、現在和未來所做的嘗試。這很重要，並不是因爲AI正迅速成爲當前的一種普遍現象，而是因爲它是未來的主導技術。世界上的各個大國正在意識到這一事實，各家大公司也早就知道了這一點。 作者在書中提出了一個大問題：如何破解人機共存密碼，掌控比我們強大得多的智能，讓AI獲得新生？這可能是人類面臨的最後一個大問題。這本書的目的是解釋爲什麼這可能是人類歷史上的最後一件事，以及如何確保這不會成爲現實。

非常推薦，雖然你不應該期望看了這書就可以掌握AI的魔法。如果定要學技術可以找找本書作者的另一本書。即便如此還是很推薦，關於AI的思考或者短期內都無解，但是思考本身勝過結果，畢竟當可能性空間無限張開，複雜性和建模過程都對於人類大腦來說難免有點超負荷。說起來，如果真的有造物主，人類不知道算不算ta創造的MVP，有很多問題ta或許未必思考過或者說，至少ta未必有清楚的明確的答案才着手開始工作的吧？作爲產品經理ta可能真的不在意時間，似乎也不在意結果，所以進化既偉大而專注又顯得漫無目標充滿了隨機性的驚嚇和驚豔…那麼人類的創造呢？AI如果是人類的創造，我們怎麼能在自己也沒找到答案的情況下期望教育好孩子？這些問題迷人而令人生畏，讀一本好書，讓整個週末熠熠生輝。

斯圖爾特·羅素《AI新生：破解人機共存密碼·人類最後一個大問題》，這整本書都在圍繞如果人類發明了超級人工智能該如何？ “機器越智能越好，但我們必須做好功課才能做到這一點。”當前的科學突破還不足以使我們實現它，但是作者眼裏它是可期許的未來，“我們必須面對的事實是，我們正計劃着製造出遠比人類強大的實體。我們如何確保它們永遠不會掌控我們？”人類需要爲此做好準備。 作者提出了有益機器的原則: “1.機器的唯一目標是最大限度地實現人類的偏好。 2.機器最初不確定這些偏好是什麼。 3.關於人類偏好的最終信息來源是人類行爲。” 這三條原則主要用於指導人工智能研究人員和開發人員如何創建有益的人工智能系統。它們並非人工智能系統要遵循的明確定律。 作者還用數學做了相應推理，並從效益主義的視角分析了人類複雜性，看不太懂，但是作者希望藉此實現“可證明有益的人工智能”。 想法雖然好，但是“結局如何，還有待觀察。” 我想不只是他一個人沒有答案，好像還沒誰有。 有點囉嗦的一本書。

當我們無法確定自己想成爲什麼樣的人時，行動時可以參照“職業生涯的VSOP”理論。 20歲年齡段：變化(V)——多嘗試； 30歲年齡段：專業(S)——深耕專業； 40歲年齡段：創意(O)——讓人感受到你獨有的特色； 50歲年齡段：人格(P)——讓人想與你合作。 我將VSOP理論發展了一下，變成VSOP-EL 理論: E（Ecosystem）生態（60歲） 從“個體價值”轉向“系統創造”，如張忠謀臺積電退休後主導半導體產業聯盟 MIT 2023年研究顯示：成功企業家的第二曲線68%始於60-65歲 L（Lighthouse）燈塔（70歲） 牛津大學職業研究所提出：智慧資本轉化率在70歲達到峯值 典型案例：宮崎駿78歲創作《你想活出怎樣的人生》獲奧斯卡

AI行業大師羅素的扛鼎之作，在chatGPT世界流行的當口，讀完感受頗深。 書中點明瞭AI威脅，是AI產生的超級AI，也就是能夠思考的“智慧”AI。作者細緻剖析了目標導向和偏好導向的區別，認爲不能讓AI侷限於實現具體的某個目標，因爲不同的目標之間會有衝突、實現目標可能達到意想不到的副作用，以及不同的羣體甚至壞人能夠用AI作惡；而偏好導向，則是一種基於道德規則等的綜合思考，讓AI能夠結合整體社會來做出綜合判斷，前提是爲了避免傷害人類可以犧牲自己。 對於書中的觀點我有點無法苟同：如果AI已經產生智慧，產生了情感，那是不是也應該算作智慧生命的範疇，那麼人類憑什麼讓AI爲了人類犧牲自己？實力強大的AI又爲什麼不爲了自己“種羣”的利益消滅人類？ 爲了規避未來AI對人類產生的種種威脅，作者舉出了種種方法。但我同樣無法苟同，原因很簡單，不像基因技術之類的還有物理層面的限制措施，這世界上AI科學家太多了，而且各有各的想法和習慣，互聯網最大的特點就是沒有監管、肆意創新，要想讓別人把這些方法應用於技術開發，真的是難上加難，因爲人類有時候往往是最愚蠢和目光短淺，爲了眼前的名利根本不考慮全人類的未來。 讀完這本書，覺得AI時代早晚會到來。其實AI時代已經來臨，模特、攝影、設計、編程等行業已經受到了巨大沖擊。但是更可怕的是超級AI時代，感覺無可避免，甚至速度會出乎人類的想象。就好像工業時代人類的進化速度是之前的幾千倍一樣，AI時代的進化速度很有可能大大超乎人類的想象。當那一天到來的時候，我們又會在哪裏，做些什麼？

計算機，人工智能的發展，讓人類越來越享受高科技。從智能手機到智能家居，智能化設備的確讓人類的認知和生活便利提高到一個很舒適的高度。只是在舒適中我們也體驗着危機。工業革命取代了人工業，人在機器的主導下生產機械式勞作，人淪爲機器的勞動奴隸。智能手機讓使用者最快速的獲取所需知識和信息，信息的不準確化導致難辨真僞，導致一部分不愛思考的人隨大流人云亦云，人淪爲互聯網的思考奴隸。互聯網手機文化，抖音，遊戲，讓我們對手機愛不釋手，以至於遠離親人朋友，交流靠手機，娛樂靠手機，手機變成我們生活中的絕大部分。手機沒電已經成爲一部分人最大的恐慌。 未來，人工智能的發展，會不會先掠奪人的體力工作，再而掠奪人類的腦力勞動？很有可能，現今人工智能已經逐步取代了航空業的航班安排工作，導致機器故障機場處於停滯狀態。全自動工廠完成整個生產過程也只需要幾個人的操作。機器不但剝奪了人類的工作機會，未來還準備侵略思考領域。難怪圖靈和霍金要求延遲人工智能的開發和利用，人類的發展將在風口浪尖上面臨更大的危險。

《AI新生》：在技術狂飆前叩問控制權的終極命題 當2016年DeepMind的AlphaGo擊敗頂尖圍棋冠軍，AI徹底從實驗室走入公衆視野，成爲席捲全球的熱議話題。而《AI新生》的英文版恰於2019年問世，中文版緊隨其後在2020年落地，這一出版時機絕非偶然。早在AI技術井噴的十餘年前，作者便已深耕“人工智能安全”這一前瞻性議題，在全民爲技術突破歡呼之時，冷靜拋出“如何避免失控”的根本追問，其對領域的深度跟蹤與戰略視野，在喧囂的技術狂熱中更顯珍貴。 貫穿全書的核心命題，始終是“控制權”的終極悖論：倘若未來機器智能全面超越人類，誰將手握最終的決策權力？作者以一針見血的論斷刺破技術樂觀主義的泡沫——如果在AI研發中單純追求“更聰明”，卻將“對齊與安全”拋諸腦後，人類終將從技術的創造者淪爲被動的依附者，甚至面臨被反噬的生存危機。這一觀點顛覆了“先發展再規範”的慣性思維，直指行業痛點：“可控”必須是AI設計的先決條件，而非事後彌補的補丁，這既是對技術倫理的堅守，更是對人類命運的負責。 而當我們試圖解構“AI控制權”這一抽象命題時，從歷史規律中可以提煉出極具啓發性的參照系——這並非書中的觀點，而是基於歷史洞察的延伸思考。回看楚漢爭霸與明初基業的建立，劉邦、朱元璋在創業初期，便對麾下能力強於自身且難以掌控的文臣武將保持高度警惕，從招納賢才的那一刻起，他們便在思考、觀察並調整應對策略，防止這些潛在的“強力量”反噬自身、稀釋權力。這種對“控制權”的前置性把控，與《AI新生》探討的核心問題，有着驚人的底層邏輯共通性：二者都是在面對“可能超越自身的強大存在”時，提前思考“如何規避失控風險”。 當然，這兩類問題的場域與解法截然不同。劉邦、朱元璋的應對之策，植根於封建時代的人性博弈與權力規則，倚仗的是威權制衡與血緣紐帶；而《AI新生》聚焦的AI安全命題，則落腳於科學領域與技術層面，需要依靠制度設計、算法優化與工程實踐的三重保障。作者在書中以核技術類比AI，反覆強調“能力越強，風險越高，越需要剛性的外部約束”，這一論斷恰好與歷史洞察形成呼應——無論是人類社會的權力博弈，還是科技領域的智能探索，“控風險”永遠要先於“追效能”。 縱觀全書，一條清晰的邏輯脈絡貫穿始終：敏銳的出版時機，折射出作者超越時代的前瞻性；“控制權”的核心追問，構成全書不變的思想主線；而從歷史規律中延伸出的跨界思考，則爲抽象的技術難題提供了具象的參照系；真正的終極挑戰，在於如何將這些跨越古今的洞見，轉化爲一套可落地、可執行的AI安全架構。《AI新生》的價值，從來不止於對技術風險的預警，更在於爲人類提供了一個開放性的思考框架——在技術狂飆的時代，唯有以歷史爲鏡、以安全爲綱，才能讓AI真正成爲服務人類的“新生力量”，而非懸於頭頂的“達摩克利斯之劍”。

這是一本關於AI的倫理書，裏面的思考挺全面，好多的東西我確實以前沒有想到過，能給我很多的聯想和啓迪，至於裏面的觀點是對是錯，個人可能有個人的想法，但是沒有爭論就沒有進步，看完之後感覺還是很開心的。推薦。

《AI新生》最核心的一句貢獻是——我們不必造一個"追求自己目標"的神，而可以造一個"永遠不確定自己是否懂你、因而永遠謙卑"的助手。把目標從"機器的最大化對象"換成"人類的偏好"，並把不確定性保留下來，超級智能就從"最後一個大問題"變成"可共存的同伴"。問題沒徹底解決，但方向被作者清晰地扭轉了：安全不是給強機器套枷鎖，而是從一開始就不讓它自以爲知道你想要什麼。

『5個“人類未來最大事件”的候選選項： 1. 我們滅亡了（因爲小行星撞擊、氣候災難、流行病等）。 2. 我們都能永生（醫學攻克了衰老）。 3. 我們發明了超光速旅行，征服了宇宙。 4. 高級外星文明造訪了我們。 5. 我們發明了超級人工智能。 我認爲第5個候選選項，即我們發明了超級人工智能，將會勝出，因爲如果可能，超級人工智能將幫助我們避免災難，實現永生和超光速旅行。它將代表我們文明的一次巨大飛躍，或者說一次突變。超級人工智能的到來在許多方面類似於高級外星文明的到來，但前者更有可能發生。也許最重要的是，人工智能不同於外星人，它是我們對其有發言權的東西。（摘錄）』