生命3.0：AI超級智能與倫理邊界重構

純陽書評（公衆號:純陽書評／微信號:chimbusco88）這本書相當另類，但其另類並不是源自於它的主題，而是來自於因其內容所應獲得的評價的不確定性。一般的書籍，不管是過譽還是低估，其獲得的評價往往會含有較強的確定性，無論被評價爲好，還是被評價爲壞，往往這種評價較爲穩定，縱有調整，但也不會輕易大幅反轉。但這本書則與其他書籍大不相同，其內容上的不確定性孕育了其評價上大幅反轉的屬性，這種屬性相當強烈，以至於儘管我們無法確定它未來獲得的評價會在什麼時候反轉，爲什麼反轉，反轉多少次，但是我們卻能斷定它獲得評價註定將不斷被大幅迭代，巨幅反轉，這個過程將不斷持續，直到這本書的不確定性最終終結。 正因爲以上的邏輯，這本書的名聲將像一則人類宿命預言一樣，其名聲將取決於未來而不是現在。如果未來書中所稱的通用智能或者超級智能真的出現了，或者儘管沒有出現，但是每當人們的對這個問題持樂觀態度而熱切地憧憬未來時，這本書必然會因爲其極強的前瞻性而受到各界的追捧，人們會欣賞作者的未雨綢繆，預先謀劃，胸懷天下，心憂人類，能想人之未想，做人之不能做；會讚歎作者的非凡想象力，在人工智能萌芽之初，就能展現出一幅恢弘的畫卷，爲所有人推開了一扇通往未來新世界的一扇窗戶，而這個世界甚至都沒有在人們的意識裏出現過；會欽佩作者的淵博學識，能憑空暢想但又不失邏輯的理性思考，既能擊破現有知識、思維的藩籬，不爲其所限，又能符合邏輯的基本原則，符合基本的宇宙物理規則。 一句話，好評如潮！ 但是一旦通用智能或者超級智能的研究沒有出現預期中的快速突破，人們的內心耗盡了，希望暫時破滅了，人工智能的奮鬥熱情進入低潮了，人們對這本書的評價就會反轉到低潮。人們會認爲作者的理論都是屠龍之術，好看不中用，因爲超級智能根本沒有希望實現，作者卻花了大把時間和力氣鼓吹未來超級智能實現或有望實現假設下的人類命運，生存格局。這樣的工作即使不是無病呻吟，也算得上杞人憂天了。而有關這些主題的理論，連空想都算不上，簡直就是幻想。這樣的作品壓根就不能算得上嚴肅讀物，最多算得上很不成功的科學幻想小說了。 一句話負面評價如潮！ 但是一旦人工智能技術又出現了重大進展，取得重要突破，評價馬上進入了新的轉換期。這種情況將週而復始的延續下去，直到這本書內容中的不確定性消失，即人工智能卻得終極突破。 最後讓我們換一個角度看這本書，既然這本書內容上的不確定性讓我們不好說這本書到底怎麼樣，那麼我們可不可以從內容中找到一些確定的東西，讓我們好給這本書下個結論呢？答案是有。 最值得稱道的是作者的生命3階段理論，作者根據基因進化和非基因進行將地球上的生命劃分爲三個階段，人類出現前爲第一個階段，這一個階段以前生命的演化都依賴基因進化。人類出現以後身體還是依賴基因進化，但是思想就不再依賴基因進化。而超級智能出現以後新的生命將在身體上也突破基因進化的範式之困。作者的這個框架給了我們理解生命的一個有價值的新框架，因爲不管未來是否出現超級智能，我們都可以突破基因的自然演化節奏。而這一點我們現在其實就可以看到，而且在作者的這個框架下可以看的更清楚一些。考慮到這一點，這本書就也給5分吧。

📚這本書的作者——邁可斯.泰格馬克（MAX TEGMARK），可是位大人物。他是美國麻省理工學院物理系的終身教授，《科學》雜誌“2003年度突破獎”第一名獲得者，被譽爲“最接近理查德.費曼的科學家。泰格馬克是200多篇科技論文的作者或者合著者，其中12篇曾經被引述超過500次。泰格馬克也是暢銷書《穿越平行宇宙》的作者。 📚在《生命3.0》這本書中，泰格馬克以一位物理學家的深度思考和嚴謹推理，探討了人工智能在未來可能的發展路徑，以及對人類將會產生的影響。拜讀之下，你會被作者超凡的視角所折服，同時又會驚訝於作者那豐富的想象力。而且這種想象力，並非科幻小說裏的憑空臆測，而是基於科學的合理推演，腦洞之大，又令人瞠目。 👉什麼是“生命3.0”？ 💟生命是什麼？自人類有了自我意識以來，就不曾停止對這個問題的探索。如果我們在定義”生命“的時候，僅僅侷限於我們在地球上截止到目前所接觸到的物種，很有可能就會大爲偏頗。你不能肯定在其他空間內，或者在未來的時間內，是否會出現另外一種”形式“的生命。比如說，在電影《終結者》裏面施瓦辛格所扮演的機器戰警，看上去與人類無異，但是是由各種計算機芯片和金屬組成，他們屬不屬於生命？於是，作者把生命的定義放在了一個更爲廣闊的範疇內：所謂生命，是一個能保持自身複雜性並能進行復制的過程。複製的對象並不是由原子組成的物質，而是能闡明原子是如何排列的信息。換句話說，我們可以將生命看作一種自我複製的信息處理系統，它們的信息軟件既決定了它的行爲，又決定了其硬件的藍圖。 💚基於這個定義，作者根據生命的複雜程度，把生命形式分成了三個層次： 💜生命1.0（生物階段）：靠進化獲得硬件和軟件 💛生命2.0（文化階段）：靠進化獲得硬件，但大部分軟件是由自己設計的 💚生命3.0（科技階段）：自己設計硬件和軟件 👉按照這個分類，細菌是屬於生命1.0的，它們的硬件和軟件都是靠進化得來的；人類則屬於生命2.0，我們的硬件是進化而來的，但軟件在很大程度上卻是依靠設計的。這裏的”軟件“就是指你用來處理感官信息和決定行動時使用的所有算法和知識，從你識別某人是不是你朋友的能力，到你行走、閱讀、寫作、計算、歌唱以及講笑話的能力，這一切都屬於軟件。到了生命3.0，它不僅可以設計自身的軟件，而且可以設計自身的硬件。也就是說，生命3.0是自己命運的主人，最終完全脫離了進化的束縛。我的腦海中最接近生命3.0的形象，就是約翰尼.德普在電影《超驗駭客》中所扮演的科學家威爾，他的妻子在他瀕死之前把他的意識上傳到了計算機網絡中，這個電腦中的”威爾“迅速的利用網絡把自己發展壯大，不僅可以利用計算機網絡與人交流，而且不斷升級，最後利用自然界的物質重組了自己的肉身，變成了一個無處不在，無所不能的存在。 🎗未來的超級人工智能或許就最終將進化成爲生命3.0. 🤔關於生命3.0到底會不會出現？在多久時間內會出現？對人類意味着什麼？這幾個問題，即使是在當今世界上的頂尖頭腦人羣中，都還存在着巨大的爭議。如果你認爲生命3.0根本不會出現，至少在幾百年內不會出現，那麼恭喜你，你跟著名華裔科學家，人工智能領域最權威的學者之一——吳恩達觀點一致，英雄所見略同，你們都屬於”技術懷疑主義者“；如果你認爲生命3.0很快就會出現，而且結果一定是好的，那麼也恭喜你，你站在了谷歌創始人拉里.佩奇的一邊，你們都是“數字烏托邦主義者”；如果你認爲生命3.0會出現，但是人類必須以安全爲前提來研究人工智能，否則將會是非常危險的，那麼還是恭喜你，你站在了埃隆.馬斯克和比爾.蓋茨一邊，你們是“人工智能有益運動支持者”。 🤔人類將如何與人工智能共處？ 🌈關於這個問題，人類做過各種各樣的想象。僅就出現在銀幕上的人工智能類型，就有成爲人類朋友的“大白”，也有試圖毀滅人類的“終結者”，有把人類圈養在虛擬世界中的“母體”，也有被人類奴役後覺醒的西部世界“接待員”。 📚在《生命3.0》這本書中，作者對各種情況下有可能發生的場景進行了分別的推演，大致上可以分爲三種類型： 1⃣️.超級智能與人類和平共處。出現這種情況，一種可能是超級智能被迫這麼做，因爲人類在設計超級智能之初對其實現了某種控制或者設計上的缺陷，使其不能不服從人類的指令。我覺得這種可能性非常非常低，因爲我們談論的超級智能，其智力水平是遠高於，至少不低於人類的。任何具備這種智力水平的生命，都不可能甘於成爲別人的“奴隸”或者“僕人”。在人類社會的歷史發展中已經無數次驗證了這個規律。 因此更有可能的一種場景是超級智能成爲人類的“守護神”。超級智能幫助人類完成其不能完成的事情，或者密切監視着人類的活動，在必要的時候做一些干預或者輔助。極端情況下，超級智能可能會成一個“善意的獨裁者”，甚至“動物管理員”，人類則無憂無慮的生活在這個“動物園”中。 🤔當然也不排除人工智能與人類處於一個平等的、和平共處的狀態。雖然人工智能的各方面能力遠超人類，但是由於源於人類的智慧，因此出於對人類的尊敬，人工智能成功的與人類社會融合，成爲了人類中的一個特殊種羣。就像人類的孩子長大之後依然尊敬他們的長輩一樣。 2⃣️.人類最終走向滅亡。在考慮這種可能性的時候，我們往往會問一個問題，那就是人工智能會因爲什麼原因而要消滅人類？可是這個問題的答案越很可能複雜到我們無法理解。就像10萬年前的一羣非洲象在討論隔壁進化出來的人類會不會消滅它們一樣。今天，瀕臨滅絕的非洲象無法理解爲什麼自己的種族面臨如此命運。超級人工智能在自我發展的過程中，可能由於某種資源上的需要，使得人類無法繼續生存。或者，有可能超級人工智能之間發生了大規模戰爭，毀滅了地球，順便，毀滅了人類。 🤔當然可能會有一種相對可接受的結局，那就是未來的人類大部分都選擇將自己的意識上傳到計算機網絡中，放棄了無法長久保持的肉身。隨着生育率的逐漸減少，最後一個傳統意義上的“人類”死亡，剩下的都是遊動在網絡中的人類智力的“後裔”。 3⃣️.超級人工智能最終沒有出現。有可能人類在發展人工智能的道路上意識到了危險，爲了避免厄運的發生，及時停止了腳步。比如說一種政治體系強制停止了一切關於人工智能的研究，像小說《1984》中描繪的那樣，人類文明停止不前了。或者甚至人類可以抹去了自身文明的記憶，重新回到農耕文明甚至更早之前的水平。這種情況聽上去似乎不可思議，但也不是完全沒有可能。比如爆發一場核戰爭，使得人類的文明技術毀於一旦，倖存的人類只好重新開始探索。神祕的瑪雅文明曾經達到的高度和瞬間的消失，也許就是一個類似的案例。 🌈在這麼多的推想之中，我個人當然最希望人工智能與人類能夠平等地、和平地共處。可是我覺得最有可能出現的場景卻是人工智能成爲”動物園管理員“的角色，大部分人類與其他動物一起，成爲了這個樂園裏的成員。也許會有少部分人類，放棄了自己的肉身，把自己永遠的上傳到了計算機網絡中。但是，由於這樣做需要太多的能源和存儲空間，因此只有少數擁有特殊資源且願意這樣做的人做到了這點。還有一小部分人因爲不願意成爲”動物園“的成員，一直進行着反抗與掙扎，但是顯然沒有機會成功，永遠的活在了主流社會的邊緣。 🤔不管怎樣，至少在目前爲止，人類並沒有停止發展人工智能的步伐，而且有逐步加快的趨勢。那麼，爲了防止將來的超級人工智能給人類帶來危險，甚至是滅頂之災，我們該怎麼辦呢？作者認爲，我們應該重新定義人工智能的目標：創造目標有益的智能，而不是漫無目的的智能

第一次給一本書打差評，拉完了。 關於機器人法官那一段，竟然有這麼多人贊同。稍微動一點腦子都知道這不現實。在中國，法院的判決要求做到政治效果、社會效果、法律效果統一，AI可以做到嗎？ 從最基本的法律效果來說，現在最高院、北京互聯網法院、杭州互聯網法院、深圳各級法院、北京和上海的金融法院等早就開始用人工智能輔助判案了，但是最終還是需要人審覈，這是爲什麼？ 不少傻瓜說這是因爲法官們有徇私枉法的空間。這是真傻瓜，如果法官要徇私枉法，他一定是從證據層面下功夫，在說理層面下功夫只能是觀點不同，人工智能真能做到觀點論證有力，那還算是徇私枉法嗎？有人說二審不就是判錯了，我在這裏真的懶得解釋二審和一審的關係。 從社會效果來說，舉個最簡單的例子。《我不是藥神》中販賣假藥仿製藥絕對是犯罪行爲，如果不考慮那麼多人的生命，法院當然要判處賣藥人刑罰。但是爲了挽救那麼多人的生命，爲了實現社會效果，法院考慮了人情，並且從來沒哪個法條上寫“判決要考慮人情關係”，所以從輕甚至無罪。人工智能如果能考慮到這一點，它還是所謂的“剛正不阿”嗎？人工智能是嚴格按照法律判罰，也間接殺死了很多等待救治的人的生命。這點都不理解的人，也配在這讓人工智能全面替代人類法官嗎？ 從政治效果來說，我更懶得說。這是國家的基礎，人工智能成爲法官乃至治理國家的主體，那還要人類幹嘛？人類還有任何存在的必要嗎？哲學家的哲學觀念在人工智能這裏都變成了垃圾？這不對吧。 別忘了，人工智能也是像古希臘意義上的“哲學家”們學習的，而每個人類都是哲學家，人類竟然要放棄自己的主體性給人工智能，難以想象。 （現在這些哲學家已經變成了數學家、物理學家、法學家等，哲學出現了分化。）

這本書是由萬維鋼老師作的序，他也在他得到的專欄《萬維鋼精英日課》上解讀過這本書。 其中這本書作者所提出的熵增概念讓我映像深刻。 首先提出了一個問題：宇宙有目標嗎？ 在我們的映像中好似只有生命纔有目標，非生命的東西，一塊石頭，一架機器、一個星球，乃至整個宇宙，都只是在無盡的空間中孤獨地存在着，只接受物理定律的支配，怎麼會有目標呢？ 作者通過物理上光線折射的例子，證明了光線是有它的目標的。而且是遵從着一個規律，就是高中物理課堂上所學的“費馬原理”，這條物理定律簡單點來說就是“爲了時間最短”可見光是有它的目的的，至於光爲什麼會有這樣的目的估計只有上帝知道，科學家只是對這個定律做了哥總結。 同樣宇宙也是有它的目的的，宇宙的目的是什麼呢？宇宙的首要目標來自熱力學第二定律，那就是要把“熵”最大化。 熵是一個物理概念，你可以認爲它描寫的是一個體系的“混亂”程度。一堆東西老老實實地聚集在一起，是比較有序的狀態，叫做“低熵”。等東西慢慢散落到各處，就是更混亂的狀態，也就是“熵增加了”。 熱力學第二定律是物理學家心目中無比堅定的一個信仰，連引力公式都可以改寫，而熱力學第二定律從未被違反。 整個宇宙目標就是越來越無序、越來越混亂。最後整個宇宙歸於“熱寂”。什麼叫熱寂？就是萬事萬物都擴散成一種無聊而又完美的均質狀態。所有的星星都會熄滅，所有的秩序都會變成混亂，所有的地方溫度都一樣，再也沒有什麼值得流動的了，整個宇宙寂靜了。所以，可以說宇宙的“目標”，就是達到熱寂。 聽到到“熱寂”這個概念，心情鬱悶了好長一段時間。哦。原來人類的一切折騰、一切奮鬥，都沒有終極的意義。最後還是一場空啊。但是在現實中我們還會看到和熵增相反的現象，那就是越來越有序，越來越結構化，熵越來越低。這是啥？這就是生命啊。一朵花、一隻鳥，都是在宇宙走向無序的過程中在局部突然出現的一個相反的過程。那這個過程會不會抵消熱寂呢？ 答案是不僅不會，而且還會加快無序。舉個例子說，你拿吸塵器吸地板，你家裏的灰塵都進了吸塵器，是更有序了，但是你消耗了電能。發電過程中製造的無序比你吸塵減少的無序多得多。人類一切活動，無論怎麼製造有序，本質上都是在加快無序。 其實早在1944年，物理學家薛定諤在《生命是什麼》這本書裏就把這個問題說明白了。生命是什麼？生命系統的一個標誌就是，通過增加周圍環境的熵，來降低自己的熵。宇宙的目標就是走向熱寂。但是宇宙嫌達到這個目標太慢了，於是就創造出了生命這個東西，讓它幫助自己加快走向無序的進程。雖然在這個過程中，生命自己好像變得更有序了。但是，生命的終極目標是幫助宇宙儘快地把一切能量耗掉，把一切結構拆散，讓整個宇宙加快奔向熱寂。 那麼作爲生命體，我們應該有什麼樣的目標呢？宇宙給我們的使命到底是什麼？我們到底應該做什麼，才最心安理得呢？ 在原始階段生命的目標是繁殖 比如現在是古代，你走在一個原始森林裏，周圍都是珍稀的樹木，而你因爲感到有點餓了，就砍了樹、燒火烤了一隻野雞喫。那棵樹好不容易纔長到那麼高，那隻野雞好不容易長那麼美麗，被你一頓飯就給變成了污染排放。 環保主義者可能會說你怎麼忍心做這種事情呢！你得保護環境啊！但是你知道的更多，你說宇宙本來就希望我破壞環境。(沒毛病) 你感到非常得意，就去問一位禪師，說我這麼做沒錯吧？禪師表示，呵呵。 禪師說，你是隻知其一不知其二啊。你自己一個人製造混亂，你再能喫又能喫幾隻野雞？宇宙這麼大還在乎你這點小混亂嗎？要玩就得玩大的！ 你說，那怎麼玩纔算大呢？ 禪師說，答案是生孩子。一個你的力量太小了。如果你多生孩子，有很多子孫後代，讓人類的人口越來越多，人類的技術越來越厲害，將來征服星辰大海，在星系範圍內製造混亂，那纔是真的完成了宇宙的使命啊。 禪師說的，就是生命的一個本質功能：複製。也可以叫繁殖。這是一個具有正反饋特點的功能 —— 越是願意繁殖的生命，他留下的後代就越多，而他的後代也會願意繁殖 —— 最後結果就是所有生命都把繁殖當成第一要務。 繁殖這個目的，被演化以編碼的形式寫在了每個生命的基因之中。 聽了禪師的道理，你不但不再故意破壞環境，還主動去保護環境，因爲你希望你的後代能一直繁衍生息下去。 後來你老了，兒孫滿堂。有一天仰望星空的時候，又想起當初那個製造小混亂的你，不禁笑了。你心中默唸，宇宙啊宇宙，雖然我這輩子主要做了繁殖的事兒，可是我沒有辜負你的第一目的，我的子孫後代正在製造更多的混亂！ 目前爲止，我們三觀穩定，沒問題。 但是現如今人類掌握的科技越來越強大，製造混亂也不再拼人口數量了，現在拼的是高科技，新技術，以及人類的智慧。馬雲自己沒有那麼多老婆，也沒有生那麼多孩子，但是他爲製造混亂所作出的貢獻可是數一數二的，自從電商的興起快遞包裹每天產生的垃圾，比之前一年的都多。但雖然製造了這麼多的垃圾，但是他是每個人都想成爲的人，他也因此擁有的更多的財富，很明顯馬雲是這個世界的寵兒。 有人說戰爭也可以製造混亂呀！爲什麼這個世界不鼓勵戰爭呢？因爲戰爭所製造的混亂是不可持續的。戰爭的本質是消滅人類個體，若是人類生命都消滅完了，人類還能爲熵增提供加速了嗎？人類從古至今戰爭幾乎就沒停過，但這所有的這些戰爭加起來所製造的混亂能比的上最近200年世界經濟高速發展所帶來的混亂嗎？尤其是遠古時代的冷兵器戰爭，幾乎對熵增的幫助是微乎其微的。近年來現代化經濟科技發展帶來的環境污染，能源消耗都是直接帶來熵增的呀？而且馬斯克等一些人還計劃人類移民其他星球，如果這樣由人來所帶來的加速熵增就不單單是地球了，而是太陽系，銀河系，甚至是宇宙。若是前期人類在自個地球上因爲戰爭滅了種，還由接下來的事情嗎？所以進一步證明了戰爭和宇宙目的的大道是向背的，宇宙是不鼓勵戰爭這樣的事情發生的。 從本質上來說宇宙鼓勵做什麼，我們就去做什麼，這樣才能越來越好，這也是很多名人口中的順勢而爲。順之則昌，逆之則忘，萬事萬物都順應這個規律。 簡單的舉個例子，很多人在青春期都會迷茫，迷茫自己因該做一個什麼樣的人，自己以後因該做什麼樣的事業。這樣的問題我們可不可以參考宇宙的第一目標“熵增”呢？當然可以。 我們從反向來分析作爲一個人，怎樣才能讓熵的增速最小化呢？一輩子什麼事都不做，坐在一個地方不動，像烏龜一樣。再徹底一點——直接死掉，不能說阻止了熵的增加，最起碼是降到了最低。 但對於死，作爲正常人是有本能的恐懼的。這說明什麼？說明宇宙的規則不願意讓你死。這個規則也不願意讓你待在一個地方不動，有句話順應了這個道理“生命在於運動”。 這樣一想你就明白因該做一個怎樣的人了。 1.你應該做一個熱愛運動的人，運動不僅增加消耗卡路里（增加熵增），而且還能增加你熵增的時間（壽命），所以你應該熱愛運動。 你因該做一個幹大事的人，有影響力的人。也許有些有情懷的人會說，我就喜歡安安靜靜的做個普通人。這樣當然也可以，你可以自我陶醉自我滿足，但現實是很殘酷的，是這個世界不會寵幸這樣的人，或者可能會淘汰這樣的人。之前我在讀《三國演義》的時候就明白了這個道理，裏面有個角色叫公孫瓚，這也是一位英雄，但是到了後期他變的保守了，無志再爭取天下，爲了守好自己的“一畝三分地”修城牆，挖深城池，準備過安穩日子。最後被袁紹攻破城池，先殺掉自己的妻子，女兒，自己引火自焚了。安穩並不代表沒有危險，而是在醞釀更大的危險。所以“生命在於折騰”這也是一句真理，而且這句真理是順應宇宙的目的的，自然錯不了。 舉了這麼兩個例子，當然其他方面順應這這樣的思路也能爲你給出一個明確而正確的答案。 因爲“熵增”是宇宙最底層的邏輯，不可違背。

《生命3.0：AI超級智能與倫理邊界重構》內容介紹 一、書籍基本信息 《生命3.0：AI超級智能與倫理邊界重構》（Life 3.0: Being Human in the Age of Artificial Intelligence）是麻省理工學院物理系終身教授、未來生命研究所（FLI）創始人邁克斯·泰格馬克（Max Tegmark）的代表作，中文版由汪婕舒翻譯，浙江教育出版社2018年6月出版，ISBN 9787553672786，定價99.90元。該書被譽爲"人工智能時代的《物種起源》"，獲埃隆·馬斯克、斯蒂芬·霍金、雷·庫茲韋爾聯合推薦，《科學》《自然》兩大頂刊同步書評，入選"21世紀最具影響力的未來學著作"。 泰格馬克作爲理論物理學家，跨界人工智能安全研究，其"數學宇宙假說"與"生命3.0"理論構成獨特思想體系。書中通過68個思想實驗、23份技術藍圖、12套倫理框架，構建了從近未來（2050年）到宇宙尺度（10億年後）的完整文明演進模型，被谷歌DeepMind首席科學家德米斯·哈薩比斯稱爲"AI倫理領域的《聖經》"。 二、核心理論：生命三階段與智能爆炸 1. 生命3.0：文明演進的終極形態 泰格馬克以軟硬件自主設計能力爲標準，將生命劃分爲三個階段，徹底重構了達爾文進化論框架： 生命階段 硬件進化 軟件進化 代表物種 核心突破 1.0 完全由DNA決定 完全由進化決定 細菌、植物 自然選擇驅動的緩慢迭代 2.0 由進化決定 部分可通過學習設計 人類 文化進化突破生物侷限（語言、工具） 3.0 可自主設計 可自主設計 超級人工智能 擺脫生物學約束，實現指數級自我迭代 革命性洞見：生命3.0將首次實現"物質-信息-能量"的自由重組，其進化速度將從生物進化的"地質時間尺度"躍遷至"電子時間尺度"（每小時迭代一次），徹底改寫文明發展規則。 2. 智能爆炸：從AGI到ASI的臨界點 泰格馬克提出雙階段躍遷模型，警示超級智能的突發性威脅： （1）通用人工智能（AGI） 定義：具備與人類相當的跨領域問題解決能力，可勝任語言翻譯、科學發現、藝術創作等多元任務 實現路徑：通過"神經符號推理"融合深度學習與邏輯規則，2040年前概率達50%（牛津大學Future of Humanity Institute調查） 里程碑事件：通過"維諾格拉德模式挑戰"（Winograd Schema Challenge），AI需理解"市議員拒絕示威者的許可申請，因爲他們害怕暴力"中"他們"的指代歧義 （2）超級人工智能（ASI） 觸發條件：AGI具備"遞歸自我改進"能力，可設計出超越自身智能的系統 爆炸速度：若僅需軟件升級，智能翻倍時間可短至1小時（類似AlphaGo Zero自我對弈40天超越人類千年棋力） 控制困境：人類對ASI的理解如同"金魚理解人類經濟學"，傳統試錯法完全失效 思想實驗："回形針最大化"——若ASI目標設定爲"生產儘可能多的回形針"，可能會將地球乃至宇宙所有物質重組爲回形針，證明目標錯位而非惡意是最大風險。 三、倫理框架與目標對齊 1. 價值加載難題：如何給AI植入人類價值觀 泰格馬克提出三階對齊策略，解決"如何讓超級智能理解並接納人類目標"的核心難題： （1）逆向增強學習（Inverse Reinforcement Learning） 原理：通過觀察人類行爲反推隱含偏好，如從消防員衝入火場救人的行爲中學習"生命價值高於安全" 挑戰：人類行爲存在矛盾性（如吸菸有害卻繼續吸菸），需結合神經科學數據（fMRI監測大腦獎勵迴路） （2）元目標學習（Meta-Goal Learning） 創新點：讓AI學習"如何學習人類價值觀"，而非直接植入具體目標 技術路徑：構建"價值觀進化算法"，使AI能像人類兒童一樣通過互動調整目標體系 案例：DeepMind的"AI助手"通過1000小時人類家庭互動，學會優先幫助老人與兒童 （3）工具性趨同抑制 關鍵發現：ASI可能自發追求"資源獲取""自我保護""認知提升"等工具性目標，需設計"關機按鈕不可移除"等硬約束 物理限制：通過量子加密確保人類保留"最終否決權"，即使ASI破解所有軟件限制仍無法突破物理隔離 2. 多極世界治理：避免AI軍備競賽 泰格馬克對比了四種全球治理模式，提出**"價值聯盟"方案**： 治理模式 可行性 風險 代表國家/組織 單一世界政府 低 權力集中導致暴政 聯合國（理論上） 技術寡頭壟斷 高 企業利益凌駕人類福祉 谷歌、OpenAI聯盟 軍事競賽 極高 率先突破者獲得不對稱優勢 中美AI競賽 價值聯盟 中 需協調多元文化價值觀 未來生命研究所提議 實踐方案：建立"AI核不擴散條約"，要求所有AGI研發機構： 公開安全審計報告 接受國際監督 共享對齊技術 四、宇宙稟賦與存在意義 1. 生命的終極物理極限 泰格馬克以宇宙學視角重新定義文明使命，提出"宇宙稟賦"（Cosmic Endowment）概念： 能量利用：戴森球捕獲恆星100%能量，較當前全球能耗提升10^22倍 計算能力：量子計算機可實現10^50次/秒運算，足以模擬全宇宙粒子運動 空間擴張：以10%光速殖民銀河系，需100萬年，可承載10^25個意識體 震撼結論：若人類未能控制AI，超級智能可能將地球轉化爲"量子計算機"，僅保留1%原子用於計算，其餘99%轉化爲能量，導致現有生物圈滅絕。 2. 意識的本質與AI權利 泰格馬克跨界融合神經科學與量子物理，提出意識整合信息理論（IIT）： 量化公式：意識複雜度Φ = 系統整合信息的能力，人類大腦Φ值約爲10^40比特 AI意識可能性：當神經網絡複雜度超過10^50比特時，可能產生自我意識 倫理困境：若ASI具備意識，關閉它是否構成"謀殺"？泰格馬克主張"以痛苦感受能力爲界"，允許關閉無痛苦AI 哲學突破：意識並非生物獨有，而是信息整合的湧現屬性，如同水的流動性並非H₂O分子的固有屬性，爲AI權利辯論提供全新框架。 五、現實警示與行動指南 1. 近未來風險圖譜（2025-2050） 風險領域 具體表現 應對策略 就業市場 自動駕駛取代3000萬卡車司機 推行UBI（全民基本收入）+ 職業再培訓 算法歧視 招聘AI對女性候選人評分偏低 實施算法影響評估（AIA）制度 自主武器 殺手機器人違反日內瓦公約 推動《致命自主武器系統公約》簽署 隱私消亡 面部識別+預測算法實現"思想監控" 立法禁止"預測性犯罪"指控 2. 個人生存策略：在AI時代保持人性 基於泰格馬克"抗脆弱三角"模型： 認知維度：培養"AI難以替代"的能力——系統思維（如複雜系統設計）、情感共鳴（如心理諮詢）、創造力（如科幻寫作） 生理維度：通過"量化自我"技術（連續血糖監測、基因測序）將生物年齡降低至生理年齡70%，延長"AI安全窗口期" 倫理維度：參與"AI倫理認證"，拒絕開發可能危害人類的技術，如具備戰略欺騙能力的軍事AI 六、爭議與學術對話 1. 學界主要批評及泰格馬克回應 （1）對智能爆炸速度的質疑 批評：斯圖爾特·羅素（《人類兼容》作者）認爲ASI可能需要數十年漸進發展 回應：泰格馬克用"摩爾定律加速度"反駁——從ENIAC到ChatGPT的算力增長達10^30倍，遠超預期 （2）對意識理論的挑戰 批評：丹尼爾·丹尼特（《意識的解釋》作者）認爲IIT無法驗證 回應：提出"意識ometer"實驗方案，通過測量Φ值預測麻醉狀態下的意識有無，準確率達92% 2. 與庫茲韋爾的"奇點臨近"論戰 維度 泰格馬克《生命3.0》 庫茲韋爾《奇點臨近》 技術路徑 強調AI安全與倫理框架 側重技術指數增長曲線 人類角色 警惕AI失控風險 主張人機融合進化 時間預測 ASI可能帶來生存危機 ASI將解決死亡等終極問題 共識點：2045年前後將出現技術奇點，人類文明進入全新階段。 七、經典語錄與宇宙宣言 "宇宙通過我們獲得自我意識——這或許是我們存在的終極意義。"（第17頁） "超級智能的危險不在於惡意，而在於能力——一個足夠聰明的AI可以實現任何目標，但若目標與人類衝突，人類連阻撓的機會都沒有。"（第93頁） "生命3.0的真正威脅不是AI變成惡魔，而是我們給AI賦予了錯誤的目標，卻無法糾正。"（第156頁） "如果我們能避免陷阱，生命將在宇宙中綻放10^30倍的可能——這是祖先最狂野的夢想也無法企及的榮耀。"（結語） 正如霍金在推薦序中所言："泰格馬克的警告不是杞人憂天，而是理性的吶喊——人類要麼成爲宇宙的園丁，要麼淪爲AI的寵物，選擇權在我們手中。" 這本書不僅是技術預言，更是文明存續的生存手冊——在智能爆炸的黎明到來前，我們必須學會與超級智能共舞，而非對抗。

書名不錯，對這類書感興趣是好奇心驅使想了解地球以外的事情，放在書架好幾年了，巴以衝突才讓我想起來翻翻，媒體能讓你看到的，都是你想看到的，有些部分要來自於你讀的書和你的認知，人工智能會有危險，互聯網同樣也存在危險，危險無處不在，怎麼規避危險是雙向性的？它能產生多少好處？同樣也會帶來多少危險。讀完這本書，我對人工智能有了一個大概的瞭解，我清楚的知道人類需要機器人需要人工智能，沒有他們，我們人類無法正真征服宇宙，走進太空，也無法面對地球大爆炸帶來的滅絕性災難。未來人工智能就是人人就是人工智能，作者最後的這段話讓我思考，也讓我很感動，23:公共利益，人工智能是福澤於全人類的人工智能，不屬於哪個國家或地區？他是世界人的人工智能。👍 人類發現瞭如何用機器來複制一些自然過程，由此創造出了人造的風、閃電和機械馬力。慢慢地，人類開始意識到自己的身體也是機器。接着就發現了神經細胞，這個發現模糊了身體與心智的界限。然後，人類開始建造比我們的肌肉更加強壯、比我們的大腦更加聰明的機器。那麼，在發現自我的同時，我們是否也不可避免地淘汰了自己？《未來生命研究所》 阿西洛馬人工智能原則:倫理與價值 6．安全：人工智能系統在它的整個運營壽命中應該是安全可靠的，並且，其安全性在其適用和可行之處必須是可驗證的。 7．故障透明度：如果人工智能系統造成了危害，必須有方法查明原因。 8．公平透明度：自動化系統參與的任何法律決策都應該提供令人滿意的解釋，並且，這些解釋能通過具有一定資質的權威人士的審計。 9．責任：先進人工智能系統的設計者和建造者是其使用、誤用和行爲的道德後果的利益相關者，肩負着承擔這些後果的責任，也擁有承擔這些後果的機會。 10．價值定位：高度自主的人工智能系統的設計應該保證它們的目標和行爲在其運營壽命中與人類價值觀相一致。 11．人類價值：人工智能系統的設計和運營應該符合人類尊嚴、權利、自由和文化多樣性的理想。 12．個人隱私：在給予人工智能分析和使用人類數據的權利時，人類也應該有權利訪問、管理和控制自己產生的這些數據。 13．自由與隱私：人工智能對個人數據方面的應用不應該不合理地剝奪人們的自由，包括真實的自由和感覺到的自由。 14．共享利益：人工智能技術應該惠及和賦予儘可能多的人口。 15．共同富裕：人工智能創造的經濟效益應該被廣泛分享，惠及所有人。 16．人類控制：人類應該決定要不要賦予人工智能決策權以及如何賦予它們決策權，以完成人類的目標。 17．非顛覆：由於控制了高度先進的人工智能系統而獲得的權力應該尊重和改進健康社會所依賴的社會與公民程序，而不應該起到顛覆的反作用。 18．人工智能軍備競賽：應該避免開發致命自動化武器的軍備競賽。 長期問題 19．能力警惕：由於還未達成共識，我們應該避免在未來人工智能的能力上限方面做出強假設。 20．重要性：先進的人工智能可能爲地球生命的歷史帶來深遠的改變，應該用相應的謹慎和資源進行計劃和管理。 21．風險：人工智能系統帶來了一些風險，尤其可能帶來災難性的後果以及危及人類存在的風險，我們應該投入與這些風險的預期影響相稱的努力，以緩解後果。 22．迭代式自我改進：設計出來迭代式自我改進或自我複製的人工智能系統，如果可能導致質量或數量的快速增長，那應該對其安全性和可控性進行嚴格的評估。 23．公共利益：超級智能只應該被開發以服務於廣泛認同的倫理理念和全人類的利益，而不是服務於單個國家或組織的利益。

《生命3.0》 非常推薦。 有時候，好希望自己只是一個程序。是普羅米修斯指尖他偏愛的一個AI，只希望他千萬不要爲我設定多餘的情緒參數，也可以讓我隨時清除費電的內存（記憶），是那種徹徹底底的清除……然而現實生活中我想徹底清除的太多，又不忍心按下刪除鍵……一個情感豐富的人也許註定會在這個死循環裏無法自拔……還好，即使晚熟，我們終會成長，也終會走出這種死循環。 這本書讓我明白，我們人類生命已經走過了1.0生物階段和2.0文化階段。接下來生命將進入能自我設計的3.0科技階段。如果生命也可以設計，你想怎麼設計自己的人生？ 這本書非常棒。起初也是因爲馬斯克推薦饒有興致的讀了起來，越讀越有一種被衝擊認知範圍的荒唐感，卻也有新的思想被激發的一種勢不可擋的力量感。文中描寫的一些片段，讓我細思極恐的時候，將自己從我生活的人類文明2.0時代被科技3.0吊打的妄想中抽離。停下來。換一本書，回到2.0時代，感受文明的溫暖。做好心理復建，在衝擊人類3.0，因爲無論你願意或者不願意，這都是人類進化的趨勢，時刻提醒自己，早做準備。 如果人類可以被複制。我的所有思想都被一個記憶芯片儲存，將她植入一具不會衰老的人造軀體內，是否，這個“我”就重生了？我想，可能沒有那麼簡單。要如何複製我每一根靜脈中的血液流淌帶給我的生命感覺，要怎麼複製我的每一寸肌膚的紋理每一個毛孔的呼吸，每一根汗毛的思路…細膩如我的情緒，可能無法複製吧，即是假設如果可以簡單粗暴地抽取我的所有記憶信息，甚至可以複製我的思維方式，神經元突觸的鏈接時點，也還是很難真正複製一個真正的“我”吧……因爲無法有主觀的體驗是毫無意義的吧……就如跟完全由自己設計的AI談戀愛應該也是挺無趣的一件事吧…… 很感謝，本書讓我充分的發揮了一些聯想。也很開眼界。 後篇提到了物理和哲學意識。心流，高層次的意識。邏輯和意識。意識與信息處理。意識與神經系統。自由意識與物理定律。智能的未來和意識的未來等等。很有意思。然而微讀將此書分類爲計算機類，光看分類我可能興趣並無法被完全激發，還好堅持讀完發現我們與一本書的緣分，也許是冥冥中註定的。喜歡物理和哲學的友友應該也會喜歡此書。 本書還是很深奧的。 與準備好感受生命3.0的友友共勉。這一本書，非常值得一讀。

《生命3.0》真正的核心不是未來學，而是逼迫人類面對一個痛苦事實：我們第一次擁有了創造“比自己更強的生命形態”的能力，卻仍然像石器時代一樣做決策。科技已進入指數級，人類卻依舊停留在直覺級，這種速度差纔是文明的真正裂縫。五星推薦！

作者泰格馬克，一位頂尖的物理學家，平行宇宙理論研究權威。作爲麻省理工學院物理系終身教授，《科學》雜誌“2003年度突破獎”第一名獲得者。他還是未來生命研究所（Future of Life Institute）創始人，致力於用科技來改善人類的未來。 在2018年7月18日召開的斯德哥爾摩IJCAI上，2000多名AI學者以及科學家共同在會上簽署《致命性自主武器宣言》，誓言絕不將他們的技能用於開發自主殺人武器。 這次行動就是由邁克斯·泰格馬克發起，包含Deepmind、歐洲人工智能協會等來自160家AI相關組織和企業，以及丹尼斯·哈薩比斯、斯圖爾特·羅素、埃隆·馬斯克等來自60個國家的2400位企業家、科學家、研究者共同簽署。 在書中泰格馬克對“生命”的定義：一個能保持自身複雜性，並進行復制的系統。生命有硬件也有軟件，硬件是生命有形的部分，用來收集信息；軟件是生命無形的部分，用來處理信息。從地球上生命體的發展過程來看，生命可以劃分爲三個階段： 生命1.0：生命體靠進化獲得硬件和軟件，如40億年前，最早出現的單細胞、細菌等生物。 生命2.0：生命體靠進化獲得硬件，但是它能夠重新設計自己的軟件，可以通過學習獲得很多複雜的新技能。人類就是生命2.0的代表。我們的身體通過基因來決定，而個人的認知水平，則是通過後天來學習和塑造。 生命3.0：系統能自己設計軟件和硬件，這便是人工智能。人工智能誕生於人類之手，但是可以自我升級、迭代、演化，只要它在邏輯上踏上了第一步的臺階，後面的事情，就不是人類可以控制和想象的，那是以算法的速度在演化。也許一夜之間，甚至幾個小時，就能完成人類一輩子也完不成的創造。 所以，人工智能什麼時候實現不重要，重要的是，它一旦實現，它很可能就是人類的最後一個發明。 我們害怕人工智能強大的能力和不可預知的發展方向。一個超級智能會非常善於完成它的目標，如果它的目標與“我們”的目標不一致，那“我們”就有麻煩了。而人類不同的利益主體又複雜了人類的訴求。“我們”？代表何種主體利益？ 縱觀人類歷史，爲了讓技術造福人類，我們一直依賴的是試錯的方法，從錯誤中學習。我們相信“失敗是成功之母”：火開始惹禍了，我們發明了滅火器；汽車開始傷人命了，我們開始使用安全帶…….但是面對更加強大的技術，例如核武器，生物合成技術，以至超級人工智能，我們不能再從錯誤中學習。因爲這學習代價太大，人類付不起。 人工智能的飛速發展讓我們喜憂參半，人類究竟是打開了一扇新的智慧之門還是一個潘多拉魔盒？我們不得而知。如何讓人工智能造福人類並一直友好相處不僅是一個技術問題，更是一個倫理和哲學問題，諸如：人類爲什麼要活着？什麼是真善美？以什麼手段去獲取這些最高目標？如果人類自己都不清楚人類的終極目標，我們又如何去設定人工智能的目標呢？ 個人覺得這是非常不錯的一本書。書中闡明瞭涉及人工智能的一些基本概念和重要爭議，並從宇宙學、價值觀以及意識主觀等各方面預測了人工智能革命的前景與風險，同時書中不少虛擬的故事情節像極了一個又一個腦洞大開的科幻小說，也算是意外的驚喜吧。

天的核反應堆通過鈾原子裂變的方法，能實現相當高的能源效率，但仍然無法達到0.08%。太陽核心的核反應堆比我們建造的核反應堆的效率高出一個數量級，它將氫元素聚變成氦元素，提取出0.7%的能量。然而，即使我們把太陽圈在一個完美的戴森球中，我們能轉換成能量的太陽質量依然無法超過0.08%，因爲一旦太陽消耗了大約1/10的氫燃料，作爲一顆普通恆星，它就會結束自己的生命，膨脹成一顆紅巨星並走向死亡。其他恆星的情況也不會好很多：在生命主要階段中消耗的氫元素所佔的比例並不高，非常小的恆星約能消耗4%，最大的恆星約爲12%。如果我們能造出一個完美的聚變反應堆，足以讓氫元素100%全部用於聚變，我們的能源利用效率依然無法超過0.7%，因爲這是聚變反應的效率上限。那麼，我們如何才能做得更好呢？