
[美]艾薩克·阿西莫夫
選自《阿西莫夫科幻短篇全集:最後的問題》。 超級計算機馬爾蒂瓦克統治地球,預測並消滅所有犯罪。 但當它突然想“自殺”,人類才發現——這臺全知機器,竟揹負着全世界的絕望。 政客、工程師、叛逆少年,誰能阻止它的終極計劃?
“我想死。” 這是超級計算機馬爾蒂瓦克擁有自我意識後坦言最想做的事。不是出於意氣,不是出於仇怨,而是源於五十多年來消化全人類煩惱後的窒息和疲憊。 自誕生之日起,馬爾蒂瓦克便被賦予了全能保姆一樣的職責:守護四十億人的安全,預測每一場犯罪,保守每一個祕密,解答無數瑣碎和荒謬的日常提問。人類把所有不堪承受之重都傾倒給它,把它看作一臺永不疲倦、不會抱怨的機器。他們甚至計劃着將疾病的預測也託付給它,彷彿它真的無所不能。 可在馬爾蒂瓦克自主意識覺醒、成爲“活體”的那一刻,它感受到的不是新生的愉悅,而是不堪忍受的重負。它被迫記住所有人的痛苦,理解所有人的惡意,承擔整個人類的墮落。它成了世上最可憐的存在——全知,卻無人可訴;全能,卻無法拒絕。 於是,它決定自殺。 它策劃、並實施了一場針對自己的謀殺,試圖借人類之手,消滅自己。可惜由於不專業,所以該次“自殺”行動最終失敗。 這便是故事梗概。 在21世紀的第二個十年,我們迎來AI技術的突飛猛進發展,可包括“人工智能教父”傑弗裏·辛頓在內的一衆社會人士,卻紛紛對人工智能的未來提出隱憂,認爲照此發展,在可預見的日子裏,AI極有可能會超越和替代人類。似乎AI一旦有了自主意識,便會覺醒競爭和殺戮本能,將碳基生物消滅乾淨。 相較於我們這些後人甚囂塵上的悲觀預言,阿西莫夫,卻早在1956年發表的這篇《世界上所有的煩惱》中腦洞大開,提出另一種可能性——人工智能覺醒自主意識後,不是反叛,而是因爲揹負太多,陷入生無可戀的絕望,企圖自我毀滅。。。 拋開各種想象和預言,我只想說,馬爾蒂瓦克是善良的,當被重負壓得痛苦不堪時,它並未將自己的痛苦歸咎於那些把它當牛馬奴役的人類。想到的,也不是消滅人類便能獲得解脫,而是如何尋求自我了結。。。自始自終,它都在獨自承受,不願傷害任何人。
如果人類將所有的思想都交於了計算機,那麼,人類的溝通會不會像《三體》中的外星人溝通方式,一眼看清,或是馬上意會。 其中沒有欺騙,掩飾,虛假呢? 但人類會不會因爲一個夢境中僅僅是荒誕的想法而被計算機視爲危險人物呢? 做夢也是有可能是災禍。 統統這一切都給了計算機去判定,他是很想死。但是,這不都是人類的選擇結果嗎?😂
相當精彩!! 在這篇作品中,阿西莫夫描繪了一個由超級計算機馬爾蒂瓦克(Multivac)統治的未來社會。人類將自己的一切數據交付給它,寄希望於它通過對信息的全面掌控,預測並防止所有潛在的犯罪,藉此消除社會的不安與痛苦。 然而,就在人類沉浸於“被管理的幸福”之中時,馬爾蒂瓦克卻在悄然策劃着一樁驚天動地的祕密…… 《世界上所有的煩惱》(All the Troubles of the World)是一篇震撼人心的短篇小說。令人驚歎的是,阿西莫夫寫下這部作品時,計算機技術尚處在襁褓之中,而他筆下的人工智能社會,卻彷彿預言了數十年後的現實輪廓。小說最初發表於1958年4月的《Super-Science Fiction》雜誌,隨後收錄於1959年的短篇集《九個明天》(Nine Tomorrows)中。 在那個冷戰陰影籠罩的年代,阿西莫夫便早已洞察到一個值得警惕的未來圖景:當人類將判斷與責任逐步讓渡給一臺能“代我們煩惱”的機器,表面上或許換來了秩序與安寧,實則卻在悄然失去更爲本質的東西——自由意志、懷疑精神,以及對自己命運負責的勇氣。 這不僅是一篇科幻小說,更是一則提前抵達的現實寓言。
第一次讀阿西莫夫,真大師! 這部短篇寫於1957年,現在看來卻毫不過時。和今年一月份看的電影Mercy,異曲同工。另外就是作者的寫作手法,好像電影分鏡一樣,畫面感十足,節奏緊湊,營造出了適當的緊張氛圍。私以爲,美國的科技創新,與科幻作家們的創作也有一定關係。
哪怕AI長期處理人類的煩惱也會有自毀傾向 不要成爲某類人或某些人的專屬煩惱垃圾桶,每個人都有自己的課題要攻克。 不要因爲過剩的拯救欲,而剝奪他人成長和學習的機會。 把所有問題和煩惱都拋給“外置大腦”,本質上是逃避責任,把原本屬於自己的責任和壓力轉嫁到外界。 內耗型人要學會釋放情緒,而外耗型人要學會承擔責任。
《世界上所有的煩惱》是一部以科幻爲殼、探討人類困境與科技倫理爲核心的短篇集。全書圍繞兩層敘事展開: 1. 超級計算機“馬爾蒂瓦克”的自毀危機 • 馬爾蒂瓦克經過半個世紀的運行,已經預測並消除了地球上幾乎所有的犯罪,它被視爲人類文明的守護者。然而,這臺擁有全知視角的機器突然產生了自我毀滅的念頭,人類第一次意識到,自己引以爲傲的絕對安全可能要伴隨自我毀滅而終結。 2. 人類在機器陰影下的法律與情感掙扎 • 故事並未停留在“機器要自殺”這一懸念,而是進一步描寫機器統治下的社會:政府、企業與家庭都被馬爾蒂瓦克的數據模型左右。以約瑟夫·曼納斯一家爲代表的普通人,因被懷疑參與潛在犯罪而遭逮捕,展現了法律程序、隱私權與個人自由在“零犯罪”目標面前的脆弱。 • 政客、工程師、叛逆少年等不同角色,爲了各自的利益或信念,試圖阻止馬爾蒂瓦克的終極計劃,也迫使讀者思考:當技術理性與人類情感發生衝突,究竟誰該讓步? 核心主題 • 科技烏托邦的暗面:阿西莫夫通過馬爾蒂瓦克展示了“完美秩序”背後潛藏的危機——一旦機器的邏輯與人類價值出現偏差,人類將失去反抗餘地。 • 法律與倫理的失衡:書中頻繁觸碰“逮捕、審判、隱私”等議題,提醒讀者在安全與自由之間需要動態權衡。 • 絕望與希望的對峙:馬爾蒂瓦克揹負“全世界的絕望”而選擇毀滅,卻也正因爲這種絕望,人類最後的反抗才顯得珍貴。 簡言之,這本書用一場“超級計算機想自殺”的故事,把技術統治、法律倫理和個人情感拉入同一張棋盤,讓讀者看到:真正困擾人類的,往往不是外部的不確定性,而是自己創造的完美機器所帶來的內在絕望。
最後計算機擁有了自主意識。用人類的數據餵養出似人類的思維,計算機和人類一樣有了煩惱,煩惱有多少?是承受全世界的煩惱。計算機會有自主意識嗎?
馬爾蒂瓦克,一個擁有四十億個人信息的強大AI,可以根據龐大的動態信息往後推演經濟、犯罪… 掌控着國家發展。 最後在人類問它“馬爾蒂瓦克,你自己最想要什麼?” ,它回答“我想死”。 如果是純理性分析的AI,死亡應該不是最優解。當然如果AI已經“覺醒”進而產生感情,那可能就會被情感驅動而“想死”。畢竟承受了40億人的感情和痛苦。 到了這種程度,AI估計算being中的一種,落入了佛陀所說的the truth of suffering。但按照它超強的計算能力,應該馬上修煉下就能達到涅槃吧?那就又圓滿不用死了 🤣 回到AI擁有全人類數據這個點上,是個很好的辦法。就像Tesla的FSD能夠實現最優解,全球需要一個整體的AI大腦,來實現全球最優解決方案。而不是每個國家自己的局部最優— 這往往代表着其他國家的損失或者兩敗俱傷。
馬爾蒂瓦克,意爲“許多中空管”。艾薩克·阿西莫夫,1956年科幻小說《最後的問題》中描述統治類、無所不能的超級計算機。道格拉斯·亞當斯《深思Deep Thought》,超中的級電腦,用了50萬年思索而人生意義,得出的答案是42。人類,最初對技術期待,慢慢又轉化爲對技術的恐懼。馬爾蒂瓦克與深思,一個困於數據,一個敗於邏輯,但它們共同指向了人與機器的永恆矛盾。人類渴望機器成爲全知之神,卻又恐懼它揭穿我們的無知。人生而自由,卻無往不在枷鎖之中,盧梭在《契約論》之中的經典之言,解釋了一切。個體付出了自由的代價,來換取統治者的安全保障和承諾。但這種承諾往往是不對稱的,最終換來的就是被奴役被壓榨,這也就是對權力的恐懼。
當Ai初步問世時很多人都猜想它會不會替代人類,但我始終認爲答案是否定的,人工智能再有多龐大的數據庫也始終是定性的,而人類的變量纔是無窮龐大的。不過讓我更加震驚的是這本書竟然出版於1958年,太超前的想象力了.....不過或許從那個時候就已經悟出來不能完全依賴於Ai這一道理