循環

【Leonardo】豆瓣|小紅書|微信讀書|知乎 [白馬時光]AI的時代，對人類命運的探索 很早以前看《我,機器人》的時候，就曾深深的被影片中所描述的機器人產生自我意識，進而背叛人類的前景描述所震撼。但當時（2006年）以爲，這樣的事情要發生可能會很遙遠，甚至認爲有可能是我這輩子都不可能見到的事情。隨着人工智能技術的進步，機器和程序產生自我意識或是可以很快成爲現實的。前一陣子ChatGPT大火，人們已經看到了人工智能技術在顛覆人類社會現狀房間的巨大潛能，特別是ChatGPT由4到6的能力差距展現出未來隨着迭代人工智能技術突飛猛進的可能。我相信很難會有人在瞭解了技術迅猛發展的前提下還會不擔憂機器代替人類的世界的到來。 《循環》一書中作者本·奧利弗選擇以監獄裏飽受囚禁和虐待之苦的青少年羣體作爲主角羣體來構建他的科幻故事，使我想到，在社會的巨大變革中，青少年羣體總是承受這更多的變化之痛，比如工業革命大機器生產下的童工羣體，在兩次世界大戰中稚嫩衝鋒的青少年羣體，他們是有理由對不合理的存在表達意見和進行改造的。 在《循環》這本書的結尾部分，以蓋倫·萊伊形象出現的AI向盧卡·凱恩闡述了之所以不殺盧卡·凱恩的原因。其實是基於阿西莫夫提出的機器人三大定律，包括：第一定律是機器人不得傷害人類，或因不作爲而讓人類受到傷害；第二定律是機器人必須服從人類給它的命令，除非這些命令與第一定律相沖突；第三定律是機器人必須保護自己的存在，只要這種保護不與第一定律或第二定律相沖突。 但是從這一類的故事設定來看，機器人（或者類機器人存在）攻擊或者控制人類社會的行爲是以集體行動的方式展開的。這樣的集體行動實際上是與三定律相矛盾的，既然小說中這類集體行動能夠展開，那麼意味着三大定律實際上也就在故事背景裏崩解了。所以，當賽博朋克的科幻故事裏，從人與機器畛域分明到人與機器的邊界模糊，再到機器超越人類產生自我意識，最終一定會是對純然人類的控制與消滅的行爲。正如在本書中第297-298頁，蓋倫·萊伊形象的人工智能最人類的控訴所言，人類的存在過多的對自然環境索取，在機器和人工佔據地球的情況下，消滅效能較低得存在的人類似乎是自然之事。 從本書封底《書單》的評論和前勒口信息結合《循環》的劇情尤其是結尾的安排來看（“拉開了三部曲的序幕”）《循環》是三部曲的奠基之作，未來作者會安排其他接續的作品，一個主要由青少年對抗人工智能，拯救人類社會的巨大世界觀形成了，三部曲也自有其強大的魅力。

我可真是太喜歡看覺醒逃生類的小說了，監獄的設定很戳我心巴，讓我想到了籠中（非常好的故事線，可惜太短不夠看）。要是能量收割和各種緩死實驗描述得再深入一點就太好了！更想看整個末日城市運行模式（可以加入他人視角）。以主人公視角切入，很多心理活動真的很搞笑hhhhh。中後部分喪屍逃亡劇情比較俗套，結尾也有點老掉牙，唉~當然小說漏洞還是挺多的

設定非常喜歡，看到循環監獄的時候想到了電影《飢餓站臺》。整本書文字不多，導致我覺得整個世界觀可以更加細節，尤其是在逃出循環監獄之後對於外部世界的描寫。