殘心

從阿爾法狗開始，機器人第一次在國際象棋裏戰勝了人類，由此帶來了震撼狂喜，疑惑，迷茫和恐懼。但是人類要不斷進步，不斷挑戰自己的極限，不斷想要成爲自己的上帝，直到毀滅，這個進程不可避免，無可阻擋，在這之前的我們是幸運也是不幸的，就像引領着猶太人渡過紅海，來到了上帝允諾的流着蜜與牛奶之地的摩西，咫尺天涯，永無相見。 這裏的故事從一個二十一世紀被冷凍甦醒過來的女孩的視角，看到了未來人與機器助理的世界，並不美好，但也不會令人厭惡或恐懼。 其實我還是想了很多。 比如是不是該給機器助理應有的尊重，是否應該在編程的第一條就是絕對服從人類的指示，不得對人類有攻擊性行爲，人類各種器官的替代以及人類基因的改良，人類大腦由於芯片的植入有了更多更廣泛的知識儲備，那麼那時候的人類還是人類嗎？那麼人類和非人類還到底有多大的區分？如果沒有本質的區分，那麼爲什麼人類要凌駕於所有非人類之上？我們之所以敬畏上帝，那麼之於上帝，我們是否就是他們的試驗品，另類的非上帝種類，所以我們從基因裏被訓誡，要無條件的服從於上帝？ 令人思考的書總是開卷有益的

或許由於作者本人就是一名機器人研究專家，所以可能會不自覺地把自己的科研帶入小說寫作，這對於我一個甚至沒有學習過高中物理的文學生來說有點難懂……探討未來人類情感的科幻小說我還閱讀過《克拉拉與太陽》和《仿生人會夢見電子羊嗎？》，相比《殘心》來還是更推薦這兩本。

從人文關懷出發，思考人機未來（先別拍）在看這本書之前，我真的以爲就科幻-機器人這個母題來說，看阿西莫夫的機器人系列就足夠了——他提出並完善的“機器人三定律”（或者可以也可以加上機·丹尼爾和機·吉斯卡對該定律的再討論與“加工”），他爲機器人建立的一整套行爲規範和道德準則，他筆下生花演繹出的一系列推理性和邏輯性極強的精彩故事......都已經足夠經典與精彩。 （無論如何，確實懷念《銀河帝國》系列的半年期沉浸式閱讀！） 可見，可見，我的科幻雷達還遠遠不夠敏銳和開闊啊。 （所以歸根結底還是科幻看得太少唄！讀書少能賴誰呢？快爬起來看書吧！） 這不，來自西班牙的卡梅·托拉斯——她是歐洲科學院和巴塞羅那皇家科學院成員，她是巴塞羅那機器人研究所感知和操縱小組的負責人，她在機器人運動學、計算機視覺、幾何推理、機器學習和操作規劃等領域出版了五部專著，發表了大約三百篇論文——就來了。 單單從她的這一系列頭銜和論文成就，就可以預料——並且在實際讀完之後也確實得到了驗證——我將會大受震撼。 卡梅·托拉斯把從科研角度出發的人文關懷和對人機未來發展的態度，融合在了故事中，讓我得到太多新的啓發。 與此同時，得益於湛廬特有的科普關懷，文前文後的問題探討也使思考的方向得到更廣闊的擴展—— 我把特別喜歡的文末的“人機未來的6個問題”之梗概，整理爲了筆記（可點擊鏈接），歡迎驗證思考（不用擔心，我把具體分析環節放在了另一個筆記，或者你也可以在閱讀完全書之後，再進行探討與思考）。 由此可見，有時候科幻的設定重要，但是其帶來的思考也很重要——也正因此，當情感淡漠、人機相連、機器代工、冷凍人......這些並不會覺得陌生的情節被逐一呈現時，正是因爲作者卡梅對人物內心活動、對話、行爲尤其是其思維方式和人際關係的構建，才使得這個故事變得別有趣味和特別起來。 爲避免劇透，這裏就不做過多的情節上的披露了。 僅分享七處機器人的內心os和“搞笑”舉動—— ① 雖然，這並不符合邏輯，但他說他就是喜歡這種“消——遣”，他就是這麼說的，而且把“消”字的音拉得特別長。我會分析他說的每一句話，盡我所能去適應他，但收效甚微。到目前爲止，我唯一學到的東西就是抑制我的原初反應。 ② 博士在浴室裏時我是不會進去的，這又是一個我必須學會接受的“不行”。不過我會接入馬桶來獲取數據。 ③（“阿爾法+”是機器人） 阿爾法+把一切都安排得那麼井井有條......這個機器僕人本來就已經夠出色了，現在因爲安裝了神經加速器，它的學習速度更是快得令人瞠目結舌，區區幾天時間，它已經像一副合適的手套一樣讓他稱心如意了。 ④ 我做了如下記錄：當一段時間的沉默結束後，如果他表情憤怒，那最好先不要做任何判斷，而是應當默認保持當前的狀態，無論需要保持多久。 ⑤ 這堆該死的垃圾，這會兒又變成哲學家了。它的機械推理能輕鬆把人比下去。事實證明，我們纔是那些循規蹈矩的人，而它們卻能真正做到與衆不同。我們總是把我們的靈感歸因於隨機性，即我們最具創造性的解決方案，但也許主觀性中就存在着某些我們都必須遵循的不變法則。當然，機器人除外。如果創造力真的就是一種隨機發生器，那它們一定就是未來，是我正在尋找的義體。 ⑥ 警告！要是我告訴他，他一定會指責我直接把謎底和盤托出會加速他的大腦萎縮。 ⑦ 他和我都已經保持紋絲不動的狀態整整5分鐘了。我的學習模塊提醒我有危險，卻並沒有提出任何能保證成功的解決方案。根據我所掌握的主人的精確模型預測，再過幾秒鐘，他就會衝我吼道：“滾開，你這個多管閒事的金屬廢物，你以爲站在那裏不動就能給我啓發？要知道，你那腦袋瓜裏也得有一些神經元，纔可能解決這樣的謎題。”對付他的侮辱的最好辦法，就是阻止他說出來。我必須先發制人，採取主動。 科幻是想象力，帶給我們去到未來的自由一瞥； 科幻是反思力，帶給我們關於自己和社會的深刻洞察； 科幻是思考力，帶給我們改變現實的巨大力量。 我願意跟隨湛廬，踏上這神奇的科幻旅程，把科幻作爲思考方法，發現改變現實的力量，去到那個也許美好也許危險，但是一定遍佈神奇的未來。

先看的《殘心》，後看的《饋》。看完以後，發現閱讀的順序顛倒一下也許會更好。 《饋》是講到人類的近未來，高科技“饋”系統崩潰後，人們面臨的生存困境和抉擇；而《殘心》則是經歷了幾百年之後，人類已經發展到了另一個紀元的故事。 在《殘心》的世界中，人類身邊已經普遍擁有超級智能機器人，就像我們在科幻電影中看到的一樣。 不知道爲什麼，科技的發展總給我一種恐怖的感覺。就是一個事物在發展過程中，它不是無償的，在你享受便利的同時，同樣會失去一些東西。 比如，人類開始越來越多地依賴機器人，小到穿衣喫飯、出行、工作，大到人生決策、頭腦思維，全都交由機器人打理。而人類在獲得極大便利的同時，自身的生存技能與人類的情感本能卻在慢慢消失。 人們發現，品嚐一個食物，只要機器人評定這個東西好喫、乾淨、衛生，人就可以毫無顧慮去喫，而自己卻根本嘗不出箇中滋味，再也沒有“好喫或難喫”的感覺了，只是盲目隨從機器人的指示。 所以，在《殘心》的世界中，“殘心”就意味着人類內心殘存的本能，早已沉睡。但即便是沉睡，因爲它在內心還有一點點地位，所以總有被喚醒的時刻。 在這本書中，有高度發達的製造機器人公司，也有探索人類古老情感的公司。 在幾百年後的地球上，人類已經忘記什麼是感動、憤怒、悲傷、害怕，取而代之的是機器人評定的冰冷指標。 在故事的開篇，一個曾經在21世紀患有絕症的女孩，從“冬眠”中被喚醒，她被告知，由一位叫做盧的女士領養了。 當你一覺醒來，發現自己來到了幾百年後，你會是什麼感受？ 人類的本能會害怕，會好奇，會有疑問，這些特徵也都表現在女孩身上。 可是，盧卻像看怪物一樣看待女孩，她對於女孩的反應聞所未聞，她開始懷疑自己的決定是否正確，也開始後悔自己草率決定要領養“古代”人。 但最終，盧還是領走了女孩。 而這位在我們看來無比正常的21世紀女孩，在那個世界則是格格不入的。在學校，老師告知學生們無需學習知識和技能，因爲這些數據都存在機器人的存儲中，想要的時候可以隨時調取，學生們只要學好如何操作機器人就可以了。 看着拿起筆來做算數、推演的女孩，同學們都很詫異。不止這一點，女孩在學校與同學和老師都不能很好地相處，老師多次來找盧，暗示要不要讓女孩停學一段時間。 其實盧也不太理解女孩的做法，因爲她本身對於領養這件事就很後悔。 後來，一位情感按摩師的到來，緩解了女孩的很多壓力。 在疏導女孩的過程中，情感按摩師收集到了很多人類古老的情感，而女孩也引起了機器人公司的注意，因爲她的大腦活動，對於研發機器人有着極大的參考價值。 讀完《殘心》這本書，深深感覺到人類的有限。 人類也許從古至今都在超越自我，但不可否認的一點，宇宙本身的運行規律，是任何人都改變不了的。 一直覺得“人定勝天”是一個僞命題，人類終其追尋幾千年，是在不斷超越自身，而不是在“勝天”。 人類可以在惡劣的環境中生存，那是因爲人有很強的適應能力，可以順應時代的潮流和發展。 人類只有承認自己的有限，看見自身的侷限，才能更好地發展，也許這就是《殘心》帶給我的最大感觸。

已經2025年了還是不知道給書加一個能讓人喘過氣來閱讀的正常分段以及直入主題的流利描寫是嗎

殘心 機器人的服務與社會倫理 人工智能的發展與人類社會的倫理領域，將會出現尤其明顯的變化。我們創造技術，而技術又反過來塑造我們，因爲技術（它們）將締造我們的生活，並最終塑造人性。其實這樣的思考與思辨已經不是遙遠的未來問題了，在我們當今的日常生活中，已經從許多地方出現端倪了。 書中這位克拉夫特博士顯然是一個很難相處的人。年齡大了，他的日常生活是由一個機器人阿爾法來照料的。在這一部分中主要突出了機器人在輔助人類生活時，他的決策權限應該有多少的問題？機器人能夠完全的自己做主嗎？還是嚴格按照邏輯命令要求執行人類的指令呢？在這個故事當中阿爾法顯然是已經擁有一定自主意識的機器人。在這一節敘事中，也是用機器人第一人稱視角進行的。機器人完全用“我”的敘述形式來進行觀察思維。它的任何行動當然是爲了更好的幫助克拉夫特博士，不光可以分析博士的各種生理上的指標，也可以分析博士的情緒、心態，甚至也可以爲了某着目的而拒絕執行一些命令。當機器人有了一定自主性的時候，那是否可以說是對人類的命令的一種僭越呢？ 書中描寫的一個場景，應該是令女士們羨慕不已的，未來的時候，女士們完全可以享受智能化妝，人根本就不用親手化妝，化妝品也和現在不一樣，也是智能化的，他能放大人的情緒，正面的情緒該彰顯的彰顯，負面的情緒該隱藏的也能隱藏。比如你去見一個女兒時。梳妝檯的設置面板上就已經做好了一些選項。比如關係：女兒；共情：高；場景：歡迎。心情：愉悅，情緒：親切。只需要選擇好按下確定鍵之後，相關的化妝品組合就會出現在梳妝檯上。在未來智能化的程度已經可以很精確地，精細地描摹人類的情緒形態了嗎？當這種機器人的計算能力真的可以精確到這樣的程度的時候，是否已經無可置疑的說，機器人應該是具有人類所有情感功能的一種非有計劃的智慧體了呢？那麼他情感的獨立，一種智慧的人（機器人）格的獨立，是否會得到製造他的人類的認同呢？這些都是未來社會必須討論的社會倫理問題。 在未來科學的研究已經涉足到了心理遺傳學，如果人類真的掌握了人類心理發生的物質形態基礎的話。那麼在機器人身上實現機器人的情感化、人類情志化的編輯，應該不會再是一個不可能的問題了。這時候一個全新的機器人時代的到來將是必然的，而且這個時代應該是完全高於終結者電影系列中的那些機器人時代的。 素有危機感的人，經常會感嘆一句，科技從來都是是把雙刃劍。科技在給人類帶來方便的同時，也在改變着人類的所有。人們得到了很多，同時人類也失去了很多。從書中所講的故事不難聯想到，當機器人的服務日益進入我們的生活時，人類是否會產生對他們的過度依賴？書中有一段很直觀的描述，“想想看，阿米巴原蟲從出生起就是成熟的個體，小鹿在出孃胎幾天後也能學會奔跑和覓食，可是眼前的這些笨蛋，他們甚至還沒意識到自己有個身體！被巴爾特稱爲“彼得·潘一代”的孩子已經降臨了：他們出生在機器人的世界裏，而且，把他們撫養大的也是機器人。這樣的新人類已經需要輔助知覺意識訓練了”！未來“他們將來都會因技術過剩而平庸地死去”，最終，這個星球上最發達的物種將死於進化過度。這是科技之光還是科技之災？都是很值得我們思考的問題。 小說在最後部分講了“人機未來的6個問題”。是對這本書中故事最好地分析總結和問題探討。所列之問題不再是那種天馬行空般的科幻聯想，都是很具有現實意義的，可以說是根據現在的科技水平，很多問題在不久的將來，會是人們都將直接面對的。最後這總結部分很值得認真的閱讀和思考一番。 總之機器人的確可以幫助人類從那些繁瑣單調的工作當中解放出很多勞力精力，但是如果讓機器人涉入人類的情感方面的能力，還是十分渺茫的。同時機器人文明與人類文明的共同發展也會是一項十分龐大的社會的系統化的工程。必然會帶來很多微妙的社會問題，引發耐人尋味的倫理問題，這將給未來增添無窮的可能性。

作者是不是對讀者能分清楚ROB**太過於自信了？另外，文末的閱讀理解是什麼鬼？？？