未來機器人暢想

純陽書評（豆瓣:純陽子/公衆號:純陽書評／微信號:chimbusco88）第471期《未來機器人暢想》作爲一個成語，名不副實是指名稱或名聲與實際不相符的一種狀態，作爲一種不相符的狀態，名不副實並不單純，還可以繼續一分爲二，其中一個分支是名稱高過實質，這就是通常意義上的名過其實，很顯然把這種情況反過來就可以輕易地得到另一個分支，即內容高過名稱，儘管後者經常被人遺忘，但是它卻實實在在的存在，既廣泛存在於事中，也廣泛存在於物中，當然也存在於書中。這本書就屬於這種情況，從中文名來看，屬於嚴重地名不副實，而且是第二種情況的名不副實，具體評價如下： 第一、這本書嚴重名不副實，絕非輕鬆的暢想。 無論暢想什麼，暢想首先是一種想象，而且是一種無拘無束地想象，這種想象的主要原料和主要結果也必然還是想象。既然暢想的核心就是想象，所以有關未來機器人的暢想，可以遠離現實，描繪未來機器人的強大能力；可以天馬行空，刻畫未來機器人滿地跑的世界；也可以信馬由繮，講述機器人的愛恨情仇。儘管這些內容也可以寫得賞心悅目，但是始終缺少一個現實的根，能把這些內容留在現實之中。 而本書的內容絕非簡單的暢想，而是在爲想象保留翅膀的同時，將想象狠狠地扎入現實的土壤，讓想象在土壤之中生根發芽，因此無論想象如何生長，想象始終都能夠獲得來自現實的營養。走到這一步，我們不難發現如果說本書的內容主要也是想象的話，那麼這種想象也是基於現實的想象，來自現實的想象，而絕非暢想和空想；這種想象本質上是我們走向未來之前的一種遠望，一種對未來我們必然面臨問題的提前構想，顯然這本書是一本嚴肅的讀物，不是在誇誇其談，而是要認真地坐而論道，不是泛泛而談，而是要切入具體問題，探究解決之道。 所以說這本書內容嚴重名不副實，絕非輕鬆的暢想，就其內容的嚴肅性、實用性來說，已經遠遠超越了先天空洞的暢想。 第二、這本書嚴重名不副實，其內容不只嚴肅還很重要。 都說人工智能必然登場，甚至是已經登場，但是人工智能、機器人的發展方向到底是什麼還不是一個說得很清楚的問題。主流觀點認爲強人工智能的研發就是方向，我們需要做的就是讓機器變得越來越強大。但是這條路始終存在一個不確定性，如何保證那樣的強人工智能肯定會出現？ 本書作者提出了另外一個思路，真正的未來機器人世界有可能沒有、甚至是無需強人工智能機器人的出現，我們要做的就是怎麼基於現實的條件去構建一個能夠人機共存的世界。在這個世界中，真正重要的不再是足夠聰明機器人，而是能夠形成人機互補結構的協作關係，機器不需要那麼強大，只需要能夠處理好和人的關係、機器之間的關係、機器和環境的關係，那麼一個現實的機器人世界就可以形成。 按照這個思路，機器人的研發方向也應該做出適當調整，不再一味追求機器人的強大，而是要基於人機工程學、認知心理學等科學理論，關注人機、機機、機環的關係處理，這可能纔是真正務實的機器人研發之道。 綜上所述，這本書是機器人、人工智能領域的一本好書，一本嚴肅的好書，當然了還是一本名不副實的好書。

《未來機器人暢想》拆解 作者：勞拉·梅傑、朱莉·沙阿 一、一句話概括 未來機器人能否安全融入社會，關鍵不在於製造一臺永不犯錯的完美機器，而在於讓機器人、人類使用者、旁觀者和環境形成能夠相互理解、共同學習並持續改進的協作系統。 二、核心邏輯 本書反對一種常見想象：只要機器人足夠智能、足夠自主，就能獨立解決現實問題。 作者認爲，現實中的機器人始終處於複雜的人類社會之中。它不僅要與直接使用者配合，還要面對不瞭解其意圖的旁觀者、其他機器人、交通規則、建築空間和社會規範。 全書的邏輯可以概括爲： 機器人不是孤立產品 → 人機協作必然存在磨合 → 機器必須理解人的行爲 → 人也必須理解機器的能力與意圖 → 環境和制度需要共同適配 → 通過真實經驗持續提高安全性 商業航空的發展是全書的重要類比：飛機自動化並非一開始就完美，而是經過長期培訓、事故調查、報告制度、系統改進和人機分工調整，才形成今天相對可靠的航空系統。 三、核心內容 1. 自動化正在進入開放的人類環境 早期工業機器人通常在圍欄內工作，任務和環境高度固定。 今天的機器人逐漸進入道路、醫院、倉庫、商場、辦公室和家庭，需要與普通人共享空間。自動駕駛汽車、配送機器人和服務機器人無法要求所有人嚴格按照預設規則行動。 開放環境意味着機器人必須面對： 不完整和不確定的信息；難以預測的人類行爲；沒有參與培訓的旁觀者；不同文化和習慣；突發障礙與規則衝突；技術能力和社會期待之間的差距。 機器人越接近真實社會，問題就越不只是工程問題。 2. 沒有真正“自力更生”的機器人 機器人看起來能夠自主行動，背後卻依賴大量人類和基礎設施： 工程師選擇目標與訓練數據；操作人員監控異常；維護人員修理設備；地圖、道路和標識提供環境信息；雲服務和網絡支持計算與通信；法律和運營規則限定行爲；人類在系統失效時接管。 “自主”通常只表示機器能在某些條件下獨立完成部分任務，不意味着它不再需要人類系統。 評價機器人時，不能只觀察機器本體，還要看到支持其運行的完整網絡。 3. 過度追求完美可能製造新的危險 高度自動化能夠減少部分人爲錯誤，卻也可能讓人逐漸脫離任務、降低警覺，並失去接管系統所需的技能。 當機器人長期表現良好時，人容易形成過度信任。一旦機器遇到超出能力邊界的情況，使用者可能無法及時識別，更無法迅速接管。 這與航空自動化中的問題類似： 自動系統承擔越來越多操作；人類從操作者變成監督者；監督長期穩定系統非常困難；真正需要人工時，往往正是最複雜和危險的時刻。 安全設計不能假設人會一直專注地等待機器失敗。 4. “事故主要來自人爲錯誤”是過度簡化 事故調查經常把原因歸爲駕駛員、操作員或使用者失誤，但人的錯誤可能是系統設計問題的最終表現。 例如： 界面沒有清楚顯示系統狀態；自動化模式容易被誤解；警報出現得太遲；操作流程不符合人的認知習慣；培訓與實際任務脫節；組織鼓勵效率，卻忽視風險；系統把不合理負擔留給人類補救。 把事故簡單歸咎於個人，會掩蓋人、機器、環境和組織之間的系統性問題。 5. 機器人越聰明，行爲越可能難以預測 傳統工具的行爲比較固定，人容易形成穩定預期。具有學習和自主規劃能力的機器人會根據環境動態選擇行動，反而可能讓人難以判斷它下一步要做什麼。 技術能力提高不一定自動改善協作。如果機器能夠快速改變路線、策略和任務，人類可能發現它的行爲越來越不透明。 因此，智能機器人不僅要做出正確行動，還要用人能夠理解的方式表達： 當前看到了什麼；正在執行什麼任務；爲什麼採取這一行動；下一步可能做什麼；是否需要人類幫助；何時達到了能力邊界。 6. 現實協作存在“人—機器人—旁觀者”三體問題 傳統人機交互常只考慮一個人和一臺機器人，但現實中還有旁觀者。 例如，自動駕駛汽車與車內乘客建立了交互關係，同時還必須讓行人、自行車騎行者和其他司機理解它是否準備停車、轉彎或讓行。 旁觀者沒有接受產品培訓，也未必知道機器的傳感範圍和行爲規則。機器人如果只照顧直接用戶，仍可能對周圍人造成困惑或危險。 所謂“三體問題”強調，機器人設計必須同時考慮： 機器如何理解使用者；機器如何理解旁觀者；使用者如何理解機器；旁觀者如何理解機器；使用者與旁觀者之間如何互相影響。 7. 機器人行爲必須具有可讀性 機器人不能只在內部計算正確方案，還要讓人從外部動作中推斷其意圖。 在人際互動中，人們會通過眼神、速度、姿勢、停頓和行動方向預測對方。機器人也需要提供類似的社會信號。 可讀性可能來自： 清晰、平穩的運動軌跡；提前減速或停頓；燈光、聲音和顯示界面；明確的方向和任務提示；與社會習慣一致的讓行方式；在不確定時主動請求幫助。 設計目標不是讓機器人看起來像人，而是讓它的行爲容易被正確解釋。 8. 機器人不一定要長得可愛或像人 擬人化外觀可以提高親和力，卻也可能使人高估機器的理解、情感和責任能力。 如果機器人擁有眼睛、表情和語言，人們容易把它當成具有完整心智的社會主體，並對其產生不符合實際的期待。 機器人的外形應服務於功能和交互： 需要讓人快速判斷其運動方向；需要清楚顯示傳感器和工作範圍；不應掩蓋危險機械結構；不應以可愛外表誘導用戶忽視風險；外觀暗示的能力應與實際能力一致。 可信賴比討人喜歡更重要。 9. 人和機器人需要建立共同的“心智模型” 所謂心智模型，是人對系統如何工作、能夠做什麼以及何時會失敗的理解。 如果用戶以爲機器人能理解所有自然語言，但系統只能識別固定命令，協作就會失敗。反過來，機器人也需要根據人的動作、目標和知識狀態預測其行爲。 有效協作需要雙方使用兼容的表達方式： 機器人清楚說明狀態和限制；人類指令符合機器能夠理解的形式；系統根據反饋修正對人的判斷；使用者通過培訓和經驗理解機器邏輯。 人機合作的重點不是讓一方完全適應另一方，而是逐步縮小雙方理解上的差距。 10. 多人、多機器人協作會增加系統複雜度 當場景中存在許多人和許多機器人時，每臺機器單獨表現合理，並不保證整體系統安全高效。 機器人之間需要共享任務、位置和意圖，避免互相阻塞或重複工作。不同廠商的機器人還可能使用不同標準和行爲規則。 同時，機器人協作不能忽略人。機器爲了提高整體效率形成的緊密調度，可能讓人類難以穿行、打斷或接管。 未來需要在通信協議、優先級、異常處理和人類控制權方面建立共同標準。 11. 城市將成爲“半個機器人” 智能城市並不只是城市中部署了許多機器人，而是道路、建築、傳感器、網絡和軟件本身逐漸具有感知與行動能力。 城市可以通過以下方式幫助機器人： 提供機器可讀的地圖和交通信息；設置適合機器人識別的標誌；爲配送機器人規劃通道；通過基礎設施傳感器補充機器視野；讓電梯、門禁和充電系統支持自動設備；提供統一通信與調度接口。 把所有智能都塞進單臺機器人會極其昂貴。由環境承擔部分感知和協調，可以降低機器複雜度。 但智能環境也會增加監控、網絡攻擊、系統依賴和公共權力擴張的風險。 12. 社會規範也是機器人必須學習的環境 現實世界不僅由物理規則構成，還存在大量不成文規範：排隊距離、讓行方式、禮貌表達、私人空間和不同場所的行爲期待。 機器人如果只遵守形式規則，仍可能表現得粗魯、突兀或危險。 這些規範還會因地區、文化和人羣而變化。系統需要理解一定的情境差異，同時避免把某一羣體的習慣當作所有人的標準。 機器人社會化不僅是識別人類動作，也包括學習何種行爲在特定環境中是可接受的。 13. 機器人安全需要全社會共同學習 機器人進入開放社會後，不可能在實驗室中預先覆蓋所有情況。安全能力必須通過真實運行經驗不斷積累。 作者借鑑航空安全體系，主張建立： 事故和險情報告制度；可以匿名分享問題的渠道；跨公司共享的安全數據庫；標準化事件分類；獨立調查和系統性覆盤；受控的機器人試驗場；培訓和認證機制；根據現實反饋持續更新設計。 如果企業因擔心聲譽而隱藏失敗，整個行業就會重複同樣的錯誤。 14. 機器人需要像孩子一樣被逐步“培養” 作者使用“培養機器人”的比喻，不是說機器真的具有兒童心智，而是強調社會適應能力需要逐步形成。 機器人應先在範圍有限、風險可控的環境中運行，經過監督、反饋和能力驗證後，再進入更復雜場景。 這種成長路徑包括： 受控試驗 → 小規模使用 → 收集異常 → 改進系統 → 擴大範圍 → 持續監督 社會不應要求新技術一開始就絕對完美，也不能因爲它仍在學習就放棄基本安全責任。 四、本書最值得關注的核心觀點 本書最值得關注的觀點是： 機器人安全不是機器本身的一項靜態屬性，而是人、機器、環境與制度共同產生的結果。 一臺實驗室中準確率極高的機器人，進入擁擠街道後仍可能失敗，因爲旁觀者不瞭解其意圖、道路設施不適配、網絡發生中斷，或者運營規則迫使它追求過高效率。 因此，改進機器人不能只升級算法和傳感器，還要同步設計： 人能夠理解的行爲信號；合理的人機分工；使用者培訓；環境基礎設施；事故報告與調查制度；責任和監管規則。 未來不是機器人單方面適應人類，也不是人類被迫服從機器，而是雙方連同社會環境一起學習如何合作。 五、一段話總結 《未來機器人暢想》指出，機器人從工廠圍欄進入道路、醫院、商場和家庭後，安全問題便不再只是機器能否準確執行任務，而是機器人、直接使用者、旁觀者、其他機器、基礎設施和社會規範能否形成可理解的協作系統。高度自動化可能降低部分人爲錯誤，也會造成過度信任、技能退化和緊急接管困難；機器人即使行動正確，如果不能清楚表達意圖，也可能讓周圍人誤判。作者因此主張借鑑商業航空的成熟過程，通過可讀行爲設計、共同心智模型、使用者培訓、智能環境、跨系統標準、事故與險情報告、受控試驗場和持續覆盤，逐步培養機器人適應社會的能力。真正可靠的未來，不來自一臺永不犯錯的完美機器人，而來自一套能夠發現錯誤、共享經驗並持續改進的人機社會系統。

機器人是人類智能化的一種智慧工具，賦予人的實踐活動功能。在使用過程中杜絕機器人逆反現象是需要注意的問題。