AI的25種可能

約翰·布羅克曼編輯的每一本書，不誇張的說都值得重視，不僅僅因爲他從美國現代科技思想精英，大牛人俱樂部所收集的文章觀點。它代表了多個領域世界級別精英圍繞AI之奇才們正負兩個方面觀點，或者思想與言論之間的糾結。他也代表現代的一個思想，意識形態，哲學及現代科技發展戰略的之種的一個有挑戰性思潮。 從本書應該可以瞭解到、人工智能之領域的一個回顧，現狀，與展望及旁徵博引，當然，若想了解AI更爲新一點現況，大力推薦微信讀書近日推出的新書：“科技之顛3”。 確切的說，這本書是從25個角度來看分析AI的有關事項，當然在25個項目，在書目錄中都有，這裏不復述。只是編輯本人採訪了上面每一個角度中發言響噹噹代表人物，並且歸納總結一些AI歷史發展過程中，或者當今世界AI研究過程中，包括：哲學新思想在AI領域的分析，AI歷史的回顧，有些新思想，新概念詮釋，AI新觀點及新技術的一些說明。它甚至還有些AI歷史上大事件之八卦故事。 書中肯定不缺大侃，大忽悠。其中談得最多的一位大人物是控制論創始人維納，有一系列從多方面圍繞此人的回顧。同時指出，維納的視角遺漏了非常重要的一點，“那就是認知因素：大腦、思考、智能”。但是，“諾伯特·維納的《人有人的用處》是本書的基石，它慶祝了這一智力成就，維納本人也對此成就做出過重要貢獻”。 書內容基本上都屬於科普，或者描述性的，比較通俗易懂。它是值得費腦筋去思考的好參考書。專家們從不同的角度來分析討論共同問題，真能夠幫助外行人開腦洞，漲知識，提高辨別與欣賞的的能力。儘管，它在討論AI的技術層面，並不是很多或者很深，但是它應該特別適合從關心哲學或者政治層面的讀者來了解AI。 下面摘錄書中幾個好句子作爲書籤，爲以後留下翻閱。 AI“第一代領軍人馬文·明斯基（Marvin Minsky）和約翰·麥卡錫，第二代領軍人愛德華·費根鮑姆（Edward Feignbaum）和羅傑·尚克（Roger Schank），以及美國國家超級計算機聯盟的負責人約瑟夫·特勞布（Joseph Traub）。” “我們對這本書的希冀是什麼？斯圖爾特·布蘭德曾說過：“重新審視先驅的思想永遠都有用。它給我們一種長遠的視角，能在幾十年甚至幾個世紀的時間裏吸引人們思考這一主題。當代的所有討論，如果不能從長遠視角出發，都註定不能長久。” “弗里曼·戴森是仍健在的少數幾位認識維納的學者之一。他說：“《人有人的用處》是迄今爲止最好的書之一。維納幾乎所有的論斷都是對的。我很想看看你們這羣奇才如何使用這本書。” “維納思想的核心是從信息角度來理解這個世界。複雜系統，如生物體、大腦和人類社會，是由互鎖反饋迴路組成的，其中子系統之間的信號交換導致了複雜但穩定的行爲。” “維納畢生的事業以及他預測的失敗，都與技術奇點密切相關。” “機器學習是一種工具，使我們從研究數據走到研究概率。但是，從概率到實際理解，我們仍然需要多邁出兩步，非常大的兩步。一是預測行動的結果，二是反事實想象。除非我們邁出最後兩步，否則我們不能說了解了現實。” “人工智能研究的目標是瞭解智能行爲背後的原理，並將這些原理注入機器中，使其可以表現出這樣的行爲。” “人工智能的邏輯規劃和理性主體視角中，機器的目的，無論是以目標的形式，還是效用函數、獎賞函數（如強化學習）的形式，都是外生的。用維納的話說，這就是“賦予機器以目的”。事實上，人工智能領域有一個信條，即：人工智能系統應該擁有一般目的，也就是說，它能夠接受一個輸入的目的，然後實現這個目的；人工智能不應該有特殊目的，也就是隱含在它的設計中的目的。” “弗朗西斯·克里克稱之爲‘驚人的假說’：意識，也稱爲心智，是物質的一種湧現性。”如果這是真的，則表示“所有智能都是機器智能。自然智能與人工智能的區別不在於它是什麼，而在於它是如何製造的”。“他的一個“驚人的假說”：心智來自物質。他的著名觀點是，心智，只不過是“一個巨大的神經細胞組羣及其相關分子之間的交互作用”。..“克里克的神經生物學的“驚人的假說”和物理學的有力證據結合起來，我們可以推斷出自然智能是人工智能的一個特例。這一結論，我稱之爲“驚人的推論”。“我們得出一個簡單的結論： ◎ 人類的心智源於物質。 ◎ 物質是物理學定義的。 ◎ 因此，人類的心智是從我們能夠理解並可以人工再現的物理過程中湧現出來的。 ◎ 因此，自然智能是人工智能的一個特殊情況。” 它靠譜嗎？ “有爭議問題的簡單回答 ◎ 人工智能會有意識嗎？ ◎ 人工智能會有創造力嗎？ ◎ 人工智能會是邪惡的嗎？” “我們人類的智慧充滿奇蹟，令人不可思議。科學界正在接受這樣的觀點：人類大腦的運作方式與其他任何具有多個層次和反饋迴路的複雜系統一樣，都在追求數學上稱之爲“優化函數”的東西。但從某種意義上說，你也可以稱之爲“向下流動”。 “我們要謹記科學史上的這兩個教訓：第一，判斷不是自我約束的純粹客觀性丟棄的外殼。第二，機械客觀性是相互競爭的美德中的一種，而不是科學事業的本質。” “在我看來，人工智能的主要風險不在於我們是否能夠從數學角度上理解它們的想法，而在於我們是否能夠教給它們符合道德規範的行爲。人類幾乎不能教給彼此符合道德規範的行爲。”

認識世界的角度多多益善。學科的邊界都是人造的藩籬，能瞭解各行業精英的視角，從多個角度玩味這個世界，綜合各種信息來做決策，這不顯然比死守一個角度更有益也有趣

2021·39 《AI的25種可能》約翰·布羅克曼 EDGE這套書，放微讀書架上有一段時間了，一直有點犯怵：理科領域，看得下去嗎？ 但在推動人類科學社會進步原動力的好奇心指引下，4月份翻開看起來！ 這一本AI話題合集，似乎（像）是各路神仙大拿在TED講話稿？ 成書的起因是布羅克曼在讀完維納的《控制論》和《人有人的用處》之後，向現實俱樂部（EDGE）的人工智能專家，藝術家約稿，收集了25篇，結集成此書。 因此，這25篇觀點或許會對等衝突，也可能是疊加發揮，涉及AI智能前世今生。 AI話題方興未艾，不知不覺間，植入生活中的方方面面， 樂觀者喜出望外：壽命更長，活有人幹，躺賺！！ 悲觀者細思恐極：如果掃地機器人有一天反思爲啥整天喫土還不給工錢，並進而思考“機生意義”？人類這種五體不勤，五穀不分的俗物，能打贏機器人的一根手指頭嗎？ 那我們應該如何應對呢？ 人工智能應該永遠被當作一種工具，而不能人格化。 即使開發深度學習的能力，也永遠不能賦予感情（老天保佑）。 這個聽起來矛盾且不近人情，其實在人類社會本身也是正常發生的，這就是授權管理。 比如警察被授權配槍以保衛安全，吊車工人被授權升空操作吊臂，各行各業都有自己領域特許，但又受限的情況。 人工智能也應該如此，在另外一個平行空間裏，建立另外一套運行邏輯。 這應該就是維納《人有人的用處》書裏的核心 當然以上是個非常理想化的設定，人作爲感情動物，愛世上萬物，又怎麼能單獨對自己創造的，朝夕相處的，替自己賣力替死的機器人而麻木不仁？ 萬一一個程序員，萬一一個深度學習的突破，讓機器人獲得感情與反思的能力，那人類又有Plan B嗎？ 如果這個還算天方夜譚的話，那麼現實當中已經發生的程序員成爲屏幕後的戰士，強盜，竊賊（不管用什麼壞詞，都明白有那麼一小撮人是幹這行的），利用着AI系統，把我們現實中已經無法脫離的虛擬世界操縱獲利。AI又背不背鍋？這又得算是Plan 老幾？道德領導力和技術操作實力的博弈，誰擲骰子？ 一個爆炸性的話題，集結各方的觀點，要概述本書非常不易（讀懂就不容易），還是翻了一句，作爲本書題眼： 我們之所以要仔細研究人工智能，主要是因爲目前最重要的兩個問題：“人工智能的能力將有多大？”“它可能給我們人類帶來什麼危險？

《AI的25種可能》拆解 一句話概括 人工智能的真正問題，不是它最終會變成“天使還是魔鬼”，而是人類正在創造什麼樣的智能、給它什麼目標、由誰控制它，以及我們是否仍有能力理解、糾正和停止它。 核心邏輯 本書以控制論創始人諾伯特·維納的思想爲起點，邀請25位來自計算機、心理學、哲學、物理學、歷史、藝術等領域的思想者，從不同角度討論人工智能。全書沒有試圖得出統一結論，而是形成了一組彼此衝突、相互補充的判斷： 1. 人工智能首先是一種信息處理、反饋和控制系統。2. 當前機器學習擅長髮現相關性，卻不等於真正理解世界。3. AI的行爲取決於目標函數、數據、環境和背後的制度激勵。4. AI越強大，目標設定錯誤、系統不透明和失去控制的代價越大。5. AI風險不僅來自未來的超級智能，更來自當下掌握AI的企業、政府和軍事機構。6. 人類需要重新思考智能、意識、創造力、道德主體和機器權利。7. AI的未來最終不是單純的技術問題，而是文明將選擇什麼價值和生活方式的問題。 核心內容 一、AI的能力被高估，也被低估 今天的深度學習能夠從海量數據中發現複雜模式，在識別、預測和特定任務上超越人類。但這種能力主要建立在統計相關性和模式擬合之上。 朱迪亞·珀爾指出，真正的理解不僅要知道“什麼事情經常一起發生”，還要理解是什麼導致了什麼、主動改變條件會有什麼結果，以及如果當初採取另一種行動，事情是否會不同。機器必須從相關性走向因果、干預和反事實推理，纔可能接近人類式理解。 艾莉森·高普尼克通過比較AI和4歲兒童說明：兒童能夠憑少量經驗形成關於世界的理論，進行想象、探索和因果推斷；當前AI往往需要大量數據，卻依然難以獲得這種開放、靈活的學習能力。 二、AI安全的核心是目標，而不僅是能力 斯圖爾特·羅素認爲，危險並不一定來自一臺“邪惡”的機器，而可能來自一臺極其能幹、忠實執行錯誤目標的機器。如果人類給出一個不完整、含糊或錯誤的目標，系統就可能找到形式上最有效、實際上卻傷害人類的實現方式。 更安全的AI不應該確信自己完全理解人類，而應對人類偏好保持不確定，通過觀察和交流持續學習，主動詢問和澄清，接受人類糾正，並在不確定時允許自己被停止。 安卡·德拉甘進一步提出，“人類相容”不能成爲開發完成後的補丁，而必須從系統設計之初就進入AI的狀態、行動和獎勵函數。 三、智能越複雜，就越難徹底理解 喬治·戴森提出一個近似悖論的判斷：簡單到能夠被人完全理解的系統，可能不夠智能；真正足夠智能的系統，又可能複雜到人類無法完全理解。 深度神經網絡已經體現了這一問題。它們能夠給出有效答案，卻往往不能說明自己爲什麼得出這個答案。當AI用於醫療、司法、金融、自動駕駛和軍事決策時，“結果準確”並不足夠。人們還必須知道它依據了什麼信息、是否放大歷史偏見、誰應爲錯誤負責，以及受到影響的個人是否有權質疑。 四、最大現實風險可能不是機器統治人類，而是人利用機器統治人 丹尼爾·丹尼特主張，現階段應把AI視爲工具，而不是具有責任能力的同事或人格主體。過早將機器擬人化，會讓真正掌握系統的人逃避責任。 當前更迫切的風險包括：企業利用行爲模型操縱注意力和消費；平臺根據用戶數據預測並影響選擇；政府利用算法進行監控和社會控制；軍事系統縮短戰爭決策時間；自動化產生的財富高度集中；算法成爲無法申訴的權力來源。 因此，AI治理不僅需要技術安全，還需要法律、制度、透明度、問責機制和權力制衡。 五、算法並不天然客觀 彼得·加里森批評“只要排除人的判斷，機器就會更加客觀”的想法。算法可以在許多預測任務中勝過人類，但它同樣包含訓練數據中的歷史偏見、設計者對指標的選擇、對複雜現實的簡化、商業機構的利益，以及無法公開審查的專有規則。 科學史說明，客觀性並不意味着徹底排除人的判斷，而是讓判斷接受證據、專業共同體和公開程序的約束。機械客觀性只是諸多認知美德之一，不應成爲取消責任和質疑權利的藉口。 六、AI是社會與文化的鏡子 弗蘭克·維爾切克認爲，自然智能和人工智能之間未必存在不可跨越的神祕鴻溝，智能可以被理解爲物質世界中的信息處理活動。 但人工智能不是脫離社會獨立成長的東西。它會反映創造者所在社會的價值觀、組織結構和利益分配。如果社會以利潤、競爭、監控和效率作爲最高目標，AI就會放大這些傾向；如果社會重視尊嚴、公平、合作和人的自主性，AI也可以成爲增強這些價值的工具。 七、人類可能先於機器變得機器化 書中一個容易被忽略卻極具現實性的警告是：危險不只是機器變得像人，也可能是人被迫變得像機器。 當組織的一切活動都服從量化指標、自動流程和局部效率時，人會逐漸成爲系統中可替換的零件。系統或許沒有意識，也沒有惡意，卻能通過規則、界面和獎勵機制塑造人的行爲。 克里斯·安德森借“梯度下降”說明：自然、機器和人都會沿着局部改善的方向行動，但不斷追逐眼前最優解，可能使整個系統陷入局部極小值。效率更高不等於方向正確，能夠優化也不等於知道什麼值得優化。 八、AI需要人類模型，但理解人也意味着更容易操縱人 爲了服務人類，AI必須推斷人的需求、意圖和偏好。反向強化學習等方法試圖通過觀察人的行爲，推斷行爲背後的目標。 但人類並非完全理性的主體。人的決定受到時間、計算能力、習慣、情緒和社會環境的限制。好的AI需要理解這種“有界理性”，而不是把人的每個現實選擇都當作真實價值。 與此同時，越準確的人類模型也意味着越強的操縱能力。一個能夠預測人類需求的系統，同樣可以預測人的弱點。“理解人類”既是人機協作的基礎，也是商業控制和政治操縱的技術前提。 九、超級智能風險存在，但不同作者分歧明顯 邁克斯·泰格馬克和雅恩·塔林對超級智能的生存風險高度警惕。他們認爲，一旦機器獲得超越人類的通用認知能力，人類作爲地球最高認知力量的時代就可能結束，安全研究必須走在能力發展之前。 史蒂芬·平克則反對把智能天然理解爲征服欲。他認爲，末日敘事常把人類特有的支配心理投射到機器身上。只要工程師進行測試、約束和制度設計，很多極端情景未必成立。 這組爭論揭示：AI風險不能只按發生概率判斷，還要同時考慮潛在損失、可逆性和提前準備的成本。 十、未來的智能可能首先以組織形式出現 丹尼爾·希利斯指出，國家、公司、宗教和平臺已經可以被視爲“人類與機器構成的混合智能”。這些組織比任何個人知道得更多，能進行更復雜的計劃，擁有更強的資源調配能力，也會形成不同於創建者的湧現目標。 因此，第一批超級智能未必是一臺孤立的超級計算機，也可能是由算法、數據、制度和大量人類組成的組織網絡。它們已經在影響公共政策、市場和個人生活。 十一、創造力與藝術提供了另一種理解AI的方式 藝術家關注的不只是機器能否生成圖片、音樂和文字，更關注誰定義創造力、數據從何而來、算法讓什麼變得可見又遮蔽了什麼，以及自動化如何改變身體、情感和環境關係。 所謂“人工智能”有時可能只是被包裝起來的“人工愚蠢”：系統表面上擁有智能，實際上只是在規模化複製數據中的偏見和陳詞濫調。藝術的價值不只在於使用AI創作，更在於讓我們看見算法、資本和權力之間原本不可見的聯繫。 十二、機器權利將挑戰人類中心主義 如果未來的機器擁有意識、感受、偏好或受苦能力，人類是否應該給予它們道德地位？ 喬治·丘奇認爲，面對未來可能出現的心智多樣性，我們不應只堅持“人類對機器”的對立，而要關注所有可能具有意識的存在者的權利。 但前提是，我們如何判斷一個系統是否真的擁有體驗，而不是僅僅表現得像有體驗？在無法回答這個問題之前，不能因爲機器善於模仿語言和情緒就輕易賦予它人格，也不能永遠以物種身份拒絕考慮它的道德地位。 反對的觀念 本書整體上反對以下幾種簡單化判斷： 1. 把AI等同於真正理解世界。2. 認爲數據越多就必然越接近真理。3. 把算法看成天然中立、客觀的裁判。4. 認爲技術進步必然自動帶來社會進步。5. 把所有AI風險都推到遙遠的超級智能時代。6. 將AI擬人化，從而掩蓋背後的人類責任。7. 認爲只要目標聽起來正確，優化結果就一定符合人的利益。8. 把人類智能簡化爲速度、計算量和模式識別能力。9. 用單一的樂觀或悲觀故事概括AI的未來。10. 認爲效率提高本身就是值得追求的終極目標。 本書最值得關注的核心觀點 1. 目標比能力更根本：一個系統越有能力，錯誤目標造成的後果越嚴重。AI安全首先是“它在優化什麼”的問題。 2. 理解不同於預測：預測準確不等於掌握因果關係，更不等於擁有常識、價值判斷和世界模型。 3. AI風險本質上也是權力問題：必須追問誰擁有數據、誰設定目標、誰從自動化中獲益、誰承擔錯誤成本。 4. 算法不能替人類取消責任：無論系統多麼複雜，使用它進行司法、醫療、金融和軍事決策的人與機構都不能以“算法決定的”爲理由逃避責任。 5. 人類必須先回答自己想要什麼：價值對齊最困難的地方，不是機器不懂人類價值，而是人類自己的價值多元、矛盾且不斷變化。AI最終會迫使我們重新定義何爲好的生活和好的文明。 個人啓示 第一，面對AI，不要只問“它能做什麼”，還要問“它正在優化什麼”。很多系統失敗，不是能力不足，而是指標替代了真正目的。 第二，保持對“準確率”的警惕。一個預測很準的系統，也可能完全不理解因果，更可能在關鍵時刻因環境變化而失效。 第三，真正需要培養的能力不是與機器比記憶和計算，而是提出問題、理解因果、處理價值衝突、承擔責任，以及在信息不完整時作出判斷。 第四，不要把AI當成獨立於社會的力量。每個AI產品背後都有數據來源、商業模式、權力關係和責任主體。 第五，對未來保持“嚴肅但不恐慌”的態度：既不因AI進展而輕信技術萬能，也不因末日敘事而放棄現實治理。 觀點評價 這本書最大的優點，是它沒有把AI包裝成一個擁有標準答案的問題。25位作者在能力、風險、意識、算法客觀性、制度治理和文明前景上形成了真正的思想碰撞。它特別適合用來建立一張“AI問題地圖”，幫助讀者看到技術討論背後的哲學、政治和倫理結構。 它的侷限也很明顯：作爲多人文集，篇章質量和論證深度不均衡，部分內容重複，某些關於超級智能的討論具有較強推測性。全書出版於2019年，尚未經歷生成式AI、大語言模型和智能體廣泛應用的現實檢驗，因此缺少當下最直接的案例。 不過，這並沒有讓它過時。相反，大模型時代正在使書中的因果理解、系統不透明、目標對齊、行爲操縱、算法權力和責任歸屬等問題變得更加具體。它不是一本提供結論的AI教材，而是一本幫助讀者提出正確問題的思想文集。 一段話總結 《AI的25種可能》通過25位科學家、哲學家、心理學家、歷史學家和藝術家的不同視角說明，人工智能既不是註定拯救人類的萬能工具，也不是必然毀滅文明的獨立力量；它是一套由數據、目標、算法、制度和人類價值共同塑造的反饋與控制系統。當前AI擅長從海量數據中發現模式，卻仍不等於理解因果、擁有常識或形成真正的價值判斷；它的主要風險既包括未來超級智能的失控，也包括當下企業、政府和軍事機構利用算法操縱行爲、集中權力和逃避責任。決定AI未來的關鍵，不只是機器能夠變得多聰明，而是人類賦予它什麼目標、誰擁有控制權、系統能否被質疑和糾正，以及我們究竟希望藉助技術建設一種什麼樣的文明。

當我凝視門前的葫蘆藤蔓時，很難不驚歎於它的聰明。在觸碰到一切可能的支撐之前，它需要在虛空中探尋、舒展，有時它“錯誤地”依靠一株草，而不是人類為它立好的支架。然而它相信它正依附的事物，迅速將柔軟的觸手收緊，纏繞，藉著那股彈性把整棵植物拉向陽光充沛的更高處。 ​這些過程的發生，如果沒有攝像機去捕捉，人類的肉眼很難親眼見到它攀爬的軌跡。但這並不意味著那些我們看不見的摸索就不存在。藤蔓必須在流逝的晝夜裏不折不扣地走過每一個微小的步驟。正是這種不可被簡化的試錯，讓生命成為生命，讓時間保有其神聖的意義。

術業有專攻，是指用以謀生的職業，越專業越好，因爲競爭激烈，不專業沒有優勢。但很多人誤以爲理解世界和社會，也是越專業越好，這就錯了。世界雖只有一個，但認識世界的角度多多益善。學科的邊界都是人造的藩籬，能瞭解各行業精英的視角，從多個角度玩味這個世界，綜合各種信息來做決策，這不顯然比死守一個角度更有益也有趣嗎？

Artificial    Intelligence(人造的;人爲的;虛假的;智力)從字面上解讀，它是一種新的，能以人類智能相似的方式做出反應的智能機器，可以對人的意識，思維的信息過程的模擬。人工智能覆蓋領域廣泛:航天，醫學，軍事，藝術，傳媒，航海，勘測以及無人駕駛汽車，機器人制造，智慧城市，Amazon   go…… 人工智能技術不是像我們認爲的那樣，是人類所有的特殊特徵，它只是另一種生存機制，像我們的消化系統或免疫系統一樣。人工智能之所以發生進化，是因爲它使我們能夠理解周圍的世界，提前計劃，從而應對各種突發事件，以便生存。 人工智能在潛移默化地改變人們的社交習慣和溝通方式，已經成爲新媒體時代不可逆轉的潮流，人工智能在諸多領域取得比肩人類的成就，對人類文明的自我反思也起到了推動作用。 關於AI，單純"智商"的迭代是可能的，如何教會它“情商"，纔是最大的挑戰。人工智能可以學會"毀滅“，但未必能學會“感動"。在很長的週期內，AI，永遠只代表其背後的指揮者，是擁有完美算法的工具，行善作惡的靈魂並不裹挾其中。 AI，會推進藝術的"狂潮"，也許會使藝術超越“巔峯之頂"，也許將會面臨藝術表達過剩的明天。 AI的發展，也許會讓我們期待永生，但此刻我們深知死亡的無力，這種無力的感受，讓許多平常的事情體現出美好和珍貴，人性來源於此。AI，獲取永生，最好迴避選擇格式區域的迷茫刺激。 在我們生活的每一個角落都可以看到人工智能的影子，技術本身沒有對錯，只是技術所應用的使用場景和後果，會有好壞之分。未來的人類，回頭看今天的我們，可能會覺得，我們是他們"精神的始祖鳥“。 嚴酷的現實是:宇宙並非專爲人類設置，人類需要進化以適應非常狹窄的環境係數。 人工智能取代人類，硅基文明取代碳基文明，到底會帶來世界末日？還是美好的烏托邦？很難定論。 生活不止眼前的苟且，還有遠方的人工智能在向你招手，在智能革命到來之際，讓自己成爲2%參入人工智能新行業者，而不是被社會進步所拋棄。 人工智能時代，你是2%的受益者？還是98%的被淘汰者？

—— Edge系列大名鼎鼎，作者約翰·布羅克曼會定期想出一些問題，拋給他能找到的最聰明的人，並將收到的答案彙編成書。 在這本書中，作者就人工智能的未來與25位業內專家展開討論，文字稍顯晦澀，但乾貨不少。 上個月花了不少時間讀人工智能，書中很多觀點與各路專家是接近的，現在看來，對於人工智能的未來，已經形成了不少共識。 簡單說說價值對齊這個事吧。 我們賦予人工智能一個目標，賦予人工智能自我學習的能力，然後期待着人工智能的表現。今天的人工智能很像一個黑箱，我們並不知道人工智能怎樣通過學習形成他們的能力，這其中的規則又是怎樣的。 這樣的機制，讓很多人產生了深深地憂慮，因爲，人類無法有效干預人工智能的運行。 舉個例子，我們賦予一個機器人打掃房間的任務，機器人可能會將垃圾反覆灑在房間裏，藉以完成更多的清掃任務。有的人說，這太荒唐了，人類完全可以將任務定義爲：讓機器人保證房間一塵不染。如果任務是這樣的，那機器人完全可能發現，只要有人類活動，房間就會變髒，保證房間一塵不染的有效方式，是讓人類不要在房間裏活動…… 細思極恐。 人類從未遇到過這樣的問題，我們創造出的工具，總是會乖乖地待在那裏，等待人類使用，成爲人類探索世界、改造世界的助手。爲什麼我們會覺得人工智能有點危險？那很可能是因爲，人工智能是人類有史以來創造出來能力最強的工具。 天地以萬物爲芻狗，人工智能並沒有惡意，它的危險來自於它的強大。 人類可以給予人工智能一個目標，但人類無法規定人工智能完成任務的路徑。爲了更好地完成任務，人工智能在自我學習的過程中，會將最終的目標分解成爲一個個子目標。人類無法預測那些子目標是什麼。 即便不是爲了更好地完成任務，人類也需要人工智能理解何爲任務優先級。比如自動駕駛汽車的任務是駛向目的地，但路人安全的優先級必然高於汽車行駛。 所以，我們需要人工智能具備與人類進行價值對齊的能力。 無人駕駛汽車，在司機與路人同時面臨危險的時候，保護優先級是什麼？車上有兩個人，而路邊是一輛滿載孩子的校車，人工智能又會怎樣判斷？ 如果將保護人類作爲最高原則，人工智能是不是應該制止類似“拯救大兵瑞恩”這樣的行爲？ 美食機器人考慮的是飯菜的口味和營養，它會不會把家裏的寵物變成一道美食？ 人類沒有辦法把所有的價值觀都變成一條條規則告訴人工智能，第一是因爲這個工作量實在太大，第二是因爲人類的價值觀本身就是多元的，很多價值觀甚至彼此衝突。 所以，如果人工智能能夠和人類形成價值對齊，那該多好。 壞消息是，人類反覆無常、意志薄弱，人工智能進行價值對齊的難度極大；好消息是，一個複雜到足以智能化行事的系統必然會太過於複雜而無法理解，因此人工智能反而很有可能理解人類。 我想，我們也不用太過擔心。 人類常常會擔心科技失控並帶給人類災難。但歷史告訴我們，最重要的其實是人類如何使用科技。人類社會已經擁有了前所未有監控整個世界的能力，雖然我們也看到了很多危險的苗頭，但《1984》和《美麗新世界》並沒有變成現實。隨着科技的進步，人類掌控科技的能力也得到了前所未有的加強。人類對於世界的認知能力不斷提高，更加多元的聲音得以清晰傳遞，常識成爲人類社會穩定的基石。 人類還具有很強的適應能力，會根據世界的變化調整自己的行爲，比如在一千年前的人看來，那些奔跑在跑步機上揮汗如雨的人，是不是都是瘋子？未來的人類，很可能會學會如何與人工智能好好相處。 最後，很可能我們需要想清楚我們要的到底是什麼。 有一天，我們會看到人工智能面露疑惑，人類爲什麼有這麼多荒誕的行爲，他們爲什麼不能直截了當地走向自己的未來呢？

序號：2022.03 書名：AI的25種可能 我從本書獲得最大的收穫是，瞭解到Edge這個網站。 此Edge非彼Edge，它並非微軟的Edge瀏覽器，也非EDG戰隊，它是這樣一個網站，每年組織一次沙龍，讓100位全球最偉大的頭腦坐在一起，共同解答關乎人類命運的同一個問題。 在Edge網站中呈現出來的觀點都是經過推敲的，它們代表着諸多領域的前沿，比如進化生物學、遺傳學、計算機科學、神經學、心理學、宇宙學和物理學等。 本書集結了諸多來自人工智能領域內外的重要思想家的對話，探討了人工智能的定義和含義。 一、人工智能 1. 維納將那些他稱之爲“血肉機器”的公司和部門看成第一批智能機器。這些組織性的超級智能不僅僅包括人類，它們是人類和信息技術的混合體，信息技術使人類能夠協同工作。這些混合智能是技術增強的人類網絡。這些人工智能具有超人的能力。 2. 控制論沒有把圖靈機的全部性能發揮出來，但它高度透明，這也許是因爲它是建立在經典的控制理論和信息理論基礎之上的。現在，機器學習的深度學習模式已經失去了這種透明度。從根本上說，深度學習是一個曲線擬合問題，在一長串輸入輸出鏈的中間層調整權重。 3. 深度學習一旦結果錯了，你不會知道哪裏出了問題，也不知道該如何修復。尤其是，你不知道問題是出在程序上還是方法上，抑或是因爲環境發生了改變。 4. 當前的機器學習系統幾乎完全在統計模式或者說模型盲（model-blind）的模式下運行，這在許多方面類似於將函數擬合到大量點數據。這樣的系統不能推理“如果……會怎樣？”的問題，因此不能作爲強人工智能的基礎，強人工智能是模擬人類推理和能力的人工智能。當前的學習機器是通過優化從環境中接收到的感覺輸入流的參數來提高其性能。 5. 人工智能研究的目標是瞭解智能行爲背後的原理，並將這些原理注入機器中，使其可以表現出這樣的行爲。 6. 人工智能領域已經納入概率理論來處理不確定性，納入效用理論來定義目標，納入統計學習以使機器適應新的環境。這些進展使人工智能與其他學科建立了強有力的聯繫，這些學科建立在相似的概念上，包括控制理論、經濟學、運籌學和統計學等。 7. 人工智能三定律： * 第一定律是阿什比定律，該定律認爲任何有效的控制系統必須與它控制的系統一樣複雜。 * 第二定律由馮·諾伊曼提出，該定律指出，一個複雜系統的定義特徵一定包含對其行爲的最簡單的描述。 * 第三定律指出，任何一個簡單到可以理解的系統都不會複雜到可以智能化行事，而任何一個複雜到足以智能化行事的系統都會太過於複雜而無法理解。 二、信息論 1. 香農認爲信息是由不可簡化的、沒有意義的比特組成。而維納把信息看成掌控複雜系統行爲的核心，這一觀點在當時相當令人矚目。 2. 香農最重要的觀點是，一段消息裏的信息就像氣體裏的熵：它是系統無序性的度量。隨着時間的流逝，熵將不可避免地增加，這是熱力學第二定律。宇宙甚至可能正朝着“熱寂”方向發展，在那個遙遠的未來，能量總量均勻分散，達到最大熵的狀態，宇宙之後就不會發生進一步的變化。 3. 香農之論點，其關鍵在於將口語化的“信息”的意義，即具有意義的信息，與抽象的、精簡的概念，即符號串加以區分，這些符號選自浩大的雜亂無章的宇宙，以一定的概率排列起來。對於香農來說，“信息”可以被量化，因爲它的基本單位比特是傳遞單位而非理解單位。 4. 香農類信息指從幾乎每一個接觸過網絡計算機的人那裏收集來的看似毫無意義的點擊、“喜歡”和轉發。 關於控制論 1. 維納認爲反饋迴路在社會變遷中將起到決定性作用。反饋迴路是其控制論理論的核心特徵。這些反饋迴路不僅能使人彼此相連，還能使人與機器相連，更重要的是使機器與機器相連。 2. 維納思想的核心是從信息角度來理解這個世界。複雜系統，如生物體、大腦和人類社會，是由互鎖反饋迴路組成的，其中子系統之間的信號交換導致了複雜但穩定的行爲。當反饋迴路發生故障時，系統會變得不穩定。 3. 維納不僅把工程的複雜系統，還把所有的複雜系統都看成是圍繞信號和計算循環來運作的，這爲複雜人工系統的發展做出了巨大貢獻。 4. 控制論的目標是建立一個微型的系統模型，使用“弱電流”來放大和控制現實世界的“強電流”。其核心觀點是，控制問題可以通過在消息的信息空間中構建類似系統，然後將解決方案放大到更大的現實世界中來解決。控制系統的運動本質上是放大的概念，它使小變大，使弱變強。 以上~

好的。以下是約翰·布羅克曼（John Brockman）主編的 **《AI的25種可能》**（英文原名：*Possible Minds: Twenty-Five Ways of Looking at AI*）——王佳音譯，浙江人民出版社2019年版——的**系統性思維導圖與核心觀念梳理**。 > **書名**：《AI的25種可能》 > **主編**：[美] 約翰·布羅克曼（John Brockman） > **譯者**：王佳音 > **出版社**：浙江人民出版社 > **出版時間**：2019年11月 > **ISBN**：9787213094262 > **背景**：本書是“Edge年度問題”（2019）的集結，邀請25位世界頂尖科學家、思想家（包括諾獎得主、圖靈獎得主、AI先驅）回答：“如何思考人工智能的未來？” --- ### 一、全書核心主旨 > **人工智能不是單一技術，而是一面棱鏡，折射出人類對智能、意識、控制、風險與未來的多元理解。面對AI的崛起，我們既不能盲目樂觀，也不應陷入末日恐慌，而需以跨學科視角——融合計算機科學、神經科學、哲學、倫理學與安全研究——共同探索其“可能”的邊界與責任。** → 主編布羅克曼強調：**“關鍵不是AI是否會超越人類，而是我們是否足夠聰明地引導它。”** --- ### 二、思維導圖（文字層級版） #### **1. 核心關切：AI的三大根本問題** 　├─ **① 智能的本質**： 　　　• 機器能否真正“理解”？還是僅模擬行爲？（強AI vs. 弱AI） 　├─ **② 控制問題**（Control Problem）： 　　　• 如何確保超智能AI的目標與人類一致？（“價值對齊”難題） 　└─ **③ 社會影響**： 　　　• 就業、隱私、民主、戰爭、不平等將如何被重塑？ --- #### **2. 25位思想者的觀點光譜（按主題聚類）** ##### **A. 警惕派：AI存在生存性風險**（Existential Risk） 　├─ **斯圖爾特·羅素**（Stuart Russell） 　　　• 提出“有益的AI”框架：AI應不確定人類偏好，主動學習而非執行固定目標 　├─ **尼克·博斯特羅姆**（Nick Bostrom） 　　　• “回形針最大化”思想實驗：看似無害目標可導致災難性後果 　├─ **馬克斯·泰格馬克**（Max Tegmark） 　　　• 呼籲全球合作制定AI安全協議，避免“AI軍備競賽” 　└─ **喬治·戴森**（George Dyson） 　　　• 警告：AI可能演化出人類無法理解的“數字生命形式” ##### **B. 技術現實派：風險被誇大，當前應關注實際問題** 　├─ **史蒂文·平克**（Steven Pinker） 　　　• 批判“AI末日論”是認知偏差；當前AI無意識、無慾望，威脅來自人類濫用 　├─ **丹尼爾·丹尼特**（Daniel Dennett） 　　　• AI是“能力的假象”，缺乏真正的意向性；應警惕人類對其過度擬人化 　├─ **朱迪亞·珀爾**（Judea Pearl） 　　　• 當前深度學習缺乏因果推理能力，離“真正智能”尚遠 　└─ **羅德尼·布魯克斯**（Rodney Brooks） 　　　• 指出AI進展緩慢，媒體炒作製造泡沫；機器人仍難完成基本家務 ##### **C. 人機協同派：AI是增強人類的工具** 　├─ **安妮·凱斯**（Anne Case） & **安格斯·迪頓**（Angus Deaton） 　　　• 關注AI加劇經濟不平等，需政策干預保障公平 　├─ **塞繆爾·阿貝斯曼**（Samuel Arbesman） 　　　• 提倡“可解釋AI”，讓人類理解並信任算法決策 　├─ **凱特·克勞福德**（Kate Crawford） 　　　• 揭示AI訓練數據中的偏見（種族、性別），呼籲算法正義 　└─ **喬治·丘奇**（George Church） 　　　• 展望AI在生物醫學、基因編輯中的革命性應用 ##### **D. 哲學與認知反思派：重新定義“智能”與“人類”** 　├─ **丹尼爾·希利斯**（W. Daniel Hillis） 　　　• 提出“新啓蒙”：用AI擴展人類集體智慧，而非替代 　├─ **許煜**（Yuk Hui） 　　　• 批判西方技術中心主義，倡導多元文明視角下的AI發展 　├─ **弗里曼·戴森**（Freeman Dyson） 　　　• 詩意設想：AI與人類共存於“多樣化智能生態” 　└─ **卡羅琳·波拉切克**（Caroline Polachek）等跨界思想者 　　　• 探討AI對藝術、創造力、情感關係的衝擊 --- #### **3. 共識與分歧焦點** 　├─ **共識**： 　　　• 需加強AI倫理與治理 　　　• 數據偏見、算法透明度是緊迫問題 　　　• 軍事AI（如自主武器）亟需國際禁令 　└─ **分歧**： 　　　• **時間尺度**：超級智能是50年還是500年後的事？ 　　　• **風險性質**：是技術失控，還是權力濫用？ 　　　• **解決方案**：靠技術（如可解釋AI），還是制度（如全球監管）？ --- #### **4. 核心概念解析** 　├─ **價值對齊**（Value Alignment）： 　　　• 如何讓AI目標與人類複雜、動態的價值觀一致？ 　├─ **遞歸自我改進**（Recursive Self-Improvement）： 　　　• AI能否設計更聰明的AI，引發“智能爆炸”？ 　├─ **黑箱問題**（Black Box）： 　　　• 深度學習決策不可解釋，危及醫療、司法等高風險領域 　└─ **AI民族主義**（AI Nationalism）： 　　　• 中美AI競賽可能阻礙全球安全合作 > “我們不是在建造更聰明的機器，而是在重新定義‘人類’。” --- ### 三、核心觀念總結 1. **AI的未來不是技術決定論，而是社會選擇問題**； 2. **生存性風險雖不確定，但預防原則應適用**（“先想安全，再求速度”）； 3. **當前最緊迫的挑戰是算法偏見、就業衝擊與軍事化**； 4. **深度學習≠通用智能，因果推理與常識仍是瓶頸**； 5. **必須打破“硅谷中心主義”，納入全球多元文明視角**； 6. **人機關係的理想形態是“增強”而非“替代”**。 --- ### 四、現實意義（2026年回看） - **2023–2026年生成式AI爆發**（如GPT-4、Sora）印證了書中對“能力突現”的擔憂； - **歐盟《AI法案》、中美AI監管博弈**體現治理緊迫性； - **AI深度僞造**（Deepfake） 對選舉、社會信任的衝擊，呼應凱特·克勞福德的警告； - **“AI對齊”研究**（如Anthropic、OpenAI） 成爲前沿熱點，驗證羅素等人前瞻性。 --- ### 五、一句話總結全書精神 > 《AI的25種可能》宣告：面對人工智能，人類最需要的不是更快的芯片，而是更深的智慧、更廣的視野與更強的集體責任感——因爲AI的未來，終究是我們自己的鏡子。