人工溝通與法：算法如何生產社會智能

《人工溝通與法：算法如何生產社會智能》｜埃琳娜·埃斯波西託 一句話概括 這是一本用社會系統理論重新解釋算法的著作：算法未必像人一樣思考，卻能作爲溝通夥伴參與社會，從而改變我們組織信息、理解個人、保存記憶、預測未來和實施法律的方式。 核心邏輯 全書圍繞“人工智能不如說是人工溝通”展開： 1. 機器無需擁有人的意識，也可以參與溝通並影響社會。2. 列表、排名和可視化等算法形式，會重新組織信息和注意力。3. 個性化系統不必真正認識個人，也能依據數據生產有效畫像。4. 數字平臺改變了社會記憶、遺忘和圖像體驗。5. 算法預測不只是描述未來，也會反過來塑造未來。6. 法律AI的關鍵問題不僅是技術透明，還包括解釋、責任與正當性。7. 人類需要學習如何與不理解意義、卻能夠產生社會後果的機器溝通。 核心觀點是：研究算法不能只問“機器是否聰明”，更要問“機器參與了什麼溝通，以及這種溝通怎樣改變社會”。 核心內容 1. 從“人工智能”轉向“人工溝通” 人們習慣把算法與人類智能類比，討論機器能不能思考、理解或擁有意識。 作者認爲，這種類比可能掩蓋算法真正的社會作用。一個系統不必像人一樣理解內容，也可以： - 回答問題。- 推薦商品和信息。- 排列搜索結果。- 生成文本和圖像。- 判斷風險。- 參與法律和行政決策。- 改變人們下一步的行動。 算法的社會重要性來自它能夠進入溝通過程，而不是來自它是否擁有人的內心世界。 2. 人類可以與“不思考”的夥伴溝通 通常我們認爲溝通雙方都應理解信息，但數字社會已經出現大量不同情況： - 搜索引擎不理解用戶，卻能回應查詢。- 推薦系統不認識個人，卻能預測偏好。- 聊天程序沒有生活經驗，卻能生成恰當話語。- 風險模型不理解案件，卻能影響法律判斷。- 平臺算法沒有立場，卻能改變公共討論的可見度。 這類互動之所以成立，是因爲人會解釋算法輸出、調整自己的行爲，並把它當作下一輪溝通的依據。 換言之，意義主要由社會使用過程產生，不必預先存在於機器內部。 3. “虛擬偶聯”讓算法成爲溝通夥伴 人和算法之間並不是傳統的人際關係。用戶通常不知道算法如何運作，算法也不理解用戶的真實意圖。 雙方依然可以形成一種虛擬的連接： 1. 用戶提供查詢、點擊、停留和選擇。2. 算法根據數據生成輸出。3. 用戶解釋並回應輸出。4. 新行爲又成爲算法下一輪計算的數據。5. 互動不斷循環並逐漸塑造彼此。 這裏的“夥伴”並不意味着平等主體，而是說明算法已經進入溝通鏈條，並能產生可觀察的後續效果。 4. “谷歌化”改變知識的可見性 搜索引擎不只是幫助人找到已有知識，還會根據排序決定什麼更容易被看見。 當搜索排名成爲獲取信息的主要入口時： - 可見性被當成重要性。- 點擊量影響未來排名。- 用戶更少接觸排序靠後的內容。- 優化算法的行爲反過來改變網頁生產。- 搜索結果逐漸成爲現實判斷的參照。 因此，算法並非中性地複製社會信息，而是通過篩選、排序和反饋參與知識秩序的形成。 5. 算法“學習”與人的學習不同 機器學習從數據中提取統計模式，通過誤差反饋調整參數。它不必理解概念的意義，也能提高預測或分類效果。 人類則會在社會關係、語言、身體經驗和價值判斷中學習。 機器學習更接近： - 找到重複模式。- 估計變量之間的關係。- 根據歷史數據預測結果。- 優化預先規定的目標。- 從反饋中調整模型。 機器學會的是完成某項任務的方法，而不是人類意義上的生活知識。社會必須學習如何理解、使用和限制這種不同類型的學習。 6. 列表、評級和排名創造秩序 列表看似只是整理信息，實際會主動塑造現實。 當學校、醫院、商品、員工或城市被評分和排名時： - 不同對象被放進同一個比較框架。- 複雜差異被壓縮成少數指標。- 排名靠前的對象獲得更多關注和資源。- 被評價者會調整行爲迎合指標。- 指標可能從測量工具變成行動目標。 算法化列表無需真正理解對象，也能產生強大的組織能力。 問題不只是排名是否計算準確，還包括誰選擇了指標、哪些價值被排除，以及被評價者能否質疑結果。 7. 數字可視化是一種新的閱讀方式 數字文本分析會把大量作品、詞語和關係轉換成圖表、網絡與空間分佈。 這種“遠距離閱讀”能夠發現單篇閱讀不易察覺的整體模式，例如： - 某類詞語隨時代變化的趨勢。- 人物關係網絡。- 文學類型之間的結構差異。- 大規模文本中的聚類與異常。 但可視化並不直接給出意義。圖像仍需要人解釋，結果也受到數據選擇、算法參數和視覺設計影響。 算法式閱讀擴展了閱讀範圍，卻不能完全替代對具體文本、歷史語境和語言細節的理解。 8. 算法個性化並不需要認識“真正的你” 推薦系統常讓人覺得“它比我更瞭解我”，但算法未必需要形成完整、穩定的人格描述。 系統可以根據特定場景中的行爲預測下一步： - 看過什麼。- 點擊了什麼。- 與哪些用戶相似。- 當前時間和位置是什麼。- 哪種內容最可能提高互動。- 哪類商品最可能被購買。 這種個性化具有匿名性和行爲性：系統關注的是怎樣產生有效回應，而不一定關心你究竟是誰。 9. 個性化也會帶來標準化 個性化看似讓每個人獲得獨特體驗，背後卻依賴標準分類和可計算特徵。 用戶需要先被轉換成： - 興趣標籤。- 風險分數。- 消費類別。- 相似用戶羣。- 可預測行爲模式。- 平臺能夠處理的數據字段。 因此，個性化和標準化並非對立。平臺越想針對個人，就越需要把個人表示成統一的數據結構。 個性化結果還會反過來影響選擇，讓人更頻繁接觸算法認爲自己喜歡的東西，逐漸收窄探索範圍。 10. 數字記憶改變了社會如何遺忘 傳統社會中的遺忘往往自然發生：信息難以保存、查找和傳播，時間會削弱過去的影響。 數字平臺卻可以低成本保存、複製和檢索數據，使過去持續出現在現在： - 舊新聞仍可被搜索。- 多年前的言論可以重新傳播。- 用戶畫像不斷累積歷史行爲。- 數據可能脫離最初語境繼續被使用。- 個人難以知道哪些記錄仍被保留。 這使“被遺忘權”成爲重要法律議題。它不是簡單刪除歷史，而是在公共知情、歷史記錄、個人尊嚴和數據控制之間尋找平衡。 11. 算法記憶不等於人的記憶 人的記憶會選擇、重構並遺忘。遺忘能夠減弱細節、更新身份，並讓人從過去進入新的生活。 數據庫則可以長久保存大量記錄，卻未必理解： - 信息當初爲何產生。- 當時處於什麼語境。- 個人後來是否改變。- 某條記錄是否仍然相關。- 繼續使用會造成什麼傷害。 數字系統可能“記住”數據，卻沒有人的回憶經驗。社會需要用法律、制度和技術規則，決定數據何時應被保留、限制、更新或刪除。 12. 攝影從保存過去轉向製造現在 傳統攝影常被視爲保存重要時刻的方法。智能手機和社交平臺則讓拍攝成爲持續發生的日常活動。 圖像不僅用於未來回憶，也用於當下： - 證明自己正在某處。- 向他人展示生活。- 獲得點贊和互動。- 調整個人形象。- 參與公共事件。- 爲平臺提供識別和推薦數據。 過度記錄可能讓人更關注怎樣呈現體驗，而不是怎樣經歷體驗。圖像保存得越來越多，卻未必形成更豐富的記憶。 13. 算法預測管理不確定性 統計預測根據過去的羣體規律估計未來概率，機器學習則能利用更多變量進行高度個性化的預測。 算法預測可以用於： - 信貸和保險風險。- 犯罪與治安。- 醫療診斷。- 招聘和教育。- 消費與內容推薦。- 法院量刑和案件管理。 這些預測並不只是被動描述未來。機構會根據預測分配資源、加強審查或改變待遇，進而影響預測對象的實際未來。 14. 預測可能通過行動製造結果 如果系統認爲某人風險較高，機構可能對其加強監督、減少機會或提高成本。這些行動可能使對方更難改善處境，最終讓預測看起來正確。 反過來，一個正確預測也可能因爲干預成功而在結果上“顯得錯誤”： - 模型預測某人會發病。- 醫生因此提前治療。- 疾病最終沒有發生。- 結果似乎推翻了預測，實際卻可能證明干預有效。 評價算法不能只看預測結果是否發生，還要分析預測如何改變了後續行動。 15. 過擬合讓模型準確描述過去，卻無法面對未來 算法可以在歷史數據上表現很好，卻因過度學習偶然細節而無法適應新環境。 過擬合意味着： - 模型捕捉了噪聲而非穩定規律。- 數據中的舊偏見被當作未來規則。- 一旦環境變化，性能迅速下降。- 少數罕見羣體容易被錯誤分類。- 模型看似精確，實際缺乏遷移能力。 預測系統需要獨立驗證、持續監控和定期更新，也必須承認未來始終包含無法從過去推導的不確定性。 16. 法律AI不能只追求“打開黑箱” 法律領域要求決定具有理由、能夠申訴並符合正當程序，因此算法透明度十分重要。 但公開代碼或模型參數不等於真正解釋： - 普通人可能無法理解技術細節。- 模型結構不能說明爲何對某個個案作出決定。- 訓練數據和目標函數同樣影響結果。- 法律理由不僅是因果描述，也包含規範判斷。- 完全透明可能暴露隱私、安全和商業信息。 真正有效的解釋應針對具體對象和具體問題，說明哪些因素影響結果、規則如何適用，以及決定能否被質疑和糾正。 17. 模糊性在法律中並非純粹缺陷 法律語言經常包含“合理”“適當”“重大”等開放概念。這種模糊性使規則能夠適應複雜事實和不斷變化的社會。 算法傾向把問題轉化爲明確變量和固定分類，但法律判斷還需要： - 解釋語境。- 比較先例。- 權衡衝突價值。- 考慮比例和公平。- 說明例外。- 爲新的情況保留調整空間。 如果爲了機器處理而消除所有模糊性，法律可能失去應對具體個案的彈性。 18. 人工溝通需要新的責任結構 算法沒有人的責任感，卻能參與產生重要社會結果。責任不能因此消失，也不能簡單歸給“機器”。 需要明確： - 誰設定目標。- 誰選擇和標註數據。- 誰決定模型適用場景。- 誰監控錯誤和偏差。- 誰向受影響者提供解釋。- 誰處理申訴和糾正。- 誰承擔最終決策責任。 算法可以輔助法律、行政和商業判斷，但制度必須保留人類可審查、可糾錯和可問責的入口。 本書最值得關注的核心觀點 算法最重要的社會能力，不是模仿人的思想，而是讓人類圍繞其輸出展開新的溝通和行動。 因此，評價算法不應只看它“聰不聰明”或“預測準不準”，還要觀察： 它讓什麼變得可見？把誰歸入了什麼類別？誰會依據結果採取行動？受影響者能否理解、質疑和改變結果？ 真正需要治理的，不只是模型內部的計算過程，更是算法嵌入社會以後形成的整個溝通與責任鏈條。 一段話總結 《人工溝通與法》藉助盧曼的社會溝通理論，提出機器學習等數字技術與其被稱爲“人工智能”，不如被理解爲“人工溝通”：算法無需像人一樣思考或理解，也能通過搜索、推薦、排名、畫像、預測和生成內容進入社會溝通過程。全書依次分析列表和評級如何組織現實，數字可視化如何改變閱讀，算法個性化如何同時依賴標準化，平臺數據如何重塑社會記憶、遺忘和圖像體驗，以及算法預測如何通過機構行動製造未來。法律部分進一步指出，AI治理不能只追求技術透明，還要提供針對個案的有效解釋、申訴和糾錯機制，並保留法律語言應對複雜情境所需的模糊性。全書最核心的啓發是：算法的社會力量並不取決於它是否擁有人的智能，而取決於人類如何解釋、依賴並回應其輸出；因此，真正需要審視的是算法構成的溝通秩序、行爲反饋和責任結構。

有很多的點值得思考與探討，也可能涉及的學科過多或者內容冗雜，對很多問題的討論都比較淺嘗輒止。奇怪的是閱讀的時候總會產生一些撕裂感，如果能拋棄那種腦子裏的概念和書中所提及的內容的差異與撕裂感，還是有很多內容可以思考的。

壯壯老哥的譯作很棒，人工智能治理研究者必看！