算法霸權

《算法霸權》內容介紹與專業書評 書籍背景與作者定位 《算法霸權》（原書名 Weapons of Math Destruction）的作者凱西・奧尼爾（Cathy O'Neil）擁有獨特的跨領域經歷：從哈佛大學數學博士、巴納德學院終身教授，轉型爲華爾街頂尖對沖基金德劭集團（D.E. Shaw）量化分析師，最終成爲算法批判者與審計實踐者 。這一 “數學愛好者→金融工程師→算法批判者” 的身份轉變，使其兼具解析機器學習模型偏差來源的技術能力，以及揭示算法社會影響的實踐洞察力。 2007 - 2008 年全球金融危機期間，奧尼爾親歷金融算法對市場波動的助推作用，其主導的數萬億美元規模數據分析經驗，爲書中 “數學殺傷性武器” 概念提供了關鍵實踐佐證 。這種 “圈內人” 視角使其批判既紮根於算法數學邏輯，又直指社會結構性問題，形成區別於純技術或人文視角的獨特分析框架。 該書原作於 2016 年出版，中文版由中信出版集團於 2018 年推出，譯者馬青玲的數字人文背景有效實現了專業術語的通俗化轉譯 1 5 。《連線》雜誌將其評價爲 “大數據時代的公民手冊”，精準定位了書籍作爲技術批判與社會啓蒙文本的雙重價值 6 7 。 核心優勢：作者以數學博士的學術嚴謹性解構算法技術細節，以金融工程師的一線經驗揭示行業潛規則，以社會活動家的立場推動算法治理，三維視角共同構建了批判的權威性與合理性。 核心概念與理論框架 “數學殺傷性武器”（Weapons of Math Destruction, WMD）是《算法霸權》的核心概念，特指具有不透明性、規模化與傷害性三大特徵的大數據或機器學習模型 8 9 。其理論框架揭示：這類模型常基於偏見數據構建，以 “數學客觀” 爲外衣固化社會不公，對弱勢羣體造成系統性傷害，同時加劇階層分化 10 11 。 WMD 三大核心特徵 不透明性：決策過程難以理解或爭辯，如華盛頓特區教師評估系統（IMPACT）因算法黑箱錯誤解僱優秀教師 9 。 規模化：跨領域應用放大風險，例如預測性警務軟件（如 PredPol）通過歷史數據過度聚焦少數族裔社區，導致執法歧視 9 。 傷害性：直接損害個體權益，典型案例如貧困學生貸款算法因郵政編碼標籤實施隱性歧視而被法院駁回 9 。 數據顯示，算法篩選已滲透社會各領域，書中提到 “72% 的簡歷從未被人類查看”，印證其普遍性影響 9 。與傳統數據模型不同，WMDs 以 “效率優化” 爲名行歧視之實：傳統模型側重局部問題解決，而 WMDs 藉助技術權力將偏見系統化、合法化，例如通過歷史職業數據固化 “醫生 = 男性”“護士 = 女性” 的性別刻板印象 11 。這種 “代碼即權力” 的運作邏輯，使算法不僅決定資源分配與個體身份，更塑造社會認知邊界，構成對民主制度的潛在威脅 12 。 算法不公的典型領域與案例解析 算法不公在教育、資源分配、商業服務等多領域呈現系統性特徵，其核心運作路徑遵循 “數據偏見 — 模型固化 — 社會不公” 的閉環邏輯。以下結合中美典型案例展開解析： 教育領域：排名算法的隱性排斥 《美國新聞》大學排名算法因數據偏見（遺漏 “學雜費” 核心變量），形成 “高學費提升排名” 的模型固化邏輯。高校爲爭奪排名優勢刻意抬高學費，最終導致貧困生因經濟門檻被系統性排除在優質教育資源之外，直接加劇教育公平的階層分化 13 。此案例揭示算法設計中的變量選擇偏差如何轉化爲社會資源分配的結構性不公。 資源分配領域：搜索引擎的偏見覆制 Google 搜索算法存在歷史數據偏見：當用戶搜索 “聽起來像非裔美國人的名字” 時，算法因訓練數據中隱含的種族歧視點擊傾向，自動關聯犯罪背景檢查結果 14 。這種模型固化的關聯機制，實質是將歷史社會偏見編碼爲算法規則，進一步強化種族羣體的負面標籤化，形成 “數據歧視 — 算法放大 — 認知固化” 的不公鏈條。 商業服務領域：平臺算法的權力濫用 中國市場的算法干預定價案例具有典型性：外賣平臺 “調價助手” 算法擅自修改商家定價，2025 年攜程因同類算法干預定價被鄭州市場監管局約談 13 。此類行爲的數據偏見體現爲平臺對交易數據的單方面掌控，模型固化表現爲定價算法的不透明性，最終後果是商家自主權受損與消費者權益被侵蝕，反映算法霸權在全球數字經濟中的共性問題。 信息控制領域：認知繭房的算法塑造 Google 通過搜索結果排序算法控制網站流量，用戶因信任慣性依賴首頁結果，而算法設計傾向於強化既有優勢方的可見性 15 。中國政法大學研究指出，算法推薦同時導致信息繭房（僅推送偏好內容）與價格歧視（如大數據殺熟） 16 。這類模型固化的信息過濾機制，實質是通過算法 “選擇我們能知道什麼”，將認知不公嵌入信息獲取環節 12 。 算法不公的跨國共性表明：無論教育資源分配、種族認知建構還是商業利益分配，算法框架的底層邏輯均可能複製並放大既有社會不平等。其核心風險在於：當“數據黑箱”取代透明決策，算法權力將成爲加劇社會分化的新變量 13 。 社會影響與治理挑戰 算法技術在提升效率與優化資源配置的同時，其社會影響已滲透至結構層面。其中最顯著的宏觀效應體現爲算法不公對社會公平的侵蝕：WMDs（具有社會危害性的算法）通過 “錦上添花” 而非 “雪中送炭” 的資源分配邏輯，持續強化馬太效應，導致消費者權益受損、市場不公平加劇及數據要素自由流動受阻 13 。這種結構性失衡進一步延伸至就業領域，第一產業和第二產業的傳統從業人員面臨被淘汰風險，而數字技術對生活的深度介入則削弱了個體自主權，使人類行爲日益受數字系統指引和控制 12 。 治理層面，算法透明度成爲核心挑戰。中國《算法治理專項行動》雖明確要求 “優化算法透明度”，多數平臺也已完成算法備案，但公開落實不足，缺乏通俗易懂的公衆解釋 16 。這一困境與奧尼爾提出的 “算法審計” 方案面臨的雙重侷限高度契合：技術層面，算法複雜性導致審計難以落地；制度層面，科技公司以商業機密爲由拒絕公開邏輯，形成 “保密 - 競爭” 的惡性循環 14 。儘管 “清朗・算法治理” 行動在規範算法應用方面具有進步意義，但其對深層算法偏見（如訓練數據歧視）的規制仍顯不足，傳統隱私保護技術（如加密和脫敏）也因性能與精度侷限，難以平衡數據利用與保護需求 13 。 治理悖論：算法治理需在商業利益、技術複雜性與公衆知情權間尋找平衡。當前監管框架雖在合規層面取得進展，但對算法決策的系統性偏見（如訓練數據隱含歧視）仍缺乏有效干預手段，凸顯技術規制與社會公平目標的深層張力。 跨書對比與批判路徑差異 構建 “技術倫理 — 權力分析” 二元對比框架，可清晰辨識不同學者對算法批判的路徑分野。米切爾・奧尼爾在《算法霸權》中將算法不公具象化爲可感知的個體困境，通過被錯誤解僱的教師、因信用評分被拒貸的學生等微觀案例，揭示算法偏見對個體權利的直接侵害，爲技術倫理批判提供了具象化的經驗支撐。與之相對，傑米・薩斯坎德更關注算法對國家與社會關係的結構性重塑，主張以審視政治權力的視角監督技術權力，通過提升算法透明度與公衆辯論（如 “辯論 Google 或 Twitter 算法的政治影響”）實現制度層面的價值矯正，其路徑側重宏觀治理框架的構建 12 14 。 兩種路徑並非對立而是互補：奧尼爾的微觀案例暴露了算法治理的現實緊迫性，薩斯坎德的宏觀設計則爲解決問題提供了制度方向。正如《數據與社會》期刊觀點指出，“兩種路徑缺一不可，前者暴露問題，後者提供方向”，共同構成算法批判的完整光譜。 其他學者如米格爾・貝納薩亞格提出的 “技術與人文融合” 路徑，以及部分著作如《算法的力量》偏向中立介紹的立場，則進一步豐富了批判維度，但奧尼爾與薩斯坎德的二元框架仍具有基礎性參照價值 17 18 。 評價與未來啓示 作爲算法批判入門經典，《算法霸權》以 “分糖算法” 等生活化類比（如 “你一塊糖，我一塊糖” 的分配邏輯）降低技術門檻，爲非專業讀者揭示算法迭代本質，其 “數據科學家的反思” 視角更對技術從業者構成深刻警示，展現數學工具背後的人文關懷 19 。 侷限在於 “算法審計” 方案面臨實操困境：中國《算法治理專項行動》中，企業常以 “商業機密” 爲由抵制代碼公開，凸顯技術透明與商業利益的衝突 20 。 面向未來，2025 年全球算法治理呈現新趨勢：歐盟要求高風險 AI 算法強制審計，中國新修訂《反不正當競爭法》明確禁止平臺強制商家低價銷售（10 月 15 日實施） 21 21 。這推動構建 “技術透明 + 制度監管 + 公衆參與” 三維框架 —— 技術端如抖音公開算法原理，制度端強化分類治理（配單 / 推薦算法差異化政策），公衆端提升數字素養 20 。正如書中所言：“數學不會消逝，但我們可以選擇它服務於正義”。

模型的構建不僅是冷冰冰的數據疊加組合，更重要的是數據的選擇與採納，而數據的選擇又是價值問題，關鍵還是在於人的價值選擇，到底是要爲了公平而犧牲效率、降低數據準確率，還是要爲了追求效率而犧牲公平。 數學殺傷性武器其實也就是將缺點成規模地放大，而與此同時也將優點成規模地放大。而這一切問題都在於如何運用數據，最終又回到道德價值問題上啦

算法和大數據已深刻影響我們的生活和社會，但我們需要警惕數據的“陰暗面”，它們很可能引發更多的不公和危機。 數據科學家凱西·奧尼爾認爲，我們應該警惕不斷滲透和深入我們生活的數學模型——它們的存在，很有可能威脅到我們的社會結構。 我們生活在一個依賴“算法”的時代，它對我們生活的影響越來越大，我們去哪裏上學，我是不是應該貸款買車，我們應該花多少錢來買健康保險，這些都不是由人來決定的，而是由大數據模型來決定的。從理論上來說，這一模型應該讓社會更加公平，每一個人的衡量標準都是一樣的，偏見是不存在的。 但是，正如凱西·奧尼爾書裏所揭示的那樣，事實並非如此。我們今天所使用的這些數學模型是不透明的、未經調節的、極富爭議的，有的甚至還是錯誤的。最糟糕的是，數學模型和大數據算法加劇了偏見與不公。例如，一個貧困學生想申請貸款交付學費，但是銀行大數據算法根據他居住地的郵政編碼判斷將錢帶給他存在風險，因此，拒絕給他提供貸款。他因此失去了受教育的機會，而這個機會可能幫助他擺脫貧困。大數據算法做的常常只是錦上添花的事兒，有時甚至是落井下石。 通過個案追蹤，凱西·奧尼爾揭示了大數據是如何影響我們將來的，它不僅影響着個人，也影響着整個社會。這些數據評價着我們的老師、學生，篩選着我們的簡歷，審覈着我們的貸款資格，衡量着員工的工作態度，監視着投票者，監控着我們的健康。 凱西·奧尼爾呼籲數據模型的創造者們要對算法負責，政策的制定者及執行者們在使用這一威力極大的“武器”前應該更加慎重。最後，作者指出，大數據幾乎掌控着我們的生活，我們應該增加對它的瞭解。這本書相當的重要，它讓我們有能力去問一些十分尖銳的問題，幫助我們瞭解事實的真相，提出需要改變的地方，探索更好的生活。

這本書更多是一個話題的開始。 介紹了大量的數學殺傷性武器，描述了其運行機制與長期結果，提出了公平與效率的矛盾問題，提出了在設計算法時，積極反饋迴路與懲罰性工具的差異。 個人感覺算法的出現只是加速了效率的達成，而追逐效率損害公平的循環則是一個社會穩定後就存在的，比起“算法霸權”不如去討論“社會霸權”，算法只是技術罷了，放大且量化了先前的矛盾。

古代是控制土地，現代是控制機器和生產資料，將來是控制並獨裁數據，如果你不喜歡生活在數據獨裁社會或某種墮落的社會里，那麼你可以做的最重要的貢獻是找到防止過多數據集中在很少一部分人的手中的方法並且去探尋使分佈式數據處理比集中式數據處理更有效的方法。這些不是一件容易的事。但實現這些目標可能是未來民主的最佳保障。

😘推薦你看這本書哦，🥸這本書會令你對算法有不同的認識，🤓最終會刷新你的認知。 本書和以往學過的一些知識😘不同，在於這本書它從另一個角度出發，揭示了算法它是有😰負面影響的。 對於學算法的人或者學程序的人，或許是沒有接受過一些知識說算法它會帶來哪些消極影響是很顯著的，最顯著的也只是人們所知道的可能會侵犯🥺人們的隱私權之類的。 這本書它能夠很深入地揭示了算法的消極影響遠遠超過人們的🥶想象，算法並不只是像程序課上的積極影響爲主，只是侵犯隱私權。算法的霸權在於它可以把人區分成不同的羣體，而且它可以做到的一點是，通過對一些符合算法期待的階層而言有利的方式去區分人👬👭👫🧍‍♂️🧍🧍‍♀️🏃‍♂️，算法是有利於符合算法期待的人羣的。算法的一些簡單粗暴的區分方式，帶來哪些消極影響呢？例如在學校裏面有的老師是把很多時間和精力放在學生的管理，還有就是和家長的溝通上，甚至有的是很忙於學校的事務的，那麼其所教的班級的成績可能不是很高。根據一些算法模型可以做到把那一類型的老師給區分出來。就是說教書育人，有的人着重於教書，有的着重於育人。如果一個學校是很功利的，以教師教的學生產出成績高低爲劃分依據，那麼着重於育人的那一類老師（着重於學校事務、學生事務、家校事務之類的老師）就會被區分出來，區分了出來是爲了什麼呢？學校是爲了提高學生成績、提高升學率、招收更多更好的學生、提高學校在地區的升學成績及排名而淘汰那一類老師，然後用符合他們期待的能夠提高學生成績的老師來替代。社會是各司其職的，學校也是那樣，如果只是一味地追逐成績而忽視了育人，那麼就算學生的成績很高，可是學生的好成績可持續性是值得被擔心的。畢竟現在隨着社會的不斷發展，人的思維的不斷拓廣，學生的心理也會受到快速發展的社會的衝擊，人的心理發展是有規律的，學生心理發展有可能因爲社會發展變快，可不是說拔苗助長地變快，就是說有的學生面對一些比較有衝擊力的事件，學生是難以調適內心以應對的。那麼對於那一類型的學生來說，如果只是一味地去強調提高學生的成績卻忽視了學生對心理調適的需要，那麼學生很有可能會做出一些傷害自己的行爲。有很多學校會有一些學生的墜樓事件，也是反映了有的學校它不是很在意學生的心理發展的調適。算法可以做到把一些可以調試學生的心理的老師給區分出來，然後算法就把結果彙報給學校，算法可以把結果用表格或別的形式呈給學校的領導層，那麼領導層可以根據算法的結果得知哪些老師教的班級的學生成績在年級或者是在學校的排名比較低，然後學校可能會採取末尾淘汰制。教師對於學生的心理發展、家校的聯繫、學校事務的努力，都被一個算法給抹掉了。天，難道就不是算法的消極影響嗎？ 算法的消極影響還體現在他把人劃分爲不同的類別，然後根據不同的類別，它會有不同的🫡應對措施。例如，如果一個人他所居住的地方的房價可能比較低，那麼算法它可以起到一個作用，就是例如👨‍✈️要查身份證的時候，如果兩個人一個是來自於房價低的地區，一個是來自於房價高的地區，👩‍✈️只可以查一個人的身份證，👨‍✈️在街上攔截，那🧑‍✈️更可能去攔截的是來自於房價低的地區的人的身份證。就算在此前來自於房價低的地區的人是沒有犯過什麼事的，可是由於算法把那一類型的人給區分出來，於是來自於房價低的地區的人能夠受到👨‍✈️更多的懷疑。再回到心理上說，如果一個人長期被懷疑，被長期心理暗示，就像在學校唸書的時候，有的學生並沒有早戀，可是周圍的同學甚至老師都覺得其在早戀，那麼其最後的結果更多地偏向於早戀。如果一個人沒有做那件事，所有人都覺得那個人做了那件事，那他更有可能會做那件事，就算他其實根本沒有做那件事情的動機。那一個人來自於房價更低的的地區比房價更高的地區的人所受到的懷疑更多，你覺得房價更低的地區的人會傾向於做好事還是做壞事呢？ 有一本書，它揭示了一些研究的真相，有一些研究研究居住的密集度高和密集度低的人們。對於一個慈善活動所捐助的數量是不同的，居住在密集度很密的居住環境的人捐助的金額會少於居住在密集度低的人們所捐助的。研究結果有沒有超出你的認知呢？ 推送也會不同，例如如果兩個人同時需要貸款，一個人是有一些資產的，另一個人是沒有資產的，沒有資產的人明明是需要得到更好更多的幫助的，但是由於算法的干預，算法可以做到令有資產的人的貸款利息更低額度更高；沒有資產的人明明是需要幫助的，但是算法卻給沒有資產的人設定的貸款利息更高、貸款額度更低。就像在下雨了，你想要借傘，銀行就像那個借傘的人，銀行更偏向於不借給你，可是如果是天氣很晴朗，銀行就有可能偏向於借給你，這一系列都是由算法來計算出來的，算法後面的其實說到底都是人，算法是人想出來的，算法不僅融入了能見得光的思維，算法也融入了一些見不得光的思維。 算法霸權這一本書，它把數學模型不爲人知的一面給展現出來了。人們以前會覺得數學可以幫助人們生活得更好的，殊不知算法可以幫助生活得更好的是符合算法模型所期待的人羣，如果你閱讀這一本書，你可以發覺原來數學模型它也是很有殺傷力的，它區分人羣，然後給一些符合算法期待的人更多的機會，不符合算法期待的人卻受到更多的懷疑而更少的機會。如果你看完這一本書，或許你是一箇中國人，你從小生活在數學很重要的中國環境裏面，你看完這一本書，你的認知會刷新，認識到原來數學模型也可以用正義的名義堂而皇之地去做壞事。如果你不是符合算法期待的人羣，你還會喜歡算法嗎？你還會喜歡數學模型嗎？你會質疑這個社會嗎？你會質疑公平嗎？ 以前人們覺得有的人他一出生就有家裏人爲他鋪好了路，現在算法籠罩着社會，如果你不是符合算法期待的人，如果他是掌握算法的人，他可以用算法爲他服務，你會不會覺得現在的努力比以前更難了呢？以前你要抗爭的，可能是考試成績，你需要比拼的是有家裏幫助的人的成績；現在這個社會，你要抗爭的不只是有家裏幫助的人的人力資源，現在你要比拼的人，他是有算法資源的人，他可能是很符合大部分算法所期待的人，例如他來自於房價更高的地區，他很符合他所在的職業的期待，或者說他很符合社會的期待，你會覺得他一出生就比你高一等嗎？有沒有覺得如果和那一類型的人比拼一開始就是輸呢？你還會認真地和符合算法期待的人比拼嗎？你會發自內心地喜歡符合算法期待的人嗎？ 把事情抽象地說，例如你們是在比賽跑步，前面有一個人可以攔截你們問詢盤問你們其中一個人，符合攔截的人期待的人不會被攔下來盤問，而你會，你知道被盤問的時間會耽誤你完成整個路程的時間，你還會覺得那一場比賽它是公平的嗎？這個抽象的例子裏面已經沒有說到外在的資源分配是不公平，只是說在這個過程中你們會有停下來的時候，誰更可能停下來呢？說到這裏，你會不會覺得算法它製造了新的不公平呢？而且這種不公平，它很有可能是不能抗爭的。在算法霸權這一本書裏面也提到了設計算法的人，其實一開始並沒有想到算法會有那麼多消極影響，設計算法的人是等待反饋的，可是反饋是需要時間的。例如那一個人被裁員也不知道爲什麼那麼用心的去工作居然獲得的結果是沒有了工作，沒有了工作的人就會向上彙報啊，才發現原來算法模型根本就沒有把一些特別的努力給納入。原來那一些對於學校事務、家校聯繫、育人方面的努力在算法裏面所佔分值居然是零的！那麼事情總會需要有人做，要是算法，要那麼去分配分值，那麼學校的建設、家校的聯繫、甚至學生的內心調試，都是沒有回報的工作任務，誰會想去做呢？ 就像在社會上，人們議論的是老人倒地，旁人應不應該扶呢？後來人們都覺得不應該扶，因爲沒有那麼多錢被訛詐，可是有一些特別的職業如果不扶老人就會被免職，那麼那一類人就是算法裏面的那一類必須要扶老人的人。使用算法攔截別人的人羣，後來變成了被算法所期待的必須要扶起老人的人羣，這是不是一種反噬呢？ 迷戀某一種力量，你也因爲那一種力量而必須要付出別人沒有的，就像以前看過一系列風靡全球的書，叫做《哈利波特》，《哈利波特》系列裏面有一部《哈利波特與死亡聖器》，裏面有提到有個項鍊，主角配角要輪流佩戴，因爲佩戴的時候人的魔法力量可以保護到同伴，佩戴的時候人會感覺到沮喪、絕望。有沒有覺得有些事，有些時候是異曲同工的呢？ 😘很感謝你能看到這裏🥰。

1. 模型的本質是簡化現實，但沒有模型是完美的，因爲存在“人”的因素就是複雜的。當我們對複雜的、難以量化的概念進行降維，使用替代變量進行計算，並對我們認爲重要的維度進行評估和權重的賦予，這本身就存在大量錯誤。此外，模型可能只是建模者價值判斷和優先級序列的主觀認知，模型、算法承載着人類的偏見。模型的關鍵還在於設計者的目標、出發點。 2. 有害的模型——數學殺傷性武器的特徵是不透明不公開，缺乏錯誤反饋迴路，不接受質疑，得出的結論往往會懲罰社會中的窮人、受教育程度低的人和其他受壓迫的人，加劇馬太效應，導致社會階層固化等惡性循環。因爲數學模型被用來評估海量數據，而富人圈子往往受益於個人投入，甚至可以通過金錢、權力購買和維護自己的數據隱私安全。存在偏見的預測模型由隨機的數據採集和假性相關所驅使，被制度不公平加以強化，又被證實性偏見加以進一步劣化。 3. 對大數據、AI的盲目信任將導致不完善的模型被大規模推廣和應用，尤其是作爲通用標準，這將造成對現實對個人生活的扭曲。模型由通過帶來的經濟效益和內置邏輯自我證明輸出結果的合理性。當模型受衆對從業者而言仍然只是屏幕上跳動的數字時，這一切都是很容易做到，也很容易被認爲是正當且合理的。這是技術模型與現實世界中的血肉相互分離所帶來的道德影響。 4. 我們在網上海量的行爲數據讓我們成爲了由各種各樣的數據拼湊起來的總和，再被算法加以歸類分組，形成個人的數據檔案，評出個人的信用等級、消費偏好，提供給企業進行精準營銷、個性化推薦，海量的行爲數據將在未來直接用於“供養”人工智能系統，這些系統是肉眼看不到的，思維也很難讀懂。但是，如果檔案本身就存在錯誤，算法本身存在偏見，個體能夠通過什麼渠道加以反駁？個體是否能夠在龐大的商業巨頭面對維護自身權益和隱私？不透明的且受害者無法申訴的算法，沒有任何公平可言。個人的生活又越來越依賴於這些算法做出安排和評估，只能默默接受現實。 5. 大數據程序只能將過去編入代碼，而不會創造未來。創造未來需要道德想象力，而想象力只有人類纔有。首先，我們應該承認算法並非萬能的，停止我們的科技烏托邦幻想，即無根據地寄希望於用算法和科技解決一切問題。我們必須明確地將更好的價值觀嵌入我們的算法代碼中，創造符合我們的道德準則的大數據模型。有時，這就意味着要重視公平，犧牲利潤。政府需要扮演更強大的監管和執行角色，我們需要在確立行業道德準則的同時建立和推行更爲強制性的法律條例、問責體系，通過外部力量制約資本家膨脹的盈利慾求。比如參考歐洲模式，規定收集任何數據都需要事前經過用戶同意和批准，以及禁止將數據重新用於其他目的的“不可重複使用”條款進行約束。我們需要推動網絡透明和算法審查：驅使公司、機構進行信息公開，算法透明，交給專業人才研究算法系統的意義、偏見以及公平性，接受人類測試之後才能推行自動化；不適於進行量化的複雜情況，唯一的應對方式就是丟棄不公平的模型或一部分不公平的數據、變量，而不是強行用粗糙的替代變量計算。總之，我們需要爲數學殺傷性武器這種強大的引擎配備方向盤還有剎車。讓殺傷性武器變成良性模型。

廣州圖書館意外發現這本書，讀完後感覺是不可多得的好書，相反，我感覺這本書很適合對從事互聯網或者電商的人去看，尤其是想化繁爲簡，大道至簡的人看，另外看點評很多人說後面的內容是重複的，那大概是你們沒看懂這本書

這本書給我提供了不一樣的視角去看待社會運轉的模式，確實如作者所說，我們的生活已經被各種各樣的數據和算法包圍了，以前從未思考過爲什麼我點開APP就能看到這些內容？爲什麼電話能精準的定位我的裝修/學習需求？我這個人對應的數據和標籤有哪些？ 不過作者的觀點也有很大的侷限性，尤其是對於算法模型的使用，缺乏一些辯證性的探討，只是很淺顯的認爲模型用於商業場景，如果不公平的犧牲了某個個體，那麼模型就是殺傷性武器，如果模型用於非商業性的公益目的，那就不是殺傷性武器…… 我倒是覺得，科技的進步引申出了模型和算法，讓很多個人的主觀判斷（或者說是偏見）嵌入了模型之中，我們只有先看見才能做改變，我們看見了個人信息的濫用，看見了外賣平臺對於騎手的算法壓榨，所以我們現在有了個人信息保護法，有了算法備案。

翻譯優秀，讀着“津津有味”。一二十年過去，書裏的例子依舊鮮活，讓人身臨其境，進而思考自己被算法團團圍繞的生活還有沒有改變的可能 算法帶來的問題需要重視，或許得不到解決（回顧歷史時經常使用的“必要的代價”），終歸要向前發展 2026年，大模型已經改變了人們的生活方式，每個人都擁有自己的“AI助手”，科技讓生活更美好。與此同時，失業下崗的風險也引起了越來越多人的擔憂，就像歷次的科技革命一樣，先進的生產力會重塑生產關係，也必然會帶來陣痛，這就是科技/算法的兩面性