人工智能安全基礎

內容簡介

本書着眼於人工智能自身的安全問題，旨在將當前人工智能安全的基礎問題、關鍵問題、核心算法進行歸納總結。本書的定位是學習人工智能安全的入門書籍，因此先詳細介紹了人工智能安全相關的基礎知識，包括相關的基礎算法和安全模型，使得讀者明確人工智能面臨的威脅，對人工智能安全有一個大體的概念和初步認識。然後將人工智能系統的主要安全威脅分爲模型安全性威脅和模型與數據隱私威脅兩大類。模型安全性威脅主要包括投毒攻擊、後門攻擊、對抗攻擊、深度僞造。模型與數據隱私威脅主要包括竊取模型的權重、結構、決策邊界等模型本身信息和訓練數據集信息。 本書在介紹上述經典攻擊技術的同時，也介紹了相應的防禦方法，使得讀者通過這些攻擊瞭解人工智能模型的脆弱性，並對如何防禦攻擊的方法、如何增強人工智能模型的魯棒性有一定的思考。本書主要從隱私保護的基本概念、數據隱私、模型竊取與防禦三個維度來介紹通用的隱私保護定義與技術、典型的機器學習數據隱私攻擊方式和相應的防禦手段，並探討了模型竊取攻擊及其對應的防禦方法，使得讀者能夠直觀全面地瞭解模型與數據隱私並掌握一些經典算法的整體實現流程。這本書還介紹了真實世界場景中不同傳感器下的對抗攻擊和相應的防禦措施以及人工智能系統對抗博弈的現狀。相比於數字世界的攻擊，真實世界的攻擊更需要引起人們的關注，一旦犯罪分子惡意利用人工智能系統的漏洞，將會給人們的生產生活帶來安全威脅，影響大家的人身安全、財產安全還有個人隱私。讀者可以通過閱讀此書的知識內容及相關經典案例瞭解掌握人工智能系統面臨的攻防技術，瞭解如何在前人的基礎上，研究出針對各種攻擊的防禦方法，爲可信人工智能助力。 本書適合期望入門人工智能安全的計算機相關專業的學生、技術工作者，人工智能領域的從業人員，對人工智能安全感興趣的人員，致力於建設可信人工智能的人員。

書籍信息