OpenVINO？工具套件權威指南：輕鬆實現AI模型的優化和部署

內容簡介

本書旨在幫助開發者應對AI推理計算性能優化這一重要挑戰。隨着深度學習模型的規模和複雜性日益增長，如何提升推理效率已成爲開發者關注的核心問題。本書詳細介紹了OpenVINOTM（Open Visual Inference and Neural Network Optimization）這款由英特爾推出的，專爲深度學習模型的優化、加速推理和跨平臺部署設計的開源工具套件。通過簡單易用的功能，開發者可以快速上手，實現AI應用的高效落地。 本書涵蓋了從OpenVINO的基礎入門到高級優化的完整內容，包括設備插件、量化技術、大語言模型和生成式AI的優化與部署等，幫助開發者靈活應對不同應用場景的需求。此外，書中還介紹了端到端AI推理計算性能提升的實戰案例，以及與PyTorch、ONNX Runtime等工具的集成，確保開發者在熟悉的環境中提升開發效率。書中代碼獲取方式見前言。 本書不僅適合AI領域的初學者，也爲有經驗的開發者提供了深入的技術指南。通過OpenVINO，開發者可以輕鬆提升AI推理計算性能，加速AI應用項目的成功落地。

書籍信息