易燃物匯聚 YouTube 有聲書與書評
實戰Python網絡爬蟲 封面

實戰Python網絡爬蟲

黃永祥

1.2萬人在讀
23.4萬字總字數
¥59.4定價

內容簡介

本書從原理到實踐,循序漸進地講述了使用Python開發網絡爬蟲的核心技術。全書從邏輯上可分爲基礎篇、實戰篇和爬蟲框架篇三部分。基礎篇主要介紹了編寫網絡爬蟲所需的基礎知識,包括網站分析、數據抓取、數據清洗和數據入庫。網站分析講述如何使用Chrome和Fiddler抓包工具對網站做全面分析;數據抓取介紹了Python爬蟲模塊Urllib和Requests的基礎知識;數據清洗主要介紹字符串操作、正則和BeautifulSoup的使用;數據入庫講述了MySQL和MongoDB的操作,通過ORM框架SQLAlchemy實現數據持久化,進行企業級開發。實戰篇深入講解了分佈式爬蟲、爬蟲軟件的開發、12306搶票程序和微博爬取等。框架篇主要講述流行的爬蟲框架Scrapy,並以Scrapy與Selenium、Splash、Redis結合的項目案例,讓讀者深層次瞭解Scrapy的使用。此外,本書還介紹了爬蟲的上線部署、如何自己動手開發一款爬蟲框架、反爬蟲技術的解決方案等內容。本書使用Python 3.X編寫,技術先進,項目豐富,適合欲從事爬蟲工程師和數據分析師崗位的初學者、大學生和研究生使用,也很適合有一些網絡爬蟲編寫經驗,但希望更加全面、深入理解Python爬蟲的開發人員使用。

讀者書評

★★★★★

這本書個人關鍵挺好的,但是對於初學者來說理解有一點難度,但是對初學者來說涉及到的知識結構比較全面,個人感覺本書作者比較厲害,寫的內容深入淺出吧,肯定有多年的大量的編程的經驗,個人比較喜歡這邊書的編寫風格。推薦。

★★☆☆☆

雖然書纔出版沒多久,但是所有實戰的代碼都不能用。

★★★★★

- 實戰Python網絡爬蟲.從爬蟲軟件開發到自己動手開發爬蟲框架; 2019.6

★★★★★

非常棒!有理論有實戰,理論由淺入深、文風簡潔,實戰具有操作性、最小可操作案例

★★★☆☆

介紹了很多的庫,但都限於泛泛而談。適用於大略的簡要了解各種庫。

★★★★★

本書結構 本書共分28章,各章內容概述如下: 第1章介紹什麼是網絡爬蟲、爬蟲的類型和原理、爬蟲搜索策略和爬蟲的合法性及開發流程。 第2章講解爬蟲開發的基礎知識,包括HTTP協議、請求頭和Cookies的作用、HTML的佈局結構、JavaScript的介紹、JSON的數據格式和Ajax的原理。 第3章介紹使用Chrome開發工具分析爬取網站,重點介紹開發工具的Elements和Network標籤的功能和使用方式,並通過開發工具分析QQ網站。 第4章主要介紹Fiddler抓包工具的原理和安裝配置,Fiddler用戶界面的各個功能及使用方法。 第5章講述了Urllib在Python 2和Python 3的變化及使用,包括髮送請求、使用代理IP、Cookies的讀寫、HTTP證書驗收和數據處理。 第6章~第8章介紹Python第三方庫Requests、Requests-Cache爬蟲緩存和Requests-HTML,包括髮送請求、使用代理IP、Cookies的讀寫、HTTP證書驗收和文件下載與上傳、複雜的請求方式、緩存的存儲機制、數據清洗以及Ajax動態數據爬取等內容。 第9章介紹網頁操控和數據爬取,重點講解Selenium的安裝與使用,並通過實戰項目“百度自動答題”,講解了Selenium的使用。 第10章介紹手機App數據爬取,包括Appium的原理與開發環境搭建、連接Android系統,並通過實戰項目“淘寶商品採集”,介紹了App數據的爬取技巧。 第11章介紹Splash、Mitmproxy與Aiohttp的安裝和使用,包括Splash動態數據抓取、Mitmproxy抓包和Aiohttp高併發抓取。 第12章介紹驗證碼的種類和識別方法,包括OCR的安裝和使用、驗證碼圖片處理和使用第三方平臺識別驗證碼。 第13章講述數據清洗的三種方法,包括字符串操作(截取、查找、分割和替換)、正則表達式的使用和第三方庫BeautifulSoup的安裝以及使用。 第14章講述如何將數據存儲到文件,包括CSV、Excel和Word文件的讀取和寫入方法。 第15章介紹ORM框架SQLAlchemy的安裝及使用,實現關係型數據庫持久化存儲數據。 第16章講述非關係型數據庫MongoDB的操作,包括MongoDB的安裝、原理和Python實現MongoDB的讀寫。 第17章至第21章介紹了5個實戰項目,分別是:爬取51Job招聘信息、分佈式爬蟲——QQ音樂、12306搶票爬蟲、微博爬取和微博爬蟲軟件的開發。 第22章至第25章介紹了Scrapy爬蟲框架,包括Scrapy的運行機制、項目創建、各個組件的編寫(Setting、Items、Item Pipelines和Spider)和文件下載及Scrapy中間件,並通過實戰項目“Scrapy+Selenium爬取豆瓣電影評論”、“Scrapy+Splash爬取B站動漫信息”和“Scrapy+Redis分佈式爬取貓眼排行榜”、“爬取鏈家樓盤信息”和“QQ音樂全站爬取”,深入講解了Scrapy的應用和分佈式爬蟲的編寫技巧。 第26章介紹爬蟲的上線部署,包括非框架式爬蟲和框架式爬蟲的部署技巧。 第27章介紹常見的反爬蟲技術,並給出了可行的反爬蟲解決方案。 第28章介紹爬蟲框架的編寫,學習如何自己動手編寫一款爬蟲框架,以滿足特定業務場景的需求。

★★☆☆☆

講的東西實在太多,乾貨不多,表示看不下去了,示例代碼還是圖片,無力吐槽。只能說適合空閒的童鞋慢慢看吧

★★★★☆

還是挺不錯的一本書。書中所涉內容涵蓋 Python 網絡爬蟲各個方面,並配有多個實戰案例,適合初中級爬蟲工程師閱讀學習。

★★★☆☆

介紹了很多方面的包及其用法。覺得有點泛了。倒不如集中在提取,清洗,讀解JS等幾個方面,講明白講通透。這樣至少會真正學到一些知識點,而不是看了後面忘了前面。

★☆☆☆☆

寫的是可以,可是還是很淺,一個東西只講概念不講應用。多少說不過去。

書籍信息

作者黃永祥
出版社清華大學出版社
出版時間2019-06-01
ISBN9787302524892
分類計算機-編程設計
格式EPUB
完結狀態連載中
章節數179