18年初，還在實習期的我因為工作需求開始接觸Java爬蟲，從一個網站爬取了163W條poi數據，這是我人生中寫的第一個爬蟲，也是唯一的一個Java爬蟲。後來這些poi數據也成了我畢業設計中的一部分。後來開始學習Python爬蟲以及爬蟲框架Scrapy，尤其是Scrapy，前前後後研究了一個多月，並利用Scrapy構建了千萬級數據的ICA(網際網路內容識別)資源庫。
寫爬蟲系列的目的主要是想記錄一下自己學習爬蟲的經歷，以及遇到的一些問題，也希望能夠給爬蟲初學者帶來一些啟示。之前給同事普及爬蟲的時候，自己動手做了人生中的第一個PPT，所以爬蟲系列文章將圍繞著這個PPT來開展。
系列結構目錄如圖，將從四個方面來介紹爬蟲。
爬蟲入門：主要包括爬蟲的基本概念、技術棧、爬蟲程序的開發等。反爬技術：主要是講述常見的反爬蟲技術以及應對方法。Scrapy框架：目前最好的爬蟲框架，也是本系列文章的重點內容。風險規避：講述如何編寫規範的爬蟲，如何避免數據風險。前言很多人包括我在內，剛開始聽到爬蟲的時候都會有一種朦朦朧朧、遙不可及的感覺。很多人覺得只有程式設計師才需要使用爬蟲，其實並不是。至少，Python處理文檔和爬蟲的能力是面向日常工作的。
舉個慄子：有人需要每天從各個網站上粘貼成百上千條數據到excel中，如果使用爬蟲，一個requests、pandas或xlwt就搞定了，幾十行代碼而已。日常上線需求需要根據模板來寫三個文檔進行上傳，前前後後粘貼需要四五分鐘，後來我為了偷懶用Python寫了個程序打包成exe，點擊一下幾秒就完成了。所以，Python讓日常工作工作更高效，值得更多的人學習。
本篇文章主要從第一章爬蟲入門開始講起。
爬蟲入門爬蟲概念概念什麼是爬蟲？
這是當初我學習開發爬蟲的時候，腦海裡浮現的第一個問題。不論網上怎麼介紹爬蟲，是spider、crawler也好，是robots也罷。我的理解就是：「模擬人的行為從網頁上獲取的數據的程序」。更具象一些：在Java中爬蟲是Jsoup.jar，在Python中爬蟲是requests模塊，甚至Shell中的curl命令也可以看做是爬蟲。
爬蟲庫可以分為兩個部分。一是請求部分，主要負責請求數據，例如Python的requests；二是解析部分，負責解析html獲取數據，例如Python的BS4。
爬蟲做了什麼工作？
模仿人的行為從網頁獲取數據。一個人，需要先打開瀏覽器、輸入網址，從網站後臺獲取網頁並加載到瀏覽器展示，最後才能獲取數據。爬蟲的請求部分，就相當於瀏覽器的角色，會根據你輸入的url從網站後臺獲取html，而解析部分就會根據預先設定的規則，從html中獲取數據。
而開發者的工作，一是裝飾請求部分，例如在請求頭中添加User-Agent、Cookie等，讓網站覺得是一個人通過瀏覽器來訪問的，而不是一個程序。二是通過選擇器來編寫規則，從頁面獲取數據。
這是瀏覽器的請求頭內容。
請求頭技術棧技術棧做爬蟲需要什麼具備什麼樣的技術？是不是只有大佬才可以？其實並不是。這裡主要分為兩個層次要求。
基本要求程式語言：只需要有Java或者Python基礎即可，有基本的Html閱讀能力以及CSS選擇器、Xpath選擇器、正則表達式的使用能力。
數據存儲：爬取的數據要只有存儲下來才有意義。數據可以保存在文件或資料庫中，這就要求開發者有文件讀寫或資料庫操作的能力。對於資料庫，掌握基本的表結構設計、增刪改查的能力即可。
開發者工具：爬蟲開發者使用最多的工具，各種瀏覽器按下F12都會彈出。通常用來攔截請求，定位元素，查看JS源文件。
開發者工具進階要求在爬蟲的開發中，會遇到各種各樣的問題，就需要有獨立思考和解決問題的能力。目前，很多網站都採用了異步加載數據或JS加密，所以需要具備Ajax和JS方面的知識。
網絡知識。基本的狀態碼：20x成功，30x轉發重定向，40x請求不存在、50x服務端問題。有時候還需要TCP的知識，例如established、time_waited等TCP連接狀態代表著什麼。
爬蟲開發基礎概念我們已經講完，怎麼來開發個爬蟲呢？舉個慄子：
鬥羅大陸如圖，是星鬥蒼涼、月色照亮的動漫鬥羅大陸的播放頁面。我們以此為例，開發爬蟲來獲取頁面數據。
Java爬蟲Java爬蟲的開發主要使用Jsoup。
引入Jsoup依賴：
<dependency>
<groupId>org.jsoup</groupId>
<artifactId>jsoup</artifactId>
<version>1.11.2</version>
</dependency>程序開發：
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
import java.io.IOException;
public class JavaCrawler {
public static void main(String[] args) throws IOException {
String url = "https://v.qq.com/detail/m/m441e3rjq9kwpsc.html";
// 發起請求，獲取頁面
Document document = Jsoup.connect(url).get();
// 解析html，獲取數據
Element body = document.body();
Element common = body.getElementsByClass("video_title_cn").get(0);
String name = common.getElementsByAttribute("_stat").text();
String category = common.getElementsByClass("type").text();
Elements type_txt = body.getElementsByClass("type_txt");
String alias = type_txt.get(0).text();
String area = type_txt.get(1).text();
String parts = type_txt.get(2).text();
String date = type_txt.get(3).text();
String update = type_txt.get(4).text();
String tag = body.getElementsByClass("tag").text();
String describe = body.getElementsByClass("_desc_txt_lineHight").text();
System.out.println(name + "\n" + category + "\n" + alias + "\n" + area + "\n" + parts + "\n" + date + "\n" + update + "\n" + tag + "\n" + describe);
}
}
Python爬蟲對於Python爬蟲的開發，使用的是requests和bs4。
安裝模塊：
pip install requests bs4程序開發：
import requests
from bs4 import BeautifulSoup
url = 'https://v.qq.com/detail/m/m441e3rjq9kwpsc.html'
# 發起請求，獲取頁面
response = requests.get(url)
# 解析html，獲取數據
soup = BeautifulSoup(response.text, 'html.parser')
name = soup.select(".video_title_cn a")[0].string
category = soup.select("span.type")[0].string
alias = soup.select("span.type_txt")[0].string
area = soup.select("span.type_txt")[1].string
parts =soup.select("span.type_txt")[2].string
date = soup.select("span.type_txt")[3].string
update = soup.select("span.type_txt")[4].string
tag = soup.select("a.tag")[0].string
describe = soup.select("span._desc_txt_lineHight")[0].string
print(name, category, alias, parts, date, update, tag, describe, sep='\n')上面兩個程序輸出相同的結果：
至此，鬥羅大陸的爬蟲開發工作就完成了。從代碼也能看出來，請求部分也就一行，大部分都是解析部分的，這裡使用css選擇器來完成數據的解析。
我們再來看看請求部分獲取的網頁內容：
請求響應內容當然，一個完整的爬蟲程序除了以上模塊，還需要有存儲模塊，必要的時候還需要代理池模塊。其次，對於整個大型網站數據的爬取還需要對網站進行深度/廣度遍歷來完成，還需要考慮到如果爬蟲中斷，如何從斷點開始繼續爬取等方面的設計。這一部分的內容後面會寫。
對於Jsoup資料、requests、scrapy視頻教程，公眾號後臺回復 「爬蟲資料」 即可獲取。
結語這一篇文章不對程序的開發做過多的深入探討，只講述爬蟲的概念以及程序演示。而下一篇文章會根據上面的程序，著重對Jsoup和requests、bs4模塊以及css選擇器的使用深入探究。期待下一次相遇。
收藏、在看、轉發