轉自：IT共享之家
本文主要圍繞以xpath和lxml庫進行展開：
一、xpath 概念、xpath節點、xpath語法、xpath軸、xpath運算符
二、lxml的安裝、lxml的使用、lxml案例
一、xpath
1.xpath概念
XPath 是一門在 XML 文檔中查找信息的語言。XPath 使用路徑表達式在 XML 文檔中進行導航 。XPath 包含一個標準函數庫 。XPath 是 XSLT 中的主要元素 。XPath 是一個 W3C 標準 。
2.xpath節點
xpath有七種類型的節點：元素、屬性、文本、命名空間、處理指令、注釋以及文檔（根）節點。
節點關係：父、子、兄弟、先輩、後輩。
3.xpath語法
xpath語法在W3c網站上有詳細的介紹，這裡截取部分知識，供大家學習。
XPath 使用路徑表達式在 XML 文檔中選取節點。節點是通過沿著路徑或者 step 來選取的。下面列出了最有用的路徑表達式：
表達式描述nodename選取此節點的所有子節點。/從根節點選取。//從匹配選擇的當前節點選擇文檔中的節點，而不考慮它們的位置。.選取當前節點。..選取當前節點的父節點。@選取屬性。在下面的表格中，我們已列出了一些路徑表達式以及表達式的結果：
路徑表達式結果bookstore選取 bookstore 元素的所有子節點。/bookstore選取根元素 bookstore。注釋：假如路徑起始於正斜槓( / )，則此路徑始終代表到某元素的絕對路徑！bookstore/book選取屬於 bookstore 的子元素的所有 book 元素。//book選取所有 book 子元素，而不管它們在文檔中的位置。bookstore//book選擇屬於 bookstore 元素的後代的所有 book 元素，而不管它們位於 bookstore 之下的什麼位置。//@lang選取名為 lang 的所有屬性。謂語用來查找某個特定的節點或者包含某個指定的值的節點。
謂語被嵌在方括號中。
在下面的表格中，我們列出了帶有謂語的一些路徑表達式，以及表達式的結果：
路徑表達式結果/bookstore/book[1]選取屬於 bookstore 子元素的第一個 book 元素。/bookstore/book[last()]選取屬於 bookstore 子元素的最後一個 book 元素。/bookstore/book[last()-1]選取屬於 bookstore 子元素的倒數第二個 book 元素。/bookstore/book[position()<3]選取最前面的兩個屬於 bookstore 元素的子元素的 book 元素。//title[@lang]選取所有擁有名為 lang 的屬性的 title 元素。//title[@lang='eng']選取所有 title 元素，且這些元素擁有值為 eng 的 lang 屬性。/bookstore/book[price>35.00]選取 bookstore 元素的所有 book 元素，且其中的 price 元素的值須大於 35.00。/bookstore/book[price>35.00]/title選取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值須大於 35.00。XPath 通配符可用來選取未知的 XML 元素。
通配符描述*匹配任何元素節點。@*匹配任何屬性節點。node()匹配任何類型的節點。在下面的表格中，我們列出了一些路徑表達式，以及這些表達式的結果：
路徑表達式結果/bookstore/*選取 bookstore 元素的所有子元素。//*選取文檔中的所有元素。//title[@*]選取所有帶有屬性的 title 元素。通過在路徑表達式中使用"|"運算符，您可以選取若干個路徑。
在下面的表格中，我們列出了一些路徑表達式，以及這些表達式的結果：
路徑表達式結果//book/title | //book/price選取 book 元素的所有 title 和 price 元素。//title | //price選取文檔中的所有 title 和 price 元素。/bookstore/book/title | //price選取屬於 bookstore 元素的 book 元素的所有 title 元素，以及文檔中所有的 price 元素。4.xpath 軸
軸可定義相對於當前節點的節點集。
軸名稱結果ancestor選取當前節點的所有先輩（父、祖父等）。ancestor-or-self選取當前節點的所有先輩（父、祖父等）以及當前節點本身。attribute選取當前節點的所有屬性。child選取當前節點的所有子元素。descendant選取當前節點的所有後代元素（子、孫等）。descendant-or-self選取當前節點的所有後代元素（子、孫等）以及當前節點本身。following選取文檔中當前節點的結束標籤之後的所有節點。namespace選取當前節點的所有命名空間節點。parent選取當前節點的父節點。preceding選取文檔中當前節點的開始標籤之前的所有節點。preceding-sibling選取當前節點之前的所有同級節點。self選取當前節點。5.xpath運算符
下面列出了可用在 XPath 表達式中的運算符：
運算符描述實例返回值|計算兩個節點集//book | //cd返回所有擁有 book 和 cd 元素的節點集+加法6 + 410-減法6 - 42*乘法6 * 424div除法8 div 42=等於price=9.80如果 price 是 9.80，則返回 true。如果 price 是 9.90，則返回 false。!=不等於price!=9.80如果 price 是 9.90，則返回 true。如果 price 是 9.80，則返回 false。<小於price<9.80如果 price 是 9.00，則返回 true。如果 price 是 9.90，則返回 false。<=小於或等於price<=9.80如果 price 是 9.00，則返回 true。如果 price 是 9.90，則返回 false。>大於price>9.80如果 price 是 9.90，則返回 true。如果 price 是 9.80，則返回 false。>=大於或等於price>=9.80如果 price 是 9.90，則返回 true。如果 price 是 9.70，則返回 false。or或price=9.80 or price=9.70如果 price 是 9.80，則返回 true。如果 price 是 9.50，則返回 false。and與price>9.00 and price<9.90如果 price 是 9.80，則返回 true。如果 price 是 8.50，則返回 false。mod計算除法的餘數5 mod 21好了，xpath的內容就這麼多了。接下來我們要介紹一個神器lxml，他的速度很快，曾經一直是我使用beautifulsoup時最鍾愛的解析器，沒有之一，因為他的速度的確比其他的html.parser 和html5lib快了許多。
二、lxml
1.lxml安裝
lxml 是一個xpath格式解析模塊，安裝很方便，直接pip install lxml 或者easy_install lxml即可。
2.lxml 使用
lxml提供了兩種解析網頁的方式，一種是你解析自己寫的離線網頁時，另一種 則是解析線上網頁。
導入包：
1.解析離線網頁：
html=etree.parse('xx.html',etree.HTMLParser())aa=html.xpath('//*[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]/@href')print(aa)2.解析在線網頁：
from lxml import etreeimport requestsrep=requests.get('https:html=etree.HTML(rep.text)aa=html.xpath('print(aa)那麼我們怎麼獲取這些標籤和標籤對應的屬性值了，很簡單，首先獲取標籤只需你這樣做：
然後我們可以，比方說，你要獲取a標籤內的文本和它的屬性href所對應的值，有兩種方法，
1.表達式內獲取
aa=html.xpath('//*[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]/text()')
ab=html.xpath('//*[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]/@href')2.表達式外獲取
aa=html.xpath('//*[@id="s_xmancard_news"]/div/div[2]/div/div[1]/h2/a[1]')
aa.text
aa.attrib.get('href')這樣就完成了獲取，怎麼樣，是不是很簡單了，哈哈哈。
下面再來lxml的解析規則：
表達式描述nodename選取此節點的所有子節點/從當前節點選取直接子節點//從當前節點選取子孫節點.選取當前節點..選取當前節點的父節點@選取屬性
html = lxml.etree.HTML(text)html = lxml.etree.parse('./ex.html',etree.HTMLParser())from lxml import etreeresult = html.xpath('//*')result = html.xpath('//li')result = html.xpath('//li/a')result = html.xpath('//li//a')result = html.xpath('//a[@href="link.html"]/../@class')result = html.xpath('//li[@class="ni"]')result = html.xpath('//li/text()')result = html.xpath('//li/a/@href')result = html.xpath('//li[contains(@class,"li")]/a/text())result = html.xpath('//li[contains(@class,"li") and @name="item"]/a/text()')result = html.xpath('//li[1]/a/text()')result = html.xpath('//li[last()]/a/text()')result = html.xpath('//li[position()<3]/a/text()')result = html.xpath('//li[last()-2]/a/text()')result = html.xpath('//li[1]/ancestor::*')result = html.xpath('//li[1]/ancestor::div')result = html.xpath('//li[1]/attribute::*')result = html.xpath('//li[1]/child::a[@href="link1.html"]')result = html.xpath('//li[1]/descendant::span')result = html.xpath('//li[1]/following::*[2]')result = html.xpath('//li[1]/following-sibling::*')
3.lxml案例
為了偷懶，小編決定還是採用urllib那篇文章的代碼，哈哈哈，機智如我。
好了，今天就講這麼多，大家感興趣的話可以多多關注哦，精彩不停息！！！！
本文參考文獻：
重磅！Python交流群已成立
為了給小夥伴們提供一個互相交流的技術平臺，特地開通了Python交流群。群裡有不少技術大神，不時會分享一些技術要點，更有一些資源收藏愛好者不時分享一些優質的學習資料。（免費，不賣課！）
▲長按掃碼