主页 > 知识库 > Python爬虫必备之XPath解析库

Python爬虫必备之XPath解析库

热门标签:海外网吧地图标注注册 打电话机器人营销 聊城语音外呼系统 腾讯地图标注没法显示 商家地图标注海报 孝感营销电话机器人效果怎么样 ai电销机器人的优势 南阳打电话机器人 地图标注自己和别人标注区别

一、简介

XPath 是一门在 XML 文档中查找信息的语言。XPath 可用来在 XML 文档中对元素和属性进行遍历。XPath 是 W3C XSLT 标准的主要元素,并且 XQuery 和 XPointer 都构建于 XPath 表达之上。

Xpath解析库介绍:数据解析的过程中使用过正则表达式, 但正则表达式想要进准匹配难度较高, 一旦正则表达式书写错误, 匹配的数据也会出错。

网页由三部分组成: HTML, Css, JavaScript, HTML页面标签存在层级关系, 即DOM树, 在获取目标数据时可以根据网页层次关系定位标签, 在获取标签的文本或属性。

二、安装

pip install lxml

三、节点

3.1 选取节点

XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。 下面列出了最有用的路径表达式:

表达式 描述
nodename 选取此节点的所有子节点。
/ 从根节点选取。
// 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。
选取当前节点的父节点。
. 选取当前节点。
@ 选取属性。

3.2 选取未知节点

XPath 通配符可用来选取未知的 XML 元素。

通配符 描述
* 匹配任何元素节点。
@* 匹配任何属性节点。
node() 匹配任何类型的节点。

在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:

路径表达式 结果
/bookstore/* 选取 bookstore 元素的所有子元素。
//* 选取文档中的所有元素。
//title[@*] 选取所有带有属性的 title 元素。

3.3 节点关系

父(Parent)

每个元素以及属性都有一个父。
在下面的例子中,book 元素是 title、author、year 以及 price 元素的父:

book>
  title>Harry Potter/title>
  author>J K. Rowling/author>
  year>2005/year>
  price>29.99/price>
/book>

子(Children)

元素节点可有零个、一个或多个子。
在下面的例子中,title、author、year 以及 price 元素都是 book 元素的子:

book>
  title>Harry Potter/title>
  author>J K. Rowling/author>
  year>2005/year>
  price>29.99/price>
/book>

同胞(Sibling)

拥有相同的父的节点
在下面的例子中,title、author、year 以及 price 元素都是同胞:

book>
  title>Harry Potter/title>
  author>J K. Rowling/author>
  year>2005/year>
  price>29.99/price>
/book>

先辈(Ancestor)

某节点的父、父的父,等等。
在下面的例子中,title 元素的先辈是 book 元素和 bookstore 元素:

bookstore>

book>
  title>Harry Potter/title>
  author>J K. Rowling/author>
  year>2005/year>
  price>29.99/price>
/book>

/bookstore>

后代(Descendant)

某个节点的子,子的子,等等。
在下面的例子中,bookstore 的后代是 book、title、author、year 以及 price 元素:

bookstore>

book>
  title>Harry Potter/title>
  author>J K. Rowling/author>
  year>2005/year>
  price>29.99/price>
/book>

/bookstore>

四、XPath实例

爬取糗事百科

import requests
# 导包
from lxml import etree
import os
base_url = 'https://www.qiushibaike.com/video/'
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari/537.36'
}
res = requests.get(url=base_url, headers=headers)
html = res.content.decode('utf-8')
# xpath解析
tree = etree.HTML(html)
# 标题
content = tree.xpath('//*/a/div[@class="content"]/span/text()')
# 视频
video_list = tree.xpath('//*/video[@controls="controls"]/source/@src')
index = 0
for i in video_list:
    # 获取视频二进制流
    video_content = requests.get(url= 'https:' + i,headers=headers).content
    # 标题
    title_1 = content[0].strip('\n')
    # 将视频二进制写入文件
    with open(f'Video/{title_1}.mp4','wb') as f:
        f.write(video_content)
    index += 1

到此这篇关于Python爬虫必备之XPath解析库的文章就介绍到这了,更多相关XPath解析库内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

您可能感兴趣的文章:
  • python数据XPath使用案例详解
  • python网络爬虫精解之XPath的使用说明
  • python动态网站爬虫实战(requests+xpath+demjson+redis)
  • python使用xpath获取页面元素的使用
  • Python爬虫之用Xpath获取关键标签实现自动评论盖楼抽奖(二)
  • python数据解析之XPath详解

标签:聊城 杨凌 六盘水 扬州 牡丹江 南宁 迪庆 抚州

巨人网络通讯声明:本文标题《Python爬虫必备之XPath解析库》,本文关键词  Python,爬虫,必备,之,XPath,;如发现本文内容存在版权问题,烦请提供相关信息告之我们,我们将及时沟通与处理。本站内容系统采集于网络,涉及言论、版权与本站无关。
  • 相关文章
  • 下面列出与本文章《Python爬虫必备之XPath解析库》相关的同类信息!
  • 本页收集关于Python爬虫必备之XPath解析库的相关信息资讯供网民参考!
  • 推荐文章