专栏首页明天依旧可好的专栏知识点讲解一:Xpath的介绍和用法

知识点讲解一:Xpath的介绍和用法

1 前言

本来是不打算学Xpath的,个人觉得BeautifulSoup()完全能够满足自己的爬虫需求了。但是在学Selenium是时候教程用的是Xpath,加上之前身边的小伙伴也一直在给自己安利Xpath,索性就了解一下。

2 Xpath语法

2.1 简介

XPath 是一门在 XML 文档中查找信息的语言。XPath 可用来在 XML 文档中对元素和属性进行遍历。结构关系包括 父、子、兄弟、先辈、后代等。

2.2 语法

示例代码:

这是一个解析后的HTML文件的一部分
<bookstore>
	<book>
  		<title>Harry Potter</title>
  		<author>J K. Rowling</author>
  		<year>2018</year>
  		<price>29.99</price>
	</book>
</bookstore>

语法示例:

result = html.xpath('/bookstore/book/title')
>输出:<title>Harry Potter</title>
result = html.xpath('/bookstore//title')
>输出:<title>Harry Potter</title>
result = html.xpath('/bookstore/book/title/text()')
>输出:Harry Potter

2.3 结点获取

XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。

下面列出了最有用的路径表达式:

表达式

描述

nodename

选取此节点的所有子节点。

/

从根节点选取。

//

从选择的父节点中查找,不考虑它们的位置。

.

选取当前节点。

选取当前节点的父节点。

@

选取属性。

实例 在下面的表格中,我们已列出了一些路径表达式以及表达式的结果:

路径表达式

结果

bookstore

选取 bookstore 元素的所有子节点。

/bookstore

选取根元素 bookstore。注释:假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径!

bookstore/book

选取属于 bookstore 的子元素的所有 book 元素。

//book

选取所有 book 子元素,而不管它们在文档中的位置。

bookstore//book

选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于

//@lang

选取名为 lang 的所有属性。

谓语(Predicates) 谓语用来查找某个特定的节点或者包含某个指定的值的节点。 谓语被嵌在方括号中。

实例 在下面的表格中,我们列出了带有谓语的一些路径表达式,以及表达式的结果:

路径表达式

结果

/bookstore/book[1]

选取属于 bookstore 子元素的第一个 book 元素。

/bookstore/book[last()]

选取属于 bookstore 子元素的最后一个 book 元素。

/bookstore/book[last()-1]

选取属于 bookstore 子元素的倒数第二个 book 元素。

/bookstore/book[position()< 3 ]

选取最前面的两个属于 bookstore 元素的子元素的 book 元素。

//title[@lang]

选取所有拥有名为 lang 的属性的 title 元素。

//title[@lang=’eng’]

选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。

/bookstore/book[price>35.00]

选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。

/bookstore/book[price>35.00]/title

选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。

选取未知节点 XPath 通配符可用来选取未知的 XML 元素。

通配符

描述

*

匹配任何元素节点。

@*

匹配任何属性节点。

node()

匹配任何类型的节点。

实例 在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:

路径表达式

结果

/bookstore/*

选取 bookstore 元素的所有子元素。

//*

选取文档中的所有元素。

//title[@*]

选取所有带有属性的 title 元素。

选取若干路径 通过在路径表达式中使用“|”运算符,您可以选取若干个路径。 实例 在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果,由于博客书写原因,在表中我把“|”换成了“~”:

路径表达式

结果

//book/title ~ //book/price

选取 book 元素的所有 title 和 price 元素。

//title ~ //price

选取文档中的所有 title 和 price 元素。

/bookstore/book/title ~ //price

选取属于 bookstore 元素的 book 元素的所有 title 元素,以及文档中所有的 price 元素。

2.4 Xpath与爬虫的交点

与Xpath搭配的常用解析方法是:etree.HTML()

from lxml import etree
#发送请求
req = requests.get(oneBlogUrl, timeout=10)
#校正网页编码
req.encoding = req.apparent_encoding
#解析网页
html = etree.HTML(req.text)

在解析过后就可以直接上Xpath了

article_list = html.xpath("/bookstore/book/title/text()")

与BeautifulSoup中的find()/find_all()方法相比,在用find_all()查找到标签后存放的形式是列表,需要在for循环中才能继续调用find()方法。这一点上Xpath是比BeautifulSoup较方便的,Xpath可以一步到位。

参考文章:Python爬虫利器之Xpath

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Python3--爬取数据之911网站信息爬取

    明天依旧可好
  • Python--strip()学习记录

    明天依旧可好
  • Python3--批量爬取数据之调用百度api进行翻译

    明天依旧可好
  • python xpath

    / 从根节点 // 从当前节点 . .. 父节点 @ 属性 bookstore/book 选取属于 bookstore 的子元素的所有 boo...

    用户5760343
  • Python爬虫11-XML与XPath

    用户2398817
  • xpath语法大全

    XPath 节点 ---- XPath 术语 节点 在 XPath 中,有七种类型的节点:元素、属性、文本、命名空间、处理指令、注释以及文档(根)节点。XML...

    用户1217611
  • xpath路径的写法

    3.查找页面上第一个form元素内的直接子input元素(即只包括form元素的下一级input元素,使用绝对路径表示, 单/号)://form[1]/inpu...

    小小咸鱼YwY
  • 工业互联网战线广阔,要以业务价值驱动,避免打造面面俱到系统

    导读:林诗万博士是工业互联网联盟(IIC)架构任务组的联合主席,工业互联网参考架构(IIRA)的主要策划和贡献者,工业4.0和IIC架构联合任务组的联合负责人。...

    钱塘数据
  • 关关的刷题日记87 – Leetcode 171. Excel Sheet Column Number

    关关的刷题日记87 – Leetcode 171. Excel Sheet Column Number 题目 Related to question Excel...

    WZEARW
  • 为何不把握时间开发产品? 为何耗费宝贵的时间争论工作量? 将产品快速推向市场的铁三角: SEMAT Essence, 产品级敏捷与微服务架构

    假如,企业内的产品管理与研发团队,常常会耗费许多宝贵的时间,在争论所谓的 “需求的工作量”,“需求有无过载”,“需求价值的优先级”,却压缩了产品开发与测试的周期...

    Ken Fang 方俊贤

扫码关注云+社区

领取腾讯云代金券