Xpath和CSS选择器的使用详解

2023-11-05

Xpath与CSS选择器在爬虫中非常常见,下列我将描述一下它们的使用详情

安装Xpath和CSS选择器

##Windows平台

 pip install lxml

##Ubuntu平台

$ sudo apt-get install python3-lxml
$ sudo apt-get install libxml2-dev libxslt-dev python-dev
$ sudo apt-get build-dep python3-lxml
$ sudo pip install lxml

#Xpath

##什么是 XPath

  • XPath 使用路径表达式在 XML 文档中进行导航
  • XPath 包含一个标准函数库
  • XPath 是 XSLT 中的主要元素
  • XPath 是一个 W3C 标准
    ##XPath 术语
    ###节点(Node)
    在 XPath 中,有七种类型的节点:元素、属性、文本、命名空间、处理指令、注释以及文档(根)节点。XML 文档是被作为节点树来对待的。树的根被称为文档节点或者根节点。
    请看下面这个 XML 文档:
<?xml version="1.0" encoding="ISO-8859-1"?>

<bookstore>

<book>
  <title lang="en">Harry Potter</title>
  <author>J K. Rowling</author> 
  <year>2005</year>
  <price>29.99</price>
</book>

</bookstore>

上面的XML文档中的节点例子:

<bookstore> (文档节点)
<author>J K. Rowling</author> (元素节点)
lang="en" (属性节点) 

###基本值(或称原子值,Atomic value)
基本值是无父或无子的节点。
基本值的例子:

J K. Rowling
"en"

###项目(Item)
项目是基本值或者节点。
###节点关系
####父(Parent)
每个元素以及属性都有一个父。
在下面的例子中,book 元素是 title、author、year 以及 price 元素的父:

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

####子(Children)
元素节点可有零个、一个或多个子。
在下面的例子中,title、author、year 以及 price 元素都是 book 元素的子:

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

####同胞(Sibling)
拥有相同的父的节点
在下面的例子中,title、author、year 以及 price 元素都是同胞:

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

####先辈(Ancestor)
某节点的父、父的父,等等。
在下面的例子中,title 元素的先辈是 book 元素和 bookstore 元素:

<bookstore>

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

</bookstore>

####后代(Descendant)
某个节点的子,子的子,等等。
在下面的例子中,bookstore 的后代是 book、title、author、year 以及 price 元素:

<bookstore>

<book>
  <title>Harry Potter</title>
  <author>J K. Rowling</author>
  <year>2005</year>
  <price>29.99</price>
</book>

</bookstore>

##XPath 语法
XPath 使用路径表达式来选取 XML 文档中的节点或节点集。节点是通过沿着路径 (path) 或者步 (steps) 来选取的。
###XML 实例文档
我们将在下面的例子中使用这个 XML 文档。

<?xml version="1.0" encoding="ISO-8859-1"?>

<bookstore>

<book>
  <title lang="eng">Harry Potter</title>
  <price>29.99</price>
</book>

<book>
  <title lang="eng">Learning XML</title>
  <price>39.95</price>
</book>

</bookstore>

###选取节点
XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。

下面列出了最有用的路径表达式:
这里写图片描述
####实例
在下面的表格中,我们已列出了一些路径表达式以及表达式的结果:
这里写图片描述
###谓语(Predicates)
谓语用来查找某个特定的节点或者包含某个指定的值的节点。
谓语被嵌在方括号中。
####实例
在下面的表格中,我们列出了带有谓语的一些路径表达式,以及表达式的结果:
[外链图片转存失败(img-h6sBVsXg-1563507207864)(https://img-blog.csdn.net/20171117221735703?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvbGFuaGFpeHVhbnZ2/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)]
###选取未知节点
XPath 通配符可用来选取未知的 XML 元素。
这里写图片描述
####实例
在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:
这里写图片描述
###选取若干路径
通过在路径表达式中使用“|”运算符,您可以选取若干个路径。
####实例
在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:
这里写图片描述
###在Scrapy中使用补充

####选取文本内容

xpath('//title[@lang="eng"]/text()').extract_first(default='')

有三种方法获取文本:

  • extract() 返回被选择元素的unicode字符串
  • extract_first() 返回被选择元素的unicode字符串,还可以避免IndexError,如果找不到与选择匹配的元素,将返回None。
  • re() 使用正则表达式来提取想要的unicode字符串

CSS选择器

在 CSS 中,选择器是一种模式,用于选择需要添加样式的元素。
“CSS” 列指示该属性是在哪个 CSS 版本中定义的。(CSS1、CSS2 还是 CSS3。)
在Scrapy中,CSS选择器内容转化为Xpath来实现功能的。
##CSS选择器语法
这里写图片描述

##在Scrapy中提取文本

css(".Intro::text").extract_first(default='')

同样也支持 extract() 、extract_first() 和 re() 方法

#附录:
##lxml资料:

http://lxml.de/index.html

##Xpath资料

http://www.w3school.com.cn/xpath/index.asp

##CSS选择器资料

http://www.w3school.com.cn/cssref/css_selectors.asp

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Xpath和CSS选择器的使用详解 的相关文章

随机推荐

  • 判断对象中是否存在某属性

    判断属性是否存在于对象的几种方式 const demoData name Tom age 18 sex undefined console log demoData name 打印值undefined console log name in
  • NNOM第一个模型实例

    目录 一 keras开发环境搭建 二 安装visual studio 2019 1 下载安装 2 配置使用MSVC编译器 三 编译第一个NNOM的demo 1 下载源码 2 安装依赖库 3 编译auto test 四 移植 1 新建新的VS
  • MPEG-4 Audio 关于esds 记录

    当解析Mp4的时候 会碰到这个esds 的box 这个box 有很多信息 当时是为了解决在MP4A中如何判断是acc还是 MP3 然后找到下面答案 https wiki multimedia cx index php title MPEG
  • ubuntu安装gcc-11提示Unable to locate package gcc-11

    使用 sudo apt get install gcc 11 想安装高版本的gcc但是怎么更新源都提示 Unable to locate package gcc 11 升级到ubuntu20 04也没解决 最后是添加了 sudo add a
  • html bottom html submit按钮表单控件与CSS美化

    一 html submit与bottom按钮基本语法结构 1 html submit按钮在input标签里设置type submit 即可设置此表单控件为按钮 submit按钮代码
  • HTTP协议-----------应用层协议

    一 引言 协议 就是一种约定 双方为了更好的完成某项活动 而一致遵守的约定 应用层协议 我们程序员自己定义的协议 最常见的应用层协议是http协议 二 URL和URI的区别与联系 URI统一资源标识符 用来唯一的标识一个资源 但不能定位 U
  • 主题配置和 消息发送(一)KafkaTemplate 的使用

    一 主题 1 1 配置主题 在应用程序上下文定义一个 KafkaAdmin Bean 它可以自动将主题添加到代理 通过这个Bean可以将 每一个新建的主题 Topic 添加到应用程序上下文中 下面是一个简单的示例 也可以创建 TopicBu
  • 计算机用户打印权限设置,如何设置打印机权限?

    2007 04 12 安装有打印机的电脑 开始 设置 打印机 右键点共享 没安装打印机的电脑 开始 设置 打印机 添加打印机 网络打印机 浏览打印机 双击workgroup下的用户 选中打印机 确定 第一步 在主机的 打印机和传真 文件夹中
  • linux内存swap什么意思,Linux中Swap与Memory内存简单介绍

    1 背景介绍 这篇文章介绍一下Linux中swap与memory 对于memory没什么可说的就是机器的物理内存 读写速度低于cpu一个量级 可是高于磁盘不止一个量级 因此 程序和数据若是在内存的话 会有很是快的读写速度 可是 内存的造价是
  • 函数和存储过程区别

    Waiting 转载于 https www cnblogs com Tim Liu archive 2011 04 26 2029500 html
  • 组合分类方法——装袋(bagging);提升(boosting)和AdaBoost;随机森林

    此篇文章仅作为个人学习笔记之用 内容来之数据挖掘技概念与技术 第三版 一书 由于编辑很是麻烦 我直接截图WPS下编辑好的内容 二 提升 boosting 和AdaBoost 三 随机森林
  • Linux Tips · VMWare上Linux运行很慢的解决

    目前的主流PC运行虚拟机 问题不是很大 然而在VMware上安装的有的Linux 比如Suse 10 2 却运行暴慢 文字明显是一行一行往上移的 其实这并不是因为程序运行慢 主要原因是启用了较高的显示设置 这些LINUX发行版主要目标是桌面
  • 线程池的主要处理流程及常用方法

    线程池的主要处理流程及常用方法 更多优秀文章 请扫码关注个人微信公众号或搜索 程序猿小杨 添加 一 主要处理流程 当调用线程池execute 方法添加一个任务时 threadPoolExecutor execute 具体代码如下 priva
  • cocos2dx opengl入门系列二-画一个三角形

    运行环境 mac10 12 2 xcode Version 8 2 1 cocos2dx x 3 13 1 代码 新建cocos2dx项目 具体操作官网有教程 新建好后 新建Test cpp 代码如下 Test cpp FirstTrian
  • 时序预测

    时序预测 MATLAB实现基于EMD GRU时间序列预测 EMD分解结合GRU门控循环单元 目录 时序预测 MATLAB实现基于EMD GRU时间序列预测 EMD分解结合GRU门控循环单元 效果一览 基本描述 模型描述 程序设计 参考资料
  • 【MySQL】数据处理函数

    函数 文本处理函数 日期和时间处理函数 数值处理函数 函数 SQL支持利用函数来处理数据 但是函数的可移植性不强 如果决定使用函数应该保证做好代码注释 以便以后能确切地知道所编写SQL代码的含义 大多SQL实现支持以下类型的函数 用于处理文
  • com.aspose.words 类LoadOptions

    com aspose words 类LoadOptions java lang Object com aspose words LoadOptions 直接已知子类 HtmlLoadOptions PdfLoadOptions RtfLoa
  • react native 上拖拽元素

    1 给一张效果图 2 具体代码如下 使用的就是react native里面的PanResponder 具体使用看 官网 这里主要两个知识点Animated 和 panResponder 我在componentDidMount初始 panRe
  • 企微外部群Api

    个人微信开发API 文档地址 wkteam gitbook io 所有个人号模块分析 登录模块 登录微控平台 member login 获取微信二维码 user login 执行微信登录 getIPadLoginInfo 获取联系人列表 群
  • Xpath和CSS选择器的使用详解

    Xpath与CSS选择器在爬虫中非常常见 下列我将描述一下它们的使用详情 安装Xpath和CSS选择器 Windows平台 pip install lxml Ubuntu平台 sudo apt get install python3 lxm