scrapy 中selector对象提取数据。

最新推荐文章于 2025-05-30 09:06:11 发布

原创最新推荐文章于 2025-05-30 09:06:11 发布 · 2.5k 阅读

6 ·

CC 4.0 BY-SA版权

文章标签：

#python

python 专栏收录该内容

107 篇文章

订阅专栏

博客围绕Python展开，介绍了创建对象、数据选择与提取等操作，还提及了scrapy框架内置对象，以及使用xpath和css选择数据的方法，聚焦信息技术领域的数据处理与框架应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1，创建对象

Selector类的实现位于scrapy.selector模块，创建Selector对象时，可以将页面的HTML文档字符传递给Selector对象的构造方法的text参数或者直接传递页面response对象参数也行。
例如：
from scrapy.selector import Selector
# 方法一、 
text ="<html>.........</html>"
selector = Selector(text=text)
# 方法二、`在这里插入代码片`
# response是页面响应对象。
selector = Selector(response=response)

2，数据选择

Selector 对象有xpath方法和css方法,xpath和css 返回值都是SelectorList（列表可迭代）对象。
例如：
# xpth提取数据
selector.xpath("//h1")
# css 提取数据
selector.css("#id")

3，数据提取

Selector 对象和SelectorList对象都有以下几种方法。
extract()     返回选中内容的Unicode字符串
re()           正则提取
extract_first()(SelectorList独有)   返回列表中的第一个元素内容
re_first()(SelectorList独有)         返回列表中的第一个元素内容

4，scrapy框架内置对象

在response对象中内置的有selector,因此，在开发中我们一般不需要手动创建Selector对象（有兴趣可以看看框架源码），为了用户方便，还提供了了xpath方法和css方法（内部实现其实就是创建Selector对象，调用相应的xpath方法或者css方法）（有兴趣的话，可以看看框架源码）。
例如：
response.xpath("//div")
response.css("#id")

5，xpath选择数据和css选择数据