Scrapy爬取数据案例

本文介绍如何使用Scrapy爬取Tencent的招聘信息,包括两种爬取方式:一是手动设定爬取页数,二是自动提取下一页链接。详细讲解了XPath选择器在提取数据和判断终止条件中的应用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Scrapy爬取数据


昨天练习了一个简单例子,今天进行进一步的学习——爬取同域下的多个网页。

Tencent 的招聘信息进行爬取:
腾讯招聘

Tencent招聘网站

可以看到需要的信息都在< tbody >下的class为even和odd< tr > 标签中。

< tr > 中的需求的数据为职位名职位链接职位人数职位类别工作地点发布日期

使用xpath可以很容易得到这些数据的获取方式:
数据集:xpath(“//tr[@class=’even’] | //tr[@class=’odd’]”)
职位名:xpath(“./td[1]/a/text()”)
职位链接:xpath(“./td[1]/a/@href”)
职位人数:xpath(“./td[3]/text()”)
职位类别:xpath(“./td[2]/text()”)
工作地点:xpath(“./td[4]/text()”)
发布日期:xpath(“./td[5]/text()”)

1.爬取方式一

  1. 新建工程Tencent

    scrapy startproject Tencent
    cd myproject

  2. 创建spider

    scrapy genspider Tenspider “tencent.com”

  3. 修改setting

        # Obey robots.txt rules
        ROBOTSTXT_OBEY = False
        ITEM_PIPELINES = {
        'Tencent.pipelines.TencentPipeline': 300,
        }
  4. 编写管道

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值