Scrapy框架启动多个爬虫的方法

最新推荐文章于 2024-05-19 18:04:45 发布

原创最新推荐文章于 2024-05-19 18:04:45 发布 · 1.2k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#python #爬虫 #scrapy #多个爬虫

本文介绍了一种在Scrapy中同时运行多个爬虫的方法，避免了使用cmdline.execute仅执行最后一个爬虫的问题。通过自定义命令crawlall，可以在一次调用中启动所有爬虫，提高了效率。

有的时候在抓取过程中可能会出现同一个网站相同数据在不同url里有不同爬取方法的情况，所以这个时候需要编写多个爬虫，最开始是使用cmdline.execute(“scrapy crawl spider1”.split()) 启动爬虫，但发现用这种方法执行多个最后真正抓取的只有第二个。

from scrapy import cmdline

cmdline.execute("scrapy crawl spider1".split())
cmdline.execute("scrapy crawl spider2".split())  # 只会执行后面这一个

此方法行不通，后面采用了自定义scrapy命令解决这个问题，下面放代码和步骤：

创建commands目录
在commands下面添加一个文件crawlall.py 和 init.py文件，这一步貌似不能省略

和spider目录同级
在crawlall.py里面增加代码：（这里主要通过修改scrapy的crawl命令来完成同时执行spider的效果。crawl的源码可以在此查看：https://github.com/scrapy/scrapy/blob/master/scrapy/commands/crawl.py）

from scrapy.commands import ScrapyCommand
from scrapy.utils.project import get_project_settings


class Command(ScrapyCommand):
    requires_project = True

    def syntax(self):
        return '[options]'

    def short_desc(self):
        return 'Runs all of the spiders'

    def run(self, args, opts):
        spider_list = self.crawler_process.spiders.list()
        for name in spider_list:
            self.crawler_process.crawl(name, **opts.__dict__)
        self.crawler_process.start()

在settings里面添加配置

COMMANDS_MODULE = 'UGaming.commands'   # 自己的爬虫名称

运行命令scrapy crawlall 或者新建启动文件：

cmdline.execute("scrapy crawlall".split())