scrapyd-server

本文介绍了如何安装scrapyd和scrapyd-client,启动scrapyd服务,并配置及部署爬虫项目。详细步骤包括部署前的检查、scrapyd-deploy的测试、查看可用爬虫以及在scrapyd服务中查看已部署的项目信息,如状态、项目名称、版本号和爬虫数量。
  1. 需要安装scrapyd=1.2.0  scrapyd-client=1.2.0a1
  2. 启动scrapyd服务

  1. 配置爬虫项目

  1. 开始向scrapyd中部署项目

通过scrapyd-deploy命令测试scrapyd-deploy是否可用。

查看当前可用于部署到scrapyd服务中的爬虫有哪些。

参数1: [deploy: jobbole]

参数2: scrapy.cfg文中中的url

命令scrapy list用来查看当前项目中,可用的爬虫。

列举scrapyd服务中已经部署的爬虫项目:

status: 上传至scrapyd的状态
project: 上传的项目名称
version: 此次上传项目的版本号,因为项目可以多次打包上传,每次上传都会有不同的版本号
spiders: 该项目中包含的爬虫个数

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值