基于scrapy_redis部署scrapy分布式爬虫

1.使用cmd命令窗口下载工具包 scrapy_redis

 2.使用PyCharm打开你的scrapy爬虫项目,找到settings.py文件,配置scrapy爬虫项目使用的调度器及过滤器

3.修改spiders目录下的爬虫文件

 4.如果你的scrapy爬虫项目连接的有远程服务,例如MySql数据库,Redis数据库等,需要将远程服务连接开启,保证在其他的主机上能够成功连接。

mysql数据库的相关操作:我安装的mysql是8.0版本(社区版)以及它对应的数据可视化软件: Navicat 12 for MySQL

打开mysql服务的两种方式:

方式一:在cmd命令窗口输入net start mysql80打开服务

如果出现这种错误:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值