本文介绍了使用Scrapy创建自动爬虫的过程，包括模版指定、配置与组件执行顺序、页面过滤规则及如何指定起始页等内容。适用于希望快速上手Scrapy进行网页抓取的开发者。
一、自动爬虫的创建，需要指定模版
如：
scrapy genspider -t crawl stockinfo quote.eastmoney.com
crawl ： 爬虫模版
stockinfo ：爬虫名称，后续敲命令执行爬虫需要输入的
quote.eastmoney.com ：起始网址
通过 scrapy genspider -l 查看可用模版
二、settings、items、pipeline、spider的执行顺序
settings--->items---->spider<---->pipeline，即第一次从settings读取爬虫配置，创建需要处理的数据项，根据starturl来启动爬虫，爬取到数据后，发送给管道处理数据（或放到文件中、或存到数据库）
三、页面过滤规则
这一步错误，很容易漏掉网址，通过在parse_item函数中输出response.url跟踪是否有遗漏的网页
如：print(response.url)
四、指定起始页
1、starts_urls数据
2、start_requests函数
扫一扫
1218
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
