1.Scrapy介绍 Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架,我们只需要实现少量的代码,就能够快速的抓取。 Scrapy使用了Twisted异步网络框架,可以加快我们的下载速度 http://scrapy-chs.readthedocs.io/zh_CN/1.0/intro/overview.html 异步和非阻塞的区别: 异步:调用在发出之后,这个调用就直接返回,不管有无结果。 非阻塞:关注的是程序在等待调用结果时的状态,指在不能立刻得到结果之前,该调用不会阻塞当前线程。 2. Scrapy工作流程 另一种爬虫方式: Scrapy工作流程: 3.Scrapy入门