android 客户端 爬虫,爬虫(三)-客户端爬取Android SDK发布

经过前两篇文章,咱们深刻论述了后台爬取的痛点,同时提出了对客户端方案可行性的思考。今天咱们就来介绍一下全球第一个客户端爬取平台,今天咱们来揭开它的神秘面纱!javascript

DSpider平台

DSpider是客户端爬取平台台,官网地址:dspider.dtworkroom.com/,如官网说述, DSpider主要由云管理平台、sdk、爬虫商店三部分组成,咱们简单说明一下这三者的各自职责:jquery

云管理平台

dSpider的爬取脚本是动态下发的,云管理平台主要用于配置脚本参数、更新脚本、统计脚本爬取状态、错误分析等。若是你是开发者,那么云管理平台同时也是发布、管理本身脚本的地方。android

SDK

sdk负责从云端请求脚本而后执行,最后将爬取结果传给第三方APP. (官方提供了ios和android的sdk,但目前只开放了android sdk)。ios

爬虫商店

相似于应用商店,是一个爬虫仓库,开发者能够在里面挑选所需的脚本,也能够将本身的脚本发布到爬虫商店git

集成到APP

咱们以android为例,官方提供了完整的文档及demo:

Android集成文档:dspider.dtworkroom.com/document/an…

Android demo:github.com/wendux/DSpi…github

咱们先来看看官方demo的运行效果:api