最近公司的爬虫要进行改造。对一架构问题进行了解决
问题:目标网站经常改版,我们部署的服务器由于有很多台,每次改版,其维护消耗很大,如果减少工作量?
将架构设计成为服务端-客户端。服务端将解析逻辑类,客户端可以装载服务端这个解析逻辑类。然后 客户端运行抓取.
最近公司的爬虫要进行改造。对一架构问题进行了解决
问题:目标网站经常改版,我们部署的服务器由于有很多台,每次改版,其维护消耗很大,如果减少工作量?
将架构设计成为服务端-客户端。服务端将解析逻辑类,客户端可以装载服务端这个解析逻辑类。然后 客户端运行抓取.