wawlian说

    网络爬虫是捜索引擎抓取系统的重要组成部分。爬虫的主要目的是将互联网上的网页下载到本地形成一个或联网内容的镜像备份。这篇博客主要对爬虫以及抓取系统进行一个简单的概述。 一、网络爬虫的基本结构及工作流程     一个通用的网络爬虫的框架如图所示：     网络爬虫的基本工作流程如下：     1.首先选取一部分精心挑选的种子URL；     2.将这些URL放入待抓取UR...

四、更新策略     互联网是实时变化的，具有很强的动态性。网页更新策略主要是决定何时更新之前已经下载过的页面。常见的更新策略又以下三种：     1.历史参考策略     顾名思义，根据页面以往的历史更新数据，预测该页面未来何时会发生变化。一般来说，是通过泊松过程进行建模进行预测。     2.用户体验策略     尽管搜索引擎针对于某个查询条件能够返回数量巨大的结果，但是用户往往...