Crawlers
文章平均质量分 82
jiao732
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Nutch、heritrix、crawler4j优缺点
Nutch: 主页:https://nutch.apache.org/index.html ApacheNutch是一个高度可扩展的和可伸缩的开源网页爬虫软件项目。源于ApacheLuceneTM,项目多样化,目前由两个代码库组成,即: 1. Nutch1.x:一个非常成熟的爬虫产品。1.x版本支持细粒度的配置,依赖于一个很好的分布式处理的ApacheHadoop数据结构。原创 2014-03-21 09:00:47 · 5808 阅读 · 1 评论 -
Crawler4j在Eclipse中的配置
Crawler4j介绍: 主页:https://code.google.com/p/crawler4j/ 网上对于crawler4j这个爬虫的使用的文章很少,Google到的几乎没有,只能自己根据crawler4j的源码进行修改。这个爬虫最大的特点就是简单易用,他连API都不提供。刚开始的时候实在恨不能适应。好在他的源码也提供了几个例子。对于一般的应用大可以直接修改它的例子。 Crawler转载 2014-03-21 15:44:37 · 2295 阅读 · 0 评论 -
Heritrix1.14.4在Eclipse中的配置
Heritrix的介绍 heritrix的主页:https://webarchive.jira.com/wiki/display/Heritrix/Heritrix#Heritrix-Heritrix1.14.4(May2010) Heritrix 是一个由 java 开发的、开源的网络爬虫,用户可以使用它来从网上抓取想要的资源。其最出色之处在于它良好的可扩展性,方便用户实现自己的抓取逻辑原创 2014-03-21 11:53:51 · 1090 阅读 · 0 评论
分享