我现在看得源码主要是网页抓取部分,这部分相对比较容易。我首先定位所有与网页抓取部分,大体看了整个流程后,然后几乎看了所有函数的实现,当然也有许多不太明白的,相信随着逐渐对整个代码的熟悉,这些疑问会逐渐解决。现在有一些疑问就是Nutch为什么没有使用异步的Socket和缓冲DNS来提高抓取的效率(或许我还没有找到)。
Nutch的代码整体上写的还算通俗易懂。但Nutch大量使用了Google的Map-Reduce思想,来简化了很多功能模块的设计,这对从来没有接触到Map-Reduce的初学者带来了很陡峭的学习曲线。可以这样说,没有对Map-Reduce的思想的深刻理解,读懂Nutch源码是非常困难的。呵呵,我现在还没有看到这部分,等研究研究一下Google的Map-Reduce再看这部分。
Nutch源代码学习小小总结一下
最新推荐文章于 2021-01-20 18:24:41 发布
本文探讨了Nutch网页抓取部分的源码,详细分析了其抓取流程及函数实现,并对未采用异步Socket和缓冲DNS的原因提出疑问。文章还提到Nutch运用Google的Map-Reduce思想简化了设计。
157

被折叠的 条评论
为什么被折叠?



