在Eclipse中调试运行Nutch

Nutch搜索引擎·Eclipse开发配置(第4期) 1.1 环境准备 1.1.1 本期引言 1.1.2 环境介绍 1.1.3 JDK 安装配置 1.1.4 ANT 安装配置 1.1.5 IvyDE 安装配置 1.1.5 Tomcat 安装配置 1.1.6 Cygwin 安装配置 1.2 Eclipse 开发 1.2.1 Solr 部署 1.2.2 Nutch 导入 1.2.3 Solr 与Nutch 结合 立即下载
昨天花了一天时间都没有搞定Nutch(nutch 0.8版本)。今天终于在同学提示下搞定了。总结一下这个恶心的东西,免得其他同志们再浪费宝贵的生命。

注意你遇到问题肯定都是配置问题,不可能是源程序的问题,要不然nutch就肯定运行不了了。通常在控制台运行nutch是没有问题的。至于具体的运行Crawl参考: nutch 0.8 tutorial。关键的配置有conf下面的nutch-site.xml, hadoop-site.xml。其中nutch-site.xml和had-oop-site.xml里面的设置分别覆盖nutch-default.xml和hadoop-default.xml里面的值。

1、首先参考官方网站的导入操作(如果不是很熟悉的话一定要参考,免得浪费时间),详见: RunNutchInEclipse,注意按照这种方式导入的时候会将所有的jar都添加到classpath底下。我个人觉得nutch-0.8.1.jar需要移除,其实这个就是所有源文件打成了分发的jar包。
2、删除src/test源代码下面的nutch-site.xml。否则在运行的时候会加载多个nutch-site.xml,而你不修改所有的nutch-site.xml的话,天知道它到底加载了哪一个。nutch的开发者也是很搞笑,故意在test地下放这个文件,让大家犯错。可是浪费哥一天的时间啊,当然也是技术不过关了,居然还是没有发现这个错误。
3、按照官方文档运行Crawl,如果运行还是没有结果的话,那就是要在nutch-site.xml的configuration下增加一个http.agent.name节点:
<property>
  <name>http.agent.name</name>
  <value>test</value>
</property>
其实这个信息是在tutorail里面有说到的。
按照上面三个步骤来做的话照理来说是没有问题了。

我还遇到一个问题就是,我在Linux服务器上只是普通用户,所以运行nutch的时候还会出现这么一个错误:“没有对什么/tmp/……文件夹的权限操作”。最简单的解决办法就是跟管理员说提升权限为root了。如果这个不行的话,那就有一个更好的方法:修改hadoop-site。怎么修改呢?首先在hadoop-0.4.0-patched.jar下可以找到hadoop-default.xml,打开这个文件,然后将里面对应设置成/tmp/……值得属性全部拷贝出来,然后将它们粘贴到hadoop-site.xml里面,将值全部设成你有权限的文件夹就可以了。这个方法照理来说是可以的,如果还是不行的话,那就直接把hadoop-default.xml里面的值修改掉好了,具体方法是将该文件解压出来(不会?直接用解压管理器就好了),然后修改相应的值,接着再添加进去,就可以覆盖掉原来的。

问题就这些吧,记住一定是配置问题。在运行过程中出现问题的话,首先要看看哪些配置文件加载了,如果好几个相同名字的配置文件加载了,最好把多余的去掉,因为你无法确定类加载器到底加载了那个配置。

其实我觉得nutch的开发者还是没有做到周详,怎么可以在src/test下面也加一个nutch-site.xml呢。
<script type="text/javascript" src="http://pagead2.googlesyndication.com/pagead/show_ads.js"> </script>
16、保障Azure应用安全:密钥管理与身份认证 本文深入探讨了保障Azure应用安全的关键措施,包括使用网络安全工具(如Application Gateway和Azure Front Door)防范攻击,解决传统密钥和机密存储方式的安全隐患,以及通过Azure Key Vault实现敏感信息的安全管理。同时,介绍了使用托管标识实现Azure资源间安全访问的方法,并结合实际操作步骤展示了如何配置Key Vault、设置访问策略、存储机密以及授予Web应用对SQL Server的访问权限。最后,对不同安全措施进行了比较,并提出了在开发、测试及生产环境中的综合 阅读详情

相关推荐

Mplus实战:三变量随机截距交叉滞后模型(RI-CLPM)语法详解与扩展

本文详细解析了Mplus中三变量随机截距交叉滞后模型(RI-CLPM)的构建原理与语法实现。通过将变量分解为稳定的个体间差异与动态的个体内波动,模型能更纯净地揭示多变量间的纵向交互影响。文章以工作压力、睡眠质量与工作满意度为例,提供了完整的语法模板、关键参数设置(如NOCOV命令、残差相关)及结果解读指南,帮助研究者避开常见误区,稳健分析复杂动态关系。

wdx0123456的博客 926

在Eclipse中运行Nutch2.3

参考http://wiki.apache.org/nutch/RunNutchInEclipse 一、环境准备 1、下载nutch2.3源代码 wget http://mirror.bit.edu.cn/apache/nutch/2.3/apache-nutch-2.3-src.tar.gz或者下载正在开发中的最新版本 svn co https:...

apple01010105的博客 277

求助:有没有基于pscad的锂电池仿真模型

求助:有没有基于pscad的锂电池仿真模型 欢迎使用Markdown编辑器 你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。 新的改变没有 我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能,我们增加了如下几点新功能,帮助你用它写...

qq_38922523的博客 1222

使用eclipse运行和调试nutch1.4

起初参照官网http://wiki.apache.org/nutch/RunNutchInEclipse,有些文字对java不熟悉的人来说根本看不明白,在往上搜索到了一篇文章http://www.douban.com/note/193721760/,里边有个需要翻墙的地址:http://zettadata.blogspot.com/2011/12/eclipsenutch.html,参照这个地址基

softwarehe的专栏 1668

各种加法器的比对分析与Verilog实现(3)

了Kogge-Stone加法器和brent-kung加法器,本文将用Verilog代码进行实现。

Albert_yeager的博客 1198

基于Simulink的自适应反步法(Adaptive Backstepping)控制​

本文针对非线性系统控制中未知参数和强非线性耦合的挑战,提出基于Simulink的自适应反步法解决方案。通过融合参数在线估计与反步递归设计,该方法显著提升了永磁同步电机(PMSM)速度控制的鲁棒性,使跟踪误差从20%降至3%,参数估计收敛时间小于0.5秒。文章详细阐述了从算法推导到Simulink实现的完整流程,包括系统架构设计、核心算法推导(以PMSM为例)、模块化建模方法、参数优化策略以及工程部署建议。提供的自适应控制器MATLAB代码和关键参数表可直接应用于实际工程,为电机驱动、机械臂等非线性系统控制提

xiaoheshang_123的博客 101

nutch-1.4在eclipse中运行

1.选中nutch所在eclipse中的工程,新建一个文件夹urls

u010914684的专栏 511

基于STM32设计的自动追光系统(项目资料ID:2)

基于STM32设计的自动追光系统主要由光敏采集电路、单片机核心板电路和步进电机控制电路构成。通过光敏电阻采集环境光强信息,经 STM32 单片机处理后,控制步进电机转动,实现对光源的自动追踪。该系统具有响应速度快、追踪精度较高等优点,可应用于太阳能发电、智能照明等领域,为相关场景提供高效的光资源利用方案。

以培养嵌入式工程师为己任 1万+

在Eclipse中运行Nutch1.0

Run Nutch In Eclipse on Linux and Windows nutch version 1.0Tested withNutch release 1.0 Eclipse 3.3Java 1.6 Ubuntu (should work on most platforms though) Windows XP StepsFor Window

hfutxrg的专栏 2840

微信小程序报错:“errno“:600001,“errMsg“:“uploadFile:fail errcode:-105 cronet_error_code:-105 error_msg:net::

uploadFile:fail errcode:-105 cronet_error_code:-105 error_msg:net::ERR_NAME_NOT_RESOLVED,uniApp微信小程序使用uni.uploadFile出现报错,微信小程序如何解决wx.uploadFile报错,如何解决这个问题,微信小程序真机报错,微信小程序报错"errno":600001,"errMsg":"uploadFile:fail errcode:-105 cronet_error_code:-105 error_m

✅ 精选推荐文章 3827

【目标检测】基于yolov5的水下垃圾检测(附代码和数据集,7684张图片)

【目标检测】基于yolov5的水下垃圾检测(附代码和数据集)

学无止境、积少成多、厚积薄发 4183

在Windows平台上使用Eclipse调试运行Nutch

在Windows平台上使用Eclipse调试运行Nutch:1、需要的软件:   JDK,Eclipse,Nutch,Cygwin,Tomcat2、在windowsXP下运行Nutch:(1)解压缩nutch的tar包;(2)安装cygwin(3)修改nutch目录下的conf子目录下的两个文件:              第一:在nutch-site.xml的conf

1774

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

nutch二次开法之导入到eclipse

二次开发nutch(所有的都是在nutch2.3.1版本)首先要把项目导入到eclipse中,本博客参考了nutch wiki后,自己亲自导入成功。一、开始之前设置Nutch运行到Eclipse中可能会非常棘手,如果你在Eclipse中编辑Nutch,但是从命令行运行,这样做调试会更快。 然而,能够在Eclipse中调试Nutch非常有用,并且在应用和测试补丁时也非常有用。1、准备工作 需要安装an

天空之蓝的博客 510

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

nutch导入eclipse

主要是希望将nutch导入eclipse,方便调试。主要参考的资料有http://wiki.apache.org/nutch/RunNutchInEclipse。http://blog.youkuaiyun.com/amelia9/article/details/8568684。 开始一直没找到好的参考资料。非常感谢上面两个博客。 1、在cygwin下首先运行了ant eclipse,build成功,如下...

weixin_30952103的博客 115

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

How to make nutch run in eclipse ?

[b][color=green][size=large]Nutch是一个优秀的开源的数据爬取框架,我们只需要简单的配置,就可以完成数据爬取,当然,Nutch里面也提供了很灵活的的插件机制,我们随时都可以对它进行二次开发,以满足我们的需求,本篇散仙,先来介绍下,如何在eclipse里面以local模式调试nutch,只有在eclipse里面把它弄清楚了,那么,我们学习起来,才会更加容易,因为,目前大...

三劫散仙 210

nutch 无法在 eclipse下调试的问题

系统是 ubuntu-10.04IDE用的是eclipse这时候出现了一个匪夷所思的现象,在终端中运行nutch,完全没有任何问题。但是,一旦转到eclipse下调试,nutch就跑不起来了,报出的错误如下:java.io.IOException: Expecting a line not the end of streamat org.apache.hadoop.fs.DF.parseExecR

------------------ 777

Nutch,hadoop错误及处理

原文链接:http://blog.youkuaiyun.com/wuyamony/article/details/7267565 1.Nutch在eclipse中调试时,除了参考nutchtutorial(http://wiki.apache.org/nutch/NutchTutorial#A4._Setup_Solr_for_search)中配置,还要注意nutch-default.xml中plugi

科大树蛙文本挖掘小组 1417

Nutch安装的几个网址

RunNutchInEclipse - Nutch Wiki http://wiki.apache.org/nutch/RunNutchInEclipse Index of /apache/nutch http://mirror.bit.edu.cn/apache/nutch/ 转载于:https://www.cnblogs.com/zhjsll/p/4342...

weixin_30655219的博客 80

Run Nutch In Eclipse on Linux and Windows nutch version 1.0

参考官方文档,通过努力终于我nutch在eclispe下跑通了:),真的很好,很详细,不知道自己有没耐心些这样的文章:) This is a work in progress. If you find errors or would like to improve this page, just create an account [UserPreferences] and start ed...

JLife 雅致 博大 精深 164

Run Nutch In Eclipse on Linux and Windows nutch version 0.9

Running Nutch in Eclipse Here are instructions for setting up a development environment for Nutch under the Eclipse IDE. It is intended to provide a comprehensive beginning resource for the con...

WGH100817的博客 325

在windows平台下Eclipse调试Hadoop/Nutch

即让碰到这个问题说明 准备工作都做好了,软件包,环境什么的这里都不说了   安装jdk与环境变量配置 安装cygwin    安装和启动ssd服务安装后,配置环境变量,将cygwin的bin目录配置到path中 内存溢出导致job失败 解决方案:Eclipse -&gt; Window -&gt; Preferences -&gt; Java -&gt; Installed JR...

加俊 121

hadoop下运行java工程,将Hadoop源码.java程序加载到自己的工程中

原因:分析代码的时候,在Eclipse中通过Build Path引入的软件包(Hadoop-0.20.2-core.jar)是编译后的.class文件,是无法直接修改编译的。要很难跟踪引入包的程序执行过程。解决方案:可以将Hadoop的源代码复制到自己的工程中,这样和引入软件包的效果是相同的具体过程:(2)解压后就可以看到源码,在工程中新建org.apache.hadoop包,将源代码src目录下...

weixin_35089515的博客 167

Nutch在Eclipse上的开发调试环境配置手册

Eclipse虽然可以正确导入Nutch的工程目录,但是在执行的时候会由于output的class路径问题,而造成如classnotfoud或者找不到plugin目录的情况,下面总结一下如何正确的使用Eclipse搭建Nutch的编译和调试环境:1. File->New->Project->Java Project 选择在已有代码目录上创建工程,jdk版本为1.6以上2. 在Libraries页Add Class Folder把conf文件夹加入,在Order and Export页把conf置顶,Fini

jerry_li79的专栏 1109
上一篇: 面向对象的Javascript(1)
下一篇: Linux下显示tomcat控制台
llmlx
博客等级 码龄23年 15粉丝 105原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值