在myeclipse上将mapreduce部署到集群上运行

今天学习在myeclipse上写mapreduce,并运行在集群中,遇见了一些问题:

1.权限问题:

解决方法:配置执行时的虚拟机参数-DHADOOP_USER_NAME=root

2.然后运行出现了连接不到0.0.0.0:10020的情况--


解决方案:

    开始根据 网上的一些方法在 mapred-site.xml 配置了 historyserver :

	<property>
    		<name>mapreduce.jobhistory.address</name>
   		 <!-- 配置实际的主机名和端口-->
  		<value>master:10020</value>
	</property>

    然后启动:mr-jobhistory-daemon.sh start historyserver,但是没有效果,还是 不能 connection

    然后想到其他配置文件在 代码 中 Configuration 对象中配置的,就试了一下:

    conf.set("mapreduce.jobhistory.address", "192.168.0.100:10020");

    再执行发现执行成功:

    



在Windows上的myeclipse中想要运行在集群中,需要将项目打成jar包,并放到代码中多对应的地址处。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值