Eclipse上Hadoop插件中Run On Hadoop原理[转]

本文详细解析了Eclipse Hadoop插件中的runonhadoop命令的工作原理。该命令并非将程序直接部署到Hadoop集群上运行,而是利用本地Hadoop包执行MapReduce任务,并从HDFS中读取文件。文中还强调了若要实现真正的分布式运行还需进行额外步骤。

通过Eclipse的hadoop插件中的"run on hadoop"命令的原理:它不是把jar包发送到hadoop集群上去运行,而只是使用了hadoop集群上的hdfs,从hdfs中获取文件,至于执行,是执行你本地的hadoop包来运行你编写的MapReduce程序,所以Hadoop集群中不用启动YARN也可以运行。

因为要想在集群中让程序分布式运行还要经历上传类文件、分发到各个节点等过程,一个简单的“run on hadoop”只是启动了本地hadoop类库来运行你的程序而已,在Hadoop cluster的web管理页面(http://192.168.2.2:8088/cluster/apps)上是看不到任何作业信息的,因为你的作业根本就没有运行在集群上。

转载于:https://www.cnblogs.com/jun1019/p/6274160.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值