在eclipse 中安装Hadoop插件用了很长时间,所以仅以此文来纪念那些被浪费的时间....
此文默认Hadoop2.7.1已安装成功。
一、开发环境
Hadoop2.7.1(Host Ip 192.168.80.19 , uname: zzchun)
eclipse-mars-4.5.1
(下载地址:http://ftp.yzu.edu.tw/eclipse/technology/epp/downloads/release/mars/1/eclipse-jee-mars-1-win32-x86_64.zip)
二、准备资料,包括Hadoop插件和一些需要的文件
链接:http://pan.baidu.com/s/1hqNSUBM 密码:gyn7
三、插件配置
1、使用二中下载文件,将hadoop-eclipse-plugin-2.7.1.jar放到Eclipse的plugins目录下,重新启动Eclipse,这里的eclipse版本必须是JavaEE的。
![]()
2、设置Hadoop的安装路径(这里实际为Hadoop的解压路径),windows—>preferences—>Hadoop Map/Reduce
3、添加mapreduce view, window/show view/ MapReduce Tools,然后选择Map/Reduce Locations,在Hadoop location视图中右键New Hadoop Location,添加Hadoop的相关信息,如下图所示。其中,Host为Hadoop所在主机IP(从左到右分别与mapreduce-site.xml,core-site.xml相同,默认为9001和9000),用户名设立必须是服务器的用户名。
![]()
4、连接上后,会在DFS下显示HDFS的文件信息,到这里说明成功了一半了,可以在这里对HDFS进行简单操作,如创建文件夹,上传、下载文件等。
5、设置环境变量HADOOP_HOME,PATH下面添加%HADOOP_HOME%\bin
6、 将在第二步中下载的以下几个文件hadoop.dll,winutils.exe(全部)放到%HADOOP_HOME%\bin目录下面。
解决方案:在etc/hadoop下的hdfs-site.xml添加7、将hadoop.dll放到C:\Windows\System32下面(可能要重启电脑,本次配置过程没有重启,也可以执行程序)。
8、启动%HADOOP_HOME%\bin下面的winutils.exe,若没有报错那么恭喜你,如果有问题,也不用着急,主要可能是缺少.dll文件,根据错误信息找度娘解决,此处不作详细介绍。
9、测试WordCount程序
创建mapreduce工程,这里会自动把对应的jar都导入到工程中。然后将hdfs-site.xml,core-site.xml,log4j.properties文件copy到src目录下面。
10、在run configuration里面添加输入和输出目录,input output,然后便可以执行该程序。还可以通过,run on hadoop的方式来执行程序。
11、可能出现的问题org.apache.hadoop.security.AccessControlException:Permissiondenied:user=zhengcy,access=WRITE,inode="/user/root/output":root:supergroup:drwxr-xr-x
<property>
<name>dfs.permissions</name>
<value>false</value>
</property>
设置没有权限,不过在正式的服务器上不能这样设置。
12、若在配置过程中遇到其它问题,请参考一下博客进行配置
http://www.bkjia.com/ASPjc/931209.html
最后,祝各位配置顺利~