windows下使用Idea来运行MR

本文介绍如何在Windows环境下配置Hadoop运行环境,并通过IntelliJ IDEA运行MapReduce程序。主要内容包括配置本地环境变量、下载并安装必要的工具文件、解决权限问题等。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Windows下使用idea来运行MR

1、配置本地环境变量

我们要先在本地配置Hadoop运行环境,我的是hadoop2.7.5
先解压按装包,然后配置hadoop环境变量

2、下载hadoop.dall和winutils.exe两个文件,我在这里面下载的是hadoop2.7.1

网址:https://github.com/LUK-qianliu/winutils-master

将下载好的这两个文件放到hadoop的bin目录下,但是此时我们还不能运行成功,我们还需要将hadoop.dell文件放到System32目录下,然后运行MR程序,程序启动成功

3、当我们对HDFS文件系统进行操作的时候

有时候会给我报权限的问题,此时我们需要在hadoop/ect/hadoop目录下配置hdfs-site.xml文件中添加

<property> 
	<name>dfs.permissions</name> 
	<value>false</value> 
</property>
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值