在windows本地使用eclipse操作hadoopHDFS客户端,进行文件的上传下载测试

本文介绍如何在Windows环境下使用Eclipse操作已安装在Linux系统上的Hadoop集群。主要步骤包括:本地编译Hadoop、配置环境变量、Eclipse测试代码及验证结果。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

首先需要明白,在windows使用eclipse操作linux系统中安装的hadoop集群,需要在本地也安装一份hadoop,这个hadoop需要在本地进行编译才能使用。

1.编译hadoop,编译教程很多,可以去搜索,或者直接下载已经编译好的bin文件。

下载连接:http://download.youkuaiyun.com/detail/u010286605/9743359

2.解压一份hadoop到本地,将上面准备好的bin合并到到hadoop的安装目录中的bin,然后配置环境变量,

路径是hadoop 的bin文件。例如:我安装的路径是:G:\hadoop-2.6.4   环境变量path中配置为:G:\hadoop-2.6.4\bin;

3.测试:打开黑窗口,直接输入:winutils.exe如下则成功

212655_buLQ_2913509.png

4.eclipse测试代码

新建java project

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        conf.set("fs.defaultFS", "hdfs://ip地址:9000");//ip地址为hadoop的主服务器
//        拿到一个文件系统操作的客户端对象
        FileSystem fs = FileSystem.get(conf);
        fs.copyFromLocalFile(new Path("d:/mylog.log"), new Path("/mylog.log.copy"));//测试文件
        fs.close();
    }

运行时加上参数

213054_kSZr_2913509.png

5.浏览器打开http://ip地址:50070/

查看

213206_m2Ee_2913509.png

成功

转载于:https://my.oschina.net/luleilei516/blog/829408

Eclipse中通过Hadoop插件上传文件到HDFS(Hadoop分布式文件系统),你可以按照以下步骤操作: 1. **安装Hadoop插件**:首先确保你已经在Eclipse中安装了Hadoop工具包,通常叫做"m2e-wtp"或"Eclipse for Hadoop"。如果没有,可以从Hadoop官方网站下载并配置。 2. **设置Hadoop环境**:在Eclipse中,打开`Window > Preferences`, 寻找`Maven > General > Workspace`,添加Hadoop的Maven仓库地址,并配置Hadoop的环境变量,如JAVA_HOME和HADOOP_HOME。 3. **创建项目**:在Eclipse中右键点击工作空间,选择New -> Other -> Maven Project,然后选择Hadoop相关的模板创建新项目。 4. **编写代码**:在项目的src目录下创建一个新的Java类,使用Hadoop的API(如FileSystem、Path等)来实现文件上传。例如,你可以使用`Configuration`对象加载Hadoop配置,然后创建`FileSystem`实例,调用`put()`方法将本地文件复制到HDFS指定路径。 ```java import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; public class FileUploader { public static void main(String[] args) throws Exception { Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(conf); Path outputPath = new Path("/path/to/your/hdfs/directory"); String localFilePath = "/path/to/your/local/file"; fs.copyFromLocalFile(new Path(localFilePath), outputPath); System.out.println("File uploaded successfully."); } } ``` 5. **运行程序**:在Eclipse中,右键点击这个类,选择Run As -> Java Application。如果一切配置正确,你的文件应该会被上传到HDFS。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值