Hadoop在windows下的单机配置

  • hadoop home /D:/Env/hadoop-2.9.2

    vim D:/Env/hadoop-2.9.2/etc/hadoop/hadoop-env.cmd
    set JAVA_HOME=C:\PROGRA~1\Java\jdk1.8.0_171

配置伪分布式模式

  • 修改hadoop-2.9.2\etc\hadoop\core-site.xml



    fs.default.name
    hdfs://localhost:9000



    hadoop.tmp.dir
    /D:/HDFS

  • 修改hadoop-2.9.2\etc\hadoop\hdfs-site.xml



    dfs.replication
    1

  • 修改hadoop-2.9.2\etc\hadoop\mapred-site.xml

    <?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> mapred.job.tracker localhost:9001

    由于hadoop 在windows下运行需要winutil, 所以需要另外下载。下载winutil, 将原hadoop 的bin 目录重命名为bin.bak, 将hadoop2.8.3/bin 目录复制到hadoop根目录。

启动hadoop

首次启动hadoop, 需要格式化hadoop将要用到的HDFS文件系统

  • 格式化 NameNode
    hadoop namenode -format

  • 启动 Hadoop

    start-dfs

  • 终止 Hadoop

    stop-dfs

这会打开两个窗口,一个datanode, 一个namenode.

  • 查看java 进程

    jps

  • 查看文件系统

    hadoop fs -ls /

  • 创建目录

    hadoop fs -mkdir /user

  • 从本地拷贝文件

    hadoop fs -copyFromLocal test.txt /

  • 文件拷贝

    hadoop fs -cp /test.txt /data

  • 查看hdfs 文件内容

    hadoop fs -cat /test.txt

  • 下载文件到本地

    hadoop fs -copyToLocal /text.txt

  • 查看帮助

    hadoop fs -help

网页查看 hadoop
[localhost:50070](http://localhost:50070)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值