hadoop一些入门命令（笔记）

最新推荐文章于 2022-10-14 18:10:11 发布

xxiZ

最新推荐文章于 2022-10-14 18:10:11 发布

阅读量355

点赞数

CC 4.0 BY-SA版权

分类专栏： hadoop 文章标签： hadoop

本文链接：https://blog.youkuaiyun.com/yuukoiry/article/details/52674954

hadoop 专栏收录该内容

1 篇文章

订阅专栏

这篇博客介绍了在Ubuntu系统上进行Hadoop环境的初始化设置，包括连接系统、编辑hosts文件、清理及格式化数据、启动HDFS和YARN，以及执行WordCount示例。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

<span style="font-family:Helvetica Neue;">先连接以及搭好hadoop环境的系统（ubuntu）</span>

<span style="font-family: "Helvetica Neue";">yuukoiryPro:~ yuukoiry$ ssh hadoop@(ip)</span>


hadoop@master:~$ cd /etc
hadoop@master:/etc$ sudo vi hosts
hadoop@master:/etc$ sudo cat hosts

清除之前的记录、格式化并重新启动
hadoop@master:/etc$ cd /mysoftware/hadoop-2.6.0/
hadoop@master:/mysoftware/hadoop-2.6.0$ rm -rf tmp
hadoop@master:/mysoftware/hadoop-2.6.0$ rm -rf logs
hadoop@master:/mysoftware/hadoop-2.6.0$ rm -rf dfs

hadoop@master:/mysoftware/hadoop-2.6.0$ bin/hdfs namenode -format
hadoop@master:/mysoftware/hadoop-2.6.0$ sbin/start-dfs.sh
hadoop@master:/mysoftware/hadoop-2.6.0$ sbin/start-yarn.sh
hadoop@master:/mysoftware/hadoop-2.6.0$ jps

hadoop@master:/mysoftware/hadoop-2.6.0$ cd ~
hadoop@master:~$ mkdir text
hadoop@master:~$ cd text/
hadoop@master:~/text$ echo "Hello hadoop" >> text01.txt
hadoop@master:~/text$ echo "Hello hdfs hello mapreduce" >> text02.txt
hadoop@master:~/text$ ls
hadoop@master:~/text$ cat *

hadoop@master:~/text$ cd /mysoftware/hadoop-2.6.0/
hadoop@master:/mysoftware/hadoop-2.6.0$ bin/hdfs dfs -mkdir /input
hadoop@master:/mysoftware/hadoop-2.6.0$ bin/hdfs dfs -put ~/text/* /input
bin/yarn jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0.jar wordcount /input /output