
Hadoop
cuibin1991
这个作者很懒,什么都没留下…
展开
-
Hadopp学习(一)Hadoop基础
Hadoop是什么Hadoop是一个开发和运行处理大规模数据的软件平台,是Appach的一个用Java语言实现开源软件框架,实现在大量计算机组成的集群中对海量数据进行分布式计算. Hadoop框架中最核心设计就是:HDFS和MapReduce。HDFS提供了海量数据的存储,MapReduce提供了对数据的计算。Hadoop优点Hadoop是一个能够对大量数据进行分布式处理的软件框架。 Ha...转载 2019-04-28 11:05:32 · 263 阅读 · 0 评论 -
Hadoop学习(二)Hadoop伪分布式搭建
环境准备JDK环境1.下载JDK Linux版本这里需要确认jdk版本是否与hadoop版本适配。我这里选择的是hadoop-3.2.0,只支持JDK7与JDK8,不要采用JDK9,会出现问题。2.查看是否有默认安装的 Open JDK以 root 用户登录:输入 java -vesion。如果有安装,就需要卸载。查看:rpm -qa | grep jdk卸载:rpm -e ...原创 2019-04-28 16:33:19 · 198 阅读 · 0 评论 -
Hadoop学习(三)Hadoop Shell常用命令
我用已经搭建好的Hadoop集群做命令的展示,首先要在hadoop路径下的bin目录下进行查看Hadoop文件./hadoop fs -ls /Found 3 itemsdrwxr-xr-x - hadoop supergroup 0 2019-04-18 16:41 /hbase001drwxrwx--- - hadoop supergroup ...原创 2019-07-04 11:03:03 · 237 阅读 · 0 评论 -
Hadoop学习(四)Mapreduce实例
首先需要修改配置文件,修改yarn-site.xml,配置如下:<configuration> <property> <name>yarn.resourcemanager.hostname</name> <value>localhost</value> </propert...原创 2019-09-02 16:39:14 · 299 阅读 · 0 评论