
hadoop
艾默生莱斯
这个作者很懒,什么都没留下…
展开
-
运用MapReduce实现wordCount
一、idea环境配置要使用MapReduce来进行单词计数,需要导入需要的jar包,所以我们这里使用Maven来建工程,可以通过配置文件参数来自动引入所需要的jar包,下面是配置文件poem.xml的参数:<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instanc原创 2020-07-02 19:52:53 · 2075 阅读 · 0 评论 -
最最最详细的Hadoop+HBase+Zookeeper+Hive完全分布式环境搭建教程
文章目录一、准备工作二、hadoop搭建1.配置主机名和主机列表2.配置免密登录3.配置环境变量4.配置hadoop配置文件三、HBase配置1.配置hbase-site.xml文件2.配置hbase-env.sh文件3.配置log4j.properties文件4.配置regionservers四、集群搭建1.修改hdfs-site.xml文件2.修改slaves文件3.复制到另外两台机器上五、Zookeeper搭建1.配置zoo.cfg文件2.创建myid文件并启动zookeeper3.启动hbase4.原创 2020-06-29 02:27:10 · 4013 阅读 · 0 评论 -
启动hadoop无DataNode进程服务的简单粗暴解决办法
问题:我们经常会在第二次启动hadoop时出现DataNode服务没有成功启动简单粗暴的解决方案:1.首先将所有服务全关掉:stop-all.sh2.找到一开始建的tmp临时目录,直接rm -rf掉3.在hadoop-2.6.0-* 目录下找到logs文件,直接rm -rf掉4.再次执行之前的操作,格式化hdfs:hadoop namenode -format5.重新再启动所有服务,此时再jps显示所有进程时,可以出现DateNode成功启动...原创 2020-06-26 00:48:01 · 687 阅读 · 0 评论 -
Linux环境下配置和安装hadoop及hadoop集群搭建(VMware)
文章目录一、安装准备二、hadoop的配置1.首先配置hadoop-env.sh2.配置core-site.xml3.配置hdfs-site.xml4.配置mapred-site.xml5.配置yarn-site.xml6.配置slaves7.配置hadoop环境变量三、格式化HDFS四、启动hadoop五、集群搭建1.克隆虚拟机2.配置免密登录3.修改主机器的配置文件4.修改备用机器的配置文件5.启动hadoop一、安装准备在linux环境下安装hadoop需要准备的资料如下:这里主要需要准备的就原创 2020-06-26 00:35:50 · 809 阅读 · 0 评论