
大数据
triumphao
这个作者很懒,什么都没留下…
展开
-
Hadoop系列之(一)CentOS7安装配置及SSH无密码验证配置
由于最近在进行关于Hadoop的学习,开始重新搭建一套Hadoop的环境,和之前自己搭建的环境的区别在于操作系统的版本,本次采用的为CentOS7.2的版本,7相对于6的版本改动较大。一些命令都不太一样,其中在其内核中加了Docker,因此在后期装相关软件时不需要重新安装,应该说也是Hadoop生态体系后期迁移的一个重点。故本次搭建采用CentOS7.2的最新版本。1.部署环境及相关版本软原创 2016-11-21 20:50:26 · 5238 阅读 · 4 评论 -
Hadoop系列之(二)JDK和Hadoop安装配置
配置jdk和hadoop的原则为,先将Master安装并且配置好,然后再统一将其发送给所有的Slave,Slave如果需要单独配置则单独改变。1.JDK安装配置之前在有篇博客是搭建apache tomcat + nutch + solr的已经讲过jdk的详细搭建,此次在这里采用第一种搭建方式,即在/etc/profile里进行环境变量的配置。1).JDK解压安装我所原创 2016-11-21 20:55:47 · 3197 阅读 · 1 评论 -
Hadoop系列之(三)Zookeeper、HBase安装配置
Zookeeper管理Hadoop集群中的NameNode,HBase中HBaseMaster的选举,Servers之间状态同步等。单只HBase中ZooKeeper实例负责的工作就有:存储HBase的Schema,实时监控HRegionServer,存储所有Region的寻址入口,当然还有最常见的功能就是保证HBase集群中只有一个Master。1.Zookeeper安装配置zo原创 2016-11-21 20:59:22 · 910 阅读 · 0 评论 -
Hadoop系列之(四)Hive安装配置
1.Hive 是建立在 Hadoop 上的数据仓库基础构架。它提供了一系列的工具,可以用来进行数据提取转化加载(ETL ),这是一种可以存储、查询和分析存储在 Hadoop 中的大规模数据的机制。Hive 定义了简单的类 SQL 查询语言,称为 QL ,它允许熟悉 SQL 的用户查询数据。同时,这个语言也允许熟悉 MapReduce 开发者的开发自定义的 mapper 和 reducer 来处理内原创 2016-11-21 21:00:52 · 1012 阅读 · 0 评论