
hadoop
文章平均质量分 82
Vtamins
读研中
展开
-
zookeeper集群搭建与配置
现在zookeeper相当的火热,基本上分布式开源软件都会使用zookeeper,而且很多开源软件之中会自带zookeeper,但是我们当然希望这些软件都使用一套zookeeper来进行管理,所有我们需要搭建自己的zookeeper群。这里我搭建zookeeper集群主要供hadoop与kafka集群使用下面就开始教程,基本上与网上的其他教程差不多第一步 准备工作准备机器,我准备搭载一个三个节点的原创 2016-11-03 23:59:27 · 391 阅读 · 0 评论 -
Hadoop集群HA(High Available)配置
配置的方法主要是对于节点的分配,与修改配置文件,按照一定的顺序启动即可。 不多说,先上角色分配表(3台机器)多台机器请自行分配 节点 分配的角色 Hadooplee1 Namenode、datanode、resoucemanager、DFSZKFailorController、nodemanager、zookeeper Hadooplee2 Namenode、datanode、原创 2016-11-08 19:57:33 · 511 阅读 · 0 评论 -
Hbase的安装
hbase的安装要求现有Hadoop集群。 Hadoop集群的安装见我的另一篇博客: http://blog.youkuaiyun.com/u014762921/article/details/53006600第一步 下载Hbase我下载的是1.2.3版本的第二步 解压tar zxvf ……第三步 替换文件需要替换的文件如下:./hbase-1.2.3/lib/hadoop-mapreduce-cli原创 2016-11-09 21:41:46 · 242 阅读 · 0 评论 -
搭建Hadoop集群
搭建Hadoop集群集群配置(3台):centos6.58g内存1T硬盘安装系统与启用网络跳过了。说明该集群安装全程在root权限下,所以直接使用的root用户第一步关闭防火墙service iptables stop //关闭防火墙chkconfig iptables off //禁用防火墙第二步修改hostsvim /etc/hosts //我的hosts192.168.1原创 2016-11-02 11:45:58 · 641 阅读 · 0 评论 -
Zookeeper踩坑记
还记得上一次配置Zookeeper是半年以前的事了,这半年一直没有改动Zookeeper的配置文件,直到实习回校,自己的集群没有,重新下载搭一个Zookeeper集群,使用的最新的Zookeeper 3.4.10,结果立马踩到了坑里面,搞了一两个小时才弄好。一配置Zookeeper二解决办法三分析原因一、配置Zookeeper我采用的是常见的配置。数据目录:/home/lee/data/zoo原创 2017-09-14 10:30:48 · 1053 阅读 · 0 评论 -
Hive安装指南
第一步:下载我下载的是2.0.1版本的,下载地址如下 http://mirror.symnds.com/software/Apache/hive/hive-2.0.1/apache-hive-2.0.1-bin.tar.gz第二部: 安装mysql,作为hive metadata的存储,我安装了mariaDB 5.5 版本安装办法 增加MariaDB的repocd /etc/yum.repo原创 2016-11-11 18:21:07 · 315 阅读 · 0 评论 -
MapReduce原理总结
做大数据已经有一年了,在这一年中始终没有去好好看看Google的三驾马车,现在回校学习,好好的看看论文,同时也自己做做笔记,记录一下自己的学习过程。MapReduce作为Google的曾经三驾马车之一,广为大家所知,但是很多人都只知道他能做一些数据处理的工作,并不清楚他其中的原理。这次就让我们来总结一下MapReduce的原理,进行学习。问题描述我是一个新闻客户端的负责人,我有一个一大堆的访问日志,原创 2017-09-12 11:42:01 · 679 阅读 · 0 评论