
大数据运维
wisgood
这个作者很懒,什么都没留下…
展开
-
hadoop2升级的那点事情(详解)
前阵子,公司的hadoop从hadoop1.02升级到hadoop2.4.1,记录下升级的步骤和遇到的问题,和大家分享,希望别人可以少走一些弯路技术选型 当前使用版本: apache hadoop 1.0.2 hive 0.10 升级目标版本 Apache hadoop 2.4.1 Hive 0.13 升级风转载 2015-08-05 15:35:27 · 943 阅读 · 0 评论 -
Puppet部署:安装puppet server、client
puppet与其他手工操作工具有一个最大的区别就是 puppet的配置具有稳定性,因此你可以多次执行puppet,一旦你更新了你的配置文件,puppet就会根据配置文件来更改你的机器配置,通常每30分钟检查一次。AD: puppet与其他手工操作工具有一个最大的区别就是 puppet的配置具有稳定性,因此你可以多次执行puppet, 一旦你更新了你的原创 2015-09-07 11:47:02 · 1615 阅读 · 0 评论 -
Dubbo架构设计详解
Dubbo是Alibaba开源的分布式服务框架,它最大的特点是按照分层的方式来架构,使用这种方式可以使各个层之间解耦合(或者最大限度地松耦合)。从服务模型的角度来看,Dubbo采用的是一种非常简单的模型,要么是提供方提供服务,要么是消费方消费服务,所以基于这一点可以抽象出服务提供方(Provider)和服务消费方(Consumer)两个角色。关于注册中心、协议支持、服务监控等内容,详见后面描述。转载 2015-08-17 17:33:51 · 630 阅读 · 0 评论 -
使用yum源安装CDH Hadoop集群
本文主要是记录使用yum安装CDH Hadoop集群的过程,包括HDFS、Yarn、Hive和HBase。本文使用CDH5.4版本进行安装,故下文中的过程都是针对CDH5.4版本的。0. 环境说明系统环境:操作系统:CentOs 6.6Hadoop版本:CDH5.4JDK版本:1.7.0_71运行用户:root集群各节点角色规划为:192.168.56.12原创 2015-08-17 10:16:45 · 4308 阅读 · 0 评论 -
Sensu 简介
Sensu 简介Sensu 是一款开源的监控框架。Sensu 采用 C/S 结构,有用来发送指令、存储数据的 Sensu Server 和被监控的对象 Sensu Client。Sensu Server 和 Sensu Client 之间使用 RabbitMQ 进行通信,Server 端使用 Redis 存储数据。每一个 Sensu Client 使用 JSON 进行设置。转载 2015-08-14 16:07:54 · 5191 阅读 · 0 评论 -
Hadoop运维记录系列(七)
这段时间一直在搞Hadoop集群迁移,最近Hadoop也没出什么大问题,就没更新运维系列。这次的运维系列也跟Hadoop自己的故障无关,主要是自动化运维。不过我确实犯了一个严重的错误,在迁移新集群的时候,为了安装部署方便,我把hbase打成了rpm包的方式进行部署。在编写spec文件的时候,一个变量少写了一对花括号,结果把操作系统的文件给删掉了。而我恰恰是在新集群的生产环境转载 2015-01-13 15:43:52 · 1085 阅读 · 0 评论