
Flume
文章平均质量分 81
_iAm333
这个作者很懒,什么都没留下…
展开
-
Flume-ng配置
1)简介Flume是一个分布式、可靠、和高可用的海量日志聚合的系统,支持在系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。设计目标:(1) 可靠性当节点出现故障时,日志能够被传送到其他节点上而不会丢失。Flume提供了三种级别的可靠性保障,从强到弱依次分别为:end-to-end(收到数据agent首先将even原创 2014-01-24 18:35:58 · 1634 阅读 · 0 评论 -
Flume-ng将数据插入hbase-0.96.0
上文介绍过flume数据插入hdfs和普通目录,本文继续介绍flume-ng将数据插入hbase-0.96.0.首先,修改node中flume文件夹下conf目录中的flume-node.conf文件(原配置参考上文),对其做如下修改:agent.sinks = k1agent.sinks.k1.type = hbaseagent.sinks.k1.table = helloage原创 2014-01-24 19:55:20 · 1764 阅读 · 0 评论 -
Flume-0.9.4数据插入HBase-0.96
最近由于业务需要,需要将flume的数据插入HBase-0.96,利用flume的实时日志收集,实现数据的实时存储。正如前文所述,flume-ng即flume-1.4.0版本和hbase-0.96结合相对比较容易配置,只需要做一些相关配置,实现自己的HbaseEventSerializer类,重新编译flume-ng-hbase-sink部分源码并打包即可。但是因为公司以前业务的日志收集使用的fl原创 2014-01-25 18:29:40 · 2351 阅读 · 0 评论