天青色等烟雨 而我在等你

Flume（1）——配置和官方最简案例（NetCat Source、Logger Sink）官方网址http://flume.apache.org/FlumeUserGuide.htmlFlume组成部分Flume的主要组成部分就是Agent和Agent中的Source、Channel、Sink。Source、Channel、Sink都有固定类型的支持。只要配置了适当类型的组件就可以传输数据了。例...

flume之退避算法backoff algorithm什么是退避算法：In a single channel contention based medium access control (MAC) protocols, whenever more than one station or node tries to access the medium at the same instant of ...

 nginx的日志文件没有rotate功能。如果你不处理，日志文件将变得越来越大，还好我们可以写一个nginx日志切割脚本来自动切割日志文件。第一步就是重命名日志文件，不用担心重命名后nginx找不到日志文件而丢失日志。在你未重新打开原名字的日志文件前，nginx还是会向你重命名的文件写日志，linux是靠文件描述符而不是文件名定位文件。第二步向nginx主进程发送USR1信号。nginx主进程接...

1、selector（http://blog.youkuaiyun.com/looklook5/article/details/40430965）（http://blog.youkuaiyun.com/xiao_jun_0820/article/details/38116103#）选择器可以工作在复制 多路复用(路由) 模式下        复制模式        属性说明：            selector.ty...

http://blog.51cto.com/boylook/1308188线上对Flume流入HDFS配置path:p1，每分钟切一个文件，定期从p1从move完成的（rename）文件到外部表进行计算分析，发现有“丢数据”现象：即在p1下经常看到几GB的.tmp文件，查看Flume日志发现当出现CallTimeout Exception :HDFS IO ERROR后，sink一直向.tmp写入...

1. 背景介绍许多公司的平台每天会产生大量的日志（一般为流式数据，如，搜索引擎的pv，查询等），处理这些日志需要特定的日志系统，一般而言，这些系统需要具有以下特征：（1） 构建应用系统和分析系统的桥梁，并将它们之间的关联解耦；（2） 支持近实时的在线分析系统和类似于Hadoop之类的离线分析系统；（3） 具有高可扩展性。即：当数据量增加时，可以通过增加节点进行水平扩展。本文从设计架构，负载均衡，可...

主要介绍几种常见Flume的Sink--汇聚点1.Logger Sink 记录INFO级别的日志，一般用于调试。前面介绍Source时候用到的Sink都是这个类型的Sink必须配置的属性：属性说明：            !channel    –                 !type    –    The component type name, needs to be logger  ...

1.flume概念flume是分布式的，可靠的，高可用的，用于对不同来源的大量的日志数据进行有效收集、聚集和移动，并以集中式的数据存储的系统。flume目前是apache的一个顶级项目。flume需要java运行环境，要求java1.6以上，推荐java1.7.将下载好的flume安装包解压到指定目录即可。2.flume中的重要模型2.1.1.flume Event：flume 事件，被定义为一个...