
Flume
oo寻梦in记
这个作者很懒,什么都没留下…
展开
-
[Flume基础]-- 使用Kafka与Flume
一、描述 在CDH 5.2及更高版本中,Flume包含Kafka源和sink。 使用这些从Kafka到Hadoop或从任何Flume源到Kafka的流数据。二、条件 在CDH 5.7及更高版本中,Kafka的Flume连接器仅适用于Kafka 2.0及更高版本。三、要点 不要配置Kafka源以将数据发送到Kafka接收器。 如果这样做,Kafka源...翻译 2016-11-22 10:22:25 · 8001 阅读 · 0 评论 -
[Flume基础]-- 配置 HDFS 的namespace 方法
参考:(1)官方文档:http://flume.apache.org/FlumeUserGuide.html(2)中文文档:http://download.youkuaiyun.com/download/high2011/98124141、举例(1)编辑flume-conf.properties文件内容如下: # example.conf: A single-node Flum...原创 2017-04-13 09:08:17 · 1245 阅读 · 0 评论 -
[Flume应用]-- js生成日志信息及实现java直接调用flume
1\在h16上安装tengine成功,目录:/opt/com/soft/tengine-2.1.0/,h15上安装flume成功,目录:/home/apache-flume-1.6.0-bin2\修改conf/nginx.conf文件#user nobody;worker_processes 1;events { worker_connections 1024;...原创 2016-06-07 10:02:39 · 5445 阅读 · 0 评论 -
[Flume进阶]--七牛是如何搞定每天500亿条日志的
感谢原文链接:https://blog.qiniu.com/archives/39287月30日,七牛数据平台工程师王团结在优快云 Spark微信用户群,与近千名Spark技术开发人员,结合七牛内部使用的数据平台,深入分享了团队是如何利用Flume、Kafka、SparkStreaming等技术搞定每天500亿条日志的,并详细讲解了各个工具使用的注意点。王团结,主要负责七牛数据平台的设计研发工作...转载 2018-06-12 23:02:03 · 479 阅读 · 0 评论 -
[Flume基础]-- 安装的步骤
选择1台机器(h15)解压文件配置环境变量启动hdfs:start-dfs.sh以下是配置基于hdfs sinks的操作,其他的sinks(如hbase sinks 等)参考flume的index.html文档:一\测试第一种(在命令行敲数据,回车)在/home/test目录下,配置文件 #vi testflume1# example.conf: A singl...原创 2016-06-07 09:58:59 · 628 阅读 · 0 评论