spark
剑客黑白熊
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Spark随笔
1.解决命令冲突 spark的启动与关闭命令与hadoop重复,直接调用可能调用的是hadoop,因此需要对spark的启动命令进行修改,将${spark_home}\sbin下的start-all.sh改为start-spark-start.sh。2.spark web访问的页面 集群页面:http://${master_ip}:8080 单机页面:http...原创 2018-08-19 16:07:17 · 300 阅读 · 0 评论 -
flume使用kafkachannel直接导入到kafka
#bin/flume-ng agent -n a1 -f conf/a1.conf -c conf -Dflume.root.logger=INFO,console#定义agent名, source、channel、sink的名称a1.sources = r1 a1.channels = c1#具体定义sourcea1.sources.r1.type = com.bw.flume....转载 2018-09-10 15:41:00 · 1878 阅读 · 0 评论 -
flume将kafka中的消息写入hdfs
#bin/flume-ng agent -n agent -f conf/a3.conf -c conf -Dflume.root.logger=INFO,console#source的名字agent.sources = kafkaSource# channels的名字,建议按照type来命名agent.channels = memoryChannel# sink的名字,建议按照目标来...转载 2018-09-10 15:42:18 · 1128 阅读 · 0 评论 -
flume自定义Intercept
package com.flume;import org.apache.flume.Context;import org.apache.flume.Event;import org.apache.flume.interceptor.Interceptor;import java.io.UnsupportedEncodingException;import java.util.Arr...转载 2018-09-10 16:52:15 · 330 阅读 · 0 评论
分享