
kafka
文章平均质量分 81
与忘_
这个作者很懒,什么都没留下…
展开
-
记录:Flink 的日志写入KafkaAppender(带kerberos认证下)
1.Flink on yarn 的模式下,利用 log4j(log4j2) KafkaAppender 把日志直接打到 kafka(无kerberos认证)在 Flink 1.11.0 之前 Flink 使用的日志是 Log4j. 在 1.11.0 之后使用的是 Log4j2. 这两者的配置稍有不同:log4j 配置 (Flink 1.11.0 之前)#KafkaLog4jAppender 可能需要导入相关jar包log4j.appender.kafka=or...原创 2021-08-18 14:08:21 · 1805 阅读 · 1 评论 -
Kafka史上最详细原理总结
KafkaKafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/nginx日志、访问日志,消息服务等等,用scala语言编写,Link...转载 2018-07-11 22:47:06 · 294 阅读 · 0 评论