
Kafka
文章平均质量分 93
非ban必选
黑,真他妈的黑
展开
-
kafka原理
KafkaKafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/nginx日志、访问日志,消息服务等等,用scala语言编写,Link...转载 2018-05-12 10:38:50 · 304 阅读 · 0 评论 -
Spark-streaming-kafka
最近在用spark-streaming-kafka遇到的问题问题1There are some messages whose size is larger than the fetch size 1048576 and hence cannot be ever returned. Increase the fetch size, or decrease the maximum message si...原创 2018-05-14 16:30:24 · 1138 阅读 · 0 评论