
Kafka
盒马coding
这个作者很懒,什么都没留下…
展开
-
Kafka 收集的资料
1、Kafka 值清理数据Kafka将数据持久化到了硬盘上,允许你配置一定的策略对数据清理,清理的策略有两个,删除和压缩。数据清理的方式删除log.cleanup.policy=delete启用删除策略直接删除,删除后的消息不可恢复。可配置以下两个策略:清理超过指定时间清理: log.retention.hours=16超过指定大小后,删除旧的原创 2016-10-08 22:21:24 · 402 阅读 · 0 评论 -
Java 调用Kafka
创建maven工程,pom.xml中增加如下: org.apache.kafka kafka_2.10 0.8.2.0 2 java代码: 向主题test内写入数据 import java.util.Properties; import java.util.con原创 2016-10-09 10:01:34 · 4653 阅读 · 0 评论 -
Apache kafka原理与特性
Apache kafka原理与特性 前言: kafka是一个轻量级的/分布式的/具备replication能力的日志采集组件,通常被集成到应用系统中,收集"用户行为日志"等,并可以使用各种消费终端(consumer)将消息转存到HDFS等其他结构化数据存储系统中.因为日志消息通常为文本数据,尺寸较小,且对实时性以及数据可靠性要求不严格,但是需要日志存储端具备较高的数据吞吐能力,这种"转载 2016-11-02 22:47:29 · 673 阅读 · 0 评论 -
Kafka文件存储机制那些事
Kafka是什么Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx日志、访问日志,消息服务等等,Linkedin于2010年贡献给了Apache基金会并成为顶级开源项目。1.前言一个商业化消息队列的性能好坏,其文件存储机制设计是衡量一个转载 2016-10-26 16:11:07 · 134 阅读 · 0 评论 -
Spark directStream保存/读取kafka offset
来自原文:http://blog.youkuaiyun.com/xfg0218/article/details/53014206RT。代码备忘。1.Constant.Java[java] view plain copypackage com.sparktest.util; public class Constant {转载 2016-11-16 22:07:08 · 2290 阅读 · 0 评论 -
PartitionAssignor 详解
///**// * Licensed to the Apache Software Foundation (ASF) under one or more// * contributor license agreements. See the NOTICE file distributed with// * this work for additional information re原创 2017-02-07 16:54:16 · 1026 阅读 · 1 评论