
kafka
Yisnow.
这个作者很懒,什么都没留下…
展开
-
2:kafka架构
1、kafka工作流程和文件存储机制kafka中消息是以topic进行分类的,生产者生产消息,消费者消费消息都是面向topic的;topic是逻辑上的概念,而partition是物理上的概念,每个partition对应一个log文件,文件中存储的就是producer生产的数据。会不断追加到文件末端,媒每条数据都有自己的offset,消费者也会记录自己消费到了哪个offset.以便出错时从上次的位置继续消费;为防止log文件过大导致数据定位效率低下,kafka采取了分片和索引机制,将每个partit原创 2020-10-08 15:22:32 · 168 阅读 · 0 评论 -
1、kafka概述
1、消息队列消息队列的传统应用场景使用消息队列的好处解耦:允许独立的扩展或修改两边的处理过程;可恢复性:即使一个处理消息的进程挂掉,加入队列的消息仍然可以在系统恢复之后被处理;缓冲:解决生产者和消费者处理数据速度不一致的问题;灵活性&峰值处理:在访问量剧增的情况下,应用仍然需要继续发挥作用,但是这样的突发流量并不常见。如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪 费。使用消息队列能够使关键组件顶住突发的访问压力,而不会因为突发的超负荷的请求而完全崩溃。异步通信:原创 2020-10-07 15:39:44 · 251 阅读 · 0 评论 -
kafka基本概念
参考:https://www.cnblogs.com/sujing/p/10960832.htmlhttps://www.cnblogs.com/terry-love/p/11492397.html1、消息队列的好处解耦看这么个场景。A 系统发送数据到 BCD 三个系统,通过接口调用发送。如果 E 系统也要这个数据呢?那如果 C 系统现在不需要了呢?A 系统负责人几乎崩溃…在这个场景中,A 系统跟其它各种乱七八糟的系统严重耦合,A 系统产生一条比较关键的数据,很多系统都需要 A 系统将这个数据转载 2020-09-03 14:27:45 · 202 阅读 · 0 评论