
中间件
文章平均质量分 75
中间件
洞之蝉
真正想做的人总是什么也不说,扭头就去做了。
展开
-
Kafka MirrorMaker 跨集群同步工具详解
一、MirrorMaker介绍 MirrorMaker是Kafka附带的一个用于在Kafka集群之间制作镜像数据的工具。该工具从源集群中消费并生产到目标群集。这种镜像的常见用例是在另一个数据中心提供副本。 图1. MirrorMaker 对于迁移的topic而言,topic名字一样, partition数量可以不一样,消息的offset会不一样。 二、注意事项 1)whitelist和blacklist支持正则表达式。比如需要包含两个topic可以这样写,--whitelist 'A.转载 2021-09-07 11:05:55 · 1830 阅读 · 0 评论 -
Kafka 消息送达语义
消息送达语义是消息系统中一个常见的问题,主要包含三种语义: 【1】At most once:消息发送或消费至多一次; 【2】At least once:消息发送或消费至少一次; 【3】Exactly once:消息恰好只发送一次或只消费一次; 下面分别从生产者和消费者的角度来阐述这三种消息送达语义。 生产者 Producer 从 Producer的角度来看,At most once意味着 Producer发送完一条消息后,不会确认消息是否成功送达。这样从 Producer的角度来看,消息仅仅被发送一次,也转载 2021-07-18 14:46:24 · 1366 阅读 · 0 评论 -
图解redis五种数据结构底层实现
转自:https://i6448038.github.io/2019/12/01/redis-data-struct/ redis有五种基本数据结构:字符串、hash、set、zset、list。但是你知道构成这五种结构的底层数据结构是怎样的吗? 今天我们来花费五分钟的时间了解一下。 (目前redis版本为3.0.6) 动态字符串SDS SDS是”simple dynamic string”的缩写。 redis中所有场景中出现的字符串,基本都是由SDS来实现的 所有非数字的key。例如set m转载 2021-07-12 17:27:40 · 166 阅读 · 0 评论 -
Redis:HyperLogLog使用与应用场景
本文介绍redis的HyperLogLogde 命令使用和其他统计方式以及应用场景。 本文最后记录了HyperLogLog算法相关参考链接 简介 基数计数的演进 使用一般集合或数据结构来处理如HashSet或B+树 bitmap 概率算法 算法白话说明 redis中HLL的使用 pfadd 添加 pfcount 获得基数值 pfmerge 合并多个key 应用场景 参考链接 简介 Redis 在 2.8.9 版本添加了 HyperLogLog 结构。 Redis HyperLogLog 是用来做基数统计转载 2021-07-12 13:35:25 · 313 阅读 · 0 评论