Pulsar基础架构图 && 高拓展架构图

以下是基于上述 Pulsar 核心架构的文字描述


✅ Apache Pulsar 基础架构图

Apache ZooKeeper (Metadata)
Apache BookKeeper (Storage)
Pulsar Brokers (Stateless)
Pulsar Proxy (Optional)
Client Layer
pulsar:// or via Proxy
pulsar:// or via Proxy
Forward
Forward
Forward
Write/Read
Write/Read
Write/Read
Write/Read
Write/Read
Write/Read
Write/Read
Write/Read
Metadata & Coordination
Metadata & Coordination
Metadata & Coordination
Ledger Metadata
Ledger Metadata
Ledger Metadata
Ledger Metadata
Service Discovery
ZooKeeper-1
ZooKeeper-2
ZooKeeper-3
Bookie-1
Data Node
Bookie-2
Data Node
Bookie-3
Data Node
Bookie-N
Data Node
Broker-1
Broker-2
Broker-N
Pulsar Proxy
统一接入 | TLS/ACL
Producer
Consumer


🖼️ 图形结构预览(文字模拟)

[Producer]     [Consumer]
     |             |
     +-> [Proxy] <-+
           |
           v
   +---------------------+
   |  [Broker-1] [Broker-2] ... [Broker-N]  (无状态)
   +---------------------+
           |
           v
   +----------------------------------+
   |  [Bookie-1] [Bookie-2] [Bookie-3] ...  (持久化存储)
   +----------------------------------+
           ^
           | (元数据与协调)
   +---------------------+
   |  [ZK-1] [ZK-2] [ZK-3]  (ZooKeeper 集群)
   +---------------------+

✅ 扩展 1:Pulsar 高可用(HA)与跨地域复制架构图

适用于多数据中心容灾、全球消息同步场景。

Pulsar Cluster - West (Secondary)
BookKeeper
ZooKeeper
Pulsar Cluster - East (Primary)
BookKeeper
ZooKeeper
Clients
Geo-Replication
Geo-Replication
Broker-3
Broker-4
ZK-4
ZK-5
ZK-6
Bookie-4
Bookie-5
Bookie-6
Broker-1
Broker-2
ZK-1
ZK-2
ZK-3
Bookie-1
Bookie-2
Bookie-3
Producer
Consumer

🔖 说明:

  • 双集群部署:East 和 West 两个独立 Pulsar 集群。
  • Geo-Replication:消息在集群间双向或单向复制,实现容灾。
  • 高可用:任一集群宕机,客户端可切换到另一集群。
  • 典型场景:金融、跨国企业、灾备系统。

✅ 扩展 2:Pulsar + Flink 实时流处理架构图

适用于事件驱动、实时分析、数据湖入湖等场景。

数据输出
流处理引擎
Apache Pulsar
Topics
Brokers
BookKeeper
ZooKeeper
数据源
Pulsar Source
Pulsar Source
Sink
Sink
Sink
Sink
数据库
数据仓库
实时大屏
Kafka
Flink Cluster
JobManager
TaskManager
ZK-1
ZK-2
Bookie-1
Bookie-2
Broker-1
Broker-2
topic-logs
topic-events
topic-metrics
应用服务
IoT 设备
日志系统

🔖 说明:

  • Pulsar 作为消息中枢:接收来自各类系统的实时事件。
  • Flink 消费 Pulsar Topic:通过 Pulsar Connector 实现 Exactly-Once 语义。
  • 实时处理:Flink 进行窗口计算、聚合、过滤、关联等。
  • 多数据出口:结果写入数据库、数据仓库、Kafka 或可视化系统。
  • 典型场景:用户行为分析、风控、实时推荐、日志分析。

📦 部署建议(Kubernetes 环境)

如果你在 Kubernetes 上部署 Pulsar(如使用 Apache Pulsar Helm ChartPulsar Operator),组件通常以如下方式部署:

组件Kubernetes 资源类型
BrokerDeployment / StatefulSet
BookKeeperStatefulSet(有状态)
ZooKeeperStatefulSet(3/5 节点)
ProxyDeployment
Functions / IO ConnectorsOptional, as Jobs or Deployments

可使用 Helm 安装:helm install pulsar apache/pulsar -f values.yaml


🎯 总结:三张 Mermaid 图适用场景

用途
基础架构图理解 Pulsar 内部组件与数据流
高可用 + 跨地域复制容灾、多数据中心部署设计
Pulsar + Flink 流处理实时数据管道与分析架构设计
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值