ActiveMQ相关存储介绍

本文详细介绍了ActiveMQ的消息存储机制,包括KahaDB、AMQ、JDBC等多种存储方式,并讲解了单例、无共享主从及共享存储主从等部署模式。此外还探讨了ActiveMQ的网络连接配置。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

 ActiveMQ 的存储:

ActiveMQ 在 queue 中存储 Message 时,采用先进先出顺序(FIFO)存储。同一时间一个消息被分派给单个消费者,且只有当 Message 被消费并确认时,它才能从存储中删除。

对于持久化订阅者来说,每个消费者获得 Message 的副本。为了节省存储空间,Provider 仅存储消息的一个副本。持久化订阅者维护了指向下一个 Message 的指针,并将其副本分派给消费者。以这种方式实现消息存储,因为每个持久化订阅者可能以不同的速率消费 Message,或者它们可能不是全部同时运行。此外,因每个 Message 可能存在多个消费者,所以在它被成功地传递给所有持久化订阅者之前,不能从存储中删除。

表格形式展现

消息类型是否持久化是否有Durable订阅者(持久)消费者延迟启动时,消息是否保留Broker重启时,消息是否保留
QueueN-YN
QueueY-YY
TopicNNNN
TopicNYYN
TopicYNNN
TopicYYYY


 ActiveMQ 常用的存储方式

1.KahaDB

ActiveMQ 5.3 版本起的默认存储方式。KahaDB存储是一个基于文件的快速存储消息,设计目标是易于使用且尽可能快。它使用基于文件的消息数据库意味着没有第三方数据库的先决条件。

要启用 KahaDB 存储,需要在 activemq.xml 中进行以下配置:

1
2
3
4
5
<broker brokerName= "broker" persistent= "true" useShutdownHook= "false" >
         <persistenceAdapter>
                 <kahaDB directory= "${activemq.data}/kahadb" journalMaxFileLength= "16mb" />
         </persistenceAdapter>
</broker>

2.AMQ

与 KahaDB 存储一样,AMQ存储使用户能够快速启动和运行,因为它不依赖于第三方数据库。AMQ 消息存储库是可靠持久性和高性能索引的事务日志组合,当消息吞吐量是应用程序的主要需求时,该存储是最佳选择。但因为它为每个索引使用两个分开的文件,并且每个 Destination 都有一个索引,所以当你打算在代理中使用数千个队列的时候,不应该使用它。

1
2
3
4
5
6
7
8
<persistenceAdapter>
         <amqPersistenceAdapter
                 directory= "${activemq.data}/kahadb"
                 syncOnWrite= "true"
                 indexPageSize= "16kb"
                 indexMaxBinSize= "100"
                 maxFileLength= "10mb" />
</persistenceAdapter>

3.JDBC

选择关系型数据库,通常的原因是企业已经具备了管理关系型数据的专长,但是它在性能上绝对不优于上述消息存储实现。事实是,许多企业使用关系数据库作为存储,是因为他们更愿意充分利用这些数据库资源。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
<beans>
         <broker brokerName= "test-broker" persistent= "true" xmlns= "http://activemq.apache.org/schema/core" >
                 <persistenceAdapter>
                         <jdbcPersistenceAdapter dataSource= "#mysql-ds" />
                 </persistenceAdapter>
         </broker>
         <bean id= "mysql-ds" class = "org.apache.commons.dbcp.BasicDataSource" destroy-method= "close" >
                 <property name= "driverClassName" value= "com.mysql.jdbc.Driver" />
                 <property name= "url" value= "jdbc:mysql://localhost/activemq?relaxAutoCommit=true" />
                 <property name= "username" value= "activemq" />
                 <property name= "password" value= "activemq" />
                 <property name= "maxActive" value= "200" />
                 <property name= "poolPreparedStatements" value= "true" />
         </bean>
</beans>

4.内存存储

内存消息存储器将所有持久消息保存在内存中。在仅存储有限数量 Message 的情况下,内存消息存储会很有用,因为 Message 通常会被快速消耗。在 activemq.xml 中将 broker 元素上的 persistent 属性设置为 false 即可。

1
2
3
4
5
<broker brokerName= "test-broker" persistent= "false" xmlns= "http://activemq.apache.org/schema/core" >
         <transportConnectors>
                 <transportConnector uri= "tcp://localhost:61635" />
         </transportConnectors>
</broker>

讲讲 ActiveMQ 的部署模式

1.单例模式

这个就不啰嗦了,略过。

2.无共享主从模式

这是最简单的 Provider 高可用性的方案,主从节点分别存储 Message。从节点需要配置为连接到主节点,并且需要特殊配置其状态。

所有消息命令(消息,确认,订阅,事务等)都从主节点复制到从节点,这种复制发生在主节点对其接收的任何命令生效之前。并且,当主节点收到持久消息,会等待从节点完成消息的处理(通常是持久化到存储),然后再自己完成消息的处理(如持久化到存储)后,再返回对 Producer 的回执。

从节点不启动任何传输,也不能接受任何客户端或网络连接,除非主节点失效。当主节点失效后,从节点自动成为主节点,并且开启传输并接受连接。这是,使用 failover 传输的客户端就会连接到该新主节点。

Broker 连接配置如下:

1
failover: //(tcp://masterhost:61616,tcp://slavehost:61616)?randomize=false

但是,这种部署模式有一些限制,

  • 主节点只会在从节点连接到主节点时复制其活动状态,因此当从节点没有连接上主节点之前,任何主节点处理的 Message 或者消息确认都会在主节点失效后丢失。不过你可以通过在主节点设置 waitForSlave 来避免,这样就强制主节点在没有任何一个从节点连接上的情况下接受连接。
  • 就是主节点只能有一个从节点,并且从节点不允许再有其他从节点。
  • 把正在运行的单例配置成无共享主从,或者配置新的从节点时,你都要停止当前服务,修改配置后再重启才能生效。

在可以接受一些故障停机时间的情况下,可以使用该模式。

从节点配置:

1
2
3
<services>
         <masterConnector remoteURI= "tcp://remotehost:62001" userName= "Rob" password= "Davies" />
</services>

此外,可以配置 shutdownOnMasterFailure 项,表示主节点失效后安全关闭,保证没有消息丢失,允许管理员维护一个新的从节点。

3.共享存储主从模式

允许多个代理共享存储,但任意时刻只有一个是活动的。这种情况下,当主节点失效时,无需人工干预来维护应用的完整性。另外一个好处就是没有从节点数的限制。

有两种细分模式:

(1)基于数据库

它会获取一个表上的排它锁,以确保没有其他 ActiveMQ 代理可以同时访问数据库。其他未获得锁的代理则处于轮询状态,就会被当做是从节点,不会开启传输也不会接受连接。


(2)基于文件系统

需要获取分布式共享文件锁,linux 系统下推荐用 GFS2。            

看到这些干货,成小胖欣喜若狂一边听一边记,等老王讲完后他还没记完。而老王则趁机喝了杯铁观音润润嗓子。

在记录完老王所讲的部署模式后,成小胖也不好意思再让老王继续讲下去了,毕竟他知道老王常年加班腰间盘突出,不能长时间站着。

“王哥您坐着休息下,我再给您讲讲我所理解的 ActiveMQ 的网络连接,中不中?”

“中。没事儿,我身体好着呢~”老王知道成小胖担心他的腰,但他还是那个倔脾气。成小胖也不敢多耽误时间,立马开讲。

1.代理网络

支持将 ActiveMQ 消息代理链接到不同拓扑,这就是被人们熟知的代理网络。

ActiveMQ 网络使用存储和转发的概念,其中消息总是存储在本地代理中,然后通过网络转发到另一个代理。            

当连接建立后,远程代理将把包含其所有持久和活动消费者目的地的信息传递给本地代理,本地代理根据信息决定远程代理感兴趣的 Message 并将它发送给远程代理。

如果希望网络是双向的,您可以使用网络连接器将远程代理配置为指向本地代理,或将网络连接器配置为双工,以便双向发送消息。

1
2
3
4
5
6
7
8
<networkConnectors>
         <networkConnector uri= "static://(tcp://backoffice:61617)"
                               name= "bridge"
                               duplex= "true"
                               conduitSubscriptions= "true"
                               decreaseNetworkConsumerPriority= "false" >
         </networkConnector>
</networkConnectors>

注意,配置的顺序很重要:

1.网络连接——需要在消息存储前建立好连接,对应 networkConnectors 元素
2.消息存储——需要在传输前配置好,对应 persistenceAdapter 元素
3.消息传输——最后配置,对应 transportConnectors 元素

2.网络发现

(1)动态发现

使用多播来支持网络动态发现。配置如下:

1
2
3
<networkConnectors>
    <networkConnector uri= "multicast://default" />
</networkConnectors>

其中,multicast:// 中的默认名称表示该代理所属的组。因此使用此方式时,强烈推荐你使用一个独特的组名,避免你的代理连接到其他不相关代理。

(2)静态发现

静态发现接受代理 URI 列表,并将尝试按列表中确定的顺序连接到远程代理。

1
2
3
<networkConnectors>
    <networkConnector uri= "static:(tcp://remote-master:61617,tcp://remote-slave:61617)" />
</networkConnectors>

相关配置如下:

  • initialReconnectDelay:默认值1000,表示尝试连接前的时延。
  • maxReconnectDelay:默认值30000,表示连接失败后到重新建立连接之间的时延,仅在 useExponentialBackOff 启用时生效。
  • useExponentialBackOff:默认值 true,如果启用,表示每次失败后增加重建连接的时延。
  • backOffMultiplier:默认值2,表示启用 useExponentialBackOff 后每次的时延增量需要注意的是,网络连接将始终尝试建立到远程代理的连接。

需要注意的是,网络连接将始终尝试建立到远程代理的连接。

(3)多连接场景           

当网络负载高时,使用多连接很有意义。但是你需要确保不会重复传递消息,这可以通过过滤器来实现。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
<networkConnectors>
    <networkConnector uri= "static://(tcp://remotehost:61617)"
                               name= "queues_only"
                               duplex= "true"
        <excludedDestinations>
            <topic physicalName= ">" />
        </excludedDestinations>
    </networkConnector>
    <networkConnector uri= "static://(tcp://remotehost:61617)"
                               name= "topics_only"
                               duplex= "true"
        <excludedDestinations>
            <queue physicalName= ">" />
        </excludedDestinations>
    </networkConnector>
</networkConnectors>

讲完后成小胖如释重负,因为上面这些知识点虽然看起来很少,但他却花了很多时间看了很多英文资料,同时反复实践才理解透的呢。

在成小胖讲的这段时间,老王一直坐在转椅上,这会儿他的腰也舒服了很多。老王站起来拍了拍成小胖的肩膀:“这个知识点虽然理解起来有点晦涩,但是你解释得还是挺不错的。通过今天的交流,可以看出你对 ActiveMQ 的基础知识有了不错的掌握,今后呢还是要多加深入实践,这样才能使用它提供高质量的服务。”

老王的手机突然响了,是要去开会了:“今天就到这儿吧,我有个会议要参加。”

“好,谢谢王哥的耐心指导。希望你多注意身体。”

老王鬼魅的一笑:“嗯,放心吧,隔壁有对年轻人刚结婚,听Ta们说最近想要个小baby,所以我肯定会保养好自己的身体的。”

成小胖:“……”

“哈哈,开玩笑的!”

“……”

10


相关文章

发表评论

Name *
邮箱 *
网站 (请以 http://开头)

(*) 表示必填项

3 条评论

  1. abao

    有点像小说,哈哈哈哈哈

    Thumb up 0 Thumb down 0

  2. yang

    像是在讲故事,过程很不错

    Thumb up 2 Thumb down 0

  3. YL Jerry

    感觉是来搞笑的

    Thumb up 0 Thumb down 3

最新评论



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

懒人烂命

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值