IgniteRDD学习笔记(五)缓存模式CacheMode

最新推荐文章于 2025-06-09 09:03:54 发布

王义凯_Rick

最新推荐文章于 2025-06-09 09:03:54 发布

阅读量6.2k

点赞数

CC 4.0 BY-SA版权

分类专栏： # spark 文章标签： Ignite IgniteCache IgniteRDD In-memory SparkSQL

本文为博主原创文章，转载请注明出处http://blog.youkuaiyun.com/wsdc0521

本文链接：https://blog.youkuaiyun.com/wsdc0521/article/details/50173581

spark 专栏收录该内容

8 篇文章

订阅专栏

本文探讨了Apache Ignite的不同缓存模式（分区、复制、本地）及其对性能的影响，并通过实验证明了本地模式在某些场景下能提供更优的性能。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最近的项目里之前实现了用IgniteRDD共享SparkRDD，但性能却还不如直接处理hdfs文件来的快，代码里能把collect去掉的基本都取代了，最后从ignite着手，发现有个缓存模式，决定尝试一番。

先附上官网上的缓存模式的介绍：

缓存模式

Ignite提供了三种不同的缓存操作模式，分区、复制和本地。缓存模型可以为每个缓存单独配置，缓存模型是通过CacheMode枚举定义的。

分区模式：

分区模式是扩展性最好的分布式缓存模式，这种模式下，所有数据被均等地分布在分区中，所有的分区也被均等地拆分在相关的节点中，实际上就是为缓存的数据创建了一个巨大的内存内分布式存储。这个方式可以在所有节点上只要匹配总可用内存就可以存储尽可能多的数据，因此，可以在集群的所有节点的内存中可以存储TB级的数据，也就是说，只要有足够多的节点，就可以存储足够多的数据。
与复制模式不同，它更新是很昂贵的，因为集群内的每个节点都需要更新，而分区模式更新就很廉价，因为对于每个键只需要更新一个主节点（可选择一个或者多个备份节点），然而，读取变得较为昂贵，因为只有特定节点才持有缓存的数据。
为了避免额外的数据移动，总是访问恰好缓存有要访问的数据的节点是很重要的，这个方法叫做关系组合，当工作在分区化缓存时强烈建议使用。

分区化缓存适合于数据量很大而更新频繁的场合。

复制模式：

复制模式中，所有数据都被复制到集群内的每个节点，因为每个节点都有效所以这个缓存模式提供了最大的数据可用性。然而，这个模式每个数据更新都要传播到其他所有节点，因而会对性能和可扩展性产生影响。
Ignite中，复制缓存是通过分区缓存实现的，每个键都有一个主拷贝而且在集群内的其他节点也会有备份。
因为相同的数据被存储在所有的集群节点中，复制缓存的大小受到RAM最小的节点的有效内存限制。这个模式适用于读缓存比写缓存频繁的多而且数据集较小的场景，如果应用超过80%的时间用于查找缓存，那么就要考虑使用复制缓存模式了。

复制缓存适用于数据集不大而且更新不频繁的场合。

本地模式：

本地模式是最轻量的模式，因为没有数据被分布化到其他节点。他适用于或者数据是只读的，或者需要定期刷新的场景中。当缓存数据失效需要从持久化存储中加载数据时，他也可以工作与通读模式。除了分布化以外，本地缓存包括了分布式缓存的所有功能，比如自动数据回收，过期，磁盘交换，数据查询以及事务。

配置

default-config.xml

不配置默认为PARTITIONED

分区模式：PARTITIONED

<bean class="org.apache.ignite.configuration.IgniteConfiguration">
    ...
    <property name="cacheConfiguration">
        <bean class="org.apache.ignite.configuration.CacheConfiguration">
            <!-- Set cache mode. -->
            <property name="cacheMode" value="PARTITIONED"/>
            ... 
        </bean>
    </property>
</bean>

复制模式：REPLICATED

<bean class="org.apache.ignite.configuration.IgniteConfiguration">
    ...
    <property name="cacheConfiguration">
        <bean class="org.apache.ignite.configuration.CacheConfiguration">
            <!-- Set cache mode. -->
            <property name="cacheMode" value="REPLICATED"/>
            ... 
        </bean>
    </property>
</bean>

本地模式：LOCAL

<bean class="org.apache.ignite.configuration.IgniteConfiguration">
    ...
    <property name="cacheConfiguration">
        <bean class="org.apache.ignite.configuration.CacheConfiguration">
            <!-- Set cache mode. -->
            <property name="cacheMode" value="LOCAL"/>
            ... 
        </bean>
    </property>
</bean>

测试：

下面是我在项目里用默认、本地、分区、副本四种模式测出来的性能以及与不用共享RDD而使用中间表存HDFS的方式的对比结果：(因为是公司的真实项目，所以做了打码处理)

其中1~5号为从HDFS读取的表处理的结果存储在ignite缓存中，6~9号为读取ignite缓存以及hdfs文件做聚合后的结果并写入ignite缓存，10~11号为读取ignite缓存以及hdfs文件做聚合后的结果写出到HDFS文件。