Spark广播变量和累加器(附案例)

本文介绍了Spark中的广播变量和累加器概念及使用方法。广播变量通过在Driver端一次性发送数据到每个Executor,减少网络传输压力,提高性能。累加器则提供多节点间的累加操作,仅Driver端能读取其值。文中以Python为例,展示了广播变量的创建和使用,以及整数累加器的实现,并提供了一个综合案例来结合运用这两种特性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

广播变量:

  • 如果使用了广播变量技术,则 Driver 端将共享数据只会发送到每个 Executor 一份。Executor 中的所有 Task 都复用这个对象。
  • 如果不用广播变量技术,则 Driver 端默认会将共享数据分发到每个 Task 中,造成网络分发压力大。甚至导致你在进行RDD持久化到内存时,因内存不足而被迫存到磁盘,增加了磁盘IO,严重降低性能。


广播变量使用方法(Python实现):

  • 要保证该共享对象是可序列化的。因为跨节点传输的数据都要是可序列化的。

  • 在Driver端将共享对象广播到每个Executor:

    #2-定义一个列表,装特殊字符
    list_v=[",", ".", "!", "#", "$", "%"]
    #3-将列表从Driver端广播到各个Executor中
    bc=sc.broadcast(list_v)
  • 在Executor中获取:
    list2=bc.value

累加器:

        Spark提供的 Accumulator,主要用于多个节点对一个变量进行共享性的操作。Accumulator 只提供了累加的功

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

竹长大大

客官,赏个银子吧,别下次一定了

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值