【Flink实战】Flink网络内存和托管内存


网络内存主要负责Taskmanager之间的网络数据传输的内存,托管内存主要负责Flink的状态计算,比如window等操作。

一、 网络内存与托管内存

1. 网络内存

网络内存:主要用于 任务间(不同的Taskmanager之间)的数据交换,特别是在 shuffle连接(join)聚合(aggregation) 等操作中。

数据进行网络传输时,需要用到网络内存进行缓冲。网络内存的大小决定了数据传输过程中可缓冲的数据量。如果网络内存不足,数据可能会被写入磁盘,影响性能。

 

1.1. 网络内存的主要作用

  1. 缓冲任务间数据
    Flink 在任务执行过程中需要频繁地进行数据交换,例如 Shuffle 操作、窗口操作等。网络内存提供了缓冲区来暂时存储数据,等待数据传输到下游任务。在没有足够的网络内存时,数据可能会被迫写入磁盘,导致性能下降。

  2. 支持数据 Shuffle
    Shuffle 操作是 Flink 中的一项核心操作,常见于流处理中的 repartitionjoingroup-by 等场景。数据通过网络从一个任务节点传输到另一个任务节点。在这个过程中,网络内存负责存储这些中间结果,避免了数据直接写入磁盘&#

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

roman_日积跬步-终至千里

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值