Hive的ReduceJoin/MapJoin/SMBJoin

本文介绍了Hive中的Reduce/Map/Shuffle Join,重点讲解了Map Join和SMB(Sort-Merge-Bucket) Join。Map Join适用于小表与大表连接,特别是在不等值连接和配合UNION ALL时能提升效率。SMB Join则是针对大表与大表的优化,通过创建桶并确保相同键的数据在同一桶内,减少数据扫描。总结中强调了Map Join的性能优势及其适用场景,以及SMB Join对于大表连接的重要性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Hive中就是把Map,Reduce的Join拿过来,通过SQL来表示。
参考链接:LanguageManual Joins - Apache Hive - Apache Software Foundation

1.Reduce /Common/Shuffle Join

       Reduce Join在Hive中也叫Common Join或Shuffle Join
       它会进行把相同key的value合在一起,正好符合我们在sql中的join,然后再去组合,如图所示。

Reduce Join

     hive join操作默认使用的就是reduce join,reduce side join是一种最简单的join方式,其主要思想如下:

       在map阶段,

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值