特性分析 | GreenPlum 的并行查询优化策略详解

Greenplum问题定位及性能调优 ... 阅读详情

作者:卢文双 资深数据库内核研发

本文首发于 2016-11-21 09:43:07

架构

GreenPlum 采用 Share Nothing 的架构,良好的发挥了廉价PC的作用。自此I/O不在是 DW(data warehouse) 的瓶颈,相反网络的压力会大很多。但是 GreenPlum 的查询优化策略能够避免尽量少的网络交换。对于初次接触 GreenPlum 的人来说,肯定耳目一新。

查询优化器

GreenPlum 的 master 节点负责 SQL 解析和执行计划的生成,具体来说,查询优化器会将 SQL 解析成每个节点(segments)要执行的物理执行计划。

GreenPlum 采用的是基于成本的优化策略:如果有多条执行路径,会评估执行代价,找出代价最小、最有效率的一条。

不像传统的查询优化器,GreenPlum 的查询优化器必须全局的考虑整个集群,在每个候选的执行计划中考虑到节点间移动数据的开销。比如有 join,那么 join 是在各个节点分别进行的(每个节点只和自身数据做 join),所以它的查询很快。

查询计划包括了一些传统的操作,比如:扫描、Join、排序、聚合等等。

GreenPlum 中有三种数据的移动操作:

  • Broadcast Motion (N:N):广播数据。每个节点向其他节点广播需要发送的数据。
  • Redistribute Motion (N:N):重新分布数据。利用 join 列数据的 hash 值不同,将筛选后的数据在其他 segment 重新分布。
  • Gather Motion (N:1):聚合汇总数据。每个节点将 join 后的数据发到一个单节点上,通常是发到主节点 master 。

示例

示例1

explain select d.*,j.customer_id from data d join  jd1 j on d.partner_id=j.partner_id where j.gmt_modified> current_date -80;   
                                       QUERY PLAN                                          
----------------------------------------------------------------------------------------   
 Gather Motion 88:1  (slice2)  (cost=3.01..939.49 rows=2717 width=59)   
   ->  Hash Join  (cost=3.01..939.49 rows=2717 width=59)   
         Hash Cond: d.partner_id::text = j.partner_id::text   
         ->  Seq Scan on data d  (cost=0.00..260.74 rows=20374 width=50)   
         ->  Hash  (cost=1.91..1.91 rows=88 width=26)   
               ->  Broadcast Motion 88:88  (slice1)  (cost=0.00..1.91 rows=88 width=26)   
                     ->  Seq Scan on jd1 j  (cost=0.00..1.02 rows=1 width=26)   
                           Filter: gmt_modified > ('now'::text::date - 80)  

执行计划需要自下而上分析:

  1. 在各个节点扫描自己的 jd1 表数据,按照条件过滤生成数据(记为 rs)。
  2. 各节点将自己生成的 rs 依次发送到其他节点。(Broadcast Motion (N:N))
  3. 每个节点上的 data 表的数据,和各自节点上收到的 rs 进行 join,这样能保证本机数据只和本机数据做 join 。
  4. 各节点将 join 后的结果发送给 master(Gather Motion (N:1)) 。

由上面的执行过程可以看出, GreenPlum 将 rs 给每个含有 data 表数据的节点都发了一份。

问:如果 rs 很大或者压根就没有过滤条件,会有什么问题?如何处理?

比如本例中的表 jd1 和表data的数据行数如下:

=> select count(*) from jd1;   
 count    
-------   
    20   
(1 row)  
=> select count(*) from data;   
 count     
--------   
 113367  

如果 rs 很大的话,广播数据时网络就会成为瓶颈。GreenPlum 的优化器很聪明,它是将小表广播到各个 segment 上,极大的降低网络开销。从这个例子能看出统计信息对于生成好的查询计划是何等重要。

示例2

下面看一个复杂点的例子:

select
    c_custkey, c_name,
    sum(l_extendedprice * (1 - 1_discount)) as revenue,
    c_acctbal, n_name, c_address, c_phone, c_comment
from
    customer, orders, lineitem, nation
where
    c_custkey = o_custkey
and 1_orderkey = o_orderkey
and o_orderdate >= date '1994-08-01'
and o_orderdate < date '1994-08-0l'
                  + interval '3 month'
and l_returnflag = 'R' 
and c_nationkey = n_nationkey
group by
    c_custkey, c_name, c_acctbal,
    c_phone, n_name, c_address, c_comment
order by
    revenue desc

执行计划如下:

  1. 各个节点上同时扫描各自的 nation 表数据,将各 segment 上的 nation 数据向其他节点广播(Broadcast Motion (N:N))。
  2. 各个节点上同时扫描各自 customer 数据,和收到的 nation 数据 join 生成RS-CN 。
  3. 各个 segment 同时扫描自己 orders 表数据,过滤数据生成 RS-O 。
  4. 各个 segment 同时扫描自己 lineitem 表数据,过滤生成 RS-L 。
  5. 各个 segment 同时将各自 RS-O 和 RS-L 进行 join,生成RS-OL。注意此过程不需要 Redistribute Motion (N:N) 重新分布数据,因为 orders 和 lineitem 的 distribute column 都是orderkey,这就保证了各自需要 join 的对象都是在各自的机器上,所以 n 个节点就开始并行 join 了。
  6. 各个节点将自己在步骤5生成的 RS-OL 按照 cust-key 在所有节点间重新分布数据(Redistribute Motion (N:N),可以按照 hash 和 range 在节点间来重新分布数据,默认是 hash),这样每个节点都会有自己的 RS-OL 。
  7. 各个节点将自己在步骤2生成的 RS-CN 和自己节点上的 RS-OL 数据进行 join,又是本机只和本机的数据进行 join 。
  8. 聚合,排序,发往主节点 master 。

总结

Greenplum如何处理和优化一张大表和小表的join?

Greenplum是选择将小表广播数据,而不是将大表广播。

举例说明:

表 A 有10亿条数据(empno<pk>,deptno,ename),表 B 有500条数据(deptno<pk>,dname,loc)

表 A 与表 B join on deptno

集群有11个节点:1个 master,10个 segment

按照正常的主键列 hash 分布,每个 segment 节点上只会有 1/10 的表 A 和 1/10 的表 B。

此时 GreenPlum 会让所有节点给其他节点发送各自所拥有的小表 B 的1/10的数据,这样就保证了10个节点上,每个节点都有一份完整的表 B 的数据。此时,每个节点上1/10的 A 只需要和自己节点上的 B 进行 join 就OK。所以 GreenPlum 并行处理能力惊人的原因就在这里。

最终所有节点会将 join 的结果都发给主节点 master。

由该例可见统计信息十分重要,GreenPlum 通过统计信息来确定将哪张表进行(Broadcast Motion (N:N))。

另外,实际使用中还会出现列值倾斜的情况,比如 A 没有按照主键来 hash 分布,而是人为指定按照 deptno 的 hash 在各个节点上分布数据。若 A 中80%的数据都是sales(deptno=10)部门的,此时10个节点中,就会有一个节点上拥有了 10亿×80% 的数据,就算是将表 B 广播到其他节点 也无济于事,因为计算的压力都集中在一台机器了。所以,必须选择合适的列进行hash分布。


欢迎关注我的微信公众号【数据库内核】:分享主流开源数据库和存储引擎相关技术。

标题网址
GitHubhttps://dbkernel.github.io
知乎https://www.zhihu.com/people/…
思否(SegmentFault)https://segmentfault.com/u/db…
掘金https://juejin.im/user/5e9d3e…
开源中国(oschina)https://my.oschina.net/dbkernel
博客园(cnblogs)https://www.cnblogs.com/dbkernel
数据库查询原来长这样!| Greenplum新功能—可视化执行计划 Greenplum Command Center 4.2中首次推出了全新的beta功能——可视化执行... 阅读详情

相关推荐

​Greenplum 分布式数据库内核揭秘(上篇)

Greenplum 是最成熟的开源分布式分析型数据库(2019年8月发布的 Greenplum 6 之OLTP性能大幅提升,成为了一款真正的HTAP数据库,评测数据将于近期发布),Gartner 2019 最新评测显示 Greenplum 在经典数据分析领域位列全球第三,在实时数据分析领域位列并列第四。两个领域中前十名中唯一一款开源数据库产品。这意味着如果选择一款基于开源的产品,前十名中别无选择,唯此一款。Gartner 报告详情。 那么 Greenplum 分布式数据库是如何炼成?众所周知 Greenpl

Greenplum中文社区 1246

Greenplum-性能问题常见原因

注:本文翻译自。

数据源的港湾 1020

全面解读PostgreSQL和Greenplum的Hash Join

2019年10月15日,Pivotal中国研发中心副总经理兼Greenplum中文社区发起人姚延栋出席了于意大利举行的PostgreSQL Conference Europe并发表了精彩的演讲《How does Hash Join work in PostgreSQL and its derivates》。本文根据演讲内容整理而成,供大家学习交流。 今天我将详细介绍PostgreSQL...

Greenplum中文社区 1940

Greenplum中数据分布策略

由于Greenplum为Shared Nothing架构,每个节点都有自己的CPU/内存/硬盘等,不存在共享资源,所以数据的分布显得尤为重要。

wangning0714的博客 5711

greenplum

Shared-Nothing Architecture MPP(Mussively Parallel Processing) 海量并行处理 基于postgreSQL8.2,增加并行处理,支持数据仓库,bi的特性 客户端支持:psql,pgadmin3,odbc,jdbc,perl,python private computing cloud 超大规模:理论上支持10000以上节点 虚拟化:主流虚拟...

shenying0的博客 554

PostgreSQL 并行查询介绍

2016年4月,PostgreSQL 社区发布了 PostgreSQL 9.6 Beta 1,迎来了并行查询(Parallel Query)这个新特性。在追求高性能计算和查询的大数据时代,能提升性能的特性都会成为一个新的热门话题。作为关注 PostgreSQL 发展的数据库开发者,本方作者将分享对于一些 PostgreSQL 并行查询特性相关话题的认识。 并行查询的背景 随着 SSD 等磁盘技术的平民化,以及动辄上百 GB 内存的普及,I/O 层面的性能问题得到了有效缓解。提升数据库的扩展性能,可以追求

weixin_38113732的博客 384

Greenplum查询相关优化

SQL查询分配的内存不足,Greenplum数据库会创建溢出文件。 ERROR: number of workfiles per query limit exceeded。 导致生成大量溢出文件的原因包括: 在被查询的数据中存在数据倾斜。 为该查询分配的内存量太小。 使用 gp_workfile_*gp_workfile_*视图查看溢出文件使用信息。 max_statement_mem, statement_mem参考控制内存。

flying roc 2219

Greenplum 4.3管理员官方手册(中文版)

在数据密集型的IT行业,数据仓库扮演了至关重要的角色。Greenplum数据仓库系统,作为一款开源的并行处理数据仓库解决方案,凭借其高效的MPP(大规模并行处理)架构,支持大规模数据集的存储与分析,尤其在数据仓库领域中表现卓越。本章旨在为读者提供对Greenplum的初步了解,从其基本概念、架构特点,到实际应用的广泛优势,帮助IT专业人员在构建高效数据仓库解决方案时做出明智选择。让我们一起揭开Greenplum数据仓库系统的神秘面纱,探究其如何在数据处理与分析领域中大放异彩。

weixin_42348783的博客 1082

Greenplum的简单介绍

Greenplum的介绍   Greenplum是一个面向数据仓库应用的关系型数据库,它基于流行的PostgreSQL开发,因为有良好的体系结构,所以在数据存储,高并发,高可用,线性扩展,反应速度,易用性和性价比等方面有非常明显的优势,非常受欢迎.进入大数据时代以后,Greenplum的性能在TB级别数据量的表现上非常优秀,单机性能相比Hadoop要快上好几倍;在功能和语法上,要比Hadoop...

云计算大数据学习之小学生的博客 2万+

【React Native】源码分析之Native UI的封装和管理

转载请注明出处:http://blog.youkuaiyun.com/u013531824/article/details/54020287,谢谢。  ReactNative作为使用React开发Native应用的新框架,随着时间的增加,无论是社区还是个人对她的兴趣与日递增。此文目的是希望和大家一起欣赏一下ReactNative的部分源码。阅读源码好处多多,让攻城狮更溜的开发ReactNative应用的同时,也

Tiny的专栏 9780

ABB RobotStudio 和 S7-PLCSIM Advanced V5.0 搭建虚拟通信环境,实现 PLC 对机器人布尔量、数字量和模拟量的控制。

本教程详细介绍了如何利用ABB RobotStudio和S7-PLCSIM Advanced V5.0搭建虚拟通信环境,实现PLC对机器人的布尔量、数字量和模拟量控制。主要内容包括:在TIA Portal V20中配置PLC项目并编写通信程序;通过S7-PLCSIM Advanced创建虚拟PLC运行环境;在RobotStudio中设置机器人PROFINET通信;以及建立虚拟网络连接并进行功能测试。该方案适用于工业自动化虚拟调试,可显著降低现场调试风险。操作需注意软件版本兼容性、网络配置及信号映射准确性,最

CHUXUEZHE8210的博客 2520

Greenplum 基本概念详解

Greenplum 是一个基于 PostgreSQL 的开源大规模并行处理(MPP)数据库,专为大数据分析而设计。

学亮编程手记 917

Latex参考文献中大写字母编译后自动变成了小写,如何保持原字母大写形式

bib文件参考文献中大写自动变为小写,如何保持原大写问题。Latex: 保持参考文献大小写,overleaf文献编译后,原大写字母自动变成了小写字母,如何保持原字母大写

我的个人博客 5806

开源大数据引擎:Greenplum 数据库架构分析

Greenplum 数据库是最先进的分布式开源数据库技术,主要用来处理大规模的数据分析任务,包括数据仓库、商务智能(OLAP)和数据挖掘等。自2015年10月正式开源以来,受到国内外业内人士的广泛关注。本文就社区关心的Greenplum数据库技术架构进行介绍。 一. Greenplum数据库简介 大数据是个炙手可热的词,各行各业都在谈。一谈到大数据,好多人认为就是Hadoop。

多多 6024

单细胞实战之亚细胞分群从T/NK至CD4+T细胞——从入门到进阶(中级篇1)

亚细胞分群从T/NK至CD4+T细胞

zfyyzhys的博客 6394

Android流畅度优化实战:从掉帧定位到布局与渲染调优

在移动应用开发中,性能优化是决定用户体验与留存率的关键环节,其中Android流畅度优化更是核心命题。用户感知的“卡顿”往往并非持续低帧率,而是由于掉帧率波动引发的偶发不流畅。本文从性能优化理论出发,系统讲解如何使用Systrace、CPU Profiler等工具定位掉帧瓶颈,深入分析布局层级过深、过度绘制、对象分配与GC压力等常见诱因。同时结合冷启动耗时、列表滚动掉帧、Bitmap加载等真实工程案例,阐述从应用层到系统层的分级优化策略,并给出低端机适配、异步化改造及线上监控体系搭建的实践方案。内容覆盖布局

weixin_29185493的博客 203

GreenPlum【理论篇】01:什么是GreenPlum

GreenPlum【理论篇】01:什么是GreenPlum

weixin_40612128的博客 839

工业视觉检测实战指南:从硬件配置到AI算法部署

本文提供了一套完整的工业视觉检测系统搭建实战指南。从硬件选型(相机、光源、镜头、工控机)到AI算法(深度学习模型)部署,详细解析了如何为生产线配置一双“会思考的眼睛”。重点探讨了深度学习算法在复杂缺陷识别中的应用,并分享了模型训练、优化及云边协同部署的实战心得,旨在帮助工程师实现从实验室Demo到7x24小时稳定运行的工业落地。

weixin_29051193的博客 462

greenplum,teradata,presto,clickhouse四种分布式数据库的对比

1. 四种数据库的比较 2. Greenplum数据库 2.1 Greenplum架构 2.1.1 采用MMP架构 2.2.2 Hadoop与MPP的应用区别 2.2 greenplum 的高可用性 2.2.1 master冗余 2.2.2 segment冗余 2.3 greenplum的并行查询 2.4 greenplum的多版本控制(MVCC) 3 Teradata数据库 3.1 Teradata 数据库架构 3.1.

eagle89的专栏 2566

MQTT与物联网平台(一):基础知识和设备接入物联网平台的实现(以华为云为例)

本文简单介绍了MQTT的基础知识和使用方法,以蓝牙WIFI双模芯片W801作为硬件设备,接入到华为云。

weixin_50622833的博客 1万+

【YOLO26实战全攻略】19——智慧交通(一):高速抛洒物与事故检测全流程落地

在智慧交通领域,高速公路抛洒物、交通事故等突发状况常导致二次事故与大规模拥堵,传统人工监控存在响应滞后、覆盖有限等痛点。本文基于Ultralytics YOLO26算法,结合ByteTrack多目标跟踪技术,构建从数据准备、模型训练到边缘部署的全栈式智慧交通检测系统。核心内容包括:多车型专属数据集构建、抛洒物检测模型优化、ByteTrack轨迹跟踪集成、异常事件(违停/逆行/碰撞)识别逻辑实现,以及NVIDIA Jetson边缘设备部署方案。

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 1495

Greenplum

超强并行计算能力(支持百节点规模)标准 SQL 支持成熟稳定,政府/运营商/银行广泛使用支持大规模批量导入导出免费开源(Apache 2.0)你需要推荐分布式大数据分析平台✅ Greenplum 是开源 MPP 的优选替代商业数据仓库(如 Teradata、Oracle Exadata)✅ Greenplum 免费、兼容 SQL实时事务处理系统❌ 不建议使用 Greenplum,用 PostgreSQL 或 TiDB 更合适。

刘皇叔说Java的博客 815

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

postgresql 集群_基于PostgreSQL的分布式数据库Greenplum内核揭秘

转自:http://www.postgres.cn/v2/news/viewone/1/453​www.postgres.cn一、数据库内核揭秘Greenplum 是最成熟的开源分布式分析型数据库(今年6月份预计发布的 Greenplum 6 之OLTP性能大幅提升,将成为一款真正的HTAP数据库,评测数据将于近期发布),Gartner 2019 最新评测显示 Greenplum 在经典数据分析领...

weixin_39769675的博客 3633

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

Greenplum架构学习讲解

1、什么是Greenplum Greenplum,该公司成立于2003年,2006年推出了首款产品,其主营业务关注在数据仓库和商业智能方面,Greenplum DW/BI软件可以在虚拟化x86服务器上运行无分享(shared-nothing)的大规模并行处理(MPP)架构 。 Greenplum是基于 PostgreSQL 8.2开发的,与PostgreSQL 8.2有相同的客户端功能(Pgadmin III支持Greenplum,但是PGadmin VI则不能连接到Greenplum),在PostgreS

weixin_45572699的博客 878

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

postgresql 集群_Greenplum: 基于PostgreSQL的分布式数据库内核揭秘

一、数据库内核揭秘Greenplum 是最成熟的开源分布式分析型数据库(今年6月份预计发布的 Greenplum 6 之OLTP性能大幅提升,将成为一款真正的HTAP数据库,评测数据将于近期发布),Gartner 2019 最新评测显示 Greenplum 在经典数据分析领域位列全球第三,在实时数据分析领域位列并列第四。两个领域中前十名中唯一一款开源数据库产品。这意味着如果选择一款基于开源的产品,...

weixin_39918747的博客 3426
上一篇: 问题定位 | PostgreSQL 报错 requested WAL segment has already been removed
下一篇: 实用工具 | Linux 定时任务 crontab 命令详解
dbkernel
博客等级 码龄4年 60粉丝 42原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值