数仓性能优化：倾斜优化-表达式计算倾斜的hint优化

华为云开发者联盟 华为云开发者联盟 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 1.1k累计阅读 1.1k平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄10年
关注
原创 2023-08-01 18:04:11 1.1k 阅读 AI 写同款· GEO 优化 ›

本文分享自华为云社区《GaussDB(DWS)性能调优：倾斜优化-表达式计算倾斜的hint优化》，作者： 譡里个檔 。

1.原始SQL

SELECT

TMP4.TAX_AMT,

CATE.L1_PUR_ITEM_CATG_CN_NAME || '-' ||

CATE.L2_PUR_ITEM_CATG_CN_NAME || '-' ||

CATE.L3_PUR_ITEM_CATG_CN_NAME AS PRODUCT_CATEGORY,

MATE.ITEM_CODE AS PRODUCT_CODE,

INVEN.INVENTORY_ORG_NAME,

TMP4.INVOICE_WITHHOLDING_TAX_GROUP,

TMP4.PAYMENT_WITHHOLDING_TAX_GROUP,

TMP4.PO_CHARGE_ACCOUNT_CODE,

TMP4.CFS_INVOICE_NUMBER,

APR.TAX_INVOICE_DATE

FROM DWLTAX.DWL_TAX_TAXDP_ERP_AP_INVOICE_TMP5 TMP4,

DWRDIM_DW1.DWR_DIM_PUR_ITEM_CATEGORY_D CATE,

DWRDIM_DW1.DWR_DIM_MATERIAL_CODE_D MATE,

DWRDIM_DW1.DWR_DIM_INVENTORY_ORG_D INVEN,

DWTAXDI.DWI_AP_INVOICE_I AP,

DWTAXDI.DWI_AP_INVOICE_REGSTN_I APR

WHERE 1 = 1

AND TMP4.ITEM_CATEGORY_KEY = CATE.PUR_ITEM_CATG_KEY(+)

AND CATE.DEL_FLAG(+) = 'N'

AND TMP4.ITEM_ID = MATE.ITEM_ID(+)

AND MATE.DEL_FLAG(+) = 'N'

AND TMP4.PO_SHIPMENT_TARGET_INV_ORG_KEY = INVEN.INVENTORY_ORG_KEY(+)

AND INVEN.DEL_FLAG(+) = 'N'

AND TMP4.AP_INVOICE_ID = AP.AP_INVOICE_ID(+)

AND 6600 || AP.ATTRIBUTE1 = TO_CHAR(APR.AP_INVOICE_REGSTN_ID(+))

执行performance，查询具体执行情况和SQL自诊断信息(详细见附件case-step1-原始执行信息.txt)

id | operation | A-time | A-rows | E-rows | E-distinct | Peak Memory | E-memory | A-width | E-width | E-costs

----+------------------------------------------------------------------------------------------------------+------------------------+------------+------------+------------+----------------+----------------+-----------+---------+-------------

1 | -> Row Adapter | 69922.773 | 69237018 | 69237018 | | 87KB | | | 573 | 15160857.61

2 | -> Vector Streaming (type: GATHER) | 65581.989 | 69237018 | 69237018 | | 536KB | | | 573 | 15160857.61

3 | -> Vector Hash Right Join (4, 6) | [61186.201, 73129.055] | 69237018 | 69237018 | | [306MB, 682MB] | 1113MB(9990MB) | | 573 | 15159431.83

4 | -> Vector Streaming(type: BROADCAST ng: LC_DL1->LC_DW1) | [554.217, 21008.078] | 1382000544 | 1381572384 | 282184 | [4MB, 4MB] | 3MB | | 16 | 7056095.88

5 | -> CStore Scan on dwifin.dwi_ap_invoice_regstn s | [5.354, 11.617] | 28791678 | 28782758 | | [1MB, 1MB] | 1MB | | 16 | 28004.18

6 | -> Vector Hash Left Join (7, 19) | [1728.008, 2017.488] | 69237018 | 69237018 | 79721 | [834KB, 834KB] | 16MB | [229,252] | 578 | 1832322.90

7 | -> Vector Hash Left Join (8, 17) | [1428.799, 1925.653] | 69237018 | 69237018 | 179 | [32MB, 32MB] | 28MB(8901MB) | | 576 | 1817105.07

8 | -> Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN) | [996.780, 1635.826] | 69237018 | 69237018 | 4167 | [1MB, 1MB] | 2MB | | 570 | 1788113.85

9 | -> Vector Hash Left Join (10, 14) | [1086.903, 1780.641] | 69237018 | 69237018 | | [173MB, 174MB] | 227MB(9067MB) | | 570 | 1304897.12

10 | -> Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN) | [153.628, 891.680] | 69237018 | 69237018 | 20271 | [1MB, 1MB] | 2MB | | 567 | 847160.16

11 | -> Vector Hash Left Join (12, 13) | [367.155, 465.821] | 69237018 | 69237018 | | [30MB, 30MB] | 22MB(8896MB) | | 567 | 363943.43

12 | -> CStore Scan on dwltax.dwl_tax_taxdp_erp_ap_invoice_tmp5 tmp4 | [150.676, 178.827] | 69237018 | 69237018 | 526 | [4MB, 4MB] | 1MB | | 553 | 340168.44

13 | -> CStore Scan on dwrdim_dw1.dwr_dim_pur_item_category_d cate | [14.549, 24.399] | 8228448 | 8228448 | 171426 | [2MB, 2MB] | 1MB | [104,104] | 26 | 9056.99

14 | -> Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST ng: LC_DL1->LC_DW1) | [315.926, 339.782] | 117191217 | 117191170 | 2441483 | [1MB, 1MB] | 3MB | [47,47] | 22 | 406136.10

15 | -> Vector Partition Iterator | [118.307, 151.248] | 117191170 | 117191170 | | [41KB, 41KB] | 1MB | | 22 | 300641.93

16 | -> Partitioned CStore Scan on dwifin.dwi_ap_invoice s | [86.557, 111.947] | 117191170 | 117191170 | | [6MB, 6MB] | 1MB | | 22 | 300641.93

17 | -> Vector Streaming(type: PART LOCAL PART BROADCAST) | [60.429, 99.381] | 15442613 | 15442566 | 321720 | [584KB, 584KB] | 2MB | [58,58] | 19 | 49578.19

18 | -> CStore Scan on dwrdim_dw1.dwr_dim_material_code_d mate | [19.779, 33.206] | 15442566 | 15442566 | | [1MB, 2MB] | 1MB | | 19 | 35704.02

19 | -> CStore Scan on dwrdim_dw1.dwr_dim_inventory_org_d inven | [0.383, 0.739] | 135072 | 135072 | 2814 | [1MB, 1MB] | 1MB | [53,53] | 14 | 2823.85

SQL Diagnostic Information

--------------------------------------------------------------------------------------------

Execute diagnostic information

PlanNode[4] Large Table in Broadcast "Vector Streaming(type: BROADCAST ng: LC_DL1->LC_DW1)"

Predicate Information (identified by plan id)

------------------------------------------------------------------------------------------------------------------------------

3 --Vector Hash Right Join (4, 6)

Hash Cond: (((numeric_out(s.ap_invoice_regstn_id))::character varying)::text = ('6600'::text || (s.attribute1)::text))

6 --Vector Hash Left Join (7, 19)

Hash Cond: (tmp4.po_shipment_target_inv_org_key = inven.inventory_org_key)

7 --Vector Hash Left Join (8, 17)

Hash Cond: (tmp4.item_id = mate.item_id)

Skew Join Optimized by Statistic

8 --Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN)

Skew Filter(type: ROUNDROBIN): ((tmp4.item_id = (-999999)::numeric) OR (tmp4.item_id IS NULL))

9 --Vector Hash Left Join (10, 14)

Hash Cond: (tmp4.ap_invoice_id = s.ap_invoice_id)

Skew Join Optimized by Statistic

10 --Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN)

Skew Filter(type: ROUNDROBIN): (tmp4.ap_invoice_id = 1001113812002::numeric)

11 --Vector Hash Left Join (12, 13)

Hash Cond: (tmp4.item_category_key = cate.pur_item_catg_key)

13 --CStore Scan on dwrdim_dw1.dwr_dim_pur_item_category_d cate

Filter: ((cate.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((cate.del_flag)::text = 'N'::text)

14 --Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST ng: LC_DL1->LC_DW1)

Skew Filter(type: BROADCAST): (s.ap_invoice_id = 1001113812002::numeric)

15 --Vector Partition Iterator

Iterations: 147

16 --Partitioned CStore Scan on dwifin.dwi_ap_invoice s

Partitions Selected by Static Prune: 1..147

17 --Vector Streaming(type: PART LOCAL PART BROADCAST)

Skew Filter(type: BROADCAST): (mate.item_id = (-999999)::numeric)

18 --CStore Scan on dwrdim_dw1.dwr_dim_material_code_d mate

Filter: ((mate.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((mate.del_flag)::text = 'N'::text)

19 --CStore Scan on dwrdim_dw1.dwr_dim_inventory_org_d inven

Filter: ((inven.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((inven.del_flag)::text = 'N'::text)

2.禁止大表广播

如上小节显示确实是id=4的这一步是一个大的结果集（2879w条）做了broadcast，并且紧接着的id=5的HashJoin耗时很长。因此通过增加hint方式禁止dwifin.dwi_ap_invoice_regstn走广播。分析发现表dwifin.dwi_ap_invoice_regstn是视图apr展开出现的，因此增加如下hint信息，其中

1. no merge (apr)是防止视图apr中的语句提升，导致的hint信息失效

2. no broadcast(apr)表示禁止apr走broadcast

EXPLAIN performance

SELECT /*+ no merge (apr) no broadcast(apr) */

TMP4.TAX_AMT,

CATE.L1_PUR_ITEM_CATG_CN_NAME || '-' ||

CATE.L2_PUR_ITEM_CATG_CN_NAME || '-' ||

CATE.L3_PUR_ITEM_CATG_CN_NAME AS PRODUCT_CATEGORY,

MATE.ITEM_CODE AS PRODUCT_CODE,

INVEN.INVENTORY_ORG_NAME,

TMP4.INVOICE_WITHHOLDING_TAX_GROUP,

TMP4.PAYMENT_WITHHOLDING_TAX_GROUP,

TMP4.PO_CHARGE_ACCOUNT_CODE,

TMP4.CFS_INVOICE_NUMBER,

APR.TAX_INVOICE_DATE

FROM DWLTAX.DWL_TAX_TAXDP_ERP_AP_INVOICE_TMP5 TMP4,

DWRDIM_DW1.DWR_DIM_PUR_ITEM_CATEGORY_D CATE,

DWRDIM_DW1.DWR_DIM_MATERIAL_CODE_D MATE,

DWRDIM_DW1.DWR_DIM_INVENTORY_ORG_D INVEN,

DWTAXDI.DWI_AP_INVOICE_I AP,

DWTAXDI.DWI_AP_INVOICE_REGSTN_I APR

WHERE 1 = 1

AND TMP4.ITEM_CATEGORY_KEY = CATE.PUR_ITEM_CATG_KEY(+)

AND CATE.DEL_FLAG(+) = 'N'

AND TMP4.ITEM_ID = MATE.ITEM_ID(+)

AND MATE.DEL_FLAG(+) = 'N'

AND TMP4.PO_SHIPMENT_TARGET_INV_ORG_KEY = INVEN.INVENTORY_ORG_KEY(+)

AND INVEN.DEL_FLAG(+) = 'N'

AND TMP4.AP_INVOICE_ID = AP.AP_INVOICE_ID(+)

AND 6600 || AP.ATTRIBUTE1 = TO_CHAR(APR.AP_INVOICE_REGSTN_ID(+))

获取如上语句的performance信息(详细见附件 case-step2-禁止大表广播.txt)

id | operation | A-time | A-rows | E-rows | E-distinct | Peak Memory | E-memory | A-width | E-width | E-costs

----+---------------------------------------------------------------------------------------------------------+------------------------+-----------+-----------+------------+----------------+----------------+-----------+---------+-------------

1 | -> Row Adapter | 15685.781 | 69237018 | 69237018 | | 87KB | | | 573 | 33341721.22

2 | -> Vector Streaming (type: GATHER) | 11361.740 | 69237018 | 69237018 | | 536KB | | | 573 | 33341721.22

3 | -> Vector Hash Left Join (4, 19) | [15269.267, 18985.791] | 69237018 | 69237018 | | [74MB, 74MB] | 101MB(9984MB) | | 573 | 33340295.43

4 | -> Vector Streaming(type: REDISTRIBUTE) | [4743.867, 18632.182] | 69237018 | 69237018 | 79721 | [1MB, 2MB] | 2MB | | 578 | 29821930.76

5 | -> Vector Hash Left Join (6, 18) | [1473.990, 15359.055] | 69237018 | 69237018 | | [866KB, 898KB] | 16MB | | 578 | 1832322.90

6 | -> Vector Hash Left Join (7, 16) | [1130.814, 15223.646] | 69237018 | 69237018 | 179 | [32MB, 32MB] | 28MB(9923MB) | | 576 | 1817105.07

7 | -> Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN) | [681.709, 14909.424] | 69237018 | 69237018 | 4167 | [1MB, 1MB] | 2MB | | 570 | 1788113.85

8 | -> Vector Hash Left Join (9, 13) | [1049.201, 12602.796] | 69237018 | 69237018 | | [173MB, 174MB] | 227MB(10089MB) | | 570 | 1304897.12

9 | -> Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN) | [128.704, 11737.099] | 69237018 | 69237018 | 20271 | [1MB, 1MB] | 2MB | | 567 | 847160.16

10 | -> Vector Hash Left Join (11, 12) | [368.537, 443.623] | 69237018 | 69237018 | | [30MB, 30MB] | 22MB(9918MB) | | 567 | 363943.43

11 | -> CStore Scan on dwltax.dwl_tax_taxdp_erp_ap_invoice_tmp5 tmp4 | [148.366, 175.347] | 69237018 | 69237018 | 526 | [4MB, 4MB] | 1MB | | 553 | 340168.44

12 | -> CStore Scan on dwrdim_dw1.dwr_dim_pur_item_category_d cate | [13.319, 24.442] | 8228448 | 8228448 | 171426 | [2MB, 2MB] | 1MB | [104,104] | 26 | 9056.99

13 | -> Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST ng: LC_DL1->LC_DW1) | [242.053, 294.233] | 117191217 | 117191170 | 2441483 | [1MB, 1MB] | 3MB | [47,47] | 22 | 406136.10

14 | -> Vector Partition Iterator | [118.124, 154.954] | 117191170 | 117191170 | | [41KB, 41KB] | 1MB | | 22 | 300641.93

15 | -> Partitioned CStore Scan on dwifin.dwi_ap_invoice s | [86.942, 105.441] | 117191170 | 117191170 | | [6MB, 6MB] | 1MB | | 22 | 300641.93

16 | -> Vector Streaming(type: PART LOCAL PART BROADCAST) | [83.793, 117.853] | 15442613 | 15442566 | 321720 | [584KB, 584KB] | 2MB | [58,58] | 19 | 49578.19

17 | -> CStore Scan on dwrdim_dw1.dwr_dim_material_code_d mate | [21.898, 35.895] | 15442566 | 15442566 | | [1MB, 2MB] | 1MB | | 19 | 35704.02

18 | -> CStore Scan on dwrdim_dw1.dwr_dim_inventory_org_d inven | [0.389, 0.661] | 135072 | 135072 | 2814 | [1MB, 1MB] | 1MB | [53,53] | 14 | 2823.85

19 | -> Vector Streaming(type: REDISTRIBUTE ng: LC_DL1->LC_DW1) | [30.667, 49.474] | 28791678 | 28782758 | 599641 | [2MB, 2MB] | 3MB | [75,75] | 16 | 56030.49

20 | -> Vector Subquery Scan on apr | [42.087, 61.734] | 28791678 | 28782758 | | [376KB, 376KB] | 1MB | | 16 | 30826.02

21 | -> CStore Scan on dwifin.dwi_ap_invoice_regstn s | [5.177, 8.049] | 28791678 | 28782758 | | [1MB, 1MB] | 1MB | | 16 | 28004.18

SQL Diagnostic Information

----------------------------------------------------------------------------------------------------------

Execute diagnostic information

PlanNode[4] DataSkew:"Vector Streaming(type: REDISTRIBUTE)", min_dn_tuples:257082, max_dn_tuples:47206637

Predicate Information (identified by plan id)

----------------------------------------------------------------------------------------------------------------------------------

3 --Vector Hash Left Join (4, 19)

Hash Cond: ((('6600'::text || (s.attribute1)::text)) = ((numeric_out(apr.ap_invoice_regstn_id))::character varying)::text)

5 --Vector Hash Left Join (6, 18)

Hash Cond: (tmp4.po_shipment_target_inv_org_key = inven.inventory_org_key)

6 --Vector Hash Left Join (7, 16)

Hash Cond: (tmp4.item_id = mate.item_id)

Skew Join Optimized by Statistic

7 --Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN)

Skew Filter(type: ROUNDROBIN): ((tmp4.item_id = (-999999)::numeric) OR (tmp4.item_id IS NULL))

8 --Vector Hash Left Join (9, 13)

Hash Cond: (tmp4.ap_invoice_id = s.ap_invoice_id)

Skew Join Optimized by Statistic

9 --Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN)

Skew Filter(type: ROUNDROBIN): (tmp4.ap_invoice_id = 1001113812002::numeric)

10 --Vector Hash Left Join (11, 12)

Hash Cond: (tmp4.item_category_key = cate.pur_item_catg_key)

12 --CStore Scan on dwrdim_dw1.dwr_dim_pur_item_category_d cate

Filter: ((cate.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((cate.del_flag)::text = 'N'::text)

13 --Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST ng: LC_DL1->LC_DW1)

Skew Filter(type: BROADCAST): (s.ap_invoice_id = 1001113812002::numeric)

14 --Vector Partition Iterator

Iterations: 147

15 --Partitioned CStore Scan on dwifin.dwi_ap_invoice s

Partitions Selected by Static Prune: 1..147

16 --Vector Streaming(type: PART LOCAL PART BROADCAST)

Skew Filter(type: BROADCAST): (mate.item_id = (-999999)::numeric)

17 --CStore Scan on dwrdim_dw1.dwr_dim_material_code_d mate

Filter: ((mate.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((mate.del_flag)::text = 'N'::text)

18 --CStore Scan on dwrdim_dw1.dwr_dim_inventory_org_d inven

Filter: ((inven.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((inven.del_flag)::text = 'N'::text)

3.表达式倾斜的hint

发现自诊断信息中倾斜告警

cke_176.png

而Plan ID为4的算子是

cke_177.png

其中是s是视图dwtaxdi.dwi_ap_invoice_i展开后的表dwifin.dwi_ap_invoice，查询此表的列attribute1的统计信息如下，发现在NULL值上存在严重倾斜

cke_178.png

因为重分布列是一个表达式6600 || AP.ATTRIBUTE1，当前DWS的倾斜的hint不支持表达式，因为我们做如下变通实现表达式的值倾斜的hint

SELECT /*+ no merge (apr) no broadcast(apr) no merge(ap) skew(ap (attr1) ('6600')) */

TMP4.TAX_AMT,

CATE.L1_PUR_ITEM_CATG_CN_NAME || '-' ||

CATE.L2_PUR_ITEM_CATG_CN_NAME || '-' ||

CATE.L3_PUR_ITEM_CATG_CN_NAME AS PRODUCT_CATEGORY,

MATE.ITEM_CODE AS PRODUCT_CODE,

INVEN.INVENTORY_ORG_NAME,

TMP4.INVOICE_WITHHOLDING_TAX_GROUP,

TMP4.PAYMENT_WITHHOLDING_TAX_GROUP,

TMP4.PO_CHARGE_ACCOUNT_CODE,

TMP4.CFS_INVOICE_NUMBER,

APR.TAX_INVOICE_DATE

FROM DWLTAX.DWL_TAX_TAXDP_ERP_AP_INVOICE_TMP5 TMP4,

DWRDIM_DW1.DWR_DIM_PUR_ITEM_CATEGORY_D CATE,

DWRDIM_DW1.DWR_DIM_MATERIAL_CODE_D MATE,

DWRDIM_DW1.DWR_DIM_INVENTORY_ORG_D INVEN,

(SELECT *, 6600 || AP.ATTRIBUTE1 AS ATTR1 FROM DWTAXDI.DWI_AP_INVOICE_I AP) AP,

DWTAXDI.DWI_AP_INVOICE_REGSTN_I APR

WHERE 1 = 1

AND TMP4.ITEM_CATEGORY_KEY = CATE.PUR_ITEM_CATG_KEY(+)

AND CATE.DEL_FLAG(+) = 'N'

AND TMP4.ITEM_ID = MATE.ITEM_ID(+)

AND MATE.DEL_FLAG(+) = 'N'

AND TMP4.PO_SHIPMENT_TARGET_INV_ORG_KEY = INVEN.INVENTORY_ORG_KEY(+)

AND INVEN.DEL_FLAG(+) = 'N'

AND TMP4.AP_INVOICE_ID = AP.AP_INVOICE_ID(+)

AND ATTR1 = TO_CHAR(APR.AP_INVOICE_REGSTN_ID(+))

其中构建了子查询 AP

SELECT *, 6600 || AP.ATTRIBUTE1 AS ATTR1 FROM DWTAXDI.DWI_AP_INVOICE_I AP

在把原始的关联列表达式放到子查询里面，然后把 6600 || AP.ATTRIBUTE1 命名为attr1。

在父查询中首先禁止AP这个子查询提升。然后在父查询中通过hint 子查询AP这个结果集的列attr1存在倾斜值'6600' 。这个倾斜值是计算出来的（NULL || 6600 = ‘6600’），并且在原始关联计算中关联表达式是如下，即 6600 || AP.ATTRIBUTE1的结果被转换为text类型（字符串类型）

cke_179.png

获取新的语句的performance如下(详细见附件 case-step3-倾斜优化.txt)

id | operation | A-time | A-rows | E-rows | E-distinct | Peak Memory | E-memory | A-width | E-width | E-costs

----+------------------------------------------------------------------------------------------------------+-----------------------+-----------+-----------+------------+----------------+----------------+-----------+---------+------------

1 | -> Row Adapter | 9045.793 | 69237018 | 69237018 | | 87KB | | | 573 | 2040755.71

2 | -> Vector Streaming (type: GATHER) | 4842.656 | 69237018 | 69237018 | | 520KB | | | 573 | 2040755.71

3 | -> Vector Hash Left Join (4, 21) | [2673.707, 11389.688] | 69237018 | 69237018 | | [1MB, 1MB] | 16MB | | 573 | 2039329.92

4 | -> Vector Hash Left Join (5, 19) | [1951.482, 10931.220] | 69237018 | 69237018 | 179 | [32MB, 32MB] | 28MB(10018MB) | | 571 | 2009687.71

5 | -> Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN) | [1541.777, 10591.702] | 69237018 | 69237018 | 4167 | [1MB, 1MB] | 2MB | | 565 | 1980696.49

6 | -> Vector Hash Left Join (7, 18) | [1703.438, 1980.655] | 69237018 | 69237018 | | [30MB, 30MB] | 22MB(10010MB) | | 565 | 1497479.76

7 | -> Vector Hash Left Join (8, 10) | [1523.277, 1708.622] | 69237018 | 69237018 | 526 | [165MB, 166MB] | 191MB(10151MB) | | 551 | 1473704.77

8 | -> Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN) | [94.501, 203.619] | 69237018 | 69237018 | 20271 | [1MB, 1MB] | 2MB | | 553 | 823385.17

9 | -> CStore Scan on dwltax.dwl_tax_taxdp_erp_ap_invoice_tmp5 tmp4 | [142.734, 171.486] | 69237018 | 69237018 | | [4MB, 4MB] | 1MB | | 553 | 340168.44

10 | -> Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST ng: LC_DL1->LC_DW1) | [811.192, 853.583] | 117191217 | 117191170 | 2441483 | [2MB, 2MB] | 3MB | [44,44] | 17 | 598718.74

11 | -> Vector Hash Left Join (12, 15) | [340.998, 790.399] | 117191170 | 117191170 | | [39MB, 39MB] | 27MB(10015MB) | | 17 | 493224.57

12 | -> Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN) | [53.170, 79.836] | 117191170 | 117191170 | 79721 | [2MB, 2MB] | 3MB | | 41 | 412662.90

13 | -> Vector Partition Iterator | [145.450, 171.527] | 117191170 | 117191170 | | [41KB, 41KB] | 1MB | | 22 | 303514.27

14 | -> Partitioned CStore Scan on dwifin.dwi_ap_invoice s | [112.099, 134.193] | 117191170 | 117191170 | | [6MB, 6MB] | 1MB | | 22 | 300641.93

15 | -> Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST) | [48.632, 99.230] | 28791678 | 28782758 | 282184 | [2MB, 2MB] | 3MB | [75,75] | 16 | 56928.04

16 | -> Vector Subquery Scan on apr | [41.916, 78.189] | 28791678 | 28782758 | | [376KB, 376KB] | 1MB | | 16 | 30826.02

17 | -> CStore Scan on dwifin.dwi_ap_invoice_regstn s | [5.233, 10.667] | 28791678 | 28782758 | | [1MB, 1MB] | 1MB | | 16 | 28004.18

18 | -> CStore Scan on dwrdim_dw1.dwr_dim_pur_item_category_d cate | [12.065, 20.667] | 8228448 | 8228448 | 171426 | [2MB, 2MB] | 1MB | [104,104] | 26 | 9056.99

19 | -> Vector Streaming(type: PART LOCAL PART BROADCAST) | [67.272, 97.378] | 15442613 | 15442566 | 321720 | [584KB, 584KB] | 2MB | [58,58] | 19 | 49578.19

20 | -> CStore Scan on dwrdim_dw1.dwr_dim_material_code_d mate | [18.605, 31.713] | 15442566 | 15442566 | | [1MB, 2MB] | 1MB | | 19 | 35704.02

21 | -> CStore Scan on dwrdim_dw1.dwr_dim_inventory_org_d inven | [0.378, 0.647] | 135072 | 135072 | 2814 | [1MB, 1MB] | 1MB | [53,53] | 14 | 2823.85

Predicate Information (identified by plan id)

----------------------------------------------------------------------------------------------------------------------------------

3 --Vector Hash Left Join (4, 21)

Hash Cond: (tmp4.po_shipment_target_inv_org_key = inven.inventory_org_key)

4 --Vector Hash Left Join (5, 19)

Hash Cond: (tmp4.item_id = mate.item_id)

Skew Join Optimized by Statistic

5 --Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN)

Skew Filter(type: ROUNDROBIN): ((tmp4.item_id = (-999999)::numeric) OR (tmp4.item_id IS NULL))

6 --Vector Hash Left Join (7, 18)

Hash Cond: (tmp4.item_category_key = cate.pur_item_catg_key)

7 --Vector Hash Left Join (8, 10)

Hash Cond: (tmp4.ap_invoice_id = s.ap_invoice_id)

Skew Join Optimized by Statistic

8 --Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN)

Skew Filter(type: ROUNDROBIN): (tmp4.ap_invoice_id = 1001113812002::numeric)

10 --Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST ng: LC_DL1->LC_DW1)

Skew Filter(type: BROADCAST): (s.ap_invoice_id = 1001113812002::numeric)

11 --Vector Hash Left Join (12, 15)

Hash Cond: ((('6600'::text || (s.attribute1)::text)) = ((numeric_out(apr.ap_invoice_regstn_id))::character varying)::text)

Skew Join Optimized by Hint

12 --Vector Streaming(type: PART REDISTRIBUTE PART ROUNDROBIN)

Skew Filter(type: ROUNDROBIN): ((('6600'::text || (s.attribute1)::text)) = '6600'::text)

13 --Vector Partition Iterator

Iterations: 147

14 --Partitioned CStore Scan on dwifin.dwi_ap_invoice s

Partitions Selected by Static Prune: 1..147

15 --Vector Streaming(type: PART REDISTRIBUTE PART BROADCAST)

Skew Filter(type: BROADCAST): ((((numeric_out(apr.ap_invoice_regstn_id))::character varying)::text) = '6600'::text)

18 --CStore Scan on dwrdim_dw1.dwr_dim_pur_item_category_d cate

Filter: ((cate.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((cate.del_flag)::text = 'N'::text)

19 --Vector Streaming(type: PART LOCAL PART BROADCAST)

Skew Filter(type: BROADCAST): (mate.item_id = (-999999)::numeric)

20 --CStore Scan on dwrdim_dw1.dwr_dim_material_code_d mate

Filter: ((mate.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((mate.del_flag)::text = 'N'::text)

21 --CStore Scan on dwrdim_dw1.dwr_dim_inventory_org_d inven

Filter: ((inven.del_flag)::text = 'N'::text)

Pushdown Predicate Filter: ((inven.del_flag)::text = 'N'::text)

点击关注，第一时间了解华为云新鲜技术~ 

收录于
技术交流

当前文章被收录于：

技术交流
3720 篇文章 381 人学习
订阅专栏 查看详情
数据库

当前文章被收录于：

数据库
251 篇文章 9 人学习

数据库领域技术分享

订阅专栏 查看详情
标签
#性能优化 #哈希算法 #算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

相关推荐

鸿蒙案例上新啦 | 出门打车、到家上课：25个模板带你一屏打通日常生活

如何合理拆分页面组件、如何建立单一可信的状态源、如何让用户在每一步操作中都获得明确反馈。鸿蒙开发实践中心以标准化的应用与元服务模板为入口，将清晰的业务架构与可复用的代码结构直观呈现。不妨立即挑选一个感兴趣的方向进入云端环境，从页面布局、组件封装、状态管理到路由组织，亲手跑通你的鸿蒙实战项目。

华为云官方博客 17

LakeAgent：DWS数据仓库的第二大脑，告别 “翻译式运维”，迈入智能自治时代

和普通 SQL 改写工具不同，LakeAgent 自动做多方案代价对比，主动规避负优化陷阱：补充分区键过滤实现剪枝，扫描分区由 37 收敛至 1，执行代价从 758.28 降至 113.74；未来的数据仓库，将不止能算、能存，更能看懂自己、诊断自己、理解自己。长久以来，数仓的智能都依附于人：信号需要人解读，瓶颈需要人研判，经验困在个体里，无法随底座永续生长。CPU 高、CPU 告警、CPU 诊断、CPU 使用率过高、CPU 满。语法、错误码、计费、性能调优、最佳实践、故障处置等全场景内容。

华为云官方博客 495

如何使用RDS Supabase后端BaaS能力：文件存储（File Storage）

• product-images（公开桶，允许公共读取）：策略名称"Public read for product-images"，允许SELECT，目标角色anon，策略定义bucket_id = 'product-images'。上传/删除需另配INSERT/DELETE策略，详见SQL。• product-specs（私有桶，仅认证用户访问自己的文件夹）：建议拆为上传、读取、删除三条策略，策略定义均为 bucket_id = 'product-specs' 且仅限本人文件夹（详见下文 SQL）。

华为云官方博客 429

如何使用RDS Supabase后端BaaS能力：实时订阅与推送（Realtime）

Realtime 把数据库的每次变更同步到客户端：表里增、删、改一行，订阅者无需刷新页面或主动请求即可秒级收到。三大能力各司其职：• Postgres Changes — 监听表的 INSERT/UPDATE/DELETE，变化即通知• Broadcast — 客户端之间直接互发，适合瞬时通知、协同编辑• Presence — 跟踪频道里“谁在线”典型场景有实时数据展示（订单、库存、监控指标即时刷新）、即时通讯（消息收发、在线名单、“对方正在输入”）、协同编辑与实时通知。

华为云官方博客 418

AI Agent如何通过MCP连接到华为云RDS Supabase应用平台

Schema元数据列出所有可访问的表（按schema分组）。Schema元数据列出表的列及元数据（类型/默认值/约束）。Schema元数据列出所有约束（PK/FK/UNIQUE/CHECK/EXCLUDE）。可按schema/表/类型过滤。Schema元数据列出所有外键关系。可按schema/表过滤。Schema元数据列出所有索引及定义和大小。可按schema/表过滤。Schema元数据列出已应用的数据库迁移记录。Schema元数据列出已安装的PostgreSQL扩展。

华为云官方博客 433

华为大数据Flink让每一 CU 算力，跑出开源 5.74 倍的性能

1. 开源Apache Flink 已成为业界流计算事实标准，但在极端重负载场景下存在性能瓶颈。2. 华为大数据Flink通过多项自研深度优化，在执行计划、算子执行、状态存储三个层面构建协同的优化体系。3. Nexmark Benchmark 测试结果：整体性能提升 5.74 倍，极端重负载场景性能领先最高 18.3 倍。4. 100% 兼容 Apache Flink 1.20，业务代码零改造，无缝迁移。

华为云官方博客 350

LakeAgent实战 | 业务分析篇从一句提问到业务分析

本文以“订单金额变化”分析为例，展示LakeAgent如何通过自然语言提问，结合DataArtsStudio的数据资产与专业技能，帮助业务人员快速定位数据、生成SQL、追踪血缘、生成报告。从问题出发，逐步实现数据发现、变化洞察、原因追溯与团队协作，最终形成可复用的分析流程与企业规则，显著提升数据分析效率与一致性。

华为云官方博客 358

华为云RDS Supabase AI应用已开放公测 ：30分钟搭建AI应用后端

认证、存储、实时推送、数据库API——4个后端模块，传统开发需要数周。今天，你只需要30分钟。AI创业公司的全栈开发工程师。上周老板说"下周要上线的AI对话应用，后端你来搞"——认证鉴权、数据库接口、文件存储、实时推送，每一个模块都需要数周搭建，而市场不会等你。小张打开华为云RDS Supabase，30分钟搭好认证、数据库API、对象存储，剩下的时间全用来打磨AI交互体验。基于开源Supabase+华为云RDS PostgreSQL全托管能力，为开发者提供。

华为云官方博客 354

如何使用RDS Supabase后端BaaS能力：数据库函数（Database Function）

上一篇介绍了 Database Data API——建表即自动生成增删改查接口，解决单表读写，但聚合统计、跨表事务、字段自动维护等逻辑已超出其能力边界。本篇推进到数据库函数（Database Function）：把业务逻辑封装进数据库，前端通过 .rpc() 调用，由触发器自动响应数据变更。上一篇中，小张基于 Data API 完成了产品目录的建表与基础读写。但新需求随之而来：按分类统计产品数与价格区间、上架新品同时写产品表与定价表、产品修改后自动刷新更新时间。

华为云官方博客 436

如何使用RDS Supabase后端BaaS能力：创表即生成API（Database Data API）

认证、存储、实时推送、数据库API——4个后端模块，传统开发要数周。本系列逐个拆解，首篇聚焦数据库API（Database Data API）：建表即得 API，无需手写后端。小张，AI创业公司的全栈工程师。老板让他做个产品目录页，展示产品与价格、支持上下架。传统做法要搭后端、写接口、配权限，工期少说1-2周；而在华为云RDS Supabase，建两张表、应用 SDK 直连，几分钟增删改查全跑通。

华为云官方博客 453

从一句话到一个能出去的链接，AI开发者空间做了什么

自行搭建的 Agent、正在使用的开源项目、团队既有的工具，都可以接入，可以通过AI创建或者手动搭建环境；华为云 AI开发者空间——面向开发者的云端一站式开发平台，做的就是把这段路接上：环境免安装，浏览器打开即为完整的 Linux 运行环境，预置的 AI 智能体开箱即用。第一个任务建议选能出结果的：做一个游戏、生成一个页面、创建一台实例，从需求走到可访问的链接，一次就能看清这个环境在做什么。沙箱是一个完整的 Linux 环境，依赖、服务、端口都是真实的，不是模拟。环境释放后，权限随之失效。

华为云官方博客 411

华为云码道配置自定义大模型，四种方式完整实操

案例介绍。

华为云官方博客 604

图数据库：实现穿透式监管的数据基座

穿透式监管标志着国企监管从“管企业”向“管资本”转型过程中的关键一跃。而图数据库正是这一跃的技术支点。从股权穿透到资金链穿透，从供应链穿透到数据穿透，华为GES图数据库正在将“穿透式监管”从理念变为可落地、可操作的实践。无论是天眼查式的全量链路查询，还是某集团财经的税务规则判断，抑或是芯片供应链式的部件风险分析，乃至通过Palantir构建决策知识图谱，其底层逻辑都是一致的——用图的力量，穿透一切形式的“隔离层”，直抵风险本质与责任核心。

华为云官方博客 652

《公共云三十问》正式收官，奔赴企业AI百场景新征程

今年6月底，公共云产业联盟重点推出《公共云三十问》专栏，以每周三问的节奏，连载十周，解读《先进公共云》白皮书，分享国计民生系列案例，旨在凝聚共识、推动落地实践。同时，专栏分析公共云在产业升级、民生福祉、科技创新、全球发展等方面的作用，梳理中国特色公共云发展路径：以普惠云拓展用云广度，以智算云提升用云深度，以自主云夯实用云厚度，以全球云打开用云跨度。这十问从专属云、行业云切入，深入政务、金融、交通、电力、钢铁、化工、油气、制造等国计民生场景，回答公共云“怎么用”。

华为云官方博客 465

开发者小技巧|IAM配置，让码道代码智能体连续30天免登录

案例介绍。

华为云官方博客 640

码道深度对接CodeArts，让需求自动落地为代码

案例介绍。

华为云官方博客 712

【公共云三十问 之三十】拥抱AI，企业如何建设面向智能体的专属云？

企业可分阶段建设覆盖开发、运行、运营及安全的一体化智能体平台——从构建一站式、高低码协同的智能体开发平台，到打造高性能、极致弹性的运行时环境，再到搭建AgentOps驱动的持续运营与运维体系，同时构建端到端、多层次的全链路安全防护体系。在数据湖建设方面，遵循“存量复用、平滑演进、AI导向、分步迭代”原则，分三阶段推进——打造AI多模数据湖核心能力、完成存算分离与统一元数据管理、实现闭环赋能全面支撑智能体规模化落地，在保护既有投资的前提下将传统数据平台转型为AI数据专属供给平台。

华为云官方博客 818

【公共云三十问 之二十九】国计民生之制造：制造云如何重塑数智时代的新质生产力？

平台打通软件交付的完整路径，覆盖需求管理、代码托管、代码检查、编译构建、制品仓库、部署、测试等关键环节，支持大模型能力融入研发全流程，实现从需求到交付的端到端管理。通过构建“研发一朵云”，方案打破地域与组织壁垒，实现跨团队协同开发，有效缩短软件交付周期，助力工业制造企业从“传统研发”走向“敏捷研发”，加速数智化转型进程。当制造云真正成为数据流通的平台、AI创新的底座，公共云的社会价值将从基础设施层向生产场景层持续延伸，为新型工业化建设和制造强国战略注入源源不断的动力，重塑数智时代的中国制造新质生产力。

华为云官方博客 786

告别重复手工迁仓，码道MCP+Skill实现仓库批量迁移

案例介绍。

华为云官方博客 781

【公共云三十问 之二十八】国计民生之油气：智算云如何叩响数智时代的“地心蓝金”？

西南油气田以“向地球深部要资源”为战略方向，联合以华为云Stack为代表的公共云服务商共同打造统一算力底座，建设西南区域数据湖与通用技术平台，构建“勘探开发工程技术、天然气生产过程管控、天然气产运储销”等三个一体化协同应用场景，支撑油气勘探、开发生产、管输储运等全业务链的数智化转型。当智算云真正成为数据流通的平台、AI创新的底座，油气田得以将算力效能、数据价值与智能技术深度融入勘探开发全链条，将“看不见的算力”转化为“摸得着的储量”，以智能化手段持续降低勘探风险、缩短发现周期、提高采收效率，确保生产安全。

华为云官方博客 612

【公共云三十问 之二十七】国计民生之化工：数智云如何重塑传统化工新范式？

在架构方面，方案构建云边协同的统一体系，涵盖AI协同、数据协同与运营协同三大维度——总部集中训练大模型，边缘节点负责推理执行，云边持续迭代，实现“边用边学”的智能闭环，模型平均精度提升20%以上。此外，方案提供一站式企业级工业物联网平台、数据湖与数据治理平台，覆盖工业数据分析“采、存、算、管、用”全流程，打通生产现场与管理系统间的数据壁垒，有效消除数据孤岛。层面，方案充分发挥软硬协同优势，实现计算、存储、网络与云平台的深度协同，训练线性度超95%，为大模型训练推理提供强劲算力支撑。▲化工“数智”新模式。

华为云官方博客 663

【公共云三十问 之二十六】国计民生之钢铁：数智云如何淬炼中国钢铁新力量？

同时，构建云边端协同的统一架构，支撑集团总部与各生产基地两级协同发展——总部集中训练大模型，边缘节点负责推理执行，云边持续迭代，实现训推一体化的资源调度与高效协同，为钢铁行业的数智化转型构建了坚实的算力底座。层面，方案构建覆盖“工业数采→边缘IT/OT融合→统一数据湖→数据治理平台→数据应用”全链路的一站式数据治理与流通平台，打通生产现场与管理系统间的数据壁垒，让数据“采得到、流得动、用得好”，加速数据价值从生产现场向经营决策层流动释放。湘潭钢铁集团的钢铁数智云，是钢铁工业智能云建设的标杆案例。

华为云官方博客 524

LakeWatch——MRS 智能运维Agent

从资源池、队列、作业等多个维度，对集群CPU与内存资源进行精细化分析与对比，直观呈现不同时间段的空闲、满载等使用状态，识别资源浪费，指导治理优化，为扩缩容决策提供数据支撑。对HDFS存储进行多维度深度分析（目录、用户、用户组等），涵盖使用量、增量、文件大小分布及数据热度等指标，帮助快速识别增长较快的目录、长期未访问的文件，统计目录文件数量与小文件占比，评估HDFS总存储量与扩缩容需求，为存储治理与资源规划提供全面数据支撑。Agent主动巡检，识别异常趋势并提前预警，让运维从"事后处理"转向"事前预防"。

华为云官方博客 511

华为云专题文档发布：丰富的AI案例、选型指导和概念解读

发布 “云服务选型”、“云计算概念”专题，提供云服务选型指导，助您选择匹配业务的云服务，解读云计算相关概念，开启云上学习之路。开发者工具和文档专区上线，提供从学习、实践到反馈的全链路支持。帮助中心新增100余篇AI案例。

华为云官方博客 286

一个人，也能用AI做点“星东西”

华为云星耀创想者大赛-2026华为云OPC创意大赛等你来~

华为云官方博客 289

从需求到可执行工作项：MCP+Skill 让智能体规划真正落地

回顾整个体验，以前让智能体帮我拆需求，它是洋洋洒洒给我列了一大篇 Markdown，看着挺像那么回事，但最后还是得我一条条往 CodeArts Req 里搬，搬完再手动挂父子关系、排日期，拆需求五分钟，搬运两小时。现在好了，MCP 给智能体接上了"手"，Skill 给它装上了"项目经理的脑子"，一句话下去，34 个工作项连带排期、层级关系全给我建好了，甘特图一拉，齐刷刷都在两周内，节省了多少工作量啊，美滋滋。本次实操在码道代码智能体基础上，构建了一套"需求→可执行工作项"的自动化规划方案。

华为云官方博客 559

华为云码道「码力续航计划」更新！

✅上新GLM‑5.3‑Flash，高速响应，代码生成、工程解析、Agent调试高效输出。新增GLM‑5.3‑Flash福利模型，每日解锁1000万免费Tokens。● 本次活动共发放总量价值100万元Tokens，发完即止！把耗算力的编码重活，交给华为云码道代码智能体🚀🚀。● 每日额度准时刷新，当日清零、次日满血重置。✅复杂算法、大项目解析、批量代码生成随便跑。✅不用抠额度、不用算消耗，放开调试大胆迭代。✅无需额外操作，登录即送，直接切换模型使用。● 把算力交给码道，让撸码不再内耗👏🏻。

华为云官方博客 677

【公共云三十问 之二十四】国计民生之交通：交通云如何铺就数智通衢新坦途？

交通行业作为支撑实体经济的关键基础设施，涵盖公路、铁路、机场、港口、地铁等众多子领域，其中，公路网络作为综合交通运输体系的基础骨架，承担着全国超过70%的客货运量，其数字化、智能化转型的需求尤为迫切。方面，提供Agent开发框架、知识库管理、RAG工程、意图识别、静态应用编排及模型评测等能力，支持客户将行业知识、业务流程与AI能力深度融合，快速构建面向收费稽核、路网调度、应急处置等场景的智能应用。开发并实现落地应用，全面覆盖建设、管理、养护、运营、服务、安全、办公七大业务领域。

华为云官方博客 460

【公共云三十问 之二十五】国计民生之电力：电力云如何点亮数智电力新引擎？

方案构建了覆盖数据获取、质量评估到标准化处理的全链路能力。基于公共云服务商智算底座及气象大模型，通过时空图神经网络重新建模产流机制，中国华电建成超50TB多源融合数据集，突破时空建模与机理融合等五大关键技术，短期径流预测精度较传统机理模型提升5个百分点以上，实现15天中期径流预测精度超85%，推理效率达秒级。基于气象大模型的基础架构与预训练能力，客户可直接在大模型之上开展增量训练与微调，充分利用场站所在区域的高精度历史数据（如3公里、1公里分辨率），针对不同场站和区域的地形地貌与气候特征进行模型调优。

华为云官方博客 380

邀请函｜第三届“兴智杯”全国人工智能创新应用大赛开幕式，期待您现场莅临

AI 算法工程师、大模型应用开发、智能编码、国产软硬件栈开发者、开源开发者。大赛官方参赛对象就包含企事业单位开发者团队、个人开发者中华人民共...诉求：了解本届赛题方向、对接算力 / 技术资源、认识同行、获取参赛信息。意向参赛团队、往届参赛选手、技术团队负责人、个人独立开发者。

华为云官方博客 478
上一篇： 建设数字工厂：MRP物料需求计划的逻辑原理与配置方法
下一篇： 掌握Spring条件装配的秘密武器
点赞 0
评论 0
书签 书签 0
华为云开发者联盟
华为云开发者联盟 企业官方账号 企业官方账号
博客等级 码龄10年 72万+粉丝 5984原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值