节点分区数据仓库:实验与改进
1. 网络与成本模型
在处理节点分区数据仓库时,我们采用交换网络。这种网络允许不同节点对同时发送数据且无冲突,进而能更高效地实现重分区算法。
1.1 本地处理成本(LC)
连接操作的本地处理成本通常取决于连接是否有索引等快速访问路径支持,以及参与连接的关系大小。同时,本地处理成本还应考虑本地执行的其他操作。为简化,我们假设这些成本随关系大小单调增加,不过实际情况会受多个参数影响,包括内存缓冲区限制。
1.2 合并成本(MC)
合并成本与在合并节点对收集的部分结果应用最终查询相关。我们定义加权参数,分区成本权重为β,本地处理权重为α,β/α表示分区成本与本地处理成本的比率。
考虑大小为Ri的大关系、N个节点以及前面描述的线性成本模型,可得到处理连接的成本表达式。为简化,以下表达式仅考虑两个大关系,片段大小为Ri/N。
-
等分区关系的连接成本:
[Join\ Cost\ with\ Equi - partitioned\ Relations=\left(\frac{R_1}{N}+\frac{R_2}{N}+\cdots + r_1 + r_l\right)] -
非等分区关系(需重分区)的连接成本:
[Join\ Cost\ with\ Repartitioning=\left(\left(1 - \frac{1}{N}\right)\times\frac{R_1}{N}+\left(1 - \frac{1}{N}\right)\times\frac{R_2}{N}+\frac{IR}{N
超级会员免费看
订阅专栏 解锁全文
1614

被折叠的 条评论
为什么被折叠?



