CuAPSS:用于全对相似性搜索的混合CUDA解决方案
1. 背景知识
在处理全对相似性搜索(APSS)问题时,有并行和串行两种解决方式。并行方式包括基于MapReduce和多核的解决方案。多数并行方法基于MapReduce框架,利用其特性设计算法。部分MapReduce方法先使用映射器计算向量对的部分相似性值,经过洗牌阶段后,相同向量对的部分相似性值被传输到归约器进行累加,但这种方法存在节点间通信成本高、数据集增大时扩展性差的问题。基于分区的MapReduce方法仅使用映射任务解决该问题,先将数据集划分为块,再在每个块中并行执行串行APSS算法,还会使用过滤策略修剪不相似的向量。此外,只有pAPT和PL2AP这两个工作专注于多核解决方案。
在介绍APSS问题之前,先明确一些符号和概念:
- 设 $D = {d_1, d_2, …, d_n}$ 是n个对象的集合,每个 $d_i$ 是m维特征空间中的实值、非负、稀疏向量,$d_i = {w_{i,1}, w_{i,2}, …, w_{i,m}}$,其中 $w_{i,k}$ 是 $d_i$ 的第k个特征值,$f_k$ 是第k个特征的频率。
- 稀疏向量 $d_i$ 可表示为所有对 $(k, w_{i,k})$ 的集合,其中 $w_{i,k} \neq 0$,这种表示方式称为前向列表,记为 $F = {F_1, F_2, …, F_n}$。
- 向量 $d_i$ 的L2 - 范数记为 $|d_i| = \sqrt{\sum_{k = 1}^{m} w_{i,k}^2}$,为简化计算,所有向量都已归一化,即 $|d_i| = 1$。
- 向量 $d_i$ 的前缀记为 $d_i^{<p} = {w_{i,1},
超级会员免费看
订阅专栏 解锁全文

被折叠的 条评论
为什么被折叠?



