8、设备端协同推理的编码计算技术解析

设备端协同推理的编码计算技术解析

1. 背景与MapReduce框架

由于边缘设备的计算、存储和电力资源有限，在单个移动设备上运行大型且计算密集的人工智能模型往往不可行。MapReduce是一种广泛认可的框架，可利用分布式计算节点高效完成数据密集型任务。近年来，研究人员借助MapReduce的分布式计算结构，整合移动设备的分布式计算和存储资源，以高效完成机器学习任务，如图像识别。

MapReduce框架中的计算任务依赖于分布式节点上预先存储的本地数据组成的整个数据集。该计算任务具有MapReduce结构，可分解为对每个节点上的本地数据执行Map操作得到中间值，再通过Reduce函数处理这些中间值。在移动边缘AI中，每个移动设备需要其计算任务的输出。由于每个设备的计算任务所需的中间值分布在多个分布式节点上，所有参与设备在计算Reduce函数之前会交换中间值。因此，MapReduce框架的典型过程通常包括三个阶段：Map、Shuffle和Reduce。在Map阶段，根据每个节点上的本地数据计算中间值；在Shuffle阶段，交换这些中间值；在Reduce阶段，将中间值合并为每个节点的计算结果。

为了说明基于MapReduce的分布式计算系统的整体计算过程，考虑一个由K个移动设备组成的典型分布式计算系统。假设整个数据集被均匀分割成一组F位的文件$f_1, \cdots, f_N$，每个设备k只能访问文件的一个子集$F_k \subseteq {f_1, \cdots, f_N}$。设备k的计算任务表示为$\varphi_k(d_k; f_1, \cdots, f_N)$，其中$d_k$是输入。例如，对象识别的数据集是各种对象的特征向量库。给定图像的输入特征向量，每个移动设备需要分类的推理