基于机器学习具有实时高效任务分配的边缘计算系统

Machine Learning based Timeliness-Guaranteed and Energy-Efficient Task Assignment in Edge Computing Systems

基于机器学习具有实时高效任务分配的边缘计算系统

摘要

物联网(IoT)和机器学习(ML)技术在边缘计算系统中的广泛应用，为智能认知助手(ICA)在工作、学习、交通、医疗保健和其他活动中为人们提供帮助铺平了道路。一个挑战是，如何根据延迟、能量和带宽消耗等几个考虑因素，在边缘计算系统(即远程云、雾和边缘设备)的三层之间调度应用程序任务。然而，由于复杂的计算阶段，针对这一挑战的最新方法也无法为关键的ICA任务提供实时时间表。在本文中，我们提出了一种基于强化学习的任务分配新方法——RILTA，它保证了ICA任务的实时性和高效率的执行。首先，我们考虑ICA应用中的时效性和能量消耗，提出了边缘计算系统中的任务调度问题。在此基础上，我们提出了一种方法来解决该问题，并根据该方法的输出设计了牢固的模型。仿真结果表明，与现有方法相比，RILTA可以在保证较高实时性的前提下，分别减少任务处理时间和能量消耗13 ~ 22%和1 ~ 10%。

INTRODUCTION

物联网(IoT)设备(如智能手机、可穿戴智能设备、传感器、自动驾驶汽车)和人工智能(AI)和机器学习(ML)技术的快速发展，为未来使用智能认知助手(ICA)应用来帮助人们工作、学习、交通、医疗保健等等铺平了道路。这些具有高适应性的ICA应用程序将增强人类的性能和生产力，从而为面对日常挑战提供有用的数字之手。亚马逊的Alexa、CMU的SARA(具有社会意识的机器人助手)、苹果的Siri等这类ICA应用的出现就证明了这一点。

在许多情况下，ICA需要实时帮助人们，有些甚至会产生生死攸关的后果，可能使其人类同伴处于危险之中。例如，家庭中的医疗物联网设备必须能够及时预测居民的心脏病发作，并紧急告知患者或其医生。一辆自动驾驶汽车必须能够检测到在它前面过马路的人，并实时决定停下来。同时，边缘计算系统对于实时或低延迟的ICA任务越来越重要。云计算在远程集中存储和处理终端用户的数据，由于数据传输和网络拥塞会产生一定的延迟。而边缘计算可以帮助处理来自物联网设备的数据，并提供实时的本地数据分析。它通过集中网络边缘的可用资源(如智能手机、平板电脑、智能汽车、基站和路由器)来提供更多用户感知、资源高效、可扩展和低延迟的[1]服务，从而使服务的提供更接近最终用户。苹果公司在2017年宣布，将在其高端iPhone[2]上安装机器学习加速器。根据该声明，高德纳公司预测，到2022年，80%的智能手机将配备人工智能。据预测，近50%的物联网数据将在[3]网络的附近或边缘被存储、处理、分析和作用。

尽管利用边缘计算来实现ICA的未来面临着许多挑战，但一个关键的挑战是实现有及时性保证和节能的边缘处理[4]。正如[4]所指出的，在最先进的边缘系统架构中仍然存在差距，由于缺乏及时性，无法解决ICA的信息交付过载。此外，物联网设备受限于有限的电力资源，而ICA任务可能涉及密集的计算和通信，这给实现低功耗边缘处理带来了巨大的挑战。在边缘计算领域，已经提出了几种任务分配方案，通过决定哪一层(远程云、雾和边缘设备)分配任务，以减少任务延迟和(或)能量消耗。这些方法根据其目标可分为两类:(1)能量感知任务分配[5-11]和 (2)带宽感知任务分配[12-16]。然而，这些方案涉及复杂的计算(例如，解决动态规划问题)，这使得它们无法为关键的ICA任务提供实时(或及时保证)的能源效率时间表。此外，同时考虑任务延迟和能量效率等多个目标的分配调度，使得计算更加复杂，在寻找分配调度时产生更高的延迟和能量消耗。

为了提供具有时效性和高能效的边缘处理，我们使用机器学习来解决ICA应用中的任务分配问题。首先考虑数据传输和任务计算的时效性和能量消耗，提出了ICA应用中的任务分配问题。然后我们提出一个启发式的解决方案，最后在所有可能的结果的基础上，依据数据的特征和计算环境我们设计一个基于强化学习(RL)的任务分配方法(称为RILTA)。其特征包括计算任务的紧迫性、数据量、数据传输时延、任务计算时延和任务的资源需求。基于这些特征，RILTA确定任务的分配位置(边缘、雾或云)，以确保实时性和电力效率的实时保证。我们在本文中的贡献如下:

• 根据ICA应用的要求，制定一个任务分配问题，解决截止日期意识和能源效率的问题。
• 为了解决已制定的任务分配问题，我们提出了一个启发式的解决方案，其中节点(边缘，雾或云)获得利润执行ICA应用程序。该利润方案保证了利润最高的节点负责保证不同优先级的任务在截止日期下高效地执行。
• 最后，我们提出了一个强化学习系统RILTA基于我们提出的启发式在模拟环境中产生的结果。RILTA利用了RL中多个agent对环境的自主学习，减少了任务本身的运行时间。

据我们所知，这是边缘计算平台上第一个使用基于RL的方法进行任务分配决策的方案，几乎是实时的，具有较高的能源效率。

本文的其余部分组织如下。第二节介绍了边缘计算中雾/云任务分配的相关工作。在第三节中，我们将任务分配制定成一个数学问题，重点关注ICA应用的特点。在第四部分，我们提出了基于区域的期限感知和能源效率解决启发式的公式问题和RILTA。第五节介绍了RILTA在模拟环境中与其他方法的实验评价。最后，第六部分给出了结论并对未来的工作进行了讨论。

RELATED WORK

近年来，随着物联网和基于移动的应用系统的发展，雾/云任务卸载受到了广泛关注。许多最先进的工作提出了不同的任务卸载方案，这些方案的目标各不相同，同时还减少了计算延迟。根据目标的不同，可以将之前的工作分为两类:(1)能量感知型任务分配[5-11]，(2)带宽感知型任务分配[12-16]。

A. Energy-aware Task Assignment

Chun等人，[5]提出了克隆云，将静态分析和动态分析相结合，从边缘设备上卸载部分应用程序，同时优化与边缘云环境中的计算和通信相关的执行时间和能源使用。克隆云在传入的应用程序上运行代码分析，然后根据预期的工作负载和执行条件(CPU速度、网络性能)决定将应用程序的执行结果卸载到云上。

类似地，Kao等人[6]提出了网络边缘设备之间的任务分配问题，并提供了基于在线学习的算法Hermes，在一定的成本保证下，寻找边缘设备能耗最小的最优策略，该策略定义为边缘云环境中执行和传输延迟的函数。

同样，在边缘云环境中，Wang et al.[8]和Munoz et al.[7]提出了适合于应用的方案，例如人脸检测，它运行在一组固定的图像上，预先知道处理的数据量，并且执行可以并行化成多个过程。在这些方案中，他们考虑将部分应用程序卸载到云上，目的是优化边缘设备的能源消耗能耗。

Sardellitti等人[9]研究了在多个设备上的应用程序卸载，这些设备具有多个输入输出系统，可以卸载到一个共享的云服务器上。卸载方案的目标是在边缘云场景下，在延迟和能量预算约束下，最大限度地减少边缘设备的能量消耗。

对于同一环境，Lyu等[10]从系统任务完成时间和能量减少的角度出发，提出了一种卸载到附近云服务器的决策方案，以最大化体验质量(quality of experience, QoE)。

此外，Dong等人在智能手机节能框架下开发了两种卸载算法，决定卸载任务的云服务器，共同优化在一定置信区间内的保证响应时间性能和能源效率。

虽然上述方法都试图减少任务延迟和(或)提高边缘设备的能量效率，但在计算任务分配调度本身涉及大量的计算，不适合实时性和能量效率要求的ICA任务。在本地计算和远程通信的能量消耗之间的平衡在[17-19]中讨论。

B. Bandwidth-aware Task Assignment

Messaoudi等人[12]提出了一种将计算任务从移动边缘卸载到雾节点的框架，其目标是最小化边缘雾场景中基于低延迟计算卸载的应用程序的总任务完成时间。在他们提出的决策机制中，联合考虑了估计往返时间(RTT)(衡量可用带宽)和边缘设备的能量消耗，以将任务转移到具有高CPU可用性的候选雾节点。他们的系统能够根据带宽的变化不断估计预期的RTT，以满足设备的决定，以卸载部分应用程序计算任务。

yang等[14]研究了从多个边缘设备和雾节点到云的任务优化任务卸载决策，考虑了可用带宽，以实现较高的处理速度或吞吐量。

Fan等人[13]提出了一种边缘雾云环境的卸载机制，根据位于不同环境级别、主要目标节点的传输延迟计算利润，以确保每项任务都在规定的期限内完成。在这种方法中，利润是给计算实体(边缘设备、雾节点或远程数据中心)的收入，用于在截止期限内执行任务，并且它们在其环境的不同层的可用网络带宽上定义了它们的传输延迟。然而，他们使用了基于信息素（pheromone）值的遗传算法（genetic algorithm ）来做分配决策，这不能确保实时找到解决方案。

Wang等人[15]提出了一种称为HealthEdge的任务调度方法，该方法根据收集到的人类健康状态数据，在边缘云环境中为不同的任务设置不同的处理优先级。在他们所提出的方法中，他们估计队列中的总等待时间和传输延迟作为当前网络可用带宽的函数，并试图按照任务优先级的顺序减少总处理时间。

Choudhari等人[16]提出了一种边缘雾环境下的任务调度算法，该算法根据任务的延迟容忍程度有效地对任务进行优先级排序，从而降低了平均响应时间和任务卸载的总成本。在这里，它们通过将传输的数据量除以分配阶段的可用带宽来定义数据传输的成本。

然而，这些方法没有同时考虑到任务的截止日期意识和边缘设备的有限能量。

TASK ASSIGNMENT STRATEGY FOR ICA APPLICATIONS（策略）

ICA运行智能应用程序，