边缘节点容器生命周期管理

海报：边缘节点的容器生命周期管理

物引联言网（IoT）技术已广泛应用于环境控制和监测应用[2]。许多此类应用根据数据分析结果对环境进行操作，而这些分析超出了物联网设备的计算能力。边缘计算节点[5]可用于为其附近的终端设备提供计算资源。在复杂环境中，大量设备被同时部署以支持不同的应用，这要求边缘节点上具备多种不同的运行时环境，以支持不同类别的请求。

基于容器的虚拟化技术为在边缘节点上提供和管理运行时环境提供了一种轻量级解决方案[4]。边缘节点中的资源（中央处理器、内存、存储和网络）可能不足以支持所有需要可用的容器。当请求到达时，具有适当运行时环境的容器必须在边缘节点上可用。如果该容器尚不可用，则需要创建该容器，这涉及将其镜像加载到内存中。如果内存已满，则需要驱逐当前某个可用的容器。这种情况类似于内存或存储系统中的缓存替换。我们将节点中与创建、分配资源以及销毁容器相关的管理决策称为容器生命周期管理。

新容器的实例化需要执行多个操作，这些操作会导致响应请求的延迟。如果所请求的容器尚未处于运行中状态，则响应延迟包括使容器准备好处理该请求所需的时间。若容器已存在且具备可接受请求的资源，则不存在启动开销。

容器生命周期管理策略由于容器启动开销会影响工作负载的总响应延迟。例如，刚刚被替换的容器可能很快会被后续请求所需，而未被驱逐的容器在未来很长一段时间内可能都不会被使用。从存储中启动容器的开销已被证明至少比从内存中的非活跃版本重启高出100倍[3]。频繁地替换容器可能导致边缘节点进入抖动状态。我们的工作旨在推导出一种新的边缘节点容器生命周期管理策略，可降低物联网应用的请求响应延迟。

该海报报告了我们关于工作负载预测如何影响生命周期管理质量的研究。

我们实现了两种基本的容器生命周期管理策略：先进先出（FIFO）和最近最少使用（LRU）；

• 为了评估我们正在研究的新替换策略，我们实现了两种最优方法，其中替换决策基于对未来请求的完全知识，类似于Belady的最佳缓存替换策略[1]。一种方法针对最优替换决策，而第二种方法还旨在实现容器的最优预加载。

• 我们分析了初步实验的结果

系统信息

图1 描述了我们工作的背景：设备向边缘节点发出请求，调度器组件将这些请求定向到相应的容器。生命周期管理组件将与调度器交互，并使请求的容器可供调度器使用。

就本海报而言，我们仅关注容器生命周期的三种状态：

• 运行中：容器位于内存中，随时准备响应请求；

• 暂停：容器位于内存中，但处于“睡眠模式”，即不消耗中央处理器或输入/输出资源；

• 停止：容器不在内存中，但可在节点上用于内存上传。

边缘节点发布其能够处理的请求的应用程序编程接口（API）。每个应用程序编程接口（API）都关联一个容器类型。用户或终端设备（如智能手机、传感器、执行器）调用应用程序编程接口（API）功能。边缘节点调度请求的基本工作流程包括：查找具有足够资源以处理请求的适当类型的可用容器。如果未找到正在运行中的容器，则调度工作流程将查找已暂停的容器。若找到，则将其重新激活；否则，工作流程将启动一个已停止的容器。我们的目标是管理边缘节点上容器的生命周期，以最小化容器启动所需的时间。

评估

我们的总体目标是通过管理容器生命周期来最小化请求的平均请求响应延迟。本海报重点介绍工作的一部分，即我们如何利用工作负载预测来指导生命周期管理策略。到目前为止，我们对比了先进先出（FIFO）和基本策略等基本策略。

假设具有完美工作负载预测的最优策略的最近最少使用（LRU）。到目前为止，我们的实验使用了合成工作负载。初步结果表明，通过利用工作负载预测提示，有望显著减少容器总启动时间。

下一阶段的实验（本海报中未报告）将针对两类工作负载：用于支持自动驾驶汽车的物联网设备，以及辅助生活设施中的物联网设备。