机器学习笔记 - 用于实时多任务推理的轻量级模型

一、简述

        训练一个深度神经网络模型来同时做很多事情，这种模型称为多任务架构，与针对每个任务使用单独模型的传统方法相比具有优势。多任务架构是多任务学习的子集，多任务学习是训练一个模型或一组模型以同时执行多个任务的通用方法。

        我们将学习如何训练单个模型以同时执行分类和回归任务。为什么我们要使用轻量级模型？这不会降低性能吗？如果我们不部署到边缘，我们是否应该使用尽可能大的模型？

        边缘应用需要轻量级模型来以低功耗执行实时推理。但是如果在准确度损失在可接受的范围内，其他应用程序也可以从轻量级模型中受益，轻量级模型的最大好处就是其相对较低的计算要求。通常可以降低服务器使用率，从而降低功耗。

二、目标数据集

        这里的目标是训练单个模型以同时进行分割和深度估计。根本目标是以快速有效的方式执行这些任务，但代价是可接受的性能损失。深度和分割都是密集预测任务，并且有相似之处。例如，单个对象的深度可能在该对象的所有区域上都是一致的。

        我们将使用City Scapes 数据集提供（左摄像头）输入图像分割掩模和深度图。对于分割图，我们选择使用标准训练标签，其中有 19 个类别 + 1 个未标记类别。