多任务学习系统的性能很大程度上依赖于任务间的损失权值。手动调节权值非常耗时耗力,论文提出使用任务间的同方差不确定性给每个损失函数赋权。模型由单一图像同时学习像素级深度回归、语义及实例分割。场景理解的多任务学习在机器人领域比较实用,多个任务组合到一个模型可以降低计算量。
多任务学习中每个任务的最优权值依赖于调节尺度、任务的噪声幅值。论文多任务学习的结构为:
相关工作
多任务学习可以认为是归纳知识迁移,通过共享互补任务的域信息提升泛化性能。
MultiNet
CrossStitch
PoseNet
UberNet
多任务学习-同方差不确定性
简单的多任务学习,每个任务的权值线性相加:
Ltotal=∑iwiLi