0-学习旅行商问题需要重新思考泛化(2022)

Abstract

最近，针对图组合优化问题（如旅行商问题TSP）的神经网络求解器的端到端训练受到了极大的关注，但在节点数量超过几百的图上仍然难以处理且效率低下。尽管在非常小规模的图上训练的最新学习驱动方法在性能上接近经典的求解器，但它们无法将学到的策略推广到更大规模的实际实例上。本文提出了一个端到端的神经组合优化流程，该流程统一了几篇最近的论文，以识别出促进推广到比训练中看到的更大的实例的归纳偏好、模型架构和学习算法。我们控制的实验首次对这种零样本泛化进行了原则性的研究，揭示了超出训练数据的外推需要重新思考神经组合优化流程，从网络层和学习范式到评估协议。此外，我们通过我们的流程分析了深度学习在路由问题上的最新进展，并提供了刺激未来研究的新方向。

关键词 组合优化 · 旅行商问题 · 图神经网络 · 深度学习

1 Introduction

NP-hard组合优化问题是一类整数约束优化问题，在大规模情况下难以找到最优解。对于这些问题的鲁棒近似算法在实际应用中非常重要，是现代工业的支柱。在组合问题中，二维欧几里得旅行商问题（TSP）是运筹学（OR）界研究得最深入的NP-hard图问题，它在物流、遗传学和调度等领域有应用[1]。对于现代计算机来说，当节点数量超过数千时，TSP问题难以找到最优解[2]。在实践中，Concorde TSP求解器[3]使用线性规划和精心设计的启发式算法来