2025_NIPS_OPTFM: A Scalable Multi-View Graph Transformer for Hierarchical Pre-Training in Combina...

OPTFM 论文总结与核心部分翻译

一、文章主要内容

该研究针对组合优化问题中现有模型泛化性差、难以处理大规模异构图的痛点，提出了首个面向通用组合优化的图基础模型 OPTFM。组合优化问题常被建模为图结构，具有结构多样、分布多变和NP难复杂度等特点，现有方法多针对特定任务设计，缺乏通用性。

OPTFM 核心围绕两大模块展开：

1. 高效多视图图Transformer架构：通过混合自注意力（变量/约束内部）和交叉注意力（变量与约束之间）机制，在保证语义一致性的前提下，以 (O(N)) 时间复杂度处理大规模异构图，解决了传统Transformer在图任务中计算复杂度高、难以适配异构节点的问题。
2. 双层次预训练框架：结合节点级图重构（通过掩码边预测恢复图结构，学习节点与边的表示）和实例级对比学习（将不同图分区结果视为同一实例的多视图，通过对比学习捕捉全局图表示），实现了节点、约束和整个问题实例的鲁棒表示学习。

实验验证方面，在MIPLIB2017等数据集上，OPTFM生成的嵌入无需微调，在三大下游任务（解预测、大规模邻域搜索、求解器配置）中持续优于任务特定模型（如SCIP、GNN-GBDT）和现有预训练方法（如GCN、SGFormer），在部分场景下甚至接近商业求解器Gurobi的性能，为组合优化问题提供了通用且高效的基础模型解决方案。

二、创新点

1. 首个通用组合优化基础模型：突破现有方法的任务特异