2025_NIPS_Conformal Arbitrage: Risk-Controlled Balancing of Competing Objectives in Language Models

文章核心总结与翻译

主要内容

文章提出Conformal Arbitrage（CA，保形套利） 框架，用于解决大型语言模型（LLMs）部署中相互冲突的目标平衡问题（如实用性与无害性、成本与准确性）。该框架通过数据驱动的阈值校准，在优化主目标的Primary模型与保障约束目标的保守型Guardian模型（或人类专家）之间建立决策边界，无需修改模型权重或访问内部逻辑，仅通过API层面运作，同时提供有限样本、无分布依赖的风险保证，确保不良事件发生率不超过用户设定的预算α。实验在TruthfulQA、MMLU（成本-准确性）和PKU-SafeRLHF（实用性-无害性）数据集上验证了其有效性，CA始终优于随机路由基线，能高效权衡多目标。

创新点

1. 轻量无侵入设计：无需修改模型权重、不依赖logits或概率输出，适配闭源黑盒API，可直接集成现有系统。
2. 理论可靠的风险控制：基于保形风险控制（CRC）校准阈值，提供严格的有限样本风险保证，支持用户自定义风险预算。
3. 通用多目标权衡：不局限于特定冲突目标（如成本-准确性），可扩展至安全性、延迟等任意有界风险指标，同时兼容选择题和自由文本生成场景。
4. 效用最优决策：通过分数差距阈值实现Primary模型自主决策与Guardian模型介入的最优切换，在满足风险约束的同时最大化主目标效用。

---