2025_NIPS_Optimizing the Unknown: Black Box Bayesian Optimization with Energy-Based Model and Reinfo

文章总结与翻译

一、主要内容

该研究针对传统贝叶斯优化（BO）方法存在的“单步短视”问题（过度关注短期收益、易陷入局部最优、在高维/复杂任务中性能不佳），提出了一种融合能量模型（EBM）、高斯过程（GP）和强化学习（RL）的黑盒贝叶斯优化框架——REBMBO（Reinforced Energy-Based Model for Bayesian Optimization）。

核心思路是通过三大模块的协同工作平衡局部建模与全局探索：

1. 局部建模模块（GP代理）：采用经典GP、稀疏GP或深度GP三种变体，精准捕捉目标函数的局部不确定性与趋势，为优化提供局部指导；
2. 全局探索模块（EBM）：通过短程MCMC训练能量模型，学习目标函数的全局能量景观，引导搜索远离无前景区域，避免局部最优陷阱；
3. 多步规划模块（PPO）：将BO迭代建模为马尔可夫决策过程（MDP），利用近端策略优化（PPO）实现自适应多步前瞻，动态调整探索深度与方向，解决单步短视问题。

实验验证方面，在2D到200D的合成基准（Branin、Ackley等）和真实场景任务（纳米光子学、Rosetta等）中，REBMBO及其三种变体均持续优于经典BO、TuRBO、EARL-BO等主流方法，尤其在高维任务中表现突出，同时通过 Landscape-Aware Regret（LAR）指标验证了其在局部利用与全局探索上的均衡性能。

二、创新点

<