ProcessOptimizer中目标函数可视化与期望最小值差异问题解析-优快云博客

本文链接：https://blog.youkuaiyun.com/gitblog_07231/article/details/148665376

ProcessOptimizer中目标函数可视化与期望最小值差异问题解析

ProcessOptimizer A tool to optimize real world problems 项目地址: https://gitcode.com/gh_mirrors/pr/ProcessOptimizer

在ProcessOptimizer优化过程中，用户经常遇到.plot_objective()可视化结果与.expected_minimum()数值计算结果不一致的情况。本文将从技术原理层面深入分析这一现象，并提供解决方案。

问题现象

当使用ProcessOptimizer进行参数优化时，用户观察到：

通过.plot_objective()绘制的目标函数曲面图中显示的期望最小值位置
通过.expected_minimum()计算得到的数值结果
通过result.x获取的优化结果

三者之间存在明显差异，特别是在目标函数较为平坦的区域。

技术原理分析

期望最小值计算机制

ProcessOptimizer中.expected_minimum()的工作原理是：

在搜索空间内随机生成n个起始点（默认n=20）
对每个起始点使用SciPy的minimize函数进行局部优化
从所有局部优化结果中选择最优解作为期望最小值

这种方法的优势在于计算效率较高，但存在以下特点：

不保证找到全局最优解
在平坦区域的结果稳定性较差
对起始点位置敏感

可视化与数值计算的差异原因

.plot_objective()可视化时：

使用固定网格点进行采样
直接显示代理模型预测值
可以直观看到整个搜索空间的趋势

而.expected_minimum()计算时：

依赖随机起始点的局部优化
在平坦区域容易受随机性影响
可能陷入局部最优

解决方案与优化建议

1. 增加随机起始点数量

通过增加采样点数量可以提高结果稳定性：

# 在expected_minimum中增加采样点
expected_minimum = ProcessOptimizer.expected_minimum(
    result, 
    n_random_starts=100,  # 显著增加采样点
    return_std=True, 
    minmax="min"
)

# 在plot_objective中增加采样点
ProcessOptimizer.plot_objective(
    result=result, 
    pars="expected_minimum", 
    dimensions=["...", "..."],
    expected_minimum_samples=100  # 可视化采样点
)

2. 考虑观测噪声

对于存在噪声的优化问题，可以显式考虑观测噪声：

# 添加观测噪声
optimizer.add_observational_noise()

# 执行计算和绘图
result = optimizer.optimize()
ProcessOptimizer.plot_objective(result=result)

# 移除噪声
optimizer.remove_observational_noise()