BayesianOptimization项目基础教程：贝叶斯优化入门指南-优快云博客

本文链接：https://blog.youkuaiyun.com/gitblog_00990/article/details/148440965

BayesianOptimization项目基础教程：贝叶斯优化入门指南

BayesianOptimization 项目地址: https://gitcode.com/gh_mirrors/bay/BayesianOptimization

1. 贝叶斯优化概述

贝叶斯优化是一种基于贝叶斯推断和高斯过程的全局优化方法，特别适用于高成本函数的优化场景。这种方法的核心思想是通过构建目标函数的后验分布（高斯过程），在尽可能少的迭代次数内找到函数的全局最大值。

1.1 工作原理

贝叶斯优化通过以下步骤工作：

构建代理模型：使用高斯过程对目标函数进行建模
平衡探索与利用：通过采集函数（如UCB或EI）决定下一个采样点
迭代优化：不断更新模型，逐步逼近最优解

这种方法特别适合以下场景：

目标函数计算成本高昂
需要平衡探索与利用
参数空间维度适中（通常<20维）

2. 基础使用教程

2.1 定义目标函数

首先需要定义一个待优化的目标函数。虽然在实际应用中我们不知道函数的具体形式，但这里我们用一个示例函数来说明：

def black_box_function(x, y):
    """待优化的黑盒函数示例"""
    return -x**2 - (y-1)**2 + 1

这个函数在x=0，y=1处取得最大值1。但在实际应用中，我们并不知道这个内部结构。

2.2 初始化优化器

from bayes_opt import BayesianOptimization

# 定义参数边界
pbounds = {'x': (2, 4), 'y': (-3, 3)}

# 创建优化器实例
optimizer = BayesianOptimization(
    f=black_box_function,
    pbounds=pbounds,
    verbose=2,  # 输出级别：0静默，1仅最大值，2全部
    random_state=1,  # 随机种子
)

2.3 执行优化

optimizer.maximize(
    init_points=2,  # 初始随机采样点数量
    n_iter=3,       # 贝叶斯优化迭代次数
)

执行后会输出类似如下的结果表格：

|   iter    |  target   |     x     |     y     |
-------------------------------------------------
| 1        | -7.135   | 2.834    | 1.322    |
| 2        | -7.78    | 2.0      | -1.186   |
| 3        | -7.11    | 2.218    | -0.7867  |

2.4 获取优化结果

# 获取最佳参数组合
print(optimizer.max)
# 输出：{'target': -6.999, 'params': {'x': 2.23, 'y': -0.739}}

# 查看所有采样点
for i, res in enumerate(optimizer.res):
    print(f"Iteration {i}: {res}")

3. 高级功能

3.1 动态调整参数边界

优化过程中可以调整参数边界：

optimizer.set_bounds(new_bounds={"x": (-2, 3)})

3.2 引导优化过程

可以指定特定的点进行探测：

# 使用字典指定探测点
optimizer.probe(params={"x": 0.5, "y": 0.7}, lazy=True)

# 或使用列表（注意参数顺序）
print(optimizer.space.keys)  # 查看参数顺序
optimizer.probe(params=[-0.3, 0.1], lazy=True)

3.3 保存和加载进度

from bayes_opt.logger import JSONLogger
from bayes_opt.event import Events

# 设置日志记录
logger = JSONLogger(path="./logs.log")
optimizer.subscribe(Events.OPTIMIZATION_STEP, logger)

# 加载已有日志
from bayes_opt.util import load_logs
new_optimizer = BayesianOptimization(...)
load_logs(new_optimizer, logs=["./logs.log"])