4、符号回归基础与应用实例解析

符号回归基础与应用实例解析

1. 监督学习基础与符号回归概述

监督学习是机器学习中的重要部分，其建模流程包含学习方法、方法验证、模型评估、超参数优化等环节，通过训练、测试和验证数据来寻找最优模型。在监督学习中，交叉验证可用于估计参数化建模方法的泛化误差。

符号回归（SR）是一种特殊的回归分析方法，其学习到的模型由数学表达式表示，通过操作表达式的符号表示来找到该表达式。与其他回归分析形式不同，SR的模型结构不是预先指定的，而是与模型的数值参数同时确定。这使得SR特别适用于没有参数化模型可用的回归任务，并且得到的模型可以由领域专家进一步研究，以更好地理解被建模的系统。

2. 多项式识别实例

2.1 数据收集与预处理

对于一个简单的目标函数建模问题，首先要生成训练数据。以函数 (y = f(x)) 为例，在区间 ([-5, 5]) 上等间距采样21个 (x) 值，并获取对应的 (y) 值，数据以矩阵形式组织，如下表所示：
| (x) | (y) |
| ---- | ---- |
| -5.0 | -105.00 |
| -4.5 | -75.35 |
| -4.0 | -51.96 |
|… |… |
| 4.0 | 83.94 |
| 4.5 | 115.84 |
| 5.0 | 155.00 |

在监督学习中，这些数据包含输入变量 (x) 和目标变量 (y)，任务是找到一个SR模型 (M)，使得 (\hat{y} = M(x)) 且 (\hat{y}) 与 (y) 之间的误差最小。数据应划分为训练集和测试集。由于此数据只有一