10、核切换岭回归与股票收益波动率预测研究

核切换岭回归与股票收益波动率预测研究

核切换岭回归

在监督机器学习任务中，传统的核岭回归（KRR）和支持向量回归（SVR）等方法在处理单一数据模式时表现良好，但在面对具有两个或多个模式的数据集时，其性能往往不尽如人意。为了解决这个问题，提出了核切换岭回归（KSRR）模型。

1. 核岭回归基础
   在核岭回归中，右侧的式子是关于某个变量的二次函数，我们可以通过求解线性系统来找到最优解。重要的是，在优化过程中，我们只需要数据的内积 (k(x_i, x_j) = \langle x_i, x_j \rangle) 。一旦求解出相关参数，我们就可以仅使用内积来预测新的 (x) 对应的 (f(x)) 。
   核岭回归的预测公式可以表示为：
   [f(x) = \sum_{i = 1}^{n} \alpha_i k(x_i, x) ]
   其中，(\alpha) 由输入向量 (x_i) 的加权和给出。

2. 核切换岭回归模型
   假设因变量由再生核希尔伯特空间（RKHS）中的以下两个模型之一生成：
   - 模式 1：(y_i = f_1(x_i) + \epsilon_{1i} = \beta_{10} + \sum_{k = 1}^{n} \beta_{1k} k(x_i, x_k) + \epsilon_{1i}) ，概率为 (\pi)
   - 模式 2：(y_i = f_2(x_i) + \epsilon_{2i} = \beta_{20} + \sum_{k = 1}^{n} \beta_{2k} k(x_i, x_k) + \epsi