4、二分类支持向量机：原理、特性与应用

二分类支持向量机：原理、特性与应用

1. 映射到高维空间

1.1 字符串映射

在某些情况下，输入数据会被映射到一个 $lk$ 维的空间，也就是所有长度为 $k$ 的字符串的组合。对于长度为 $k$ 的输入字符串，如果它与变量字符串的差异最多为 $k$ 个不匹配，那么特征空间中对应变量的值为 1，否则为 0。对于任意输入，变量的值是输入中所有 $k$ 子字符串的不匹配计数。然后通过特征空间中变量的点积来计算核值。

1.2 动态时间对齐核

在语音识别中，需要匹配不同长度的数据序列。Shimodaira 等人提出了动态时间对齐核。设两个向量序列为 $X = (x_1, \ldots, x_m)$ 和 $Y = (y_1, \ldots, y_n)$，其中 $m$ 和 $n$ 通常不同。动态时间对齐核定义为：
[
H_s(X, V) = \max_{\varphi,\theta} \frac{1}{M_{\varphi\theta}} \sum_{k = 1}^{L} m(k) g^T(x_{\varphi(k)}) g(x_{\theta(k)}) = \max_{\varphi,\theta} \frac{1}{M_{\varphi\theta}} \sum_{k = 1}^{L} m(k) H(x_{\varphi(k)}, x_{\theta(k)})
]
其中，$L$ 是归一化长度，$m(k)$ 是权重，$M_{\varphi\theta}$ 是归一化因子，$\varphi(\cdot)$ 和 $\theta(\cdot)$ 是通过动态规划对齐两个序列的时间对齐函数，以使它们变得相似。

1