【无聊问题之】感知机为什么用“超平面的法向量和截距”而不是直接用函数

感知机是一种监督学习算法，用于解决二分类问题。它的基本思想是通过找到一个超平面来将输入空间划分为两个区域，每个区域对应一个类别。这个超平面由权重向量 w 和偏置 b 定义，其数学表达式为 w·x + b = 0。

1. 权重向量 w：
   • w 是超平面的法向量，决定了超平面的方向。在几何上，法向量垂直于超平面，指向分类为正的一侧（或相反，这取决于如何定义正负类别）。
   • 权重向量的每个分量对应输入特征空间中的一个维度，其绝对值大小表示该维度对分类决策的重要性，而符号（正负）表示该维度对分类结果的贡献方向。
2. 偏置 b：
   • b 是超平面的截距，决定了超平面在特征空间中的具体位置。偏置项允许超平面不必须经过原点。
   • 偏置可以看作是一个额外的“权重”，对应于一个始终为1的“虚拟”输入特征。这样，权重向量和偏置就可以统一地看作是一个扩展的权重向量，作用于一个扩展的特征向量上。

感知机使用符号函数（sign function）作为决策函数，将输入特征向量映射到输出类别上。符号函数根据输入值（即 w·x + b）的符号来输出类别标签（+1 或 -1）。当输入值大于等于0时，输出+1；当输入值小于0时，输出-1。

感知机模型的假设空间是定义在特征空间中的所有线性分类模型，即函数集合 {f|f(x) = sign(w·x + b)}。