yyyy_1987的博客

目前学到的感知机是单层感知机，单层感知机仅仅包含两层单元神经，即输入神经元和输出神经元，可以非常容易地实现线性情景，但是很难处理线性不可分的情形，其学习过程会出现一定的震荡，权重系数难以稳定。 对于线性不可分的情况，在感知机上一般有两个处理方向，一个是SVM，一个是神经网络模型（也叫做多层感知机，MLP），他与单层感知机的区别在于多了隐藏层，这使得神经网络能够处理非线性问题。 非线性代码实现 先尝试基于Numpy搭建一个两层的神经网络，基于numpy实现神经网络的思路为定义网络结构，初始化模型参数，定

向量机 线性可分情况 首先向量机线性分类最优超平面应该满足： 1.该超平面分开了两类 2.该超平面有最大化间隔、 3.该超平面位于间隔中间 如下图所示： 数学描述 先给出限制条件和最小化 两个事实 事实一 事实二 一个点到超平面的距离为 向量机优化问题推导 根据事实一，我们可以用去缩放,最终使得在向量机上有 而在非支持向量机上 根据事实二，支持向量机到超平面的距离变为： 线性不可分情况 在线性不可分的情况，上述情况是无解的，所以我们需要...