分类和回归

简单理解

分类和回归的区别在于输出变量的类型。

定量输出称为回归，或者说是连续变量预测；

定性输出称为分类，或者说是离散变量预测。

举个例子：
预测明天的气温是多少度，这是一个回归任务；
预测明天是阴、晴还是雨，就是一个分类任务。

参考自：https://blog.youkuaiyun.com/zhuiqiuzhuoyue583/article/details/80354172

举例

Logistic Regression 和 Linear Regression：
    Linear Regression： 输出一个标量 wx+b，这个值是连续值，所以可以用来处理回归问题
    Logistic Regression：把上面的 wx+b 通过 sigmoid 函数映射到(0,1)上，并划分一个阈值，大于阈值的分为一类，小于等于分为另一类，可以用来处理二分类问题
    更进一步：对于N分类问题，则是先得到N组w值不同的 wx+b，然后归一化，比如用 softmax 函数，最后变成N个类上的概率，可以处理多分类问题
Support Vector Regression 和 Support Vector Machine:
    SVR：输出 wx+b，即某个样本点到分类面的距离，是连续值，所以是回归模型
    SVM：把这个距离用 sign(·) 函数作用，距离为正(在超平面一侧)的样本点是一类，为负的是另一类，所以是分类模型
Naive Bayes 用于分类 和 回归:
    用于分类：y是离散的类别，所以得到离散的 p(y|x)，给定 x ，输出每个类上的概率
    用于回归：对上面离散的 p(y|x)求期望 ΣyP(y|x)，就得到连续值。但因为此时y本身是连续的值，所以最地道的做法是，得到连续的概率密度函数p(y|x)，然后再对y求期望。参考 http://www.cs.waikato.ac.nz/~eibe/pubs/nbr.pdf
前馈神经网络(如 CNN 系列) 用于 分类