线性模型小结：还分不清线性回归和线性分类模型？

0. 写在前面

今天对线性模型做一个总结，围绕以下两个点理一理思路：

判别函数 - 决策函数；
线性模型 - 线性模型各类拓展

具体沿着以下几个问题展开：

1. 生成方法与判别方法
2. 判别函数与决策函数
3. 线性模型
4. 广义的线性模型
5. 解决非线性的分类问题
6. 解决多分类的问题

1. 线性模型

再谈线性模型之前，首先懂得区分一个点：
线性回归用于解决回归问题，而 LR 和 SVM等线性模型用于解决分类问题。

线性模型 (Linear Model) 是机器学习中应用最广泛的模型, 指通过样本特征的线性组合来进行预测的模型.

注： f(x;w) 或 f(x;θ) 表示的意思是 f 是关于 x 的一元函数，w或θ 只是参数（而不是自变量）

2. 用于回归和分类

实际上 ，可以对线性模型 f(x) 施加任何形式的变换，即引入各种形式的决策函数，来解决各种不同的问题。

例如：

f(x)为离散的值：线性多分类模型
f(x)为实数域上实值函数：线性回归模型
f(x)为对数：对数线性模式
f(x)进行sigmoid非线性变