机器学习 - 第三章 线性模型

基本形式

线性回归

多元线性回归的模型：

广义线性模型：

其中，函数g( · )称为联系函数，
对数线性回归是在g( · ) = ln( · )时的特例

对数几率回归

图中可看出单位阶跃函数不连续，因此不能直接用作广义线性模型中的g-( · ) ，于是找到一个近似单位阶跃函数的“替代函数” ，对数几率函数：

线性判别分析

多分类学习