广义线性模型.多项式分布.softmax

《Andrew Ng 机器学习笔记》这一系列文章文章是我再观看Andrew Ng的Stanford公开课之后自己整理的一些笔记，除了整理出课件中的主要知识点，另外还有一些自己对课件内容的理解。同时也参考了很多优秀博文，希望大家共同讨论，共同进步。

网易公开课地址：http://open.163.com/special/opencourse/machinelearning.html

参考博文：http://blog.youkuaiyun.com/acdreamers/article/details/44663305

                http://blog.sina.com.cn/s/blog_8a951ceb0102wa6t.html

本篇博文涉及课程四：牛顿方法

主要内容有：

（1）牛顿法（Newton's Method） （上篇博文已做具体分析）

（2）指数分布族                              （上篇博文已做具体分析）

（3）广义线性模型（GLMS）  

（4）多项式分布                      

广义线性模型

上篇博文中，我们知道了指数分布族，它的定义式为：

，

这次我们要了解的广义线性模型，是基于指数分布族的，我们可以通过指数分布族引出广义线性模型（Generalized LinearModel,GLM）。这种模型是把自变量的线性预测函数当作因变量的估计值。