线性模型(02)广义线性模型--分类

最新推荐文章于 2024-12-27 15:09:42 发布

原创

最新推荐文章于 2024-12-27 15:09:42 发布 · 1.8k 阅读

2 ·

CC 4.0 BY-SA版权

本文介绍了线性模型中的广义线性模型，重点探讨了Logistic回归和Softmax回归在分类任务中的应用。Logistic回归通过sigmod函数实现二分类，而Softmax回归则用于多分类。文章详细阐述了Logistic回归的参数估计、对数线性模型和损失函数，以及与Softmax回归的关系。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

摘要：线性模型不仅仅只有线性回归这样直观的模型，也有广义上的线性模型，它是以线性回归的结果作为模型的自变量。这样的模型比较典型的代表就是Logistic回归和Softmax回归，两者都应用于分类（有监督学习）。其中Logistic回归是用来二分类，Softmax用来做多分类。

在线性模型(1)中主要讨论了线性回归这种直观的线性模型，并且在某些时候，我们会从主观上感觉线性回归也可以用作分类，比如样本均匀的分布在线性模型的两侧，但事实并非如此。如图1所示，两个图中紫色线表示线性回归的结果，绿色表示Logistic回归的结果。很容易看出来，当同一类样本比较聚集的时候，线性回归也可以做到分类的效果，但是也可以看到图1右图，当部分样本分布在图像右下角时候，线性回归必然会受到这些样本的影响，从而向一侧偏离，不过Logistic回归的结果仍旧稳定。