逻辑回归LR

本文介绍了逻辑回归LR的基本概念,包括模型构建——将线性回归与sigmoid函数结合,以及为什么逻辑回归适用于分类任务。讨论了逻辑回归的损失函数,指出线性回归的均方误差不适用,而采用的是交叉熵损失函数。文章最后预告了最小化损失函数和正则化的相关内容。

一、模型函数

逻辑回归LR   =   线性回归   +   sigmoid
它是过去应用最广泛最流行的一种分类/排序算法,

虽然逻辑回归的名字是“回归”,但它是一种分类算法。

一般来说,不建议用线性回归做分类,因为线性回归的输出值可能远大于1或远小于0,而逻辑回归的输出压缩在区间[0,1]

线性回归:h_{\theta}(x)=\theta_{0} x_{0}+\theta_{1} x_{1}+\theta_{2} x_{2}+\cdots+\theta_{n} x_{n} =\theta^{T} x,其中x_0 = 1,线性回归对特征权重有很好的解释性。

sigmoid函数:g(z) = \frac{1}{1+e^{-z}},函数图像如下:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值