2.3 logistic回归损失函数

本文深入探讨logistic回归模型中的损失函数和成本函数。介绍了logistic回归的目标是找到使得预测值y^接近实际值y的参数w和b。损失函数采用-(y*log(y^)+(1-y)log(1-y^)),而非误差平方,因为它能确保优化问题为凸优化,利于梯度下降法寻找全局最优解。成本函数则是单个样本损失函数的平均值,用于评估模型整体性能。通过最小化成本函数,训练logistic回归模型。下节将介绍logistic回归与神经网络的关系。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

为了训练logistic回归模型的参数w以及b,需要定义一个成本函数。

让我们来看一下。用logistic回归来训练的成本函数。

一、扼要重述

回忆一下,这张幻灯片的函数,你的输出y^=sigmoid(w^Tx+b),这里定义为sigmoid(z)。

为了让模型来通过学习调整参数,要给一个m个样本的训练集。很自然地,你想通过在训练集,找到参数w和b,来得到你的输出,对训练集中预测值,将它写成y^(l),我们希望它会接近于在训练集中的y^(i)值。

为了让上面的方程更详细一些,需要说明上面这些定义的y^,是对一个训练样本x来说的,对于每一个训练样本,使用这样带有括号的上标。方便引用说明,还有区分样本。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值