【机器学习】逻辑回归

最新推荐文章于 2025-05-19 17:30:46 发布

迷迷迷迷路的鹿鹿

最新推荐文章于 2025-05-19 17:30:46 发布

阅读量202

点赞数

CC 4.0 BY-SA版权

分类专栏：理论区机器学习文章标签：机器学习逻辑回归

本文链接：https://blog.youkuaiyun.com/yao09605/article/details/93054954

逻辑回归是一种用于分类问题的机器学习算法。它通过将输入特征线性组合并应用sigmoid函数转化为0到1之间的概率。本文介绍了如何用逻辑回归预测病人是否患有恶性肿瘤，并详细阐述了代价函数、梯度下降更新规则以及预测过程。通过对参数的迭代优化，最终找到最优解，完成模型训练。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

逻辑回归是解决分类问题。样本的输入X是标量矩阵，而输出y是标记，只有固定几个值。
举个例子，给你一系列参数，病人的年龄，身高，体重，肿瘤数量，肿瘤大小，一些血液参数等，判断病人得的是恶心肿瘤（1）还是良性肿瘤（0）。
从标量寻找一个模型映射到标记变量是困难的。于是转变思路，把这个病人是否得恶性肿瘤转为这个病人有多少概率得恶性肿瘤，这个概率在0-1之间，是一个连续的变量，我们可以规定概率超过某个阀值就诊断病人得的是恶性肿瘤。

那么我们的问题就是从 $X→p(y)(0≤p(y)≤1)X\rightarrow p(y)(0\le p(y) \le1)$
求X中不同特征值对y的影响，我们很容易想到线性组合: $XβX\beta$
这样我们需要求的一个函数就是 $(−∞,∞)→(0,1)X\beta\rightarrow p(y) \ \ \ (-\infin,\infin)\rightarrow(0,1)$

sigmoid 函数正好是这样的一个函数，它的图像如图：
在这里插入图片描述
$sigmoid(x)=11+e−xsigmoid(x)=\frac{1}{1+e^{-x}}$
将上式中的x替换为 $XβX\beta$ 得到： $hβ(X)=11+e−Xβh_\beta(X)=\frac{1}{1+e^{-X\beta}}$
这个就是我们逻辑回归的模型啦。