逻辑回归求导证明

最新推荐文章于 2025-03-09 16:39:56 发布

Kissena

最新推荐文章于 2025-03-09 16:39:56 发布

阅读量511

点赞数 2

CC 4.0 BY-SA版权

文章标签：神经网络机器学习

本文链接：https://blog.youkuaiyun.com/qq_43448392/article/details/85271932

本文详细介绍了逻辑回归中sigmoid函数、损失函数的定义，并通过求导公式推导出损失函数关于预测值a的梯度，即da/dL = a - y。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

知识准备：
$(logx)^\prime = 1/x$
Power rule:
$\frac{d}{dx}\ x^n = \lim_{h→0}\ \frac{(x+h)^n - x^n}{h}\$
$\frac{d}{dx}\ x^n = \lim_{h→0}\ \frac{x^n + nx^{n-1}h + hhh - x^n}{h}\$
$\frac{d}{dx}\ x^n= \lim_{h→0}\ \frac{nx^{n-1}h - hhh}{h}\$
$\frac{d}{dx}\ x^n= nx^{n-1}$
Product rule:
$\quad g(x)>0$
$l o g (f (x) g (x)) = l o g (f (x)) + l o g (g (x))$
$\frac{1}{f(x)g(x)}\ \frac{d}{dx}\ (f(x)g(x)) = \frac{1}{f(x)} f'(x)\ + \frac{1}{g(x)}\ g'(x)$