回归问题-Logistic回归&Logistic回归中为什么是sigmoid函数

最新推荐文章于 2024-07-30 11:29:45 发布
原创 最新推荐文章于 2024-07-30 11:29:45 发布 · 903 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#回归分析 #Logistic #sigmoid

本文深入探讨了Logistic回归这一常用分类方法，详细解释了为何选用sigmoid函数作为模型的基础，并从数学角度进行了严谨的论证。此外，还介绍了如何利用极大似然估计来求解模型参数。

Logistic回归

为什么要用sigmoid函数？

Logistic模型参数求解

参考文献

Logistic回归

         Logistic回归为概率型非线性回归模型，是研究观察结果与一些影响因素之间关系的一种多变量分析方法。

虽然名字中带有“回归”二字，但是它是一种常见的分类问题的方法。

设条件慨率P(y=1 | x)=p为根据某自变量相对于某事件发生的概率。

Logistic回归模型为：

                                                                 P(y=1 | x)=\frac{1}{1+e^{-g(x)}}

这里f(x)=\frac{1}{1+e^{-x}}称为sigmoid函数，其中g(x)=w_{0}+w_{1} x_{1}+\ldots+w_{n} x_{n}。

为什么要用sigmoid函数？

                                                

（1）从sigmoid函数本身理解

sigmoid函数如图所示，由于Logistic回归为一个概率问题，需要将值约束在0-1范围之内，因此使用了sigmoid函数，使其约束在0-1范围之内。

为什么不用阶跃函数？

阶跃函数：

                                                                        

最低0.47元/天 解锁文章
解释logistic回归为什么要使用sigmoid函数
SimonChen
06-11 1625
Logistic Regression 逻辑回归中的sigmoid函数是什么？
最新发布
硅基创想家的博客
02-13 1600
Sigmoid 函数是一种在数学、计算机科学，尤其是在机器学习和深度学习领域广泛应用的函数，以下是关于它的详细介绍：
Logistic Regression为什么使用sigmoid
hwcptbtptp的专栏
12-12 1491
今天看到一个面试题，问的是为什么Logistic Regression使用sigmoid函数？有什么优点和缺点？为什么不使用其他函数，搜了一天，终于理清了一些头绪。 1、 为什么使用sigmoid函数？   发现了一篇文章，写得特别好。从广义现行模型和最大熵的角度分别解释了为什么会有sigmoid函数。 原文 https://blog.youkuaiyun.com/baidu_15238925/arti...
logistic回归为什么要使用sigmoid函数
weixin_30562507的博客
10-15 254
https://www.baidu.com/link?url=LnDjrhLG7Fx6YVgR9WljUILkPZrIzOR402wr2goIS-ARtDv9TwZ2VYVbY74fyVpQlE22nZsMSJLhvNXhxnPNWQpKtPUlBk4SGM8EGjBX1WK&wd=&eqid=b9f03dd400028a0f000000025bc45630 https://bl...
逻辑回归为什么用sigmoid函数
weixin_30609331的博客
11-08 705
Logistic回归目的是从特征学习出一个0/1分类模型，而这个模型是将特性的线性组合作为自变量，由于自变量的取值范围是负无穷到正无穷。 因此，使用logistic函数（或称作sigmoid函数）将自变量映射到(0,1)上，映射后的值被认为是属于y=1的概率。 转载于:https://www.cnblogs.com/ConnorShip/p/9929663.html...
61. 解释logistic回归为什么要使用sigmoid函数 - qq_19645269的博客 - 优快云博客1
08-03
Logistic回归是一种广泛应用的分类算法，它通过将线性回归的结果转换为概率估计来实现二分类问题的预测。在这个过程中，sigmoid函数起着至关重要的作用。sigmoid函数，也称为逻辑函数或logistic函数，它的数学表达式...
【Python机器学习】Logistic回归——基于Logistic回归和Sigmoid函数的分类
weixin_39407597的博客
07-30 576
训练分类器时的做法就是寻找最佳拟合参数，使用的是最优化算法。
精选资源
2d-logistic-regression.rar_MATLAB逻辑回归_logistic二分类_logistic回归_mat
07-15
首先，逻辑回归的核心是Sigmoid函数，其数学表达式为： \[ f(x) = \frac{1}{1 + e^{-x}} \] Sigmoid函数将实数映射到(0,1)之间，使得连续的输入值可以转化为概率输出，非常适合处理分类问题。 在MATLAB中，我们可以...
logistic回归为什么采用sigmoid函数——从广义线性函数推导
zhy_is_pig的博客
09-11 2258
目录Logistic回归基本形式为什么采用sigmoid函数？广义线性模型 Logistic回归基本形式 为什么采用sigmoid函数？ 广义线性模型
为什么logistic回归的要用sigmoid函数？优缺点？
MyNotes
03-21 4426
优点： 1.数据压缩能力，将数据规约在［0，1］之间 2.导数形式优秀，方便计算 缺点： 1.容易梯度消失，x稍大的情况下就趋近一条水平线 2.非0中心化，在神经网络算法等情况下，造成反向传播时权重的全正全负的情况。 为什么要用？ 答案1:logistic是基于Bernoulli分布的假设，也就是y|X~Bernoulli分布，而Bernoulli分布的指数族的形式就是1/(1+exp(-z)) ...
机器学习之Logistic回归激活函数为什么是Sigmoid？
woshicao11的博客
08-06 7876
第一次听到这个问题，大概大脑停顿了片刻，这是个问题吗？因为sigmoid值在0-1之间符合概率分布，处处可导，关键是在0附近变化很快...这些都只是sigmoid的优点。为什么LR不用别的也具有这些优点的激活函数呢？这是数学公式推导出来的——最大熵模型！ 证明Logistic回归激活函数为什么是Sigmoid？假设我们已经证明： 最大熵模型中，条件概率   其中，wi是参数，f为特征函数(...
为什么逻辑回归 模型要使用 sigmoid 函数
05-18 4598
为什么逻辑回归模型要使用 sigmoid 函数？1.广义模型推导所得2.满足统计的最大熵模型3.性质优秀，方便使用（Sigmoid函数是平滑的，而且任意阶可导，一阶二阶导数可以直接由函数值得到不用进行求导，这在实现中很实用）...
Logistic回归与sigmoid
稻草人的专栏
04-21 3350
Logistic回归是一种常用的分类方法，虽然名字叫回归，但它的确是一种用于分类的方法，常用于线性分类或者配合其他应用如神经网络中的每一层可以看成一个logistic回归问题。Logistic 回归本质上是一个线性回归，只不过是在线性回归之后再加了一层激发函数，通常采用sigmoid函数作为激发函数，激发函数的作用是将线性回归的结果映射到0~1区间里。 Sigmoid函数的函数图像如下所示：
Logistic回归与Sigmoid函数
qq_43255766的博客
10-28 3919
一、Logistic回归： 1.1 特征： Logistic回归主要是二分类预测 ，是对概率的估计的一种方法。概率的取值范围在（0，1）。当P>0.5时，预测为1；当P>0.5时，预测为0。(这也就和下文的Sigmoid 函数一样)。 1.2 分类： Logistic回归属于广义线性模型，利用Logistic回归进行分类的主要思想是：根据现有的数据对分类便捷线建立回归。 1.3 ...
深度学习笔记（03）：sigmoid回归
qq_36346625的博客
11-27 682
logistic回归：输出标签是1或者是0时。 回归参数是W是与输入同维的向量，维度是n_x，输出y_hat = Wx + b。 希望输出值是介于0和1中的概率值，实际上着很难办到，因为Wx + b可能是一个很大的数，也有可能是一个很小的数，甚至是负数。这样的一个概率是没有意义的。 记 z = Wx + b y_hat = sigmoid(z)。 逻辑回归logistic的意义就在于，把一定区间内...
Logistic回归
m0_72317603的博客
12-01 1408
梯度上升算法和随机梯度下降法都是常用的优化算法，它们各自适用于不同的场合。梯度上升算法通常适用于样本较少的数据集，它能够获得全局最优解，但当样本比较多时，训练速度会变得特别慢。随机梯度下降法则适用于样本非常多的数据集，因为它的训练速度很快。然而，由于每次更新回归系数只有一个样本参与，所以准确率会降低，并且容易获取到局部最优解，而非整体最优解。因此，在实际应用中，需要根据具体的数据集大小和复杂度来选择合适的优化算法，以在准确性和训练速度之间取得平衡。
Sigmoid函数与逻辑回归
qq_38638132的博客
05-07 9003
文章目录(1). Sigmoid函数的由来——伯努利分布的衍生物1.1 为什么会有 sigmoid 函数的出现？1.2 sigmoid 函数推导过程1.3 sigmoid 函数求导(2). 逻辑回归（Logistic Regression）2.1 逻辑回归算法的最终本质——求决策边界2.2 逻辑回归算法中的重要组成部分 (1). Sigmoid函数的由来——伯努利分布的衍生物 1.1 为什么会有 ...
sigmoid函数在逻辑回归以及深度学习的应用
qq_26249811的博客
11-26 3079
系列文章目录 提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 例如：第一章 Python 机器学习入门之pandas的使用 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录系列文章目录前言一、分类问题1.sigmoid函数介绍2.sigmoid函数在深度学习上的应用3.sigmoid函数的优缺点二、二分类逻辑回归代码1.引入库2.读入数据总结欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Foneone

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值