47、激活函数 - sigmoid

最新推荐文章于 2025-03-02 09:19:45 发布
最新推荐文章于 2025-03-02 09:19:45 发布
阅读量612 收藏 7
点赞数 12
分类专栏： CV视觉算法入门与调优 文章标签： 机器学习 人工智能 算法 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/dongtuoc/article/details/135330012
版权
本文介绍了sigmoid激活函数，其特征包括S形曲线输出、非线性、全实数域可导。sigmoid适用于二分类问题，与梯度下降等优化算法配合良好。然而，它存在梯度消失和计算开销大的问题，导致在深度学习中逐渐被ReLU等高效函数取代。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

今天在看一个比较常见的激活函数，叫作 sigmoid 激活函数，它的数学表达式为：

其中，x 为输入，画出图来看更直观一些。

Sigmoid 函数的图像看起来像一个 S 形曲线，我们先分析一下这个函数的特点。

  1. Sigmoid 函数的输出范围在 (0, 1) 之间，并且不等于0或1。

  2. Sigmoid 很明显是一种非线性函数，因此也可以用来做激活。

  3. Sigmoid 函数非常平滑，在整个实数范围内都是可导的。

从以上几个特点，可以看出 sigmoid 作为激活函数的一些优势。

  1. Sigmoid 可用于二分类问题，因为它将输出映射到(0, 1)的概率范围，适用于模型输出表示概

了解本专栏 订阅专栏 解锁全文 超级会员免费看
YOLO11改进 - 激活函数 - 十余种常见的激活函数一键替换​
10-31
常见的激活函数包括但不限于sigmoid、tanh、ReLU及其变体（如Leaky ReLU、Parametric ReLU、Exponential Linear Unit (ELU)等）、Swish以及最近提出的GELU（Gaussian Error Linear Unit）等。这些激活函数各有优缺点...
激活函数在神经网络中应用，sigmoid导数证明sigmoid*（1-sigmoid）
05-04
在神经网络向后传播误差，权值修正，激活函数sigmoid求导，资料上基本都是列出公式，现给予略证，初学者
神经网络中经常使用的激活函数--sigmoid函数
学无止境
06-08 2万+
神经网络中经常使用的激活函数–sigmoid函数σ(x) sigmoid函数（σ） sigmoid函数原型 sigmoid函数是机器学习中的一个比较常用的函数，其函数原型如下图所示： sigmoid函数的函数曲线以及其导数曲线如下图所示： 通过上图可以看出在趋于正无穷或负无穷时，sigmoid函数都趋近平滑状态。当x趋近负无穷时，y趋近于0；趋近于正无穷时，y趋近于1。由于sigmoid函数输出范围为（0，1），所以二分类的概率常常用使用这个函数。 sigmoid函数求导 Sigmoid函数的导数是其本
激活函数(sigmoid、tanh、ReLU、softmax)
tcn760的博客
04-07 10万+
文章目录1.1、sigmoid函数1.2、tanh函数1.3、ReLU函数1.4、softmax函数 激活函数在神经网络中的作用有很多，主要作用是给神经网络提供非线性建模能力。如果没有激活函数，那么再多层的神经网络也只能处理线性可分问题。常用的激活函数有sigmoid、tanh、relu、softmax等。 1.1、sigmoid函数 sigmoid函数将输入变换为(0,1)上的输出。它将范围(-inf,inf)中的任意输入压缩到区间(0,1)中的某个值： sigmoid(x)=11+exp(−x)sigm
【漫话机器学习系列】114.逻辑 Sigmoid 函数
最新发布
IT古董
03-02 2445
逻辑回归（Logistic Regression）是机器学习中常用的分类算法，而 Sigmoid 函数 是逻辑回归的核心数学工具。Sigmoid 函数能够将任意实数映射到 (0,1) 之间，因此特别适用于概率估计。在这篇文章中，我们将深入探讨 Sigmoid 函数的数学公式、特性、导数、应用以及其在逻辑回归中的作用。
sigmoid函数（Logistic函数）
Dontla的博客
01-25 8437
Sigmoid函数由下列公式定义： 其对x的导数可以用自身表示： Sigmoid函数的图形如S曲线： Sigmoid函数的级数表示： Sigmoid常用数值： 用python打印Sigmoid函数曲线： import numpy as np import matplotlib.pyplot as plt def sigmoid(x): return 1.0/(1+np.exp(-...
一文搞懂激活函数(Sigmoid/ReLU/LeakyReLU/PReLU/ELU)
null
05-30 1万+
深度学习算法之前的机器学习算法，并不需要对训练数据作概率统计上的假设；本文将覆盖问题1和问题2，并分析如何采用合适的激活函数解决问题；最后提出一些普适性的选择激活函数的建议。至于问题3，则更多的与Batch Normalization相关。
Altera-FPGA-sigmoid.rar_Sigmoid函数_fpga_sigmoid FPGA_tobaccoggo_激
07-15
在本文中，我们将深入探讨如何在FPGA（Field-Programmable Gate Array）上实现Sigmoid激活函数。Sigmoid函数是神经网络中广泛使用的非线性激活函数，它能够将输入值映射到0到1之间，使得结果更加适合作为概率解释。...
神经网络的激活函数之sigmoid
01-07
根据每一层前面的激活、权重和偏置，我们要为下一层的每个激活计算一个值，但在将该值发送给下一层之前，要是用激活函数对这个输出进行缩放。 sigmoid函数 sigmoid函数是一个logistic函数，意思是说不管输入什么，...
常用的激活函数Sigmoid,ReLU,Swish,Mish,GELU
liguiyuan的博客
07-01 1万+
Sigmoid激活函数在我们的网络模型中比较常用，也常作为二分类任务的输出层，函数的输出范围为（0,1）
python语言画出Sigmoid,Tanh,RuLe函数图像
11-26
python语言画出Sigmoid,Tanh,RuLe函数图像,实现图像的可视化
Sigmoid 函数
MagicQIT的专栏
01-08 3万+
Sigmoid函数，即f(x)=1/(1+e-x)。是神经元的非线性作用函数。广泛应用在神经网络中。 神经网络的学习是基于一组样本进行的，它包括输入和输出（这里用期望输出表示），输入和输出有多少个分量就有多少个输入和输出神经元与之对应。最初神经网络的权值（Weight）和阈值（Threshold）是任意给定的，学习就是逐渐调整权值和阈值使得网络的实际输出和期望输出一致。 给定以下的总输入，我们
Sigmoid函数
热门推荐
saltriver的专栏
02-26 13万+
Sigmoid函数是一个有着优美S形曲线的数学函数，在逻辑回归、人工神经网络中有着广泛的应用。
机器学习之你不懂的 sigmoid函数
qq_39783601的博客
04-16 2万+
sigmoid函数sigmoid函数原型什么是sigmoid函数？Sigmoid函数的表达式：Sigmoid函数的图像：函数的基本性质：Sigmoid函数与逻辑回归如何绘制sigmoid函数图像 sigmoid函数原型 对于分类任务来说，如果仅仅给出分类的结果，在某些场景下，提供的信息可能并不充足，这就会带来一定的局限。因此，我们建立分类模型，不仅应该能够进行分类，同时，也应该能够提供样本属于该类...
S型函数：Sigmoid 函数
bluenight专栏
11-22 4万+
Sigmoid函数，即f(x)=1/(1+e-x)。神经元的非线性作用函数。（-x是幂数） 人工神经网络的学习算法-BP算法 神经网络的学习是基于一组样本进行的，它包括输入和输出（这里用期望输出表示），输入和输出有多少个分量就有多少个输入和输出神经元与之对应。最初神经网络的权值（Weight）和阈值（Threshold）是任意给定的，学习就是逐渐调整权值和阈值使得网络的实际输出和期望输
逻辑回归(Logistic Regression)详解,公式推导及代码实现
weixin_30326745的博客
08-22 907
逻辑回归(Logistic Regression) 什么是逻辑回归: 　　逻辑回归(Logistic Regression)是一种基于概率的模式识别算法,虽然名字中带"回归",但实际上是一种分类方法,在实际应用中,逻辑回归可以说是应用最广泛的机器学习算法之一 回归问题怎么解决分类问题? 　　将样本的特征和样本发生的概率联系起来,而概率是一个数.换句话说,我预测的是这个样本发生的概...
深度学习：Sigmoid函数与损失函数求导
zhishengqianjun的博客
07-18 11万+
1sigmoid函数 1 从指数函数到sigmoid 2 对数函数与sigmoid 2sigmoid函数求导 3神经网络损失函数求导 1、sigmoid函数​ sigmoid函数，也就是s型曲线函数，如下： 函数：f(z)=11+e−z 函数：f(z)=\frac{1}{1+e^{-z}} 导数：f′(z)=f(z)(1−f(z)) 导数：f'(z)=f(z)(1-f(z)) ​ 上面是我
python绘制神经网络中的Sigmoid和Tanh激活函数图像(附代码)
FengInYe的博客
10-15 1万+
最近在研究神经网络，用python绘制了一下常见的Sigmoid函数和Tanh函数，别的不多说，直接上代码： #!/usr/bin/python #encoding:utf-8 import math import matplotlib.pyplot as plt import numpy as np import matplotlib as mpl mpl.rcParams['axes.uni
Hard-Sigmoid 激活函数
09-07
Hard-Sigmoid是一种激活函数，它是Sigmoid激活函数的一种变体。与Sigmoid函数相比，Hard-Sigmoid函数的计算更加简单和高效。Hard-Sigmoid函数在输入值小于-2.5时输出为0，在输入值大于2.5时输出为1，而在输入值位于-2.5和2.5之间时输出为输入值的线性变换。这种函数的目的是在保持简单性和高效性的同时，提供一种非线性的表达能力。Hard-Sigmoid函数在一些轻量级网络中常常用来替代Sigmoid函数，以减少计算量和模型复杂度。<span class="em">1</span><span class="em">2</span><span class="em">3</span><span class="em">4</span>
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

董董灿是个攻城狮

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值