Softmax Sigmoid

WorldModel WorldModel 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 100+累计阅读 152平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄27年
关注
原创 最新推荐文章于 2026-05-23 10:43:30 发布 152 阅读 AI 写同款· GEO 优化 ›
Sigmoid 与 Softmax 的区别 Sigmoid 与 Softmax 的区别结论定义图例 参考：Multi-label vs. Multi-class Classification: Sigmoid vs. Softmax、Sigmoid function、Softmax function 结论 sigmoid：使大的更大、小的更小（保持数值被归整到0-1之间） softmax：使所有的值之和为1（保持数值间的大小关系） 定义 sigmoid 处理的是单个输入值，不关注整体输入数据的关系。 f(yi)=11+e−yi for&nb 阅读详情

Softmax Sigmoid

https://www.ritchieng.com/

Intoduction to Deep Neural Networks
https://www.ritchieng.com/machine-learning/deep-learning/neural-nets/

Logistic Regression
https://www.cntk.ai/pythondocs/CNTK_103B_MNIST_LogisticRegression.html
logistic regression (LR) network is a simple building block that has been effectively
powering many ML applications in the past decade.

Binary Logistic Regression
Multinomial Linear Regression

Softmax 多分类

 

-

 

=========

LOSS

当多分类变为二分类时，交叉熵LOSS和Logistic Regression LOSS一样。
https://gombru.github.io/2018/05/23/cross_entropy_loss/

-
-

 

--

Ref

https://dataaspirant.com/difference-between-softmax-function-and-sigmoid-function/

 

 

收录于
01.深度学习

当前文章被收录于：

01.深度学习
9 篇文章 1 人学习
订阅专栏 查看详情
04.ML

当前文章被收录于：

04.ML
5 篇文章 0 人学习

机器学习

订阅专栏 查看详情
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
sigmoid和softmax 1、两者都是把数据压缩到(0, 1)区间内，但sigmoid函数只处理二分类问题，softmax函数处理任意多分类问题，当n为2时，softmax函数就退化成了sigmoid函数。 2、参考：作者：读芯术 链接：https://www.zhihu.com/question/295247085/answer/720755769 函数分类大pk！sigmoid和softmax，到底分别怎么用？ 图片来源：unsplash.com/@harlsta 设计模型执行分类任务（如对胸部X光检查到的疾.. 阅读详情

相关推荐

详解softmax和sigmoid

详解softmax和sigmoid激活函数简介softmax函数softmax函数的性质softmax函数的使用softmax的实现代码python实现softmax函数图像sigmoid函数sigmoid函数的性质sigmoid函数的使用sigmoid的实现代码python实现sigmoid函数绘图softmax和sigmoid的对比 激活函数简介 从事或对人工智能行业有了解的人员来说，相信对s...

CFH1021的博客 4211

sigmoid和softmax总结

sigmoid函数（也叫逻辑斯谛函数）： 　引用wiki百科的定义：　　A logistic function or logistic curve is a common “S” shape (sigmoid curve).　　其实逻辑斯谛函数也就是经常说的sigmoid函数，它的几何形状也就是一条sigmoid曲线。　　logistic曲线如下： 　　同样，我们贴一下wiki百科对softma

老哥的专栏 13万+

银河麒麟V10 SP3离线安装Nginx1.21.5全记录（附11个rpm包下载清单）

本文详细记录了在银河麒麟V10 SP3操作系统上离线安装Nginx 1.21.5的全过程，包括11个必备rpm包的下载清单。通过分步骤的实战指南，帮助用户在国产化环境中高效部署Nginx服务，涵盖安装、配置、调优及故障排查等关键环节，特别适合金融、政务等对安全性要求高的场景。

weixin_30872337的博客 602

softmax与sigmoid的区别

111

普通攻击往后拉的博客 2万+

为什么你的PROFINET IRT同步性能不达标？等时模式常见配置误区盘点

本文深入剖析了PROFINET IRT等时模式同步性能不达标的常见原因。文章直击痛点，系统盘点了从硬件兼容性、拓扑组态、过程映像分区分配，到同步OB配置、时序参数调校及带宽管理等关键环节的配置误区，并提供了实用的诊断思路与性能优化清单，帮助工程师精准定位并解决同步抖动、时序混乱等难题。

ujm5678901的博客 457

从零到一：RK3588嵌入式开发中的SDK与MPP集成实战解析

本文详细解析了RK3588嵌入式开发中SDK与MPP（Media Process Platform）的集成实战，涵盖开发环境构建、SDK架构解析、MPP集成关键技术点及常见问题诊断。通过Qt5.12.10交叉编译环境配置和硬件加速优化，帮助开发者高效完成嵌入式视觉项目开发，特别适合边缘计算应用场景。

weixin_29189381的博客 509

一文详解Softmax与Sigmoid函数

在机器学习和深度学习领域，激活函数是神经网络的核心组件，它们通过引入非线性特性，使模型能够捕捉复杂的模式和关系。在分类任务中，Softmax 和 Sigmoid 是两种最常用的激活函数。尽管它们都能将实数映射到概率空间，但它们的数学定义、应用场景和实际效果有着显著差异。

qq_60865111的博客 8139

即插即用系列（代码实践） | CVPR 2025 FDConv：频域动态卷积，打破密集预测任务的参数效率瓶颈

本文提取自 CVPR 2025 的最新底层算子革新论文《Frequency Dynamic Convolution for Dense Image Prediction》。近年来，动态卷积（Dynamic Convolution）通过融合多个并行卷积核极大地提升了模型性能，但研究表明：这些并行卷积核在频域上的响应高度相似，导致了极其严重的参数浪费，且缺乏对不同频率特征的自适应能力。本文复现了该网络的核心架构——FDConv（频率动态卷积）。该方案创造性地在傅里叶域（Fourier Domain）中学习固定参

分享顶会顶刊论文即插即用模块 108

Sigmoid和Softmax的区别和联系

本文介绍了Softmax函数和Sigmoid函数在二分类和多分类问题中的联系与区别，并结合代码，做了可视化展示

python_plus的博客 2941

【乐鑫】唤醒词修改方法

乐鑫科技的语音识别模块（如ESP-SR）支持自定义唤醒词，但需通过官方工具链完成。

以实战经验介绍行业知识 823

为YOLOv11引入自适应特征融合模块（ASFF）

本文探讨了在YOLOv11中引入ASFF（自适应空间特征融合）模块以解决多尺度目标检测性能不均衡的问题。作者分析了传统FPN固定融合策略的缺陷，详细介绍了ASFF模块的实现原理，包括动态权重生成网络设计和特征融合机制。通过将ASFF集成到YOLOv11颈部网络，实现了特征在双向流动时的自适应融合，在复杂场景下mAP提升1.2%而推理时间仅增加3-5ms。文章还分享了训练调参技巧和部署注意事项，指出ASFF特别适合交通监控等目标尺度变化大的场景，但强调需根据实际需求平衡模型复杂度与性能。最后提供了工程实践建议

as1225120794的博客 320

概率模拟（sigmoid、softmax）

sigmoid、softmax

MechMaster 2468

30 中望CAD二次开发（ZRX C++）-windows下的qt开发

本文介绍了中望CAD在windows下，如何使用qt开发插件界面，给出了具体的编码步骤，并生成了模态对话框和非模态对话框，其中非模态对话框可以调用CAD命令，实现交互操作。

cilvsuanna的博客 189

三分钟认知Softmax和Sigmoid的详细区别

Softmax以及Sigmoid这两者都是神经网络中的激活函数，对应还有其他的激活函数引入激活函数是为了将其输入非线性化，使得神经网络可以逼近任何非线性函数（原本没有引入激活函数，就是多个矩阵进行相乘，无论神经网络多少层都是线性组合，这个概念是感知机）Softmax以及Sigmoid两者都是作为神经网络的最后一层，通过激活函数之后转换为概率值这两种激活函数如何选择，以及如何应用在不同场景，本身就是伯努利分布和二项分布的差别。

码农研究僧的博客 2万+

《YOLO多模态创新改进专栏目录 》全网独家创新，多模态融合改进教程，包含早期融合、中期融合、后期融合、损失函数改进、二次创新模块、独家创新等几百种创新点改进，答疑群提供完整项目，永久更新中

🔥《YOLO多模态创新改进专栏》重磅来袭！🚀 本专栏汇集最新顶会顶刊创新点，提供1000+篇YOLO多模态改进方案（涵盖v8-v26），包含： 多模态融合策略（早期/中期/后期） 损失函数优化 独家创新模块 详细改进步骤 ✨特色服务： ✔️ 配套完整可运行项目 ✔️ 专业答疑群支持（含非计算机专业指导） ✔️ 持续更新至2026年 ✔️ 适用目标检测/OBB/分割/分类等多任务 💡适合人群： 科研人员 | 研究生 | 需发SCI/CCF论文者 环境要求宽松，新手友好，助力快速产出科研成果！ 📈早订优

Ai缝合怪、助力小伙伴高效发论文 742

android 蓝牙通讯demo

android 下蓝牙通讯demo，实现了发现蓝牙，使能蓝牙，通过蓝牙发送消息。

sigmoid与softmax的区别与联系

阅文原文 Softmax与Sigmoid有哪些区别与联系？ 1. Sigmoid函数 SigmoidSigmoidSigmoid函数也叫LogisticLogisticLogistic函数，将输入值压缩到(0,1)(0,1)(0,1)区间之中，其函数表达式为： Sigmoid(x)=11+e−x Sigmoid(x) =\frac{1}{1+e^{-x}} Sigmoid(x)=1+e−x1​ 函数图像如图所示： 其求导之后的表达式为： Sigmoid⁡′(x)=Sigmoid⁡(x)⋅(1−Sigmoi

frighting_ing的博客 2512

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用，资源的后缀为tar.gz格式的压缩包

sigmoid和softmax对比

导数 \(\sigma'(x) = \sigma(x)(1-\sigma(x))\)，在输入远离 0 时（如\(x > 4\)或\(x < -4\)），梯度接近 0，易导致。例如：输入\(2, 1, 0\) → Softmax 输出\(0.7, 0.2, 0.1\)。： 梯度计算涉及所有输入值，公式较复杂。但结合交叉熵损失后，梯度表达式简化为 \(\text{输出值} - \text{真实标签}\)，训练更稳定。将整个实数轴压缩到 (0, 1) 区间，中间区域变化陡峭，两端趋于饱和。

mayaohao的博客 1154

WINCC7.3破解文件

WINCC7.3硬件够破解文件，有需要的下载！WINCC7.3硬件够破解文件，有需要的下载！

神经网络：Sigmoid 和 Softmax

Sigmoid 将输入值（logits）映射到 [0,1][0, 1] 的范围，用于表示每个独立事件的概率。Softmax 将一组输入值（logits）归一化为概率分布，输出的每个值表示该类别的相对概率，总和为 1。是两种常用的激活函数，它们的数学形式、作用范围以及适用场景都有显著的不同。以下从多个方面进行详细比较。

XIAO_yux的博客 1952

softmax和sigmoid的异同

softmax和sigmoid的异同 1. Sigmoid函数 Sigmoid =多标签分类问题=多个正确答案=非独占输出（例如胸部X光检查、住院）。构建分类器，解决有多个正确答案的问题时，用Sigmoid函数分别处理各个原始输出值。 优点：1. Sigmoid函数的输出在(0,1)之间，输出范围有限，优化稳定，可以用作输出层。2. 连续函数，便于求导。 缺点：1. 最明显的就是饱和性，从上图也不难看出其两侧导数逐渐趋近于0，容易造成梯度消失。2.激活函数的偏移现象。Sigmoid函数的输出值均大于0，

薰珞婷紫小亭子的博客 1218

Softmax函数和Sigmoid函数的思考

由于softmax是对两个类别（正反两类，通常定义为0/1的label）建模，所以对于NLP模型而言（比如泛BERT模型），Bert输出层需要通过一个nn.Linear()全连接层压缩至2维，然后接softmax（pytorch的做法，就是直接接上。sigmoid得到的结果是“分到正确类别的概率和未分到正确类别的概率”，softmax得到的是“分到正确类别的概率和分到错误类别的概率”。前者0.2805指的是分类类别为0的概率，0.8748指的是分类类别为1的概率。同样的，得到两个类别的概率之和也是1.

qq_58011370的博客 1556

Sigmoid vs Softmax

Sigmoid vs Softmax 在分类问题上的适用

小小老大MUTA的博客 579

Sigmoid和Softmax在二分类中使用的区别与实现

对于二分类有三种实现方式： 1. nn.Linear(input, 1) + sigmoid + BCELoss 全连接输出维度为1，使用sigmoid将输出映射到0,1之间 self.outputs = nn.Linear(input, 1) def forward(self, x): # other layers omitted x = self.outputs(x) return torch.sigmoid(x) 那么在这种情况下，我们使用torch.

whocare的博客 5346

c++ softmax sigmoid

softmax c++实现with opencv int softmax(const cv::Mat & src, cv::Mat & dst) { float max = 0.0; float sum = 0.0; max = *max_element(src.begin<float>(), src.end<float>()); cv::exp((src - max), dst); sum = cv::sum(ds...

jacke121的专栏 3470

为什么transformer用softmax而非sigmoid ？

②因为效果问题，目前大部分语言、视觉预训练模型用的都还是Softmax Attention，不过最近Apple的一篇技术报告最近重新发掘了Sigmoid Attention的潜力。首先回顾Sigmoid的基本性质。③约束Sigmoid Attention注意力分数的范数大小就可以稳定其训练，可以用Alibi位置编码，也可以对sigmoid的bias项b赋一个大的初始负值，可行的方案是-ln(n)（n为序列长度），加上对b的初始化约束后，用ROPE的模型就可以正常训练。

qq_56583393的博客 767

Sigmoid和Softmax共通与区分

Softmax以及Sigmoid这两者都是神经网络中的激活函数，将输入非线性化。都作为神经网络的最后一层，将输出数值转换为概率值。

Netceor的博客 1204
上一篇： benchmark: GLUE ,CoQA,SQuAD
下一篇： KG知识图谱
点赞 0
评论 0
书签 书签 0
WorldModel
WorldModel
博客等级 码龄27年 23粉丝 75原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值