softmax和sigmoid的比较

刀么克瑟拉莫 刀么克瑟拉莫 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 300+累计阅读 389平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄14年
关注
原创 最新推荐文章于 2026-03-01 08:40:27 发布 389 阅读 AI 写同款· GEO 优化 ›
Sigmoid 与 Softmax 的区别 Sigmoid 与 Softmax 的区别结论定义图例 参考：Multi-label vs. Multi-class Classification: Sigmoid vs. Softmax、Sigmoid function、Softmax function 结论 sigmoid：使大的更大、小的更小（保持数值被归整到0-1之间） softmax：使所有的值之和为1（保持数值间的大小关系） 定义 sigmoid 处理的是单个输入值，不关注整体输入数据的关系。 f(yi)=11+e−yi for&nb 阅读详情

一、相同点

  • softmax求导

  • 在这里插入图片描述

  • sigmoid求导

  • 在这里插入图片描述

  • 两者的导数都有λ(1-λ)，当预测结果错误且值很小时，容易导致权重更新缓慢，所以一般选择交叉熵作为损失函数，交叉熵的导数是1/λ，可以消除权重更新缓慢的影响

二、不同点

  • softmax只用于最后结果输出，因为它会增强数据之间的关联性，不适合在隐藏层使用
  • sigmoid可用于任何层，只是用于隐藏层时，仍会有权重更新缓慢的问题，所以隐藏层激活函数多使用relu
  • softmax用于分类结果互斥的情况，如判断是猫是狗，只有一个可能性；sigmoid用于分类结果独立的情况，如根据图片判断患者得了什么疾病，有多种可能性。
收录于
deeplearning

当前文章被收录于：

deeplearning
77 篇文章 2 人学习
订阅专栏 查看详情
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
Hive SQL零基础到精通：100道练习题+答案，SQL能力快速提升 我将以我15年架构与开发的经验，带领大家从零基础到精通，通过精心设计的100道练习题及其详解，系统地、深度地掌握Hive SQL的核心精髓。它可以将结构化的数据文件映射为一张数据库表，并提供了一套类SQL的查询语言——HiveQL（简称HQL），允许熟悉SQL的用户直接查询存储在HDFS上的海量数据。它将Job描绘为DAG（有向无环图），允许更灵活的任务编排，避免不必要的中间落盘，可以复用容器，从而大幅降低延迟。希望你以此文为起点，在广阔的大数据世界里继续遨游，成为一名真正的数据高手！ 阅读详情

相关推荐

【NVIDIA Jetson Orin系列 - 安装NVIDIA SDK Manager】

NVIDIA Jetson Orin - 安装NVIDIA SDK Manager

dally2的博客 2692

三分钟认知Softmax和Sigmoid的详细区别

Softmax以及Sigmoid这两者都是神经网络中的激活函数，对应还有其他的激活函数引入激活函数是为了将其输入非线性化，使得神经网络可以逼近任何非线性函数（原本没有引入激活函数，就是多个矩阵进行相乘，无论神经网络多少层都是线性组合，这个概念是感知机）Softmax以及Sigmoid两者都是作为神经网络的最后一层，通过激活函数之后转换为概率值这两种激活函数如何选择，以及如何应用在不同场景，本身就是伯努利分布和二项分布的差别。

码农研究僧的博客 2万+

Windows下Python调用D435i相机避坑指南：从SDK版本选择到RealSense Viewer报错解决

本文详细介绍了在Windows环境下使用Python调用Intel D435i相机的完整避坑指南。重点解决了SDK版本选择问题，推荐使用稳定的Intel RealSense SDK 2.54.2版本，并提供了从环境配置、常见报错解决到实际应用案例的全流程实践指导，帮助开发者高效完成相机部署与开发。

palm99的专栏 924

sigmoid 和softmax的区别

但有一个问题，在我们学习数学的分类问题的时候，是不是讲过所有类别概率之和应该是1，sigmoid就做不到这一点，，三个类别的概率可能是0.6，0.9，0.8，都偏高，虽然知道最后计算结果应该是第二类，但是类别之间并没有拉开距离，不利于模型的训练。sigmoid做二分类最后的输出是一个神经元，这个神经元是0-1之间的数，用一个神经元就可以表示是或者不是，，，，softmax的二分类最后的输出是两个神经元，原因在于它需要计算。sigmoid本身是用来做激活函数的，并不是用来做分类的。过程，所以一般称为激活。

virus111222的博客 1661

Verilog仿真必备：FSDB dump命令全解析与实战配置指南

本文深入解析了Verilog仿真中FSDB波形记录的核心命令与实战配置技巧。针对大规模SoC验证场景，详细介绍了如何通过$fsdbDumpvars、$fsdbDumpfile等命令实现信号精准捕获、文件体积控制和动态启停，并提供了智能化的分层dump策略，帮助工程师在保证调试信息完整性的同时，大幅提升验证效率并有效管理波形数据。

cnn8visionary的博客 349

网络调试和分析工具 Proxyman Premium

它支持MacOS、iOS和iPadOS等操作系统，提供丰富的功能，如查看和编辑HTTP/HTTPS请求和响应、设置断点、过滤请求等。Proxyman Premium还支持WebSocket、GraphQL和gRPC等现代网络协议调试，并通过直观且图形化的操作界面，使用户能高效地监控和操纵网络数据流。此外，它还具备多种高级功能，如WebSocket支持、DNS欺骗、自定义SSL证书等，为开发人员提供极大的便利。同时，由于软件版本更新和界面调整，上述步骤可能会有所变化，建议您参考最新版本的官方文档进行操作。

llhf688的博客 2001

softmax和sigmoid的选择

softmax和sigmoid的选择

weixin_42071277的博客 1290

【微信读书】数据内容接口逆向解析实战：从请求捕获到文本提取

本文详细解析了微信读书网页版数据内容接口的逆向工程实战过程。通过浏览器开发者工具捕获网络请求，定位关键API接口，并深入JavaScript代码分析数据解析逻辑，最终实现从请求模拟到文本提取的完整流程。文章旨在技术学习，探讨Web应用数据交互原理，帮助开发者理解现代前端数据流与编码机制。

game4的博客 420

一文详解Softmax与Sigmoid函数

在机器学习和深度学习领域，激活函数是神经网络的核心组件，它们通过引入非线性特性，使模型能够捕捉复杂的模式和关系。在分类任务中，Softmax 和 Sigmoid 是两种最常用的激活函数。尽管它们都能将实数映射到概率空间，但它们的数学定义、应用场景和实际效果有着显著差异。

qq_60865111的博客 8166

基于IC617下Layout XL的使用

基于IC617下Layout XL的使用

weixin_43816759的博客 1万+

把数字化转型真正落到组织里：读懂 SAP 的 OCM 六维框架

摘要： SAP的变革管理框架（OCM）强调数字化转型不仅是技术任务，更需关注组织与人的适应性。OCM包含六大维度：变革战略（明确方向与风险）、变革领导力（统一关键管理者行动）、变革沟通（分层传递信息）、变革实现（细化岗位级影响）、变革赋能（按角色设计培训）和变革有效性（持续评估）。该框架贯穿项目全周期，尤其在云项目中，需从早期规划变革策略，避免后期高代价调整。OCM的核心是将系统设计转化为组织语言，确保业务真正采纳新方式运作。

2007 年 ~ 2025 年，深耕 SAP 技术 18 年 1433

softmax、以及与sigmoid的比较

softmax是什么？ softmax用于多分类过程中，将多个神经元的输出，映射到(0,1)范围内，且这些映射值的总和为1，相当于概率值。 假设某神经网络输出层，共有个元素，其中第i个元素值为，则该元素对应的softmax值为： softmax与sigmoid的区别： sigmoid函数会分别处理各个原始输出值，因此其结果相互独立，概率总和不一定为1 softmax函数的输出值相互关联，其概率的总和始终为1，因此，在softmax函数中，为增大某一类别的概率，其他类别的概率必须相应减少 所以

weixin_44059001的博客 698

多模态论文笔记——BLIP

本文详细介绍这几年AIGC火爆的隐藏功臣，多模态模型：BLIP。

haopinglianlian的博客 2454

激活函数的比较和优缺点，sigmoid，tanh，relu，softmax

2018年03月02日 16:23:35阅读数：17961、什么是激活函数2、为什么要用3、都有什么激活函数4、sigmoid，Relu，softmax1. 什么是激活函数如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数 Activation Function。2. 为什么要用如果不用激励函数，每一层输出都是上层输入的线性函数，无论神经网络有多少...

hellocsz的博客 1万+

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料，已经经过了本人的筛选和整理，希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助！

sigmoid函数与softmax函数的比较

sigmoid函数与softmax函数的比较： 1、函数原型： sigmoid函数： softmax函数： 2、相同点： 给定一个输入z，都能将其映射为一个0-1之间的数 3、不同点： 根据两个函数的计算公式可以看出，如果给出多个输入z，softmax函数能保证它们的映射之和为1，而sigmoid函数不能保证。 因此，sigmoid函数仅用于二分类（即一个输入映射成一个输出，要么是0要么是1）...

weixin_44810016的博客 3609

C# WinForm 基于DirectShow.dll编写的程序，可边预览边保存视频，音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择（默认选中第一个）2.可录制wmv和avi两种格式的视频并且都带有音频，avi可以录制的分辨率和帧数进行选择，wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照，也可边录制视频边拍照4.添加了视频和音频的压缩功能（酌情使用）这次二次开发发现C#对DirectShow的相关信息太少，这次做完也不敢藏私共享出来，还望大家指正

深度学习方法——实验4：代码比较softmax与sigmoid

在计机上验证和测试两种激活函数对应的多层神经网络的原理和算法实现，测试多层神经网络的训练效果。

时生的博客 3083

android 蓝牙通讯demo

android 下蓝牙通讯demo，实现了发现蓝牙，使能蓝牙，通过蓝牙发送消息。

这一篇sigmoid和softmax的比较，讲的不错

文章： http://blog.youkuaiyun.com/u014422406/article/details/52805924   sigmoid函数（也叫逻辑斯谛函数）： 　引用wiki百科的定义： 　　A logistic function or logistic curve is a common “S” shape (sigmoid curve). 　　其实逻辑斯谛函数也就是经常说的sigmoi...

weixin_33862188的博客 281

交叉熵和softmax函数和sigmoid函数（在二分类中的比较）

1. 求交叉熵的步骤 1.将标签进行one_hot编码 2.神经网络输出后接softmax层，即预测值取softmax输出来进行交叉熵计算 3.使用交叉熵公式计算： H(y(i),y^(i))=−∑j=1qyj(i)log⁡y^j(i) H\left( \boldsymbol{y}^{\left( i \right)},\boldsymbol{\hat{y}}^{\left( i \right)}...

orangerfun的博客 7680

sigmoid、Relu、Tanh、softmax激活函数的比较, 以及交叉熵损失函数

sigmoid

dabingsun的博客 3959

深度学习之激活函数的介绍和比较：sigmoid，tanh，relu，softmax

本文参考自3个博客，整理合并而成。 1.https://blog.youkuaiyun.com/haxiongha/article/details/79404304 2.https://blog.youkuaiyun.com/u011684265/article/details/78039280 3.https://www.cnblogs.com/gezhuangzhuang/p/10583394.html 目录...

Yio_Eagle的博客 2353

激活函数比较总结（relu、tanh、sigmoid、softmax)

比较好的解释 其他链接： 链接1 https://blog.youkuaiyun.com/piaodexin/article/details/77162766 (http://www.datalearner.com/blog/1051508750742453)

kellen_f的博客 2815

sigmoid和softmax在二分类上的区别

在二分类问题中，sigmoid 和 softmax 函数都可以用来预测类别概率，但它们在数学形式和概念上有所不同。

TXG0856的博客 1373

学习笔记：神经网络传输函数sigmoid,tanh,ReLu,softmax的比较（非原创）

在神经网络中，sigmoid和tanh分别是两个激活函数，用在每个layer输出的时候。 这里对这个两个激活函数做出比较，首先，将两个函数图像画到一张图上面来： sigmod函数： sigmod(a)=1/(1+exp(-a)) tanh函数（正切三角函数），可写成是sigmod函数的一种变形：tanh(a)=2sigmod(2a)-1,因此tanh函数的一般线性组合可写成sigmod函...

weixin_30876945的博客 550

常见深度学习激活函数及优缺点比较

常见深度学习激活函数及优缺点比较 1、什么是激活函数2、为什么要用3、都有什么激活函数4、sigmoid，Relu，softmax1. 什么是激活函数如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数 Activa...

guaniu_zsx的博客 530

Softmax 与 Sigmoid 的 异同

Softmax 与 Sigmoid 的 异同   Softmax Sigmoid 公式 本质 离散概率分布 非线性映射 任务 多分类 二分类 定义域 某个一维向量 单个数值 值域 [0,1] （0,1） 结果之和 一定为1 为某个正数 Sigmoid...

Andrew_jdw的博客 374

深度学习笔记（三）：激活函数比较分析，可视化，选择（Sigmoid，Tanh，ReLU，Leaky ReLU，PReLU，RReLU，Maxout，Softmax）

文章目录一、简要介绍二、发展历史三、激活函数存在意义四、常见激活函数解析3.0 26种神经网络激活函数可视化3.1 Sigmoid函数（ Logistic 函数 ）3.2 Tanh3.3 ReLU( Rectified Linear Unit )3.4 Leaky ReLU与 Parametric ReLU （PReLU）3.5 RReLU （ Randomized Leaky ReLU ）3....

呆呆象呆呆的博客 9955
上一篇： 大白话解说Focal Loss
下一篇： ubuntu C++文件夹操作
点赞 1
评论 0
书签 书签 0
刀么克瑟拉莫
刀么克瑟拉莫
博客等级 码龄14年 68粉丝 268原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

刀么克瑟拉莫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值