Pytorch深度学习（六）：Softmax函数实现多分类

已于 2022-08-21 19:31:50 修改
阅读量5.5k 收藏 32
点赞数 1
分类专栏： Pytorch深度学习 文章标签： 深度学习 pytorch 分类 神经网络
于 2022-08-21 18:31:51 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_40806950/article/details/126453269
版权

Pytorch深度学习（六）：Softmax函数实现多分类

一、预备知识

  • 多分类
    在这里插入图片描述
    与之前的二分类不同，这个例子要识别手写数字的多分类
    在这里插入图片描述
    需要求出各类别的概率分布，且这些概率之和为1

  • Softmax函数
    softmax函数，又称归一化指数函数。它是二分类函数sigmoid在多分类上的推广，目的是将多分类的结果以概率的形式展现出来。下图展示了softmax的计算方法
    在这里插入图片描述
    下面给出一个简单的例子，展示softmax层的计算
    在这里插入图片描述
    同样，在处理手写数字图片识别时，我们可以通过softmax层求出概率分布

  • LOSS函数——交叉熵
    我们不再使用之前的BCE损失函数（用于二分类）来度量，而选用CrossEntropy损失函数。
    在这里插入图片描述
    其中 Y ^ \hat{Y} Y^ 为预测的概率分布， Y Y Y 为训练集的数据

  • 激活函数：ReLu
    与之前的Sigmoid函数不同，这里我们使用ReLU（Rectified Linear Unit，修正线性单元）函数：
    R e L u ( x ) = max ⁡ { 0 , x } = { x , x ≥ 0 0 , x < 0 ReLu(x) = \max\{0,x\}=\begin{cases} x,\qquad x\geq 0\\0,\qquad x<0 \end{cases} ReLu(x)&

最低0.47元/天 解锁文章
softmax 多分类
慕云
03-16 846
softmax分类 对数几率回归解决的是二分类的问题，对于多个选项的问题，我们可以使用softmax函数,它是对数几率回归在 N 个可能不同的值上的推广。 神经网络的原始输出不是一个概率值，实质上只是输入的数 值做了复杂的加权和与非线性处理之后的一个值而已， softmax将输出变为概率分布。 softmax要求每个样本必须属于某个类别，且所有可能的样本均被覆盖。 softmax个样本分量之和为 1 。 当只有两个类别时，与对数几率回归完全相同。 pytorch softmax 交叉熵 在 pytorch
PyTorch深度学习实战（4）——常用激活函数和损失函数详解
盼小辉丶的博客
06-23 7461
激活函数和损失函数是深度学习模型中重要组成部分，激活函数和损失函数的选择很大程度上决定了深度神经网络的性能和精度，需要根据具体问题的特点和数据分布等因素进行选择。在本节中，将介绍深度学习中常见的激活函数和损失函数，并说明不同函数的常见应用场景。
Softmax分类函数
SpadgerZ的博客
06-28 3627
softmax分类函数 这部分教程将介绍两部分： softmax函数交叉熵损失函数 在先前的教程中，我们已经使用学习了如何使用Logistic函数来实现二分类问题。对于多分类问题，我们可以使用多项Logistic回归，该方法也被称之为softmax函数。接下来，我们来解释什么事softmax函数，以及怎么得到它。 我们先导入教程需要使用的软件包。 import num
深入理解Softmax函数及其在PyTorch中的实现
最新发布
fydw_715的博客
04-11 1020
Softmax函数在机器学习和深度学习中，被广泛用于多分类问题的输出层。它将一个实数向量转换为概率分布，使得每个元素介于0和1之间，且所有元素之和为1。
Pytorch Softmax 多分类
负负得正的博客
04-14 3240
Softmax 0. 环境介绍 环境使用 Kaggle 里免费建立的 Notebook 教程使用李沐老师的 动手学深度学习 网站和 视频讲解 小技巧：当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。 1.
Softmax回归模型（多分类模型）
m0_53881899的博客
07-24 2845
Softmax回归模型（多分类模型）
softmax与多分类
weixin_30306905的博客
03-01 565
sotfmax 函数在机器学习和深度学习中有着广泛的应用， 主要用于多分类问题。 softmax 函数 1. 定义 假定数组V，那么第i个元素的softmax值为 也就是该元素的指数 除以 所有元素的指数和，取指数是为了使差别更大。 于是该数组的每个元素被压缩到(0,1)，并且和为1，其实就变成了概率。在多分类问题中代表了该元素被取到的概率。 例如 2....
深入理解与实践：Softmax函数在机器学习中的应用
xyaixy的博客
11-21 1621
本文深入探讨了Softmax函数的概念、原理及其在多分类任务、注意力机制和强化学习等领域的实际应用。从基础的数学定义出发，结合手写实现和PyTorch代码，详细说明了Softmax与交叉熵损失的结合及其数值稳定性优化方法。此外，通过一个文本分类的实战案例，展示了Softmax在构建简单分类器中的重要作用。最后，总结了Softmax的优化技巧和实际项目中的使用经验，为开发者提供理论与实践的全面指导。
使用PyTorch进行深度学习：“使用PyTorch进行深度学习：零到GAN”
02-12
使用PyTorch进行深度学习 “使用PyTorch进行深度学习：零到GAN”。 本课程由机器学习的项目管理和协作平台Jovian.ml教授。 教学大纲 该课程分为6个模块，将通过视频讲座和交互式Jupyter...Softmax函数和分类交叉熵
PyTorch: Softmax多分类实战操作
09-16
PyTorch是一个强大的深度学习框架，它提供了丰富的工具和模块来实现各种复杂的模型，包括用于多分类的Softmax函数。本文将深入探讨如何在PyTorch中使用Softmax进行多分类，并结合经典的MNIST数据集进行实战操作。 ...
softmax的多分类
Harrytsz的博客
09-08 3002
关于多分类 我们常见的逻辑回归、SVM等常用于解决二分类问题，对于多分类问题，比如识别手写数字，它就需要10个分类，同样也可以用逻辑回归或SVM，只是需要多个二分类来组成多分类，但这里讨论另外一种方式来解决多分类——softmax。 关于softmax softmax的函数为 P(i)=\dfrac{exp(\theta_i^Tx)}{\sum_{k=1}^{K}exp(\the...
【机器学习】SoftMax多分类
qq_25218219的博客
04-08 1656
给定以歌n×kn×kn×k矩阵Ww1w2wkWw1​w2​...wk​,其中，wj∈Rnw_j\in R^nwj​∈Rn为n×1n×1n×1列向量（1≤j≤k1≤j≤k）,Softmax模型hwRn→Rkhw​Rn→RkhWxew1x∑t1kewtxew2x∑t1kewtxewkx∑t1kewtx。
pytorch torch.softmax()函数
浩瀚之水的专栏
09-07 2236
函数是 PyTorch 中一个非常有用的函数，它主要用于将一组未归一化的分数（logits）转换成归一化的概率分布。这个转换过程是通过应用 softmax 函数来实现的，softmax 函数会将输入张量的每个元素压缩到 (0, 1) 区间内，并且确保输出张量中所有元素的和为 1，从而形成一个概率分布。
softmax多分类
booze_的博客
07-16 6389
Dense是把一个一维的数据映射到另一个一维的数据，不能把二维的数据进行运算，所以我们要把fashionmnist数据先扁平成一维的，
Softmax多分类算法
weixin_33898876的博客
12-06 81
List&lt;double[]&gt; inputs_x = new List&lt;double[]&gt;(); inputs_x.Add(new double[] { 0.2, 0.3 }); inputs_x.Add(new double[] { 0.2, 0.1 }); inputs_x.Add(new ...
多分类-softmax
u010132497的博客
04-03 406
本文来自于网易云课堂 Softmax回归 前面介绍的都是2分类问题，如果是多分类的问题怎么办呢？ 最后一层输出的是一个向量，里面代表了各个概率，其总和为1。 对于l-1层，训练过程和二分类一样，对于l层，激活函数有些区别，需要输入一个4*1维向量然后归一化输出4*1维向量。 Z[l]=W[l]a[l−1]+b[l]Z[l]=W[l]a[l−1]+b[l]Z^{[l]} = W...
PyTorch Softmax
weixin_30653023的博客
04-02 365
PyTorch provides 2 kinds of Softmax class. The one is applying softmax along a certain dimension. The other is do softmax on a spatial matrix sized in B, C, H, W. But it seems like some problems exis...
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值