Softmax到Arcface的转变过程

最新推荐文章于 2025-07-04 23:16:06 发布
最新推荐文章于 2025-07-04 23:16:06 发布
阅读量419 收藏 1
点赞数
CC 4.0 BY-SA版权
本文为博主原创文章，未经博主允许不得转载。
本文链接：https://blog.youkuaiyun.com/qq_38973721/article/details/113102949
这篇博客介绍了从Softmax到ArcFace的转变过程，探讨了Softmax的局限性和改进方法。通过引入角度距离和调整相似度系数，最终形成ArcFace，以增强分类的明显性和提升收敛速度。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

二分类下的Softmax

在这里插入图片描述

当P1 = P2

p1−p2===>(W1−W2)x+b1−b2=0p_1-p_2 === >(W_1 - W_2)x + b_1 - b_2 = 0p

了解本专栏 订阅专栏 解锁全文 超级会员免费看
从softmax到ArcFace
杯酒和雪的博客
04-09 884
0. softmax σi(z)=ezi∑j=1mezj \sigma_i(z)=\frac{e^{z_i}}{\sum_{j=1}^{m}e^{z_j}} σi​(z)=∑j=1m​ezj​ezi​​ 其中，exe^xex的作用： 对xxx取exp变为非负数，避免正负值抵消 更容易达到终极目标one-hot形式，或者说，softmax降低了训练难度，使得多分类问题更容易收敛。 Soft...
softmax改造：ArcFace
zcm0126的博客
05-24 956
1. Softmax 如果有n类，则权重w为n个向量组成的矩阵。 Θ\ThetaΘ是特征向量x与对应权重向量wiw_iwi​之间的角度。在softmax中，只需要Θ1<Θ2\Theta _{1}<\Theta _{2}Θ1​<Θ2​即可判定x属于第1类。 2. L-Softmax 首次提出angular margin的思想。对softmax进行改造，引入角度间隔系数m。m是一个大于1的数，需要在m∗Θ1<Θ2m*\Theta _{1}<\Theta _{2}m∗Θ1​&lt
Softmax扩展
u013250861的博客
03-06 425
在机器学习尤其是深度学习领域中，经常需要把一些输入映射到0-1之间的概率值。这个时候最先想到的就是sigmoid和softmax了，softmax是二分类函数sigmoid在多分类上的推广，目的就是将多分类结果以概率的形式展现出来。在数学，尤其是概率论和相关领域中，softmax函数又称归一化指数函数，是逻辑函数的一种推广。Softmax函数实际上是有限项离散概率分布的梯度对数归一化。
ArcFace
cdknight_happy的专栏
03-06 1924
论文：ArcFace: Additive Angular Margin Loss for Deep Face Recognition 代码：https://github.com/deepinsight/insightface 0 摘要 本文提出了新的监督值：cos⁡(θ+m)\cos(\theta + m)cos(θ+m)，在进行权重和特征归一化的基础上最大化角度空间的决策边界。 还强调了使用深度...
机器学习: Metric Learning (度量学习)
JNing
06-10 2万+
[1] Wikipedia-距离函数 [2] DistLearnKit [3] 基于深度学习的Person Re-ID（度量学习） [4] 度量学习 [5] 度量学习（Distance Metric Learning）介绍
ArcfaceDemo.zip
03-23
具体来说，它将相似度度量从传统的余弦相似度转变为角度距离，使得网络在训练时能更好地学习到人脸的特征表示，从而提高识别的准确性和鲁棒性。 使用ArcfaceDemo时，首先需要注册并获取令牌进行身份验证。这是因为...
【AI视野·今日CV 计算机视觉论文速览 第151期】Tue, 6 Aug 2019
TomRen
08-09 3038
第151期 视觉论文速览 --稀疏卷积图像超分辨 --多焦段图像融合 --深度学习ISP数字图像信号处理 --注意力归一化
对抗样本攻防 一 (近期相关工作总结分析：论文加部分源码)
Enjoy_endless
09-12 1981
之前的文章对于对抗样本有过一个简单的介绍，除了概念、原理的部分内容之外还有一些早期的相关研究工作；在这里更加具体一些，来看一看相关顶会论文对于这一块的研究工作。 对抗样本主要分为两个级别上的：1、像素级别上的；2、单独对抗块级别上的。这里主要关注一下对抗块级别相关的研究工作。 人工智能这么火，越火越代表安全这一块的严重性，因为他的应用确实比较广而且非常贴合实际、影响性大：人脸识别、监控摄像头、自动...
AI人工智能加持，人脸识别精准度飙升
最新发布
大模型应用工坊
07-04 731
想象一下，在一个拥挤的火车站，系统能在瞬间从数千人中准确识别出需要关注的个体；或者你的手机仅通过一瞥就能认出你，甚至在你戴着口罩时也能做到。这不是科幻电影的场景，而是当下AI驱动的人脸识别技术的真实能力。本文将深入探讨人工智能如何彻底改变人脸识别领域，从早期简单的几何特征匹配到如今的深度神经网络模型，揭秘精准度飙升背后的关键技术突破。我们将一步步解析人脸识别的工作原理，探索卷积神经网络、迁移学习等AI技术如何攻克姿态、光照、表情变化等传统难题，并通过实际案例和代码示例展示这些技术如何落地应用。
损失函数（Arc-SoftmaxLoss）
炉边碎语
06-17 2491
原理 Arc-SoftmaxLoss = Arc-Softmax + NLLLoss。 softmax 是通过角度分类的，Arc-Softmax 加宽了角度间的分界线，从而达到加大类间距的目的。 softmax V = wx = cosθ·||w||·||x||（ cosθ = 二范数归一化后的欧氏距离 = wx / ||w||·||x||）。 Si = exp(cosθ·||w||·||x||) / ∑exp(cosθ·||w||·||x||)。 Arc-Softmax（加大 θ 角度） 实验（手写数
Arc-Softmax代码实现(Pytorch)
qq_39086406的博客
11-21 1940
第一种方法：直接增大θ角，再利用反三角函数 import torch import torch.nn as nn import torch.nn.functional as F class ArcSoftmax(nn.Module): def __init__(self,feature_num,cls_num): super().__init__() s...
Arcsoftmax Loss
qq_43586192的博客
03-29 597
class ArcNet(nn.Module): def __init__(self,feature_dim=2,cls_dim=10): super().__init__() #生成一个隔离带向量，训练这个向量和原来的特征向量尽量分开，达到增加角度的目的 self.W=nn.Parameter(torch.randn(feature_dim,cls_dim).cuda(),requires_grad=True) def forward(sel
人脸识别 损失函数 centerloss arcfaceloss pytorch实现
不佛的博客
10-16 3678
Softmax loss
人脸识别0-05：insightFace-损失函数arcface-史上最全
江南才尽江南山，年少无知年少狂！
08-23 7078
以下链接是个人关于insightFace所有见解，如有错误欢迎大家指出，我会第一时间纠正，如有兴趣可以加QQ：944284742相互讨论技术。 insightFace目录:https：//blog.youkuaiyun.com/weixin_43013761/article/details/99646731： softmax到arcface 在讲解arcface loss之前，我们必须去看一下softmax家......
ArcFace算法笔记
热门推荐
AI之路
06-10 7万+
论文：ArcFace: Additive Angular Margin Loss for Deep Face Recognition 论文链接：https://arxiv.org/abs/1801.07698 代码链接：https://github.com/deepinsight/insightface 这篇文章提出一种新的用于人脸识别的损失函数：additive angular margi...
人脸识别系列（十三）：SphereFace
qwioer的博客
03-05 364
论文链接：SphereFace: Deep Hypersphere Embedding for Face Recognition 从C...
卷积神经网络（二）：Softmax损失以及反向传播导数推导
Fire_Light_的博客
03-13 5526
Softmax与交叉熵 Softmax函数如下： Pk=eθkx∑dj=0eθjxPk=eθkx∑j=0deθjxP_k=\frac{e^{θ_kx}}{\sum_{j=0}^de^{θ_jx}} 其中，Pk对应输出层第k个神经元的输出，也就是预测为第k类的概率,d表示输出层神经元总数 其损失函数(交叉熵)如下： J(θ)=−1n∑i=0n∑j=0dI(label(i)==k)lnPiJ...
softmax与sigmoid分类区别
A20120942的博客
04-26 1348
个人理解 sigmoid可以进行二分类也可以进行多分类，其中进行二分类时inputnum为1，得到是该类的概率；进行多分类时inputnum对应类别数，针对每个类是或不是，没有类间相关性，可用于多标签分类。 softmax则输出每个类别的概率，总体概率为1，有类间相关性。 ...
人脸识别：coco loss-Rethinking Feature Discrimination and Polymerization for Large-scale Recognition
迷途中一个小书童
11-13 2561
nips的一篇做分类和识别的工作，其中在人脸识别任务上也做了实验，Rethinking Feature Discrimination and Polymerization for Large-scale Recognition.Yu Liu, Hongyang Li, XiaogangWang。提出了一个新的损失函数：congenerous cosine，本质上就是一个cosine距离版本的t
softmax层运算过程
02-14
### Softmax 层的运算过程 Softmax 函数用于多分类问题中的最后一层，能够将模型输出转换成概率分布形式。具体来说，在神经网络中，Softmax 层接收来自前一层（通常是全连接层）的输入向量 \( z \)，并将其映射到...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小鹏AI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值