BigCowPeking

阿里达摩院招聘Research Intern

1. 指数损失函数（Adaboost）学过Adaboost算法的人都知道，它是前向分步加法算法的特例，是一个加和模型，损失函数就是指数函数。在Adaboost中，经过m此迭代之后，可以得到fm(x):Adaboost每次迭代时的目的是为了找到最小化下列式子时的参数α和G：而指数损失函数(exp-loss）的标准形式如下可以看出，Adaboost的目标式子就是指数损失，在...

机器学习中的范数规则化之L0、L1、L2范数及loss函数监督机器学习问题无非就是“minimizeyour error while regularizing your parameters”，也就是在规则化参数的同时最小化误差。　 最小化误差是为了让我们的模型拟合我们的训练数据，而规则化参数是防止我们的模型过分拟合我们的训练数据。多么简约的哲学啊！因为参数太多，会导致我们的模型复...

Contrastive loss 最初源于 Yann LeCun “Dimensionality Reduction by Learning an Invariant Mapping” CVPR 2016。 该损失函数主要是用于降维中，即本来相似的样本，在经过降维（特征提取）后，在特征空间中，两个样本仍旧相似；而原本不相似的样本，在经过降维后，在特征空间中，两个样本仍旧不相似。同样，该损失函数...

paper下载地址：https://arxiv.org/abs/1703.05693 code下载地址：https://github.com/syfafterzy/SVDNet-for-Pedestrian-Retrieval 网络结构作者所采用的基础网络为resnet-50，在最后一个全连接层的前面加了一个Eigenlayer，其实就是一个全连接层，只不过对参数做了SVD分...

1.背景简介近年来，行人再识别问题（Person-reID）研究热度逐渐上升。与人脸识别相比，它在采集图像时不需要行人主动配合，在安防等领域具有极大的应用潜力。基于深度学习的行人再识别方法，在近几年快速进步，在绝大部分公开数据集上，深度学习特征均超过了手工设计特征。这篇文章的工作主要围绕利用如何更好地学习的深度特征，提高行人再识别的准确率进行。然而，这篇文章实际上没有具体针对行人再识别的特有问...

人脸识别是目前深度学习领域应用最为广泛的领域之一，各大框架都有不错的开源项目，可以在短时间内实现刷榜。首推Demystifying Face Recognition，由浅入深实验了很多方法人脸识别算法演化史谷歌人脸识别系统FaceNet解析模型评估人脸识别系列从0开始，一起玩人脸识别深度挖坑系列如何走近深度学习人脸识别:https://github.com/Joke...

original url:http://blog.youkuaiyun.com/Layumi1993/article/details/55798568?locationNum=2&fps=1 关于行人重识别综述，推荐一下liang zheng 2016年的综述: Past, Present and Future 写了从传统方法到深度学习，从图片到视频的行人重识别的方法。以下为一些公开...

https://github.com/happynear/NormFace提出问题之前的人脸识别工作，在特征比较阶段，通常使用的都是特征的余弦距离而余弦距离等价于L2归一化后的内积，也等价L2归一化后的欧式距离（欧式距离表示超球面上的弦长，两个向量之间的夹角越大，弦长也越大）然而，在实际上训练的时候用的都是没有L2归一化的内积关于这一点可以这样解释，Softmax函数是：...

今天介绍一下NormFace: L2 Hypersphere Embedding for Face VerificationMotivation希望利用正则化解决两个问题：1. 人脸识别任务里面的loss有softmax、contrastive、triplet、pairwise等等，其中softmax是单个样本输入就可以训练的，其他的都是需要sample的，尤其是metric-learni...

转自：http://blog.youkuaiyun.com/chenriwei2/article/details/50631212 公开人脸数据集 本页面收集到目前为止可以下载到的人脸数据库，可用于训练人脸深度学习模型。人脸识别数据库 描述 用途 获取方法 WebFace 10k+人，约500K张图片 非限制场景 链接 FaceScrub ...

论文链接：ArcFace: Additive Angular Margin Loss for Deep Face Recognition 作者开源代码：https://github.com/deepinsight/insightface 这篇论文原名是ArcFace，但是由于与虹软重名，后改名为Insight Face。其实这篇论文可以看作是AmSoftmax的一种改进版本，总体思路相对较...

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.youkuaiyun.com/weixin_41427758/article/details/80091596论文地址 代码实现：Matconvnet、caffe、kerashttps://github.com/D-X-Y/caffe-reidMotivation现在主流的两种re-ID卷积网络:verificat...

FaceNet论文详解

Loss Functionsoftmax_loss的计算包含2步：（1）计算softmax归一化概率（2）计算损失这里以batchsize=1的2分类为例： 设最后一层的输出为[1.2 0.8],减去最大值后为[0 -0.4]， 然后计算归一化概率得到[0.5987 0.4013]， 假如该图片的label为1，则Loss=-log0.4

fasterRCNN中的RPN的回归框的loss计算方法再次深入的解读SmoothL1Loss损失函数：fasterRCNN中SmoothL1Loss的详解 

转载blog：http://blog.youkuaiyun.com/u014380165/article/details/77284921我们知道卷积神经网络（CNN）在图像领域的应用已经非常广泛了，一般一个CNN网络主要包含卷积层，池化层（pooling），全连接层，损失层等。虽然现在已经开源了很多深度学习框架（比如MxNet，Caffe等），训练一个模型变得非常简单，但是你对这些层具体是怎么实现的

sphereface论文：centorloss 65%，normalface 75%, sphereface 82%，cosface 87%

基于深度学习的人脸识别发展，从deepid开始，到今年（或者说去年），已经基本趋于成熟。凡是基于识别的，总是离不开三个东西：数据，网络，以及loss。数据方面，目前的公开数据集中有主打类别数的MS_celeb_1M，有主打各种姿态角与年龄的VggFace2；也有一些主打高质量的数据集，像WebFace，guo yandong的MS-20K。除了公开数据集之外，图片生成领域也有不错的成果，例如基于三...

2017的一篇cvpr，SphereFace: Deep Hypersphere Embedding for Face Recognition，继centerloss之后又一大作。文章主要提出了归一化权值（normalize weights and zero biases）和角度间距（angular margin），基于这2个点，对传统的softmax进行了改进，从而实现了，最大类内距离小于最小类...

论文：ArcFace: Additive Angular Margin Loss for Deep Face  Recognition首先我们需要来对比一下ArcFace，AM-softmax，A-softmax和softmax之间的联系和区别。可以这样认为, A-softmax是在传统softmax的基础上，通过m和角度相乘，引进了角度间隔（angular margin) m; AM-softm...

最近几年网络效果的提升除了改变网络结构外，还有一群人在研究损失层的改进，这篇博文要介绍的就是较为新颖的Large-Margin softmax loss（L-softmax loss）。Large-Margin softmax loss来自ICML2016的论文：Large-Margin Softmax Loss for Convolutional Neural Networks 论文链接：htt...

论文链接：Additive Margin Softmax for Face VerificationAMSoftmaxSoftmaxASoftmax这是在SphereFace中提出来的损失函数 AMSoftmax 这就是本文新提出的损失函数了。其变化就在于修改了Cos(mθ)为一个新函数：  与ASoftmax中定的的类似，可以达到减小对应标签项的概率，增大损失的效果，因此对同一类的聚合更有帮助然...

NMS(non maximum suppression)非最大值抑制