本文介绍了一种2005年提出的度量学习方法——邻域成分分析(NCA)，该方法通过最大化留一法正确率来学习马氏距离，与KNN分类算法紧密相关，并采用随机梯度下降法进行训练。
这篇文章比较早了，2005年在NIPS上发表的，提到度量学习（Metric Learning）就不得不提这篇文章，很有含金量，看看作者就知道了——Geoffrey Hinton, Ruslan Salakhutdinov(Orz)。鄙人也是刚开始学，若有错误，还请大牛斧正。
度量学习就是学到一个合适的距离度量，即将样本在合适的空间中尽量区分开。目标和PCA有点类似。但不同的是这个是自适应的，其监督信息是错误率或者说正确率。
本文是为KNN分类算法提出一个新奇的（2005）方法来学习马氏距离。
通过随机梯度下降法最大化留一法（LOO）正确率，感觉和神经网络有很大联系。
论文传送门：Neighbourhood Component Analysis [Goldberger et al., 2005]
扫一扫
1360
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
