度量学习

度量学习也可以认为是相似度。knn最合适的是学习马氏距离，怎么学？要给出先验知识，哪两个数据更相似，欧式距离不可靠。SVM也是metric learning的一种，因为kernel matrix就是相似度。state of art的metric learning方法LMNN，有代码可以下载。也未必效果最好，用得很多，因为有代码。度量就是相似度，任何方法只要用到相似度，就可以用到度量学习。度量学习主流就是学习马氏距离！(listen to the report of Kaizhu Huang).
度量学习首篇是Eric Xing在NIPS 2002提出，nannan wang讲现在metric learning基本都是通过子空间学习，就是子空间学习换了个说法，没啥太多实际意义。

代码：
http://www.cs.cmu.edu/~liuy/distlearn.htm
其中的Principal Component Analysis(PCA)是由蔡登老师开发

维基百科：
https://en.wikipedia.org/wiki/Metric_(mathematics)

参考文章：
http://blog.youkuaiyun.com/lzt1983/article/details/7884553