知乎这个讲的很好
https://zhuanlan.zhihu.com/p/48992451/
简要总结:
(1)voc中计算ap,都是以iou=0.5为基础,来判断FP、NP的,在这个基础上计算出的ap,都是ap50.
(2)对于ap50,voc07和voc10,有2个计算方法,区别有2点:(a)07中,取recall从0:0.1:1的11个点,平均计算。10中,对每个不同的recall微分计算。(b)07中,取每个recall下的最大precision,为这个recall的precision;10中,取每个recall时,比它大的所有recall中最大的precision。结论是voc10计算出的ap,会比voc07中高不少,在sixray中,会有3个点提升。
(3)coco中,ap是iou从0.5:0.05:0.95十个值的均值,更全面。
(4)iou阈值越大,计算出的ap越低。ap75会大幅度低于ap50,同一个模型,在sixray上,约会下降15个百分点左右。