博客提及与一篇论文类似，通过kernel近似提取高维特征。指出bilinear模型成本高，作者提出紧凑型bilinear model。虽给出bilinear pooling二阶证明，但对高阶特征提升性能的原因可解释性差，还提到高阶特征阶数高求梯度时保留信息多，作者用kernel近似降维。
感觉跟之前看过的论文《实验笔记之——《Multi-scale Location-aware Kernel Representation for Object Detection》复现》很类似，通过kernel的近似来实现高维特征的提取
虽然bilinear 模型取得较好的performance，但是它的成本高（运算量、存储量）。为此作者提出一种紧凑型的bilinear model
Our proposed compact bilinear methods rely on the existence （存在） of low dimensional feature maps for kernel functions.
下面公式给出了bilinear pooling属于二阶的证明，但作者最终也仅仅说，二阶kernel的机制可以提升性能。跟大多数的高阶特征的paper一样。没有办法给出为什么高阶特征可以提升performance。所以对于高阶特征这个问题，一直都认为可解释性差。但从另外一个角度来说，高阶特征，特征的阶数越高，求梯度时，可以保留的信息越多？
作者通过kernel近似来实现降维
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
