统计实验结果:
网络 | 关键字 | 参数量 | acc | 估计运算量 |
---|---|---|---|---|
Net1 | softmax | 7850 | 0.9169 | 7840 |
Net2 | 全连接 | 669706 | 0.9843 | 668672 |
Net3 | 全标准卷积 | 3274634 | 0.9921 | 13883904 |
Net4 | stride | 3274634 | 0.9881 | 5887104 |
Net5 | 可分离卷积 | 3225011 | 0.9877 | 3781476 |
Net6 | 可分离卷积 | 82419 | 0.9715 | 836452 |
Net7 | sgd | 82419 | 0.9748 | 836452 |
Net8 | 5*5 | 82947 | 0.9788 | 1642404 |
Net9 | 缩小通道 | 24595 | 0.9735 | 418404 |
Net10 | 缩小通道 | 8091 | 0.9687 | 110340 |
Net11 | 合并 | 16172 | 0.9716 | 220680 |
Net12 | 合并 | 211611 | 0.9675 | 313604 |
Net13 | 合并 | 16028 | 0.9661 | 167368 |
Net14 | 7*7 | 8307 | 0.9723 | 192868 |
Net15 | 多尺寸卷积 | 18235 | 0.9759 | 264356 |
Net16 | 卷积 | 204161 | 0.982 | 385556 |
可以看到:
1、运算量最小的是Net1,但是ACC也是最低的
2、参数量最小的也是Net1
3、性能最好的是Net3,但是同时也是参数最大,运算量最大的
4、可分离卷积性能非常出色,大大降低了,运算量,性能仅仅下跌一点点
5、本网络参数都集中在最后的全连接层
6、更大的卷积核,性能更好
7、Net14使用可分离卷积,7*7卷积核,运算量只有Net3的0.0139,参数只有Net3的0.0025,ACC跌了约2%
8、几个网络组合的结果比单个网络还差,还有待后续研究