1.就从编程语言说起,刚开始是汇编,编写程序内存利用率很高;但是随着科技的发展,内存越来越大,越来越便宜,内存不再是问题,现如今JAVA使用率远远高于汇编,其中使用JAVA编程时,内存冗余度特别高,因为很多语法都会用到相同的底层模块。
2.和深度学习类比,研究的重点应该是精度,当然深度学习内部网络参数肯定会有很大的冗余度,但是,随着硬件的发展,这些将不再是问题。
至于速度方面,把稳定的算法用集成电路模块化实现,是一个很好地发展方向。
3.因此,学术研究和工程实现侧重点完全不一样,前者注重理论;后者注重现有的理论进行工程应用。