【AI面试】Dropout、SoftMax、KNN、K-means等问题

一、 Dropout处理问题

假设我们有一个5层的神经网络，这个神经网络在使用一个4GB显存显卡时需要花费3个小时来完成训练。而在测试过程中，单个数据需要花费2秒的时间。 如果我们现在把架构变换一下，当评分是0.2和0.3时，分别在第2层和第4层添加Dropout，那么新架构的测试所用时间会变为多少？

A、少于2s

B、大于2s

C、不变

D、说不准

解析：选C，

• 训练阶段：Dropout采用随机失活的方式，避免过拟合，增强网络的鲁棒性； 
• 预测阶段：Dropout 并不存在失活现象，故在架构中添加Dropout这一改动仅会影响训练过程，而并不影响测试过程，测试时间不变。

---

二、过拟合问题

下列的哪种方法可以用来降低深度学习模型的过拟合问题？

（1） 增加更多的数据或data augmentation

（2） Dropout

（3） 正规化数据

（4） 降低架构的复杂度

解析：全选，