如何提升模型的性能

从数据上提升性能

1. 收集更多的数据

2. 产生更多的数据

3. 对数据做缩放

4. 对数据做变换

5. 特征选择

6. 重新定义问题

 

从算法上提升性能

1.   算法的筛选

2. 从文献中学习

 

从算法调优上提升性能

1. 模型可诊断性（判断过拟合还是欠拟合）

2. 权重的初始化（0初始化；小随机值初始化；Xavier初始化；He初始化）

3. 学习率（学习率衰减）

4. 激活函数（ReLU；sigmoid；tanh）

5. 网络结构

6. batch和epoch

7. 正则项（dropout；L1；L2）

8. 优化目标（SGD；Adam）

9. 提早结束训练