标签是怎么分布的
非结构化的赛题,优先考虑深度学习,例如:图像处理,文本处理
过拟合、分布不一致、增大模型、数据扩增、增加随机性、验证集太少
比赛中可以用到的track
track1 加入batch normalization
track2 学习率对bert很大
track3 跑不同的seed种子,最后做一个集成
track4 给测试集加伪标签
track5 对不同的层,执行不同的finetune
标签是怎么分布的
非结构化的赛题,优先考虑深度学习,例如:图像处理,文本处理
过拟合、分布不一致、增大模型、数据扩增、增加随机性、验证集太少
比赛中可以用到的track
track1 加入batch normalization
track2 学习率对bert很大
track3 跑不同的seed种子,最后做一个集成
track4 给测试集加伪标签
track5 对不同的层,执行不同的finetune