本文探讨了改进深度学习模型训练的一些方法，包括梯度累积、选择模型权重和多任务学习。在医学图像肺部分割问题中，通过多任务学习解决分类与分割的结合。文章提到了Vanilla Unet和使用预训练的encoder模块来提升模型性能，并介绍了一种通过冻结部分网络以优化训练的策略。此外，还讨论了在GPU资源有限的情况下，如何利用小尺寸图像训练并逐步扩大图像尺寸。
- 改进网络结构
- 尝试各种训练方案
- 梯度累积法
- 选择模型权重
模型预测在哪些样本上错了，问题都是从数据分析中来的，有哪些点子去解决这个问题？别人是怎么改进网络的？读了博客或论文后，做实验。跑出来的模型精度是不是比之前好。
医学图像肺部分割，看似分割实则跟分类有关，对于mask求和>0 有疾病，否则无病。所以并没有对于mask进行优化，多任务学习。在多任务学习中，loss的权重不好调。有可能分割好了，分类的低了。
方法一中，找到了更好的模块，比如梯度消失得到缓解了，(找更好的网络结构)网络越深，不断提升了模型精度。
Vanilla Unet标准的Unet
我们可以将encoder模块替换上面所说的网络
github中有开源的encode模块，对于初学者来说，尝试不同的encoder
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
