m0_58815430的博客

一些跑LATR源码时遇到的问题

记录一下跑深度学习第一次碰到内存不足的情况（以往out of memery都是out的显存）情况是这样的，我跑Hybridnets的源码的时候总是只能训练一轮，在跑验证集的时候就被killed了，我的batchsize和numworkers都改到1了，用监控显存的使用情况发现显存完全够用，确认不是显存的原因，于是直接下载了别人的weight拿来evaluation，结果是也被killed了，问题确实出现在模型评价阶段，使用监控内存占用情况，发现进程被kill之前内存占用不断上升直到溢出。

本文介绍了用transformer进行序列预测时遇到了训练过程中loss不收敛的问题

nn.LSTM()中设置参数batch_first=True后，对于一个内存连续的input，经过LSTM后得到的output变得内存不连续。