实验心得（2019.11.28-2019.12.08）

1. 在进行实验的时候，首先测试baseline，实验过程中产生的各种想法可以考虑先在baseline上进行实验。如果确实能够给baseline的性能带来一定的提升，那么我们就可以将想法移植到我们当前已经设计好的新结构上。
2. Python中的内存管理机制
3. 在提取网络层的中间输出的时候，尽量不要把网络的中间输出保留在类的成员变量（即__init__函数）当中，应该考虑保留在类的forward函数中。
4. 使用git提交时忽略部分文件
5. Pytorch中的inplace操作需要注意的地方：https://stackoverflow.com/questions/57631705/runtimeerror-one-of-the-variables-needed-for-gradient-computation-has-been-modi