pytorch如何在测试的时候启用dropout

我们知道，dropout一般都在训练的时候使用，那么测试的时候如何也开启dropout呢？
在pytorch中，网络有train和eval两种模式，在train模式下，dropout和batch normalization会生效，而val模式下，dropout不生效，bn固定参数。

想要在测试的时候使用dropout，可以把dropout单独设为train模式，这里可以使用apply函数：

def apply_dropout(m):
    if type(m) == nn.Dropout:
        m.train()

下面是完整demo代码：

# coding: utf-8
import torch
import torch.nn as nn
import numpy as np