shajie的博客

转载PyTorch训练模型添加L1/L2正则化的两种实现方式_hlld__的博客-优快云博客_pytorch添加正则化 在使用PyTorch训练模型时，可使用三种方式添加L1/L2正则化：一种是添加正则化项到损失函数中，另一种是在backward()之后，添加正则化项到参数变量的梯度中，然后再进行step()，一种是torch.optim优化器实现L2正则化 方式一：添加到损失函数 def l1_regularization(model, l1_alpha): l1_loss = []..

直接在forward函数里，return output_con2.data 如： def forward(): ... base_out = self.base_model(input_var) output = self.new_fc(base_out) return output 想要输出base_out 只需要加入 out_...