qq_40929402的博客

1.Pytorch自带的加正则化方法 Pytorch的优化器都自带正则化，比如 optimizer = optim.Adam(model.parameters(),lr=learning_rate,weight_decay=0.01) optimizer = optim.SGD(model.parameters(), lr=learing_rate, momentum=0.9,weight_decay=0.01) 其中的weight_decay就是正则化系数，设定为0或者不设定就是无正则化。但这个优化