各类损失函数-pytorch

转载地址：https://www.jishux.com/p/2a9ae1556486f8be

基类定义

pytorch损失类也是模块的派生，损失类的基类是_Loss,定义如下

class _Loss(Module):
    def __init__(self, size_average=None, reduce=None, reduction='elementwise_mean'):
        super(_Loss, self).__init__()
        if size_average is not None or reduce is not None:
            self.reduction = _Reduction.legacy_get_string(size_average, reduce)
        else:
            self.reduction = reduction

看这个类，有两点我们知道：

• 损失类是模块
• 不改变forward函数，但是具备执行功能
  还有其他模块的性质

子类介绍

从_Loss派生的类有

名称	说明	公式
_WeightedLoss	这个类只是申请了一个权重空间，功能和_Loss一样
L1Loss	X、Y可以是任意形状的输入，X与Y的 shape相同
PoissonNLLLoss	适合多目标分类
KLDivLoss	适用于连续分布的距离计算
MSELoss	均方差
BCEWithLogitsLoss	多目标不需要经过sigmoid
HingeEmbeddingLoss	Y中的元素只能为1或-1 适用于学习非线性embedding、半监督学习。用于计算两个输入是否相似
MultiLabelMarginLoss	适用于多目标分类
SmoothL1Loss
SoftMarginLoss
CosineEmbeddingLoss
MarginRankingLoss
TripletMarginLoss

从_WeightedLoss继续派生的函数有

名称	说明
NLLLoss
BCELoss
CrossEntropyLoss
MultiLabelSoftMarginLoss
MultiMarginLoss