Unet语义分割dice提升

原创

已于 2023-08-21 22:50:04 修改 · 6.2k 阅读

41 ·

CC 4.0 BY-SA版权

文章标签：

#算法 #python #深度学习

于 2021-04-08 08:39:19 首次发布

本文介绍了在使用Unet模型进行医学图像分割时遇到的问题，包括BCE损失效果不佳和寻找最佳学习率的挑战。通过动态学习率搜索策略确定了0.001为最佳学习率。同时，针对Logloss在不平衡数据集上的不足，引入了Dice损失函数以改善分割效果，并给出了多分类Dice损失的实现。实验表明，调整后的 DiceLoss 对于背景多于目标的任务更为适用。

初次复现
Medical Image Synthesis for Data Augmentation and Anonymization using Generative Adversarial Networks文章，但是并没有用pix2pix的分割模型，而是使用Unet分割利用pix2pix合成的brats数据集。但是发现原本的Unet模型bceloss效果并不好，val的dice值很低。就开始踏上了炼丹之路。
论文地址:https://arxiv.org/abs/1807.10225

1.学习率

找到最佳的学习率会让模型效果提升事半功倍，但是很多人往往用不调整学习率，训练模型的方式。这导致寻找到最佳的学习率可能会花费大量的时间。寻找最佳学习率该文章中叙述了简单的模型以便去尝试寻找到较为合理的学习率。
以下代码基于Unet代码

def find_lr(init_value = 1e-8, final_value=10., beta = 0.98):
    num = len(train_loader)-1
    mult = (final_value / init_value) ** (1/num)#**运算
    lr = init_value 
    optimizer.param_groups[0]['lr'] = lr 
    #动态调整学习率
    # 长度为6的字典
    # [‘amsgrad’, ‘params’, ‘lr’, ‘betas’, ‘weight_decay’, ‘eps’]
    avg_loss = 0.
    best_loss = 0.
    batch_num = 0
    losses = []
    log_lrs = []
    for data in train_loader:
        batch_num += 1
        #As before, get the loss for this mini-batch of inputs/outputs
        inputs = data['image']
        labels = data['mask']
        inputs = inputs.to(device=device, dtype=torch.float32)
        labels = labels.to(device=device, dtype=torch.float32)
        optimizer.zero_grad()
        outputs = net(inputs)
        loss = criterion(outputs, labels)
        #Compute the smoothed loss
        avg_loss = beta * avg_loss + (1-beta) *loss.item()
        smoothed_loss =