在Pytorch中使用Tensorboard

最新推荐文章于 2025-03-24 21:20:26 发布

樱木之

最新推荐文章于 2025-03-24 21:20:26 发布

阅读量664

点赞数

分类专栏： yuque 文章标签： pytorch 深度学习人工智能

本文链接：https://blog.youkuaiyun.com/qq_43369406/article/details/130672230

版权

yuque 专栏收录该内容

91 篇文章

订阅专栏

文章介绍了如何使用Tensorboard进行深度学习的可视化，包括模型结构、模型权重的变化以及损失函数在每个epoch中的演变。通过SummaryWriter初始化Tensorboard，添加_graph展示网络模型，利用add_histogram观察权重分布，以及用add_scalar追踪损失函数和学习率等关键指标。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Tensorboard是一款深度学习可视化软件，目前主要使用了它的可视化模型, 可视化模型权重和可视化损失函数功能。

x.1 tensorboard初始化

tensorboard初始化需要导入SummaryWriter包并指定存储位置和开放端口号。

from torch.utils.tensorboard import SummaryWriter

print('Start Tensorboard with "tensorboard --logdir=runs", view at http://localhost:6006/')
# 实例化SummaryWriter对象
tb_writer = SummaryWriter(log_dir="/home/yingmuzhi/_learning/src/tensorboard/runs/flower_experiment")

x.2 可视化模型

在模型初始化后做该操作 在可视化模型时，我们需要传入和输入大小一样的Tensor，使用add_graph来看网络模型大小：

    # 将模型写入tensorboard
    init_img = torch.zeros((1, 3, 224, 224), device=device)
    tb_writer.add_graph(model, init_img)

x.3 可视化模型权重在每次epoch中变化

在每一个epoch中添加该方法 通过add_histogram方法来添加需要查看的网络的结构，如conv1。

        # add conv1 weights into tensorboard
        tb_writer.add_histogram(tag="conv1",
                                values=model.conv1.weight,
                                global_step=epoch)
        tb_writer.add_histogram(tag="layer1/block0/conv1",
                                values=model.layer1[0].conv1.weight,
                                global_step=epoch)

x.4 可视化损失函数在每次epoch中变化

在每一个epoch中添加该方法 通过add_scalar方法来添加需要绘制的损失函数，如mean_loss。

        # add loss, acc and lr into tensorboard
        print("[epoch {}] accuracy: {}".format(epoch, round(acc, 3)))
        tags = ["train_loss", "accuracy", "learning_rate"]
        tb_writer.add_scalar(tags[0], mean_loss, epoch)
        tb_writer.add_scalar(tags[1], acc, epoch)
        tb_writer.add_scalar(tags[2], optimizer.param_groups[0]["lr"], epoch)