Determined AI 教程：如何查看基于周期的训练指标

俞凯润

于 2025-06-12 09:11:07 发布

阅读量293

点赞数 4

本文链接：https://blog.youkuaiyun.com/gitblog_00861/article/details/148602505

版权

Determined AI 教程：如何查看基于周期的训练指标

determined Determined is an open-source machine learning platform that simplifies distributed training, hyperparameter tuning, experiment tracking, and resource management. Works with PyTorch and TensorFlow. 项目地址: https://gitcode.com/gh_mirrors/de/determined

前言

在机器学习模型训练过程中，监控训练进度和验证性能是至关重要的。Determined AI 提供了一个强大的平台，可以帮助开发者有效地跟踪和分析模型训练过程中的各项指标。本文将详细介绍如何在 Determined 平台上查看基于训练周期（epoch）的指标数据，帮助开发者更好地理解模型训练过程。

准备工作

环境搭建

在开始之前，您需要确保已经搭建好 Determined 的运行环境：

确保您的机器上已经安装了 Docker 并正在运行
通过以下命令安装 Determined 库：

pip install determined

根据您的硬件配置启动本地集群：

# 有 GPU 的机器
det deploy local cluster-up

# 无 GPU 的机器
det deploy local cluster-up --no-gpu

获取示例文件

为了演示如何查看基于周期的指标，我们需要使用一个示例项目。您可以从官方资源获取 PyTorch MNIST 示例文件，其中包含：

model_def.py：模型定义脚本
const.yaml：实验配置文件

实现基于周期的指标报告

基本原理

在 Determined 平台中，默认情况下会报告基于训练步数（steps）的指标。但很多时候，开发者更习惯以训练周期（epoch）为单位来观察模型性能的变化。通过 Core API，我们可以轻松实现这一功能。

代码修改

我们需要对训练脚本进行两处关键修改：

训练方法修改：

partial_epoch = batches_completed / len(training_loader)
core_context.train.report_training_metrics(
    steps_completed=batches_completed + epoch_idx * len(train_loader),
    metrics={"train_loss": loss.item(), "epochs": epoch_idx + partial_epoch},
)

这段代码实现了：

计算当前完成的周期比例（partial_epoch）
报告训练损失和周期指标
确保steps_completed正确累计

验证方法修改：

epochs_completed = epoch_idx + 1
core_context.train.report_validation_metrics(
    steps_completed=steps_completed,
    metrics={"test_loss": test_loss, "epochs": epochs_completed},
)

这段代码实现了：