如何使用昇腾迁移分析工具进行模型迁移？

如何使用昇腾迁移分析工具进行模型迁移？

00 前言

本文将围绕模型迁移展开，先简述模型迁移的概念及进行迁移的缘由，随后着重介绍昇腾迁移分析工具在模型迁移中的运用，涵盖迁移分析、迁移训练等方面，详细展示了具体操作流程及示例，为使用昇腾迁移分析工具进行模型迁移提供全面的参考指导。

01 什么是模型迁移

将原本设计用于GPU或其他三方平台的深度学习模型训练代码，经过模型代码修改等适配操作，来适应NPU的架构和编程，让模型能在NPU上进行高性能运行。

02 为什么要做模型迁移

昇腾NPU是AI算力的后起之秀，但目前训练和在线推理脚本大多是基于GPU的。由于NPU与GPU的架构差异，基于GPU的训练和在线推理脚本不能直接在NPU上使用。在将模型从其他三方平台迁移到NPU时，由于硬件特性和性能特点差异、计算架构差异及深度学习框架差异，涉及到一系列底层到上层的适配操作。

03 如何做模型迁移

要将模型从其他三方平台迁移到NPU，昇腾分析迁移工具必不可少，它提供了PyTorch训练脚本一键式迁移至昇腾NPU的功能，开发者可做到少量代码修改或零代码完成迁移。该工具提供PyTorch Analyse功能，帮助用户分析PyTorch训练脚本的API、三方库API、亲和API分析以及动态shape的支持情况。同时提供了自动迁移和PyTorch GPU2Ascend工具两种迁移方式，将基于GPU的脚本迁移为基于NPU的脚本，这种自动化方法节省了人工手动进行脚本迁移的学习成本与工作量，大幅提升了迁移效率。

3.1 迁移分析

迁移分析流程示意

<