【2023 · CANN训练营第一季】- 昇腾AI入门课（Pytorch） 第二章 PyTorch模型迁移&调优 学习笔记

最新推荐文章于 2025-03-18 23:22:29 发布
最新推荐文章于 2025-03-18 23:22:29 发布
阅读量174 收藏
点赞数
文章标签： 人工智能 pytorch 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_55250043/article/details/130633955
版权
本文介绍了PyTorch如何与昇腾平台结合，重点讨论了Davinci硬件架构对模型的适应性，以及PyTorch模型通过自动、工具和手工方法迁移到Ascend-Pytorch的流程。此外，文章还提到了Cube对固定shape输入的需求和Vector在优化计算耗时中的作用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、学习目标

1.了解Pytorch是如何适配到昇腾平台上的

2.了解Davinci硬件架构以及什么样的模型在昇腾上更亲和

3.了解软件术语和Ascend-Pytorch的安装步骤

4.了解如何将原生Pytorch的模型代码是如何适配到Ascend-Pytorch

二、介绍

Cube需要固定shape的输入，当shape不符合时则需要进行转换，而转换耗时较长，可以使用Vector进行计算，相对耗时短。

三、PyTorch模型迁移

1.

2.自动迁移

3.工具迁移

4.手工迁移  

基于Pytorch+昇腾NPU部署baichuan2-7B大模型
XD的博客
04-02 4881
Baichuan 2 是百川智能推出的新一代开源大语言模型，采用2.6 万亿Tokens 的高质量语料训练。Baichuan 2 在多个权威的中文、英文和多语言的通用、领域 benchmark 上取得同尺寸最佳的效果。它基于 Transformer 结构，在大约1.2万亿 tokens 上训练的70亿参数模型，支持中英双语，上下文窗口长度为4096。项目地址预训练模型modelscope硬件要求：NPU：8 x Ascend NPUsModelLink旨在为华为昇腾芯片。
【2023 · CANN训练营第一季】晟腾AI入门课（PyTorch）第二章晟腾平台PyTorch模型迁移与调优——模型迁移方法和步骤
星火飞花
04-17 2534
参考链接脚本转换工具根据适配规则，对用户脚本给出修改建议并提供转换功能，大幅度提高了脚本迁移速度，降低了开发者的工作量原脚本需要在GPU环境下且基于Python3.7及以上能够跑通脚本转换后的执行逻辑与转换前保持一致此脚本转换工具当前支持PyTorch1.5.0和1.8.1版本的训练脚本转换仅PyTorch 1.8.1版本及以上使用，自动迁移方式较简单，且修改内容最少，只需在训练脚本中导入库代码。介绍了PyTorch在晟腾上的适配原理新增npu的device类型，开辟新的路径。
昇腾AI入门课（PyTorch）
weixin_38771145的博客
02-22 2445
当前阶段，PyTorch框架与昇腾AI处理器进行了在线对接适配。方案特性及优点昇腾AI处理器的加速实现方式是以算子为粒度进行调用（OP-based），即通过Ascend Computing Language（AscendCL）调用一个或几个亲和算子组合的形式，代替原有GPU的实现方式。其逻辑模型如图1所示。最大限度的继承PyTorch框架动态图的特性。最大限度的继承GPU在PyTorch上的使用方式，可以使用户在将模型移植到昇腾AI处理器设备进行训练时，在开发方式和代码重用方面做到最小的改动。
Pytorch的一小步，昇腾芯片的一大步
机器学习-深度学习-图像处理-opencv-段子
03-05 2546
相信在AI圈的人多多少少都看到了最近的信息：PyTorch最新2.1版本宣布支持华为昇腾芯片！
PyTorch与昇腾平台：Stable Diffusion 2.1 模型迁移实践
daimakezhan_cn_f的博客
06-09 437
https://gitee.com/ascend/ModelZoo-PyTorch/blob/master/PyTorch/built-in/diffusion/stablediffusion-2.1StableDiffusion 是 StabilityAI公司于2022年提出的图片生成的预训练模型，论文和代码均已开源，下游任务包括文生图、图生图、图片压缩等等 适配昇腾 AI 处理器的实现： 准备环境 准备环境 当前模型支持的 PyTorch 版本和已知三方库依赖如下表所示。 表 1 版本支持表请
华为Ascend昇腾适配PyTorch框架
IT菜鸟
02-19 8567
通常，开发者基于PyTorch框架开发的AI模型不能直接在昇腾AI处理器上运行（训练和推理），即运行在GPU上的PyTorch模型不能平滑迁移到昇腾AI处理器上运行。为此，本教程用于昇腾适配PyTorch框架，为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。PyTorch安装指南PyTorch Adapter插件，用于昇腾适配PyTorch框架，为使用PyTorch框架的开发者提供昇腾AI处理器的超强算力。
昇腾平台LLM pytorch推理环境搭建
11-23 4732
当前用户下执行npu-smi info是否可以查看到gpu信息，如果不能，则表示驱动安装错误，需要在安装命令加上 --install-for-all。检查NPU是否正常在位可执行lspci | grep d802命令，如果服务器上有 N路NPU，回显N行含“d802”字段，则表示NPU正常在位。资源下载地址：https://www.hiascend.com/developer/download。通过执行npu-smi info命令查看。支持的PyTorch版本。支持的Adapter版本。
【2023 · CANN训练营第一季】昇腾AI入门课（Pytorch)——第一章学习笔记
AI优快云U的博客
04-24 291
AscendCL（Ascend Computing Language，昇腾计算语言）是昇腾计算开放编程框架，是对底层昇腾计算服务接口的封装，它提供运行时资源（例如设备、内存等）管理、模型加载与执行、算子加载与执行、图片数据编解码/裁剪/缩放处理等API库，实现在昇腾CANN平台上进行深度学习推理计算、图形图像预处理、单算子加速计算等能力。具体包括华为云最新一代AI计算平台Atlas，全场景AI加速器Ascend，丰富的AI应用开发工具包和开发套件，以及AI相关的各种服务和解决方案。
【2023 · CANN训练营第一季】昇腾AI入门课（Pytorch)——第二章学习笔记
AI优快云U的博客
04-24 405
训练脚本在 运行的同时，会自动将脚本中的CUDA接口替换为昇腾AI处理器支持的NPU接口。● 工具迁移：训练前，通过脚本迁移工具，自动将训练脚本中的CUDA接口替换为昇 腾AI处理器支持的NPU接口，并生成迁移报告（脚本转换日志、不支持算子的列 表、脚本修改记录）。训练时，运行转换后的脚本。● 手工迁移：算法工程师通过对模型的分析、GPU与NPU代码的对比进而对训练脚 本进行修改，以支持在昇腾AI处理器上执行训练。– 定义NPU为训练设备，或将训练脚本中适配GPU的接口切换至适配NPU的接 口。
【2023 · CANN训练营第一季】晟腾AI入门课（PyTorch）第一章 晟腾AI基础知识介绍
星火飞花
04-17 397
华为公司面向计算机视觉、自然语言处理、推荐系统、类机器人等领域量身打造了基于“达芬奇（DaVinci）”架构的晟腾（Ascend）AI处理器，开启了智能之旅。AscendCL（Ascend Computing Language，晟腾计算语言）是晟腾计算开发编程框架，是对底层晟腾计算服务接口的封装，它提供运行时的资源（例如设备、内存等）管理、模型加载与执行、算子加载与执行、图片数据解编码/裁剪/缩放处理等API库，实现在晟腾CANN平台上进行深度学习推理计算、图形图像预处理、单算子加速计算等能力。
【2023·CANN训练营第一季】直播课笔记 2023.3.16 零基础带你入门昇腾AI（上）配套文档
04-08
【2023·CANN训练营第一季】直播课笔记 2023.3.16 零基础带你入门昇腾AI（上）配套文档
基于Pytorch+昇腾NPU开发大模型指导
santanan的博客
08-20 5689
文章介绍了如何使用Pytorch框架+昇腾NPU更好的开发大模型
PyTorch&昇腾迁移实战：大模型系列之Diffusion初探
Q_3213559056的博客
06-09 259
扩散模型 (Diffusion Models) 是一种生成模型，可生成各种各样的高分辨率图像。Diffusers 是Huggingface发布的模型套件，包含基于扩散模型的多种下游任务训练与推理，可用于生成图像、音频，甚至分子的 3D 结构。
基于香橙派 KunpengPro学习CANN(3)——pytorch 模型迁移
最新发布
哦豁灬
03-18 1446
通用模型迁移适配可以分为四个阶段：迁移分析、迁移适配、精度调试与性能调优。迁移分析迁移适配精度调试性能调优。
【2023 · CANN训练营第一季】昇腾AI入门课（PyTorch）学习笔记
SparK233的博客
05-11 569
AI全栈架构• 芯片 - 芯片使能 - AI框架 - 应用使能• 芯片使能 - CANN计算加速库，芯片算子库，算子开发工具• AI框架（华为MindSpore，Pytorch，TensorFlow）• 应用使能 - ModelArts•异构计算架构CANN• 昇腾计算语言接口（AscendComputingLanguage）• 计算服务层：提供计算库• 计算编译引擎：提供图编译与TBE算子开发支持• 计算执行引擎。
2023·CANN训练营第一季】昇腾AI入门课（PyTorch）学习笔记
我行我素~超越自己~
05-16 289
它主要由Facebookd的人工智能小组开发，不仅能够实现强大的GPU加速，同时还支持动态神经网络，这一点是现在很多主流框架如TensorFlow都不支持的。4. 开发应用（AscendCL初始化，运行管理资源申请，运行管理资源释放，AscendCL去初始化）手工迁移，迁移前的准备修改相关原始代码，单卡模型迁移，多卡模型迁移，Extra报错排查。
如何将PyTorch模型迁移到昇腾平台
m0_71340392的博客
04-18 5055
本文介绍将PyTorch网络模型迁移到昇腾AI平台，并执行训练的全流程。
【2023 · CANN训练营第一季】昇腾AI入门课（PyTorch）笔记分享
m0_46445477的博客
05-28 661
昇腾Al处理器的计算核心主要由Al Core构成，其基本结构如下图所示，包括了三种基础计算资源:矩阵计算单元、向量计算单元和标量计算单元。
【CANN训练营进阶智囊团】- 基于PyTorch模型迁移
weixin_45510013的博客
05-15 1365
华为 CANN PyTorch模型迁移
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值