910

最新推荐文章于 2025-05-28 14:00:22 发布

weixin_33911824

最新推荐文章于 2025-05-28 14:00:22 发布

阅读量92

点赞数

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/gracyandjohn/p/3963731.html

空白

转载于:https://www.cnblogs.com/gracyandjohn/p/3963731.html

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

weixin_33911824

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

基于华为昇腾910B和LLaMA Factory多卡微调的实战教程

herosunly的博客

08-23

17万+

本文主要介绍了基于华为昇腾910B和LLaMA Factory多卡微调的实战教程，希望对使用大语言模型的同学们有所帮助。文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 2.4 配置多卡环境 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 继续预训练(CPT) 3.4 SFT

创维e910 mt8685刷机包

05-16

首先，"移动910.rar"可能是刷机包的核心文件，其中包含了适配创维E910的固件镜像。这些镜像文件通常有刷机软件能够识别的特定格式，用于替代手机原有的系统软件。用户在刷机时，需要将这个RAR文件解压，并确保设备...

参与评论您还未登录，请先登录后发表或查看评论

阿里平头哥“生娃”！最强 RISC-V 处理器玄铁 910 诞生！

优快云资讯

07-25

6084

作者| 胡巍巍发自上海黄浦出品 | 优快云（ID：优快云news）马云喜欢金庸作品，圈内人尽皆知。 5年前，马云曾发微博称：“我做过几次婚姻红娘，由于是顺水推舟所以成功率不错，阿兴就是其中一位......几年后，他们结婚了，生孩子了，孩子生下来取名字取不好，我还请金庸给取的。” 如今，老先生驾鹤西去，但他的《神雕侠侣》仍在影响马云和阿里！ 7月25日，2019阿里云峰会...

平头哥广发英雄帖，公开首款CPU“玄铁”仿真代码

阿里技术

07-31

2155

“在自研芯片的路上，阿里走出了万里长征的第一步。”7月25日，阿里云峰会上海站，压轴出场的平头哥，交出了时隔10月的首份答卷：玄铁910（XuanTie910），目前业界...

GPU 进阶笔记（二）：华910B GPU

热门推荐

hao_wujing的专栏

12-30

5万+

！

8卡910B4-32G测试Qwen2.5-VL-72B-instruct模型兼容性

sqlora的专栏

05-28

1567

{"role": "system", "content": "你是专业图片识别助手"},{"type": "text", "text": "请描述图片内容？（乱回答：quay.io/ascend/vllm-ascend:v0.8.5rc1）{"type": "text", "text": "请描述图片内容"}32B的图像识别效果不满足要求,务必要继续测试，肯定支持。单卡分配提示显存不足。

使用启智社区免费昇腾910B部署LLM

qq_44193969的博客

12-23

2679

前段时间想玩玩昇腾，发现华为云上租地GPU服务器，没有最新地cann8.0的镜像，自己折腾了许久，根本无法替换自己的镜像上去，此处省略一万字关于华为云的吐槽。启智社区提供了不少国产厂家的免费算力，接下来，话不多说，开整。

天翼云910B部署DeepSeek蒸馏70B LLaMA模型实践总结

wangli的博客

02-15

5935

天翼云通过910b部署deepseek r1 70b蒸馏模型

华为昇腾910b服务器部署DeepSeek翻车现场

qq_73797346的博客

02-16

6343

最近到祸一台HUAWEI Kunpeng 920 5250，先看看配置。之前是部署的讯飞大模型，发现资源利用率太低了。把5台减少到3台，就出西安了它。华为昇腾920b服务器部署DeepSeek翻车现场

华为昇腾910B3 NPU训练最佳实践

myboyliu2007的专栏

06-26

7851

NPU推理与微调最佳实践在 Notebook 打开NPU推理与微调最佳实践在 Notebook 打开。

闪光灯 SB-910 闪光灯 SB-910

04-29

"闪光灯 SB-910 闪光灯 SB-910" 本文档提供了关于尼康闪光灯 SB-910 的使用说明书，涵盖了闪光灯的基本信息、使用方法、安全注意事项、故障排除等方面的知识点。基本信息 SB-910 闪光灯是尼康创意闪光系统（CLS...

玄铁C910集成手册1

08-03

《玄铁C910集成手册1》详尽地介绍了T-Head半导体公司的一款高性能处理器——玄铁C910的集成与配置过程。该处理器基于Apache License 2.0授权协议，旨在为用户提供一个开源、可定制的硬件平台。 ...

玄铁C910用户手册1

08-03

《玄铁C910用户手册1》详细解读一、概述 1.1 简介玄铁C910是一款高性能的处理器，专为满足现代计算需求而设计。该处理器以其卓越的处理能力和高效率在各种应用场景中表现出色，包括云计算、边缘计算以及物联网...

根据虹软实现的人脸检测、追踪、识别、年龄检测、性别检测的JAVA解决方案

09-11

打开下面链接，直接免费下载资源： https://renmaiwang.cn/s/vxfyv (最新版、最全版本)根据虹软实现的人脸检测、追踪、识别、年龄检测、性别检测的JAVA解决方案

matlab YALMIP、GLPK安装资源

09-11

matlab的YALMIP、GLPK安装包，内置YALMIP、GLPK，直接将分别其添加到matlab的toolbox、路径中即可（matlab主页-设置路径-添加并包含子文件夹-YALMIP；matlab主页-设置路径-添加文件夹-github_repo）

【scratch3.0少儿编程-游戏原型-动画-项目源码】打砖块.zip

09-11

资源说明： 1：本资料仅用作交流学习参考，请切勿用于商业用途。 2：一套精品实用scratch3.0少儿编程游戏、动画源码资源，无论是入门练手还是项目复用都超实用，省去重复开发时间，让开发少走弯路！更多精品资源请访问 https://blog.csdn.net/ashyyyy/article/details/146464041

使用 OpenCV 技术实现人脸检测的方法与过程

09-11

打开下面链接，直接免费下载资源： https://renmaiwang.cn/s/o7o7f 运用 OpenCV 这一计算机视觉库来开展人脸检测相关的操作

随你记微信小程序_专为学生群体设计的便捷收支管理工具_提供快速记录日常开销与收入的功能_支持多维度数据可视化分析_帮助用户清晰掌握个人财务状况_培养理性消费习惯_无需下载安装即用即.zip

最新发布

09-11

bianyuanceAscend 910

07-11

<think>我们正在处理一个关于Ascend 910编程开发指南的技术问题。根据用户的要求，我们需要提供结构清晰、逐步的解答，并确保使用正确的中文和LaTeX格式。同时，我们需要生成相关问题。参考提供的引用信息，我们可以总结以下几点： 1. 开发者需要完成Ascend C相关的编程课程来全面了解框架（引用[1]）。 2. 基础API和高阶API的使用方法和优化策略对于充分利用Ascend AI处理器的计算能力至关重要（引用[2]）。 3. 在华为OD机试中，掌握Ascend C的API接口对于编写高效代码非常重要（引用[3]）。 4. 在算子开发中，需要获取AI Core和Vector Core的核数，并根据硬件平台（如Ascend 310P）进行相应处理（引用[4]）。由于用户的问题是关于Ascend 910的编程开发指南，我们可以推测用户可能对Ascend C编程感兴趣，特别是针对Ascend 910芯片。因此，我们可以组织以下内容： 1. 介绍Ascend 910的基本架构和编程模型。 2. 说明Ascend C编程的基本流程。 3. 介绍如何获取硬件信息（如核心数）以及如何设置计算核心。 4. 提供一些示例代码（如向量加法）来展示Ascend C编程。 5. 讨论优化策略。注意：由于Ascend 910是华为的AI处理器，其编程模型主要基于Ascend C（一种C/C++的扩展）和计算引擎（如AI Core和Vector Core）。在Ascend 910中，主要使用AI Core，而Vector Core在Ascend 310P等型号中才有。因此，在Ascend 910的编程中，我们主要关注AI Core。步骤： 1. 环境搭建：安装CANN（Compute Architecture for Neural Networks）软件包，它包含了Ascend C的开发环境。 2. 编写算子：使用Ascend C编写自定义算子。 3. 编译和运行：将算子编译成可在昇腾处理器上运行的二进制文件。下面我们按照要求进行回答：</think>### Ascend 910 编程开发指南 Ascend 910 是华为自研的高性能AI处理器，其开发主要基于 **Ascend C** 编程框架。以下是关键开发要点： #### 1. **开发环境搭建** - 安装 **CANN（Compute Architecture for Neural Networks）** 工具包（5.0+版本） - 配置昇腾AI处理器驱动和固件 - 验证环境：使用 `npu-smi info` 命令检查设备状态[^1] #### 2. **核心编程模型** Ascend C 采用 **分层计算架构**： ```cpp // 示例：向量加法算子结构 __global__ __aicore__ void vector_add( uint8_t* x, uint8_t* y, uint8_t* z, int len) { // 1. 数据搬运 (搬入片上存储) LocalTensor<uint8_t> local_x = ...; GlobalTensor<uint8_t> global_x(x); DataCopy(local_x, global_x, len); // 2. AI Core计算 (SIMD并行) Add(local_x, local_y, local_z, len); // 3. 结果回写 (搬出到全局内存) GlobalTensor<uint8_t> global_z(z); DataCopy(global_z, local_z, len); } ``` #### 3. **关键API分类** | API类型 | 功能描述 | 示例API | |----------------|------------------------------|--------------------------| | **内存管理** | 数据搬运与存储控制 | `DataCopy()`, `LocalTensor` | | **并行计算** | 基于AI Core的SIMD指令 | `Add()`, `Mul()`, `Mad()` | | **任务调度** | 核函数启动与资源分配 | `<<<grid, block>>>` | | **性能分析** | 运行时监控与优化 | `aclprof` 工具链 | #### 4. **核函数启动配置** 核心数配置需匹配硬件规格： ```cpp // 获取Ascend 910的AI Core数量 auto platform = PlatformAscendCManager::GetInstance(); int totalCoreNum = platform->GetCoreNumAic(); // Ascend 910典型值: 32核 // 启动核函数 vector_add<<<totalCoreNum, nullptr, stream>>>(...); ``` > **注意**：Ascend 910 **不支持** Vector Core（仅310P等型号支持）[^4] #### 5. **性能优化策略** - **数据复用**：利用片上缓存（UB/L1）减少DDR访问 - **流水并行**：通过`Pipe`机制重叠计算与数据搬运 - **双缓冲优化**：隐藏数据搬移延迟 - **指令重排**：避免计算单元空闲（V100→V200指令调度） #### 6. **调试与性能分析** - **日志追踪**：开启`ASCEND_GLOBAL_LOG_LEVEL=1`环境变量 - **性能分析**： ```bash msprof --application=your_app --output=profile_data ``` - **内存检查**：使用`aclmdl`API验证张量内存边界 --- ### 典型开发流程 1. **算子设计** → 2. **Ascend C实现** → 3. **NPU编译**（`cmake+npucc`） 4. **异构集成**（Host端调用）→ 5. **性能剖析优化** > 完整开发指南参考：[华为Ascend C官方文档](https://ascend.huawei.com/doc)