- 博客(162)
- 收藏
- 关注
RSS订阅原创 Copilot测评报告——2025如果你需要做运维，强烈推荐你使用Copilot
管道符号|是终端里常使用的符号，copilot中也可以使用管道符号，让人非常惊喜。我测试了一下，管道符号的使用，达到了预期，也符合运维工程师的操作习惯。cat transformer_model.py | co 解释这些参数的意义从图中可以看到，copilot解释了每个参数的意义。而我的使用场景：先让agent生成脚本，然后再让copilot解释含义；也是一种比较常见的实用场景。Copilot的这次升级，真的让人欣喜。相比于去年的那次测评，这次升级后，可以说是一个真正具有实用价值和应用场景的产品了。
2025-01-17 10:45:36
1200
原创 NVIDIA DOCA产品体验——DPU及DOCA轻松入门与实战
在人工智能之前的时代，CPU是计算机的核心，承载了所有计算和调度，并与内存直接交互。到了人工智能时代，算力、算法和数据是三大核心要素。单纯依靠CPU无法承载AI所需的巨大算力，于是有了GPU。虽然解决了算力问题，但是面对海量的训练数据需要处理，无论CPU还是GPU,都显得不够专业，所以还需要一个专门数据处理器，于是就有了DPU。DPU中文名称数据处理器，其目的就是应对人工智能时代爆发式的数据增长。所以，在未来，整个数据中心不再只是基于 CPU，还会引入用于加速计算的 GPU 和用于加速数据处理的 DPU。
2025-01-17 10:38:41
949
原创 昇思MindSpore进阶教程--安装常见问题（下）
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-24 14:54:33
1370
原创 昇思MindSpore进阶教程--安装常见问题（中）
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-24 14:49:43
790
原创 昇思MindSpore进阶教程--安装常见问题(上)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-24 14:45:19
987
原创 昇思MindSpore进阶教程--三方硬件对接
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-24 14:37:22
827
原创 昇思MindSpore进阶教程--开发常见问题
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧MindSpore官网提供了一份在使用MindSpore过程中的 FAQ ，本章也整理了一下在迁移文档中提及的常见问题及解决方法。
2024-10-23 11:08:29
967
原创 昇思MindSpore进阶教程--Diffusion扩散模型(下)
请注意，DDPM论文表明扩散模型是（非）条件图像有希望生成的方向。自那以后，diffusion得到了（极大的）改进，最明显的是文本条件图像生成。下面，我们列出了一些重要的（但远非详尽无遗的）后续工作：改进的去噪扩散概率模型(Nichol et al., 2021)：发现学习条件分布的方差（除平均值外）有助于提高性能用于高保真图像生成的级联扩散模型([Ho et al., 2021)：引入级联扩散，它包括多个扩散模型的流水线，这些模型生成分辨率提高的图像，用于高保真图像合成。
2024-10-23 10:40:35
1075
原创 国家超算互联网测评——用一分钱的显卡做大模型微调
活动不设门槛，凡是参与AI开发的相关从业者、研究人员或者学生，都可以报名参与，并且限时享受1分钱/卡时的国产异构加速卡。在此次体验过程中，国家超算互联网的算力性价比很高，尤其是一分钱每卡时的价格，简直就是AI从业者的福利，虽然国产加速卡在性能层面跟L20、A800要弱一些，但是综合考虑价格的话，确实是性价比较高的选择。今天，用这篇文章大致记录一下开发和体验的过程，向大家推荐国家超算互联网，既是表达支持国产、支持自主创新的态度，也希望大家看到文章能用上便宜的显卡。算力、算法、数据，是AI发展的三大要素。
2024-10-22 18:09:17
1052
原创 昇思MindSpore进阶教程--Diffusion扩散模型(中)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-22 18:00:04
510
原创 昇思MindSpore进阶教程--Diffusion扩散模型(上)
由索引的正向和反向过程都发生在某些有限时间步长（DDPM作者使用）内。从开始，在数据分布中采样真实图像（本文使用一张来自ImageNet的猫图像形象的展示了diffusion正向添加噪声的过程），正向过程在每个时间步长都从高斯分布中采样一些噪声，再添加到上一个时刻的图像中。假定给定一个足够大的和一个在每个时间步长添加噪声的良好时间表，您最终会在通过渐进的过程得到所谓的各向同性的高斯分布。
2024-10-21 20:34:32
1149
原创 昇思MindSpore进阶教程--Dump功能调试(下)
{path}/- {time}/{path}/- {time}/{op_type}.{op_name}.{task_id}.{stream_id}.{timestamp} //aclop 算子{op_name}.{op_type}.{task_id}.{stream_id}.{timestamp} //aclnn 算子{op_type}.{op_name}.{task_id}.{stream_id}.{timestamp} //aclop 算子。
2024-10-21 11:03:24
590
原创 昇思MindSpore进阶教程--Dump功能调试(上)
{path}/...- graphs/对于多图网络，由于存在控制流，某些子图可能不会被执行，Dump只保存执行过的节点，所以graphs目录下.pb文件名中的{graph_id}并不一定在{net_name}下存在对应的{graph_id}目录。
2024-10-20 11:57:24
1097
原创 昇思MindSpore进阶教程--AOE调优工具
AOE（Ascend Optimization Engine）是一款自动调优工具，作用是充分利用有限的硬件资源，以满足算子和整网的性能要求。AOE工具的详细介绍，请参考AOE简介。本文档主要介绍如何使用AOE工具实现MindSpore训练场景下的调优。
2024-10-20 11:49:33
587
原创 昇思MindSpore进阶教程--Running Data Recorder
Running Data Recorder(RDR)是MindSpore提供训练程序运行时记录数据的功能。要记录的数据将会在MindSpore中进行预设，运行训练脚本时，如果MindSpore出现了运行异常，则会自动地导出MindSpore中预先记录的数据以辅助定位运行异常的原因。不同的运行异常将会导出不同的数据，比如出现Run task error异常，将会导出计算图、图执行顺序、内存分配等信息以辅助定位异常的原因。
2024-10-18 10:18:36
354
原创 昇思MindSpore进阶教程--故障恢复
模型训练过程中，可能会遇到故障。重新启动训练，各种资源的开销是巨大的。为此MindSpore提供了故障恢复的方案，即周期性保存模型参数，使得模型在故障发生处快速恢复并继续训练。MindSpore以step或epoch为周期保存模型参数。模型参数保存在CheckPoint（简称ckpt）文件中。模型训练期间，发生故障，载入最新保存的模型参数，恢复在此处的状态，继续训练。import os# 创建训练数据集# 加载训练数据集# 模拟训练过程中发生故障return x。
2024-10-18 09:57:26
1104
原创 昇思MindSpore进阶教程--特征值检测
模型训练过程中，处理器可能发生特征值检测异常，产生计算错误且无上报。特征值检测异常可能会造成对模型训练的严重负面影响。如果需要在默认检测场景之外，对于自定义的特征值进行检测，除了开启特性开关NPU_ASD_ENABLE之外，还需要自行实现基于ASDBase Jit Class，集成ASD检测能力的自定义算子。这里使用 MindSpore Transformers Llama2 作示例，实现对 Embedding 层特征值的特征值检测。
2024-10-17 10:08:28
951
原创 昇思MindSpore进阶教程--模型压缩
MindSpore是一个全场景的AI框架。当模型部署到端侧或者其他轻量化设备上时，对于部署的内存、功耗、时延等有各种限制，所以往往在部署前需要对模型进行压缩。MindSpore的模型压缩能力由 MindSpore Golden Stick 提供，MindSpore Golden Stick是华为诺亚团队和华为MindSpore团队联合设计开发的一个模型压缩算法集，为MindSpore提供了一系列模型压缩算法，如量化、剪枝等。详细资料可前往 MindSpore Golden Stick官方资料 查看。
2024-10-17 10:02:08
574
原创 昇思MindSpore进阶教程--模型推理总览
MindSpore通过统一IR定义了网络的逻辑结构和算子的属性，将MindIR格式的模型文件与硬件平台解耦，实现一次训练多次部署。基本介绍MindIR作为MindSpore的统一模型文件，同时存储了网络结构和权重参数值。同时支持部署到云端Serving和MindSpore Lite平台执行推理任务。
2024-10-10 11:34:46
978
1
原创 昇思MindSpore进阶教程--数据处理性能优化(下)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-10 11:26:30
1256
原创 昇思MindSpore进阶教程--数据处理性能优化(中)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-09 11:13:54
1524
原创 昇思MindSpore进阶教程--数据处理性能优化(上)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。
2024-10-09 11:02:58
1242
原创 昇思MindSpore进阶教程--单节点数据缓存(下)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-08 12:20:35
959
原创 昇思MindSpore进阶教程--单节点数据缓存(中)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-08 12:13:27
350
原创 昇思MindSpore进阶教程--单节点数据缓存(上)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-07 10:31:04
1049
原创 昇思MindSpore进阶教程--自动数据增强
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-07 10:20:14
1199
原创 昇思MindSpore进阶教程--Per-sample-gradients
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-06 12:11:32
1012
原创 昇思MindSpore进阶教程--黑塞矩阵
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-06 12:05:39
1475
原创 昇思MindSpore进阶教程--雅可比矩阵
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-05 10:40:46
940
原创 昇思MindSpore进阶教程--自动向量化Vmap(下)
本教程重点在于介绍Vmap的场景使用说明，本质上自动向量化并非将循环逻辑执行于函数外部，而是将循环下沉至函数的各个基元操作中，并将映射轴信息在基元操作间传递，从而保证计算逻辑的正确性。Vmap的性能收益主要来自于各个基元操作所对应的VmapRule实现，由于循环下沉至算子层级，因而更容易结合并行技术进行性能优化，如果您有自定义算子的场景也可以尝试为自定义算子实现特定的VmapRule，从而获得更好的性能。对于性能极致追求的场景还可以再结合图算融合特性进行优化。
2024-10-05 10:31:56
797
原创 昇思MindSpore进阶教程--自动向量化Vmap(上)
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-04 11:13:38
1145
原创 昇思MindSpore进阶教程--在ResNet-50网络上应用二阶优化实践(下)
使用load_checkpoint接口加载模型文件。使用model.eval接口读入测试数据集，进行推理。计算得出预测精度值。
2024-10-04 11:05:55
1015
原创 昇思MindSpore进阶教程--在ResNet-50网络上应用二阶优化实践(上)
本示例中使用的网络模型为ResNet50-v1.5，定义ResNet50网络。......MindSpore支持的损失函数有SoftmaxCrossEntropyWithLogits、L1Loss、MSELoss等。THOR优化器需要使用SoftmaxCrossEntropyWithLogits损失函数。损失函数的实现步骤在src/CrossEntropySmooth.py脚本中。
2024-10-03 10:37:00
975
原创 昇思MindSpore进阶教程--二阶优化器THOR
深度学习训练过程可以看成损失函数损失值下降过程，合适的优化器可以让深度学习训练时间大大减少。优化器可以分为一阶优化器和二阶优化器，目前业界主流使用的仍然是一阶优化器，二阶优化器因为单步训练时间过久而没有被广泛应用，而近年来，将二阶优化应用到深度学习训练中有了理论突破，并取得了不错的结果。本文会介绍下优化器的背景，以及MindSpore团队自研二阶优化器THOR。
2024-10-03 10:30:24
1018
原创 昇思MindSpore进阶教程--梯度累加
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-02 08:03:52
1287
原创 昇思MindSpore进阶教程--内存复用
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-02 07:56:10
284
原创 昇思MindSpore进阶教程--使能图算融合
基于图算融合技术，用户可以很方便地实现高性能的自定义组合算子。其主要流程为：在脚本中用基本算子组合的方式实现自定义算子定义和使用；打开图算融合配置；图算融合对自定义组合算子中的基本算子自动进行算子融合，并生成高性能融合算子。相比其它自定义算子方式，这种方式具有对框架无侵入、简单易用等优点。
2024-10-01 11:16:24
1014
原创 昇思MindSpore进阶教程--下沉模式
大家好，我是刘明，明志科技创始人，华为昇思MindSpore布道师。技术上主攻前端开发、鸿蒙开发和AI算法研究。努力为大家带来持续的技术分享，如果你也喜欢我的文章，就点个关注吧。
2024-10-01 11:07:13
1323
原创 昇思MindSpore进阶教程--报错分析
本章节用于介绍MindSpore为神经网络开发者和框架开发者提供的多种功能调试能力，功能调试指开发者在开发神经网络或者框架功能过程中的调试能力，与功能实现后的性能、精度的调试调优有所区别。从不同的使用目的将功能调试分为网络开发调试与框架开发调试，网络开发调试用于满足网络开发者（也被称为用户）完成神经网络开发过程中的错误调试、控制与观察网络执行的调试诉求，框架开发调试用于满足框架开发者的调试诉求。网络开发调试：为神经网络开发者提供的功能调试能力，可分为网络报错调试与网络执行调试。
2024-09-30 12:05:59
971
原创 华为昇腾CANN训练营2024第二季--Ascend C算子开发能力认证（中级）题目和经验分享
目前认证考试只有一道编程题，没有选择题和简答题。以下是认证考试的题目介绍考试类型：编程题考试时长:考试时间仅2小时，请做好题目合成文件包后，再进考试上传！重点：一定要先自己做好题目，再进考试上传。做好题目再上传，就是几秒钟的事情，所以2小时根本花不完。考试环境搭建要求：环境上要有昇腾NPU，且CANN版本为8.0.RC2.alpha003。请开发者自行准备。考试环境搭建并不是在考试时搭建的，需要自己用香橙派或者在华为云ModelArts上搭建。具体搭建方式进入训练营后有文档。
2024-09-30 11:37:00
2993
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人