- 博客(8)
- 收藏
- 关注
原创 【精度】【核内同步】applyTopKTopPWithSorted算子精度问题定位
摘要:本文分析了applyTopKTopPWithSorted算子精度异常问题。通过实验排除了初始化问题,发现异常源于共享内存空间下的同步缺失:CumSum计算与后续值搬出操作共用缓冲区,但缺少必要的同步指令,导致计算未完成时数据就被错误使用。解决方法是在关键计算阶段插入VToSSync和SToMTE3Sync同步指令,确保计算完成再使用数据。该案例揭示了高性能计算中内存复用与同步控制的平衡重要性,强调在优化显存占用时需谨慎处理异步操作间的数据依赖关系。
2026-03-10 17:35:05
406
原创 【精度】【核间同步】torch_npu.fused_linear_online_max_sum概率性精度不达标问题
摘要:针对torch_npu.fused_linear_online_max_sum接口在批量测试中出现概率性精度失败问题,通过逐步排除内存踩踏和同步问题,最终定位到问题根因是vec核与cube核间未同步导致predicted_logits_local读取脏数据。解决方案是在TargetProcess和CVProcess间插入全核同步,确保数据计算完成后再使用。经验表明,对于概率性精度问题,需关注核间同步及计算依赖关系,通过分步注释法可有效定位异常点。
2026-02-06 11:08:44
516
原创 【NPU】【精度】【数据踩踏】AdaptiveMaxpool3D算子indices精度问题
本文记录了NPU上调试AdaptiveMaxpool3D算子时发现的索引异常问题。在将[1,1,1,15,17]输入转换为[1,1,1,2,17]输出时,NPU计算结果的最大值正确但索引值错误(49271 vs CPU标杆202)。通过逐步调试发现,问题根源在于Select接口需要8KB预留空间,而原有kernel已申请185KB空间,总和193KB超过了NPU芯片192KB的UB空间限制,导致内存踩踏。解决方案是调整内存分配顺序,将复用计算部分移到最后。该案例提示开发者需注意API接口约束和内存分配策略,
2025-12-31 14:18:14
1411
原创 【NPU】【精度】【数值计算】Adam算子计算顺序不同引发的精度问题
摘要:在NPU上调试Adam优化器时发现微小精度差异(99.9931%正确率)。通过分析发现,浮点运算顺序不同(先乘后除vs先除后乘)导致中间结果舍入误差累积差异。调整计算顺序为先除后乘后精度完全达标。该案例表明:(1)浮点运算顺序会影响精度;(2)数学等价不等于计算等价;(3)微小误差可能影响模型训练稳定性。建议开发者重视浮点运算顺序,保持与标杆一致的计算逻辑。(149字)
2025-12-31 14:12:35
382
原创 【昇腾NPU】【精度】【API接口】MaxPool3DWithArgmaxV2算子ReduceMax接口indice精度差异问题
摘要:MaxPool3DWithArgmaxV2算子在测试用例中发现两处索引差异,根因是该算子调用ReduceMax指令处理+0/-0时优先返回+0索引,与CPU实现方式不同。经分析,由于索引仅用于反向梯度计算且对模型收敛无实质影响,决定保留当前实现不作修改。该差异属于功能等效情况,不影响算子最终性能。
2025-12-08 10:03:38
298
原创 【昇腾NPU】【精度】【数据踩踏】Linspace算子数值计算不等价踩踏问题
摘要:本文分析了NPU设备上torch.linspace算子在特定维度(如dim=69)时出现的精度异常问题。研究发现当数据尾部处理采用地址回退方式满足32字节对齐要求时,会导致部分索引位置(如61-63)被不同核重复计算,产生约3.8147e-06的微小差异。这种并行计算下的浮点运算差异导致多次运行结果不一致。解决方案是使用DataCopyPad API实现非对齐搬运,避免冲突区域的重复计算。该案例揭示了算子开发中数学等价变换可能引发的精度问题,强调需权衡实现便利性与计算准确性。(149字)
2025-12-08 09:54:49
469
原创 Paddle框架整体使用感受
废话不多说,省得没人看。文章大致是推荐深度学习入门者可以尝试paddle框架。paddlepaddle是百度AI推出的一款深度学习框架,与tensorflow、cafffe和pytorch等框架相似,提供了使用神经网络结构的各种API接口。我从3月初的深度学习7日打卡营第四期,再到近日参加的CV疫情七日打卡营活动,满打满算接触了整整一个月,来作为我入门深度学习的第一步。也是在此期间的经历,让...
2020-04-09 13:38:37
5125
9
原创 paddlepaddle之写完这篇心得就有100算力,太香了
第一次邂逅paddlepadlle是在19年7月底,那时候报了一下百度之星的目标检测大赛,因为某些原因没有做下去,不过当时连入门都没有,也是本着看一看比赛的完整流程,为以后打比赛做一点准备。但是ai studio提供算力的友好方式真的非常吸引我,而且各种奖励也很丰厚,记得提交过代码就能获得战衣等礼物,当初还有小姐姐(声音好听)打电话过来询问比赛情况。只是在第一阶段的预选赛?时就有相关人员咨询情况,...
2020-03-10 03:52:39
1250
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅