- 博客(11)
- 收藏
- 关注
原创 CANN 与 AIGC:从量化样例看性能升级之路
通过 CANN 的量化工具链,AIGC 开发者可以在不改动模型代码的前提下,快速得到高性能、低延迟的 INT8 版本。实现简洁:只需编写一个 JSON 配置文件,ATC 自动完成校准与量化。性能可观:典型场景下延迟可下降 30% 以上,吞吐量提升 50% 以上。灵活可控:支持层级量化、混合精度、动态 Batch 等高级特性。cann 组织链接量化样例仓库链接。
2026-02-06 21:13:42
618
原创 基于 CANN ops-nn 实现 GELU 自定义算子:AIGC 激活函数的高效硬件适配
摘要: 本文探讨了在AIGC模型中优化GELU激活函数的实现方法。通过CANN开源项目ops-nn开发了融合式、向量化的GELU算子,支持动态shape和FP16推理。文章详细介绍了算子注册、基于Tanh近似的Kernel实现(避免erf计算瓶颈),以及精度-性能验证方案。实测显示自定义GELU比PyTorch实现快3.1倍,满足AIGC模型的精度要求。该工作展示了通过底层算子优化提升生成式AI系统效率的有效路径,相关代码已开源在CANN/ops-nn仓库。
2026-02-06 21:10:51
344
原创 CANN算子开发实战笔记:初学者解析UGC内容处理中的优化方案
摘要:本文探讨了CANN算子在UGC内容处理中的应用,重点介绍了敏感词过滤和图像增强两个自定义算子的设计与实现。通过定义输入输出、编写核心逻辑和性能调优,实现了高效的UGC内容处理。测试结果表明,算子能有效过滤敏感词并优化图像质量。文章还展望了CANN算子的发展前景,指出其将为开发者提供更多学习机会和认证奖励。
2025-12-07 22:49:54
324
原创 CANN算子开发笔记:UGC内容处理实战
本文分享了大三学生在CANN平台开发自定义算子的实践经验,重点解决UGC内容处理中的敏感信息检测和图像质量优化问题。设计了SensitiveWordFilter和ImageEnhancement两个算子,详细介绍了其功能实现、接口定义、核心逻辑及测试方法,并提出了性能调优建议。通过实践提升了内容处理效率和编程能力,同时介绍了2025年昇腾CANN训练营的相关活动。
2025-12-07 22:47:45
833
原创 CANN算子开发实践:UGC内容处理的实战探索
有人用专业相机拍摄60fps的高帧率素材,也有人用老旧手机录制15fps的低帧率片段。传统的帧率提升方案是在CPU上做光流估计或简单的帧重复,但前者计算量巨大,后者效果糟糕。\n\n我在实际项目中遇到的典型场景是:一条15fps的搞笑短视频需要提升到30fps送入行为识别模型,同时保证插帧的视觉连贯性。传统方案的瓶颈在于光流计算需要在CPU或GPU上完成,然后将运动场传回NPU做像素warping,这种Host-Device的频繁交互会让整体延迟飙升到不可接受的程度。
2025-11-18 22:37:21
613
原创 CANN算子开发:UGC内容处理实战
UGC视频的帧率困境:CANN自定义时间插值算子破解卡顿难题\n在UGC视频处理场景中,用户上传的视频帧率参差不齐。传统的帧率提升方案是在CPU上做光流估计或简单的帧重复,但前者计算量巨大,后者效果糟糕。\n\n我在实际项目中遇到的典型场景是:一条15fps的搞笑短视频需要提升到30fps送入行为识别模型,同时保证插帧的视觉连贯性。传统方案的瓶颈在于光流计算需要在CPU或GPU上完成,然后将运动场传回NPU做像素warping,这种Host-Device的频繁交互会让整体延迟飙升到不可接受的程度。
2025-11-18 22:36:49
425
原创 《仓颉数据竞争检测:从编译时守护到运行时追踪的完整防线》
仓颉语言采用多层防御体系应对数据竞争问题:1)编译时通过Send/Sync类型系统阻止不安全线程共享;2)运行时通过Mutex<T>等封装类型强制锁与数据绑定;3)集成ThreadSanitizer动态检测工具;4)推荐Actor模型消除共享状态。这种"预防优先"的哲学将并发安全问题从程序员责任转化为系统保障,通过类型系统、同步原语、动态检测和架构模式的协同作用,在开发生命周期的各个阶段层层设防,最大化消除数据竞争风险。
2025-10-29 17:33:38
655
原创 仓颉的“并发盾牌“:从类型系统到运行时的线程安全保证
不可变优先:减少共享可变状态。类型系统约束Send和Sync在编译期防止非法共享。并发原语:原子类型和互斥锁提供底层的同步机制。!
2025-10-29 17:29:14
509
原创 仓颉的“时间魔法“:编译期计算如何重塑性能与安全边界
摘要:现代编程语言如仓颉通过编译期计算技术,将运行时工作前移以实现高效安全的系统设计。其核心优势包括零运行时开销、更早发现错误和更优的代码优化。具体实践体现在:1) 使用编译期常量替代运行时配置,实现零成本抽象;2) 通过泛型特化和单态化技术,为不同类型生成高度优化的专用代码。这些机制使开发者既能编写通用代码,又能获得专用实现的高性能,体现了"零成本抽象"的设计哲学,是构建安全高效系统的关键所在。
2025-10-29 17:27:04
489
原创 《仓颉数据竞争检测:从编译时守护到运行时追踪的完整防线
仓颉语言采用多层次防御体系解决数据竞争问题:1) 编译时通过所有权系统和Send/Sync特性标记确保类型安全;2) 运行时使用Mutex<T>和RwLock<T>强制同步访问共享数据;3) 集成ThreadSanitizer进行动态检测;4) 推荐Actor模型避免共享状态。这种分层策略从语言设计层面预防并发问题,相比传统语言的"程序员负责"模式,提供了更可靠的并发安全保障。
2025-10-29 17:24:22
926
原创 仓颉的“时间魔法“:编译期计算的哲学与工程实践
文章摘要: 仓颉语言通过编译期计算将程序决策和计算从运行时转移到编译时,实现了性能跃升与类型安全提升。其核心是常量表达式系统,允许在编译期完成复杂计算,实现零开销抽象。文章展示了两个实践案例:1)利用编译期计算优化环形缓冲区,通过编译期断言确保参数合法;2)类型安全状态机,通过编译期类型计算确保状态转移合法性。这些特性使仓颉能够在不牺牲安全性的前提下构建高效、表达力强的抽象,在编译期发现更多错误,体现了现代语言的设计深度。
2025-10-29 17:16:12
510
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅