活动预告丨上海创智/TileAI/华为/先进编译实验室齐聚上海,TVM/TileRT/PyPTO/Triton各显神通

对LSTM中每个batch都初始化隐含层的理解 不知道有没有人和我有一样疑惑 在LSTM相关的代码中,为什么每个batch都会将隐藏层重新初始化, 这样不会把以前训练出来的参数丢掉吗?? 比如 代码来自GitHub 看了一些解释是h与c是状态,不是参数,每个batch中都需要初始化为0,LSTM 中的参数是W,b。 网络中训练的是参数,不是状态。 说真的。。。当时我没怎么看懂。。。 咨询了实验室的师兄后,我有了自己的理解 产生误解的主要原因是我对RNN和LSTM的结构理解不深入,我们通常看到RNN结构图基本都是这样的 ... 阅读详情

随着 AI 模型规模不断攀升,开发者和工程团队对计算性能、资源利用率和执行效率的要求也愈发严格。也正因如此,AI 编译器正在成为硬件与应用之间的关键枢纽,为训练与推理提供高效执行和智能算力调度。

在这一趋势下,业内对前沿技术交流与最佳实践分享的需求也随之升温。越来越多的团队希望通过面对面的深入讨论,探索算力优化的新方法、验证落地路径、并从真实场景中汲取经验。

一直以来,由 HyperAI超神经主办的 Meet AI Complier 技术沙龙,汇聚科研机构、企业内的专家学者与一线工程师,从技术创新聊到应用攻坚,为大家搭建了交流平台。今年 7 月,北京站的第 7 期 Meet AI Compiler 技术沙龙圆满落幕,现场热烈讨论不断,技术干货引发持续互动!

12 月 27 日,第 8 期 Meet AI Compiler 如约而至。 本期我们邀请了来自上海创智学院、TileAI 社区、华为海思、先进编译实验室等的多位专家,他们将带来从软件栈设计、算子开发到性能优化的全链路分享,内容涵盖 TVM 的跨生态互操作、PyPTO 的融合算子优化、TileRT 的低延迟系统、Triton 的多架构加速,呈现从理论到落地的完整技术路径。

报名已开启,席位有限~快来现场蹭干货,我们在上海等你!🫶

活动详情

⏰ 时间:12 月 27 日(周六)13:30-17:30

📍 地点:上海市徐汇区华发路 699 弄 3 号上海创智学院

👬 人数:150(现场座位有限,请尽早报名)

🙌🏻 报名链接:https://hdxu.cn/1CupU

嘉宾及议程

分享嘉宾

13:40-17:20

在这里插入图片描述

分享主题: TVM FFI: Open ABI and FFI for Machine Learning Systems

内容简介: TVM FFI 旨在解决机器学习系统生态割裂与互操作性难题。通过定义开放的 ABI 和 FFI 标准,该项目利用稳定的 C ABI 及 DLPack 实现零拷贝数据传递,打通了 PyTorch 等框架与底层编译器的连接。它支持跨语言高效调用,显著降低了多平台适配的工程成本。

观看本场分享,你将了解:

  1. 学习 TVM-FFI 通用标准,大幅降低跨语言 Mlsys 开发维护成本

  2. 了解并构建兼容未来的模块化 ML 生态

在这里插入图片描述

分享主题: TileRT:面向低延迟大模型推理的软硬件探索

内容简介: 随着大模型跨入万亿参数,处理序列跨过百万 token,模型能力正在不断打破各项记录。然而,人们对模型极致计算速度的追求从未停止。一方面许多低延迟场景需要在秒级甚至毫秒级得到响应,如实时决策、博弈等场景;另一方面大模型训练进入 Agent 时代,超长序列的 rollout 时间成为主要瓶颈。

本报告介绍 TileRT 项目,从 AI 编译器、runtime、到架构设计的角度,思考如何构建针对极低延迟的大模型计算软件栈。

观看本场分享,你将了解:

  1. 了解大模型低延迟推理场景背景、重要性和未来展望

  2. TileRT 的技术挑战与实践分享

在这里插入图片描述

分享主题: PyPTO:基于白盒编译的融合算子开发框架

内容简介: 本次分享聚焦华为新推出的融合算子开发框架 PyPTO。它基于 Tensor/Tile 编程范式,通过聚焦核内 SRAM 管理、跨平台 PTO 指令集和 MPMD 运行时等技术,结合 Human-In-The-Loop 调优,以白盒编译方式实现高性能与易用性的统一。

观看本场分享,你将了解:

  1. 掌握原生为 SIMD 架构设计的融合算子开发框架 PyPTO 的设计理念与核心架构

  2. 掌握 PyPTO 聚焦于发挥用户的专家经验的白盒编译思想与 Human-In-The-Loop 调优精髓

  3. 掌握利用 PyPTO 提供的可视化工具,快速在昇腾平台开发出高性能融合算子的完整流程

在这里插入图片描述

分享主题: 面向 Triton 编译器的编译优化实践

内容简介: 本次分享聚焦面向 Triton 编译器的优化实践,系统介绍 Triton 的语言与编译器结构、生态演进与算子库开发方法,并深入覆盖 CPU、NPU、GPU 等多架构的关键优化技巧,展示构建高性能统一算子体系的完整路径。

观看本场分享,你将了解:

  1. Triton 生态的最新进展

  2. Triton 编译器在多架构(CPU/NPU/GPU)上的关键优化技术

在这里插入图片描述

主办方及合作伙伴

在这里插入图片描述

HyperAI超神经(hyper.ai)作为国际领先的人工智能及高性能计算社区, 旨在通过提供行业资讯报道、数据集加速下载、在线教程演示、热门模型性能评测、前沿论文推荐、高价值成果解读、顶会日历集成等一系列服务,助力全球数据科学及⼈⼯智能⾏业的开发者及爱好者学习、理解、实践,与社区⼀起构建⼈⼯智能的未来。

访问官网: https://hyper.ai/

在这里插入图片描述

OpenBayes贝式计算是国内领先的高性能计算服务提供商,通过为新一代异构芯片嫁接经典软件生态及机器学习模型,进而为工业企业及高校科研提供更加快速、易用的数据科学计算产品,其产品已被数十家大型工业场景或头部科研院所所采用。

访问官网: https://openbayes.com/

在这里插入图片描述

上海创智学院是汇聚顶尖大学、头部企业和科研机构联袂建设的新型人才培养机构。学院坚持「以学生为中心、以前沿为牵引」的培养理念,通过超高规格的师资、超常措施的培养、超凡条件的保障,探索具有中国特色的 AI 领军人才培养方案,致力于培养中国 AI 领军人才,打造世界人工智能创新高地。

在这里插入图片描述

MLC.AI 社区成立于 2022 年 6 月,并由 Apache TVM 主要发明者、机器学习领域著名的青年学者陈天奇,带领团队上线了 MLC 线上课程,系统介绍了机器学习编译的关键元素以及核心概念。

2022 年 11 月,在 MLC.AI 社区志愿者的共同努力下,首个完整的 TVM 中文文档上线,并成功托管至 HyperAI超神经官网,进一步为对机器学习编译感兴趣的国内开发者,提供了接触并学习一门新技术的基础设置——文档。

MLC 线上课程: https://mlc.ai/

TVM 中文文档: https://tvm.hyper.ai/

活动支持

在这里插入图片描述

考虑到本场活动的场地空间情况,我们仅开放了 150 个到场名额,建议大家尽早报名锁定席位。

12 月 27 日 13:30-17:30,我们不见不散!

静态编译Qt5源码(Kylin-Desktop-V10-SP1-2203-LoongArch64+qt5.15.16) 之前的文档,记录的是通用情况,本次笔者记录下Qt5的静态编译过程,供有需要的小伙伴参考使用的操作系统是Kylin-Desktop-V10-SP1-General-Release-2203-LoongArch64,处理器是龙芯3A5000,架构是loongarch。 阅读详情

相关推荐

解密m3u8视频合并:从猫抓插件到本地文件修改全流程

本文详细解析了m3u8视频合并的全流程,特别针对加密视频片段提供了解决方案。从使用猫抓插件捕获m3u8文件地址,到利用N_m3u8DL-CLI工具自动下载、解密并合并ts片段,手把手教你处理AES-128加密等常见问题,最终生成完整的本地MP4文件,适合需要备份或处理流媒体资源的用户。

weixin_29290947的博客 1368

写给新手的 pypto:昇腾 Python PTO 绑定到底是啥?

写给新手的 pypto:昇腾 Python PTO 绑定到底是啥?

weixin_63843758的博客 306

别再手动调参了!用MATLAB+改进PSO算法,5步搞定机械臂轨迹优化(附完整代码)

本文介绍如何利用MATLAB和改进PSO算法快速优化机械臂轨迹规划,仅需5步即可完成传统耗时的手动调参过程。通过混沌初始化、自适应权重等创新方法,改进PSO算法显著提升优化效率,实现全局最优解搜索,适用于工业自动化中的机械臂控制。文章包含完整MATLAB代码实现,帮助工程师轻松应用于实际生产场景。

weixin_29232121的博客 357

深入解析 PyPTO Operator:以 DeepSeek‑V3.2‑Exp 模型为例的实战指南

本文深入探讨了PyPTO算子在大模型推理中的关键作用。作为DeepSeek-V3.2-Exp等大型模型的核心组件,PyPTO并非简单的算子实现,而是一个介于框架与硬件之间的"软垫层",通过可编程的算子DSL将复杂计算步骤高效映射到目标设备。文章详细解析了PyPTO如何将模型中的关键结构(如SparseAttention、MoE路由等)拆解为可控算子,并针对NPU等硬件进行深度优化。重点分析了PyPTO在量化路径、RoPE编码和动态Tile处理等方面的创新设计,展示了其如何通过Tile-L

master_hunter的博客 5811

从实习生到独立上手:我是如何用海思PQTool搞定IPC图像调试的

本文分享了从实习生到独立使用海思PQTool进行IPC图像调试的成长历程。通过工具搭建、核心参数调整和实战案例,详细介绍了如何高效解决图像质量问题,特别强调了ISP调试中的关键参数和实用技巧,适合刚入门的图像调试工程师参考。

weixin_33756596的博客 313

高德地图JSAPI中旋转Marker点标签图片时候,且不旋转lable内容方法。

高德地图JSAPI中旋转Marker点标签图片时候,且不旋转lable内容方法

weixin_42960380的博客 2500

PyPTO :一场“人”与“编译器”的白盒契约

值得注意的是,PyPTO 在这里做了一个关键的抽象:开发者控制的是。

定期分享我的发现和想法,感谢你的陪伴和支持 6060

STM32----SPI+DMA高效读写外部Flash的配置与实战

本文详细介绍了STM32通过SPI+DMA高效读写外部Flash的配置与实战方法。针对大量数据传输场景,使用DMA技术可显著提升系统效率,释放CPU资源。文章包含完整的代码实现、常见问题调试技巧以及性能优化建议,帮助开发者快速掌握这一关键技术。

pea55的博客 1032

推出新型面向 AI 加速器的高性能编程框架——PyPTO

PyPTO 通过多层级 IR 系统、基于 Tile 的编程模型、更高层次的 Tensor 抽象、MPMD 执行调度、Man-In-The-Loop 工作流和分层抽象设计,致力于消除算法与算子开发的鸿沟,平衡编程简单性和控制力,为不同层次的开发者提供相应的抽象层次和工具支持。提供完整的可视化工具和分析工具,一致的错误信息和诊断机制,高质量示例和文档,与主流 IDE 和构建系统的集成,这些都是生态成功的关键因素。大多数开发者可以快速获得可用的实现,而性能敏感的开发者可以通过工具链进行深度优化,追求极致性能。

m0_71340392的博客 1142

Ubuntu快速安装miniconda

以下是卸载anaconda的步骤,记录下来给我自己看,因为学校平台anaconda版本较老,且平台不好用,每次需要卸载anaconda,我记性又不好,所以简单记录下步骤~删除类似这样的行(因为已经卸载成功了,没有截图了,拿miniconda来充当一下,样子是很像的)本次安装Ubuntu版本:18.04 但是miniconda版本是最新的。退出编辑,输入命令,清除索引缓存,保证用的是镜像站提供的索引。直接复制粘贴清华源的索引(如果是第一次安装,这个文件是空的)重启终端出现(base)2.初始化conda。

xiang_muran的博客 5369

Unity Shader之路(一)什么是Unity Shader?

Unity Shader前言什么是UnityShaderUnity Shader和材质的关系 前言 众所周知,要想当游戏开发工程师,Unity中的Shader编写不得不摸,这一系列文章我将描写我的Shader学习之路,致敬冯乐乐的书Unity Shader入门精要,此篇什么是Unity Shader?希望能给后人一点方向 我们刚开始接触Unity的时候,总是会遇到材质,但是不了解材质都是什么,为什么可以在很多材质中选择,为什么有时候选择了其他材质后就不能达到我们想要的结果,为什么资源商店有那么多的材质,山.

TurboQ珞珈 2242

循环变换:pypto 的 tiling/vectorization/unroll

循环变换是连接算法与硬件的桥梁。pypto通过三大技术的协同优化,将用户编写的朴素循环自动转化为高性能 Kernel,让开发者无需成为硬件专家也能写出极致性能的代码。无论你是算子开发者,还是系统优化人员,掌握 pypto 的循环变换机制,都将为你在 AI 高性能计算领域提供强大助力。现在,就访问 pypto 仓库,体验智能循环优化,甚至贡献你自己的变换策略吧!🔗相关链接。

2401_89864609的博客 606

【CAD】【手把手带你写一个DXF&JAVA解析框架】02——整理DXF元数据实体类,涵盖重要属性与对照组码

本文系统梳理了DXF文件解析中的核心元数据类,重点分析了Tables段(图层、块记录)、Blocks段和Entities段的关键数据结构。通过详细的组码说明和对照代码实现,阐述了图层定义(DXFLayer)、块记录(DXFBlockRecord)、应用程序标识(DXFAppId)等表对象的属性构成;同时解析了直线(DXFLine)、多段线(DXFLwPolyLine)、圆弧(DXFArc)、文字(DXFText)等实体类的几何特征与属性定义。文章还构建了顶点(Vertex)、基类(DXFEntity、DXF

Wonder ZH 270

揭秘大模型推理引擎核心:PyPTO算子框架赋能DeepSeek-V3.2-Exp高效部署实战

在当前大模型技术飞速发展的浪潮中,行业内外的目光往往聚焦于模型本身的参数规模、训练数据量以及对话效果等显性指标。然而,当我们深入大模型从实验室走向生产环境的落地过程时,一个不容忽视的真相逐渐浮现:决定大模型服务质量上限的关键因素,并非仅仅是模型架构的先进性,更是隐藏在系统底层的算子优化水平。特别是对于DeepSeek-V3.2-Exp这类具备千亿参数规模的先进模型而言,算子的执行效率、内存管理策略

gitblog_00518的博客 580

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

双剑合璧!CANN 即将开源 PyPTO 与 AMCT,攻克 AI 开发两大核心痛点

在 AI 技术规模化落地的进程中,算子开发的复杂性与大模型部署的资源压力,始终是困扰开发者的两大核心难题。为了打破技术壁垒、提升开发效率,CANN 开源社区即将于 2025 年 12 月 30 日重磅推出两大核心工具 —— 高性能编程框架 PyPTO 与模型压缩工具包 AMCT。这两款工具分别聚焦 “易用性与高性能兼顾的算子开发” 和 “大模型轻量化部署”,将为 AI 开发者提供全流程技术支撑,进一步丰富 CANN 生态的核心能力。

夏天的博客 1250

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

PyPTO:面向AI加速器的高性能编程框架详解

CANN不仅是一套技术解决方案,更提供了一套可复用的架构设计模式渐进抽象原则:在不同层次提供恰当的抽象级别双向反馈设计:打破编译与运行的界限约束驱动优化:将启发式方法转化为形式化问题时空联合管理:扩展资源优化的维度这些设计原则为未来计算系统的发展提供了重要参考。CANN的成功证明,在AI计算领域,软件架构的创新能够释放硬件的全部潜力。更重要的是,CANN展示了中国在基础软件领域从跟随到引领的可能路径——不是简单的复制或集成,而是深度的原创性思考和系统性的架构创新。

2501_93045689的博客 605

HarmonyOS 6.1 基于React Native鸿蒙跨平台类型定义(LargeItem、DeliveryOrder、DeliveryTeam)确保数据安全性和业务匹配度,支持订单全生命周期跟踪

CANN(Compute Architecture for Neural Networks)是昇腾AI生态的核心基础软件层,为上层编程框架提供了统一的计算抽象和资源调度能力。每一次编程模型的变革都旨在更好地利用硬件特性、提升程序员的生产力、降低并行计算的门槛。在昇腾NPU的生态中,pypto是一个值得关注的新兴编程框架。

czhm57的博客 277

CANN技术深度剖析:PyPTO并行编程范式引领AI计算效率革命

`PyPTO`(发音: pai p-t-o)是 CANN 推出的革命性并行编程范式,全称为 **Parallel Tensor/Tile Operation**。该项目在开源社区拥有超过 400 个 Star,代表了一种面向 AI 计算的新型编程理念,旨在最大化匹配用户开发习惯,同时提供算子模板库,支持算子极简编程。

2501_94453800的博客 348

深度重构大模型推理架构:PyPTO算子编排框架赋能DeepSeek-V3.2-Exp高性能部署实战

在当前大模型技术快速迭代的背景下,行业内外往往过度关注模型参数规模和对话效果等显性指标。然而,当我们深入大模型从实验室走向生产环境的落地过程时,一个关键事实逐渐清晰:决定大模型服务质量的核心因素,不仅仅是模型架构的创新性,更是隐藏在系统底层的算子优化能力。特别是对于DeepSeek-V3.2-Exp这类千亿级参数的先进模型,算子的执行效率、内存管理策略和硬件适配能力,都会在实际推理服务中产生显著影

gitblog_01042的博客 361

PyPTO Hello World实战:10分钟跑通你的第一个AI加速器融合算子

PyPTO(发音:pai p-t-o)是面向AI加速器的高性能编程框架,基于PTO(Parallel Tensor/Tile Operation)编程范式,让你用几行Python就能在昇腾硬件上定义并运行融合算子。本教程带你在10分钟内完整跑通PyPTO的Hello World样例:从环境准备、编译执行,到在AI加速器上运行你的第一个张量加法融合内核并自动验证结果,零硬件也能用仿真模式体验。 #

gitblog_00220的博客 313

PyPTO:面向AI加速器的高性能编程框架全面解析

CANN分布式训练技术通过深度软硬件协同优化,为大规模AI模型训练提供了高效、稳定、易用的解决方案。随着AI模型规模的不断增长,分布式训练技术的重要性日益凸显。CANN不仅提供了当前最先进的分布式训练能力,更通过开源开放的方式,推动整个AI计算生态的发展。通过本文对TensorFlow在CANN上分布式训练实现的解读,我们可以看到华为在AI基础设施领域的深厚技术积累和开放创新的态度。随着技术的不断演进,CANN将继续在AI计算领域发挥重要作用,推动人工智能技术的普及和应用。

键盘敲碎了雾霭的博客 500

pypto 能让Python算子开发效率提升5倍?揭秘其DSL设计哲学

我在第一次看到 Ascend C 的算子开发代码时,第一反应是"这东西为什么这么复杂"。一个简单的向量加法,用 Python NumPy 写是三行,用 Ascend C 写要铺满一屏——要管内存分配、要用向量化指令、要处理边界条件、还要写 Tiling 策略。对于习惯了 Python 简洁表达的算法工程师来说,这个落差是很大的。其实这是硬件级编程的通病:底层越接近硬件,表达就越啰嗦。C 语言写嵌入式比 Python 复杂,不是因为嵌入式工程师喜欢啰嗦,而是硬件资源就是需要精细管理。

wanmeijuhao的博客 490

10分钟上手pypto:用Python直接调PTO虚拟指令集

PTO指令要用IDL(Interface Definition Language)定义。定义一个MatMul指令。// 输入input {// 输出output {// 计算逻辑(伪代码)c = a @ b;// 矩阵乘法编译好后,就可以用pypto调用自定义的MatMul指令了。# 加载自定义PTO指令# 初始化PTO上下文# 加载MatMul指令# 准备操作数# 设置操作数# 执行指令# 获取结果print(f"矩阵乘法结果:\n。

2502_93572233的博客 299

PyPTO:面向AI加速器的高性能编程框架全面解析与实践指南

"""高级数值控制示例"""# 创建舍入模式控制器# 创建溢出处理器# 启用数值控制的计算环境# 执行可能溢出的计算# 大型矩阵乘法(可能溢出)print("执行大型矩阵乘法(FP16)...")# 检查溢出情况print(f"检测到。

2601_95191255的博客 679

CANN深度解析:PyPTO并行张量操作编程范式助力AI算子高效开发

CANN开源社区推出的**PyPTO(Parallel Tensor/Tile Operation)**编程范式,为开发者提供了一种高效、简洁的并行计算编程方式,大大降低了AI算子开发的门槛。

2503_94034882的博客 534

Tone.js 测试套件实战指南:用 gulp 驱动 Mocha 跑通 Web Audio 框架的全部单元测试

本文以 [chrome-music-lab](https://link.gitcode.com/i/01e4c731e3bd982e9ee521d6d070f2fa) 仓库内嵌的 Tone.js(版本 0.6.1,见 [package.json](https://link.gitcode.com/i/b69f76cf19a13867e42c862258485a62))测试文档为主线,系统讲解如何在

gitblog_00700的博客 149

pypto`深度解析:弥合 PyTorch 与专用 AI 处理器之间的鸿沟

对于 PyTorch 中没有原生实现或用户希望进行定制优化的算子,pyptoC++/CUDA 扩展支持:开发者可以编写 C++/CUDA 扩展来定义新的 PyTorch 算子。pypto能够识别这些扩展,并将它们桥接到 CANN 的自定义算子开发框架(如 TBE)上,使得这些算子也能在专用 AI 处理器上高效执行。TBE 算子集成:对于直接基于 TBE 框架开发的算子,pypto提供接口使其能够被 PyTorch 调用,实现从 Python 到底层硬件的端到端路径。兼容。

dfssaafgds的博客 662
上一篇: 在线教程丨图像生成新SOTA,FLUX.2可同时参考10张图,实现超高角色/风格一致性
下一篇: 集结完毕,COSCon‘25 开源集市伙伴正式亮相!
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值