<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[happyAnger6的专栏]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/happyAnger6</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; happyAnger6]]></copyright><item><title><![CDATA[FlashAttention-4 论文整理（arXiv:2603.05451）]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/165748073</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/165748073</guid><author>happyAnger6</author><pubDate>Thu, 17 Sep 2026 15:38:44 +0800</pubDate><description><![CDATA[Attention 是 Transformer 的核心层，也是大模型与长上下文应用的主要瓶颈。FlashAttention-3 通过异步执行与 warp specialization 针对 Hopper（H100）优化了 attention，但主要面向 H100。产业已快速转向 Blackwell 系（B200、GB200）。这类 GPU 因非对称硬件缩放呈现不同性能特征：Tensor Core 吞吐翻倍，其它功能单元（共享内存带宽、指数单元等）增速更慢或不变。]]></description><category></category></item><item><title><![CDATA[TIRx：面向演进中前沿 ML 内核的开源编译器栈]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163894172</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163894172</guid><author>happyAnger6</author><pubDate>Wed, 19 Aug 2026 19:14:55 +0800</pubDate><description><![CDATA[2026 年 6 月 22 日 • Apache TVM 社区今天我们正式发布——一个基于 Apache TVM 构建的开源、硬件原生（hardware-native）ML 内核 DSL 与编译器。它瞄准 AI 软件栈中「快速演进的内核」与「快速演进的硬件」交汇的那一层：TIRx 目前已可编译到 GPU 及专用 AI 加速器，并设计为能随后续硬件代际一同成长。同一套设计同时服务于专家手写内核、Agent 生成内核以及 Megakernel 系统。@T.jit。]]></description><category></category></item><item><title><![CDATA[InternVLA-N1：面向可学习潜在规划的开放双系统视觉-语言导航基础模型]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163697290</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163697290</guid><author>happyAnger6</author><pubDate>Wed, 12 Aug 2026 14:56:01 +0800</pubDate><description><![CDATA[我们提出——首个开放的双系统视觉-语言导航（Vision-Language Navigation, VLN）基础模型。System 2 的像素目标（pixel-goal）规划，以及System 1 的敏捷执行。我们为此框架设计了课程式两阶段训练范式：首先，以显式像素目标作为监督或条件，分别预训练两个系统；随后冻结 System 2，并以异步端到端方式微调新引入的潜在规划（latent plans）与 System 1。]]></description><category></category></item><item><title><![CDATA[tvm tirx教程(一) ------ 概述]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163511412</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163511412</guid><author>happyAnger6</author><pubDate>Wed, 05 Aug 2026 19:19:07 +0800</pubDate><description><![CDATA[对于成熟硬件上的成熟 kernel，这条边界可以偏高：编译器把线程分配、数据搬移、布局细节与指令选择藏在紧凑的张量/tile 抽象之后——这对已有、稳定的 kernel 模式很有效。TIRx 通过 TVM FFI 在 Python、C++ 与 Rust 中暴露其 IR 与编译器工具，并提供结构化搜索空间，以及密集的、在正式 benchmark 之前即可获得的反馈（良构性、同步合法性、无竞争、数值仿真等）。在完整 kernel 中，编排仍写在普通源码里，而反复出现的硬件操作则表现为 tile 原语。]]></description><category></category></item><item><title><![CDATA[tvm教程 -------- 定制优化]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163483070</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163483070</guid><author>happyAnger6</author><pubDate>Tue, 04 Aug 2026 23:21:57 +0800</pubDate><description><![CDATA[可下载并在本地运行 Jupyter notebook。Apache TVM 的一个主要设计目标，是让研究或工程开发都能方便地自定义优化流水线，并快速迭代工程优化。]]></description><category></category></item><item><title><![CDATA[tvm教程 ------混合 Python/PyTorch 与 TVM]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163480659</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163480659</guid><author>happyAnger6</author><pubDate>Tue, 04 Aug 2026 19:47:46 +0800</pubDate><description><![CDATA[TIR 与 Relax 函数在实例化时 JIT 编译，Python 函数按原样运行，张量则通过零拷贝 DLPack 在 TVM 与 PyTorch 之间传递。桥接 Python 与 TIR：经 DLPack（零拷贝）把 PyTorch 张量转为 TVM NDArray，分配输出缓冲，调用已编译 kernel，再转回。支持双向跨层调用：Relax 函数可调用 Python 函数，Python 函数也可调用 TIR/Relax 函数。Relax 函数与 Python 函数都在描述计算图。]]></description><category></category></item><item><title><![CDATA[tvm relax教程(五) ------------ Relax 变换]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163470759</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163470759</guid><author>happyAnger6</author><pubDate>Tue, 04 Aug 2026 13:02:48 +0800</pubDate><description><![CDATA[我们也可以定义自己的 Pass。以把relu算子改写为gelu为例。首先，需要编写一个 Relax IR Mutator 来完成改写。@mutator# 访问 relax.Call 表达式，仅处理 op 为 relax.nn.relu 的情况然后可以编写一个 Pass，将该 mutator 应用到整个模块。"""IRModule 级变换"""mod.show()打印输出显示，算子已被改写为算子。]]></description><category></category></item><item><title><![CDATA[tvm relax教程(四) ------Relax 程序创建]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163470566</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163470566</guid><author>happyAnger6</author><pubDate>Tue, 04 Aug 2026 12:57:47 +0800</pubDate><description><![CDATA[需要注意：Block Builder API 不如上述 API 友好，但它是最底层的 API，与 IR 定义结合最紧密。它是更底层的 IR builder API，在 TVM 内部逻辑中广泛使用，例如编写自定义 Pass。本教程演示了如何针对不同场景，使用 TVMScript、NNModule API、Block Builder API 以及 PackedFunc API 创建 Relax 程序。本节展示如何仅用高层 Relax 算子，通过 TVMScript 定义一个简单的 MLP 模型。]]></description><category></category></item><item><title><![CDATA[tvm relax学习(三) ----- DPL(数据流模式语言)]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163465768</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163465768</guid><author>happyAnger6</author><pubDate>Tue, 04 Aug 2026 11:10:37 +0800</pubDate><description><![CDATA[数据流模式语言（Dataflow Pattern Language, DPL）是 Relax 内置的图上模式匹配与改写设施。你可以用它描述要查找的子图结构，在 Relax 函数中搜索该结构，并可选地将其替换为新结构——而无需手写完整的 IR visitor。DPL 在整个 TVM 栈中被广泛使用：典型工作流分三步：公开 API 位于 （源码：）。模式（pattern） 是对「表达式应长什么样」的轻量描述，通过组合小积木来构建。最常见的叶子模式有：
调用模式（Call Patterns）
把模式当作函数调用，]]></description><category></category></item><item><title><![CDATA[tvm relax学习(二) ----------- 理解 Relax 抽象]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163464197</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163464197</guid><author>happyAnger6</author><pubDate>Tue, 04 Aug 2026 10:44:20 +0800</pubDate><description><![CDATA[但在常见实践中，只要可行，用这种风格编写低层函数通常是有益的。其核心目标是刻画 ML 模型的结构与数据流——包括模型各部分之间的依赖与关系，以及如何在硬件上执行该模型。是 Relax 中的新抽象，用于在同一 IRModule 内调用原始张量函数。有了低层 NumPy 示例作对照，就可以引入面向端到端模型执行的 Relax 抽象。通过允许手动标注 dataflow block，可确保编译器获得最准确的信息，从而实现更有效的优化。（Relax 函数）。都是纯函数：它们只读取输入，并把结果写入新分配的输出张量。]]></description><category></category></item><item><title><![CDATA[tvm relax学习(一)--------------面向机器学习模型的图抽象]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163463155</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163463155</guid><author>happyAnger6</author><pubDate>Tue, 04 Aug 2026 10:21:54 +0800</pubDate><description><![CDATA[图抽象是将 ML 模型表示为有向图的过程：节点表示计算操作（例如矩阵乘法、卷积），边表示这些操作之间的数据流动。这种抽象使编译器能够分析模型不同部分之间的依赖与关系。]]></description><category></category></item><item><title><![CDATA[TVM教程-----Export and Load Relax Executables]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163345695</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163345695</guid><author>happyAnger6</author><pubDate>Thu, 30 Jul 2026 23:44:26 +0800</pubDate><description><![CDATA[本教程演示如何将编译好的 Relax module export 为共享对象（shared object），再加载回 TVM runtime，并在交互环境或独立脚本中运行结果。本教程展示如何使用tvm.relaxAPI，将 Relax（或导入的 PyTorch / ONNX）程序变成可部署产物。本教程以 PyTorch 作为源格式，但对 ONNX 模型而言，export/load 工作流相同。对于 ONNX，请使用替代，随后按相同步骤进行 build、export 与 load。]]></description><category></category></item><item><title><![CDATA[TVM教程-----Bring Your Own Codegen]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163345605</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163345605</guid><author>happyAnger6</author><pubDate>Thu, 30 Jul 2026 23:34:42 +0800</pubDate><description><![CDATA[单个卷积后接 ReLU。该模型同时用于两个后端。]]></description><category></category></item><item><title><![CDATA[TVM与“模型形态“和“硬件形态“相爱相杀的十年史]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/163335960</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/163335960</guid><author>happyAnger6</author><pubDate>Thu, 30 Jul 2026 14:31:31 +0800</pubDate><description><![CDATA[TVM 十年史，是被"模型形态"和"硬件形态"反复逼着重写抽象层的历史。]]></description><category></category></item><item><title><![CDATA[Cosmos3端侧部署优化(一) ------- Wan VAE]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/162608870</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/162608870</guid><author>happyAnger6</author><pubDate>Sun, 05 Jul 2026 18:44:01 +0800</pubDate><description><![CDATA[对视频特征在通道维 C上归一化（dim=1# 对每个固定 (b, t, h, w)，令 v = x[b, :, t, h, w] ∈ R^Cv_norm = v / ||v||_2 # F.normalize，L2 归一化（非 LayerNorm 的减均值）gammashape 为时），在 T,H,W 上 broadcast。与LayerNorm不同：RMS/L2 norm不减均值，只做范数缩放；没有全连接 GEMM。]]></description><category></category></item><item><title><![CDATA[Cosmos3 Policy vs π₀.₅：架构对比]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/162588111</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/162588111</guid><author>happyAnger6</author><pubDate>Sat, 04 Jul 2026 22:49:06 +0800</pubDate><description><![CDATA[π₀.₅：直接学，是反应式策略。Cosmos3：学p(未来视频, a | obs, lang)，先想象世界演化再从中导出动作，是世界模型 + 内嵌策略。差异根源不在网络结构（都是 prefix-条件 + flow matching），而在输出目标：π₀.₅ 只生成动作；Cosmos3 把动作嵌入「对未来的生成」里。]]></description><category></category></item><item><title><![CDATA[Cosmos3 模型架构(一)：Wan VAE（WAE）]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/162585242</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/162585242</guid><author>happyAnger6</author><pubDate>Sat, 04 Jul 2026 18:51:04 +0800</pubDate><description><![CDATA[WAE（Wan VAE）是一个3D 视频变分自编码器（KL-VAE）：把高维像素视频压进低维、低分辨率的 latent 时空网格，DiT 等生成模型在 latent 里做扩散 / flow matching，最后再 decode 回像素。像素视频 ←──decode── latent（紧凑语义 + 时空结构） ←──DiT 去噪── 噪声│ ▲没有 VAE，DiT 就要直接在上工作，算力和显存都不可接受。WAE 是像素世界与生成模型之间的 codec——类似 JPEG 之于图像 CNN，但是。]]></description><category></category></item><item><title><![CDATA[TVM 核心库架构]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/162451787</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/162451787</guid><author>happyAnger6</author><pubDate>Tue, 30 Jun 2026 14:34:44 +0800</pubDate><description><![CDATA[TVM 的 C++ 产物被拆成多个共享库，职责清晰、可按需部署。本文按和说明各库的功能与作用。]]></description><category></category></item><item><title><![CDATA[NVFP4 量化流程说明]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/162431477</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/162431477</guid><author>happyAnger6</author><pubDate>Mon, 29 Jun 2026 21:58:44 +0800</pubDate><description><![CDATA[本文以 pi05为主例，说明 NVFP4 从标定、、ONNX 导出到的完整链路。]]></description><category></category></item><item><title><![CDATA[pi05 量化标定流程与 Fake Quantization（QDQ）说明]]></title><link>https://blog.youkuaiyun.com/happyAnger6/article/details/162428056</link><guid>https://blog.youkuaiyun.com/happyAnger6/article/details/162428056</guid><author>happyAnger6</author><pubDate>Mon, 29 Jun 2026 18:00:09 +0800</pubDate><description><![CDATA[本文说明→中标定阶段，并以 pi05 真实为例走通全过程。]]></description><category></category></item></channel></rss>