【Triton 教程】triton_language.fma

HyperAI超神经 HyperAI超神经 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 100+累计阅读 198平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄7年
关注
原创 最新推荐文章于 2026-11-10 00:57:14 发布 198 阅读 AI 写同款· GEO 优化 ›
Triton编程：AI加速器上的硬件感知抽象与高性能算子开发 AI加速器编程正从底层CUDA手写转向高生产力、硬件感知的抽象范式。Triton作为领域专用语言（DSL），通过编译器自动管理shared memory、硬件适配tiling和Python-native调试，将张量计算逻辑与微架构细节解耦。其核心价值在于降低GPU编程门槛，提升算子可移植性与可维护性，同时保障接近原生CUDA的性能。在大模型推理、FlashAttention优化、量化部署等典型场景中，Triton已验证其在matmul、softmax、layernorm等规则张量计算任务中的工程优势。本文聚 阅读详情

Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境，以高效编写自定义 DNN 计算内核，并能够在现代 GPU 硬件上以最大吞吐量运行。

*在线运行 Triton 学习教程 →go.hyper.ai/wS9x1

triton.language.fma(x,y,z)

计算 x 、 y 和 z 的逐元素融合乘加运算。

参数**：**

  • x (Block) - 输入值。
  • y (Block) - 输入值。
  • z (Block) - 输入值。

收录于
Triton

当前文章被收录于：

Triton
64 篇文章 2 人学习
订阅专栏 查看详情
标签
#人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
Qwen3.5-35B-A3B专用推理引擎：从vLLM失效到Triton内核重写 MoE大模型推理引擎是支撑稀疏专家混合架构高效服务的核心运行时系统，其本质是将动态路由、异构专家计算与自适应注意力等复杂逻辑转化为低延迟、高吞吐的GPU张量运算。传统框架如vLLM依赖静态拓扑假设，难以应对Qwen3.5-35B-A3B特有的动态Top-K路由和专家异构性，导致显存碎片率飙升、延迟抖动严重。Triton作为可编程GPU内核工具，通过细粒度内存布局控制与runtime-aware kernel设计，成为突破A3B架构工程瓶颈的关键路径。本文聚焦于在真实生产场景中构建高性能MoE推理引擎的技术实 阅读详情

相关推荐

BM1684X部署Qwen3大模型全链路实战指南

边缘AI推理要求在有限算力、低功耗和确定性时延约束下运行大语言模型。BM1684X作为典型国产NPU硬件，具备17.6 TOPS INT8算力与25W超低功耗特性，但其MLU架构与CUDA生态不兼容，对动态形状、RoPE计算和KV Cache内存访问等LLM核心机制支持薄弱；Qwen3则代表新一代开源大模型在Grouped-Query Attention、RMSNorm融合及FlashAttention-2实现上的复杂性，量化后易与NPU硬件特性冲突。因此，面向真实边缘场景的部署不能依赖通用框架（如ONNX

weixin_30443747的博客 415

【Triton 教程】triton_language.full

Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境，以高效编写自定义 DNN 计算内核，并能够在现代 GPU 硬件上以最大吞吐量运行。更多 Triton 中文文档可访问 →。返回一个张量，该张量填充了指定。

HyperAI超神经 354

大模型稀疏激活：MoE架构如何实现2%参数高效计算

稀疏激活是现代大语言模型突破算力瓶颈的核心技术，其本质是通过专家混合（MoE）架构，在保持超大规模参数总量的同时，动态选择少量专家子网络参与单次前向计算。该机制基于路由决策、门控控制与专家隔离三大原理，显著降低实际FLOPs和显存占用，提升硬件利用率。技术价值体现在计算效率跃升、部署成本下降与服务弹性增强，广泛应用于GPT-4、Mixtral、Qwen2-MoE等主流模型的推理与训练场景。本文聚焦‘2%每token’这一典型稀疏度指标，解析其工程可测性、硬件级实现路径及真实部署中的关键调优维度。

weixin_34126557的博客 462

Triton 语言标准库 API 全指南：triton.language 模块分类详解与源码解析

本篇技术指南以开源仓库 [docs/python-api/triton.language.rst](https://link.gitcode.com/i/16d1a984639412079efed2633c9a3e6e) 的 API 清单为骨架，系统梳理 Triton 内核编程语言 `triton.language`（惯用别名 `tl`）的完整公开接口。文档按语义将接口划分为编程模型、创建、形状操

gitblog_00890的博客 678

从零搭建芯片设计环境：在Cadence虚拟机中集成QRC进行寄生参数提取

本文详细介绍了在Cadence虚拟机中集成QRC工具进行芯片设计中的寄生参数提取的全流程。从环境准备、QRC安装配置到实际提取操作，提供了完整的步骤指南和常见问题解决方案，帮助工程师高效搭建芯片设计环境并优化提取性能。

weixin_30379531的博客 618

2023电赛B题实战解析：基于立创天空星开发板的同轴线缆长度与负载测量系统

本文详细解析了2023年全国大学生电子设计竞赛B题的实战方案，重点介绍了基于立创EDA天空星开发板（STM32F103）的同轴线缆长度与负载测量系统。文章深入剖析了两种核心测量方案，并推荐了更稳定易实现的NE555测电容法，提供了从硬件选型、电路设计到软件编程、参数标定的完整“施工图”，实测精度可达厘米级和皮法级，为电赛复现与高精度测量学习提供了清晰指导。

weixin_36303305的博客 232

PhotoCraft zh-hans 简体中文本地化：locale 标签解析与 TSV 目录数据流

PhotoCraft 是一个纯 Rust 重写的光栅图像编辑器，它的 UI 国际化围绕 `crates/ui-egui/src/i18n/` 下的翻译目录展开，其中简体中文 `zh-hans` 是声明了"菜单全量覆盖"的语言之一。本文回答三个问题：界面与编程两条路径怎么切到简体中文，`zh-CN`、`zh-Hans` 这类 locale 标签在 Auto 模式下如何精确命中 `zh-hans` 而

gitblog_00288的博客 702

[运动规划算法]基于飞行走廊的轨迹优化

文章目录简介一、介绍二、原理飞行走廊生成三、项目演示参考 简介 Btraj是一个在线的四旋翼无人机的运动规划框架，主要用于未知环境中的自主导航。基于机载状态估计和环境感知，采用基于快速行进（FM *）的路径搜索方法，从基于构建的欧氏距离场（ESDF）中寻找路径，以实现更好的时间分配。通过对环境进行膨胀生成四旋翼无人机的飞行飞行走廊。使用伯恩斯坦多项式将轨迹表示为分段Bezier曲线，并将整个轨迹生成问题转换成凸问题。通过使用Bezier曲线，可以确保轨迹的安全性和高阶动力学可行性，可以将轨迹完全限制在安全

xiewf的博客 8063

CANN/cannbot-skills数学运算API

本文档详细描述 Triton-Ascend 中的数学运算 API，包括算术运算（add/sub/mul/div）、初等函数（exp/log/sin/cos/sqrt/rsqrt/erf）、取整函数（ceil/floor）、融合运算（fma/sigmoid/softmax）等。在 Ascend NPU 上，数学运算由 Vector 计算单元执行，与 GPU 的 CUDA Core 对应。NPU 对部

gitblog_00834的博客 434

Python 爬虫实战：豆瓣电影海报批量获取（Top250 榜单 + 可视化展示）

在信息爆炸的时代，数据已成为决策的核心，而数据的获取是数据分析的第一步。本文将详细介绍如何利用 Python 爬虫获取豆瓣电影 Top250 榜单的海报，并对数据进行可视化展示，助你更好地了解电影市场的趋势和用户的喜好。

yansideyucsdn的博客 718

Python + Playwright：集成 Applitools 进行视觉回归测试（快速入门）

Applitools是一款基于人工智能的视觉验证测试工具，专门用于自动化和验证应用程序的用户界面（UI）；Applitools使用视觉回归测试来检测应用程序界面的变化，确保 UI 在不同版本之间的一致性；Applitools的核心功能是通过视觉比较，检测 UI 元素的差异，而无需手动编写复杂的界面检查代码；通过集成Applitools，测试人员可以轻松捕捉和验证界面中的视觉差异，无论是在Web移动端或桌面应用的测试环境；

blues_C的博客 2921

用离线夹具验证 Claude 账号退出登录：OpenMausBot 端到端验收指南

在 OpenMausBot 中，Claude 引擎的账号退出登录（sign-out）不是浏览器侧的一次状态切换，而是服务端真正执行 `claude auth logout`，再用 `claude auth status --json` 反向确认凭据是否真的被移除。本文以仓库中的 [Claude account sign-out 验证文档](https://link.gitcode.com/i/c7

gitblog_00359的博客 262

如何计算 R 中的基尼系数（附示例）

以意大利统计学家Corrado Gini命名，基尼系数是衡量人口收入分配的一种方法。基尼系数的值在 0 到 1 之间，值越高代表收入不平等越大，其中：0代表完全的收入平等（每个人的收入都一样） 1代表完全的收入不平等（一个人拥有所有收入） 您可以在此处找到按国家/地区列出的基尼系数列表。以下示例显示了使用DescTools包中的Gini()函数计算 R 中的基尼系数的两种方法。示例 1：使用个人收入计算基尼系数假设我们有以下 10 个人的年收入列表：收入：5 万美元、5 万美元、7 万美元、7 万美元、7

Mrrunsen的博客 2991

Patch-Bundle-Registry 使用教程：搜索、App 兼容性与包名过滤实战（com.google.android.youtube@19.16 示例）

Patch-Bundle-Registry 是一个面向 ReVanced、Morphe 和 Reseam 三大生态的**补丁包注册表（patch bundle registry）**，把分散在各托管平台的社区补丁汇总到一个可搜索的目录中。你可以按来源、补丁名或描述**搜索补丁**，通过**包名过滤**检查 App 兼容性（例如 `com.google.android.youtube@19.16`）

gitblog_00730的博客 1082

【工程师一次性讲明白系列】什么是电压驻波比 (VSWR)

电压驻波比（VSWR）是电信号传输过程中非常重要的指标，控制VSWR的大小可以提高信号传输效率和系统稳定性。通过优化阻抗匹配，可以有效地减少反射信号，提升通信质量！🚀📡。

weixin_43199439的博客 1300

UG\NX二次开发 找不到指定的dlx文件（Specified Dlx file not found）

有群友问：用Ctrl+U运行的时候就报错，找不到指定的dlx文件Specified Dlx file not found。怎么处理。

王牌飞行员_里海的博客 1130

Amber 框架基准测试实现解析：用 Crystal 全栈 MVC 框架跑通 TechEmpower 六类测试端点

本文基于 FrameworkBenchmarks 仓库中 [frameworks/Crystal/amber](https://link.gitcode.com/i/1115d966cdcb441b0daa67cfacf26dcf) 目录的完整实现，深入解析 Amber——一个用 Crystal 语言编写、受 Kemal、Rails、Phoenix 启发的全栈 Web 框架——是如何在 TechE

gitblog_00753的博客 1047

C# WinForm 基于DirectShow.dll编写的程序，可边预览边保存视频，音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择（默认选中第一个）2.可录制wmv和avi两种格式的视频并且都带有音频，avi可以录制的分辨率和帧数进行选择，wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照，也可边录制视频边拍照4.添加了视频和音频的压缩功能（酌情使用）这次二次开发发现C#对DirectShow的相关信息太少，这次做完也不敢藏私共享出来，还望大家指正

AI推理引擎开发实战：从PyTorch到Triton的性能跃迁

推理引擎是大模型落地的核心基础设施，本质是将训练好的模型（如PyTorch .pt文件）通过图优化、算子融合、内存复用与硬件指令映射，转化为高吞吐、低延迟、稳精度的生产服务。其技术原理横跨编译器优化（如torch.compile）、GPU微架构调度（如CUDA Graph、Triton kernel）与系统级资源管控（如CUDA MPS、显存池化）。关键价值在于突破计算密度、内存带宽与调度确定性三重瓶颈，支撑推荐、搜索、多模态等毫秒级响应场景。典型应用包括FlashAttention加速、vLLM长文本推理

weixin_33754065的博客 196

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目，保存在这里方便以后使用直接下载

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

AI芯片架构深度解析：从GPU到LPU，算力背后的设计逻辑

AI计算与传统软件负载存在本质差异，深度学习模型的核心是矩阵乘法与高维张量运算，这决定了专用芯片架构的设计方向。相比单纯堆算力，存储带宽、互联协议与软件栈才是影响实际性能的关键因素。从NVIDIA的CUDA生态、Google的TPU脉动阵列，到AMD CDNA、Cerebras晶圆级引擎、AWS Trainium以及Groq LPU，不同架构在算力、延迟、成本与可编程性之间做出了差异化取舍。理解这些设计逻辑，有助于在训练与推理场景中做出更理性的硬件选型，避免被纸面参数误导。本文从计算特征、存储墙和软件生态三

weixin_34025151的博客 363

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

【OpenVLA复现】在LIBERO环境中复现OpenVLA

OpenVLA复现与LIBERO环境部署摘要 OpenVLA是首个开源的视觉语言动作模型（VLA），基于7B参数的Llama 2架构，结合DINO-v2和SigLIP视觉编码器，在Open-X Embodiment数据集（970k真机演示）上训练，性能超越RT-2-X 55B模型16.5%且参数更小。本博客内容为openvla在libero仿真环境中的记录

几度热忱的博客 569

视频隐私脱敏工程化：CSRT/KCF追踪算法在本地推理中的实现与边界

在短视频内容合规审查中，动态遮挡（Dynamic Masking）是高频且高耗时的环节。传统手动关键帧打码不仅效率低下，且在目标快速移动或遮挡时极易出现遮罩漂移。本文从计算机视觉工程角度，解析基于CSRT与KCF算法的目标追踪方案在视频隐私处理中的技术路径、性能权衡及落地实践。

Mysssone的博客 224

6 款电商 AI 图片生成软件实测｜国内 + 跨境卖家工具清单

电商 AI 作图工具已经从 "能不能用" 进入了 "好不好用" 的阶段。对于绝大多数卖家而言，现在的 AI 工具已经可以覆盖 60%-80% 的基础商品图需求，显著降低拍摄和设计成本。选择工具的核心逻辑不是 "哪款最强"，而是 "哪款最适配你的品类、平台规模和团队能力"。垂直电商工具胜在工作流效率，通用生图工具强在创意上限，模板类工具赢在上手速度。建议根据自身业务阶段，搭配 1-2 款主力工具 + 1 款辅助工具，形成适合自己的视觉生产流程。

Mardi_Ladin的博客 398

我用 GPUWorks 在 M1 Pro 上搭了个发票识别原型

公司里经常要看电子发票。我想先做个小原型：把 PDF 发给一个自己部署的图文模型，让它提取发票类型、日期、交易双方和金额，再把结果交给同事核对。这个原型不用先接财务系统，先看看从部署到调用要走多少步，模型返回的内容能不能帮上忙。

鸽芷咕的博客 2万+

您您这可以把问小白的多个会话比如说。左侧的多个会话一次性导出吗？不是单条会话里面的多次会对话。AI导出鸭

第三层是格式编译层。这个决策背后的判断很清晰：一个批量导出工具的价值，不在于“试三次”，而在于你真正用它处理了几十份技术文档、访谈记录或课程讲义之后，它是否值得留在你的工作流里。问小白的会话列表通过分页接口加载，AI导出鸭 在页面运行时建立旁路监听，捕获每一次分页请求返回的完整对话清单，包括会话 ID、标题、时间戳和隐藏的元数据字段。让AI导出回归优雅——这句话说的是：导出不该是体力活，而应该是一次完整的、可预期的文件交付。注意：这里的“批量”指的是左侧列表里的多个独立会话，不是一条会话内的多轮对话。

laoyunsi的博客 246

【从零理解 Spring AI · 12】MCP 的两种角色：做客户端还是做服务端

上一篇讲了 MCP 的概念：标准协议、三大角色、M+N 替代 M×N。

nice_lcj520的博客 501

河道漂浮物目标检测数据集

目标检测，yolo，河道漂浮物目标检测数据集

DL_data_set的博客 201
上一篇： 英伟达等提出EvoSafeHarness，为不同AI Agent自动定制安全防线，攻击成功率从45.6%降至10.0%
下一篇： 【vLLM 学习】Encoder Decoder Multimodal
点赞 3
评论 0
书签 书签 4
HyperAI超神经
HyperAI超神经
博客等级 码龄7年 8872粉丝 1753原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值