- 博客(3)
- 收藏
- 关注
原创 GQA 模式下每一步矩阵运算的详细可视化
这篇文章通过可视化流程图详细展示了Attention机制的前向传播过程,包含9个关键步骤:从输入张量处理、权重矩阵运算、多头拆分、RoPE位置编码、KV缓存复制,到QK^T计算、mask和softmax处理,最终完成注意力计算并输出结果。作者使用小米MIMO工具生成的交互式HTML页面(包含完整源码)直观呈现了每个步骤的数据流动和维度变换,特别适合帮助理解Transformer架构中的核心注意力机制实现细节。页面采用深色主题设计,不同步骤用颜色区分,支持动画展示和代码片段查看。
2026-04-14 18:58:36
29
原创 【经验贴】Pattern Recognization 投稿记录
本文提供了Elsevier旗下《Pattern Recognition》期刊的投稿指南要点:1)需下载elsarticle.zip模板,使用elsarticle-template-num-names.tex文件并设置review格式;2)投稿时需注册账号,禁止上传PDF文件,要求按顺序上传.tex、.bib、.bst文件和图片;3)特别强调cover letter需直接回答期刊要求的三个关键问题(与现有技术对比、使用的公开数据集、验证指标),并提供了标准回复模板示例。全文重点说明了该期刊在模板使用、文件格式
2026-03-19 12:07:16
1053
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅