自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(3)
  • 收藏
  • 关注

原创 GQA 模式下每一步矩阵运算的详细可视化

这篇文章通过可视化流程图详细展示了Attention机制的前向传播过程,包含9个关键步骤:从输入张量处理、权重矩阵运算、多头拆分、RoPE位置编码、KV缓存复制,到QK^T计算、mask和softmax处理,最终完成注意力计算并输出结果。作者使用小米MIMO工具生成的交互式HTML页面(包含完整源码)直观呈现了每个步骤的数据流动和维度变换,特别适合帮助理解Transformer架构中的核心注意力机制实现细节。页面采用深色主题设计,不同步骤用颜色区分,支持动画展示和代码片段查看。

2026-04-14 18:58:36 29

原创 【经验贴】Pattern Recognization 投稿记录

本文提供了Elsevier旗下《Pattern Recognition》期刊的投稿指南要点:1)需下载elsarticle.zip模板,使用elsarticle-template-num-names.tex文件并设置review格式;2)投稿时需注册账号,禁止上传PDF文件,要求按顺序上传.tex、.bib、.bst文件和图片;3)特别强调cover letter需直接回答期刊要求的三个关键问题(与现有技术对比、使用的公开数据集、验证指标),并提供了标准回复模板示例。全文重点说明了该期刊在模板使用、文件格式

2026-03-19 12:07:16 1053 1

原创 Ktransformers DeepSeek-R1 671B 部署

Ktransformers DeepSeek-R1 671B 部署

2025-03-02 19:23:40 2416 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除