- 博客(6)
- 问答 (5)
- 收藏
- 关注
RSS订阅原创 【LLM 知识】从一句文本到逐 Token 生成：彻底理解 Llama 3.1 的现代大语言模型架构
本文以Llama3.1 8B模型为例，系统解析现代大语言模型与原始Transformer的六大核心差异：Decoder-only架构取代Encoder-Decoder、RoPE替代绝对位置编码、GQA实现32Q+8KV高效注意力、RMSNorm提升训练稳定性、SwiGLU替代ReLU增强表达力，以及Prefill/Decode分离与KVCache机制。通过完整追踪“Theskyis→blue”生成流程，揭示了从输入到输出的张量演化路径，阐明了长上下文支持、显存优化与推理加速的技术原理，为深入理解当代LLM架
2026-11-07 16:45:43
311
原创 【LLM 知识】从一句英文到一句德文：彻底理解 Transformer 的完整工作流程
本文以《Attention Is All You Need》为基础，系统拆解Transformer从英译德任务的全流程，详解文本如何转化为张量、Encoder如何通过Self-Attention理解上下文、Decoder如何逐Token生成德文，揭示Q/K/V来源与张量维度变化。重点阐明：词嵌入与位置编码构建初始表示，多头注意力实现跨Token信息聚合，残差连接与层归一化支持深层训练，而自回归生成依赖因果掩码与Cross-Attention。最终解释为何现代LLM（如GPT）仅保留Decoder——因无需编
2026-11-05 20:00:54
283
原创 【LLM Agent知识】一文理清Agent、Harness、Loop、Graph：从概念到完整系统架构
概念一句话定义本质上是什么关注的问题LLM提供语言理解、推理和决策能力智能模型应该做什么？Agent能根据目标和环境反馈自主决定并执行行动的系统LLM + 决策机制 + 外部交互能力如何完成任务？Loop持续执行“决策—行动—观察”的循环一种执行控制逻辑是否继续行动？Graph通过节点、边和状态组织任务执行路径一种流程与状态编排结构下一步执行哪个模块？Harness负责驱动模型、管理上下文、调用工具和保障执行的运行基础设施。
2026-11-04 22:59:39
274
原创 【纠错-已解决】RuntimeError: result type Float can’t be cast to the desired output type long int
此时我们发现不报错，可以正常执行，那么显而易见，是做in-place操作时出现了错误，而不是运算过程出现问题，因为此时的in-place操作不涉及类型转换但涉及计算！结果喜人，并没有出现报错，但其数据类型依然没有出现我们期待的‘向上兼容’，即float32的tensor并没有因为in-place操作而转换为float64型。那么我们进一步思考，是只有long->float转换时出现问题吗？我们让float64对float32进行in-place操作，看是否会出现报错，若不会，一同检查其数据类型。
2024-11-15 18:01:33
1491
原创 【强化学习简明】台大李宏毅强化学习2021版课程笔记
An Example 一个例子我们用一个例子来介绍什么是强化学习下围棋时，AlphaGo观察棋盘作为模型的输入，将落子作为输出，在多数情况下，它得不到任何奖励。如果AlphaGo获胜，它得到奖励：1如果AlphaGo失败，它受到惩罚：-1AlphaGo根据得到的奖励或惩罚来判断自己做的好或者做的不好，再做出相应的调整这就是强化学习。
2024-10-24 21:56:04
2285
空空如也
打了链表 0错误但跑不了，如何解决？(语言-c语言)
2022-04-06
栈的创建，判断base指针存在的意义是什么？为什么会出现创建失败的情况？
2022-04-09
用栈 实现二进制到八进制的转换，0报错但无法实现，警告传参方式错误，如何解决
2022-04-10
链表中的指针变量如何正确运用（见内容）
2022-04-07
TA创建的收藏夹 TA关注的收藏夹
TA关注的人