直观理解DeepSeek-V3关键技术之一：DeepSeekMoE

最新推荐文章于 2025-07-29 15:40:42 发布

江湖人称麻花滕

最新推荐文章于 2025-07-29 15:40:42 发布

阅读量1k

点赞数 26

CC 4.0 BY-SA版权

文章标签：语言模型架构人工智能 java 数据库

本文链接：https://blog.youkuaiyun.com/m0_59235699/article/details/145400430

一、什么是混合专家模型（Mixture of Experts, MoE）

在深度学习领域，模型性能的提升往往依赖于规模的扩展，但随之而来的计算资源需求也急剧增加。如何在有限的计算预算下最大化模型性能，成为一个重要的研究方向。混合专家模型（MoE）通过引入稀疏计算和动态路由机制，提供了一种高效的解决方案。相较于传统的稠密模型，MoE能够在显著减少计算资源消耗的同时，实现模型规模的扩展和性能的提升。

一、稠密和稀疏的含义

在神经网络中，“稠密”和“稀疏”是用来描述参数或激活模式的术语：

1. 稠密（Dense）：

在传统的神经网络中，稠密通常指的是每一层的神经元都与前一层的所有神经元相连，即全连接层。这种连接方式是“稠密”的，因为每个输入都会影响到所有的输出，参数数量较多，计算开销也较大。
在传统的前馈网络（FFN）中，所有的输入都会经过整个网络的处理，每个神经元都会参与计算，因此这种结构是“稠密”的。

2. 稀疏（Sparse）：

稀疏则指的是只有部分神经元或参数被激活或使用。在稀疏MoE（混合专家模型）层中，稀疏性体现在每次前向传播时，只有部分专家（即部分神经网络）被激活并参与计算，而不是所有的专家都参与。
这种稀疏激活策略显著减少了计算开销，因为每次只需要计算被激活的专家，而不是所有的专家。这种机制使得模型能够在保持高维特征空间中表达复杂模式的同时，降低计算成本。

举例说明：餐厅厨房的工作模式

①. 稠密模式：

想象一个餐厅的厨房里只有一个大厨，这位大厨需要负责所有菜品的制作。无论顾客点了什么菜，这位大厨都要亲自处理每一道菜的所有步骤。这意味着大厨的工作量非常大，需要掌握所有菜品的制作方法，效率相对较低。
这就好比传统FFN，每个输入都需要经过整个网络的处理，所有神经元都参与计算，计算量大且效率较低。

②. 稀疏模式：

现在想象另一个餐厅的厨房，这里有多个专业厨师（专家），每个厨师只擅长做某一种菜。比如，有的厨师专门做披萨，有的专门做寿司，有的专门做甜点。当顾客点餐时，系统会根据菜品类型自动分配任务，只有相关的厨师会参与制作，其他厨师则不需要动。
这就好比稀疏MoE层，每次只有部分专家（神经网络）被激活并参与计算，其他专家则处于“休息”状态。这种分工明确的方式大大降低了工作量，同时提高了效率。

③.总结

- 稠密模式就像一个大厨包揽所有工作，效率低但全面。

- 稀疏模式就像多个专业厨师分工合作，效率高且专业化。

那么，混合专家模型（MoE）到底是什么呢？简单来说，它是一种基于Transformer架构的模型，主要由两个核心组件构成：

稀疏MoE层：

稀疏MoE层是混合专家模型的核心组件，通常用于替代传统Transformer中的前馈网络（FFN）层。这些层由多个"专家"构成，每个专家本质上是一个独立的神经网络。在典型实现中，这些专家是简单的前馈网络，但根据实际需求，它们也可以采用更复杂的结构，甚至嵌套 MoE 层，从而形成多层次的专家体系。值得注意的是，每个专家FFN的结构都比传统FFN更简单，因为单个专家只需要处理特定类型的输入，而传统FFN则需要处理所有情况。这种专业化分工使得每个专家可以使用更少的参数来完成其特定任务。MoE 层的工作原理基于稀疏激活策略：在每次前向传播中，仅部分专家会被激活并参与计算。这种机制显著降低了计算开销，同时保留了模型在高维特征空间中表达复杂模式的能力。

- 结构特点：

包含多个FFN专家网络(上图中每组4个FFN专家)
每个专家都是独立的前馈神经网络
采用稀疏激活机制，即每个token只会激活少数专家

- 稀疏性体现：

不是所有专家都会被同时使用
每个token只会路由到最相关的专家
图中显示两组专家系统，每组4个FFN专家(FFN 1-4)
专家之间相互独立，可以并行计算

门控网络/路由机制( Router)：

门控网络（或称路由机制）负责动态分配输入token到特定的专家。该机制的目标是根据输入特征，选择最适合处理这些特征的专家。例如在上图中“More”这个令牌可能被路由到第二个专家，而“Parameters”则可能被分配给第二个专家。在某些情况下，一个token甚至可以被分配到多个专家以提高鲁棒性。

路由机制的实现依赖于一个由参数化学习驱动的路由器。该路由器通常是一个小型神经网络或逻辑模块，其输出为一组概率或分配权重，用于指引令牌分发过程。路由器的参数通过与主模型共同优化，使其在不同训练阶段能够动态适应数据分布和任务需求。

①. 如图所示门控网络/路由机制的完整工作流程：

首先计算路由概率p（如0.65和0.8），用于选择FFN专家
然后生成一个门控值（图中用虚线表示）
这个门控值会与选中的FFN专家的输出相乘

②. 门控值的作用：

用于调节FFN专家输出的强度
可以看作是对专家输出的一个加权因子
通过门控机制可以实现更平滑的输出

③. 门控网络/路由机制整体流程：

最终输出 = 选中的FFN专家的输出 × 门控值（虚线表示的值）

这种双重机制（路由概率 + 门控值）使得模型既能够选择合适的专家，又能够灵活地控制专家输出的影响程度。

MoE层完整工作流程：

Input Token → Router评估 → 专家选择 → 专家处理 → 门控加权 → Output

举例说明（只是一个大概的示例）：

假设我们有一个MoE模型，用于情感分析，模型中有三个专家：

- 专家1：擅长处理正面情感文本

- 专家2：擅长处理负面情感文本

- 专家3：擅长处理中性情感文本

输入文本是：

- Input Text: “这部电影的剧情很复杂，但演员的表演非常出色。”

①. Input Token

输入文本首先被分词并转换为模型可处理的Token表示。假设我们使用一个简单的分词器，将文本按词分割：

- 分词结果: [“这”, “部”, “电影”, “的”, “剧情”, “很”, “复杂”, “，”, “但”, “演员”, “的”, “表演”, “非常”, “出色”, “。”]

然后，这些Token会被转换为模型可处理的向量表示（例如通过嵌入层）：

- Token向量: [T1, T2, T3, T4, T5, T6, T7, T8, T9, T10, T11, T12, T13, T14, T15]

②. Router评估

Router会对每个Token的特征进行评估，生成一个概率分布，表示每个专家被选中的可能性。例如：

- Router输出:

对于Token “电影”:
- 专家1（正面情感）：0.6
- 专家2（负面情感）：0.2
- 专家3（中性情感）：0.2
对于Token “复杂”:
- 专家1（正面情感）：0.1
- 专家2（负面情感）：0.7
- 专家3（中性情感）：0.2
对于Token “出色”:
- 专家1（正面情感）：0.8
- 专家2（负面情感）：0.1
- 专家3（中性情感）：0.1

③. 专家选择

假设我们选择Top-1专家（即每个Token只选择一个专家）：

- 对于Token “电影”，选择专家1（正面情感）。

- 对于Token “复杂”，选择专家2（负面情感）。

- 对于Token “出色”，选择专家1（正面情感）。

④. 专家处理

每个选中的专家会对对应的Token进行处理，并输出一个情感得分：

- 专家1（正面情感）处理Token “电影”: 输出 = 0.7

- 专家2（负面情感）处理Token “复杂”: 输出 = 0.6

- 专家1（正面情感）处理Token “出色”: 输出 = 0.9

⑤. 门控加权

Router的输出（专家权重）与专家的输出进行加权组合：

- 对于Token “电影”:

专家1权重 = 0.6，输出 = 0.7 → 贡献值 = 0.6 * 0.7 = 0.42

- 对于Token “复杂”:

专家2权重 = 0.7，输出 = 0.6 → 贡献值 = 0.7 * 0.6 = 0.42

- 对于Token “出色”:

专家1权重 = 0.8，输出 = 0.9 → 贡献值 = 0.8 * 0.9 = 0.72

最终输出是对所有Token贡献值的聚合（例如取平均）：

- 最终输出: (0.42 + 0.42 + 0.72) / 3 = 0.52

⑥. Output

最终输出是一个情感得分，表示输入文本的情感倾向。例如：

- Output: 情感得分 = 0.52

根据设定的阈值（如0.5为中性），模型可以判断输入文本的情感倾向为中性偏正面。

二、DeepSeekMoE：DeepSeek-V3 的核心架构

在了解了MoE的基本原理和工作机制后，我们来深入探讨DeepSeek-V3中的具体实现——DeepSeekMoE。作为DeepSeek-V3的核心架构之一，DeepSeekMoE承担了高效训练和推理的重要任务。通过引入混合专家模型（MoE）的稀疏计算机制，DeepSeekMoE显著降低了计算开销，同时保持了强大的性能表现。与传统MoE架构相比，DeepSeekMoE在专家划分、负载均衡、路由机制等方面进行了多项创新，使得模型在训练和推理过程中更加高效和稳定。具体而言，DeepSeekMoE不仅继承了MoE架构的优势，还通过高效的设计在效率与性能之间取得了更好的平衡。在DeepSeek-V3中，除前三层保留传统的FFN结构外，其他所有FFN层都被替换为DeepSeekMoE层，从而形成了一个总参数量为671B的庞大网络结构，其中每个token激活37B参数。这种创新设计使得DeepSeekMoE在处理复杂任务时表现出色，极大提升了计算效率和任务处理能力。

1. DeepSeekMoE 的基本架构

DeepSeekMoE 的基本架构建立在 Transformer 框架之上，在前馈网络（FFN）层引入了创新的 MoE 机制。与传统 MoE 使用较粗粒度的专家划分不同，DeepSeekMoE 采用了更细粒度的专家划分方式，使每个专家能够负责更具体的任务，从而提高模型的灵活性和表达能力。具体来说，DeepSeekMoE 的每个 MoE 层由 1 个共享专家和 256 个路由专家组成，每个 token 会激活 8 个路由专家。这种设计使得模型能够在保持高性能的同时，显著减少计算资源的消耗。

在专家机制设计上，DeepSeekMoE 也进行了创新：

共享专家与路由专家：不同于传统 MoE 中专家都是独立的设计，DeepSeekMoE 引入了共享专家的概念。共享专家负责处理所有 token 的通用特征，而路由专家则根据 token 的具体特征进行动态分配。这种分工不仅减少了模型的冗余、提高了计算效率，还使得模型能够更好地处理不同领域的任务。
稀疏激活机制：与传统的稠密模型不同，DeepSeekMoE 采用了稀疏激活机制，即每个 token 只会激活少数专家。这种机制不仅降低了计算开销，还使得模型能够更灵活地处理不同类型的输入，特别是在需要高度专业化知识的场景中。

举例说明：假设模型在处理一段数学推理文本：“要解决这个二次方程，我们首先需要计算判别式，然后使用求根公式。” 在传统MoE中，可能整个数学相关内容都由同一个"数学专家"处理。而在DeepSeekMoE中：

共享专家会处理句子的基本语法结构和通用语言特征

不同的路由专家则分别专门处理：

方程识别相关的特征
判别式计算相关的特征
求根公式相关的特征

这种细粒度的专家划分和共享专家机制的结合，使得模型能够更精确地处理专业任务，同时保持计算效率。

2. 动态负载均衡：无辅助损失策略

在传统的 MoE 模型中，负载均衡是一个关键问题。由于每个 token 只会激活少数专家，某些专家可能会因为处理过多的 token 而负载过高，而其他专家则可能负载过低。这种不均衡会导致计算资源的浪费，甚至可能引发路由崩溃，即所有 token 都被路由到少数几个专家，导致其他专家无法发挥作用。传统 MoE通常使用辅助损失（auxiliary loss）来鼓励负载均衡，但这种策略可能会对模型性能产生负面影响。DeepSeekMoE 提出了一种无辅助损失的负载均衡策略，通过动态调整每个专家的偏置项来实现负载均衡。无辅助损失策略是指在训练过程中，不需要引入额外的损失函数来强制负载均衡，而是通过动态调整专家的偏置项来自然实现负载均衡。

- 动态偏置调整：在训练过程中，DeepSeekMoE 会监控每个专家的负载情况。如果某个专家的负载过高，系统会自动降低其偏置项，从而减少该专家的激活频率；反之，如果某个专家的负载过低，系统则会增加其偏置项，使其更容易被激活。

- 无辅助损失的优势：与传统的辅助损失相比，无辅助损失的负载均衡策略不会对模型性能产生负面影响，同时能够有效避免路由崩溃现象。

举例说明：假设在训练过程中，某个专家因为处理了过多的 token 而负载过高，DeepSeekMoE 会自动降低该专家的偏置项，使得其他专家能够分担部分负载。这种动态调整确保了每个专家的负载均衡，从而提高了模型的训练效率。

3. 序列级负载均衡：防止极端不平衡

在 MoE 模型中，负载均衡可以在不同粒度上进行控制。除了全局的负载均衡（即针对整个数据集的专家分配情况）和局部级负载均衡（即针对单个 batch 或单个节点的专家分配情况），DeepSeekMoE 还引入了序列级负载均衡，作为其创新设计之一。序列级负载均衡专门针对单个输入序列内的 token 分配情况进行优化，防止单个序列内的 token 过度集中在少数专家上，从而避免极端不平衡的情况。这种细粒度的均衡策略是对全局和局部负载均衡的补充，确保即使在单个序列中，专家的负载也能保持相对均衡。这些不同级别的负载均衡策略共同作用，确保模型在不同粒度上都能高效运行。

- 序列级平衡损失：该损失函数鼓励每个序列内的专家负载均衡，从而避免某些序列中的 token 过度集中在少数专家上。

- 极小化的平衡因子：DeepSeekMoE 为序列级平衡损失设置了一个极小的平衡因子，以确保其在整体训练过程中不会对模型性能产生显著影响。

举例说明：假设在一个序列中，某个 token 被过度分配到某个专家，导致该专家的负载过高。序列级平衡损失会通过调整路由机制，使得该序列中的其他 token 能够更均匀地分配到其他专家，从而避免负载不均衡。

4. 节点限制路由：优化跨节点通信

在分布式训练环境中，跨节点的通信成本较高，尤其是在专家并行的情况下。为了减少训练过程中的通信开销，DeepSeekMoE 采用了节点限制的路由机制。每个 token 最多被发送到 4个节点，这些节点是根据每个节点上专家的亲和度得分选择的。

- 节点限制的优势：通过限制每个 token 的路由节点数量，DeepSeekMoE 能够显著减少跨节点的通信开销，从而提高训练效率。

- 通信与计算的重叠：DeepSeekMoE 的路由机制确保了通信与计算的重叠，使得在模型规模进一步扩展时，通信开销几乎可以忽略不计。

举例说明：假设在一个分布式训练环境中，某个 token 需要被分配到多个专家进行处理。DeepSeekMoE 的路由机制会优先选择与当前节点亲和度最高的专家，从而减少跨节点的通信开销。

5. 无 token 丢弃：确保推理负载均衡

在传统的 MoE 模型中，负载不均衡可能导致某些 token 被丢弃（专家处理容量有上限），从而影响模型的性能。DeepSeekMoE 通过有效的负载均衡策略，确保了在训练和推理过程中不会丢弃任何 token。

- 推理时的负载均衡：在推理阶段，DeepSeekMoE 通过冗余专家部署策略，确保每个 GPU 的负载均衡。具体来说，系统会检测高负载的专家，并将这些专家冗余部署在不同的 GPU 上，从而平衡每个 GPU 的负载。

- 动态冗余策略：DeepSeekMoE 还探索了动态冗余策略，即在每个推理步骤中动态选择激活的专家，以进一步优化推理效率。

举例说明：假设在推理过程中，某个专家因为处理了过多的 token 而负载过高，DeepSeekMoE 会自动将该专家的部分负载转移到其他 GPU 上的冗余专家，从而确保推理过程的顺利进行。

三、总结

DeepSeekMoE 作为 DeepSeek-V3 的核心架构，通过无辅助损失的负载均衡策略、节点限制的路由机制和 FP8 训练支持，实现了高效的训练和推理。DeepSeekMoE 不仅在性能上表现出色，还在训练成本和推理效率上具有显著优势。通过动态调整专家负载和优化路由机制，DeepSeekMoE 为大规模语言模型的训练和部署提供了一种高效的解决方案。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述