蚂蚁开源Ring-flash-2.0：61亿激活参数实现400亿级推理能力，MoE架构重塑大模型效率边界

蚂蚁开源Ring-flash-2.0：61亿激活参数实现400亿级推理能力，MoE架构重塑大模型效率边界

【免费下载链接】Ring-flash-2.0 项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/Ring-flash-2.0

导语

蚂蚁集团正式开源高性能思考模型Ring-flash-2.0，基于100B参数MoE架构，仅需6.1B激活参数即可实现媲美40B密集模型的复杂推理能力，其独创的IcePop算法解决了MoE模型强化学习训练不稳定难题，在数学竞赛、代码生成等领域刷新开源SOTA。

行业现状：从参数竞赛到效能革命

2025年大语言模型行业正经历战略转型。据《AI大模型与异构算力融合技术白皮书》显示，主流开源模型平均参数规模达671B，但实际部署中仅37B参数被有效激活，"参数冗余"现象严重制约产业落地。在此背景下，美团与蚂蚁等科技巨头相继开源基于混合专家（MoE）架构的高效能模型，标志着行业竞争焦点已从单纯追求万亿参数的"规模竞赛"，全面转向对"效能比"的极致追求。

如上图所示，图片以科技感十足的蓝色与紫色渐变背景，呈现发光节点通过线条连接的网络结构示意图，背景可见"MoE"字样，直观展示混合专家（MoE）架构的技术概念，呼应蚂蚁开源的Ring-flash-2.0模型的效能革命主题。这一架构创新充分体现了当前AI行业从参数规模竞赛转向效能优化的重要趋势，为开发者理解大模型技术演进提供了直观参考。

核心亮点：三大技术突破重构推理效率

1. 超稀疏MoE设计：6.1B激活参数撬动40B性能

Ring-flash-2.0构建于蚂蚁自研的Ling-flash-2.0-base模型之上，总参数量1000亿但实际激活仅6.1B参数（非嵌入层激活参数4.8B），却能媲美40B规模密集模型性能。在硬件部署上，仅需4张H20 GPU即可实现超过200 token/s的吞吐量，每百万输出tokens成本低至$0.70，较前代模型推理成本降低50%以上。

这种超稀疏设计源于1/32专家激活率的创新架构，使模型在保持高性能的同时，显著降低了计算资源需求。在实际应用中，这种设计特别适合高并发推理场景，能够在有限的硬件资源下处理更多任务请求，为企业级应用部署提供了成本优势。

2. IcePop算法：解决MoE模型RL训练瓶颈

针对MoE模型强化学习（RL）阶段的稳定性问题，蚂蚁团队独创"icepop"算法，通过"双向截断+掩码修正"机制，有效解决了训练与推理引擎计算差异导致的梯度不稳定问题。该算法不仅截断训练概率显著高于推理概率的token，还处理了推理概率显著高于训练概率的情况，并对差异过大的token进行掩码，排除其梯度计算。

这一技术突破使得MoE模型能够在长思维链（Long-CoT）场景下进行稳定的RL训练，避免了传统方法在数百步训练后出现的"奖励崩溃"或梯度爆炸现象。实测显示，采用IcePop算法后，模型在数学推理任务上的性能提升了15-20%，训练周期延长3倍仍保持稳定收敛。

3. 混合训练策略：SFT+RLVR+RLHF多阶段优化

为全面提升模型能力，Ring-flash-2.0采用创新的两阶段RL训练 pipeline：首先通过轻量级Long-CoT SFT为基础模型注入多样化思维模式，然后使用可验证奖励强化学习（RLVR）持续激发推理潜能，最后通过RLHF阶段优化通用能力。

在实验中，团队比较了RLVR与RLHF联合训练和两阶段训练的效果，发现两者性能相近，但两阶段方法在工程效率上更具优势，能够减少长尾生成问题。这种分阶段训练策略使模型在保持推理能力的同时，兼顾了生成质量和训练效率，为复杂任务处理提供了更优解。

性能表现：多维度基准测试领先开源模型

Ring-flash-2.0在多项权威基准测试中展现出卓越性能：在GSM8K数学基准测试中达到82.3%准确率，超越同等规模的Qwen3-32B和Llama-3.1-405B模型；在AIME数学竞赛、CodeForces编程任务中超越GPT-OSS-120B等大模型；尤其在前端研发场景，经WeaveFox团队联合优化后，能同时满足UI布局功能性与美学需求。

值得注意的是，尽管Ring-flash-2.0主要针对复杂推理设计，但在创意写作（Creative Writing v3）任务中仍超越所有对比模型，与非思考型模型Ling-flash-2.0的创意能力相当。这种全方面的性能表现打破了推理型模型在创意任务上的固有劣势，拓展了模型的应用边界。

行业影响：开启高效推理新纪元

Ring-flash-2.0的开源将加速三大变革：

• 企业级部署成本下降：金融风控场景中，推理服务器数量可从16台降至2台
• 边缘计算成为可能：在自动驾驶车载系统中实现毫秒级决策推理
• 垂直领域定制加速：生物制药企业可基于6.1亿激活参数微调分子设计模型

部署与应用指南

快速开始（Python示例）

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
    "https://gitcode.com/hf_mirrors/inclusionAI/Ring-flash-2.0",
    device_map="auto",
    trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained("inclusionAI/Ring-flash-2.0")

# 医疗推理示例
prompt = "分析以下病理报告并给出诊断建议：[输入报告文本]"
response = model.generate(**tokenizer(prompt, return_tensors="pt"))

推荐部署方案

• 高性能场景：vLLM部署（支持FP8量化，吞吐量提升40%）
• 低成本场景：SGLang框架（内存占用低至12GB）
• 边缘设备：INT4量化版本（需配合TensorRT-LLM）

结论与前瞻

蚂蚁开源Ring-flash-2.0不仅贡献了一个高性能模型，更推动了大模型效能优化的技术范式创新。IcePop算法为MoE模型的RL训练提供了新的解决方案，而超稀疏架构设计则为行业树立了效能标杆。随着混合专家架构的普及，预计到2025年底，企业级AI应用部署成本将降低70%以上，推动AI技术在更多行业场景的规模化落地。

未来，我们可以期待看到更多基于Ring-flash-2.0的应用创新，特别是在需要复杂推理的领域，如科学研究、工程设计和医疗诊断等。同时，模型的开源特性也将促进社区协作，加速大模型技术的迭代与优化，为AI行业的可持续发展注入新动力。

建议开发者重点关注该模型在代码生成、数学推理等结构化任务中的应用潜力，同时可通过SGLang/vLLM推理框架进一步挖掘性能优化空间。收藏本文，关注蚂蚁百灵团队后续开源动态，及时把握大模型效能革命新机遇！

项目地址: https://gitcode.com/hf_mirrors/inclusionAI/Ring-flash-2.0

【免费下载链接】Ring-flash-2.0 项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/Ring-flash-2.0