6月27日，腾讯混元大模型团队正式对外发布业界首个13B级别混合推理MoE架构大语言模型Hunyuan-A13B。该模型采用创新混合专家（Mixture of Experts）架构设计，总参数规模达800亿，而实际激活参数仅130亿，在保持与同等规模顶尖开源模型性能相当的同时，实现了推理速度的跨越式提升和部署成本的显著降低。这一突破性进展意味着全球开发者将能以更经济的硬件配置获取高性能大模型能力，为AI技术的普及应用开辟全新路径。
项目地址: https://ai.gitcode.com/tencent_hunyuan/Hunyuan-A13B-Pretrain 目前，Hunyuan-A13B已全面登陆主流开源平台，开发者可通过Gitcode（仓库地址：https://gitcode.com/tencent_hunyuan/Hunyuan-A13B-Pretrain）及Hugging Face等渠道获取完整模型权重与技术文档。与此同时，腾讯云官网同步上线模型API服务，支持企业用户通过标准化接口快速集成部署，实现从模型获取到业务落地的全流程简化。
作为行业首款13B级别开源混合推理MoE模型，Hunyuan-A13B展现出卓越的综合性能。在MMLU、C-Eval等12项权威学术评测中均取得优异成绩，尤其在工具调用（Tool Use）和长文本处理场景表现突出。该模型创新性地引入动态推理模式切换机制，用户可通过"think/no_think"指令灵活选择运算策略："快思考"模式专注于高效响应，适用于智能客服、即时问答等对速度敏感的场景；"慢思考"模式则启动深度推理流程，通过反思回溯机制提升复杂问题解决能力，完美适配代码生成、战略规划等高精度需求。这种自适应资源分配机制，使模型在计算效率与任务准确率间取得最优平衡。
部署门槛的大幅降低成为Hunyuan-A13B的核心竞争力。经实测，该模型在单张消费级GPU（如NVIDIA RTX 4090）上即可完成基础功能部署，配合INT4/INT8量化技术，在保证推理质量无损的前提下，实现了超过2倍于同类前沿开源模型的吞吐量。这种"轻量级部署+高性能输出"的特性，极大降低了中小企业及个人开发者的技术准入门槛，为AI创新应用提供了普惠性基础设施。
Hunyuan-A13B的卓越性能源于腾讯混元团队在模型全生命周期的技术创新。预训练阶段，团队构建了覆盖20万亿tokens的超大规模高质量语料库，系统整合科技文献、互联网文本、代码库等11个领域知识，为模型通用能力奠定坚实基础。更具突破性的是，研究团队通过超10万次架构实验，成功推导出适用于MoE模型的Scaling Law联合公式，该公式首次揭示了专家数量、激活比例与模型性能的量化关系，完善了MoE架构的理论基础，为工程化实现提供了可量化的设计指南，使模型训练效率提升35%。
后训练优化环节采用独创的"三阶进化"训练框架：第一阶段通过对比学习优化基础推理能力；第二阶段引入多任务学习范式，同步提升创作、理解、数学等综合素养；第三阶段专项强化Agent智能体能力，构建包含MCP环境模拟、沙箱测试、多智能体交互的复杂训练体系，通过强化学习（RLHF）让模型在动态环境中自主探索最优决策路径。这种分阶段递进式训练策略，使模型在保持13B轻量级参数规模的同时，实现了与30B+密集型模型相当的复杂任务处理能力。
为推动行业技术标准化发展，腾讯混元同步开源两大创新性评估数据集。ArtifactsBench聚焦代码生成领域的视觉交互评估盲区，构建包含1825个任务的多维评测体系，覆盖从静态网页到3D游戏开发的九大应用场景，每个任务均标注难度系数与交互复杂度，填补了当前代码评估重功能实现、轻用户体验的行业空白。C3-Bench则针对智能体（Agent）场景三大核心挑战——工具关系规划、隐藏信息处理、动态路径决策，设计1024条高仿真测试用例，通过模拟真实业务场景中的复杂约束条件，精准定位模型在自主决策过程中的能力短板。
作为腾讯内部应用最广泛的大语言模型，Hunyuan-A13B已深度赋能400余个业务场景，日均处理请求量突破1.3亿次，覆盖内容创作、智能营销、代码辅助、企业知识库等多元领域。此次开源版本在内部稳定运行版本基础上进行全面升级，是继混元Large之后推出的第二款战略性开源模型，标志着腾讯混元在模型小型化、高效化方向的重大突破。据腾讯混元技术负责人透露，团队计划在未来半年内发布覆盖0.5B至32B参数的全系列密集型模型，以及更多尺寸的混合推理MoE模型，并将持续开源图像生成、视频理解、3D建模等多模态基础模型，构建全栈式AI开源生态。
腾讯混元始终秉持开放共享的技术理念，已形成覆盖文本、图像、视频、3D等多模态的完整开源体系。未来，团队将重点推进三项工作：一是构建从微型到大型的全尺寸模型矩阵，满足从边缘设备到云端服务的全场景需求；二是深化混合推理技术研发，探索动态专家选择机制与硬件感知调度策略；三是完善开源配套工具链，提供从数据处理、模型训练到部署优化的一站式解决方案。通过技术创新与生态共建，腾讯混元致力于推动大模型技术从实验室走向产业实践，让AI能力真正成为普惠性生产力工具。
随着Hunyuan-A13B的开源发布，腾讯混元正以实际行动践行"技术向善"的发展理念。该模型不仅通过性能与效率的平衡为行业树立新标杆，更通过开放核心技术与数据集，推动AI领域的知识共享与标准建设。在生成式AI加速落地的关键时期，这种开源协作模式将加速技术迭代，促进创新应用涌现，最终惠及整个AI产业生态的健康发展。
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
