国产大模型DeepSeek-V3开源后刷屏,性能比肩GPT-4o!

DeepSeek-V3 是一款 671B 的专家混合(Mixture of Experts,MoE)模型,它在性能上与 Sonnet 3.5 和 GPT-4o 等重量级模型的表现相当。671B 参数,激活 37B,在 14.8T token 上进行了预训练。当前版本的 DeepSeek-V3 暂不支持多模态输入输出。


图片


Stars 数89903
Forks 数14485

 主要特点

  • 性能对齐海外领军闭源模型:多项评测成绩超越了 Qwen2.5-72B 和 Llama-3.1-405B 等其他开源模型,并在性能上和世界顶尖的闭源模型 GPT-4o 以及 Claude-3.5-Sonnet 不分伯仲 

    • 百科知识:DeepSeek-V3 在知识类任务(MMLU, MMLU-Pro, GPQA, SimpleQA)上的水平相比前代 DeepSeek-V2.5 显著提升,接近当前表现最好的模型 Claude-3.5-Sonnet-1022。

    • 长文本:长文本测评方面,在DROP、FRAMES 和 LongBench v2 上,DeepSeek-V3 平均表现超越其他模型。

    • 代码:DeepSeek-V3 在算法类代码场景(Codeforces),远远领先于市面上已有的全部非 o1 类模型,并在工程类代码场景(SWE-Bench Verified)逼近 Claude-3.5-Sonnet-1022。

    • 数学:在美国数学竞赛(AIME 2024, MATH)和全国高中数学联赛(CNMO 2024)上,DeepSeek-V3 大幅超过了所有开源闭源模型。

    • 中文能力:DeepSeek-V3 与 Qwen2.5-72B 在教育类测评 C-Eval 和代词消歧等评测集上表现相近,但在事实知识 C-SimpleQA 上更为领先。

  • 生成速度提升至 3 倍:生成吐字速度从 20 TPS 大幅提高至 60 TPS,相比 V2.5 模型实现了 3 倍的提升 

  • 无辅助损失的负载均衡策略:通过动态监控并调整专家的工作负载,让它们均衡运行,同时不影响整体模型性能。

  • 多词元预测(MTP):支持模型同时预测多个未来词元。

GitHub:https://github.com/deepseek-ai/DeepSeek-V3

Hugging Face: https://huggingface.co/deepseek-ai/DeepSeek-V3-Base

### 不同AI模型的评测成绩和性能对比 #### DeepSeek-V3 vs Qwen2.5-72B DeepSeek-V3是一个拥有671B参数的大规模语言模型,而Qwen2.5则有72B参数。在多个基准测试中,DeepSeek-V3的表现优于GPT-4o和Claude-3.5 Sonnet,在某些特定任务上的表现尤为突出[^1]。相比之下,尽管Qwen2.5的参数量较小,但在一些自然语言理解任务上依然表现出色,并且由于其开源特性,受到了社区的高度关注和支持。 #### DeepSeek-V3 vs Llama-3.1-405B Llama-3.1具有405B参数,介于DeepSeek-V3和Qwen2.5之间。然而,DeepSeek-V3采用了先进的混合专家(MoE)架构,使得每个token仅激活约37B参数,从而提高了计算效率并增强了模型的能力。这种设计让DeepSeek-V3能够在资源有限的情况下提供更高效的推理服务,同时也保持了较高的准确性[^2]。 #### DeepSeek-V3 vs GPT-4o 作为一款闭源产品,关于GPT-4o的具体实现细节较少公开披露。但从已有的评估来看,DeepSeek-V3已经在多项指标上超越了这一版本的GPT系列模型。特别是在涉及复杂语境理解和多轮对话的任务场景下,DeepSeek-V3展现了更强的理解力和响应质量。 #### DeepSeek-V3 vs Claude-3.5-Sonnet 同样属于闭源阵营的一员,Claude-3.5 Sonnet也是一款备受瞩目的大语言模型。不过根据现有资料,DeepSeek-V3无论是在参数规模还是实际应用效果方面均有所领先。尤其是在跨领域迁移学习能力以及对新兴话题的学习速度等方面,DeepSeek-V3显示出明显的优势。 ```python import matplotlib.pyplot as plt models = ['DeepSeek-V3', 'Qwen2.5-72B', 'Llama-3.1-405B', 'GPT-4o', 'Claude-3.5'] params = [671, 72, 405, None, None] plt.bar(models, params) plt.xlabel('Model') plt.ylabel('Parameters (in Billions)') plt.title('Parameter Comparison of Different AI Models') plt.show() ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值