围观一下，QwQ真的能和DeepSeek-R1一较高下吗？

最新推荐文章于 2025-03-16 14:15:07 发布
最新推荐文章于 2025-03-16 14:15:07 发布
阅读量679 收藏 15
点赞数 11
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/gtj0617/article/details/146168672
版权

我们前面简单跑了一下128 GB显存能运行的DeepSeek-R1的不同参数的模型（目前来看，ollama量化过的DeepSeek模型应该就是最具性价比的选择），根据DeepSeek-R1自己给出的相对精度，结合我们自己实测的显存占用情况，得到下表：

24f01d162f362de5414f6736dfbbd372.png

可以看到，除了7B模型和8B模型有所交织之外，其余模型也是秉承一寸长一寸强的原则，参数大一级压死人。当然，QwQ模型宣称通过32B参数能达到接近671B的效果，我们今天简单看一下效果。

首先是模型文件大小，ollama提供的模型文件是Q4_K_M，也就是INT4量化过的模型，模型参数实际为32.8B，蒸馏架构为Qwen2。作为对比，我们回顾一下DeepSeek-R1的32B模型的参数，蒸馏架构同为Qwen2，模型参数也是32.8B，量化方式也是INT4，几乎是完全一致。    

文件大小上，DeepSeek-R1的32B模型文件大小为19,851,335,552字节，而QwQ则为19,851,336,256，差距微乎其微。

本次测试我租了GPU云主机，搭配了NVIDIA A10的GPU，显存容量为24 GB（24564 MB），因为操作系统为Windows Server 2019，最高支持CUDA 12.3版本。

16375143ecabbcfd1da603be04152524.png

加载模型看一下显存使用情况，相比于DeepSeek-R1的32B模型的21450 MB，QwQ的显存占用稍微高一点点，为21695 MB。

b82e51a2230d9976cd6c807644721598.png    

我们首先拿之前的数学题测试一下（一道四年级数学题，DeepSeek-R1的32b以下模型全军覆没，视频为证！）：

“甲、乙、丙三人的钱数各不相同，甲最多，他拿出一些钱给乙和丙，使乙和丙的钱数都比原来增加了2倍，结果乙的钱最多；接着乙拿出一些钱给甲和丙，使甲和丙的钱数各增加了2倍，结果丙的钱最多；最后丙又拿出一些钱给甲和乙，使他们的钱数和增加了2倍，结果三人的钱数一样多。如果他们三人共有81元，那么三人原来分别有多少钱？”

其实这个问题倒不是很难，是一道小学四年级的计算题；但是这道题里面还有文字游戏，需要模型能够正常理解“增加了2倍”的含义，然后再做数学运算。

QwQ的对话过程如下所示：

经过475秒的计算，他给出了一个错误的答案。不过从计算过程来看，应该是A10的计算架构比P40更先进，所以输出速度更快；但是他对增加两倍的理解还存在些许偏差。

17b2472c66003fa502a7c0ec4c466e31.png

作为对比，可以再回顾一下DeepSeek-R1的32B模型的测试过程：

经过420秒的计算，他得到了正确的计算结果，但是回答不太扣题，甲乙丙三人怎么最后只剩我了？不过换成A10之后应该会计算的更快了。    

10ff4cede4ee58c9bbdff38f76d4a78b.png

接下来，我让DeepSeek出了几道测试题，第一道还是数学题。从数组【24，14，26，33，46，（）】中找规律，实际上，设定的数学规律是“第三个数等于第一个数的一半加上第二个数”，按照这个规律，最后一个数应该是62.5。我们看一下QwQ的推算过程：

经过808秒的计算，还没出结果就结束了，他甚至还提醒我接下来要按照这个思路组织答案。    

33ffcb17020746c3c770792ced28cac7.png

不过从计算过程中我们可以看到，他的计算已经偏了，他自己把题目中的数组替换掉了。

6e2c27f98cccb725c356da94039172f8.png

计算过程中甚至大厂味儿十足，中文中夹杂着英文。    

5ca2e2adde7685f53b8e9b9dd47b02de.png

不过这里不能歧视QwQ，因为DeepSeek-R1也没解出来。

剩下的，还有DeepSeek出的几道逻辑题，测试过程如下：

最简单的当属“数Strawberry中有几个r”这道题，耗费了40秒的计算时间，出现了过度思考的问题。

d28e0c881c91460e7ef3deffbb7d1221.png    

然后是一道有点抽象的题目“用一根绳子吊住一根胡萝卜，达到平衡，胡萝卜头尾在同一水平。这时候沿着绳子切开胡萝卜为两份，哪边更重?”这道题的正确答案是“因尾部较细力臂更长所以净重量要比头部更小，最终头部一侧的净重量更大。”经过178秒的计算，QwQ似乎已经得到了正确答案，但是他又在思考过程中异常退出了，没有整理出最终答案。

0c0fd49b92bc283abbf45bc2b91f4633.png

接下来的题目是“房子里有五个人，A、B、C、D和E，A正在和B看电视，D在睡觉，E在打乒乓球，请问C在做什么？”经过68秒的计算，他得到了正确答案，并且备注了可能的特殊情况。    

a9914468e3850f34a6673a669ebb756d.png

然后是最近比较火的一道经典题目“比较9.11和9.8这两个数的大小。”经过33秒的推理，他给出了正确答案，看来这些低端缺陷都已经被修复了。    

4bb6ac57d9f901c1c5b634151fbf607d.png

最后是一道老生常谈的题目“用5L容量和3L容量的瓶子怎么装出4L的水?”经过98秒的推理，QwQ给出了两种操作方法，还是很轻松的。    

43040256eba2f7a0b04995e34773a5ca.png

单从本次测试来看，QwQ的能力貌似是要比DeepSeek-R1差一点点，毕竟使用相同参数、相同量化方式时，他的数学题错了一道。从这个角度分析，QwQ的能力貌似不及满血DeepSeek-R1的78%，但是这个结果毕竟不是用的标准测试数据集，不能以偏概全的说QwQ完全不如DeepSeek-R1，大家说对吧？    

***推荐阅读***

目前来看，ollama量化过的DeepSeek模型应该就是最具性价比的选择

哪怕用笔记本的4070显卡运行DeepSeek，都要比128核的CPU快得多！

帮你省20块！仅需2条命令即可通过Ollama本地部署DeepSeek-R1模型

一个小游戏里的数学问题，难倒了所有的人工智能：ChatGPT、DeepSeek、豆包、通义千问、文心一言

离线文件分享了，快来抄作业，本地部署一个DeepSeek个人小助理

Ubuntu使用Tesla P4配置Anaconda+CUDA+PyTorch

Ubuntu磁盘空间不足或配置错误时，如何操作扩容？

当你买了一台Linux云主机，应该如何测试主机性能？

没有图形界面，如何快速部署一个Ubuntu 24.10的Server虚拟机

清华大模型ChatGLM3在本地Tesla P40上也运行起来了

openVPN不同加密算法性能对比

Debian系统配置网络的花样还是太多了

使用openVPN对比AES和SM4加密算法性能，国密好像也没那么差

转发性能只有1 G吗？Debian使用strongSwan配置的IPsec VPN好像也不太强

安装Debian时千万不要使用网络镜像站点

配置使用新加坡网络镜像站点安装Debian 12.9更快！

OpenWrt如何配置WireGuard互联？

6de54756a223a30749dd57695fce64c6.jpeg

Deepseek-R1 VS QwQ-32B 评测对比：文本理解与生成（2）
maxcode
03-14 169
例如将一篇几千字的科技报道压缩成几百字的摘要，评测模型能否准确概括文章的主要内容。用中文概括文章的主要内容：Use caseseditSearchSecurity例如提供多篇关于同一主题的新闻报道，评测模型能否整合信息生成一个全面的摘要。
qwq-32b与deepseek-r1满血版的全方位效果对比
maxcode
03-10 200
qwq-32b在性能上与deepseek-r1满血版相当，甚至在某些方面更具优势，如推理速度、硬件适配性和成本效益等。而deepseek-r1满血版则在数学严谨性和执行准确性方面表现更优。选择哪个模型取决于具体的应用需求，如果需要快速响应和较低的运行成本，qwq-32b是更好的选择；如果对推理的准确性和严谨性有更高要求，deepseek-r1满血版可能更适合。
QwQ vs DeepSeek！QwQ模型性能深度评测！谁才是开源一哥？
fufan_LLM的博客
03-07 850
整体来看，QwQ除了在逻辑推理能力、真实物理世界理解能力，以及科研能力方面，和DeepSeek R1有一定的差距外，其他方面能力，如编程、数学、长文本编写、问答和翻译等，均能达到85%以上DeepSeek R1的水准。看起来两个模型的问答都很精彩，但相比之下QwQ模型对于拿破仑的知错改错不认错的性格，把握的更加到位，这点可以在QwQ模型的思考过程中看出。QwQ-32B模型性能评测来啦！最后一个问题，是一个量子力学问题，问的是两个不同寿命的量子态，需要多少的能量差，才能在观测的时候被分开。
Deepseek R1和Qwen QwQ为什么这么牛？
2401_85327249的博客
02-04 747
上个月 Deepseek-R1-Zero 和 Deepseek-R1 的发布让全世界的开发者都沸腾了，大家第一次见到 ChatGPT-o1 级别的开源模型，实际体验下来大家也都十分满意，纷纷开始退订 20 刀乐（x）。 而 Deepseek R1 取得成功的方法其实早已发布，那就是 LLM 强化学习算法 Group Relative Policy Optimization（GRPO）。
QwQ模型介绍与性能实测！1/10硬件成本，性能比肩DeepSeek R1模型
fufan_LLM的博客
03-06 1653
而现在，时隔3个月，QWQ模型再度回归，和此前Preview模型不同，现在的QWQ-32B正式版模型能力暴涨，在数学、编程等推理领域的能力甚至和671B的DeepSeek R1模型相当，并在强化学习的后训练阶段，原创性的提出了多段强化学习训练法，并在每个RL训练阶段，单独专注于提升模型的某一个方面的能力，如第一个阶段训练模型代码能力、第二个阶段训练模型编程能力等。QWQ系列模型，是阿里千问模型中的推理类大模型，早在去年12月就发布了QWQ-32B-Preview预览模型，也是当时业内最早开源的推理大模型。
类o1系列模型大盘点：QwQ、Deepseek-R1、Marco-o1、Huatuo-o1、GLM-Zero...
sherlockMa的博客
01-04 6127
OpenAI的o1模型代表了人工智能领域在推理能力方面的一个重要进步。本文将盘点几个具有代表性的类o1工作：包括OpenAI o1、来自阿里巴巴团队的QwQ、QVQ、Marco-o1、和Deepseek团队的R1、以及智谱团队的GLM-Zero、还有增强LLaVA性能的LLaVA-CoT，以及面向医学大模型的Huatuo-o1、来自微信团队的DRT-o1等。
对比分析QwQ和DeepSeek-R1的强化学习方法
youmaob的博客
03-12 934
就在刚刚（2025年3月6日），阿里云Qwen团队发布了其最新研究成果QwQ-32B推理模型，该成果通过大规模强化学习技术突破性地提升了语言模型的智能水平。这款拥有32B参数的模型性能远超同样在QWen32B上训练出来的DeepSeek-R1-Distill-Qwen32B。展现出与DeepSeek-R1（激活参数37B/总参数671B）相匹敌的性能，标志着强化学习在预训练模型优化中的显著成效。
深度测评国产 AI 程序员，在 QwQ 和满血版 DeepSeek 助力下，哪些能力让你眼前一亮？
阿里巴巴云原生的博客
03-10 997
通义灵码上新模型选择功能，不仅引入了 DeepSeek 满血版 V3 和 R1 这两大 “新星”，Qwen2.5-Max 和 QWQ 也强势登场，正式加入通义灵码的 “豪华阵容”。开发者只需在通义灵码智能问答窗口的输入框中，单击模型选择的下拉菜单，便能轻松开启不同模型，畅享个性化服务。
【大模型篇】推理模型大作战（QwQ-32B vs DeepSeek-R1）
大F子的智能小课
03-06 1139
当我让QwQ-32B vs DeepSeek-R1 写一封未来自己的信大家更喜欢哪种风格？大规模强化学习（RL）潜力无限，能超越传统预训练和后训练方法提升模型性能。近期研究表明，强化学习可显著提高模型推理能力。例如，DeepSeek R1 整合冷启动数据与多阶段训练，实现先进性能，可进行深度思考与复杂推理。
DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 量化高精校准
AI天才研究院
02-05 1996
DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 是一个基于的 Int8 量化的模型。Qwen2.5Int8后训练：在基础模型上进行大规模强化学习我们直接在基础模型上应用强化学习（RL），而不依赖于监督微调（SFT）作为前置步骤。这种方法使模型能够探索用于解决复杂问题的思维链（Chain-of-Thought, CoT），从而开发出 DeepSeek-R1-Zero。
从零到一：DeepSeek-R1 的推理革命
步子哥的博客
01-21 5180
DeepSeek-R1 的研究不仅展示了强化学习在推理能力提升中的潜力，更为语言模型的训练提供了全新视角。从 DeepSeek-R1-Zero 的自我进化到 DeepSeek-R1 的多阶段优化，再到小模型的蒸馏，这一系列探索为人工智能的未来发展铺平了道路。我们期待更多研究者加入这一领域，共同推动智能系统的边界。
DeepSeekR1 劲敌出现了，QwQ32B本地部署测试，RTX3060成功运行！
m0_65555479的博客
03-07 2302
阿里千问平，突然在凌晨3点发布了最新推理模型！发布说明很简单“然后在下面甩出来几个链接，包括博客，HF，模型，演示和在线使用的网站。这条消息很简单，但是背后的东西一点都不简单。就凭一句可以，这成功了勾起了我的兴趣。除了文字描述之外， 推文中还给出了一张基准测试的图片。图中显示了 QwQ32B 和 deepseekR1 671B，以及 openai-o1的基准测试。从这个途中可以轻松的获取以下几点信息。
【大模型实战篇】对比包括QwQ-32B在内的不同推理模型的吞吐量表现
最新发布
源泉的小广场
03-16 468
大模型、性能对比、推理模型、推理性能对比、qwq推理模型、量化模型、int4量化、int8量化、r1蒸馏
两个值得一读的技术总结：OpenAI o1模型复现复现思想及多模态大模型用于数学推理
2401_85375298的博客
01-20 826
如何在多模态大型语言模型（MLLMs）时代进行数学推理是个很有趣的话题，这个问题要解决起来其实并不容易。首先，许多数学问题需要提取和推理视觉内容，如图表、表格或几何图形。当前模型在处理复杂的视觉细节（如解释三维几何或分析不规则结构表格）方面存在困难。其次，现实世界的数学推理往往不仅限于文本和视觉，还可能涉及音频解释、交互式问题解决环境或动态模拟。当前模型在处理这些多样化输入方面能力有限。另外，数学推理涉及多个领域，如代数、几何、图表和常识，每个领域都有其特定的问题解决要求。
TensorFlow相关组件的安装
AAI666666的博客
01-11 2343
TensorFlow相关组件的安装
大模型无缝切换，QwQ-32B和DeepSeek-R1 全都要
2401_85373691的博客
03-12 1882
大模型很多技术干货，都可以共享给你们，如果你肯花时间沉下心去学习，它们一定能帮到你！
deepseek-ai/DeepSeek-V3
2403_86893713的博客
01-03 5113
架构：创新的负载均衡策略和训练目标除了 DeepSeek-V2 的高效架构之外，我们还开创了一种用于负载均衡的辅助无损策略，该策略可以最大限度地减少因鼓励负载均衡而引起的性能下降。我们研究了多标记预测 （MTP） 目标，并证明它对模型性能有益。它还可用于推理加速的推测解码。训练前：迈向终极训练效率我们设计了一个 FP8 混合精度训练框架，并首次在超大规模模型上验证了 FP8 训练的可行性和有效性。
DeepSeek-R1-Distill-Qwen-32B是什么，比14b更强吗
02-06
### DeepSeek-R1-Distill-Qwen-32B 模型介绍 DeepSeek-R1-Distill-Qwen-32B 是基于 Qwen2.5-32B 进行蒸馏得到的小规模密集模型之一。该模型通过从大型预训练模型 DeepSeek-R1 中提取知识，显著提升了推理能力和性能表现[^1]。 在开发过程中，研究人员选择了 Qwen2.5-32B 作为基础模型，并直接从 DeepSeek-R1 进行了知识蒸馏。实验结果显示，在多个基准测试中，这种直接蒸馏的方法比使用强化学习优化后的效果更好，表明大模型所发现的推理模式对于提升小模型的能力非常重要[^2]。 ### 性能比较：DeepSeek-R1-Distill-Qwen-32B vs. 14B 版本 研究表明，经过精心设计的知识蒸馏过程后，即使是参数量较少的模型也能达到甚至超过更大规模模型的表现： - **14B 模型**：蒸馏后的 14B 模型大幅超越了当时最先进水平的开源 QwQ-32B-Preview (Qwen, 2024a)，显示出强大的竞争力。 - **32B 和 70B 模型**：这些更大的蒸馏版模型不仅保持住了原有优势，还在密集模型中的推理基准上创下了新纪录。特别是 DeepSeek-R1-Distill-Qwen-32B，在某些特定任务上的成绩尤为突出，例如 AIME 2024 数学竞赛方面超过了 GPT-4o 和 Claude 3.5 的表现[^3]。 综上所述，虽然 32B 版本拥有更多的参数数量，但在实际应用场景下两者之间的差距可能取决于具体任务需求；而就整体而言，32B 版本确实展现出了更强的整体实力和更广泛的应用潜力。 ```python # 示例代码展示如何加载并评估两个不同大小的模型 import torch from transformers import AutoModelForCausalLM, AutoTokenizer def evaluate_model(model_name): tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name) input_text = "Evaluate this math problem:" inputs = tokenizer(input_text, return_tensors="pt") with torch.no_grad(): outputs = model.generate(**inputs, max_length=50) result = tokenizer.decode(outputs[0], skip_special_tokens=True) print(f"Result from {model_name}: ", result) evaluate_model('DeepSeek-R1-Distill-Qwen-14B') evaluate_model('DeepSeek-R1-Distill-Qwen-32B') ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Danileaf_Guo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值