阿里-Qwen-QwQ-Max-Preview深度思考模型最新开源

最新推荐文章于 2025-05-14 13:54:05 发布
最新推荐文章于 2025-05-14 13:54:05 发布
阅读量715 收藏 4
点赞数 10
分类专栏： 机器学习 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_22337877/article/details/145866299
版权

1 模型介绍

QwQ-Max-Preview是阿里巴巴集团于2025年2月25日正式发布的基于通义千问Qwen2.5-Max的深度推理模型。

  • 性能表现

    • 数学能力：在MATH-500评测中，数学解题准确率达90.6%，展现出对各类数学主题的全面理解和强大的解题能力。

    • 编程能力：在LiveCodeBench评测中，编程竞赛题正确率突破50%，在真实编程场景中的代码生成和问题解决能力表现出色。

    • 推理能力：在GPQA评测中准确率达65.2%，科学推理能力达到研究生水平。在全球权威基准测试中，整体表现已超越OpenAI o1-preview等国际主流模型。

  • 创新机制：创新引入“深度自省”机制，在处理复杂问题时，系统会自动拆解推理步骤，通过多轮自我对话验证逻辑链条，显著提升答案可信度。比如在经典“猜牌问题”测试中，QwQ-Max-Preview通过12步推演最终得出正确结论，推理过程完整度较传统模型提升40%。

  • 开源计划：阿里巴巴宣布将QwQ-Max及Qwen2.5-Max模型权重以Apache 2.0协议开源，开发者可通过魔搭社区（ModelScope）及Hugging Face平台获取完整技术文档与部署工具。

  • 轻量化版本：针对不同应用场景，团队同步推出轻量化版本QwQ-32B，参数规模压缩至325亿，支持本地部署与低延迟交互，适用于金融风控、医疗诊断等对隐私性敏感的领域。

  • 应用支持平台：阿里巴巴同步上线Qwen Chat智能对话平台（chat.qwen.ai），支持多轮推理、代码生成及实时联网搜索功能，用户通过简单交互即可完成数学解题、代码调试等专业任务，响应速度较传统工具提升60%。

2 示例介绍

DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 量化高精校准
AI天才研究院
02-05 2240
DeepSeek-R1-Distill-Qwen-7B-Int8-W8A16 是一个基于的 Int8 量化的模型。Qwen2.5Int8后训练：在基础模型上进行大规模强化学习我们直接在基础模型上应用强化学习（RL），而不依赖于监督微调（SFT）作为前置步骤。这种方法使模型能够探索用于解决复杂问题的思维链（Chain-of-Thought, CoT），从而开发出 DeepSeek-R1-Zero。
DeepSeek HuggingFace 70B Llama 版本 （DeepSeek-R1-Distill-Llama-70B）
简简单单Onlinezuozuo
02-14 1010
DeepSeek-R1-Zero 是一种通过大规模强化学习 （RL） 训练的模型，没有监督微调 （SFT） 作为初步步骤，在推理方面表现出了卓越的性能。随着 RL 的出现，DeepSeek-R1-Zero 自然而然地出现了许多强大而有趣的推理行为。但是，DeepSeek-R1-Zero 遇到了无休止的重复、可读性差和语言混合等挑战。为了解决这些问题并进一步提高推理性能， DeepSeek 开始了 DeepSeek-R1，它在 RL 之前整合了冷启动数据。
使用Qwen2.5-Max大模型
qq_55207368的博客
02-15 6702
要使用Qwen2.5-Max，您可以按照以下步骤操作：建议使用第二种方法。
深度剖析QwQ模型：技术、应用与前景展望
daqsdfas的博客
03-08 2077
QwQ 模型是一种基于深度学习的先进推理模型，旨在通过对大量数据的学习和分析，实现对复杂问题的准确推理和解答。与传统的人工智能模型不同，QwQ 模型不仅能够处理简单的任务，还具备强大的逻辑推理和思维链展示能力，能够像人类一样逐步分析问题，展示推理过程。该模型的核心概念之一是思维链（Chain of Thought, CoT）。思维链是指模型在解决问题时所遵循的逻辑步骤和思考过程。QwQ 模型通过创新的架构设计和训练方法，能够将思维链完整地展示出来，使得用户可以清晰地了解模型是如何得出结论的。
大模型评测【开源篇】Qwen大模型｜同样的基座，推理模型Qwq相比常规模型Qwen-instruct，到底哪里更强？
easyllm的博客
04-11 1247
相比instruct模型，qwq总分提高了13%，十分可观。最突出的改进，除了“推理与数学计算”提升21%外，“法律”及“行政公务”都有大幅提高，分别达到20%、27%。 “推理与数学计算”方面的改进在我们预料之中，然而“法律”及“行政公务”方面的显著效果却没有那么显而易见。但仔细琢磨后会发现，医疗/教育/金融/心理健康等领域都更偏向考察知识的熟记程度，而法律/行政公务（特别是后者的行测题）更依赖于逻辑推理能力。
该来的还是会来，Qwen团队开源推理大模型-QwQ！！！
2401_84204413的博客
11-28 1059
qwen，你依然是你，爱了爱了，我今年的kpi又有保证了，狗头保命。
大厂员工：从差点被裁到逆势晋升，大佬教会了我…
2401_85375186的博客
08-30 1656
今天给大家分享一个小W同学的故事。我之前是一名运维工程师。一方面我需要跟进部门内的项目进度，像应用版本发版支持、环境搭建部署、数据维护处理等等；另一方面也需要负责业务需求部门的需求响应处理。工作几年后，不但压力越来越大，工作时候常常会觉得力不从心，又对未来发展感到很迷茫。因为很多工作做久了，其实都是在重复，甚至都谈不上用经验解决问题，而是像肌肉记忆一样。但这种**“顺手”没有挑战性和成长性**，它只会不断出现，用一样的办法解决就可以了。
Claude 3.7、QwQ-Max-Preview等推理大模型发布跟踪：兼看大模型逻辑推理技术总结及几点思考
z551646的博客
02-26 1170
专题化，体系化，会有更多深度思考。大家一起加油。一、推理大模型集中发布跟踪我们先来看近日推理大模型相关前沿回顾，Deepseek FlashMLA、QwQ-Max-Preview、claude 3.7，1、
QwQ模型介绍与性能实测！1/10硬件成本，性能比肩DeepSeek R1模型
fufan_LLM的博客
03-06 2436
而现在，时隔3个月，QWQ模型再度回归，和此前Preview模型不同，现在的QWQ-32B正式版模型能力暴涨，在数学、编程等推理领域的能力甚至和671B的DeepSeek R1模型相当，并在强化学习的后训练阶段，原创性的提出了多段强化学习训练法，并在每个RL训练阶段，单独专注于提升模型的某一个方面的能力，如第一个阶段训练模型代码能力、第二个阶段训练模型编程能力等。QWQ系列模型，是阿里千问模型中的推理类大模型，早在去年12月就发布了QWQ-32B-Preview预览模型，也是当时业内最早开源的推理大模型。
DeepSeek-R1-Distill-Qwen-32B是什么，比14b更强吗
02-06
- **14B 模型**：蒸馏后的 14B 模型大幅超越了当时最先进水平的开源 QwQ-32B-Preview (Qwen, 2024a)，显示出强大的竞争力。 - **32B 和 70B 模型**：这些更大的蒸馏版模型不仅保持住了原有优势，还在密集模型中的...
(LLaMa Factory)大模型训练方法--监督微调（Qwen2-0.5B）
weixin_63373973的博客
02-15 792
根据以上的数据格式，我们在ModelScope的数据集找到中文医疗对话数据-Chinese-medical-dialogue符合上述格式。LLaMA-Factory是一个开源的、可自定义的、可扩展的、可部署的、可训练的大模型训练平台。根据训练阶段配置训练参数，包括模型名称、模型路径、训练方法、数据集、输出目录等；按照LLaMA-Factory官方README文档的数据格式，准备训练数据；的数据格式有多种，例如：Alpaca格式、OpenAI格式等。预览训练命名无误后，启动训练。
中小学生智能高效学习系统：基于大模型Qwen3(32B)+langchain框架+MCP+RAG+传统算法进行研发
微学AI的博客
05-14 617
本文基于大模型Qwen3(32B)+langchain框架+MCP协议+RAG+传统算法的中小学生智能学习系统设计与实现。该系统将教材内容转化为动态互动资源，提供个性化学习路径。我会从项目背景、架构设计、操作流程到代码实现进行系统性规划。
对标OpenAI的o1推理模型，通义千问的QwQ的基本原理，以及使用效果与应用场景，给出代码实现过程
微学AI的博客
12-06 3859
深度自省能力：QwQ展现出了令人瞩目的深度自省能力。在面对复杂的推理问题时，它能够主动质疑自身的假设，进行深思熟虑的自我对话，并仔细审视推理过程的每一步。这种能力使得QwQ在解决复杂问题时表现得更加灵活和智能。独特的推理机制：QwQ采用了独特的推理机制，使其能够在解决复杂问题时展现出卓越的表现。特别是在处理经典智力题“猜牌问题”时，QwQ能够像一个擅长思考的人类一样，揣摩“这句话有点 tricky”，并反思“等一下，也许我需要更仔细地思考”。
qwq（thinking）阿里的思考模型悄悄来了
2301_79340423的博客
02-25 420
等其他的思考模型还是短了一点，可能还是测试吧，等后面的正式推出的时候会不会优化一下。但是相对于其他的模型我实际使用起来感觉在情感和代码方面还是比较有有意思的，大家也去试试吧…,因为参数是最大的，相对其他的非思考模型里面是几乎最强的，在代码和数学问题的使用上面还是比较令人满意的。进行使用，现在还是测试，个人感觉思考链还是相对于。,今天再次上号的时候惊奇发现。深度思考模型悄悄上线公测了！
最新开源：阿里开源QwQ-32B-Preview推理大模型！月之暗面Kimi开源大模型推理架构 Mooncake！阿里开源图像生成模型Qwen2VL-Flux！
u012744245的博客
12-02 1861
是由 Moonshot AI 提出的长文高效推理架构，它采用了 KVCache 为中心的分离架构，将预填充和解码集群分开，并利用 GPU 集群中未充分利用的 CPU、DRAM 和 SSD 资源实现分离的 KVCache。在全面考察数学解题能力的 MATH-500 评测中，QwQ 斩获 90.6% 的高分，一举超越OpenAI o1-preview 和 o1-mini，体现了在各类数学主题上的全面理解；不仅能够根据用户输入的图像生成多幅相似图像，还支持文本引导的图像混合和图像引导的图像融合。
大型语言模型技术对比：阿里Qwen qwq、DeepSeek R1、OpenAI o3与Grok 3
weixin_43940494的博客
02-27 4113
本文对阿里Qwen QWQ、DeepSeek R1、OpenAI o3和Grok 3四款大型语言模型进行了全面对比，分析了它们的架构、性能、应用场景、开源状态及独特功能，帮助技术研究人员、开发者和企业用户根据需求（如推理能力、多模态处理或实时数据应用）选择最适合的模型。
手把手教你部署QWQ模型，开启高效推理之旅
zhangzhentiyes的博客
03-12 1411
在大语言模型蓬勃发展的当下，掌握模型的本地部署与调用技术，对于开发者深入探索模型性能、实现个性化应用至关重要。本文将以QWQ-32B模型为例，详细阐述其部署与调用的全流程，为大家提供一份全面且具有实操性的技术指南。
本地部署大模型？看这篇就够了，Ollama 部署和实战
2401_85373898的博客
11-13 2201
如果要使用的模型不在 Ollama 模型库怎么办？至此，我们一起走完了 Ollama 的部署和实战流程。在我看来，Ollama 也许是目前最便捷的大模型部署和使用工具，对小白非常友好。简单的命令行操作，用户即可快速启动和管理模型，极大降低了技术门槛，用户可以专注于模型的应用，而无需关注底层技术细节。此外，Ollama 的离线运行也为数据安全提供了保障。期待大家在使用 Ollama 的过程中，发现更多有趣的 AI 应用场景。让我们一起推动大模型技术的应用落地，探索更广阔的可能性！
DeepSeek-R1-Distill-Qwen-32B-AWQ模型
最新发布
06-07
### DeepSeek-R1-Distill-Qwen-32B-AWQ 模型介绍 DeepSeek-R1-Distill-Qwen-32B-AWQ 是基于 DeepSeek-R1 训练技术生成的推理数据，微调了多个密集模型之一。该模型在基准测试中表现出色，尤其是在数学推理、代码生成和逻辑推理领域[^1]。具体而言： - **数学推理**：在 AIME 2024 和 MATH-500 测试中，准确率分别达到 72.6% 和 94.3%，接近 OpenAI-o1-mini 的表现。 - **代码生成**：在 LiveCodeBench 和 Codeforces 测试中，评分分别为 57.2 和 1691，展现了强大的代码生成能力。 - **逻辑推理**：在 GPQA Diamond 测试中，准确率为 62.1%，显著优于许多同类模型。 此外，DeepSeek-R1-Distill-Qwen-32B-AWQ 使用了 AWQ（Advanced Weight Quantization）量化技术，能够显著降低模型的内存占用，同时保持较高的性能[^2]。 --- ### DeepSeek-R1-Distill-Qwen-32B-AWQ 模型使用指南 #### 硬件要求 为了成功运行 DeepSeek-R1-Distill-Qwen-32B-AWQ 模型，推荐的硬件配置包括： - GPU 显存至少为 24GB。 - 使用支持 Tensor Parallelism 的多 GPU 配置以进一步优化性能[^4]。 #### 部署步骤 以下是部署 DeepSeek-R1-Distill-Qwen-32B-AWQ 模型的基本步骤： 1. **下载模型** 从魔搭社区或其他官方来源下载预训练模型文件。 2. **安装依赖** 安装必要的 Python 包，例如 `vllm` 和 `transformers`。可以通过以下命令完成安装： ```bash pip install vllm transformers ``` 3. **量化模型** 使用 AWQ 量化技术对模型进行处理，以减少显存占用。示例代码如下： ```python from transformers import AutoTokenizer, AutoModelForCausalLM from awq import apply_awq # 加载模型和分词器 model = AutoModelForCausalLM.from_pretrained("Valdemardi/DeepSeek-R1-Distill-Qwen-32B") tokenizer = AutoTokenizer.from_pretrained("Valdemardi/DeepSeek-R1-Distill-Qwen-32B") # 应用 AWQ 量化 apply_awq(model) ``` 4. **生成推理代码** 使用 `vllm` 提供的服务接口启动模型服务。以下是启动命令的示例： ```bash vllm serve Valdemardi/DeepSeek-R1-Distill-Qwen-32B-AWQ \ --quantization awq_marlin \ --max-model-len 18432 \ --max-num-batched-tokens 512 \ --max-num-seqs 1 \ --tensor-parallel-size 1 \ --port 8003 \ --enforce-eager \ --gpu_memory_utilization=0.98 \ --enable-chunked-prefill ``` 5. **运行与测试** - 设置缓存上限为 128 条（或不限制缓存上限以适应更大的任务需求）。 - 测试模型输出内容是否符合预期。 --- ### 示例代码 以下是一个简单的 Python 脚本，用于调用 DeepSeek-R1-Distill-Qwen-32B-AWQ 模型生成文本： ```python import requests # 定义 API 请求地址 url = "http://localhost:8003/generate" # 输入提示文本 payload = { "prompt": "请解释量子计算的基本原理。", "max_tokens": 100, "temperature": 0.7, "top_p": 0.9 } # 发送请求并获取响应 response = requests.post(url, json=payload).json() # 输出生成结果 print(response["text"]) ``` --- ### 注意事项 - 如果显存不足，可以尝试进一步降低 `--max-num-batched-tokens` 或增加量化精度。 - 在生产环境中，建议使用负载均衡器管理模型服务，以提高稳定性和并发能力。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

数据分析能量站

谢谢支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值