
13B激活参数,把37B按在地上
调度能力从何体现?先看V4最反直觉的设计:Pro和Flash的共生关系。行业看到“Pro”和“Flash”,第一反应是精准定位:Pro树立标杆,Flash开拓下沉市场,服务中小企业。但这种商业包装逻辑不适用于V4。二者并非算力降级关系,而是验证同一底层逻辑的对照组。大模型过去的长文本能力,本质上是靠显存堆砌的伪能力。只要GPU和显存足够,多长的文本都能处理,但成本过高,无法在商业环境中推广。V4 - Pro以1.6T的总参数和49B的激活参数将容量提升到极致。但真正的亮点是只有284B总参数、13B激活参数的V4 - Flash。文档中的数据戳破了行业的“窗户纸”:在大量极具挑战性的测试中,仅有13B激活参数的Flash - Base,直接超越了上一代37B激活参数的V3.2 - Base。13B的极小激活代价,并非能力缩水,而是一次底层效率的重构。Flash的意义,不是证明省钱,而是证明“算力霸权可被架构重构打破”。参数规模已不再具有决定性意义,调度能力正成为新的竞争焦点。这让百万上下文不再是高阶英伟达集群的专属,国产芯片也能参与竞争。未来开源模型的分水岭,不再是底座大小,而是谁能用十分之一的力气完成同样的任务。
专家和稀泥,不如各管一段
硬件效率是一方面,软件效率是另一方面。V4在“后训练”阶段另辟蹊径。大模型的“后训练”阶段,过去一直陷入死胡同。行业常用的混合强化学习(Mixed RL),直白地说就是“和稀泥”。若想让模型既懂微积分,又会写C++,还能做日常规划,传统做法是强行合并参数,结果是“向均值回归”,特化能力被磨平,最终成为平庸的通才。V4彻底改变了方法。技术报告给出新解法:先独立培养专家,数学专家专注算数,代码专家专注编程,将单一维度的能力发挥到极致。关键在于最后如何合并。V4摒弃业内常用的参数平均法,采用同策略蒸馏(OPD)。传统的权重合并是静态妥协,而OPD是动态接管。统一模型生成轨迹时,遇到数学题,系统引入数学专家的梯度;遇到写代码,切换到代码专家。大家各司其职,不在参数层面冲突。顺着这条思路,V4应用端热门的“三种推理模式”(无思考、高强度思考、极限思考),并非简单添加UI按钮,而是OPD机制在产品端的体现。在极限思考模式下,底层提示词强制模型分解问题、穷尽边缘情况。这种执着的“死磕”行为,是在OPD阶段,由“数学专家”和“编程专家”强化而来的本能。OPD不搞平均,遇到数学题找数学专家,遇到代码找代码专家,各管一段,互不干扰。
Agent跑了三小时,不能失忆
换完训练方法,再看应用场景,长上下文有何作用?如果只是在十万字研报里找一句话,那不叫长上下文,只是高级检索。在真实商业场景中,Agent要重构代码、跨系统验证数据,甚至运行一整晚流程。在此过程中,最致命的问题是“失忆”。V3.2让工程师头疼的痛点是:新消息一到,模型之前的思考痕迹清零。普通聊天这样做可节省资源,但对于运行三小时的Agent任务,中途插入一句话,模型就会丢失所有状态,需重新计算。这种链条断裂,在实际业务中无法接受。V4给出“交织思考”方案,逻辑清晰,分场景处理。在带工具调用的长程场景中,跨越消息边界,推理链条完整保留;若是闲聊,则清空,不浪费算力。模型开始懂得“在什么场合记住什么”。更厉害的是其快速指令(Quick Instruction)。以前行业做意图识别,习惯外挂小模型,每次新请求都要重新处理用户提示词,浪费预填充计算。V4直接在输入序列末尾插入隐式指令,复用主模型之前计算的海量特征(KV Cache)。长上下文的核心问题不是“记得多”,而是“算得起”。这一做法砍掉了冗余的预填充计算,证明无需为每个功能配备小模型,吃透KV Cache复用,长程Agent才能运行。
完全缓存、定期存、不存,都疼
能运行不代表能推广。文档第17页有个细节,自动生成的kernel与手写CUDA逐位比对,完全一致。这种工程上的严谨,在业务中少见。有这样的标准,才能计算部署成本。高并发的百万上下文,比拼的不是大模型对人类的理解,而是对硬件物理极限的把握。文档列出三种调度策略,没有隐瞒,都是权衡取舍。若追求计算零冗余,可采用“完全缓存”,但固态硬盘的I/O通道可能被高频写入挤爆。若想保护硬盘,可选择“定期检查点”,隔段时间保存一次,但GPU需腾出算力处理丢失的尾部数据。若不使用物理硬盘缓存,可采用“零缓存”,节省存储带宽,依靠长程特征,遇到问题GPU现场计算。这三条路都不完美,本质上是硬件寿命、并发峰值和用户延迟容忍度之间的极限权衡。这表明AI已不再只是算力密集型产业,正加速向调度密集型产业转变。
写在最后
看待DeepSeek V4,若只关注跑分榜,就未触及核心。OPD的能力动态接管、交织思考的记忆保留、砍掉预填充的快速指令,以及对硬盘和显存的精细规划,这些看似枯燥的细节,实则紧密相连。大模型正在改变,不再是简单的陪聊工具,而是开始接管真实世界的业务链条。DeepSeek不是在赌未来,而是在建设机房。当对手还在为跑分榜上的零点几分沾沾自喜、炫耀几百亿参数时,DeepSeek已在计算每百万Token的电费。战局很清晰:下一场长文本战争,决胜点不是“智商”,而是机房成本。



被折叠的 条评论
为什么被折叠?



