
OpenAI 凌晨放大招:GPT - 5.6 优化降本增效,多项成果彰显全栈工程化实力
7 月 30 日凌晨,OpenAI 放出四个大消息:一是 OpenAI 放出 GPT - 5.6 开始优化“自己”的新进展,用 GPT - 5.6 Sol 优化生产环境 GPU 内核,推理服务部署成本大降 20%;优化推测解码技术,让 token 生成效率涨超 15%。二是 AI 自进化研究上,OpenAI 或再招揽回一员大将,刚离职的美国 AI 独角兽 Thinking Machines Lab 联合创始人翁荔(Lilian Weng)被曝将重新加入 OpenAI,助其开展 AI 自进化研究。三是倍受关注的 OpenAI 硬件研发曝新消息,OpenAI 总裁格雷格·布罗克曼(Greg Brockman)剧透 OpenAI 正打造 AI 硬件,“用户可能很快见到”。谈及设备形态,他认为“绝大多数情况下”,人会都会选择与电脑进行对话。四是 OpenAI 产品规模刷新纪录,用户规模首破 10 亿人,服务 200 万家企业。
GPT - 5.6 Sol 出手,整体 Token 生成效率提升超 15%
如今,模型服务需求的增速超越算力扩容速度,效率成为系统设计核心。OpenAI 要在相同硬件条件下提供更多服务,需对整个系统进行优化。本月初,OpenAI GPT - 5.6 系列模型发布,旗舰版本 GPT - 5.6 Sol 在编程智能体评测榜单中表现优于 Claude Fable 5,调用成本约为后者 2/3;均衡模型 Terra 对标 GPT - 5.5,费用仅为前者 1/2;快速且实惠的 Luna 是响应速度最快、性价比最高的模型,定价较 Sol 降低八成。
为实现上述效果,OpenAI 改进技术栈两大关键部分,一是推理服务体系,通过优化负载均衡、推测解码等流程提升有效输出量;二是智能体调度基座,针对性优化上下文膨胀等问题。GPT - 5.6 Sol 在负载均衡方面,能根据不同要素完成请求分发和任务分配,还能分析业务流量,优化调度规则。它还用于优化模型前向传播计算,自主编写并优化核心代码,将推理服务成本降低了 20%。在推测解码方面,GPT - 5.6 Sol 针对配套预测模型迭代,提升了整体 Token 生成效率 15%以上。此外,借助 GPT - 5.6 Sol 可对推理引擎与模型参数完成精细化超参优化,且推理优化是闭环反馈体系,GPT - 5.6 Sol 和 Codex 能优化所有环境。
简化重复性工作流程,三大手段优化智能体调度基座
ChatGPT Work 和 Codex 依靠模型和工具调用链路完成复杂任务,但单次交互流程中会产生耗时和算力消耗。研究人员认为要提升整体性能,需削减全系统范围内的重复性计算与冗余操作,思路是对智能体调度基座进行设计,包括管控上下文膨胀、优化工具加载机制、复用已有计算成果三种手段。
在避免不必要冗余信息方面,智能体调度框架依靠延迟加载检索机制削减开销,限制工具返回输出内容在 10000 Token 以内。在保留用于提示缓存的确切前缀方面,智能体调度框架将模型可见的历史数据设为仅追加写入模式,以固定格式推送工具信息。
GPT - 5.6 Sol 搞不定二维解秘题,是因为 API 配置
此前,GPT - 5.6 Sol 攻克了圈复覆盖猜想等数学公开难题,但在二维解谜评测基准 ARC - AGI - 3 中,正确率仅为 7.8%,上一代 GPT - 5.5 得分低至 0.4%。ARC - AGI - 3 采用轻量化调度框架,暴露模型能力短板。当研究人员启用两项 API 配置后,模型评测分数提升至原先 3 倍,输出 Token 消耗量缩减为原来的 1/6。使用官方框架后,GPT - 5.6 Sol 在公开数据集上得分达到 13.3%,保留原有推理机制和压缩技术,得分可提升至 38.3%。
OpenAI 研究发现,出现这种现象并非模型本身缺陷,而是智能体调度框架的参数配置问题。一是模型每步操作后私有推理思考过程被清空,无法留存推演思路;二是调度框架采用滚动截断窗口机制,导致模型丢失历史操作记录。OpenAI 通过优化让智能体记住过往操作,使模型表现达到最佳。基于 Responses API 重构调度框架,开启推理内容持久留存功能后,模型推演耗时下降,解题能力提升。借助 Responses API 自带的上下文压缩配置替换滚动截断机制,GPT - 5.6 Sol 能在解谜流程里留存经验,拿到更高评测分数。最后,OpenAI 建议 API 开发者采用相同设置评估模型。
结语:大模型竞争,迈入全栈工程化比拼阶段
GPT - 5.6 实现的效率提升,源于 OpenAI 在算法研究等技术体系上的优化成果。OpenAI 认为该模型承载大量优化方案,后续优化迭代速度会加快。未来,研究人员会深耕算子内核优化等方向,升级底层技术架构。这表明 AI 行业进入全栈工程化优化竞赛,大模型厂商的产业落地能力成为关键。
410



被折叠的 条评论
为什么被折叠?



