你的 Agent 一天要做几百个小决定:这封邮件拦不拦、这个请求分给哪个模型、这段输出打几分。以前这些活儿都得丢给生成式大模型,让它先“想一想”、写几行小作文,再从里面抠出一个字。
11 月 11 日,谷歌把这个环节单独做成了一个模型:Gemini Decision 1,配套的 Decisions API 已在 AI Studio 开放。
它和聊天模型不是一回事。Decision 1 不逐字生成答案,而是在一次前向计算中对预先设定好的候选选项直接打分——是/否判断、最多 255 个选项的选择题、按评分标准打分。一次请求可以塞进最多 25.6 万 Token 的多模态输入(文本、图片、音频、视频、PDF),附带最多 1000 道相互独立的问题,端到端时延官方标称 150 到 250 毫秒。
三家挤进同一个品类,价格一字不差
真正值得盯的是价格。
Gemini Decision 1:输入 $0.10/百万 Token,输出不另计费,大约是 Flash-Lite 的五分之一。
这个数字并不陌生。10 月初 OpenAI 的 Decisions API 公测,判断任务定价同样是输入 $0.10**/百万、输出免费。更早开源的 TypeSafe Jev 一系,输入价压到 **$0.042/百万,输出同样免费。
一个月之内,这个品类挤进来三家,两家大厂的输入价几乎一字不差。生成式模型的价格战打了两年,现在轮到判断层——而且开局就把地板焊死了。
性能:校准误差比准确率更值得看
InfoQ 的报道显示,Gemini Decision 1 在 9 项基准测试中拿下 7 项第一,JevBench 公开集准确率 92.2%,Amazon ESCI 商品搜索 Macro-F1 为 58.7%,New Yorker Caption 题注评选得分 79.7%。
但在判断类任务中,比准确率更关键的是校准误差。Gemini Decision 1 的 Top-1 ECE 为 0.0250,Jev 1.14 为 0.0494,GPT-6 Luna 为 0.0721,Gemini 3.5 Flash-Lite 为 0.2104。
校准误差越低,模型给出的置信度分数越接近真实准确率。这意味着在需要设定阈值、排序或自动放行的场景里,你可以更放心地相信它说“有 82% 把握”,而不是把它当成一个随机数。
为什么大厂抢着做这件事
Agent 跑起来之后,请求里的大头不是写文章,是做判断:路由、审核、打分、选工具。这些活儿以前按生成计费,为“是”或“否”两个字付掉几千 Token 的输出。
判断被拆成独立端点后,成本结构完全变了:不再为废话付费,只为喂进去的内容买单。
Gemini Decision 1 已经集成进 Gemini Notebook,对日常查询的延迟降低了最多 40%——当需要对多个候选结果批量评分时,单次推理替代了多次独立调用。同样的逻辑也会传导到 Agent 编排上:一个任务里几十次“选哪个工具、要不要继续、这个结果合不合格”的判断,如果每次都能在 200 毫秒内一次批量返回,整条链路的挂钟时间和账单会同时下降。
但决策端点不是万能解
官方时延是官方口径,自己的任务先实测。有依赖关系的判断拆不成一次请求,还是得多轮走。高置信度的可以自动执行,拿不准的照旧交给人或生成模型兜底。日常写代码、写文档,该用生成模型还用生成模型——Decision 1 不是替代品,是分流器。
当“判断”和“生成”分开跑,调用层需要跟得上
对独立开发者来说,真正可以动手的一件事是:把 Agent 循环里的判断环节拆出来,挂到决策端点上。账单的计量单位会从“按字数”变成“按决定”。
但拆开之后,调用层会多出一类端点:生成模型、决策模型、缓存、批量接口,各自的计费单位和路由规则都不一样。哪个任务该走哪条接口、决策调用占总成本的比例是多少、某次异常消耗是生成侧还是判断侧产生的——这些问题靠人脑记不住。
EasyAPI 这类聚合入口能帮上的是这一层:一个 Key 接入生成模型和决策端点,按任务类型分配路由,用量和费用按接口类型归集。判断走了多少次、生成了多少 Token、决策端点省下来的那部分钱有没有真正落到账单上,明细里能对出来。模型在按“判断”和“生成”分家,你的调用层需要能分得清。
数据来源: Google AI Studio 及 Gemini Decisions API 文档(2026 年 11 月 11 日);InfoQ《Google 发布 Gemini Decisions API》(2026 年 11 月 12 日);36氪《OpenAI 宣布全面开放决策 API》(2026 年 10 月 23 日);TypeSafe Jev 官方定价及 GitHub 文档(2026 年 9 月);IT之家、搜狐、品玩等媒体对 Gemini Decision 1 的报道(2026 年 11 月 12 日)。
586



被折叠的 条评论
为什么被折叠?



