文章目录
P.S. 目前国内还是很缺AI人才的,希望更多人能真正加入到AI行业,共同促进行业进步,增强我国的AI竞争力。想要系统学习AI知识的朋友可以看看我精心打磨的教程 传送门http://blog.youkuaiyun.com/jiangjunshow,教程通俗易懂,高中生都能看懂,还有各种段子风趣幽默,从深度学习基础原理到各领域实战应用都有讲解,我22年的AI积累全在里面了。注意,教程仅限真正想入门AI的朋友,否则看看零散的博文就够了。
1. 先说结论:这不是又一个 ChatGPT
2026 年 9 月,前 OpenAI InstructGPT 核心作者 Diogo Almeida 搞了个 TypeSafe AI,拿到 4000 万美元种子轮,顺手发布了第一款产品:Jev。
很多人一看"AI 新品"就兴奋:是不是又来一个能写诗、能陪聊的?这次真不是。Jev 是个典型的"社恐型 AI"——不聊天,只干活。
官方给它定的调子是 System One Model(系统 1 决策模型)。翻译成人话:一个嵌在业务流里的"确定性判断函数"。你丢给它一段状态,它按你预设的 Schema,并行输出决策值和概率分布,全程不说一句废话。
我愿称之为"AI 界的沉默寡言程序员":你问他要结果,他给结果;你让他闲聊,他给你一个 404。
1.1 它和传统 LLM 的三处结构差异
理解 Jev,不用看宣传片,看三处底层差异就够了。
**差异一:输出接口。**传统 LLM 靠 token 序列交付答案。就算你开了 JSON mode、开了严格结构化输出,它给你的依然是一串字符串,你的程序还得自己反序列化解析。就好比你说"给我一份报表",它打印了 500 页 PDF,你还得自己把数字抠出来。
Jev 则直接输出类型定义好的结构化值加概率分布,本身完全不生成文字。人家交的是标准件,不是原材料。
**差异二:采样方式。**LLM 是自回归生成,一个 token 接一个 token 往外吐,慢得像蜗牛背着房子搬家,还坚持说自己住的是豪宅。Jev 是并行采样,一次查询同时返回多个决策,官方给端到端延迟 70~500 毫秒。
500 毫秒什么概念?你刚想骂它"怎么这么慢",话还没出口,它已经交卷了。
**差异三:训练目标。**三种模型架构对应三种对齐目标,你可以理解成三种不同性格的员工:
- RLHF(人类反馈强化学习):优化目标是"人类评审觉得这回答写得好",主要用在聊天产品。属于办公室里"会来事儿"的选手:说话好听,不一定靠谱。
- RLVR(可验证奖励强化学习):优化目标是"程序能验证的奖励",数学、编程是它的主场。实打实的做题家。
- RLCD(校准决策强化学习):Jev 专属,优化目标是"校准过的决策 + 如实反映把握程度的概率"。它不但要答对,还得知道自己答得对不对。这种特质放在相亲市场上叫"有自知之明",是稀缺物种。
RLCD 严格要求:模型给出的概率,必须和现实中事件实际成立的频率一致。听起来不难?你让一个人预测自己减肥能坚持几天,他给出的概率和现实之间,隔了整整一个健身房。
2. 就仨题型:Choice、Score、Noul
Jev 的世界里没有开放式问答,所有问题就三种题型,比小学考试的题型还少。
2.1 Choice(单选):从几个选项里挑一个
适合客服部门分类、文件类型判断这种"非此即彼"的场景。Jev 会返回概率最高的选项、每个选项各自的概率、以及整体 confidence。
举个栗子:输入一条客诉,返回退款概率 0.86、投诉 0.11、咨询 0.03。0.86 这个数,比我高中物理选择题蒙对的概率高多了。顺便说,把"客诉"分类成"咨询"的模型,和把"投诉"理解成"夸我们"的客服,建议一起送去培训。
避坑要点:设计 Choice 时务必加上 other 或 none_of_the_above 兜底。没有兜底项,遇到边界例外,模型只能在错误选项里硬挑一个——那感觉就像相亲软件逼你在"温柔体贴"和"年薪百万"之间二选一,而你只想要个正常人。
2.2 Score(打分):在一把有刻度的尺子上打分
适合情绪识别、故障严重程度、候选人经验这类"有顺序"的判断。Jev 返回每一级的概率、加权综合分数、等级说明 legend、以及 confidence。
加权分数算法(以三级为例):score = 0 × P(等级0) + 1 × P(等级1) + 2 × P(等级2)。比如 P = [0.1, 0.3, 0.6],算出来 score = 1.5。
注意:这个 1.5 只是结果落在标尺上的相对位置,千万别当金额、当物理量。它就像体检报告上的"亚健康"——你知道不太好,但它不告诉你具体哪儿不好。
还有,每一级定义要写成客观可观察的状态。别写"低、中、高"——这三个字在不同人脑子里是三套完全不同的度量衡。你说"客户情绪中等",有人理解为"还行",有人已经在砸键盘了。要写就写"不影响使用"“主要功能失效但有替代做法”"核心流程完全中断"这种,一眼就懂,吵不起来。
2.3 Noul(判断):某件事成立的概率
返回 0 到 1 之间的 noul 值:接近 1 偏"是",接近 0 偏"否",接近 0.5 就是"我也说不准"。比如"客户是否明确要求退款?",返回 noul = 0.72。
Noul 没有单独的 confidence 字段,因为 noul 本身就是二元事件的成立概率。特别提醒:0.5 只代表"是与否几率均等",绝不等于"中等程度"。想衡量程度深浅,请换 Score。
0.5 的 Noul 就像你问对象"你爱我吗",她回了个 0.5——不是中等,是真心犹豫。
2.4 题型选择黄金法则
- 从几个无序类别里选一个 → Choice。
- 衡量有顺序的程度深浅 → Score。
- 判断一件事成立的概率 → Noul。
- 想问"这人的 Python 算中等吗"?别问 Noul,拆成几级描述明确的 Score 题。直接问模糊的 Noul 题,效果跟问路边算命先生差不多——人家靠话术,你靠玄学。
3. 第一个实战:客服工单分流
光说不练假把式。来看一段来自 aiposthub 教程的 Python 示范。场景:一张工单进来,同时向 Jev 抛出三个问题——该派给哪个部门、客户有多沮丧、事情急不急。
3.1 代码
from typesafe_sdk import Choice, Noul, Score, TypeSafeClient
ticket = (
"I changed my password and now I cannot log in. "
"The reset email never arrives, and I need access today."
)
with TypeSafeClient() as client:
response = client.system_one(
state=ticket,
questions={
"department": Choice(
instructions="Which team should handle this request?",
criteria={
"account": "Login, password, profile, or security issues",
"billing": "Charges, invoices, refunds, or subscriptions",
"technical": "Product bugs, outages, or integrations",
"other": "Anything outside the other categories",
},
),
"frustration": Score(
instructions="How frustrated does the customer appear?",
criteria=[
"Calm and only stating facts",
"Concerned but still civil",
"Very angry or using strong language",
],
),
"is_urgent": Noul(
instructions="Does the message express urgency or time sensitivity?"
),
},
)
department = response.answers["department"]
urgent_probability = response.answers["is_urgent"].noul
if department.confidence < 0.60:
route = "human_review"
else:
route = department.choice
3.2 三个核心细节
**第一,state 是共享的。**三个问题共用同一个 state(工单原文),一次 API 请求全部打包返回。就像你同时点了三份外卖,配送费只收一次——这才是互联网人该有的生活智慧。
**第二,department 配了 other 兜底。**刚才说的避坑点,这里就是标准示范。
**第三,Jev 只负责判断,不负责拍板。**最后自动分发还是转人工,全看你代码里那个 if。业务阈值你定,模型绝不替你决定。它像个尽职的顾问:意见可以给,责任不背。这觉悟,比某些甩锅的同事不知道高到哪里去了。
3.3 安装
很标准:pip install typesafe-sdk,鉴权密钥配在环境变量 TYPESAFE_API_KEY。
4. confidence 不等于正确率
这个点最容易翻车,先打预防针。
4.1 confidence 到底是什么
confidence 是直接从概率分布的集中程度算出来的,反映"分布有多聚集"。
分布是 0.95 / 0.03 / 0.02,某个选项断层领先,confidence 就高;分布是 0.40 / 0.35 / 0.25,谁也没赢谁,confidence 就低。就像三个候选人票数打平,谁当班长都有人不服。
所以 confidence = 0.9 绝对不代表"模型有 90% 的概率做对了"。它的作用是帮你筛出模棱两可的模糊判断。自信和正确之间隔着一条银河——你回忆一下上个月立的 flag 就懂了。喝多了的人最自信,你不能因此说他酒量大。
4.2 校准才是硬道理
要检验概率靠不靠谱,必须看校准(Calibration):模型给出的预测概率,是否与长期实际发生的客观频率相符。模型说 80% 把握的一批事件,校准做得好,长期统计下来确实该有大约 80% 成立;校准差,可能只有 40%,也可能高达 95%。
把准确率和校准分开看,你会看到两种经典翻车现场:
**准确但未校准:**10 题答对 9 题,但每题都声称 100% 把握——答错的那题它也自信满满。像极了考试写完不检查的同学:会的题胸有成竹,错的那题同样胸有成竹。
**校准良好但毫无用处:**每题只报 50% 把握,实际也确实答对一半。诚实是挺诚实,有用是真没用。就像你问朋友"这家店好吃吗",他回"可能好吃,也可能不好吃"——谢谢你,我谢谢你。
工业级自动化落地,两项指标必须同时达标。
4.3 检验校准:分桶法
标准工程方法:按模型的 probability 或 noul 分成若干区间(0.5–0.6、0.6–0.7……),统计各区间在真实业务里的准确率。设定放行阈值时,持续追踪不同门槛对应的放行率、放行案件错误率、以及需要转人工的复核工作量。
4.4 阈值别乱抄
千万别盲目照抄官方文档的示例阈值。客服工单派错部门,后面还能再改派,门槛可以放宽;但自动批准退款、封禁账号、淘汰求职者这类高危操作,阈值必须严到"宁可错杀一千"。毕竟把求职者挂了,HR 圈子里传开的口碑,可比工单难修多了。
5. "零幻觉"的真相
5.1 零类型幻觉,不是零错误
TypeSafe 官网首页写着"Zero Hallucinations(零幻觉)",听着很唬人,但它特指零类型幻觉。
假设接口里定义了 A、B、C 三个合法动作:Jev 绝对保证不会突然返回一个动作 D,也不会夹带一段自由文本让你的下游反序列化崩掉。这是 Schema Matching 在系统设计层面给的确定性保证,性质如同"三角形绝不可能有四条边"——结构规则,不是统计推断。当然,也没人保证这三角形不是画歪的。
但 Jev 不保证"该选 B 的时候不会误选 A"。格式合规的结构化数据里,装的完全可能是业务上的错误决策。结构安全它兜底,语义正确还得你自己验证。这就好比外卖包装得再严实,也不能保证里面是你点的菜——万一厨师手抖,给你加了一勺香菜呢。
5.2 类型安全防不了提示注入
Prompt Injection 照样能干扰甚至篡改 Jev 的判断。上线前必须测试对抗样本、严格限制工具调用权限、保留安全熔断与中止路径。记住:它是判断函数,不是防弹衣。
6. 价格与速度,官方数字先打个折
6.1 价格账
截至 2026 年 9 月 19 日,Jev 1.13 官方定价:每百万输入 token 0.042 美元,输出 token 免费。作为对比,传统 LLM 输入价约每百万 token 0.20~10 美元,输出价通常是输入的 5 倍左右——你不仅要付钱,还要为它的啰嗦付费,这大概就是"话多费电"的 AI 版。输出免费、输入收费,像极了"首杯免费、续杯收费"的反向操作:你越想跟它多聊,它越不想理你。
算笔账:处理 100 万条文本分类任务,每条 2000 token,合计 20 亿输入 token。
- 用 Jev:整体成本 84 美元。
- 用每百万 token 5 美元的通用 LLM:光输入端就 10000 美元,输出费用另算。
84 对 10000,这差价够我吃多少顿黄焖鸡,我都不敢细算。
6.2 官方数字的真相
官网宣传"速度快 193.6 倍、成本便宜 444.6 倍"。这俩数字猛得离谱,但它来源于官方自己的工作流评测(workflow evals),官方自己都承认是偏高端场景的极端表现。技术博客给的常规范围是:同等智能水平下,快大约 40~200 倍。
官方发布评测时还列了四项保留意见,翻译成人话:
- 评测工作流是自己团队搭的——裁判是我自己人;
- 参考标准答案来自 OpenAI 和 Anthropic 的模型输出——拿对手的答案当标准答案,颇有"抄作业还嫌别人字丑"的风范;
- 输入上下文刻意设计得短小高密度,对 Jev 天然有利——主场作战;
- 对照组 LLM 是拿官方包装的 System One wrapper 调用的,这种封装本来就让它更慢更贵——对手绑着沙袋上场。
6.3 第三方实测
目前业界能参考的第三方数据有两份:
- Vercel:把 Jev 用在指令安全分类,实测处理速度快 5~18 倍,分类准确度还更高。
- Bryo AI:商务邮件分类里对比 Jev 和 Gemini,Jev 便宜 10~20 倍,但决策准确度 Gemini 略占优势。
6.4 定价的三点现实
官方也承认:目前无法证明价格里没有早期市场补贴;能否长期维持要时间检验;不过预期的长期走势是只降不升。
所以我的建议是:账面数字适合当立项测试的假设依据,别原封不动写进采购回报测算里。校准表现目前全是官方内部评测,还没有独立的第三方校准检验报告——在报告出来之前,对"优秀"两个字保持礼貌的怀疑。
7. 什么任务适合交给 Jev
7.1 三个条件
只有当任务同时满足以下三个条件,才适合交给 Jev:
- 输入是纯状态或数据,不是多轮对话;
- 输出是结构化决策(类别、打分、选项),不是长篇大论;
- 结果直接交给程序消费(if 分支、写数据库),不需要人眼看。
7.2 五个动作动词
业界总结了五个典型动作:Classify(分类)、Route(路由流转)、Score(量化评分)、Extract(实体抽取,如合同到期日、订单流水号)、Branch(逻辑分支,如自动放行或转人工)。
这些任务的共性是:吞吐量极大、单次判断边际价值中等、业务风险能用概率门槛和防御代码对冲。
7.3 顺便能监控大模型
经典场景:用 Jev 监控大型 LLM——实时审查它的输入 Prompt、抽取出的关键字段、推理轨迹、工具调用参数,防越狱、防错误引用、防幻觉。这类监控调用并发频次远高于业务调用,所以监控模块成本必须比业务核心低至少一个数量级。不然你省下的钱转头全交监控费,属于典型的"省着省着,窟窿等着"。
相对的,这些任务必须留给通用 LLM:开放式聊天、富文本客服回复、写作 Copilot、Coding Agent、复杂数学推演、开放式多步规划。让 Jev 干这些,等于让会计去唱美声——不是不能唱,是没必要互相折磨。
两者还能打配合。Browser Use 联合创始人 Gregor Zunic 演示过一个查机票 Demo:Jev 判断并选定下一步动作,轻量小 LLM 负责生成对应文本。整个交互约 7 秒,花费约 0.0039 美元——我打字的时间都不到,花出去的钱连地铁起步价都不够。当然,这只是成功原型,别直接推导成工业级普适结论。
7.4 边界清单
开发前记住 Jev 1.13 的边界:
- 不擅长计数与精确数值运算、日期前后比对、多层间接因果推理;输入里混大量无关噪音,表现会下滑;
- 目前只原生支持文本,图像、音频、视频得先预处理成文本或结构化字段;
- 英文表现最好,中文等 CJK 语系支持但准确度稍逊;
- state 加问题定义不能超 32K token,单次完整请求总量不能超 64K token;
- 单个 Choice 最多 255 个选项,类别太多就拆两步:先对每个类别快速打分筛选,再在缩小后的候选集里做最终单选。
工程最佳实践:先用工程检索粗筛过滤无关数据,再让 Jev 做精准语义判断,日期对比、数学运算、强规则核验坚决交还给传统代码逻辑。各司其职,谁也不为难谁。
8. 新手最容易踩的五个坑
前人踩过的坑,你其实大概率还会踩,但先看完再踩,至少摔得明白。
8.1 把巨型模糊问题直接丢给模型
比如"这位客户该怎么处理?"——这个问题里混着类别路由、情绪烈度、退款资格核验、风险识别,维度多到像你老板的脑回路。正确做法:拆成多个专职小问题,最后在代码层面汇聚结果。一句话能问的事,别让模型做阅读理解。
8.2 Choice 漏设 other
没有逃生选项,模型遇到没覆盖的场景只能在错误选项里盲猜。相当于你问别人"喝茶还是咖啡",人家说"白开水",你非逼他二选一。
8.3 Score 用抽象主观词
刻度写"低、中、高",你和模型的理解就彻底分道扬镳了。定义写具体,别让双方在"中等"这个词上扯皮。
8.4 起步就让模型触发不可逆敏感操作
正确的落地顺序:先从打标签、优先级排序、辅助建议做起;等离线回归测试和大量人工抽检查验验证了阈值合理性,再逐步开放低风险环节自动化。一上来就让模型直接封号、退款、拉黑,出事了只能怪自己步子迈太大——容易扯着蛋,是真的。
8.5 拿英文评测表现猜中文场景
做中文业务的团队,一定要拿生产环境的真实样本做独立验证,覆盖官方书面语、口语化表达、带错别字的、中英夹杂的。英文行不代表中文行——就像老外说"谢谢"很地道,不代表他会说"卧槽"。
9. 上线四步走
Jev 目前是 Early Access 预览阶段,得先去官方控制台(console.typesafe.ai)申请登记排队。顺便说一句,它刚发布时因为请求量暴增,API 短暂中断过——首发即崩,这很互联网。
9.1 对照测试
准备同一批真实历史数据样本,现有 LLM 跑一遍,Jev 也跑一遍,拉齐对比准确率、校准稳定性、p95 延迟、总成本。
9.2 影子模式
把 Jev 正式接入真实链路,但只在后台静默记录决策,不触发任何实际业务动作。让它和现有系统并行跑一段时间,用真实流量喂养数据。像带新人入职:先让他跟着看,别一上来就让他操作生产库。跑完你可能还会发现 Jev 比现有系统靠谱——恭喜你,接下来要面对"换还是不换"这个更折磨人的问题了。
9.3 小流量试行
影子数据验证后,圈定部分低风险边界,正式开放决策放行权限,持续灰度观察稳定性。
9.4 持续监测
生产环境随时保留一键切回传统 LLM 的备用路径;一旦发现概率校准漂移,立刻报警介入。
另外两个生产细节:默认的 jev-latest 会随版本迭代自动变动,阈值调优定型后务必锁定具体模型版本 ID;日志里完整记录每次业务响应对应的版本号。不然哪天官方悄悄改了模型,你的阈值体系一夜回到解放前,你还以为是玄学。
还没拿到内测资格?社区有开源的 System One Adapter,用标准 LLM API 就能完整模拟 Jev 的调用接口,可以先拿它跑通工程架构和对照评测。
10. 名字的来历,和第一步行动
10.1 系统 1 与杰文斯
System One 的概念来自卡尼曼(Kahneman)著名的"系统 1 / 系统 2"理论:系统 1 快速、凭直觉、容易出错;系统 2 缓慢、耗费精力、深思熟虑。官方也承认"系统 1"在大众认知里带着"容易出错"的偏见,但他们坚信 RLCD 优化过的 System One Model 能更稳定可靠——具体论证官方说以后专门写文章。行吧,画饼也是产品发布的一部分。
Jev 这个代号,致敬 19 世纪经济学家威廉·斯坦利·杰文斯(William Stanley Jevons)。1865 年,杰文斯在著作《煤炭问题》里提出著名的"杰文斯悖论":蒸汽机效率大幅提升、煤炭利用率提高后,煤炭总消耗不但没降,反而爆发式增长——因为成本一低,新场景就成数量级地冒出来。
TypeSafe 拿这个名字做了一场战略押注:当单次智能判断的成本下降一个数量级,必定解锁多几个数量级的新应用场景。以前那些因为太贵太慢被放弃的海量高频判断,在新的成本结构下都会被重新激活。翻译成人话:以前"这破判断也配用 AI?“的任务,以后会变成"不用 AI 我都觉得亏”。
10.2 对开发者最有效的第一步
这笔赌注能不能兑现,要看外围工具链成熟度、开发者部署惯性、以及对模型原生概率的信任程度。未来几个月盯这几个风向标:价格守不守得住、API 稳不稳定、有没有第三方独立校准评测、同生态竞品什么时候冒出来。
那我们开发者现在能做什么?
挑一个你正在用通用 LLM 处理、但一直嫌贵嫌慢的"小判断"任务,拉一批历史脱敏数据,亲自跑一次对照测试。就算最后不用 Jev,这个过程也帮你沉淀了一套终身可复用的基准评测集。这笔账怎么算都不亏——属于那种"就算输,也能输出一套方法论"的投资。比买健身卡划算多了。
P.S. 目前国内还是很缺AI人才的,希望更多人能真正加入到AI行业,共同促进行业进步,增强我国的AI竞争力。想要系统学习AI知识的朋友可以看看我精心打磨的教程 传送门http://blog.youkuaiyun.com/jiangjunshow,教程通俗易懂,高中生都能看懂,还有各种段子风趣幽默,从深度学习基础原理到各领域实战应用都有讲解,我22年的AI积累全在里面了。注意,教程仅限真正想入门AI的朋友,否则看看零散的博文就够了。
226



被折叠的 条评论
为什么被折叠?



