
AI 已经像初级工程师,但这不是最重要的变化
2025 年 5 月,Jeff Dean 曾判断 AI 的能力已接近初级工程师。一年后他认为该判断「相当准确」,模型在 Agent 化等方面进步比预想更快,且能力不再局限于写代码,更多 Agent 系统进入专业领域。把 AI 类比初级工程师,Jeff Dean 更关注组织生产方式的变化,这使 AI 工程出现新分工,未来更多工程师负责定义问题等,调度 Agent 完成任务。他预测 2027 年机器学习系统会参与改进自身,AI 自动化会先攻入反馈清晰的领域,AI 时代重要的是完整闭环。
改变 Google 搜索的是一道算术题
Jeff Dean 的代表性工作常从算清数量级开始。2001 年,他和 Sanjay Ghemawat 估算后发现 Google 搜索索引可放入服务器内存,这使 Google 搜索变快。他认为系统条件变了就应重新计算,创业者应从第一性原理看问题。
三分钟语音,为什么催生了一颗 TPU
2013 年,Google 深度学习语音识别显著提升,但 Jeff Dean 计算后发现按当时 CPU 效率,若用户使用三分钟语音识别,服务器规模需扩大一倍,这催生了 TPU。TPU 为机器学习核心计算模式做专用硬件,第一代 TPU 比当时 CPU 和 GPU 节能 30 到 80 倍,延迟低 20 到 30 倍,且保留了支持未来算法演进的空间。Jeff Dean 认为下一轮推理硬件机会在专用化,转向低延迟、低能耗推理。
AI 的成本中心,不是计算,而是搬运数据
Jeff Dean 认为 2026 年 AI 工程师应关注芯片内部数据流,数据搬运能量成本比计算高约 1000 倍,这解释了批处理的重要性,但批处理和低延迟冲突。许多模型层问题实际是硬件和系统问题,Jeff Dean 因推理对延迟敏感更关注推理,AI 的「能源问题」很关键。
模型只是一个零件,上下文才是 Agent 的工作现场
2026 年 Jeff Dean 更强调模型周围的一切,「上下文工程」很重要,它能让通用模型在窄场景表现更可靠。他举例自己和 Sanjay Ghemawat 把优化底层库的工作方法写成 Agent 技能,「上下文工程」是回答专家做事步骤、系统工具和结果验证问题,「技能」是 Agent 生态关键资产,未来公司差异化可能存在于工作流经验里。
Agent 为什么走到第 30 步就开始失控
Agent 运行到第 30 步或第 50 步常失控,Jeff Dean 归结为分布外问题。解决方法一是提供技能和提示约束模型,二是使用多 Agent 系统。可靠的长程 Agent 像分布式系统,未来优秀的 Agent 平台可能继承分布式系统思想。
两三个人如何赢过 Google:寻找模型成功率只有 1% 的问题
在创业机会方面,Jeff Dean 认为小团队机会在通用模型未充分关注的领域,可组合产品界面等提供更好体验,但通用模型变强,创业者需判断优势是否耐久,应寻找通用模型成功率接近 0% 或 1% 的任务,这类任务可能存在专有数据、专业评价、窄而深的模型等机会。
当代码不再稀缺,规格、品味和问题选择会更贵
Diana 假设未来创始人管理多个 Agent 且代码由 Agent 写,Jeff Dean 认为「品味」即判断让 Agent 做什么会变得稀缺,问题选择重要性会上升。规格也更重要,和 Agent 协作时目标越清晰成功率越高,未来管理者要编写清晰目标和验收标准。Jeff Dean 给出训练「品味」的方法是复盘预测。
好的思想实验,先把行业最牢固的前提拿掉
Jeff Dean 分享思想实验,假设晶体管每天出错 20 次会怎样,他试图拿掉行业习以为常的前提。MapReduce 就来自类似过程,未来 Agent 工程可能也会出现类似简洁抽象。
AI 开始构建更好的 AI,科学方法被压缩成高速循环
Jeff Dean 对把科学方法自动化最兴奋,AI 可自动提出和执行更多实验,把昂贵验证器变成廉价近似模型,如 Google 用量子化学例子训练的神经网络近似器快了约 30 万倍,使科学问题形态变化。机器学习本身也会成为自动化科学对象,未来衡量研究效率指标可能是「每单位算力产生多少有效发现」。
被 NeurIPS 拒绝的蒸馏论文,以及如何看待失败
2014 年,Jeff Dean 等人提交的知识蒸馏论文被 NeurIPS 拒绝,审稿人认为不太可能产生重大影响,但团队把论文放上 arXiv 后行业仍使用了该方法,如今 Gemini 的 Flash 模型也用到蒸馏方法。这说明评价体系有盲区,创业者应理解问题、持续验证,不把一次评审当最终判断。
年轻的 Jeff Dean 今天会做什么
访谈尾声,Diana 问若 1999 年的 Jeff Dean 到 2026 年,会加入前沿实验室还是创业,Jeff Dean 未给标准答案,他给出判断标准是解决问题能否让世界明显变好,还强调同伴重要性,要找有互补能力、低自我、愿意协作的人。
结语:AI 时代最稀缺的,仍然是把问题看清楚
Jeff Dean 的职业生涯有很多传奇,其方法是算清数量级、找瓶颈、质疑假设、建立抽象、用测量和反馈迭代。如今 AI 行业转折,决定生产力的不只是模型智商,创业机会在成功率接近 0% 或 1% 的问题里,当代码生成便宜,问题本身更昂贵,Jeff Dean 给出的是思考方式。
443



被折叠的 条评论
为什么被折叠?



