卡帕西2025大模型总结火爆硅谷

鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI

2025都有哪些AI趋势,大神卡帕西的年终总结,正在火爆硅谷。

6大论断,硬核又颇有启发:

  • RLVR(可验证奖励强化学习)成为训练新阶段

  • 大模型不应被类比为动物智能

  • Cursor展现了大模型应用的Next Level

  • Claude Code加速端侧智能体普及

  • Vibe Coding将重塑软件行业

  • Nano Banana重塑人机交互

新范式、新应用、新模型……回首望去,过去一年大模型带来的变革让人兴奋。

然而卡帕西大胆预言:

大模型的潜力,才刚刚挖掘10%。

一切不过是刚刚开始……

2025LLM年度回顾

为什么卡帕西认为大模型潜力只挖掘了10%?

一方面展现出强大的推理能力,另一方面也暴露出潜在的理解缺陷,既让人兴奋又让人谨慎,具体包括:

RLVR成为训练新阶段

在年初之前,全世界的大模型都基本遵循以下训练范式:

  • 预训练:代表模型是GPT2和GPT3;
  • SFT(监督微调):标志是2022年发布的InstructGPT;
  • RLHF(人类反馈强化学习):2022年开始广泛流行。

而到了2025年,RLVR开始加入其中。

模型通过在可自动验证的奖励环境中进行强化学习训练,会自发地形成推理策略,比如将问题分解为中间计算、循环计算等,具体可参考DeepSeek R1

而这些策略如果用旧范式其实极难实现,因为大模型的最佳推理轨迹和恢复过程并不清晰。

另外,与SFT和RLHF不同,RLVR由于涉及客观奖励函数的训练,优化时间较长。但事实也证明,RLVR能够带来较高的“能力/成本”比,它消耗了原先用于预训练的计算资源。

因此,RLVR成为这一年大模型能力增长的重要驱动因素,且在大模型规模相当的前提下,强化学习的运行时间大幅度延长。

随之而来的,还有一个全新的调控手段和相关的Scaling Law,可以通过生成更长的推理轨迹和增加思考时间,来控制能力作为测试时间计算量的函数。

2024年末的o1模型是首个RLVR模型的展示,但2025年初o3的发布才是明显的拐点

大模型不应被类比为动物智能

2025年,整个行业第一次开始直观地理解大模型智能的形态——不是在动物进化,而是在召唤幽灵。

由于大模型技术栈的方方面面(神经架构、训练数据、训练算法,尤其是优化压力)都有所不同,所以会导致智能实体之间差异很大,如果单纯用看待动物的视角来理解它们其实是不对的。

从监督层面来讲,人类的神经网络是为了生存而优化,而大模型的神经网络则是为了模仿人类、获得奖励而优化的

随着可验证领域采用RLVR,大模型的性能会快速爆发,并且整体呈现出锯齿状性能特征,也就是常说的锯齿智能。

简单来说,这样的大模型既是通才,也是认知能力有限的小学生,随时可能被越狱攻击,从而导致数据泄漏。

而这也能说明为什么卡帕西自己对基准测试普遍信任不足,核心问题就在于,基准测试几乎在构建之初就是可验证的环境,因此它们极易受到RLVR以及合成数据的影响。

研发大模型的团队也会不可避免地围绕基准测试构建环境,并形成锯齿状的模型表现,换言之,就是在测试集上进行训练。

这也就能解释,为什么现在的大模型可以在所有基准测试中取得压倒性胜利,但仍然未能实现AGI。

Cursor展现了大模型应用的Next Level

值得关注的是,Cursor的出现揭示了大模型应用的一个新层面,也就是今年人们常说的“Cursor for X”

它不仅仅是一个模型接口,而是围绕模型调用构建的应用层,能够:

  • 进行上下文工程(context engineering);

  • 协调多个模型调用,并组成复杂的DAG(有向无环图),但需要精心衡量性能和成本;

  • 提供特定应用的GUI;

  • 带有自主性滑块(autonomy slider)。

2025年,人们已经花了大量时间集中讨论一个问题:新的AI应用层到底会有多“厚”?

这一层的价值是会被创建底层模型的大模型实验室完全榨干,还是会给垂直领域的大模型应用开发者留下生存空间?

在这一点上,卡帕西预测,大模型实验室未来会趋向于培养出一个“能力全面的大学毕业生”

而大模型应用开发者则会负责组织、微调,并让一整支这样的“学生团队”真正动起来,成为特定行业里可以被部署、可以交付成果的专业人才,这将通过引入私有数据、传感器、执行器以及反馈闭环来实现。

Claude Code加速端侧智能体普及

Claude Code(CC)是首个令人信服的大模型智能体范例。

它利用一种循环的方式将工具使用和推理结合,以解决复杂问题。能够在个人电脑上运行,并将用户的私有环境、数据和上下文加以利用。

与之相反的是OpenAI,它们过多地将精力集中在由ChatGPT编排的云部署容器上,而不是端侧部署。

虽然云端运行的智能体集群通常被视作AGI的终极形态,但当前大模型能力参差不齐,且整体发展处于较为缓慢的过渡阶段。

在这种现实情况下,CC直接让智能体在本地电脑上运行,直接适配开发者工作流程,会更贴合实际需求。可以说,CC才是正确地把握了这一优先级,并将其包装成一种美观简约的命令行界面形式,彻底改变了人们对AI的传统认知。

它让AI不再是类似谷歌的访问网站,而是像栖息在个人电脑里的小精灵,创造了一种与AI互动的全新且独特的模式。

Vibe Coding将重塑软件行业

2025年也是AI跨越能力门槛的一年,只需要通过自然语言就能构建出各种程序

有意思的是,氛围编程和前面提及的锯齿智能都是由卡帕西命名的,但彼时的他还并未料到,这两个词会成为2025年AI发展的最佳注解。

言归正传,在氛围编程的帮助下,编程不再局限于专业人士,任何人现在都能参与其中,而受过训练的专业人士也能通过它编写出更多的有意思的软件。

例如在卡帕西自己的nanochat项目中,他就用氛围编程的方式,在Rust语言中,编写了定制的高效BPE分词器,而不是采用现有的库或学习更多的Rust知识。

总的来说,他认为,氛围编程将重塑软件行业,并改变现有的工作内容。

Nano Banana重塑人机交互

要说今年最令人惊讶、最具范式转移意义的模型之一,就绕不开谷歌的Gemini Nano Banana。

在卡帕西看来,大模型是继计算机时代后的下一个主要的计算范式,在很多层面上彼此之间存在相似性,尤其是用户界面和用户体验(UIUX)方面。

因为人们喜欢以视觉和空间的方式获取信息,所以大模型也应该提供类似格式,对文本进行美化和视觉排版。

而Nano Banana就展现了这一趋势,它并非只关注图像生成这一单一功能,它还将文本生成、图像生成和世界知识全部融合在一起,为未来大模型GUI发展提供了参考。

参考链接:
[1]https://karpathy.bearblog.dev/year-in-review-2025/

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值