红杉资本2025年AI三大展望:大模型厂商各显神通;杀手级应用AI搜索;AI支出变稳...

f9b9475e75df5d666642c0b810a24c19.png

2024年,随着Scaling law放缓,AI领域在大模型、基础设施上的能力稳步提升,尽管应用层出现了各种有趣的探索,但是更大的潜能有待挖掘。2025年即将来临,将出现哪些变化?

近日,红杉资本投资人David Cahn对2024年AI领域的发展作了简要总结并对2025年作了三大预测。他认为,今年是AI发展的萌芽期,其构建基石已经稳固建立,只待2025年发芽结果。他在本文中阐述了三点预言:

首次,基于大模型厂商各自选择的策略,竞争格局出现明显差距;其次,AI搜索将成为杀手级应用,不同领域也将拥有专用AI搜索;最后,AI领域的投资回报率仍被拷问,资本支出将趋于正常化。

(本文由OneFlow编译发布,转载请联系授权。原文:https://www.sequoiacap.com/article/ai-in-2025/)

来源 | David Cahn

OneFlow编译

题图由SiliconCloud平台生成

去年1月,我们将 ChatGPT 比作 AI 的“大爆炸”,并预言 2024 年将成为 AI 的萌芽期。AI 生态系统中充斥着新思想和潜在能量,正是新创业者崭露头角的成熟时机。“空气中弥漫着巨大的潜力,但仍处于无形状态,”我们当时写道,“需要远见卓识将其转化为现实、具体且最终具有影响力的成果。”  

如今,AI 生态系统已趋稳固。在最大模型的竞赛中,已有五位“决赛选手”崭露头角。英伟达备受期待的 Blackwell 芯片本月即将发货。其中许多原计划于 2024 年初启动的数据中心,现已全面进入建设阶段。台积电正扩建新厂产能,博通则致力于定制化 AI 芯片的研发:整个供应链已全速运转。从医疗到法律再到保险, 各行各业的新 AI 项目纷纷启动。 
 

如果 2024 年是 AI 的萌芽期,那么如今其构建模块已稳固确立。AI 的潜力正凝结成现实且具象的存在——体现在全美各地拔地而起的数据中心,从宾夕法尼亚州的塞勒姆,到德克萨斯州的圆石城,再到威斯康星州的芒特普莱森特。若 2024 年充斥着层出不穷的新理念,2025 年则将是筛选这些理念,以验证哪些是真正奏效的。  

以下是我们对明年的三个预测: 

1. 大语言模型提供商已经发展出各自独特的超能力——这将导致 2025 年出现逐步的差异化和竞争格局的变化。

2024 年,大模型竞赛的核心在于与 GPT-4 实现同等水平。五家公司成功达成这 一目标(或接近目标),从而成为“决赛选手”:微软/OpenAI、亚马逊/Anthropic、谷歌、Meta 及 xAI。其他公司则纷纷退出竞赛,其中最引人注目的是 Inflection、Adept 和 Character。  

为了达到 GPT-4 级别,这些公司大致遵循了相同的策略:尽可能多地收集数据,利用尽可能多的 GPU 进行训练,并对预训练/后训练架构进行优化以最大化性能。随着 2024 年人才在各组织间流动,大模型训练鲜有秘密可言。  

随着每位玩家为下一轮 LLM 规模扩展做准备——这很可能涉及计算规模的又一 次 10 倍增长——实验室正演化出差异化的超能力。可以说,他们已经“选定了武器”,以应对未来的挑战。到 2025 年,这些不同的策略将导致各异的结果,一些玩家将脱颖而出,而另一些则可能落后。  

谷歌——垂直整合:谷歌迈向 2025 年的优势在于其垂直整合战略。谷歌是唯一拥有自家一流芯片的企业:TPU 有望在 2025 年与英伟达的 GPU 一较高下。此外,谷歌自建数据中心,自主训练模型,并拥有一支实力雄厚的内部研究团队。不同于微软/OpenAI 和 亚马逊/Anthropic 的合作,谷歌通过掌控价值链的每一个环节来争夺制高点。  

OpenAI——品牌影响力:我们已看到一些关于 ChatGPT、Claude 与 Gemini 的无提示知名度调查,差距显而易见。OpenAI 在 AI 领域拥有无可匹敌的最强品牌影响力。这使其在大型 AI 企业中创造了最强劲的营收引擎,据报道,OpenAI 的营收已超过 36 亿美元。若 AI 领域的成功最终取决于消费者心智份额和企业分销渠道,OpenAI 或将继续拉大与竞争对手的差距。  

Anthropic——人才吸引力:2024 年,OpenAI 遭遇了研究人才的大规模流失,而 Anthropic 则迎来了人才的涌入。随着 Jon Schulman、Durk Kingma 和 Jan Leike 在 2024 年相继离开 OpenAI 加入 Anthropic,该公司在研究人才中的影响力日益增强。此外,Anthropic 还进行了一些重要的高管招聘,聘请了 Instagram 联合创始人 Mike Krieger 担任首席产品官。在 GPT-3 发明者 Dario Amodei 的领 导下,Anthropic 已然成为 AI 科学家们青睐的目的地。  

xAI——数据中心建设:我们在《钢铁、服务器与电力》一文中探讨了数据中心建设对 AI 竞赛下一阶段的重要性。xAI 以创纪录的时间部署了 10 万台 GPU 的 Colossus 集群,现已成为数据中心扩展的领头羊。xAI 及其竞争对手的下一个里程碑将是 20 万台集群,随后是 30 万台集群。若“规模扩展即一切”的论断成真,xAI 已做好充分准备,继续其快速崛起之路。  

Meta——开源之路:Meta 已通过 Instagram、WhatsApp 和 Facebook 建立了强大的分发优势,如今更是全力投入开源领域。在众多巨头中,Meta 是唯一选择此策略的。其 Llama 模型拥有众多狂热粉丝,而闭源与开源之争依旧激烈。若前沿进展开始放缓,Meta 将能充分利用其开源模型,迅速推广这些能力。  

在大模型竞赛中,严苛的执行力摆在眼前。各参赛者的竞争格局与姿态已稳固成型。2025 年,我们将见证哪些策略能预见未来,而哪些则注定失败。  

2. AI 搜索正崭露头角,成为杀手级应用——到 2025 年,它将广泛普及。

自 ChatGPT 问世以来,我们一直在寻找 AI 的杀手级应用场景。哪些持久的新用户行为能经受住时间的考验?  

2024 年,从 AI 女友到 AI 租赁助手,再到语音智能体和 AI 会计,众多不同应用得 到了测试。  

我们预计,2025 年将广泛应用的一个用例是 AI 搜索引擎。Perplexity 自推出以来发展迅猛,月活跃用户已达 1000 万。OpenAI 于 10 月推出了 ChatGPT Search,扩展了其现有的类搜索功能。《华尔街日报》最近刊登了一篇题为“谷歌搜索是老年人的专利”的文章。讽刺的是,就在谷歌深陷反垄断诉讼泥潭之际, 这一挑战接踵而至。  

AI 搜索是对一项技术的重要再造,这项技术迅速成为互联网的杀手级应用。互联网搜索是一种基于网页索引的导航技术。而 AI 搜索则是一种基于 LLM 的信息技术,能够阅读并语义化理解知识。对于白领工作者来说,这将是一个巨大的福音。  

AI 搜索可能会将当前的单一市场分割开来。可以想象一个世界,每个职业都有其专属的 AI 搜索引擎——分析师和投资者现在默认使用 Perplexity,律师会使用 Harvey 这样的平台,而医生则会使用 OpenEvidence 等解决方案。以此类推, Midjourney 可以看作是对“像素世界”的搜索,Github Copilot 是对“代码世界”的搜索,而 Glean 则是对“文档世界”的搜索。与传统搜索不同,AI 搜索在语义上可以深入得多,因此其强大程度是传统搜索的数量级倍增,从而带来显著的生产力提升。  

文本响应作为产品表面的深度远超初见之印象。并非所有文本响应都是等同的。我们认为 LLM 能在多个维度上实现真正的产品差异化,而创始人将围绕这些能力构建独特的产品体验,针对特定的客户群体: 

  1. 意图提取:通过领域专业化,将回复紧密匹配到用户的意图变得更加容易。例如,医生和患者提出相同的问题时,他们期望看到的回复类型是不同的。

  2. 专有数据:如律师所需的判例法、分析师所需的金融数据或保险承保人所需天气数据等独特数据集,在白领工作领域将至关重要。在商业环境中,给出正确答案是基本要求。

  3. 格式化:结果如何呈现给用户,例如响应的详细程度或简洁程度、使用项目符号、多模态内容的使用、引用来源等。例如,会计师与记者处理信息的方式有所不同。

  4. 界面设计:代码搜索需集成在 IDE 中,会计政策搜索则应存在于会计 SaaS 平台内。语义搜索得益于用户现有工作流程和数据的上下文环境。不同领域将需要不同的界面设计。

新的特定领域的AI搜索引擎将尽可能紧密地映射到其目标用户的心理模型。医生、律师和会计师的思维方式并不相同。随着我们在某个领域成为专家,我们提取知识和做出决策的模式开始分化。医生面对的是医学文献,律师面对的是判例法,投资者面对的是收益报告。我们在分析和决策这些知识的方式在每个领域都是不同的。 

新型领域专用 AI 搜索引擎将尽可能紧密地映射到其目标用户群体的“心智理论” 上。医生、律师和会计师的想法各不相同。随着我们在特定领域成为专家,提取知识和做出决策的模式开始分化。医生面对医学文献,律师面对判例法,投资者面对财报。我们在这些知识上进行剖析、分析和决策的方式在每个领域都不同。  

消费者与企业之间可能出现分化。作为消费者,我们有着大致相同的需求,因此 ChatGPT 实现了惊人的产品市场契合度。然而,作为专业人士,我们的需求各异。不难想象,每位知识工作者每天至少会使用两款 AI 搜索引擎——一款用于工作,另一款用于其他所有事务。  

3. 投资回报率仍将面临挑战,而资本支出将在 2025 年开始趋于稳定。  

我们曾探讨过 AI 的 2000 亿美元问题和 AI 的 6000 亿美元问题,这些探讨揭示了大型科技公司巨额资本支出的现状,以及与之不相匹配的终端用户收入,难以实现这些资金投入的回报。  

进入 2024 年,大型科技公司对 AI 可能威胁其在云计算业务中的寡头地位感到紧张。正如我们在《AI 资本支出的博弈论》中所写,这些公司感到别无选择,只能大举投入以确保在 AI 未来中继续保持主导地位。如果他们不投入,他们将变得落后。  

进入 2025 年,形势已发生剧变。大型科技公司牢牢掌控着人工智能革命的命脉。他们不仅掌控着为 AI 提供动力的大部分数据中心,还持有大型模型公司的重要股权,并且是众多新兴 AI 初创企业的最大支持者。  

随着大型科技公司信心增强,我们认为,2025 年将是 AI 资本支出的稳定年(stabilization year)。若 2024 年是争相签署土地与电力协议的冲刺年,那么 2025 年则是执行年。项目已破土动工,这些公司将专注于按时按预算完成新项目。随后,他们需要将这些已安装的产能销售给客户,并与企业合作,助其利用新 AI 能力取得成功。  

自从 ChatGPT 推出以来,资本支出(CapEx)水平大约翻了一番,我们可能在 2025 年看到趋于正常化。最新的 Q3 资本支出数据显示,这一趋势线已经在微软和谷歌内部开始稳定。亚马逊和 Meta 仍在增加资本支出,但可能在 2025 年初达到稳定状态。(虽然 Meta 在下图中看起来是平稳的,但该公司已发出 Q4 增加资本支出的指引)。

63fcebce0973714c8ad80107968a8e9a.png

来源:财报电话会议记录,公开文件 

寡头垄断的动态也可能随之而来。每家大型科技公司都密切关注其竞争对手。如果行业似乎正平稳过渡到“新常态”,这对所有人来说可能都是个好消息。它将为 2025 年新的平衡提供进一步支持,而非持续增加支出。  

随着 2025 年新数据中心容量的上线,AI 计算价格应会继续其史诗般的下跌。这对初创企业来说是个好消息,并应激励全新的创新。正如我们过去所指出的,初创企业主要是计算的消费者而非生产者,因此它们从过度建设中受益。大型科技公司实际上正在为整个 AI 生态系统创造补贴。  

许多比较将云服务与镀金时代的铁路寡头垄断相提并论。如果数据中心确实是数字经济的“轨道”,那么到 2025 年底,新的 AI 轨道将稳固建立起来。问题在于,哪些货物将运行在这些轨道上,以及我们如何利用这项新技术为客户和终端用户创造价值。  

预祝我们在这一年利用 AI 的基础构件,创造改变人们生活的非凡新能力。

其他人都在看

406163090afd5da5a74fe261642e2442.png

让超级产品开发者实现“Token自由”

邀好友用SiliconCloud,狂送2000万Token/人

即刻体验QwQ-32B-Preview
siliconflow.cn/zh-cn/siliconcloud

扫码加入用户交流群
e043c34365ab578c5c34883c78541906.png

相关推荐

<span class=“js_title_inner“>OpenAI 前首席研究官:AGI 核心突破已实现</span>

归根结底,与人合作时要理解他们的诉求,既要让他们实现创作目标,又要协调所有人的贡献形成整体成果,并持续反复地解决这个问题。但如果他们知道你是在为他们争取最大利益,那么当你要求他们去做那件极其困难且令他们恐惧的事情时,有时你就能帮助他们跨越鸿沟,解决问题,避免他们做出愚蠢的举动,最终获得圆满的结果。,包括在实现方式上的品味,其中可能存在不明显的后果——也许是性能上的隐性影响,也许是用户界面演变过程中难以预见的连锁反应,进而需要改变系统更深层的抽象结构——这些只能依靠人类来完成,目前别无选择。

OneFlow深度学习框架 738

<span class=“js_title_inner“>OpenAI 前首席研究官:AGI 核心突破已实现</span>

归根结底,与人合作时要理解他们的诉求,既要让他们实现创作目标,又要协调所有人的贡献形成整体成果,并持续反复地解决这个问题。但如果他们知道你是在为他们争取最大利益,那么当你要求他们去做那件极其困难且令他们恐惧的事情时,有时你就能帮助他们跨越鸿沟,解决问题,避免他们做出愚蠢的举动,最终获得圆满的结果。,包括在实现方式上的品味,其中可能存在不明显的后果——也许是性能上的隐性影响,也许是用户界面演变过程中难以预见的连锁反应,进而需要改变系统更深层的抽象结构——这些只能依靠人类来完成,目前别无选择。

OneFlow深度学习框架 423

<span class=“js_title_inner“>LLM 推理经济学</span>

作者 | Piotr Mazurek & Felix GabrielOneFlow 编译翻译|张雪聃题图由 SiliconCloud 生成当前 LLM 公司的主要商业模式是通过 API 提供模型访问服务,推理成本结构是决定其盈利能力的关键。本文将从底层原理阐释大模型托管/服务的成本来源、单个 GPU 可生成的词元(Token)数量及其成因,本文以开源模型 LLaMA 3.3 为基础,搭建一个简化版的大模型推理运算世界模型,旨在建立关于 LLM 推理的精确直觉认知。大模型推理的经济学影响远超过技术范畴本身。随

OneFlow深度学习框架 643

Databricks“三级跳”:600 亿美元独角兽的战略跃迁

本文以 S 曲线理论为分析框架,深度解构 Databricks 的三次关键战略跃迁,还原了其技术商业化路径中的关键决策——如拒绝本地化部署的短期利益、与微软 Azure 的生态合作以及从开源社区到企业级服务的平衡艺术。Databricks 作为数据与 AI 领域的代表性企业,从开源项目 Spark 起步,逐步发展为估值超 600 亿美元的行业巨头,其成长历程不仅折射出大数据技术的演进史,更揭示了科技公司如何通过连续的战略跃迁实现指数级增长。当时的背景是:互联网的迅速发展催生了海量数据,尤其是非结构化数据。

OneFlow深度学习框架 1221

AI 云服务之争:CoreWeave 向上,Nebius 向下

平台中的大多数工具均为自主研发,包括支持大规模调度的托管 Kubernetes、基于 Slurm 的集群调度系统、用于实验管理的 MLflow、自研的可观测性工具,以及一个具备安全保障的云端基础设施控制平台。它跳过了这一环节,设计了自己的服务器机架,以建立一个更加垂直整合的系统,从数据中心架构到托管式 Kubernetes 服务,再到像 Nebius AI Studio 这样的应用层工具(该工具为 DeepSeek、Llama 和 Flux 这样的开源模型提供推理 API)。的策略更全面和“全栈”。

OneFlow深度学习框架 2121

<span class=“js_title_inner“>AI 云服务之争:CoreWeave 向上,Nebius 向下</span>

平台中的大多数工具均为自主研发,包括支持大规模调度的托管 Kubernetes、基于 Slurm 的集群调度系统、用于实验管理的 MLflow、自研的可观测性工具,以及一个具备安全保障的云端基础设施控制平台。它跳过了这一环节,设计了自己的服务器机架,以建立一个更加垂直整合的系统,从数据中心架构到托管式 Kubernetes 服务,再到像 Nebius AI Studio 这样的应用层工具(该工具为 DeepSeek、Llama 和 Flux 这样的开源模型提供推理 API)。的策略更全面和“全栈”。

OneFlow深度学习框架 157

关于 DeepSeek-R1 API 评测,至少有 7 个误区

xx 58.33%。以某评测者的“人类头发数量的乘积是多少?市面上基本不存在“非满血版 R1”,也基本不存在所谓模型“降智”,而 R1 蒸馏版(70B、1.5B等)与满血版的效果差距很明显,一般知名服务商都会注明,如果这些平台提供所谓“非满血版 R1”,很容易测试出来,这完全是自砸招牌,他们没有动机“以次充好”。可以确定的是,市面上知名的第三方平台部署的都是“满血版 R1(671B)”,之所以用户使用感受有差异,是因为模型输出的随机性、平台提供的配套功能及超参数设置等可能不一致,而非底层模型本身的差异。

OneFlow深度学习框架 1158

<span class=“js_title_inner“>关于 DeepSeek-R1 API 评测,至少有 7 个误区</span>

xx 58.33%。以某评测者的“人类头发数量的乘积是多少?市面上基本不存在“非满血版 R1”,也基本不存在所谓模型“降智”,而 R1 蒸馏版(70B、1.5B等)与满血版的效果差距很明显,一般知名服务商都会注明,如果这些平台提供所谓“非满血版 R1”,很容易测试出来,这完全是自砸招牌,他们没有动机“以次充好”。可以确定的是,市面上知名的第三方平台部署的都是“满血版 R1(671B)”,之所以用户使用感受有差异,是因为模型输出的随机性、平台提供的配套功能及超参数设置等可能不一致,而非底层模型本身的差异。

OneFlow深度学习框架 140

首发!硅基流动 x 华为云联合推出基于昇腾云的 DeepSeek R1 & V3 推理服务

DeepSeek-R1、DeepSeek-V3 开源后引发全球震动,它们是深度求索团队为全人类献上的一份大礼,我们由衷为他们取得的成功感到高兴。经过硅基流动和华为云团队连日攻坚,今天,我们也为国内用户献上春节礼物:大模型云服务平台 SiliconCloud 首发上线基于华为云昇腾云服务的 DeepSeek-V3、DeepSeek-R1。 需要特别强调的是,无论是在昇腾上适配 DeepSeek-R...

OneFlow深度学习框架 4249

<span class=“js_title_inner“>首发!硅基流动 x 华为云联合推出基于昇腾云的 DeepSeek R1 & V3 推理服务</span>

5. 与 DeepSeek 官方优惠期价格保持一致,SiliconCloud 上的 DeepSeek-V3 的优惠期价格(截止 2 月 8 日 24:00)为 ¥1 / M tokens(输入)& ¥2 / M tokens (输出),DeepSeek-R1 的价格为 ¥4 / M tokens(输入)& ¥16 / M tokens (输出)。华为云昇腾云服务可提供澎湃、弹性、充足的算力。双模型,还是在此前上线其他模型的过程中,我们都得到了 DeepSeek 与华为云的大力支持,向他们致以深深的谢意与。

OneFlow深度学习框架 143

站在 AI 十字路口:直面智能体与机器人狂潮

生成式 AI 正在迅速介入人类世界。随着 AI 大模型不断进步,我们正面临着巨大的社会变革。本文探讨了一个由高度智能的智能体和机器人主导的世界——AI 亚特兰蒂斯世界(指在数字领域拥有几乎无限的 AI 资源)。本文分析了当前的 AI 模型为何从根本上不同于以往的技术范式,它们如何重塑各行业,以及人类面临的关键选择。作者认为,每个人都必须理解 AI 的进步将如何重塑经济、创造力和人类潜力的规则。除...

OneFlow深度学习框架 606

<span class=“js_title_inner“>站在 AI 十字路口:直面智能体与机器人狂潮</span>

拥有 AI 的政府能够提供更好的服务,制定数据驱动的政策,增强国家安全,并为民众提供更高的透明度和问责制。这里有一个令人难以置信的想法:你现在可以雇佣智能体员工和机器人工作者,他们的薪水甚至低于你花在咖啡上的费用——然而他们却拥有与普通大学毕业生相同的技能。拥有更多的闲暇时间当然不错,但真正的关键是,AI 为你腾出了精神空间,让你能专注于更大的挑战。像 ComfyUI 这样的工具是这一转变的早期例子——人们现在可以创建复杂的 AI 工作流,其中信息和任务从一个阶段无缝流向另一个阶段。这些模型是通用翻译器。

OneFlow深度学习框架 97

迈向 AI 驱动型经济:当资本不需要打工人

AI 的迅猛发展与普及,引发了学术界与工业界对现在的社会结构与经济模型的根本性反思。此前 OneFlow 发布的《资本、AGI 与人类雄心》、《AGI 时代的智能诅咒》、《AGI 崛起之后:重构经济模式与社会结构》三篇文章,深入探讨了劳动力替代性 AI 改变人力与非人力生产要素的相对重要性后,给整个社会带来的好处与风险,以及应对挑战的解决方案。在本文中,借助一众经济学家和科幻作家的理论观点,Int...

OneFlow深度学习框架 1027

<span class=“js_title_inner“>迈向 AI 驱动型经济:当资本不需要打工人</span>

相对而言,伊恩·M·班克斯(https://en.wikipedia.org/wiki/Iain_Banks)的《文明》系列丛书则描绘了一个后匮乏的社会,在这个社会中,拥有感知能力的 “AI 智能体(AI Minds)” 管理着星舰和栖息地,根据需求分配资源,而非货币。例如,《星际迷航》中,技术(如复制器和先进的星舰 AI )消除了物质匮乏,推动了一个专注于探索和文化发展的社会。而 AI 的引入,使非人类智能体成为生产力的主要推动者,将剩余价值的核心转移到了算法、数据集和计算系统的所有权上。

OneFlow深度学习框架 107

AGI 崛起之后:重构经济模式与社会结构

AGI 日益临近,这也迫使我们重新审视现有的社会结构和经济模式。在《资本、AGI 与人类雄心》一文中,Rudolf 指出,AGI 到来之后,劳动力替代性 AI 将改变人力与非人力生产要素的相对重要性,这会降低社会对人类的关注度,同时使现有的权力更加有效和根深蒂固。基于资源诅咒现象,Luke Drago 在《AGI 时代的智能诅咒》一文中将 Rudolf 的上述核心观点描述为智能诅咒。他认为,智能诅...

OneFlow深度学习框架 1310

AGI 时代的智能诅咒

经济学研究指出,依赖出售石油等自然资源获得收入而非公民税收的国家,会受到资源诅咒的影响,结果是权贵们攫取了大量财富,却停止了对普通人的投资。当 AGI 实现后,人类是否会面临类似的“智能诅咒”?在此前发布的《资本、AGI 与人类雄心》一文中,Rudolf 指出,AGI 到来之后,劳动力替代性 AI 将改变人力与非人力生产要素的相对重要性,这会降低社会对人类的关注度,同时使现有的权力更加有效和根深蒂...

OneFlow深度学习框架 767

资本、AGI 与人类雄心

通用人工智能(AGI)正在不可阻挡地走向人类社会,有人期待它带来的巨大生产力突破,有人也在警告它可能成为洪水猛兽,也有人对它的发展只是持观望态度。不管怎样,基于你所了解的信息,你可以尝试描绘一幅 AGI 图景,并畅想它在人类政治、经济、社会发展会产生的影响。在本文中,作者 Rudolf 深入剖析了 AGI 到来之后的资本、人类劳动与社会权力结构之间的复杂关系。其核心观点是,劳动力替代性 AI 将改...

OneFlow深度学习框架 886

2025 年 AI 十大展望:软件市场扩大 10 倍、系统比模型更重要、OpenAI 先发优势消退...

尽管有 Scaling Law 放缓这样的疑虑,但整体而言,多数业内人士对AI过去一年的诸多进展感到兴奋,对新的一年 AI 的发展更是充满期待,尽管他们对未来的预测可能不尽相同。在本文中,Foundation Capital 合伙人Ashu Grag回顾了 2024 年 AI 发展的里程碑事件,并重点介绍了 2025 年的前景,主要包括:1.预训练局限将推动新的 AI 突破2.AI系...

OneFlow深度学习框架 1590

900页免费“生成式AI与大模型”电子书|OneFlow年货

难以想象,如果不是Scaling Law放缓,2024年AI领域会发生哪些惊人变化,但你可能又会感到庆幸,正是由于Scaling Law放缓,它给了这个行业的后来者们追赶的机会,也给了更多普通人搭乘这一轮技术革命的机会。AI领域的变化激荡人心。一年前,AI社区普遍认为,与OpenAI的模型相比,大部分模型与它有半年或一年的差距,但大模型预训练逐渐没有秘密,它的入局门槛数量级降低。令国内外科技界深感...

OneFlow深度学习框架 659

2024年AI盘点:投资高歌猛进、基础设施重构、技术采用加速

本文全面分析了今年AI 的发展,包含AI 技术栈的基础设施层、基础模型层、应用层、工具层,尤其是各个层面的主要收获、值得关注的趋势与值得关注的初创公司。此外,本文还概括了 AI 领域的投资和并购情况,以及其他AI 趋势。需要指出的是,可能限于作者KelvinMu的关注重心,本文除了对中国基础模型的介绍,没有更多关于中国 AI 其他技术栈的进展。不过,这并不妨碍本文仍是我们了解 2024...

OneFlow深度学习框架 2010

从零实现极速LLM推理

作者 | Andrew Chen翻译|张雪聃、刘乾裕OneFlow编译题图由SiliconCloud平台生成本文旨在从零开始,仅使用C++和CUDA构建一个大语言模型(LLM)推理引擎,且不借助其他外部库。为何要这样做?通过这种方式,我们能够全面了解LLM推理的整个技术栈——这一点正变得日益重要[1]——从CUDA kernel到模型架构,并且切实体会不同的优化方式如何影响推理速度。其中一个最为重...

OneFlow深度学习框架 1207

AI数据中心历史、技术与关键企业

过去一年,通过模型架构创新、更优质训练数据和更大算力规模来训练模型,顶尖大模型之间的性能差距急剧缩小。如果Scaling law依然有效,为了进一步扩展模型规模与性能,在模型架构创新存在极大不确定性情况下,通过获得更多的算力来建造全新的数据中心,从而更快地训练模型以取得领先地位,这是确定性更高的收益。目前,以马斯克xAI为代表的大模型公司,快速部署了10万台GPU集群,成为数据中心扩展的领头羊,可...

OneFlow深度学习框架 971

AI半导体技术、市场与未来

过去两年,英伟达崛起是科技领域的一个经典案例。通过CUDA系统,他们创建了一个使用GPU进行机器学习的开发者生态系统;通过Mellanox,他们成为了数据中心网络的领导者。然后,他们将所有硬件集成到服务器中,提供垂直集成的算力一体机。凭借这一系列组合性技术优势,英伟达在“AI淘金热”中提供的铲子占据行业核心地位,这导致它成为有史以来最成功的公司之一。随之而来的是,不少挑战者入局以求从英伟达主导的市...

OneFlow深度学习框架 1万+

比GPU快20倍?d-Matrix推理性价比分析

AI推理算力需求正在大幅增长。一方面,像硅基流动、Fireworks这样的AI基础设施软件公司通过软件层面的优化以提供高性价比的大模型推理服务,另一方面,以Cerebras、Groq为代表的芯片公司相继推出了专用AI推理芯片,通过硬件层面的创新,以数量级的推理速度与成本优势来挑战英伟达GPU的市场地位。AI推理芯片市场的竞争者还在增加。近日,成立于2019年的硅谷推理芯片创业公司d-Matrix的...

OneFlow深度学习框架 2035

生成式AI推理技术、市场与未来

OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相继发布,预示着生成式AI研究正从预训练转向推理(Inference),以提升AI逻辑推理(reasoning)能力,这一转变将极大推动上层应用的发展。红杉资本近期指出,在可预见的未来,逻辑推理和推理时计算将是一个重要主题,并开启生成式AI的下一阶段。新一轮竞赛已然开始。那么,在推理这一新兴市场,...

OneFlow深度学习框架 2091

50张图,直观理解混合专家(MoE)大模型

Mixtral 8x7B的高效训练与推理效果曾引发AI社区对混合专家(MoE)模型的广泛关注,后来居上的国产开源大模型De‍epSeek以及腾讯近期开源的Hunyuan-Large(基于Transformer的最大MoE模型)也选择了MoE框架路线。为何大语言模型总是离不开MoE的身影?借助50多个图例,数据科学家Maarten Grootendorst由浅入深多维度剖析了MoE模型,从基础概念出...

OneFlow深度学习框架 9532

LLM后训练绝招:1%预训练成本,实现最高20倍算力扩展效果

根据规模定律,扩大训练计算规模可以提高大型语言模型(LLM)性能的关键,但调研机构Epoch AI的研究,LLM再训练无需高额费用,也能让AI能力获得显著提升。在该研究中,他们引入了一个基本框架,用于量化后训练增强的收益和成本,特别是通过计算等效增益来衡量收益。他们将该框架应用于一系列具有代表性的后训练增强,并发现性能提升非常显著,但微调成本通常与预训练成本相比非常小,某些后训练增强技术可以在不到...

OneFlow深度学习框架 4621

LLM逻辑推演策略选择:推理时计算 vs 训练时计算

AGI实现的一大标志是,具备人类级别的逻辑推理(reasoning)能力。近期,随着推理(inference)模型GPT o1、DeepSeek R1-Lite的发布,模型的逻辑推理能力得到显著提升,也预示着对LLM潜力的深度挖掘正在转向推理阶段。围绕增强LLM逻辑推理能力这一目标,美国人工智能与密码学研究实验室Bagel团队结合最新研究,从算术、常识和符号这三种主要逻辑推理类型出发,对比了在推理...

OneFlow深度学习框架 4206

探索AI框架前沿|OneFlow招聘深度学习研发工程师(实习)

一、岗位名称:深度学习研发工程师-框架开发方向(实习)岗位职责1. 参与 OneFlow 框架开发、重构与性能优化;2. 参与深度学习编译、高阶自动微分等深度学习框架相关技术演进工作。岗位要求1. 计算机或电子通信相关专业,本科及以上学历;2. 具备C/C++、Python编程基础,有良好的软件开发素养,熟悉TDD、CI/CD、敏捷开发流程等;3. 了解深度学习模型,有一定机器学习基础;4. 熟悉...

OneFlow深度学习框架 571

企业生成式AI最新调查:AI支出激增6倍,多模型部署盛行

企业AI格局正在迅速重塑。随着实验项目逐步落地投入生产,海外风险投资机构‍Menlo Ventures最新发布的《2024年企业生成式AI现状》报告对600名企业IT决策者展开了调研,深入分析了这场变革中正在浮现的新赢家与失利者。(本文由OneFlow编译发布,转载请联系授权。原文:https://menlovc.com/2024-the-state-of-generative-ai-in-the...

OneFlow深度学习框架 5774
上一篇: AI半导体技术、市场与未来
下一篇: AI数据中心历史、技术与关键企业
OneFlow深度学习框架
OneFlow深度学习框架 企业官方账号 企业官方账号
博客等级 码龄6年 5868粉丝 385原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值