AI 云服务之争:CoreWeave 向上,Nebius 向下

随着生成式 AI 的迅猛发展,AI 云服务正成为支撑模型训练与部署的关键基础设施。

在传统超大规模云平台之外,CoreWeave 与 Nebius 作为两家新兴的 GPU 云服务商,分别代表了当下产业中“大模型训练机器”与“生产级推理平台”两种不同的技术路线与市场定位。尽管两家公司表面上有诸多相似之处,如快速部署新一代 GPU、大规模建设数据中心等,但其本质差异远不止硬件层面。


本文从三个核心维度对 CoreWeave 与 Nebius 进行了系统性对比:在核心技术方面,CoreWeave 更强调硬件驱动、裸机 GPU 的极速供给,而 Nebius 则以全栈软件平台为战略核心,追求更完善的开发体验与推理服务能力;在客户群体方面,CoreWeave 聚焦于少数资金雄厚的大模型训练机构,而 Nebius 则覆盖更广泛的 AI 初创公司和企业级开发团队;在财务结构方面,CoreWeave 通过高杠杆融资、以客户合同做抵押快速扩张,而 Nebius 则依托强现金流、自有资金稳健推进基础设施建设。

通过对这三大维度的剖析,本文不仅揭示了两种发展模式背后的权衡与差异,也为理解 GPU 云产业的未来走向提供了参考。

本文作者 Kevin Xu 是 Substack 专栏 Interconnected 作者、投资人,曾任职于 Github、PingCap;Howe Wang 是 Substack 专栏《ProcureFYI》的作者。

(本文经授权后由 OneFlow 编译。原文:https://interconnect.substack.com/p/coreweave-vs-nebius)


作者 | Kevin Xu & Howe Wang

OneFlow 编译

翻译|张雪聃

生成式 AI 行业正迅速从“愿景与梦想”阶段,迈入真正“落地见真章”的阶段。

在这一重大转变中,一类被称为“GPU 云”的企业扮演着关键角色。CoreWeave 正是这类公司的典型代表,已于今年三月底正式 IPO,成为美股历史上规模最大的 AI 公司。另一家迅速崛起、并且已经上市的 GPU 云企业是 Nebius。当然,市面上还有其他 GPU 云服务提供商,但 CoreWeave 和 Nebius 是目前真正专注于 GPU 云服务且已上市的公司。

虽然 CoreWeave 和 Nebius 在表面上有不少相似之处,但我们认为,与其泛泛地谈“看得见”的共性,不如深入挖掘它们在关键层面的实质差异——这样我们才不会误把“苹果”和“橘子”混为一谈,把本质不同的东西当成一类来看待。

因此,这篇文章将从三个维度对 CoreWeave 和 Nebius 进行对比分析:核心技术、客户群体以及财务结构,并探讨其权衡与差异。(为保持对比的简洁性,我们将不涉及 Nebius 的其他子公司内容。)

1 

核心技术层面:

极速扩展 GPU 的能力 vs 全栈平台


CoreWeave 的核心战略是:抢在所有竞争者之前,以最快速度上线英伟达最新款 GPU,并通过多年期租赁的方式,以极具竞争力的价格提供这些 GPU。这种以硬件为核心的模式,在 CoreWeave 对英伟达的 Hopper 和 Blackwell 系列 GPU 的迅速部署上体现得淋漓尽致——通常从 Dell 、SuperMicro 等 OEM 厂商收到完整服务器设备后的两周内,便能投入使用。

CoreWeave 创始人出身于对冲基金行业,曾从事能源套利,因此非常擅长协调复杂的基础设施部署流程:包括获取电力资源、土地、数据中心配套装置以及安装 GPU 服务器。他们能以极快速度完成整个流程,为客户提供 AI 模型训练所需的基础算力资源。本质上,CoreWeave 提供的是快速可靠、规模庞大的裸机 GPU 服务——一次可提供成千上万,甚至可能达百万级别的 GPU 设备。由于是“裸机”服务(即几乎不附带软件层),这类资源的性能表现极为出色。这正好契合了客户的核心需求:这些客户通常具备高技术能力,迫切需要直接获取市面上最快的 GPU,来承载大规模、高强度的 AI 负载,例如从零开始训练基础模型;这类客户反而不太需要额外的软件服务。

相比之下,Nebius 的策略更全面和“全栈”。除了拥有自己的一批 Hopper 和 Blackwell GPU 之外,它还构建了多个软件层,类似于 AWS 或 GCP 提供的服务,比如托管数据库、MLOps 工具、容器注册服务、存储系统等。这种策略基于这样一个假设:AI 行业的未来发展,不仅需要强大的裸 GPU 算力,更需要构建在其之上的全方位云服务功能,以便最终打造真正可用的 AI 应用。

与 CoreWeave 相似,Nebius 的差异化战略源自其背景。 Nebius 是从 Yandex(俄罗斯搜索引擎巨头)资产剥离发展而来,Nebius 从中继承了“精简的软件栈”和一个超过 500 名工程师的团队,其中许多人曾参与构建和运营 Yandex Cloud。这个团队在为第三方客户建设基础设施和运行云服务方面积累了丰富的经验。Nebius 有 Yandex Cloud 作为基础,同时拥有强大的软件开发能力,这使其抽象化基础设施层的战略变得水到渠成,从而简化开发者的使用体验。

由于 Nebius 曾经从零开始构建自己的云平台,所以它没有与 Dell 和 SuperMicro 这样的服务器 OEM 厂商合作。它跳过了这一环节,设计了自己的服务器机架,以建立一个更加垂直整合的系统,从数据中心架构到托管式 Kubernetes 服务,再到像 Nebius AI Studio 这样的应用层工具(该工具为 DeepSeek、Llama 和 Flux 这样的开源模型提供推理 API)。(视频:Nebius 工程师在 Open Compute Project 大会上介绍其内部服务器在设计方面的技术实力:https://www.youtube.com/watch?v=jPLbKjYAado)

权衡对比:构建 GPU 云平台并没有固定方式。CoreWeave 和 Nebius 的方法差异正展示了这种分歧及其必要的权衡。要么从提供快速且资源充足的裸机租赁服务开始,要么从一个功能多样、开发者友好的全栈平台开始,尽管后者的性能表现可能相对逊色。

话虽如此,无论最初来自哪个技术栈,云平台通常会随着时间推移趋同。因为这是唯一能够保持长期竞争力的方式。这一点在 CoreWeave 和 Nebius 的发展中都能看到。

CoreWeave 开始通过内部开发提供一些软件服务层,比如托管 Kubernetes 和 Slurm,并与外部合作伙伴(如 Together.ai 和 Fireworks AI)进一步整合以提供推理服务。最近,CoreWeave 还收购了 Weights and Biases,以加速其软件服务的扩展。与此同时,Nebius 则专注于优化其服务器设计,通过提高硬件组件的效率,确保在总体拥有成本(TCO)方面不落后于 CoreWeave。可以说,CoreWeave 正在向上构建技术栈,不断丰富软件层;而 Nebius 则向下深耕底层基础设施。虽然两家公司路径不同,但目标一致——都希望突破早期产品定位所带来的客户局限,拓展更广泛的市场。

2 

客户群体层面:

少数大模型训练者 vs 众多有潜力的 AI 应用创业公司


CoreWeave 的客户群主要集中在一个狭窄但极具价值的细分市场:拥有自研能力、专注于训练大模型的大型科技公司。这也是微软占据了其 2024 年营收 62% 的原因。而就在三月,OpenAI 也与 CoreWeave 签署了一份金额高达 119 亿美元的为期五年的大单。另一位标志性客户则是英伟达。在 IPO 路演中,CoreWeave 透露,全球六大顶级 AI 实验室中,有四家是它的客户。

CoreWeave 的定位就是为那些走在大模型开发最前沿的团队提供“首选训练机器”。正如前文所提,它提供的裸机 GPU 服务对这些前沿实验室极具吸引力,这些团队拥有足够强的工程能力,可以最大程度发挥直接调用 GPU 的优势,而无需依赖上层各种软件封装。这类客户通常需要的是大规模、同构化 GPU 集群,用于从零开始训练模型,而不是微调或部署推理服务,并具备自主管理软件栈的技术能力。同时,他们也有足够的资金,或有能力融资,来签署长期合作协议——而这正是 CoreWeave 必须握在手中的筹码,用来建设更多的数据中心以及采购更多算力与 GPU 资源。

换句话说,市场上有 95% 的公司并不需要 CoreWeave 所提供的服务,或用不好它的产品。不过,那 5% 的资金雄厚、野心勃勃的前沿 AI 实验室客户对它趋之若鹜,这个市场小而深,价值巨大。

相比之下,Nebius 的客户构成就显得更为分散。它的用户既包括大型的 AI 训练机构,也包括初创企业和企业内部的 AI 团队,但这些客户签署的合同期限通常较短。这种客户结构有点像 AWS 初创时期的样子——当时的客户大多是愿意尝试“云计算”这一新概念的早期创业公司。AWS 的赌注是:这些初创企业中总有一家会成功,并成长为“云原生”(即专为云平台设计与部署)公司,从而带来稳定营收,并验证云计算作为新一代基础设施平台的可行性。对 AWS 来说,那家企业就是 Netflix。

Nebius 也在押注——希望下一个“生成式 AI 领域的 Netflix”就诞生在自己的云平台之上。因此,它选择走一条客户群更加分散、多元的路线,这也完全合理。但问题在于,大家都在做这个赌注。好在,如今用云计算已不再是一个需要说服客户接受的新概念。不过,谁能成为下一家 AI 独角兽初创公司的“摇篮”,这场争夺战仍旧异常激烈。不只是 GPU 云服务厂商之间竞争白热化,他们还面临来自 AWS、Google Cloud 等超大规模云平台的强大压力。

很多事情其实并不在 Nebius 的掌控之中。其唯一能掌控的,就是专注打磨自己的核心产品定位——打造一个能成为“生产级推理平台”的端到端云服务。我们特别强调“生产级”,是因为目前大多数 AI 应用仍处于研发、实验和概念验证阶段。像 CoreWeave 所擅长的预训练本质上属于研发范畴。而将研发成果真正部署到生产环境服务中运行和响应用户请求,这才是 Nebius 想要建立差异化优势的重点方向。

Nebius 的客户群体和服务也体现了它这种更长远、更广泛的愿景。虽然 Nebius 也服务于那些训练自有基础模型的生成式 AI 初创公司(这与 CoreWeave 的核心客户群类似),但它同时也吸引了很多大企业内部的小型或中型开发与研究团队。这类客户往往不是纯技术公司,比如物流公司、制造企业等,他们技术实力相对有限,远不如像 OpenAI 那样的顶尖科技公司,因此更看重 Nebius 提供的全套软件抽象层服务。

权衡对比: 两者在客户类型上的差异非常明显。CoreWeave 客户高度集中,但每个客户都大名鼎鼎(如微软、OpenAI);而 Nebius 的客户分布广泛,虽然在科技圈之外鲜有耳熟能详的名字,但胜在“撒网广、机会多”。下图梳理并对比了这两家 GPU 云服务商在整个技术栈各层面的情况。

CoreWeave 的新用户上手体验对小团队来说可能不太友好。新用户必须先通过一个“预约会谈”页面,填写一份联系表格,详细说明自己的使用需求。这种“人工筛选式”的流程对小型团队或经验不足、希望开箱即用的开发者不太友好。但对 CoreWeave 的主要客户——那些已经预定了大量 GPU 资源的大型企业客户来说,这种流程是合理的,他们知道自己需要什么,也清楚想使用哪些资源。

为了优化开发者使用体验,CoreWeave 正在通过合作、收购以及部分自研手段,扩展其提供的服务内容。目前,其软件栈已经包括 CoreWeave Kubernetes 服务(CKS),用于大规模容器调度管理;运行在 Kubernetes 上的 Slurm(SUNK),用于高效的任务调度;集成了 Weights & Biases 工具(https://www.youtube.com/watch?v=tHAFujRhZLA),支持对机器学习实验过程的全流程追踪和管理;以及一套实时可观测性工具,用来监控系统性能。这些工具使 CoreWeave 成为非常适合处理大规模机器学习和生成式 AI 工作任务的平台。

Nebius 提供的是一个简洁且开发者友好的平台,通过完全集成的端到端环境,显著简化了 AI 模型的训练与推理流程。平台中的大多数工具均为自主研发,包括支持大规模调度的托管 Kubernetes、基于 Slurm 的集群调度系统、用于实验管理的 MLflow、自研的可观测性工具,以及一个具备安全保障的云端基础设施控制平台。用户的接入过程非常顺畅,无需预付费用,也不需要任何前期承诺。平台还提供一定额度的免费配额,并以较低的词元计价(例如 Meta Llama 3.1-8B-Instruct 的模型输入每 1000 词元仅需 0.02 美元,输出为 0.06 美元),足以支持初步实验和尝试。配合 AI Studio 工具,用户可轻松进行模型微调和部署操作,使开发流程几乎无缝衔接,极大降低了初期使用的门槛,提供了良好开发者体验。对于希望在统一的 AI 技术体系内快速构建、迭代和扩展的团队来说,这样的平台很合适。

不过,Nebius 的用户体验也并非全无短板。尤其在售后支持方面,仍存在一些挑战。根据一位用户反馈,与 CoreWeave 和 Lambda Labs 等竞争对手相比,Nebius 的客服响应时间偏长,问题解决周期也相对更久。

鉴于两类客户各有所长,一个关键问题是:哪种 GPU 云服务的商业模式更具可持续性。这就引出了本文最后一个对比维度财务结构,也就是债务模式与现金储备模式的差异。

3

财务结构层面:

债务模式 vs 现金储备模式


CoreWeave 正在实行一种高杠杆(即高负债运作)的融资策略(https://procurefyi.substack.com/p/coreweaves-s-1-is-finally-here-ais)。到 2024 年底,CoreWeave 的总债务已高达约 80 亿美元,外加 4.16 亿美元的运营租赁负债,而它的现金储备却相对较少,仅有 14 亿美元。这种激进的融资结构主要依赖一种叫做“延期提取定期贷款”(DDTL,Delayed Draw Term Loans,允许借款人在约定期限内根据资金需求分批提取已承诺的贷款额度,而非一次性提完全款) 的专项资产支持贷款方式。

特别是,这些债务大多数并不直接体现在 CoreWeave 的资产负债表上。相反,它通过设立“特殊目的载体”(SPV,Special Purpose Vehicles)来承担债务,这些 SPV 是独立的法律实体,其发行的债务由有形、可产生收入的资产(比如 GPU、网络设备和数据中心)作为抵押担保。

这种复杂的“资产支持证券化模式”在房地产和基础设施行业中较为常见,但在云计算行业则是一种较新的尝试。CoreWeave 的做法确实带来了一些好处,比如因强抵押担保而降低了放贷方的风险,也可能比传统的公司债务或股权稀释方式获取更优惠的融资条件。但与此同时,这种模式也限制了 CoreWeave 的经营灵活性。根据其 S-1 文件披露,公司必须优先将现金流用于偿还债务本息——仅 2024 年的利息支出就达到约 3.61 亿美元。这种刚性义务使 CoreWeave 难以将利润再投资于扩张或新项目,也难以轻易扩大基础设施,更别提未来向股东分红了。

CoreWeave 的融资模式中最独特的一点是:浮动利率与客户信用挂钩,尤其体现在 DDTL 融资工具(包括用于客户合同资本支出的DDTL 1.0 和 DDTL 2.0)中。该结构下,CoreWeave 借贷成本直接关联客户信用评级:比如与投资级企业客户 Microsoft 签订的合同利差较低——约为SOFR 利率(有担保隔夜融资利率,当前约 4.3%)(https://sofracademy.com/current-sofr-rates/)上浮 6.5% 或基准利率上浮 5.5%。而由非投资级客户(例如初创公司或新兴 AI 企业)收入担保的债务利率最高可达 SOFR 上浮 13.0%,或基准利率上浮 12.0%。

至此,大家可能已经被这么多贷款术语和利率数字绕晕了。虽然结构复杂,但这种融资模型确实使 CoreWeave 的资本成本与客户群的财务稳定性紧密挂钩——优化了融资成本,但也引入了客户信用波动带来的不确定性与风险。

相较之下,Nebius 的财务结构则要稳健得多,其资产负债表也更加容易理解。到 2024 年底,Nebius 拥有约 25 亿美元的现金储备,债务总额仅为 610 万美元,运营租赁负债也只有 3150 万美元。其资金主要来自于从 Yandex 业务剥离后获得的收入以及 英伟达和 Accel 的投资。得益于和英伟达的关系(Yandex 曾是英伟达在美国和中国以外最大的客户),Nebius 将能优先获得英伟达的新一代产品,例如 Blackwell Ultra,并以最快速度投入市场,就像 CoreWeave 一样。

短期来看,这些现金储备可能还不算决定性优势,毕竟当前 GPU 云市场还处于抢占市场与扩大份额的阶段,这一阶段通常并不以单位经济效益和即时盈利能力为优先目标。但从长期看,Nebius 对其 AI 基础设施的完全所有权与 CoreWeave 则更多依赖举债与客户合同作为抵押的“所有权”之间可能形成关键差异,Nebius 比 CoreWeave 拥有更大空间来探索积极、可持续的单位经济效益。尤其是,Nebius 当前计划在两年内实现基础设施规模增长 40 倍,而这一扩张完全由其自有资金支撑,并不依赖债券人,投资者应该牢记这一点。

尽管现在还难以预测战局会如何演变,但 GPU 云服务领域的价格战已经打响。我们已经观察到市面上 Hopper GPU 的计算价格几乎已接近盈亏平衡点 —— 根据我们的估算,每小时成本大约是 1.6 美元(第一年)(https://x.com/WangUWS/status/1904535860260851822)。而且业内都知道,公开标价并不等于最终价格,大客户通常能获得大幅折扣。随着 Blackwell 架构的 GPU 大量涌入市场,它在未来两到四年能否维持价格优势,将成为观察的关键。

唯一可以确定的是:如果一家 GPU 云厂商提供的只是“GPU 本身”,那么大家的差异其实并不大,价格战不可避免。要想长期生存并发展,必须能优先提供市场所渴望的最新 GPU,同时在其之上构建出差异化的软件栈,以吸引并留住开发者,防止他们转投他处。

4 

结语:有 GPU 云就足够了吗?


从某种意义上说,CoreWeave 和 Nebius 并不算是直接竞争对手。它们都在争先恐后地实现一个由英伟达主导的未来范式,即在云数据中心只需一间装满由黄仁勋创造的设备的房间。他们更像是战友,而不是敌。两者的命运都和英伟达紧紧绑定,要么一起腾飞,要么一起沉没。

如果英伟达失败了,那这两家 GPU 云厂商也很难幸免。话说回来,如果英伟达失败了,整个“AI 革命”可能也会偃旗息鼓,美国股市的一半可能都要塌掉。我们认为这种情况并不会发生,除非我们哪天真的被现实打脸,开始把现金塞到床垫底下去避险,否则眼下更有建设性的讨论搞清楚以下问题:GPU 云到底是怎么运作的?像 CoreWeave 和 Nebius 这样的云服务提供商,它们之间真正的差异在哪里?这些差异是否能帮助我们预测谁更可能在未来胜出?

希望这篇文章至少能为你解答其中的一部分问题。

其他人都在看

让超级产品开发者实现“Token自由”

邀好友用SiliconCloud,狂送2000万Token/人

即刻体验DeepSeek R1
cloud.siliconflow.cn

扫码加入用户交流群

相关推荐

<span class=“js_title_inner“>OpenAI 前首席研究官:AGI 核心突破已实现</span>

归根结底,与人合作时要理解他们的诉求,既要让他们实现创作目标,又要协调所有人的贡献形成整体成果,并持续反复地解决这个问题。但如果他们知道你是在为他们争取最大利益,那么当你要求他们去做那件极其困难且令他们恐惧的事情时,有时你就能帮助他们跨越鸿沟,解决问题,避免他们做出愚蠢的举动,最终获得圆满的结果。,包括在实现方式上的品味,其中可能存在不明显的后果——也许是性能上的隐性影响,也许是用户界面演变过程中难以预见的连锁反应,进而需要改变系统更深层的抽象结构——这些只能依靠人类来完成,目前别无选择。

OneFlow深度学习框架 732

<span class=“js_title_inner“>OpenAI 前首席研究官:AGI 核心突破已实现</span>

归根结底,与人合作时要理解他们的诉求,既要让他们实现创作目标,又要协调所有人的贡献形成整体成果,并持续反复地解决这个问题。但如果他们知道你是在为他们争取最大利益,那么当你要求他们去做那件极其困难且令他们恐惧的事情时,有时你就能帮助他们跨越鸿沟,解决问题,避免他们做出愚蠢的举动,最终获得圆满的结果。,包括在实现方式上的品味,其中可能存在不明显的后果——也许是性能上的隐性影响,也许是用户界面演变过程中难以预见的连锁反应,进而需要改变系统更深层的抽象结构——这些只能依靠人类来完成,目前别无选择。

OneFlow深度学习框架 418

<span class=“js_title_inner“>LLM 推理经济学</span>

作者 | Piotr Mazurek & Felix GabrielOneFlow 编译翻译|张雪聃题图由 SiliconCloud 生成当前 LLM 公司的主要商业模式是通过 API 提供模型访问服务,推理成本结构是决定其盈利能力的关键。本文将从底层原理阐释大模型托管/服务的成本来源、单个 GPU 可生成的词元(Token)数量及其成因,本文以开源模型 LLaMA 3.3 为基础,搭建一个简化版的大模型推理运算世界模型,旨在建立关于 LLM 推理的精确直觉认知。大模型推理的经济学影响远超过技术范畴本身。随

OneFlow深度学习框架 638

Databricks“三级跳”:600 亿美元独角兽的战略跃迁

本文以 S 曲线理论为分析框架,深度解构 Databricks 的三次关键战略跃迁,还原了其技术商业化路径中的关键决策——如拒绝本地化部署的短期利益、与微软 Azure 的生态合作以及从开源社区到企业级服务的平衡艺术。Databricks 作为数据与 AI 领域的代表性企业,从开源项目 Spark 起步,逐步发展为估值超 600 亿美元的行业巨头,其成长历程不仅折射出大数据技术的演进史,更揭示了科技公司如何通过连续的战略跃迁实现指数级增长。当时的背景是:互联网的迅速发展催生了海量数据,尤其是非结构化数据。

OneFlow深度学习框架 1215

<span class=“js_title_inner“>AI 云服务之争:CoreWeave 向上,Nebius 向下</span>

平台中的大多数工具均为自主研发,包括支持大规模调度的托管 Kubernetes、基于 Slurm 的集群调度系统、用于实验管理的 MLflow、自研的可观测性工具,以及一个具备安全保障的云端基础设施控制平台。它跳过了这一环节,设计了自己的服务器机架,以建立一个更加垂直整合的系统,从数据中心架构到托管式 Kubernetes 服务,再到像 Nebius AI Studio 这样的应用层工具(该工具为 DeepSeek、Llama 和 Flux 这样的开源模型提供推理 API)。的策略更全面和“全栈”。

OneFlow深度学习框架 151

关于 DeepSeek-R1 API 评测,至少有 7 个误区

xx 58.33%。以某评测者的“人类头发数量的乘积是多少?市面上基本不存在“非满血版 R1”,也基本不存在所谓模型“降智”,而 R1 蒸馏版(70B、1.5B等)与满血版的效果差距很明显,一般知名服务商都会注明,如果这些平台提供所谓“非满血版 R1”,很容易测试出来,这完全是自砸招牌,他们没有动机“以次充好”。可以确定的是,市面上知名的第三方平台部署的都是“满血版 R1(671B)”,之所以用户使用感受有差异,是因为模型输出的随机性、平台提供的配套功能及超参数设置等可能不一致,而非底层模型本身的差异。

OneFlow深度学习框架 1151

<span class=“js_title_inner“>关于 DeepSeek-R1 API 评测,至少有 7 个误区</span>

xx 58.33%。以某评测者的“人类头发数量的乘积是多少?市面上基本不存在“非满血版 R1”,也基本不存在所谓模型“降智”,而 R1 蒸馏版(70B、1.5B等)与满血版的效果差距很明显,一般知名服务商都会注明,如果这些平台提供所谓“非满血版 R1”,很容易测试出来,这完全是自砸招牌,他们没有动机“以次充好”。可以确定的是,市面上知名的第三方平台部署的都是“满血版 R1(671B)”,之所以用户使用感受有差异,是因为模型输出的随机性、平台提供的配套功能及超参数设置等可能不一致,而非底层模型本身的差异。

OneFlow深度学习框架 134

首发!硅基流动 x 华为云联合推出基于昇腾云的 DeepSeek R1 & V3 推理服务

DeepSeek-R1、DeepSeek-V3 开源后引发全球震动,它们是深度求索团队为全人类献上的一份大礼,我们由衷为他们取得的成功感到高兴。经过硅基流动和华为云团队连日攻坚,今天,我们也为国内用户献上春节礼物:大模型云服务平台 SiliconCloud 首发上线基于华为云昇腾云服务的 DeepSeek-V3、DeepSeek-R1。 需要特别强调的是,无论是在昇腾上适配 DeepSeek-R...

OneFlow深度学习框架 4245

<span class=“js_title_inner“>首发!硅基流动 x 华为云联合推出基于昇腾云的 DeepSeek R1 & V3 推理服务</span>

5. 与 DeepSeek 官方优惠期价格保持一致,SiliconCloud 上的 DeepSeek-V3 的优惠期价格(截止 2 月 8 日 24:00)为 ¥1 / M tokens(输入)& ¥2 / M tokens (输出),DeepSeek-R1 的价格为 ¥4 / M tokens(输入)& ¥16 / M tokens (输出)。华为云昇腾云服务可提供澎湃、弹性、充足的算力。双模型,还是在此前上线其他模型的过程中,我们都得到了 DeepSeek 与华为云的大力支持,向他们致以深深的谢意与。

OneFlow深度学习框架 138

站在 AI 十字路口:直面智能体与机器人狂潮

生成式 AI 正在迅速介入人类世界。随着 AI 大模型不断进步,我们正面临着巨大的社会变革。本文探讨了一个由高度智能的智能体和机器人主导的世界——AI 亚特兰蒂斯世界(指在数字领域拥有几乎无限的 AI 资源)。本文分析了当前的 AI 模型为何从根本上不同于以往的技术范式,它们如何重塑各行业,以及人类面临的关键选择。作者认为,每个人都必须理解 AI 的进步将如何重塑经济、创造力和人类潜力的规则。除...

OneFlow深度学习框架 603

<span class=“js_title_inner“>站在 AI 十字路口:直面智能体与机器人狂潮</span>

拥有 AI 的政府能够提供更好的服务,制定数据驱动的政策,增强国家安全,并为民众提供更高的透明度和问责制。这里有一个令人难以置信的想法:你现在可以雇佣智能体员工和机器人工作者,他们的薪水甚至低于你花在咖啡上的费用——然而他们却拥有与普通大学毕业生相同的技能。拥有更多的闲暇时间当然不错,但真正的关键是,AI 为你腾出了精神空间,让你能专注于更大的挑战。像 ComfyUI 这样的工具是这一转变的早期例子——人们现在可以创建复杂的 AI 工作流,其中信息和任务从一个阶段无缝流向另一个阶段。这些模型是通用翻译器。

OneFlow深度学习框架 92

迈向 AI 驱动型经济:当资本不需要打工人

AI 的迅猛发展与普及,引发了学术界与工业界对现在的社会结构与经济模型的根本性反思。此前 OneFlow 发布的《资本、AGI 与人类雄心》、《AGI 时代的智能诅咒》、《AGI 崛起之后:重构经济模式与社会结构》三篇文章,深入探讨了劳动力替代性 AI 改变人力与非人力生产要素的相对重要性后,给整个社会带来的好处与风险,以及应对挑战的解决方案。在本文中,借助一众经济学家和科幻作家的理论观点,Int...

OneFlow深度学习框架 1022

<span class=“js_title_inner“>迈向 AI 驱动型经济:当资本不需要打工人</span>

相对而言,伊恩·M·班克斯(https://en.wikipedia.org/wiki/Iain_Banks)的《文明》系列丛书则描绘了一个后匮乏的社会,在这个社会中,拥有感知能力的 “AI 智能体(AI Minds)” 管理着星舰和栖息地,根据需求分配资源,而非货币。例如,《星际迷航》中,技术(如复制器和先进的星舰 AI )消除了物质匮乏,推动了一个专注于探索和文化发展的社会。而 AI 的引入,使非人类智能体成为生产力的主要推动者,将剩余价值的核心转移到了算法、数据集和计算系统的所有权上。

OneFlow深度学习框架 101

AGI 崛起之后:重构经济模式与社会结构

AGI 日益临近,这也迫使我们重新审视现有的社会结构和经济模式。在《资本、AGI 与人类雄心》一文中,Rudolf 指出,AGI 到来之后,劳动力替代性 AI 将改变人力与非人力生产要素的相对重要性,这会降低社会对人类的关注度,同时使现有的权力更加有效和根深蒂固。基于资源诅咒现象,Luke Drago 在《AGI 时代的智能诅咒》一文中将 Rudolf 的上述核心观点描述为智能诅咒。他认为,智能诅...

OneFlow深度学习框架 1307

AGI 时代的智能诅咒

经济学研究指出,依赖出售石油等自然资源获得收入而非公民税收的国家,会受到资源诅咒的影响,结果是权贵们攫取了大量财富,却停止了对普通人的投资。当 AGI 实现后,人类是否会面临类似的“智能诅咒”?在此前发布的《资本、AGI 与人类雄心》一文中,Rudolf 指出,AGI 到来之后,劳动力替代性 AI 将改变人力与非人力生产要素的相对重要性,这会降低社会对人类的关注度,同时使现有的权力更加有效和根深蒂...

OneFlow深度学习框架 762

资本、AGI 与人类雄心

通用人工智能(AGI)正在不可阻挡地走向人类社会,有人期待它带来的巨大生产力突破,有人也在警告它可能成为洪水猛兽,也有人对它的发展只是持观望态度。不管怎样,基于你所了解的信息,你可以尝试描绘一幅 AGI 图景,并畅想它在人类政治、经济、社会发展会产生的影响。在本文中,作者 Rudolf 深入剖析了 AGI 到来之后的资本、人类劳动与社会权力结构之间的复杂关系。其核心观点是,劳动力替代性 AI 将改...

OneFlow深度学习框架 883

2025 年 AI 十大展望:软件市场扩大 10 倍、系统比模型更重要、OpenAI 先发优势消退...

尽管有 Scaling Law 放缓这样的疑虑,但整体而言,多数业内人士对AI过去一年的诸多进展感到兴奋,对新的一年 AI 的发展更是充满期待,尽管他们对未来的预测可能不尽相同。在本文中,Foundation Capital 合伙人Ashu Grag回顾了 2024 年 AI 发展的里程碑事件,并重点介绍了 2025 年的前景,主要包括:1.预训练局限将推动新的 AI 突破2.AI系...

OneFlow深度学习框架 1588

900页免费“生成式AI与大模型”电子书|OneFlow年货

难以想象,如果不是Scaling Law放缓,2024年AI领域会发生哪些惊人变化,但你可能又会感到庆幸,正是由于Scaling Law放缓,它给了这个行业的后来者们追赶的机会,也给了更多普通人搭乘这一轮技术革命的机会。AI领域的变化激荡人心。一年前,AI社区普遍认为,与OpenAI的模型相比,大部分模型与它有半年或一年的差距,但大模型预训练逐渐没有秘密,它的入局门槛数量级降低。令国内外科技界深感...

OneFlow深度学习框架 653

2024年AI盘点:投资高歌猛进、基础设施重构、技术采用加速

本文全面分析了今年AI 的发展,包含AI 技术栈的基础设施层、基础模型层、应用层、工具层,尤其是各个层面的主要收获、值得关注的趋势与值得关注的初创公司。此外,本文还概括了 AI 领域的投资和并购情况,以及其他AI 趋势。需要指出的是,可能限于作者KelvinMu的关注重心,本文除了对中国基础模型的介绍,没有更多关于中国 AI 其他技术栈的进展。不过,这并不妨碍本文仍是我们了解 2024...

OneFlow深度学习框架 2010

从零实现极速LLM推理

作者 | Andrew Chen翻译|张雪聃、刘乾裕OneFlow编译题图由SiliconCloud平台生成本文旨在从零开始,仅使用C++和CUDA构建一个大语言模型(LLM)推理引擎,且不借助其他外部库。为何要这样做?通过这种方式,我们能够全面了解LLM推理的整个技术栈——这一点正变得日益重要[1]——从CUDA kernel到模型架构,并且切实体会不同的优化方式如何影响推理速度。其中一个最为重...

OneFlow深度学习框架 1204

AI数据中心历史、技术与关键企业

过去一年,通过模型架构创新、更优质训练数据和更大算力规模来训练模型,顶尖大模型之间的性能差距急剧缩小。如果Scaling law依然有效,为了进一步扩展模型规模与性能,在模型架构创新存在极大不确定性情况下,通过获得更多的算力来建造全新的数据中心,从而更快地训练模型以取得领先地位,这是确定性更高的收益。目前,以马斯克xAI为代表的大模型公司,快速部署了10万台GPU集群,成为数据中心扩展的领头羊,可...

OneFlow深度学习框架 970

红杉资本2025年AI三大展望:大模型厂商各显神通;杀手级应用AI搜索;AI支出变稳...

2024年,随着Scaling law放缓,AI领域在大模型、基础设施上的能力稳步提升,尽管应用层出现了各种有趣的探索,但是更大的潜能有待挖掘。2025年即将来临,将出现哪些变化?近日,红杉资本投资人David Cahn对2024年AI领域的发展作了简要总结并对2025年作了三大预测。他认为,今年是AI发展的萌芽期,其构建基石已经稳固建立,只待2025年发芽结果。他在本文中阐述了三点预言:首次,基...

OneFlow深度学习框架 1673

AI半导体技术、市场与未来

过去两年,英伟达崛起是科技领域的一个经典案例。通过CUDA系统,他们创建了一个使用GPU进行机器学习的开发者生态系统;通过Mellanox,他们成为了数据中心网络的领导者。然后,他们将所有硬件集成到服务器中,提供垂直集成的算力一体机。凭借这一系列组合性技术优势,英伟达在“AI淘金热”中提供的铲子占据行业核心地位,这导致它成为有史以来最成功的公司之一。随之而来的是,不少挑战者入局以求从英伟达主导的市...

OneFlow深度学习框架 1万+

比GPU快20倍?d-Matrix推理性价比分析

AI推理算力需求正在大幅增长。一方面,像硅基流动、Fireworks这样的AI基础设施软件公司通过软件层面的优化以提供高性价比的大模型推理服务,另一方面,以Cerebras、Groq为代表的芯片公司相继推出了专用AI推理芯片,通过硬件层面的创新,以数量级的推理速度与成本优势来挑战英伟达GPU的市场地位。AI推理芯片市场的竞争者还在增加。近日,成立于2019年的硅谷推理芯片创业公司d-Matrix的...

OneFlow深度学习框架 2034

生成式AI推理技术、市场与未来

OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相继发布,预示着生成式AI研究正从预训练转向推理(Inference),以提升AI逻辑推理(reasoning)能力,这一转变将极大推动上层应用的发展。红杉资本近期指出,在可预见的未来,逻辑推理和推理时计算将是一个重要主题,并开启生成式AI的下一阶段。新一轮竞赛已然开始。那么,在推理这一新兴市场,...

OneFlow深度学习框架 2090

50张图,直观理解混合专家(MoE)大模型

Mixtral 8x7B的高效训练与推理效果曾引发AI社区对混合专家(MoE)模型的广泛关注,后来居上的国产开源大模型De‍epSeek以及腾讯近期开源的Hunyuan-Large(基于Transformer的最大MoE模型)也选择了MoE框架路线。为何大语言模型总是离不开MoE的身影?借助50多个图例,数据科学家Maarten Grootendorst由浅入深多维度剖析了MoE模型,从基础概念出...

OneFlow深度学习框架 9512

LLM后训练绝招:1%预训练成本,实现最高20倍算力扩展效果

根据规模定律,扩大训练计算规模可以提高大型语言模型(LLM)性能的关键,但调研机构Epoch AI的研究,LLM再训练无需高额费用,也能让AI能力获得显著提升。在该研究中,他们引入了一个基本框架,用于量化后训练增强的收益和成本,特别是通过计算等效增益来衡量收益。他们将该框架应用于一系列具有代表性的后训练增强,并发现性能提升非常显著,但微调成本通常与预训练成本相比非常小,某些后训练增强技术可以在不到...

OneFlow深度学习框架 4619

LLM逻辑推演策略选择:推理时计算 vs 训练时计算

AGI实现的一大标志是,具备人类级别的逻辑推理(reasoning)能力。近期,随着推理(inference)模型GPT o1、DeepSeek R1-Lite的发布,模型的逻辑推理能力得到显著提升,也预示着对LLM潜力的深度挖掘正在转向推理阶段。围绕增强LLM逻辑推理能力这一目标,美国人工智能与密码学研究实验室Bagel团队结合最新研究,从算术、常识和符号这三种主要逻辑推理类型出发,对比了在推理...

OneFlow深度学习框架 4204

探索AI框架前沿|OneFlow招聘深度学习研发工程师(实习)

一、岗位名称:深度学习研发工程师-框架开发方向(实习)岗位职责1. 参与 OneFlow 框架开发、重构与性能优化;2. 参与深度学习编译、高阶自动微分等深度学习框架相关技术演进工作。岗位要求1. 计算机或电子通信相关专业,本科及以上学历;2. 具备C/C++、Python编程基础,有良好的软件开发素养,熟悉TDD、CI/CD、敏捷开发流程等;3. 了解深度学习模型,有一定机器学习基础;4. 熟悉...

OneFlow深度学习框架 569

企业生成式AI最新调查:AI支出激增6倍,多模型部署盛行

企业AI格局正在迅速重塑。随着实验项目逐步落地投入生产,海外风险投资机构‍Menlo Ventures最新发布的《2024年企业生成式AI现状》报告对600名企业IT决策者展开了调研,深入分析了这场变革中正在浮现的新赢家与失利者。(本文由OneFlow编译发布,转载请联系授权。原文:https://menlovc.com/2024-the-state-of-generative-ai-in-the...

OneFlow深度学习框架 5769
上一篇: <span class=“js_title_inner“>关于 DeepSeek-R1 API 评测,至少有 7 个误区</span>
下一篇: <span class=“js_title_inner“>AI 云服务之争:CoreWeave 向上,Nebius 向下</span>
OneFlow深度学习框架
OneFlow深度学习框架 企业官方账号 企业官方账号
博客等级 码龄6年 5868粉丝 385原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值