拆解AI的“五大基础设施”:算力、网络、存储、电力、软件,谁在驱动千亿市值?

人工智能基础设施 是指支持人工智能(AI)技术开发、训练、部署和应用的全套硬件、软件、数据及网络资源。它是构建和运行AI系统的底层支撑体系,为算法模型、数据处理、算力分配、应用开发等提供必要的基础条件。人工智能基础设施是AI技术发展的“土壤”,其成熟度直接决定AI创新的速度和规模。随着技术进步,基础设施将向更高效、更普惠的方向演进,推动AI融入更多领域。 阅读详情

当我们在谈AI时,谈的不只是大模型,更是支撑每一次问答、每一次训练、每一次推理的完整“器官”。

从ChatGPT引爆全球,到Agent、具身智能接踵而至,AI早已不是实验室里的玩具。它变成了一个工业级系统,背后依赖一套复杂而精密的“基础设施”。这些设施不只决定了AI能跑多快、多聪明,更左右着数千亿美元的投资走向和科技公司的股价。

今天,我们就用一个人脑的比喻,把这五大基础设施——算力、网络、存储、电力、软件/算法——拆开揉碎,一个个讲清楚。


一、算力:大脑的“神经元”,AI的“计算引擎”

核心作用:提供最基础的计算能力。没有它,一切归零。

技术细节:

  • 训练万亿参数的大模型,需要成千上万颗GPU(如英伟达H100、B200)或ASIC芯片,并行执行矩阵乘法、浮点运算。

  • 算力需求分为两部分:训练(一次性构建模型)和推理(每次回答问题)。如今推理算力消耗已是训练的4-5倍,因为用户数爆炸了。

市场与股价逻辑:

  • 英伟达无疑是最大赢家,一度市值突破3万亿。但中国受出口管制影响,英伟达份额降至零,华为昇腾迅速填补空白。

  • 算力供不应求,导致“算力通胀”——阿里云等厂商提价。同时催生了ASIC专用芯片(如谷歌TPU、博通定制芯片)的需求,因为推理任务对成本敏感,专用芯片能效更高。

  • 算力租赁、算力调度等新商业模式兴起。相关A股公司如寒武纪、海光信息等也受资金追捧,但波动较大。

一句话:算力是AI的“肌肉”,肌肉越强,能干的事越多。但肌肉也需要昂贵的“蛋白质”(投资),且容易遇到“瓶颈”。


二、网络:大脑的“突触与神经”,信息的“高速公路”

核心作用:连接一切——芯片与芯片、服务器与服务器、用户与云端。没有网络,算力就是孤岛。

技术细节:

  • 训练网络:千卡、万卡集群内部,需要超低延迟、无损的数据交换。主流技术是InfiniBand(英伟达主导)或RoCE(以太网扩展)。光模块速率正从400G向800G、1.6T跃升。

  • 推理网络:连接用户终端与数据中心,依赖5G、光纤、边缘节点。自动驾驶要求延迟<10ms,否则会出事故。

  • 存储网络:连接存储设备和计算节点,防止GPU因“饿数据”而空闲。

市场与股价逻辑:

  • AI集群规模指数级增长,带动了交换机、光模块、智能网卡的旺盛需求。

  • 典型的受益公司:博通(网络芯片)、Arista(交换机)、中际旭创(光模块)、Marvell。它们的财报和股价都与AI资本支出高度相关。

  • 在中国,光模块三剑客(中际、新易盛、天孚通信)受益于海外AI需求,业绩翻倍。

一句话:算力决定“速度”,网络决定“效率”。没有高速网络,再强的GPU也得干等,有效算力大打折扣。


三、存储:大脑的“海马体与皮层”,数据的“记忆仓库”

核心作用:存放模型参数、训练数据集、用户对话历史。包括短期记忆(DRAM)和长期记忆(NAND闪存/SSD)。

技术细节:

  • 大模型参数动辄万亿,需要海量HBM(高带宽内存) 紧贴GPU,提供超高吞吐。HBM已成为存储芯片厂的必争之地。

  • 训练数据的清洗、预处理,需要高速SSD;冷数据则存到机械硬盘。

  • 存储访问速度直接影响训练效率——GPU等待数据的时间就是浪费。

市场与股价逻辑:

  • 存储芯片行业正处在“超级上行周期”。SK海力士因HBM领先,市值突破1000万亿韩元,部分订单锁单至2027年。三星、美光同样受益。

  • 2026年DRAM均价预计上涨243%,NAND也有大幅涨价。相关公司的股价在2025-2026年演绎了“戴维斯双击”。

  • 在中国,长江存储、长鑫存储虽未上市,但产业链上的封测、模组公司(如江波龙、兆易创新)也受到关注。

一句话:存储是AI的“记忆”。记性不好,模型就成了“金鱼大脑”,刚说的话就忘了。


四、电力:大脑的“葡萄糖与氧气”,AI的“能量之源”

核心作用:驱动所有设备运转,并带走热量(散热)。没有电,一切是废铁。

技术细节:

  • 一个大型AI数据中心的年耗电量相当于一个几十万人口的城市。其中,40%可能用于散热(空调、液冷)。

  • 推理的普及让电力消耗急剧上升——每次对话背后都是GPU在疯狂计算。预计到2030年,全球数据中心用电量将翻倍。

  • 为了降低PUE(电能利用效率),液冷技术、甚至直接浸没式液冷成为趋势。

市场与股价逻辑:

  • “AI的下半场是能源”成为共识。电网、储能、甚至核电都成为投资热点。

  • 在中国,储能被明确为AI算力的核心基础设施,2026年全球储能新增装机预计增长62%。相关公司如宁德时代、阳光电源等持续受益。

  • 输配电(特高压)、新能源发电(光伏、风电)也因AI用电需求而获得新的估值逻辑。

一句话:电力是AI的“口粮”。AI越能吃,能源行业越兴奋。


五、软件/算法:大脑的“思维模式”,AI的“灵魂”

核心作用:调度硬件资源、决定模型如何“思考”、如何学习。这是最抽象却最关键的一层。

技术细节:

  • 框架层:PyTorch、TensorFlow等,帮助开发者构建模型。

  • 模型架构:Transformer、MoE(混合专家)、Diffusion等,决定了参数利用效率。

  • 调度系统:Kubernetes、Slurm等,管理GPU集群的任务分配。

  • 算法优化:量化、剪枝、蒸馏、稀疏计算……这些技术能用更少的算力实现相近的效果。

市场与股价逻辑:

  • 软件/算法公司的市值可能不如硬件公司那么“狂野”,但它们是生态的制高点。英伟达的CUDA就是最典型的例子——用软件锁住用户。

  • 在中国,深度学习框架(百度飞桨、华为昇思)和AI平台(第四范式、商汤)正在努力构建国产生态。

  • 大模型公司(如智谱、月之暗面、DeepSeek)本身就是“算法+数据”的产物,它们的估值也反映了软件的稀缺性。

一句话:软件是AI的“智慧”。优秀的算法能让较差的硬件跑出逆天效果——DeepSeek就是证明。


总结:五大基础设施如何协同?

这五个部分不是孤立的,而是环环相扣的一个系统:

  1. 算力是引擎,但需要网络来同步、存储来喂数据。

  2. 电力是一切的基础,没有电,其他都是0。

  3. 软件/算法是总指挥,用更聪明的方式调度硬件,让系统发挥出最大效能。

当前,AI行业正从“堆算力”的蛮力时代,迈向“算力+网络+存储+电力+软件”系统优化的时代。任何一种基础设施成为短板,都会拖累整个系统的性能和经济性。

对于投资者来说,理解这五大设施的供需关系和产业周期,远比追逐单一热点更重要。因为AI泡沫如果破裂,一定是从最薄弱的那块短板开始。

而对于从业者,你需要问自己:我的能力,是在为哪一块基础设施添砖加瓦?

这或许比盲目追逐“大模型”更有长期价值。


这篇博客拆解了AI的五大基础设施。它们共同构成了我们口中的“AI时代”。如果你对其中某一项的细节(比如光模块技术、HBM竞争格局、液冷方案)感兴趣,欢迎留言告诉我,我们可以继续深入。

AI技术架构:从基础设施到应用 AI 的技术架构不仅是一套技术体系,更是人类智慧与未来可能性的融合。从基础设施层的硬件支撑,到模型层的智能核心,再到应用层的实际落地,每一环节都展现出 AI 技术的无限魅力。未来,这些技术将不仅仅改变行业,更将深刻影响我们的生活。希望通过这篇文章,您能更清晰地理解 AI 技术的全貌,并发现其带来的新机遇。加入这场智能时代的浪潮,探索属于您的未来! 阅读详情

相关推荐

AI 基础设施:构建AI时代全栈云计算体系

由于拥有数十亿个参数和庞大的训练数据集,生成式 AI和 LLM 需要的计算资源达到前所未有的规模。这需要更强的处理能力、更快的内存、更大的存储空间和极其快速的网络连接,而传统基础设施的能力却难以达到。为了支持这些高级模型,专门构建的基础设施有助于确保充分发挥生成式 AI 的强大能力,提供它们所需的高性能和强大的计算能力。此外,利用这种基础设施,组织还能高效地扩缩 AI 计划,使组织能够适应不断变化的业务需求,并在充满活力的 AI 领域抓住新机遇。

沪漂的IT大叔 2374

AI基础设施是AI落地赋能的核心关键

零门槛AI开发平台 EasyDL是为AI零算法基础或者追求高效率开发的企业用户提供的零门槛AI开发平台,提供从数据采集、标注、清洗到模 型训练、部署的一站式AI开发能力,设计简约,极易理解,最快15分钟完成模型训练。AI通用技术开放创新平台方面,包括如百度、腾讯、滴滴、京东等综合性AI能力开放平台,云 从、旷视、美图、萤石、虹软等侧重视觉图像识别AI能力开放平台,科大讯飞、依图、小米、搜狗、有道等侧重语音识别 AI能力开放平台,其中百度AI开放平台已提供超过1300+项开放能力。

追求更专业的设计 1798

【AI基础设施】智算场景的资源管理系统与未来展望

首先澄清两个概念,高性能计算与智算场景,高性能计算主要是面向天气预测、生物计算、材料计算等场景,而最近几年很火的智算主要是面向AI场景的计算,如语音识别、图像识别、自动驾驶等场景,我们可以看到他们有一个共同的基础组件能力,叫分布式资源管理与任务调度执行服务,在HPC场景用了最多的就是Slurm和LSF,在大数据场景用的比较多的就是Yarn和K8s,但未来,智算场景,甚至HPC、大数据场景(数据湖)也会统一到K8s。GPU长任务(推理)与短任务混合等,提高整体资源的利用率,降低计算所带来的成本消耗。

lemo的专栏 663

探索AI技术的全景视图:从基础设施到应用层

通过AI技术的全景视图,我们可以清晰地看到AI技术从底层硬件到最上层应用的全景视图。每一层次都在为AI的整体功能和性能贡献力量。理解这些层次和它们之间的关系,可以帮助我们更好地应用和发展AI技术,以应对未来的各种挑战和机遇。

2401_85375186的博客 1559

【信息科学与工程学】【财务管理】第四十六篇 企业资本运作02

1. 中介机构(券商、律师)对公司股东进行穿透核查,识别“三类股东”;随后,利用获得的股东地位和信息优势,在二级市场进行“午夜突袭”(在短时间内,趁市场不备,通过算法快速买入大量股份),进一步增持至接近或超过50%,最终实现控制。:为规避欧盟碳边境调节机制(CBAM)等绿色贸易壁垒,高碳排放行业(如钢铁、铝、化肥、水泥)的企业,将新增产能或部分现有产能,直接投资于拥有廉价可再生能源(如水电、风电、光伏)或碳捕集与封存(CCS)潜力的国家和地区(如中东、北非、智利、挪威)。:母公司上市已满3年;

weixin_49199313的博客 833

AI 2.0 基础设施建设:推动数字经济发展

1. 背景介绍 随着人工智能技术的迅猛发展,AI 2.0时代正在到来。AI 2.0 即第二代人工智能,强调通过大规模数据训练和深度学习,使机器具备更强的自适应和智能决策能力。AI 2.0 将极大推动数字经济的发展,改变人们的工作方式和生活方式,深刻影响社会的各个方面。 1.1 数字经济的崛起

欢迎来到我的优快云空间!这里聚焦AI大模型应用实战,分享前沿技术、实战案例与开发经验。 1053

别再只知道买显卡了!一文讲透AI基础设施(AI Infra)到底是什么?

本文深入解析AI Infra(人工智能基础设施)技术体系,揭示其在AI时代的核心地位。文章首先将AI Infra比作现代物流体系,详细拆解其四层技术栈:硬件层、集群网络、框架引擎和平台调度。重点分析了NVIDIA通过CUDA+NVLink构建的生态闭环,以及华为昇腾在国产替代方面的突破。同时介绍了PyTorch 2.0、vLLM推理加速和Ray分布式编排等关键软件技术,并探讨了云厂商在超大规模集群调度方面的解决方案。最后展望AI Infra未来发展趋势,指出推理优化、算力网络和硬件多元化将成为重要方向。文章

学习代码 1553

使用AI编写测试用例——详细教程

现阶段AI还不能完全替代人工测试用例编写,但如果把AI当做一个提高效率的工具,它将会是一个很强大的辅助。

公众号|软件测试老吴 3万+

AI的六大底座——算力之外,还有五道关

人工智能基础设施包含算力、网络、数据、软件、能源、应用安全六大核心板块。算力如大脑,GPU显卡是核心载体;网络需低延迟,实现数据高效传输;高质量数据是AI学习原料;软件系统是运行基础;能源保障高耗能设备运转;应用与安全确保商业化落地。此外,水资源和电力是AI发展硬约束。企业布局AI需系统性规划,关注差异化竞争和行业融合。企袖KeyAction等工具可帮助企业家轻量化应用AI技术,提升经营决策效率。

KeyAction6666的博客 261

深入解析国家企业征信系统瑞数6vmp算法逆向实战

本文深入解析了国家企业征信系统所采用的双层防护机制,重点聚焦于瑞数6代vmp算法的逆向实战。文章详细拆解了从加速乐521状态码的绕过,到瑞数412挑战的核心算法还原过程,提供了通过动态Hook、日志分析进行算法逆向,并用Python实现自动化请求链的完整技术方案,旨在为安全研究与技术学习提供参考。

yellow的专栏 607

欧姆龙SYSMAC STUDIO如何与基恩士SR-1000进行EIP通信

简要介绍一下扫码枪和欧姆龙sysmac的配置

weixin_42031602的博客 4777

生成式AI时代的新基础设施

生成式人工智能席卷了科技行业。2023 年第一季度,随着数亿用户采用 ChatGPT 和 GitHub CoPilot 等应用程序,对新一代 AI 初创公司的投资高达 1.7B 美元。技术领先的公司正在争先恐后地制定自己的生成式AI策略,许多公司都在努力将应用程序投入生产。即使是最前沿的工程团队也面临着以安全、可靠和经济高效的方式培训、部署和保护生成式 AI 模型的挑战。用于生成式人工智能的新基础设施技术栈正在出现。

新缸中之脑 489

PaddleOCR训练自己的数据

一 、数据准备 采用PPOCRLabel标注自己的数据 PPOCRLabel是一款适用于OCR领域的半自动化图形标注工具,内置PP-OCR模型对数据自动标注和重新识别。使用Python3和PyQT5编写,支持矩形框标注和四点标注模式,导出格式可直接用于PaddleOCR检测和识别模型的训练。 1.1 安装PaddlePaddle pip3 install --upgrade pip # 如果您的机器安装的是CUDA9或CUDA10,请运行以下命令安装 python3 -m pip in.

zyb的博客 1万+

数字经济的三大支柱:数据、算法、算力

数据是数字经济时代最重要的生产要素之一,是数字经济的基石,被形象地比作"新时代的石油广义的数据泛指一切客观事物的数字化表示,包括文本、图片、音视频、传感器数据等各类信息,能够被计算机识别、存储和处理。狭义的数据特指经过采集、清洗、加工,能用于分析挖掘的信息资源。大数据技术的发展,让海量、多源、异构、时变的数据资源成为推动经济社会发展的新引擎。数据具有颠覆性的独特属性。一是非竞争性,即数据可以被多次、多方使用而不损耗价值,边际成本几乎为零;

Python_cocola的博客 5251

【学习笔记-QGIS】 QGIS从零快速上手

安装文章参考:https://zhuanlan.zhihu.com/p/370633306。

Xcong_Zhu的博客 1万+

Ceres&OpenCV 单目相机标定(论文复现)

Ceres&OpenCV 单目相机标定(论文复现)

dayuhaitang1的博客 366

《AI发展的三个关键视角:基础设施、开源趋势与社会影响》

AI的影响是深远的,可能会改变社会和经济结构。虽然AI技术带来了许多机遇,但也伴随着挑战。为了充分利用AI的潜力,社会各界需要共同努力,确保技术的公平应用和可持续发展,以实现更美好的未来。

XianxinMao的博客 1322

SAP 与 Palantir 合作全景解析:这不是普通集成,而是把 ERP、数据语义层、云迁移与企业级 AI 串成一条价值链

SAP与Palantir的战略合作聚焦企业数字化转型核心痛点,通过深度技术整合构建"数据-决策-执行"闭环。合作包含四大主线:云迁移连续性保障、SAP业务数据云与Palantir平台对接、联合工程开发、高监管行业优先落地。技术实现上采用SAP认证插件,支持双向数据交互和实时业务动作触发。该合作突破了传统ERP系统局限,将业务语义与AI执行相结合,特别适合制造业供应链优化、财务争议处理等高价值场景,为企业在云迁移过程中实现业务连续性与智能化升级提供新范式。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 192

结合场景,自己编写 HNSW 索引

这个结论和标量索引实践一致,即通过建立高效索引,“以空间换时间”,可以大大降低计算量,提高检索效率。Milvus 支持多种索引方式,一般来说浮点索引(即对稠密向量进行索引)的使用场景较多,适用于大规模数据的语义检索,二进制索引和稀疏索引适用于数据集较小的情况,可以保证较高的召回率。在 store_conf 的配置中,存储后端和索引后端是独立的两部分,但是如果存储类型选择 milvus 的情况下,由于 kwargs 中已经包含了索引配置信息,因此无需额外配置 indices,即可实现内置的向量检索。

ascsgascaew的博客 1078

Altera FPGA与高速ADS4249和DAC3482的LVDS接口设计

引言:本文以TI的ADS4249(ADC)和DAC3482(DAC)之间的接口为例,介绍Altera FPGA与ADC/DAC之间的DDR LVDS接口设计以及时序约束详细设计。本文介绍的实例可方便扩展到具有类似接口格式的其他高速数据转换器设计。

FPGA_Designer 1899

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

大模型狂潮背后:AI基础设施的“老化”与改造工程

机器学习模型逐渐发展成人们口中的“庞然大物”。全球顶尖的科技公司纷纷踏上“军备竞赛”之路,立志训练出规模最大的模型(MUM、OPT、GPT-3、Megatron),而其他专注于生产系统的公司也相继扩大其原有模型,并取得良好成果。一切如火如荼,然而,鲜少有人提及,庞大的模型给现有的AI基础设施和开发流程...

OneFlow深度学习框架 4800

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

有人泼冷水:为什么AI基础设施创业如此艰难?

😭 为什么 AI 基础设施创业艰难? 🤔 没有差异化不行,业务聚焦也不行。18个月后,AI 基础设施创业公司就要走向生命周期的尽头了吗?

baidu_41642080的博客 1105

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

一文剖析AI大模型技术架构的全景视图:从基础实施层、云原生层、模型层、应用技术层、能力层、到应用层...

▼最近直播超级多,预约保你有收获—1—AI 大模型技术架构全景图AI 大模型已经在具体的业务场景落地实践,本文通过梳理 AI 大模型技术架构的全景视图,让你全面了解 AI 大模型技术的各个层次,从基础实施层、云原生层、模型层、应用技术层、能力层、到应用层,如下图所示,揭示 AI 大模型如何在不同的层面上协同工作,推动产业应用的落地。一、 基础设施层AI 大模型技术发展离不开坚实的基础设施支...

musicml的博客 2049

AI竞赛的铁人三项【算法(做功效率)、数据(燃料)、算力(引擎)】关系、作用及例子 合力创造奇迹

在AI竞赛的“铁人三项”中,如果将算法比作“做功效率”和数据比作“燃料”,那么算力可以被比喻为“引擎”。引擎(算力)是驱动整个系统运行的核心。它决定了车辆(AI系统)的性能上限,即无论燃料有多好或者效率有多高,没有足够强大的引擎,车辆的表现也会受限。同样,在AI领域,即使拥有先进的算法(做功效率)和大量的数据(燃料),如果没有足够的算力(引擎)来处理这些数据和运行这些算法,AI模型的性能也会受限。

chenhao0568的专栏 3008

2026 AI 算力全栈拆解:不止 GPU,撑起现代 AI 的 6 大核心处理器全解析

2026年AI算力体系已形成由6大异构处理器构成的完整生态:CPU作为系统调度中枢,GPU主导大模型训练,TPU优化超大规模训练成本,NPU实现端侧低功耗推理,LPU专攻大模型低延迟响应,DPU承担数据中心基础设施卸载。这些处理器针对AI全链路不同环节进行专项优化,协同完成从用户请求到结果返回的完整流程。行业竞争已从单一模型能力转向全栈算力布局,谷歌、NVIDIA等巨头均在6大领域全面发力。AI算力选型需根据具体场景需求选择适配方案,而非盲目追求单一芯片性能。现代AI的底层支撑是这套异构计算体系,而非某款明

释迦呼呼的博客 1990

AI之路第一步:纵论数据驱动的AI基础设施——下一代数据网(附PPT下载)

来源:Teada本文约4300字,建议阅读10+分钟。本文整理介绍了下一代数据网的“数据视角”主张、“云网链一体化”解决方案和赋能方案。[ 导读 ]2018年10月18—...

THU数据派 818
上一篇: 从“朝朝宝”说起:聊聊技术、业务与行业认知的三角关系
下一篇: AGENTS.md 进阶:如何让 AI 从「被动听从」变为「主动查阅」
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ปรัชญา แค้วคำมูล

你的鼓励将是我创作的最大动力!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值