XConn PCIe Switch 和 CXL:加速AI基础设施的创新

手把手教你学pcie(嵌入式软件角度)--​​存算芯片与CXL 3.0的深度集成:全栈融合架构设计与实践​ 摘要: 存算芯片(CIM)与CXL3.0的深度融合通过协议协同、架构重构与资源池化,实现全栈优化。CXL3.0赋能存算芯片内存池化与缓存一致性,存算芯片通过近存计算和3D堆叠降低延迟至10ns,带宽达1.3TB/s,能效提升10倍以上。全栈架构涵盖芯片内计算层、存储计算融合层及数据中心互联层,应用于边缘AI(延迟1.8ms)、科学计算(效率提升80%)及高频交易(吞吐50万笔/秒)。当前挑战包括协议兼容性与散热,未来将探索光互连与量子协同。该技术为异构计算提供颠覆性解决方案。 阅读详情
AI摘要

XConn Technologies专注于PCIe和CXL技术,推出Apollo系列产品满足高性能计算需求。其技术核心是提供硅解决方案,产品不断演进。CXL作为互联标准,对AI/ML工作负载重要,可共享扩展内存资源。在数据库管理和AI推理等场景有高效应用,推动了AI发展。

XConn PCIe Switch 和 CXL:加速AI基础设施的创新

在当今快速发展的科技领域中,XConn Technologies以其专注于提供全硅解决方案的互连交换架构而闻名。尤其在PCIe(Peripheral Component Interconnect Express)和CXL(Compute Express Link)技术上,XConn推出了Apollo系列产品,旨在满足AI、深度学习和机器学习等高性能计算需求。

XConn的技术核心

XConn致力于为AI基础设施提供完整的硅解决方案,其主要产品包括用于CPU、GPU、NIC(网络接口控制器)、SSD(固态硬盘)以及内存之间互连的PCIe/CXL交换机。特别值得一提的是,XConn推出的UALink交换机能够在机架级别的POD中扩展GPU的互连,极大提升了数据处理能力和效率。

Apollo系列产品的演进
  • Apollo I 支持PCIe Gen 5.0和CXL 2.0标准,已经通过了NVIDIA的NVQual认证和CUDA P2P性能测试,展示了其在高要求环境下的稳定性和卓越性能。

  • Apollo II 进一步升级到了PCIe Gen 6.2和CXL 3.1,引入了诸如64GT/s的数据传输速率、PAM4调制、前向纠错(FEC)等新特性,并且支持与之前版本的向后兼容性。

  • Apollo III 预计将推出支持UALink 1.0、PCIe Gen 7.0和CXL 4.0的新一代交换机,预示着未来更高的速度和更先进的功能。

CXL对AI/ML工作负载的重要性

CXL作为一种开放性的互联标准,允许高效地共享和扩展内存资源,在AI/ML工作负载中扮演着至关重要的角色。通过使用CXL,可以实现更大规模的数据集训练和推理,同时降低延迟并提高系统整体效能。例如,三星的CMM-B系统展示了如何利用CXL 2.0规范进行内存池化,以达到高达16TB的可扩展性和显著的性能提升。

应用场景

无论是数据库管理中的大规模内存需求,还是AI推理过程中的高容量内存配置,CXL都能够提供更加高效的解决方案。此外,它还支持DRAM的再利用,如DDR4,这对于预算有限但需要强大计算能力的企业来说是一个巨大的优势。

结论

随着技术的发展,XConn Technologies不仅推动了PCIe和CXL标准的进步,也为全球范围内的数据中心和AI应用提供了强有力的支持。从Apollo I到即将发布的Apollo III,每一代产品都体现了XConn对于技术创新和客户需求的深刻理解。未来,随着更多先进特性的加入,我们可以期待看到这些技术在促进AI发展方面发挥更大的作用。

保姆级教程:用CXL Switch玩转硬件资源池化,从单VCS到多VCS配置全解析 本文详细解析了如何利用CXL Switch实现硬件资源池化,涵盖单VCS、多VCS及MLD端口的配置与优化。通过实战案例和代码示例,指导数据中心架构师高效部署弹性资源池,提升GPU和内存利用率,解决传统服务器资源浪费问题。 阅读详情

相关推荐

【CXL】CXL 4.0 速览:128 GT/s、Port Bundling、RAS 增强

本文概述了CXL 4.0的关键特性与市场前景。作为CXL 3.x的物理层和可靠性升级版,4.0主要带来三大改进:单lane速率提升至128GT/s(对齐PCIe Gen7)、支持多端口绑定(Bundled Ports)以增强带宽和冗余性,以及针对AI场景的内存可靠性增强(RAS)。尽管技术指标显著提升,但受制于PHY研发周期、产业生态成熟度和软件支持滞后等因素,预计4.0的大规模部署要等到2027年后。建议开发者优先掌握CXL 2.0/3.x,产业界可提前关注其RAS机制与端口聚合技术对未来数据中心架构的影

元直的博客 352

Static CXL Switch:静态CXL交换机相关内容

摘要: 静态CXL交换机(Static CXL Switch)通过预配置实现快速部署,无需依赖Fabric Manager(FM)动态管理。其核心特性包括: 静态初始化:通过厂商预设配置(如SPI闪存文件)在启动时完成虚拟CXL交换机(VCS)和端口绑定,支持主机直接枚举; 虚拟化隔离:每个VCS作为独立逻辑单元,拥有专属资源(vPPB、端口等),但端口绑定后不可动态调整; 有限灵活性:兼容PCIe/CXL协议,支持标准热添加,但不支持多逻辑设备(MLD)和异步移除; 适用场景:适合拓扑固定的环境,如单租户

qudunan6468的博客 952

php-xconn:简单地处理跨多个用户适配器的多个连接

php-xconn(交叉连接器) 只需处理跨多个用户适配器的多个连接。 特征 仅在必要时连接,在运行时仅连接一次 无依赖性 - 为任何扩展编写任何适配器或仅代理接口本身 一个适配器的不同实例(例如几个不同的 memcached 实例) 支持关闭方法 易于配置 必需的 PHP 5.4+ 用法 use xconn\ Connector ; 选项 1. 关闭 /* Touch connection and pass closure. You may pass data scope inside through 'use' */ $ foo = Connector :: touch ( 'memcached' , function ( $ m ) { return $ m -> get ( 'bar' ); })); /* More logic inside */ $ users

这颗博通PCIE SWITCH芯片,涨到14万 。国产替代势在必行!

随着AI和高性能计算需求不断增长,需要更大的互联带宽,NVLink的带宽是双向带宽,如NVLink 3.0的带宽可以达到7200 Gbit/s,即900 GB/s,明显优于PCIe,而且在每GPU连接数量上限也高达18张,GPU的性能就可以发挥到最大化,这也就是为啥黄老板说买得越多省越多。打头的芯片,询价热度较高,市场上找货需求异常多,如SS26-0B00-02、SS24-0B00-02、SS23-0B00-02,其中SS26规格高,最为缺货,规格低一些的SS24、SS23虽然没那么缺,也有不少人在找货。

szxinmai的博客 5626

手把手教你用DLP4500投影仪玩转结构光3D扫描(附固件烧录与序列设置避坑指南)

本文详细解析了如何使用DLP4500投影仪搭建结构光3D扫描系统,涵盖硬件组装、固件烧录、图案生成与优化等全流程。重点解决了固件烧录失败、图像格式错误等常见问题,并提供了实用的避坑指南和进阶技巧,帮助读者快速掌握DLP4500在3D扫描中的应用。

weixin_42662293的博客 300

电子设计实战:用MOS管手把手搭建D触发器电路(含时序分析避坑指南)

本文详细介绍了如何使用MOS管从零开始搭建D触发器电路,重点解析了建立时间和保持时间等关键时序参数对电路稳定性的影响。通过实测波形分析和避坑指南,帮助电子工程师掌握D触发器的实际搭建技巧与优化方法,提升数字电路设计的可靠性。

x1y2z的博客 1159

【CXL协议-Switching(7)】

交换机禁止从 FM 到绑定 SLD 端口的任何 CXL.io 访问,以及从 FM 到 MLD 组件内绑定 LD 的任何 CXL.io 访问。交换机禁止从 FM 到绑定 SLD 端口的任何 CXL.io 访问,以及从 FM 到 MLD 组件内绑定 LD 的任何 CXL.io 访问。交换机禁止从 FM 到绑定 SLD 端口的任何 CXL.io 访问,以及从 FM 到 MLD 组件内绑定 LD 的任何 CXL.io 访问。因此,绑定到MLD端口的vPPB的特性和行为与绑定到SLD端口的vPPB的特性和行为不同。

Summer的博客 3390

车载摄像头+max96712 + rk3568 调试过程中遇到的问题

本文主要讲述本人在调试rk3568通过mipi-csi2链接max967812,max96712再外接4路车载摄像头过程中遇到的问题,以及最终如何解决这些问题。图中会贴上很多重要且关键的波形图,以便读者在调试过程中进行比对,分析。 如果在调试过程中,mipi总线上的波形没得什么问题的话,还是抓图失败的情况下,需要着重检查 频率,lane数,摄像头分辨率,摄像头输入图像格式等重要配置。

Amelio Ming 2062

一文告诉你CXL是什么,有什么新的机会 (上)

一文告诉你CXL是什么,有什么新的机会

weixin_42471446的博客 3301

电路抗干扰原理及应用(1)

电路抗干扰原理——介绍干扰源、干扰途径、抗干扰技术(接地技术)

qq_34758408的博客 2055

一步步教你使用 NVIDIA 推出的全新GPU加速求解器 cuOpt:解锁超高效率的求解体验

未完成

Linshaodan520的博客 868

FMS 2024:多家厂商CXL技术方案总览

FleX技术则将CXL内存引入主板。XConn Technologies和MemVerge的合作展示了CXL技术在AI和内存数据库领域的巨大潜力,通过实现可扩展的内存共享,该解决方案不仅提高了性能,还降低了总体拥有成本。MSI的S2301 CXL内存扩展服务器结合了三星的256GB CXL2.0内存模块和MemVerge的Memory Machine X软件,通过智能管理内存层级来优化AI和其他内存密集型工作负载的成本和性能,根据带宽或延迟QoS策略自动将数据放置在合适的内存层级,以达到最优性能。

存储随笔 3654

LLM的MCP协议:初识MCP,搭建第一个MCP Server

MCP(Model Context Protocol),是一个开发的协议,标准化了应用程序如何为大模型提供上下文。MCP提供了一个标准的为LLM提供数据、工具的方式,使用MCP会更容易的构建Agent或者是基于LLM的复杂工作流。

Criss@陈磊 2万+

VPP接口二层互联xconnect

以下命令将接口设置为L2二层互联模式,如果要双向流量,需要两个口都设置成此模式。一个接口上接收到的报文将发送到另外一个接口,反之亦然。

redwingz的博客 1846

DSI3协议介绍

分布式系统接口(DSI)是一种通用且功能强大的总线协议,旨在将多个遥感器和执行器设备互连到中央控制模块。该网络的主要目标应用是汽车安全系统。这种应用的一些特点是需要低成本、高鲁棒性、中速互连,仅限于两根导线。此外,它必须具有故障安全性、确定性和良好的EMC特性。即使具有所有级别的智能和可编程性的设备都可以连接到网络,远程设备也必须能够通过简单的状态机实现。由于模块尺寸非常重要,因此中央模块和远程单元中的最小组件至关重要。

汽车电子软件领域知识分享 1万+

网表导入virtuoso后发现pg pin忘记connect_pg_net/globalNetConnect怎么办?

数模混合项目中经常需要一些需要到virtuoso去连接的线,比如IO上的pg和一些信号线,除了在pr工作中设置skip route之外还需要做好net的赋值,告诉工具虽然我没在物理上有连接,但是实际上应该连什么net,这部分提现在网表里。在Default Net Name中也填写net name,因为这个net需要做global操作,即在顶层定义这个net,所以需要在net name后加个!打开schematic,删除指定cell pin所接net的label。

m0_61544122的博客 967

FMS 2024: 带来哪些存储技术亮点?

XConn Technologies和MemVerge的合作展示了CXL技术在AI和内存数据库领域的巨大潜力,通过实现可扩展的内存共享,该解决方案不仅提高了性能,还降低了总体拥有成本。创始人观点:Andy Hsu,Neo Semiconductor 创始人兼 CEO 表示,现有的 AI 芯片架构由于数据存储与数据处理分离,导致数据总线成为不可避免的性能瓶颈,而 3D X-AI 能够在每个 HBM 芯片内部执行 AI 处理,显著减少 HBM 与 GPU 之间的数据传输量,从而大幅提升性能并降低功耗。

存储随笔 4002

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

唯有自身强大才能呼风唤雨—Intel要携CXL一统互联江湖了吗?

未来CXL将是巨大的机遇,CXL扩展expander、内存池化、加速计算、CXL switch都将发挥各自的能量,打造强大的CXL生态,造福互联世界,让我们共同期待!

存储随笔 1533

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

CXL概述(二)

CXL1.0 2.0. 3.0 差异对比,应用场景。CXL 提供内存一致性和内存语义(load/store),其带宽可与 PCIe 带宽相匹配,同时延迟大大低于 PCIe。

这个地瓜真是甜啊 6287

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

深度解读 CXL 4.0:Bandwidth First

带宽正在成为定义下一代系统架构的首要因素。CXL 4.0 的到来,不仅是对 PCIe 7.0 物理层的复用,更是为了满足 AI 时代对数据流动效率的极致追求。对于正在规划下一代数据中心芯片的团队来说,现在就是开始评估 128 GT/s 通道特性和架构权衡的最佳时机。

ssh_2010的博客 826

什么是CXL(Compute Express Link)技术?一文读懂CXL

CXL (Compute Express Link) 技术是一种新型的高速互联技术,旨在提供更高的数据吞吐量和更低的延迟,以满足现代计算和存储系统的需求。它最初由英特尔、AMD和其他公司联合推出,并得到了包括谷歌、微软等公司在内的大量支持。CXL的目标:解决CPU和设备、设备和设备之间的内存鸿沟。服务器有巨大的内存池和数量庞大的基于PCIe运算加速器,每个上面都有很大的内存。内存的分割已经造成巨大的浪费、不便和性能下降。CXL就是为解决这个问题而诞生。

Lion_Long的博客 1万+

【CXL 4.0】CXL规范中关于HDM-H,HDM-D,和HDM-DB的思考

本文探讨了CXL 4.0规范中关于设备内存管理的三种类型:HDM-H(主机管理)、HDM-D(设备管理)和HDM-DB(反向无效机制管理)。通过分析DVSEC CXL Capability/Control寄存器可以区分设备类型(type1/2/3),其中HDM类型由HDM Decoder寄存器控制。特别指出type2设备需要自行实现偏置表(Bias table)来确定偏置模型,这与通过寄存器配置的其他类型不同。文章提供了相关寄存器的位域说明,帮助理解CXL协议中设备内存管理机制的设计原理。

qudunan6468的博客 358

【每日一题】PCIe 6.0 与 CXL 3.0 发展现状

PCIe6.0与CXL3.0技术进展及测试方案解析 摘要:本文分析了PCIe6.0和CXL3.0的最新发展现状,PCIe6.0协议测试已进行五次pre-FYI workshop,SerialTek测试工具表现最优,但电气合规性规范尚未定稿;CXL3.0因资源倾斜进展缓慢。介绍了在真实CPU服务器缺位情况下的测试环境搭建方案,包括Switch卡、Retimer卡等关键设备选型建议,并详细对比了SerialTek、SanBlaze等主流测试设备的优势。针对信号完整性挑战,揭示了PCIe5.0背板存在的严重信号质

Saniffer的博客 609

【CXL协议-安全(11)】

CXL协议之安全

Summer的博客 2378

破局“内存墙”:深度解析2026年CXL内存池化服务器的架构革命与选型之道

CXL内存池化服务器正成为突破"内存墙"瓶颈的新一代硬件架构。其核心组件包括计算节点、CXL交换机和内存节点,通过硬件级缓存一致性和微秒级低延迟实现高效访问。根据协议版本、内存介质和部署形态可分为多种类型,相比传统架构能显著提升内存利用率至80%以上。未来将与光互联、AI调度等技术深度融合,推动数据中心向"液态内存"时代演进,为国产芯片提供发展机遇。这一变革要求技术人员同步升级硬件拓扑和分布式系统知识,以应对算力竞争新格局。

2401_83558630的博客 1519

一文了解高速互联技术CXL

CXL的起源可追溯到数据中心和高性能计算领域对更快速、更高效互连技术的需求。过去,HDD磁盘和内存之间差距很多,但随着SSD、NVMe 设备的出现逐渐弥补了中间的鸿沟。然而即使采用了NVMe设备,其与内存的差异仍然有10倍以上。传统数据库对于这一差异已经不再敏感,原因是因为系统的瓶颈已经来到了CPU侧,因此这几年所有人都在关注列存、向量化等技术来降低内存使用。对于许多应用而言,尽管NVMe的延迟已经足够满足要求,但是吞吐依然是很明显的瓶颈,因此并不能完全替代内存,这其中模型训练、向量数据都是非常典型的场景。

Summer的博客 1464
上一篇: Allwinner T113 UART转485
菓冻兒
博客等级 码龄15年 49粉丝 14原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值