DeepSeek微算中心

绿算高性能全闪存储技术+RoCE +FPGA，为AI增速

概述

绿算技术微算中心目前已经和DeepSeek完成了适配和优化，基于绿算技术创新架构，深度融合全闪存阵列、FPGA加速与RoCE技术的微算中心，可为大模型训练与推理提供高性能低延迟的存储以及灵活部署方式，相关核心技术可为企业级AI服务实现增速。

核心模块

l 航空抗震机柜：采用航空级抗震设计，内置PDU电源分配单元与高效散热风扇，确保系统在运输和极端环境下的稳定运行。

l 算力模块：可搭载英伟达等国外或国产训练和推理卡，按需提供算力单元，应对各种小型复杂计算任务，实现AI推理与训练，助力科研创新与产业升级。

l 运力模块：可搭载基于RoCE的超高性能无损以太网交换机，实现数据的高速、低延迟传输，构建高效的数据流通管道。

l 通用服务器模块：可搭载按需搭载X86或国芯服务器，实现存储I/O管理与数据库软件服务，支持多样化的数据存储与处理需求。

l 分布式文件系统：搭载的文件系统，支持对象存储、块存储和文件存储，支持副本或EC，满足数据冗余的相关需求。

l 极速闪存阵列：搭载自研的极速闪存存储阵列，单机2U的设备，可达3200万的IOPS处理能力、140GB数据聚合带宽、3PB的数据容量、低于20微秒的时延，支持6个25/50/100/200G连接端口，支持RDMA协议解析、Nvme OF 协议卸载，实现极速的读写能。

性能指标：

存储吞吐量: 读140 GB/s / 写 80 GB/s

存储 IOPS: 读 32M /写 8.8M (4K随机)

背景与挑战：

· 本地存储限制：

由于本地算力服务器的PCIe通道数量不足，本地SSD硬盘无法大规模挂载，导致本地硬盘的缓存容量受到限制，其性能无法得到充分发挥。这种限制不仅影响了缓存数据的存储量，还限制了缓存的读写速度，进而影响了模型推理的整体效率。

· 文件系统性能瓶颈：

虽然采用文件系统进行大容量存储挂载是一种常见的解决方案，但远程存储集群的文件系统性能问题又会影响挂载存储的整体性能。例如，文件系统的元数据管理、数据一致性维护以及网络延迟等因素，都会导致存储性能的下降。这种性能瓶颈不仅限制了硬盘缓存技术的潜力发挥，还可能导致数据读取速度变慢，进一步影响推理任务的执行效率。

· 推理延迟问题：

在处理复杂任务时，上述问题可能导致推理延迟过长，从而影响用户的整体体验。例如，在需要实时响应的应用场景中，如金融交易分析、自动驾驶辅助系统等，推理延迟的增加可能会导致决策延迟，甚至错过关键的业务机会。