Adlik 支持基于云燧i20的 AI推理服务部署，共建AI生态链

关注

转载最新推荐文章于 2026-06-12 10:02:14 发布 510 阅读 AI 写同款· GEO 优化 ›

Adlik：Adlik：加速深度学习推理的工具包阿德利克 Adlik [ædlik]是深度学习模型的端到端优化框架。 Adlik的目标是在云和嵌入式环境上加速深度学习推理过程。借助Adlik框架，可以以非常灵活和轻松的方式将不同的深度学习模型部署到具有高性能的不同平台。在云环境中，应将已编译的模型和Adlik Inference Engine构建为docker映像，并部署为容器。在边缘环境中，应将Adlik Inference Engine部署为容器。应将编译后的模型转移到边缘环境，并且Adlik Inference Engine应该自动更新和加载模型。在设备环境中，Adlik Inference Engine和编译后的模型应编译成二进制文件（ so或lib ）。想要在设备上运行模型推断的用户应将用户定义的AI函数和Adlik二进制文件链接到执行文件，然后直接运行。我们使用简单的CNN模型（MNIST模型），ResNet50模型和具有不同服务引擎的InceptionV3，在同一CPU或GPU上测试Adlik的推理性能。 Adlik在不同模型上的测试性能数据如下：内容模型优化器专注于特定的硬件并在其上运行以立即下载

近日，中兴通讯开源的Adlik深度学习推理工具链新增对人工智能推理加速卡云燧i20的支持，可实现基于云燧i20的高效AI模型部署，提供高性能的云端推理服务。

Adlik是由中兴通讯在Linux基金会人工智能&数据基金会（LF AI & Data）发起的开源项目，旨在提升深度学习、机器学习等模型在各种硬件平台下的推理效率，助力人工智能在云、边、端等多种场景快速落地。

对异构硬件的推理支持是Adlik的核心亮点之一。目前人工智能推理芯片处于百花齐放的状态，不同芯片之间的架构差异导致推理引擎也层出不穷。利用Adlik，可快速实现各种主流深度学习框架所训练出的模型在多种不同硬件环境中的高效统一部署，引入云燧i20使得 Adlik的适用场景得以进一步拓展。

云燧i20是由燧原科技打造的面向数据中心的第二代人工智能推理加速卡，具有高性能高能效、模型覆盖面广、易部署易运维等特点，结合燧原科技推出的鉴算TopsInference推理引擎，能够为深度学习应用提供低延迟、高吞吐率的推理性能。

Adlik能够充分发挥云燧i20性能优势，同时提升在云燧i20上部署AI模型的易用性。首先Adlik编译器会将深度学习模型转化为云燧i20可支持并优化的模型表示，然后由Adlik推理引擎为其自动匹配加载插件式的推理运行，以实现模型的版本管理、运行调度，为人工智能应用提供满足性能要求的推理服务。此外，由Adlik提供统一的推理接口，模型也可以从其它硬件快速、无缝迁移到云燧i20。

近年来我国的AI新基建蓬勃发展，AI开源框架、加速芯片、开放平台等呈现百花齐放的态势，为国内的数字化转型提供了有力支撑。Adlik作为深度学习模型推理领域的端到端工具链，也加快了构建国内技术生态的脚步，本次和云燧i20的合作是Adlik打造我国AI生态链的又一次尝试。

中兴通讯Adlik开源项目首席架构师刘涛表示：“中兴通讯开源Adlik社区，期望可以引领建设融合的AI生态圈，使用统一的工具链打通不同框架和硬件相互割裂的生态现状，从而真正实现高效率、低成本的AI应用落地。这次Adlik与燧原科技的云燧i20成功合作，就是基于生态建设思想的一次有力实践，后续期待双方在深度学习模型训练、优化、编译、部署等关键技术上展开合作，助力不同行业智慧化转型，有力推动数字经济发展”。

燧原科技软件生态负责人李彬表示“构建开放和软硬协同的生态环境，是推动人工智能产业快速发展的战略路径。燧原科技的云燧i20与中兴通讯Adlik的合作，是AI芯片与工具链软件生态在推理业务领域的深度融合，可以充分发挥人工智能基础设施的整体效能，加快人工智能应用场景的落地，打造数字化经济。”