【ATU Book-DeepX 系列】DeepX DX-M1 强势来袭，引爆边缘 AI 运算新革命

一、概述

随着人工智能（AI）技术不断演进至工业自动化、智慧交通、医疗护理与消费性电子等领域，过去依赖的中央处理器（CPU）与图形处理器（GPU）在能效与实时性需求面前，逐渐显得力不从心。为满足日益增长的 AI 推理需求，专为神经网络运算设计的神经网络处理单元（Neural Processing Unit，简称 NPU）应运而生，成为新一代边缘 AI 芯片不可或缺的核心组件。

驱动边缘AI芯片应用的核心引擎NPU，通过专为深度学习运算（如卷积神经网络CNN、递归神经网络RNN）设计的指令集与硬件架构，能够以极高效的方式运行。低功耗实现高性能推理，让各类终端设备在无需依赖云端的情况下，即可独立完成物体检测、人脸识别、语音识别、自然语言处理等 AI 任务，即所谓的 边缘计算（Edge Computing）。

与 GPU 相比，虽然 GPU 拥有强大的并行处理能力并适合于模型训练与开发，特别是在数据中心或高性能计算领域，但在能效与实时性方面仍有一定限制。NPU 则针对 AI 推理所需的矩阵运算、卷积操作与非线性激活等核心流程进行硬件优化，不仅大幅降低功耗，还能缩短推理延迟特别适合部署于智能手机、边缘服务器、智能车辆、智能医疗、智能监控、工业机器人及物联网设备等对响应速度与能源效率有高度要求的场景中。随着边缘AI应用持续扩大，NPU 将成为驱动智能化设备与系统演进的重要推动力。。

DeepX：引领智能新浪潮的造势者

在边缘计算浪潮中，DeepX 为韩国新创的AI芯片公司，拥有约 240 多项智能专利并在 CES 2024 一次荣获嵌入式、机器人三项创新奖、电脑整合等等大奖。甚至被美国消费者技术协会 （CTA） 评为“必访公司”，成为全球市场的焦点 。

DeepX DX-M1 的 NPU 芯片强势来袭，凭借着强大的边缘计算能力（25TOPS） 以及 IQ8™（Intelligent Quantization Integer 8）独家的量化技术，足够媲美 GPU 的准确度突破了传统整数运算解决方案的限制，助力推动更精确的AI推理场景。在功耗和温度表现方面更是表现出色，脱颖而出。DeepX 高性能 AI 解决方案在 低功耗（5 TFLOPS/W）与极低的工作温度 39°C 下提供 25 TOPS 的卓越性能，成为智慧监控、智慧医疗、智慧制造等边缘 AI 应用的唯一首选。

软件持续优化更新：打造最佳用户体验

DeepX 不仅拥有强大的硬件性能，并且打造了一个完整且友好的软件生态系统，为开发者提供全方位的支持。其生态系统包含详细的快速入门指南（Quick Start Guide）、功能强大的软件开发工具包（SDK）、丰富的模型资源库（Model Zoo），以及多样化的示例应用程序。这些资源能有效协助开发者迅速整合并优化 AI 模型的运行，缩短开发时间，同时提升应用性能，让 AI 创新变得更加轻松实现。

卓越的AI性能

利用 DeepX DX-M1 芯片运行当前最热门的 YOLOv5s （640x640） 目标检测算法，可轻松达到每秒约 330 张。

二、DeepX DX-M1 引领 AI 智能新浪潮的造势者

深度X于 2018 年由 Lokwon Kim 创立并担任首席执行官。其理念是打造业界领先的设备端 AI（On-device AI）芯片，期望每个人无论身处何地都可以使用 AI。通过 DeepX 的开发设计，实现低功耗、高性能、低成本的人工智能半导体，使所有设备都变得智能化。其成就已受到各大社交媒体与国际组织青睐，并与众多合作伙伴共同创造新的智能未来，如 友通资讯 DFI、乐金LG 、映泰 BIOSTAR、英业达  等知名企业。

DX-M1 是 DeepX 最新的一代芯片。具有高计算能力（1W / 5 TFLOPS）、高精度、低功耗、低温度高跨平台整合性等优势，其中以 IQ8™（智能量化整数8）量化技术，在拥有 INT8 的极致效率的同时也能享受到 FP32精度 实现无与伦比的 AI 精度 [链接]。并提供丰富的模块资源，能够让用户体验更完善的 AI 资源整合，因此推出了 DX-M1 M.2 AI Accelerator 加速卡，如下图所示。加速卡配置了 4G 的 LPDDR5 内存，让用户可以尽情地将模块放入 DX-M1 芯片运行，并且内置搭配一颗 Cortex M55@1Ghz 协同处理部分算子，同时确保模块的隐私性（Security）。

规格

优势介绍

（1） 采用 IQ8™ （Intelligent Quantization Integer 8） 量化技术，能够媲美 GPU 的精确度。

（2） 不占用系统内存

（3） 具备高性能、高准确度、低功耗、低温度等特性拥有 25 TOPS 的 AI 性能仅需花费 4.5 W

（4） 最佳数据流优化，能够最大限度地减少数据移动

（5） 丰富的软件应用资源，能够提供市场所需的解决方案

软件框架 （Software Framework）

DXNN系统由三大核心组件构成，分别是量化器（Quantizer）、编译器（DX-COM Compiler）以及运行时环境（DX-RT Runtime），共同驱动旗下的DeepX AI SoC系列产品。这些组件相互协作，形成一个高效的人工智能运算平台，为各种应用场景提供强大的支持。以下图示范说明其架构：

下列表格是 GPU 与 DX-M1 的准确度分析，其中绿字表示 Full Precision 代表 GPU。蓝字表示 IQ8 代表 DeepX NPU。（实际数据会随 SDK 版本变动）

DEMO 示例

DeepX 原厂致力于推动人工智能技术的普及，提供多样化的 AI 示例与教学资源，循序渐进地引导开发者掌握 AI 应用的实现过程。通过这些示例，开发者不仅能深入了解人工智能的核心技术，还能学习如何将其灵活运用于实际场景，从而加速创新与技术落地。

三、结语

DeepX 是如何通过 AI 芯片来改变边缘人工智能应用的客户体验，从而打造人人可用的 AI 芯片：

1. 极致能效表现

     DeepX DX-M1 采用 IQ8™ 技术，在仅 4.5W 功耗下，提供高达 25 TOPS 的推理性能，远优于传统 GPU，特别适合需要高性能与低功耗的边缘计算场景。

2. 近乎浮点精度的整数运算（高精度 INT8） 

     通过 IQ8™ 智能量化技术，DX-M1 能够在 INT8 整数格式下实现接近 FP32 浮点精度，确保模型推理的高准确率，无需额外的模型修改或重新训练。

3. 完整且友好的开发生态（Developer-Friendly Ecosystem） 

    提供完善的SDK、模型资源库（Model Zoo）与各类示例应用，加速开发者导入与部署，降低学习门槛，快速实现产品。

4. 高度集成模块设计（紧凑型和集成模块）

     DX-M1 M.2 AI 加速卡内置4GB LPDDR5内存和Cortex-M55协处理器，提供大容量内存，可支持多个AI模型应用，方便集成到各种终端设备中。

5.  优化数据流架构

     针对数据流设计硬件架构，减少数据搬移成本，大幅提升推理速度与系统响应时间。

6.  低温运行，无需散热设计（Low Temperature Operation）

      DX-M1 即使在高运算负载下，运行温度仍可控制在 39°C 左右，无需额外风扇或散热器设计，降低系统复杂度与成本。

因此，DeepX 凭借其创新的 DX-M1 解决方案，正在重新定义边缘人工智能的技术标准。从高性能、低功耗、高准确度，到完善的软件支持与模块整合设计，DeepX 正为边缘AI的快速普及与落地提供坚实后盾。其核心技术不仅解决了传统 GPU、CPU在能效与实时性上的瓶颈，也为开发者与企业用户提供了灵活、快速且高可靠性的AI解决方案。

随着人工智能在零售、智慧城市、医疗护理、工业4.0等领域的蓬勃发展，DeepX正站在边缘计算技术的浪潮之巅，持续推动智慧世界的实现。借助原厂提供的各类开发资源与示例指引，AI 已不再遥不可及，只需按照简单步骤，就能快速实现各种创新应用。如果您是想试用或采购 DeepX DX-M1 产品的新伙伴，请立即联系我们！谢谢！

四、参考文件

视频介绍：

[1]突破想象！ DeepX 之 DX - M1全方位高性能Demo演示

新闻介绍：

[1] 韩国初创公司DEEPX重押台湾！携手英业达强攻边缘计算，力争打造“人人可用”的AI芯片

[2] DEEPX首席执行官Lokwon Kim：打造人人都能使用的AI芯片

[3] DEEPX 助攻！英业达最新 AI 服务器问世 强袭 CES 抢单

[4] DEEPX凭借领先AI芯片技术荣获三项CES 2024创新奖

[5] DeepX与LG合作，将先进的AI芯片应用于移动设备、汽车和家用电器

参考网站：

[1] DeepX官网

[2] DeepX 开发网站

[3] Orange Pi 5 Plus网站

如有任何相关深度X技术问题，欢迎在博文底下留言提问！

接下来还会分享更多深度X的技术文章 !!敬请期待【ATU Book-DeepX 系列】!!

相关文章：强势来袭，引爆边缘AI运算新革命 - DeepX DX-M1 AI加速卡结合Rockchip RK3588多路物体检测解决方案