【ATU Book-i.MX 系列 - ML】手把手教你玩 AI - NXP i.MX 8M Plus 结合 Hail-8 AI 芯片带领你快速实现 AI 应用

一、概述

近年来，电脑视觉(Computer Vision) 领域迎来了重大改革，从过去一个一个像素处理(Pixel) 的方式，已经转变成由“大数据(Big Data)”来统计出所谓“模组(Model) ”的 深度学习(Deep Learning) 应用方式。更何况是颠覆人类想像的生成式 AI ( Generative AI ) 与 ChatGPT 、可说是 人工智能(Artificial Intelligence) 的时代已经全面来临，让周边的设备智能化已经不是遥不可及的梦想 !! 然而，过去无数学者、研究员、工程师致力研发的系统，现今仅须透过一些简单的方法就能轻松实现。而现今各大厂牌的 神经网路处理器(Neural Processing Unit, NPU) 约莫于 1 至 5 TOPS 左右算力，但仍有一些高算力高精准度的应用场景需求，因此这里将介绍以恩智浦 NXP 的 i.MX 8M Plus 平台搭载 Hailo-8 AI 芯片 (26 TOPS) ，即可快速实现成终端产品!! 并贯彻“边缘运算(Edge Computing)”的理念，来达成更及时且高精准运算的运算平台 !!

如何建立 NXP 嵌入式系统的开发环境， 读者可以阅读此 【ATU Book - i.MX8系列 - OS】NXP i.MX Linux BSP 开发环境架设 来快速布署恩智浦 NXP i.MX8 系列的开发环境，透过此博文或 ATU 一部小编的系列博文，即可轻松实现任何有关 i.MX8 的环境架设 !! 或是想要更快速进入到 NXP 平台的实作中，可以至官方网站下载官方发行的 Linux 映像档(Image)。

Note : 目前作者测试的版本为 BSP L5.15.52-2.1.0 ( kirkstone )

Embedded Linux for i.MX Applications Processors | NXP Semiconductors

NXP i.MX 8M Plus 与 Hailo-8 架构示意图

然而，本篇文章将会以 NXP i.MX 8M Plus 系统芯片与 Hailo-8  AI 芯片一同搭配作为 高算力的边缘运算平台 ，并配上 Hailo TAPPAS 的范例程式 与 Hailo Model zoo 模组直接部属至模型，来呈现 Hailo-8 的效能表现 !! 请跟随作者的脚步，一同窥探全球最知名的系统芯片与 AI 芯片的魅力所在吧 !!

二、平台资源介绍

(1)  NXP i.MX 8M Plus 平台

恩智浦半导体是全球前十大的半导体公司，主要提供微控制器、处理器、无线通信芯片、安全元件与周边被动元件，以及软体系统的参考范例，，并致力用于智能工厂(Smart Factory)、智能医疗(Smart Medical)、智慧生活(Smart Life)、智慧城市(Smart City)、物联网(IoT)、工业 4.0、先进辅助驾驶系统(ADAS) 等应用。i.MX 8M Plus 系列平台搭载 4 颗Arm Cortex-A53 处理器以及一颗 2.3 TOPS 神经网路处理器(NPU)，并拥有非常强大的 IO 支援，且可配合 Hailo AI 加速芯片来大幅度强化边缘运算的能力。

核心技术优势：

• 强大的处理器配置 : 搭配 4 颗 Arm Cortex-A53 处理器与 1 颗 Cortex-M7F。
• 特定的处理器配置 : 2D/3D 图形加速器(GPU)、2.3 TOPS 神经网路处理器(NPU)、1080p@60 视讯解编码器、 2 x 12MP 影像讯号处理器(ISP)。
• 丰富的 I / O 支援，能够提供齐全的周边配置 : 如高画质多媒体界面(HDMI)、低压差分讯号技术界面(LVDS)、乙太网路(Ethernet)、控制器区域网路(CAN bus)、异步收发传输器(UART)、通用序列汇流排接口(USB Type A/C)、5 mm headset 音源接口、镜头资料传输界面(MIPI-CSI)、显示资料传输界面(MIPI-DSI)、M.2 - PCIe 3.0 传输界面(2lane)。
• 可快速上手应用 eIQ / PyeIQ 机器学习开发环境，提供 TensorFlow Lite、ONNX、DeepViewRT 等多种深度学习框架的应用范例。

(2) Hailo-8 AI 芯片

Hailo 成立于 2017 年，总部位于以色列的特拉维夫，受 CBlight 评选而荣获 2020 年的全球最具特色的十家AI芯片新创业者之一，适用于智慧工厂、智能城市、智能交通系统(ITS)、工业 4.0 、智慧零售等等广泛应用。而主要产品 Hailo-8 是一个高阶的 AI 芯片，具有低功耗、高运算能力、高跨平台整合性等等优势，并提供丰富的模组资源与整合套件，能让用户体验更完善的 AI 资源整合，如下图所示。

Hailo-8 芯片介绍示意图

Hailo 提供下列 M.2 PCle 与 Mini PCIe 两种产品界面，其中 M.2 Module 可细分成三种接口，依序为 M Key、B+M Key、A+M Key ; 推理流程以 PCIe 传输方式，将 神经网路(Neural Network) 与 输入资料(Input Data) 送至 AI 芯片进行推理，并将完成后的资讯送回平台进行后续的展示处理。这里以 NXP i.MX 8M Plus EVK 搭配 Hailo-8 A+E Key PCIe ( 26 TOPS ) 界面来展示其应用。

Note :  PCI Express2X（单通道）传输速度约 1GB/S、USB 3.0 传输速度约 500MB/s