9、边缘AI硬件技术全解析

边缘AI硬件技术全解析

1. 数字信号控制器与异构计算

数字信号控制器（DSP）在一些场景中具有独特优势。例如，很多配备语音助手（如谷歌助手）的智能手机会内置DSP芯片，用于运行始终开启的关键词识别模型，同时不会过度消耗电池电量。

硬件设计师在应用中并非只能选择单一的微控制器，将多个微处理器组合在一个产品中是很常见的做法，这就是异构计算。比如，边缘AI设备可能会配备一个小功率的微控制器单元（MCU）来运行基本操作，同时搭配一个功能强大的MCU用于偶尔的信号处理和机器学习任务。

异构计算的重要性在于它实现了真正的并发处理能力，即能够同时执行多个任务。不过，其面临的一大挑战是如何在两个处理器之间合理分配计算任务，以实现效率最大化。一些边缘AI应用架构，如使用级联模型的架构，非常适合异构计算。随着深度学习加速器的兴起，异构计算的概念变得愈发重要。

2. 片上系统（SoC）

在微控制器之后，片上系统（SoC）是最常见的边缘计算设备类型。微控制器是精简优化后的计算机，而SoC则试图将整个传统计算机系统的功能集成到单个芯片中。

与微控制器不同，SoC运行传统操作系统，将很多硬件细节抽象化，让开发者可以专注于应用代码的编写。开发者可以使用编写服务器和桌面应用的工具和环境，包括Python等高级语言（现代微控制器通常使用C或C++编程）。

使用SoC的便捷性带来了两个代价：效率和复杂性。SoC的能源效率通常远低于微控制器，这限制了其应用领域。虽然它比传统的外设分离的计算机系统效率高一个数量级，但在降低能源消耗方面远不如微控制器，额外的能源消耗还可能带来散热管理问题。操作系统带来的额外复杂性也是SoC设备的一个负担