9、边缘AI硬件：设备类型、性能与应用

边缘AI硬件：设备类型、性能与应用

1. 异构计算与数字信号处理器

在边缘AI领域，硬件设计人员并非只能为特定应用选择单一的微控制器。实际上，在单个产品中组合多个微处理器是相当常见的做法。例如，边缘AI设备可能会配备一个小型、低功耗的微控制器单元（MCU）来运行基本操作，同时搭配一个大型、强大的MCU用于偶尔的信号处理和机器学习工作负载。

这种设置被称为异构计算，它在边缘AI中变得越来越重要，因为它实现了真正的并发能力，即能够同时执行多个任务。异构计算面临的一大挑战是如何在两个处理器之间分配计算工作负载，以实现效率最大化。如果能够正确分配，将会带来显著的回报。

此外，专用数字信号处理器（DSP）仍然具有实用价值。许多配备语音助手（如谷歌助手）的智能手机都包含一个DSP芯片，以便在不影响电池续航的情况下运行始终开启的关键词检测模型。

2. 片上系统（SoC）

在微控制器之后，最常见的边缘计算形式是片上系统（SoC）设备。微控制器是精简优化后的计算机，去除了所有不必要的部分；而SoC设备则试图将整个传统计算机系统的功能集成到单个芯片中。

与微控制器不同，微控制器的软件直接与硬件交互，而SoC设备运行传统的操作系统，这些操作系统抽象了大量硬件细节，使开发人员能够完全专注于应用程序代码。开发人员可以使用与编写服务器和桌面应用程序相同的工具和环境，包括Python等高阶语言（现代微控制器通常使用C或C++进行编程）。

然而，这种易用性也带来了两个代价：效率和复杂性。SoC通常比微控制器的能源效率低得多，这限制了它们的应用领域。虽然它们比带有独立外设的传统计算机系统效率高一个数量级，但在将能源使用降至最低方面