17、边缘人工智能开发的工具与技术指南

边缘人工智能开发的工具与技术指南

1. 边缘机器学习栈与MLOps

在边缘人工智能（Edge AI）的开发过程中，你可能需要为边缘机器学习栈的各个部分找到合适的解决方案，并且根据具体用例可能还需要其他一些组件。在开发过程中，你可以选择逐步从各种软件组件来组装这个栈。另外，使用专门为边缘AI设计的综合MLOps平台也会带来很多好处。

MLOps是一个广泛的话题，难以在边缘AI的讨论中全面涵盖。如果你想深入了解，以下是一些资源推荐：
- 网站ml - ops.org
- 《Introducing MLOps》，作者Mark Treveil等人（O’Reilly，2020年）
- Google Cloud的MLOps介绍（https://oreil.ly/dng28）

2. 设备端算法运行

设计算法和训练模型需要一套工具，而要在设备端高效运行这些算法和模型则需要另一套工具。这些工具包括通用的C++库以及针对特定硬件架构优化的高效实现。

2.1 数学和数字信号处理（DSP）库

常见数学运算有多种实现方式，能为DSP算法和深度学习操作提供功能。从头实现这些基础算法会很耗时，以下是一些值得注意的例子：
- 快速傅里叶变换：在DSP中大量使用，如KISS FFT（https://oreil.ly/BPyFl）和FFTW（https://www.fftw.org）
- 矩阵乘法库：如gemmlowp（https://oreil.ly/6hCG3）和ruy（https://oreil.ly/WSrv4）

硬件设备通常有专门设计的功能来提高常见算法的性能，这些功能