13、嵌入式系统中机器学习的应用与实践

嵌入式系统中机器学习的应用与实践

1. 机器学习模型生命周期概述

在嵌入式系统里，机器学习模型的生命周期涵盖了模型集成与部署两个关键阶段。模型集成阶段需将模型融入其他应用代码，把机器学习模型转化为C++（或类似）文件，通过嵌入式开发的典型代码、编译、运行、调试循环，将其整合到整个系统中。待模型集成到已编译的整体应用后，就能部署到边缘设备了，这可能是用新模型更新现有设备，或者创建新设备进行分发。

2. 常见机器学习框架和库

助力机器学习应用于边缘设备的框架和库众多且不断发展，以下为你介绍三种常见的用于Cortex - M的机器学习框架和库：
| 框架/库名称 | 简介 |
| ---- | ---- |
| TensorFlow Lite for Microcontrollers（TFlite Micro） | 专为移动设备、微控制器和其他边缘设备设计，内存占用小且性能优化。是C++框架，适用于Cortex - M微控制器，是嵌入式C/C++应用中TensorFlow的优化版本，无需操作系统、标准C++库或动态内存分配函数，在物联网应用中广受欢迎。在机器学习项目生命周期里，数据选择、归一化以及模型训练和测试可在桌面计算机（或云环境）通过TensorFlow Lite完成，模型集成时将训练好的模型转换为TFlite Micro模型，最终集成到嵌入式应用。 |
| CMSIS - NN | 与TFlite Micro紧密集成，以易懂方式提供TFlite Micro内核的优化版本，是为Cortex - M设备添加机器学习功能的理想选择，无需重写现有功能。 |
| TinyML | 2018年首次提出，2020年因Google的Pete Warde