12、深度学习网络部署与网络流量分析

深度学习网络部署与网络流量分析

1. 深度学习网络在物联网边缘的部署

在核心工程领域以及消费行业需求之外，人们对将物联网边缘打造成智能系统有着极大的兴趣。卡尔曼滤波器已经存在了50多年，它能利用本地测量数据进行即时预测。在物联网边缘使用CPU和GPU进行推理的工作流程如下：
1. 创建一个神经网络（NN）模型。
2. 准备训练数据（通常使用MNIST数据集）。
3. 训练NN模型。
4. 验证训练好的NN模型。
5. 进行部署。

深度学习表现出色，其结果往往优于使用卡尔曼滤波器得到的结果。在部署方面，人们非常希望将智能手机作为物联网边缘设备，这样在试点部署时无需大量投资。而工业部署则预计会在Jetson Nano、Ultra96 - V2等设备上进行。

对于在X86机器上部署训练好的卷积神经网络（CNN）模型，有明确的工作流程以确保成功部署。以下是成功部署所需考虑的事项：
| 选项 | 描述 | 是否必要 |
| — | — | — |
| (a) | 在X86部署机器上使用Ubuntu 18.04操作系统 | 是 |
| (b) | 在X86部署机器上不需要Python | 否 |
| (c) | 在X86部署机器上不需要TensorFlow | 否 |
| (d) | 在X86部署机器上不需要FPGA（通过PCI附加卡） | 是 |
| (e) | 在X86部署机器上不需要GPU（通过PCI附加卡） | 有时是 |
| (f) | 选项(b)和选项(c)始终为真 | 否 |
| (g) | 选项(e)有时为真 | 是 |