92、AI 模型压缩与 COVID - 19 疾病分类研究

AI 模型压缩与 COVID - 19 疾病分类研究

1. AI 模型的剪枝与压缩

在人工智能领域，为了使 AI 模型更轻量、部署更快速，对模型进行剪枝和压缩是关键。以下是不同数据集和优化方法下的测试结果：
| 数据集 | 优化方法 | 测试准确率 | 压缩后准确率 |
| ---- | ---- | ---- | ---- |
| MNIST | 训练网络上剪枝 | 0.9851999878883362 | 0.9721 (稀疏度 = 0.5%) |
| FMNIST | 训练网络上剪枝 | 0.8938000202178955 | 0.8824 (稀疏度 = 0.5%) |
| CIFAR | 训练网络上剪枝 | 0.4779999852180481 | 0.4726 (稀疏度 = 0.5%) |
| MNIST | 更多剪枝（使用 TFLite） | 0.98719 | 0.980001 |
| MNIST | 从头训练后剪枝（使用 TFLite） | 0.9790000 | 0.9704 |

从这些结果可以看出，不使用 TensorFlow 工具包（TFLite）的前三种实现中，测试准确率和压缩后准确率很接近，且在稀疏度为 0.5 时模型压缩效果较好。而使用 TFLite 的后两种实现，测试准确率和压缩后准确率更接近，但在模型大小方面，前三种实现效果更好。

在压缩比方面，对于 MNIST 数据集，不使用 TensorFlow 优化工具包，稀疏度为 50% 时压缩比可达 3 倍；结合剪枝（不使用 TensorFlow 优化）和量化技术（使用 TFLite），压缩比可达 10 倍。使用 TensorFlow