深度学习之模型部署

1.1模型使用流程

1.2模型部署平台

• 在线服务器端部署，精度优先

• 离线嵌入式端部署，兼顾精度与速度，资源消耗

1.3模型部署方式

• 原始训练框架部署
• 训练框架的部署引擎
• 手动模型重构
• 专用的推理引擎
  
  
  
  

1.4框架对比

参考：
https://www.bilibili.com/video/BV1TY4y1q7XE?p=1