文章大纲 多路推理的几种方案 多进程 多线程 cpu 效果 gpu 效果 其他格式的加速推理 ONNX 推理 ONNX Runtime 不同格式能给推理加速多少? CPU GPU 学习路径与参考文献 参考项目 项目地址 系列文章: 参考: 使用python 多进程进行基于websocket 的实时视频流处理 基于b/s架构搭建一个支持多路摄像头的实时处理系统(1) ---- 基于websocket 使用yolo v5 系列模型 多路推理的几种方案 多进程 多线程<