- 博客(12)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 DeepStream Gst-nvtracker
多路视频流并行推理时，多目标跟踪算法这块容易成为性能瓶颈，如果处理不好反而弄巧成拙，边缘设备上也没那么多资源去支持。DeepStream6.3 版本之前，NvTracker 一直被当成黑箱来使用，现在除了底层的NvMultiObjectTracker库还没有开源外，其他相关的代码已经公开，可以通过已有资料了解其特点和实现。
2023-10-22 20:43:13
762
2
原创 Triton Pipeines的实现方式及对比
部署yolov5 Triton Pipelines中，简单介绍了BLS和Ensemble这两种实现Triton Pipelines的方式，本文进行了对比
2022-11-02 21:01:08
2501
原创 高性能部署Yolov5 Triton service
在Triton中部署yolov5目标检测服务, 并对比分析了三种优化方式，在并发数逐渐增加下的性能。
2022-10-30 13:44:45
876
原创 YOLOV5 TensorRT BatchedNMS
利用onnx_graphsurgeon改造原生detect层的输出张量，对接通过cuda实现的TensorRT batchedNMSPlugin
2022-10-30 13:15:34
3457
1
原创 利用Triton Pipelines部署yolov5 service
模型服务不仅包含 GPU based Inference，还包括preprocess和postprocess。通过Triton Pipelines可以提高服务的性能
2022-10-30 12:51:07
1618
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人