- 博客(2)
- 收藏
- 关注
原创 通过opencvdnn实现yolov5-lite的推理
在参加竞赛的时候,找到了Yolov5-lite模型,但是并没有找到opencv_dnn的推理代码,然后就自己写了个推理代码,不说多了直接展示了!
2023-12-11 16:49:28
168
原创 基于潜在一致性的文生图优化
根据指定的输入输出要求,优化指定文生图模型在端侧设备上的 Pipeline性能,在保证生图效果的情况下,降低pipeline端到端延迟,降低pipeline峰值内存占用。在此次优化任务中,我们还特意使用到了多线程,多线程可以显著提高性能和吞吐量,对于此次任务,我觉得它最大的好处就是并行处理,如果你需要生成大量的图像,并且每张图像的生成是独立的,那么多线程可以同时处理多个生成任务。可以看出,基于潜在一致性的文生图,不仅推理速度方面有了提升,而且在相当少的推理步数下,推理出来的图片质量也是十分不错的。
2023-12-04 17:37:54
1222
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人