pointpillar部署-TensorRT实现(一)

1. 主干部分

核心部分分为:PreProcessCuda前处理; TRT(ppOnnxPath, stream_)模型推理; PostProcessCuda(stream_)后处理

内存管理部分:

cudaMallocManaged 统一内存管理,无须进行cpu内存申请,gpu内存申请,cpu到gpu的数据拷贝过程。cudaMallocManaged 即可完成同一个变量的引用; 但是需要注意的是cudaMallocManaged 需要在变量初始化之前使用。

cudaMemsetAsync 相对于主机是异步的,因此调用可能在memset完成之前返回。可以通过传递非零流参数将操作与流相关联。如果流为非零,则该操作可能与其他流中的操作重叠。

PointPillar::PointPillar(TSelfPcAlgParam * AlgParams){
    YAML::Node pc_cfg = YAML::LoadFile(AlgParams->m_strRootPath + AlgParams->m_stPcAlgParam.m_strCfgPath);
    ppOnnxPath = AlgParams->m_strRootPath + pc_cfg["POINTPILLAR_MODEL"].as<std::string>();
    AlgParams->m_s
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Arthur.AI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值