利用C++ API读取tensorflow模型并进行测试与批量测试

在从Python迁移到C++API的过程中,作者遇到了模型输入维度的问题。原本在Python中能自动调整的batch尺寸,在C++环境下却丢失了一维,引发了深入的技术探讨。本文详细记录了这一现象,并寻求解决之道。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

配置

相关结构体及函数 

测试单张图片循环

测试batch 

根据参考,以及前面对single图片进行测试,写了batch inference,但运行测试后发现,与python不同,转化到C++后,出现了问题。很奇怪,用同样的模型,在python中single就是(1*200*6),batch就自动会变成(batch*200*6),为啥转到C++api中就少了一维。着实让人费解。有其他加速方法的希望能告知一下,谢谢~

目前,不知如何解决,希望知道解决方法的不吝赐教~

 

 

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值