c++ tensorrt 推理过程（图片超分）

最新推荐文章于 2025-06-25 12:07:09 发布

sensenyo

最新推荐文章于 2025-06-25 12:07:09 发布

阅读量1.8k

点赞数 4

CC 4.0 BY-SA版权

分类专栏： tensorrt 文章标签： c++

本文链接：https://blog.youkuaiyun.com/weixin_46659749/article/details/119980122

这篇博客详细介绍了如何在CUDA环境下进行深度学习模型的推理。首先创建了一个logger，然后从文件中反序列化加载预训练模型的engine。接着，通过创建runtime和execution context，对输入图像进行预处理并分配GPU内存。在CUDA流中执行推理，并将结果从GPU拷贝回CPU。最后，进行了图像的后处理并保存结果。整个过程展示了CUDA在深度学习推理中的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

//1：创建.logger
class Logger:public  ILogger
{
   
   
	void log(Severity severity,const char* msg) override
	{
   
   
		if(severity != Severity::kINFO)
			srd::cout<<msg<<std::endl;	
	}
}gLogger;

//反序列化
string engine_path="xxxxx.engine";
ifstream fin(engine_path);
string sensen_engine="";   //将engine数据写入string;
while(fin.peek()!=EOF)
{
   
   
	stringstream buff;
	buff << fin.rdbuf();
	sensen_engine.append(buffer.str());
}
fin.close();

//创建runtime
IRuntime* runtime=