tensorflow c++推理，如何为input tensor赋值？

最新推荐文章于 2025-03-28 21:13:13 发布

seasermy

最新推荐文章于 2025-03-28 21:13:13 发布

阅读量3.8k

点赞数

CC 4.0 BY-SA版权

分类专栏： c++编程技术 tensorflow研究与应用文章标签： tensorflow c++ opencv Mat 推理

本文链接：https://blog.youkuaiyun.com/seasermy/article/details/90208178

c++编程技术同时被 2 个专栏收录

25 篇文章

订阅专栏

tensorflow研究与应用

10 篇文章

订阅专栏

本文介绍如何使用OpenCV处理图像并与TensorFlow C++ API结合进行图像分类，解决实际工程中解码器兼容性和视频文件解码问题。通过详细示例，展示了如何将OpenCV读取的图像转换为TensorFlow可接受的输入格式。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

tensorflow是个强大的数值计算工具，同时也是强大的深度学习工具．当我们在用c++ api做推理的时候，如何将数据输入tensorflow, 有时候会感到迷惑，本文以图像分类为例子，做简单的说明：

我们还是以tensorflow examples中的label_image为例子进行说明．在例子中，main.cc用了ReadTensorFromImageFile函数从jpeg文件中解码并赋值给input tensor, 函数中，构建了一个file_reader的graph，让人感到很陌生和别扭，只是一个解码嘛，弄得这么封闭，其实大可不必，有两点不方便的地方吧：

1. 实际工程部署中，许多已经在用的解码器，比如ｏｐｅｎｃｖ，libjpeg, libjpg-turbo, nvidia-codec等，不方便替换成tensorflow的这种形式；

2. 当解码视频等文件时，tensorflow又不支持这种operators

基于以上两点，下面以opencv为例子做说明，主要函数如下：

 void mat2tensor(cv::Mat &img, Tensor *tensor, int batch, int height, int width, float mean, float std)
 {
     cv::resize(img, img, cv::Size(height, width));
     cv::Mat image(height, width, CV_32FC3);
     img.convertTo(image, CV_32FC3);
     image -= mean;
     image /= std;
 　　// 注意tensorflow默认输入通道顺序NHWC
　   auto tensor_data = tensor->tensor<float, 4>();
    // 简单的用一张图片赋值给多个batch
    for(int b = 0; b < batch; b++)
     {
         for(int j = 0; j < height; j++)
         {
             for(int i = 0; i < width; i++)
             {
                cv::Vec3f pixel = image.at<cv::Vec3f>(j, i);
                 {
                     tensor_data(b, j, i, 0) = pixel[2];　//注意tensorflow默认的输入为RGB, 而opencv的输出为BGR
                     tensor_data(b, j, i, 1) = pixel[1];
                     tensor_data(b, j, i, 2) = pixel[0];
                 }
             }
         }
 
    }
 }

可以这样调用：

void ReadTensorFromImageFile(const string& file_name, int batch, const int input_height,
                                const int input_width, const float input_mean,
                                const float input_std,
                                std::vector<Tensor>* out_tensors) 
{
    Tensor t(tensorflow::DT_FLOAT, tensorflow::TensorShape({batch, input_height, input_width, 3}));
    cv::Mat img = cv::imread(file_name.c_str());
    mat2tensor(img, &t, batch, input_height, input_width, input_mean, input_std);
    out_tensors->push_back(t);
   
}

一个推理的例子：

std::vector<Tensor> resized_tensors;
string image_path　= "**";
ReadTensorFromVideoFile(image_path, 32, input_height, input_width, input_mean,
                        input_std, &resized_tensors);

string input_layer = "input";
string output_layer = "InceptionV3/Predictions/Reshape_1";

const Tensor& resized_tensor = resized_tensors[0];
std::vector<Tensor> outputs;
session->Run({{input_layer, resized_tensor}},{output_layer}, {}, &outputs);