TensorFlow Serving安装

最新推荐文章于 2025-06-14 19:00:59 发布

原创

最新推荐文章于 2025-06-14 19:00:59 发布 · 3.1k 阅读

1 ·

CC 4.0 BY-SA版权

本文详细介绍了如何在Ubuntu环境中安装TensorFlow Serving。首先，通过安装Bazel（推荐0.5.4及以上版本）和gRPC（1.0.0及以上版本）作为前提。接着，安装必要的软件包和TensorFlow Serving的依赖。对于安装TensorFlow Serving，提供了两种选择：通过apt-get直接安装和使用Bazel编译。文章还解决了可能出现的GPG错误问题，并给出了安装Python API PIP包的步骤。最后，指导如何使用tensorflow_model_server命令调用二进制文件。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

环境(ubuntu16.04 LTS):

TensorFlow Serving目前依赖Google的开源编译工具Bazel。Bazel是Google内部编译工具Blaze的开源版本，功能与性能基本一致。此外还需要安装gRPC(Google又一个内部工具的开源版)。

1. 安装Bazel (0.5.4或更高版本).
   安装方法:Installing using binary installer

   step 1:Install required packages
   $ sudo apt-get install pkg-config zip g++ zlib1g-dev unzip python

   step 2:Download Bazel
   在官网<https://github.com/bazelbuild/bazel/releases>下载 bazel-0.15.0-installer-linux-x86_64.sh

   step 3:Run the installer
   $ chmod +x bazel-0.15.0-installer-linux-x86_64.sh
   $ ./bazel-0.15.0-installer-linux-x86_64.sh --user
   –user 标志将Bazel安装到系统上的$HOME/bin目录中，并将.bazelrc路径设置为$HOME/.bazelrc

   step 4:Set up your environment
   #如果上面使用--user标志运行Bazel安装程序，则Bazel可执行文件将安装在$HOME/bin目录中.
   $ sudo gedit ~/.bashrc
  &n