《TensorFlow技术解析与实战》第20章 TensorFlow的其他特性

第20章　TensorFlow的其他特性

随着TensorFlow的版本不断迭代，目前它已经有很多新特性。除了第15章和第16章介绍的XLA和Debugger外，还有一个非常好的生产系统使用模型服务系统——TensorFlow Serving，以及支持动态图计算的TensorFlow Fold。此外，还有一些基于硬件的优化方法也是目前人工智能发展的趋势。本章就来介绍一下这些内容。

20.1　TensorFlow Serving[1]

TensorFlow Serving是专为生产环境设计的一种灵活、高性能的机器学习模型服务系统。它非常适合基于实际情况的数据大规模地运行，会产生多个模型的训练过程。

TensorFlow Serving可以用于开发过程和生产过程，有以下两个主要作用。

（1）对模型的生命周期进行管理。一个模型一般是先数据训练，然后逐步产生初步的模型，随后优化模型。图20-1所示为持续的模型训练流。

图20-1

（2）当模型采用多重算法进行试验时，对生成的模型进行管理。当客户端（Client）向TensorFlow Serving请求模型后，TensorFlow Severing会返回适当的模型给客户端。图20-2所示为TensorFlow Severing架构关系图。