NVIDIA TensorRT Inference Server on Kubernetes
文章目录@[TOC]1 Overview2 Prerequisite3 部署4 验证5 Reference
1 Overview
NVIDIA TensorRT Inference Server 是 NVIDIA 推出的,经过优化的,可以在 NVIDIA GPUs 使用的推理引擎,TensorRT 有下面几个特点。
支持多种框架模型,包括 TensorFlow GraphDef,TensorFl...
原创
2020-02-28 08:37:24 ·
1369 阅读 ·
0 评论