
深度学习
runzhliu
毕业于中山大学,目前专注于容器和大规模并行计算
展开
-
【Tensorflow 2.x】检验MKL
Tensorflow 2.x 关于 MKL 验证的方法移到了其他 Module 下,所以原来检验的方法换掉了。按照 Intel 官网的提示 Tensorflow 1.x 的检验语法是 python -c"import tensorflow; print(tensorflow.pywrap_tensorflow.IsMklEnabled())",这在 Tensorflow 2.x 里会报错,需要改成 python -c "from tensorflow.python.framework import test原创 2020-06-19 07:06:37 · 697 阅读 · 0 评论 -
Tensorflow Serving模型指向s3地址,Could not find base path?
之前有同学遇到一个问题,通过 Workload 配置一个 Serving 服务的时候,通过 model_config_file 这个选项来指定多个模型文件,配置文件大概长这个样子。➜ tmp cat model.configmodel_config_list { config { name:'10062' base_path:'s3://xxx-ai/humanoid...原创 2020-05-07 16:59:52 · 955 阅读 · 0 评论 -
NVIDIA TensorRT Inference Server on Kubernetes
文章目录@[TOC]1 Overview2 Prerequisite3 部署4 验证5 Reference1 OverviewNVIDIA TensorRT Inference Server 是 NVIDIA 推出的,经过优化的,可以在 NVIDIA GPUs 使用的推理引擎,TensorRT 有下面几个特点。支持多种框架模型,包括 TensorFlow GraphDef,TensorFl...原创 2020-02-28 08:37:24 · 1369 阅读 · 0 评论 -
Spark 3.0 对 GPU 做了什么支持
Spark 本身在数据处理流程里占据非常重要的地位,而在人工智能的战场,传统 Spark 能带来什么呢?在深度学习里,模型训练一般都被 Tensorflow, PyTorch 等深度学习框架占领了,而 Spark 提供的 GraphX 和 MlLib 可以做一些机器学习的东西,但是在深度学习的战场里,明显没有什么优势,最大的问题就在于硬件加速上,3.0 以前的社区版 Spark 是没有任务调度 ...原创 2020-02-03 11:09:26 · 2290 阅读 · 0 评论 -
跑一个 OpenVINO 的 demo
上周在公司听了 Intel 的代表来介绍他们的 AI 芯片,Spring Hill (NNP-I 1000),关于这个芯片的资料,具体可以看看这个下面的 PPT。https://newsroom.intel.com/wp-content/uploads/sites/11/2019/08/Intel-Nervana-NNP-I-HotChips-presentation.pdf因为 GPU ...原创 2019-09-21 19:21:12 · 621 阅读 · 0 评论