【ai】triton 测试：Sending an Inference Request

等风来不如迎风去

于 2024-06-14 14:48:38 发布

阅读量94

点赞数

分类专栏： AI入门与实战文章标签：人工智能

本文链接：https://blog.youkuaiyun.com/commshare/article/details/139678194

版权

AI入门与实战专栏收录该内容

204 篇文章 ¥99.90 ¥299.90

订阅专栏

超级会员免费看

Serve a Model in 3 Easy Steps

```
现在执行第三步：
```

# Step 1: Create the example model repository
git clone -b r24.05 https://github.com/triton-inference-server/server.git
cd server/docs/examples
./fetch_models.sh

# Step 2: Launch triton from the NGC Triton container
docker run --gpus=

了解本专栏

超级会员免费看