triton 部署yolov5模型

一、安装triton

0.安装docker和nvidia-docker

1. 安装以下网站获取Nvidia授权账号密码

Nvidia授权

2. 安装triton

docker login nvcr.io

Username: XXXXXXX
Password: XXXXXXX

sudo docker pull nvcr.io/nvidia/tritonserver:22.04-py3

二、准备yolov5模型

参考 yolov5训练自己的数据集

三、启动triton服务

1.搭建模型目录

/home/triton/model_repository  # model-repository-path 可自行修改 
└── model_test  # your_model_name  可自行修改
      ├── 1  # 固定路径，不可修改
      │   └── model.onnx    # 默认onnx模型名

2.启动服务

sudo do