0.介绍
triton是nvidia开发的基于tensorrt的推理服务器
1.安装
git clone https://github.com/JonathanSalwan/Triton
cd Triton
mkdir build
cd build
cmake ..
make -j3
sudo make install
2.使用
123
0.介绍
triton是nvidia开发的基于tensorrt的推理服务器
1.安装
git clone https://github.com/JonathanSalwan/Triton
cd Triton
mkdir build
cd build
cmake ..
make -j3
sudo make install
2.使用
123