- 博客(5)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 Triton全方位指南---模型部署入门篇（二）
Triton支持多种类型的模型，包括TensorFlow, PyTorch, ONNX, TensorRT, Python等，在实际部署时我们可能会用到其中的一种或多种模型。而且任何深度学习模型部署框架都需要解决三方面的问题。管理多种类型的模型。控制模型的版本，加载和卸载。配置模型的输入和输出上面的问题Triton都已提供了相应的解决方案。具体来说，Triton是通过配置文件来管理模型的版本、输入输出、支撑后端等功能。因此在部署前需要做好的两件事是准备好模型文件model.xx和写好配置文件。
2025-01-09 14:11:43
1234
原创 Triton全方位指南---从安装到上线（一）安装部署
NVIDIA开源的商用级别的后端算法服务框架Triton Inference Server是一款开源的推理服务框架，它的核心库基于C++编写的，旨在在生产环境中提供快速且可扩展的AI推理能力，具有以下优势支持多种深度学习框架：包括PyTorch，Tensorflow，TensorRT，ONNX，OpenVINO等产出的模型文件至此多种机器学习框架：支持对树模型的部署，包括XGBoost，LightGBM等支持多种协议：支持HTTP，GRPC协议。
2024-12-02 18:08:53
3432
原创 Freesurfer recon-all命令详解及使用示例
本文详细说明了freesurfer软件工具中recon-all命令的具体步骤，并解释了每一步的作用，方便在对MRI图像进行预处理时对每一步有详细的理解。同时也可以根据各个步骤自定义处理流程。
2022-06-28 15:28:54
9960
3
原创 在使用Tensorflow 分布式训练出现的Non-OK-status: GpuLaunchKernel问题
项目场景：使用Tensorflow的keras进行模型构建，然后使用tf.distribute.MirroredStrategy进行多gpu训练问题描述在调试完其他部分然后开始训练，执行model.fit语句时报出了下面的错误，之后程序就停止运行了。Non-OK-status: GpuLaunchKernel( SwapDimension1And2InTensor3UsingTiles<T, NumThreads, TileLongSide, TileShortSide>, total
2022-05-09 16:46:56
1366
原创 动态规划求解硬币数最少找零方案
动态规划求解硬币数最少找零方案（java实现) 问题来源：《算法设计与分析》电子工业出版社 p159 7-18 7-19 问题：给定一个金额y和n种面值(d0,d1,...,dn-1)的硬币，其中d0=0，d1=1,硬币数量不限，用动态规划算法求金额等于y且硬币数最少的找零方案。 递推方程： F(di,0)=0 ...
2021-05-01 13:47:49
509
nextcloud-30020199.apk
2020-02-11
nextcloud-17.0.3.zip
2020-02-11
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人