FocoosAI Python SDK 安装与运行环境配置指南-优快云博客

本文链接：https://blog.youkuaiyun.com/gitblog_00109/article/details/148682848

FocoosAI Python SDK 安装与运行环境配置指南

focoos Focoos SDK 项目地址: https://gitcode.com/gh_mirrors/fo/focoos

前言

FocoosAI 是一个专注于计算机视觉领域的深度学习框架，其 Python SDK 提供了多种运行时支持，包括 PyTorch、ONNX Runtime 和 TensorRT 等。本文将详细介绍如何在不同环境下安装和配置 FocoosAI SDK，帮助开发者快速搭建开发环境。

环境准备

在开始安装 FocoosAI SDK 之前，需要确保系统满足以下基本要求：

Python 3.10 或更高版本
推荐使用 UV 作为包管理器和环境管理器
根据不同的运行时需求，可能需要安装 CUDA、cuDNN 或 TensorRT

安装步骤

1. 创建虚拟环境

建议使用虚拟环境来隔离项目依赖。以下是使用 UV 创建虚拟环境的命令：

uv venv --python 3.12
source .venv/bin/activate

2. 基础安装（PyTorch 运行时）

默认安装提供 PyTorch 运行时支持，适用于 CPU 和 GPU 环境：

uv pip install 'focoos'

3. ONNX Runtime 安装选项

3.1 CUDA 加速版本

适用于 NVIDIA GPU 的 ONNX Runtime 加速版本，需要 CUDA 12 和 cuDNN 9：

apt-get -y install cudnn9-cuda-12
uv pip install 'focoos[onnx]'

3.2 TensorRT 加速版本

提供 TensorRT 加速支持，需要额外安装 TensorRT 10.5：

apt-get -y install cudnn9-cuda-12
uv pip install 'focoos[onnx,tensorrt]'

3.3 CPU 版本

纯 CPU 运行的 ONNX Runtime 版本：

uv pip install 'focoos[onnx-cpu]'

4. 安装特定版本

如需安装特定版本的 SDK，可使用以下命令格式：

uv pip install 'focoos@v0.14.1'

运行时支持矩阵

FocoosAI 支持多种推理运行时，开发者可根据需求选择合适的运行时：

| 运行时类型 | 额外参数 | 运行时 | 兼容设备 | 可用执行提供者 | |------------|---------|--------|----------|----------------| | TORCHSCRIPT_32 | - | torchscript | CPU, NVIDIA GPU | - | | ONNX_CUDA32 | [onnx] | onnxruntime GPU | NVIDIA GPU | CUDAExecutionProvider | | ONNX_TRT32 | [tensorrt] | onnxruntime TRT | NVIDIA GPU (优化) | CUDA/TensorRT 提供者 | | ONNX_TRT16 | [tensorrt] | onnxruntime TRT | NVIDIA GPU (优化) | CUDA/TensorRT 提供者 | | ONNX_CPU | [onnx-cpu] | onnxruntime CPU | CPU (x86/ARM), Apple Silicon | CPU/CoreML/Azure 提供者 | | ONNX_COREML | [onnx-cpu] | onnxruntime CPU | Apple Silicon | CoreML/CPU 提供者 |

容器化部署方案

FocoosAI 提供了多种 Docker 镜像，方便容器化部署：

1. GPU 支持镜像

docker build -t focoos-gpu . --target=focoos-gpu
docker run -it focoos-gpu

2. TensorRT 支持镜像

docker build -t focoos-tensorrt . --target=focoos-tensorrt
docker run -it focoos-tensorrt

3. CPU 专用镜像

docker build -t focoos-cpu . --target=focoos-cpu
docker run -it focoos-cpu

开发环境配置建议

对于开发者，FocoosAI 提供了 Visual Studio Code 的 devcontainer 配置，可以快速搭建包含所有依赖的开发环境。这种方式特别适合团队协作开发，确保所有成员使用相同的开发环境。

常见问题解答

如何选择最适合的运行时？
- 如果使用 NVIDIA GPU 且追求最高性能，推荐 TensorRT 版本
- 普通 GPU 用户可选择 ONNX CUDA 版本
- CPU 用户或 Apple Silicon 设备用户应选择 ONNX CPU 版本
多个运行时能否同时安装？
- 可以同时安装多个运行时，但不能同时使用 onnx-cpu 和 onnx 或 tensorrt
如何验证安装是否成功？
- 导入 focoos 包并检查版本号
- 尝试加载示例模型进行简单推理测试