17、Ray 中 GPU 加速与企业应用全解析

Ray 中 GPU 加速与企业应用全解析

1. GPU 加速适用场景与局限

GPU 能够显著加速部分工作流，常见的适用场景有：
- 机器学习（ML）
- 线性代数
- 物理模拟
- 图形处理

不过，GPU 并不适用于分支较多的非向量化工作流，或者数据复制成本与计算成本相近甚至更高的工作流。

2. 基础组件与库

与 GPU 协作会带来额外开销，这和分布式任务的开销类似，但速度稍快。这种开销源于数据序列化和通信，不过 CPU 与 GPU 之间的连接通常比网络连接更快。GPU 没有 Python 解释器，高级工具一般会生成或调用原生 GPU 代码。CUDA 和 Radeon Open Compute（ROCm）分别是 NVIDIA 和 AMD 用于与 GPU 交互的事实上的底层库。

NVIDIA 率先发布了 CUDA，它迅速在众多高级库和工具（如 TensorFlow）中得到广泛应用。AMD 的 ROCm 起步较慢，采用程度不如 CUDA。部分高级工具（如 PyTorch）现已集成 ROCm 支持，但其他许多工具（如 TensorFlow 和 LAPACK）则需要使用特殊的 ROCm 分支版本。

如果在 Kubernetes 或类似的容器化平台上运行，可以使用 NVIDIA 的 CUDA 镜像或 AMD 的 ROCm 镜像等预构建容器作为基础。

3. 高级库的使用

除非有特殊需求，使用能为你生成 GPU 代码的高级库（如基本线性代数子程序（BLAS）、TensorFlow 或 Numba）会更便捷。建议将这些库安装在使用的基础容器或机器镜像