20、深入探索Ray集群部署与Ray AI Runtime

深入探索Ray集群部署与Ray AI Runtime

1. Ray Client连接

要通过Ray Client从本地机器连接到集群，需确保本地Ray安装和Python小版本与Ray集群中运行的Ray和Python版本匹配。可在本地和集群实例上分别运行 ray --version 和 python --version 进行检查。若使用容器，确保所有操作都在同一容器中进行。若版本不匹配，会收到警告信息。

接下来，运行以下命令：

kubectl port-forward service/raycluster-complete-head-svc 10001:10001

此命令会阻塞，本地端口10001将转发到Ray头节点的Ray Client服务器。

要在远程Ray集群上运行Ray工作负载，打开本地Python shell并启动Ray Client连接：

import ray
ray.init(address="ray://localhost:10001")
print(ray.cluster_resources())

@ray.remote
def test():
    return 12

ray.get([test.remote() for i in range(12)])

通过这种方法，可直接在笔记本电脑上运行Ray程序，无需通过 kubectl 或作业