kubernetes集群使用GPU及安装kubeflow1.0.RC

最新推荐文章于 2025-10-12 02:09:19 发布
原创 最新推荐文章于 2025-10-12 02:09:19 发布 · 1.5k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #kubernetes

本文详述了在Kubernetes集群中安装和配置GPU的过程，包括驱动、CUDA、NVIDIA-DOCKER等关键组件的设置。同时，深入介绍了如何安装和配置KubeFlow 1.0.RC版本，涵盖各种服务、控制器、存储类和PV/PVC的创建，以及通过NFS实现文件存储。

kubernetes集群使用GPU及安装kubeflow1.0.RC操作步骤

安装显卡驱动

安装CUDA
sudo yum-config-manager --add-repo http://developer.download.nvidia.com/compute/cuda/repos/rhel7/x86_64/cuda-rhel7.repo
sudo yum clean all
sudo yum -y install nvidia-driver-latest-dkms cuda
sudo yum -y install cuda-drivers

如缺少gcc依赖，则实行如下命令

  yum install kernel-devel kernel-doc kernel-headers gcc\* glibc\*  glibc-\*
安装nvidia驱动
 rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org
 rpm -Uvh http://www.elrepo.org/elrepo-release-7.0-3.el7.elrepo.noarch.rpm
 yum install -y kmod-nvidia
禁用nouvean
###在GRUB_CMDLINE_LINUX添加 rdblacklist=nouveau 项
echo -e "blacklist nouveau\noptions nouveau modeset=0" > /etc/modprobe.d/blacklist.conf

重启，查看nouveau是否被禁用成功

lsmod|grep nouv
没有任何输出，则表示nouveau已被禁用

查看服务器显卡信息

[root@master ~]# nvidia-smi
Tue Jan 14 03:46:41 2020
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 440.44       Driver Version: 440.44       CUDA Version: 10.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla T4            Off  | 00000000:18:00.0 Off |                    0 |
| N/A   29C    P8    10W /  70W |      0MiB / 15109MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
|   1  Tesla T4            Off  | 00000000:86:00.0 Off |                    0 |
| N/A   25C    P8     9W /  70W |      0MiB / 15109MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|============================================================================
最低0.47元/天 解锁文章
安装kubeflow
crazybean_lwb的博客
07-24 3089
此处为安装kubeflow 1.0.2版本的教程，其他版本仅作为参考。 准备工作 如果没有配置docker访问外网代理，可以参考离线安装docker配置代理部分 如果没有安装kubernetes集群，可以参考离线使用kubeadm安装kubernetes集群 下载需要的资源 1.从https://github.com/kubeflow/kfctl/releases/下载v1.0.2版本对应的kfctl二进制文件： 解压安装包并添加到执行路径： tar -xvf kfctl_v1.0.2-0-ga47628
kubeflow安装
得克特
06-30 2250
Kubeflow
Kubeflow安装完全指南：从Kubeflow Manifests到打包发行版
gitblog_00192的博客
10-12 460
你是否在安装Kubeflow时遇到各种配置难题？本文将为你提供从基础Manifests到打包发行版的完整安装方案，让你轻松部署这个强大的Kubernetes机器学习工具包。读完本文，你将能够： - 理解Kubeflow的两种主要安装方式：Manifests和打包发行版 - 掌握使用Kustomize配置和部署Kubeflow组件的方法 - 了解常见安装问题的解决方法 - 选择最适合你需求的安装路...
kubeflow安装包
12-05
kubeflow的安装包
k8s中的kubeflow1.02安装过程记录
chen_haoren的博客
10-02 2500
首先下载kfctl包，这里提供的是1.02版本 下载地址 没有科学上网的话下载速度非常慢，推荐先用梯子下到电脑上再导入 解压安装包并添加到执行目录 tar -xvf kfctl_v1.0.2-0-ga476281_linux.tar.gz sudo cp kfctl /usr/bin 下载manifests工具包到/root/kubeflow/路径： kubeflow需自己创建 ```csharp wget https://github.com/kubeflow/manifests/archive/
kubernetes集群使用GPU及安装kubeflow1.0.RC操作步骤
sinat_28371057的博客
12-14 1187
kubernetes集群使用GPU及安装kubeflow1.0.RC操作步骤 安装显卡驱动 安装CUDA sudo yum-config-manager --add-repo http://developer.download.nvidia.com/compute/cuda/repos/rhel7/x86_64/cuda-rhel7.repo sudo yum clean all sudo yum -y install nvidia-driver-latest-dkms cuda sudo yum
精选资源
学院GPU集群和CPU集群使用指南1.0.pdf
05-07
学院GPU集群和CPU集群使用指南1.0.pdf
精选资源
kubernetes部署安装手册V1.0.pdf
03-01
Kubernetes部署安装手册V1.0.pdf文件中详细介绍了如何部署和安装Kubernetes集群，并提供了具体的操作步骤和注意事项。在Kubernetes的入门安装教程方面，由于官方文档已比较丰富，本文档更侧重于作者实践经验的总结，...
使用Kubeadm工具快速安装Kubernetes集群.pdf
10-20
使用Kubeadm工具快速安装Kubernetes集群 本文档主要介绍使用Kubeadm工具快速安装Kubernetes集群的步骤和详细配置过程。Kubeadm是Kubernetes官方提供的一个用于快速安装和管理Kubernetes集群的工具。通过本文档，...
install-kubeflow-1.3:安装Kubeflow 1.3
04-09
install-kubeflow-1.3 在Macbook上。 取自 。 使用切换到Kustomize 3.2.0！ brew tap nlamirault/kzenv https://github.com/nlamirault/kzenv/ # remove "normal" kustomize brew remove kustomize brew install kzenv kzenv install 3.2.0 kzenv use 3.2.0 kustomize version 然后使用以下命令将Kubeflow安装到minikube。 # tag of the Kubeflow version VERSION=v1.3-branch minikube start --driver=hyperkit --addons=ingress,metrics-server --mem
容器PaaS（Openshift）之机器学习：Kubeflow安装
weixin_42526859的博客
09-23 1099
Kubeflow支持desktop/server、Kubernetes集群以及公有云上安装，本文主要介绍在Kubernetes、Openshift上安装。 准备 Kubernetes v1.11以上或者Openshift v3.11以上集群 能够连接gcr镜像库 提前创建两个10G pv，两个20G pv Kubeflow使用istio做ingress，建议提前安装isito (open...
KubeFlow安装指南
sinat_28371057的博客
12-15 1713
【摘要】 Kubeflow是Google推出的基于kubernetes环境下的机器学习组件，通过Kubeflow可以实现对TFJob等资源类型定义，可以像部署应用一样完成在TFJob分布式训练模型的过程。 组件 http://pachyderm.io/ http://www.argoproj.io/ Kubeflow使用场景 希望训练tensorflow模型且可以使用模型接口发布应用服务在k8s环境中(eg.local,prem,cloud) 希望使用Jupyter n...
kubeflow 1.2.0安装
修理男爵的博客
01-26 5254
自定义安装 显然，不可能如此简单就安装成功，在国内很多镜像或文件下载不了 kfctl_k8s_istio.v1.2.0.yaml 中最后这个manifests-1.2.0.tar.gz，在我服务器上就访问不了 这时需要手动下载下来，放到自己的 ftp 服务器上。然后修改kfctl_k8s_istio.v1.2.0.yaml 中的 uri 为自己的 ftp 上此文件的地址，否在无法 build 成功。 修改完之后，就可以开始 build 了： kfctl build -V -f ...
kubeflow国内单机本地安装（官网、kind、wsl2、jupyter notebook创建）
T_eddy的博客
05-10 3268
这是Kubeflow Manifest地址,经过少量修改（只改了一个文件，添加了几个文件），可以在国内安装的笔记。提供的镜像加速，使得很多在国外的镜像，在国内也可以下载，只需要改变仓库名（添加这里也包括我安装时踩坑记录这是国内单机本地安装这是笔者源码在github上的地址。
【亲测免费】 Kubeflow 开源项目安装与使用指南
gitblog_00955的博客
08-07 799
Kubeflow 开源项目安装与使用指南 【免费下载链接】kubeflow Machine Learning Toolkit for Kubernetes 项目地址: https://gitcode.com/gh_mirrors/...
Kubeflow安装及代码架构解读
chenxy02的博客
04-14 2175
参考网址 Installing Kubeflow | Kubeflow 安装方式选用 官方讲述了两种Kubeflow的安装方式，一种是使用打包发行版本，谷歌云、AWS等厂商的客户可以考虑此方式进行安装使用，应该非常方便。 本文主要讲使用manifest（清单） 的方式进行Kubeflow的安装。 怎么使用manifest 从github上拉取仓库GitHub - kubeflow/manifests: A repository for Kustomize manifests 然后照着这个.
安装kubeflow的经验
weixin_45145160的博客
10-23 3615
1、用kubeadm安装好k8s集群 本实验: KubeMaster 10.4.7.20 KubeNode 10.4.7.21 2、确认机器的配置 （1）8个处理器，每个处理器2核，共16G内存 （2）查看root下的centos_kubeflowmaster-root下有超过100G足够的磁盘空间 [root@KubeflowMaster ~]# fdisk -l Disk /dev/sda: 161.1 GB, 161061273600 bytes, 314572800 sectors Units
在 Kubernetes 集群中离线安装 Kubeflow Training Operator
最新发布
11-25
<think>好的，我现在需要帮助用户在Kubernetes集群中离线安装Kubeflow Training Operator。首先，我得回忆一下Kubeflow Training Operator的安装步骤，尤其是离线环境下的特殊要求。 用户提到的是离线安装，这意味着他们无法直接通过互联网下载镜像或YAML文件。我需要考虑如何提前准备所需的镜像和文件。首先，Training Operator通常需要几个组件，比如CRD、RBAC配置、控制器镜像等。在离线环境中，这些都需要提前拉取并推送到私有仓库。 接下来，我应该分步骤来回答。第一步可能是准备必要的镜像，比如kubeflow/training-operator镜像，以及相关的依赖镜像，比如数据库或仪表盘。用户需要在有网络的环境中拉取这些镜像，然后打标签并推送到内部仓库，再在离线环境中重新打标签并拉取。 然后是生成YAML文件。可能需要使用Kustomize或者Helm来生成配置文件，但离线环境下可能需要手动调整镜像地址。比如，修改部署文件中的镜像地址为私有仓库的地址。 接下来是安装CRD和RBAC。这部分可能需要先应用CRD文件，然后创建ServiceAccount、Role和RoleBinding，确保Training Operator有足够的权限运行。 安装控制器本身可能需要应用部署文件，比如使用kubectl apply命令。同时，可能还需要配置持久化存储，比如创建PVC，或者调整StorageClass，这取决于用户的离线环境是否有可用的存储类。 另外，可能需要安装其他依赖项，比如MySQL或MinIO，作为后端存储。这些也需要提前准备好镜像和配置文件。 最后，验证安装是否成功，检查Pod状态，创建测试训练作业，确认是否正常运行。 我需要确保每个步骤都详细说明，特别是离线环境下的注意事项，比如镜像的处理和网络隔离的问题。同时，提醒用户注意版本兼容性，比如Kubernetes和Training Operator的版本是否匹配。 可能的常见问题包括镜像拉取失败，权限不足导致RBAC错误，或者存储配置不正确。在相关问题中应该涵盖这些潜在问题，帮助用户排查。 </think>在离线环境中安装 Kubeflow Training Operator 需要预先准备依赖镜像和配置文件。以下是关键步骤： 1. **镜像准备** - 在有网络的机器上拉取以下镜像： ```bash docker pull kubeflow/training-operator:latest docker pull kubeflow/training-operator-ui:latest docker pull mysql:5.7 ``` - 重新打标签并推送到私有仓库（如 Harbor）： ```bash docker tag kubeflow/training-operator:latest <私有仓库地址>/training-operator:latest docker push <私有仓库地址>/training-operator:latest ``` 2. **生成 YAMl 文件** - 使用 `kustomize` 生成配置（需提前下载源码）： ```bash git clone https://github.com/kubeflow/training-operator cd training-operator/manifests/overlays/standalone kustomize build > training-operator.yaml ``` - 替换 YAML 中的镜像地址为私有仓库地址 3. **安装 CRD 和 RBAC** ```bash kubectl apply -f https://raw.githubusercontent.com/kubeflow/training-operator/master/manifests/crds/v1beta1/tfjob.crd.yaml kubectl create namespace kubeflow kubectl apply -f training-operator.yaml ``` 4. **配置持久化存储（可选）** - 创建 PVC 或配置 StorageClass 以支持训练作业的持久化需求 5. **验证安装** ```bash kubectl get pods -n kubeflow # 创建测试 TFJob kubectl apply -f https://raw.githubusercontent.com/kubeflow/training-operator/master/examples/v1beta1/tfjob-mnist.yaml ```
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值