kubernetes 1.24 使用nvidia gpu 单机/集群

hymanSlime

已于 2022-06-28 19:54:29 修改

阅读量667

点赞数

分类专栏：深度学习环境安装文章标签： kubernetes docker linux 人工智能

于 2022-06-28 19:22:02 首次发布

本文链接：https://blog.youkuaiyun.com/bing1zhi2/article/details/125508312

版权

本文详细介绍了如何在kubernetes 1.24环境中安装和配置nvidia-gpu支持。首先，文章涵盖了k8s集群的安装步骤，包括服务器配置、关闭swap、安装containerd以及kubernetes组件。然后，重点讲解了nvidia软件的安装过程，如安装nvidia-container-runtime和修改containerd配置。最后，通过运行一个任务来验证GPU功能的正确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1 k8s集群安装

服务器配置

域名设置好，端口号要开下。命令略了

sudo apt-get update \
   && sudo apt-get install -y apt-transport-https \
      ca-certificates curl software-properties-common

关swap

swapoff -a
sed -ri 's/.*swap.*/#&/' /etc/fstab

ipv4流量转到iptables：

cat <<EOF | sudo tee /etc/modules-load.d/containerd.conf
overlay
br_netfilter
EOF

sudo modprobe overlay \
   && sudo modprobe br_netfilter

cat <<EOF | sudo tee /etc/sysctl.d/99-kubernetes-cri.conf
net.bridge.bridge-nf-call-iptables  = 1
net.ipv4.ip_forward                 = 1
net.bridge.bridge-nf-call-ip6tables = 1
EOF


sudo sysctl --system

安装containerd

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key --keyring /etc/apt/trusted.gpg.d/docker.gpg add -

sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu \
(lsb_release -cs) \
   stable"
   
sudo apt-get update \
   && sudo apt-get install -y containerd.io

生成containerd默认配置并修改重启

mkdir -p /etc/containerd/
containerd config default > /etc/containerd/config.toml

# 添加一行配置
[plugins."io.containerd.grpc.v1.cri".containerd.runtimes.runc.options]
   SystemdCgroup

最低0.47元/天解锁文章