如何将老板的游戏机接入阿里云自建K8S跑大模型（上） - 如何去掉pritunl中的NAT

如何将办公室中新购买的GPU服务器接入到阿里云上部署的K8S

起因

AI 大火，老板觉得租用阿里云的服务器太贵了，于是把他自己的的 高配置 游戏机 搬到了公司，硬是要求接入到阿里云的K8S中，说用它来提供服务，无非就是公司多点电费。

改造公司VPN

之前公司VPN是采用 pritunl 搭建的，容器化部署的，网络是bridge导出的服务端口，所以 容器IP 和 宿主机 存在一次地址转换（NAT）；pritunl 内还有一次地址转换；所以，通过这个VPN可以成功访问 阿里云 内的服务器，但是阿里云是无法访问接入的服务器。

拆掉 docker容器的 NAT

很简单，网络是bridge模式改为host模式，让容器复用宿主机的网络。

拆掉 pritunl的 NAT

这个研究了很久，最后实现也很简单。
打开pritunl数据库，找到servers集中你的服务对应的记录，找到你希望关闭NAT的网段路由，将 nat改成false就重启服务可以了。

通过前面两歩，解决了阿里云服务器访问办公室接入VPN的服务器的问题。

在本地服务器上安装 K8S worker节点 和 安装 NVIDIA Container Toolkit

这部分暂时先省略掉，其中也是一大堆坑，后面有时间再分享

---

gone是我开发的一个golang依赖注入框架，编写web服务超级方便
github地址：https://github.com/gone-io/gone
文档地址：https://goner.fun/zh/

下一篇：如何将老板的游戏机接入阿里云自建K8S跑大模型（中） - 将自建GPU服务器加入k8s集群做节点