那个那个

使用sealos部署了一套K8S集群master信息：172.27.100.1、172.27.100.2、172.27.100.3node信息：172.27.100.4、172.27.100.5sealos安装在172.27.100.1节点，根目录下/root/.sealos/文件还在！现象描述：因各种原因sealos 第一个节点被搞烂了（原集群中172.27.100.1被移除或其他原因），需要恢复172.27.100.1！

原因：主机安装了安全类软件导致！先暂停安全软件或者卸载后重试！

通过yaml在k8s集群内部署grafana。使用storageclass持久化。

Higress是基于阿里内部的Envoy Gateway实践沉淀、以开源Istio + Envoy为核心构建的云原生API网关，实现了流量网关 + 微服务网关 + 安全网关三合一的高集成能力，深度集成Dubbo、Nacos、Sentinel等微服务技术栈，能够帮助用户极大的降低网关的部署及运维成本且能力不打折；在标准上全面支持Ingress与Gateway API，积极拥抱云原生下的标准API规范；

k8s部署allinone方式部署jumpserver4.0.2。

以上都是因为内核未加载iptables模块导致！加载内核模块iptable_filter。２.２、查看k3s日志。

K8S常用命令记录。

1、测试环境2、安装显卡驱动3、安装cuda工具4、配置容器运行时5、K8S集群安装nvidia插件。

K8S基础服务（apiserver、controller、scheduler、etcd）时区设置。

Docker安装部署Nexus3作为内网镜像代理。

安装编译环境。

目前证书只能在cert-manager名称空间下使用，我们需要再部署一个kubed/config-syncer同步服务，将cert-manager名称空间下的ssl证书同步到其他名称空间。gitlab地址：https://github.com/kubeops/config-syncer。后续可以通过浏览器验证，访问域名看证书是否正常。向letsencrypt申请三个月免费证书。检查证书是否同步到所有名称空间。检查，证书是否申请成功。查看secret信息。检查容器是否正常部署。

参考官网部署文档：https://ranchermanager.docs.rancher.com/zh/v2.6/pages-for-subheaders/install-upgrade-on-a-kubernetes-cluster。

cert-manager 在 Kubernetes 集群中增加了证书 (certificates) 和证书颁发者 (certificate issuers) 作为资源类型，并简化了获取、更新和应用这些证书的过程。它能够从各种反对的起源签发证书，包含 Let’s Encrypt、HashiCorp Vault 和 Venafi 以及私人 PKI。

参考：https://blog.youkuaiyun.com/Y3_flybird/article/details/126846976。节点打标签使其可以调度vgpu管理程序。升级后可以正常查看PCI显卡型号。以上，gpu节点安装完成。查看支持的显卡驱动版本。

注：修改部署类型，如果有多台显卡，可以选择部署到有显卡的服务器。2.4、通过rancher设置容器使用显卡数量。k8s集群内带GPU工作节点配置显卡驱动。1.3、安装nvidia-docker2。2.2、部署k8s nvidia插件。2.1、修改daemon.json。2.3、K8S集群内检查显卡。1.1、官网下载驱动程序。注：cuda最好12版本。一、下载、安装显卡驱动。系统为Centos7。1.2、安装显卡驱动。二、配置环境支持显卡。

kube-prometheus 是一整套监控解决方案，它使用 Prometheus 采集集群指标，Grafana 做展示，包含如下组件：Grafana其中 k8s-prometheus-adapter 使用 Prometheus 实现了 metrics.k8s.io 和 custom.metrics.k8s.io API，所以不需要再部署 metrics-server。如果没有特殊指明，本文档的所有操作均在 k8s-Mater 节点上执行；

报错信息：解决办法：安装后再次安装kubeadm

转载自：k8s在pod内无法ping通servicename和ClusterIPiptables与IPVS对比Iptables：灵活，功能强大规则遍历匹配和更新，呈线性时延IPVS：工作在内核态，有更好的性能调度算法丰富：rr，wrr，lc，wlc，ip hash…生产环境推荐使用IPVS①、进入容器内部测试ping ClusterIP:无法ping通coder@user1-container10-79754b6fcd-vmrhp:~/project$ ping 10.103.84.9

二进制部署Prometheus及监控服务一、部署prometheus1、下载版本：2.33.3https://github.com/prometheus/prometheus/releases/download/v2.33.3/prometheus-2.33.3.linux-amd64.tar.gz2、下载完后解压即可使用[root@k8s-03 src]# tar -zxvf prometheus-2.33.3.linux-amd64.tar.gz [root@k8s-03 src]# l

继：使用shell脚本自动部署单master节点多node k8s集群。shell自动部署k8s集群：新增加的work node节点加入k8s集群一、准备工作这里演示添加 172.29.6.165 k8s-04 机器为例！1.1、修改新增node计算机名。[root@localhost kubeadm-single-master]# hostnamectl set-hostname k8s-041.2、修改hosts文件添加新node主机IP-计算机名解析。[root@k8s-01 kube

使用shell脚本自动部署单master节点多node k8s集群。一、前言因公司软件运行环境都是kubeadm+k8s+docker+rancher的方式，有的项目有需求K8S需要做高可用，有的只需要做单master即可。项目比较多基本上每个客户都有正式环境、开发环境、测试环境，为了避免做重复性的工作，做一个合格的运维懒人这里通过shell脚本来做一个自动化部署k8s集群。脚本使用首先需要定义环境变量，即当前目录下的：environment.sh文件，所有的关键信息都通过environment.s

docker 小技巧一、docker容器镜像①、导出docker容器镜像导出镜像# 把镜像打包成 .tar# -o 要保存路径.tar# > 要保存路径.tar# docker save 镜像id > /存储路径/xxx.tardocker save fce91102e17d>/root/tomcat.tar# docker save 镜像id -o 存储路径docker save fce91102e17d -o /root/tomcat.tarexport 导

从阿里云下载kubeadm rpm格式安装包到本地①、配置yum源# cat <<EOF > /etc/yum.repos.d/kubernetes.repo[kubernetes]name=Kubernetesbaseurl=http://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64enabled=1gpgcheck=0repo_gpgcheck=0gpgkey=http://mirrors.

为K8s的coredns配置上游DNS服务器一、背景描述二、如何修改coredns达到目的三、修改coredns 解析指定域名走指定dns①、get coredns configmap②、修改coredns configmap③、查询现有coredns pod并逐个重启④、验证解析是否正确一、背景描述有一个项目需要部署到客户内网，并通过nat映射实现外网访问！项目中有多个服务之间调用是走的外网域名，项目采用k8s集群容器部署，客户的网络情况导致服务之间通过外网域名互调时总是 connection ti

kubeadm搭建K8S高可用集群（一）一、集群规划①、服务器主备准备了4台虚拟机，三台做K8S高可用集群+ETCD集群，keepalived+nginx实现K8S apiserver 高可用。k8s-01 192.168.0.108 master+etcd+keepalived+nginxk8s-02 192.168.0.109 master+etcd+keepalived+nginxk8s-03 192.168.0.111 master+etcd+keepalived+nginxk8s-0

rancher “Failed to connect to proxy” error=“websocket: bad handshake”度娘有两种说法参考：https://www.wulaoer.org/?p=2127一、跑Rancher 的机器Docker和K8S Docker容器网段相同！昨天因为需求，所以需要部署新的环境，然后就创建了kubenetes，想着还是使用rancher来管理来着，但是在导入rancher的时候总是报错：websocket: bad handshake，百度了很久，

K8S集群部署kube-Prometheus监控Mysql 5.7一、前言测试环境使用的mysql单机版，部署在K8S集群内，现在需要部署mysql-exporter暴露metrics，有两种方式：①、在K8S集群外部署mysql-exporter②、在K8S集群内部署mysql-exporter。本文采用第二种方式。注：为管理方便单独为kube-prometheus 下集群外服务监控创建了一个namespace[root@k8s01 prometheus-mysql]# kubectl cr

K8S集群部署kube-Prometheus监控k8s集群内pod容器应用的jvm接上一篇：K8S集群部署kube-Prometheus监控tomcat jvm今天来实施k8s集群部署Kube-Prometheus 监控K8S集群内pod容器应用的jvm一、环境描述有一个jar包需要在K8S集群运行起来。要做到监控jar包应用的jvm按以下几步。1、将jvm-exporter整合进我们的应用，修改Dockerfile 加入jmx_exporter。2、配置Prometheus服务自动发现3、在

K8S集群部署kube-Prometheus监控tomcat jvm一、背景描述kube-Prometheus部署在K8S集群中！kube-prometheus部署参考：K8S集群二进制部署之Prometheus监控告警现在需要实现kube-prometheus 监控 tomcat jvmtomcat 部署在 172.16.1.15 服务器上jdk版本：java version "1.8.0_121tomcat 版本：Apache Tomcat/8.5.59二、tomcat环境配置注：to

K8S集群部署kube-Prometheus监控etcd一、背景转载自：https://cloud.tencent.com/developer/article/1760581稍微做了一些调整。除了 Kubernetes 集群中的一些资源对象、节点以及组件需要监控，有的时候我们可能还需要根据实际的业务需求去添加自定义的监控项，添加一个自定义监控的步骤也是非常简单的，主要有以下三个步骤：第一步建立一个 ServiceMonitor 对象，用于 Prometheus 添加监控项；第二步为 Servic

Prometheus监控Ceph（版本octopus）集群、并实现告警。一、背景描述公司K8S集群后端存储采用的是cephfs，测试环境经常性出现存储故障，虽然最后都解决了但是也比较耗时，于是决定还是把监控做上，测试环境已经有Prometheus了，那就直接采用prometheus实现数据采集。granfa做展示Ceph版本为：[root@k8s01 ceph_exporter]# ceph versionceph version 15.2.4 (7447c15c6ff58d7fce91843b7

K8S：应用pod滚动更新、回滚pod版本一、背景描述k8s版本：v1.16.6系统版本：entOS Linux release 8.2.2004 (Core)文档内容：测试K8S环境中如何实现pod滚动更新（更新时业务不中断），以及更新后回滚到上一版本或指定版本。二、业务pod滚动更新①、非滚动更新yaml对于多实例服务，滚动更新采用对各个实例逐批次进行单独更新而非同一时刻对所有实例进行全部更新，来达到不中断服务的更新升级方式。对于Kubernetes集群来说，一个service可能有多个

K8S滚动升级对于多实例服务，滚动更新采用对各个实例逐批次进行单独更新而非同一时刻对所有实例进行全部更新，来达到不中断服务的更新升级方式。对于Kubernetes集群来说，一个service可能有多个pod，滚动升级（Rolling update）就是指每次更新部分Pod，而不是在同一时刻将该Service下面的所有Pod shutdown，然后去更新（例如replace --force方案），逐个更新可以避免将业务中断，（但是也可能带来数据不一致的问题，本文就不过多讨论了）。关键代码在spe

export ETCDCTL_API=3etcdctl snapshot restore /usr/local/src/snapshot_20210509-144401.db –data-dir="/data/k8s/etcd_new/etcd.restore" –name k8s01 –initial-cluster “k8s01=https://172.16.1.11:2380,k8s02=https://172.16.1.12:2380,k8s03=https://172.16.1.13:23

K8S集群部署之Prometheus 监控-钉钉告警一、背景描述接上一篇：K8S集群二进制部署之Prometheus监控告警实现了钉钉邮箱告警，由于Zabbix集成的钉钉告警，所以这里也来谈谈Prometheus通过dingtalk实现告警。二、部署dingtalk-hook注：自行添加钉钉机器人！①、编制dingtalk-hook.yaml文件我们使用作者制作的Docker 镜像https://hub.docker.com/r/timonwong/prometheus-webhook-di

k8s设置Node污点master节点设置taint如果不想让master节点参与到正常的pod调度，则需要对master进行打污点标签，这样master就不会有pod创建(pod创建时可以进行容忍度设置，这样master还是可以进行pod调度)污点标记PreferNoSchedule：NoSchedule 的软策略版本，表示尽量不调度到污点节点上去NoExecute：该选项意味着一旦 Taint 生效，如该节点内正在运行的 pod 没有对应 Tolerate 设置，会直接被逐出给master节

K8S集群二进制部署之Prometheus监控告警一、背景描述①、K8S版本为 1.16.6二、参考文档未修改镜像地址的yaml文件：https://github.com/coreos/kube-prometheus/tree/master/manifests（使用腾讯云镜像仓库）修改镜像地址的yaml文件：https://gitee.com/mylanvv/kube-prometheus.gitprometheus官方文档：https://prometheus.io/docs/alerting

K8S集群二进制部署之添加Node节点K8S集群搭建参考网址：https://github.com/opsnull/follow-me-install-kubernetes-cluster一、环境准备：①、新节点修改计算机名称（新节点执行）[root@sjyt-k8s05-node05 ~]#hostnamectl set-hostname sjyt-k8s05-node05②、在sjyt-k8s01 K8Smaster服务器上实现无秘登录新加入节点（新节点执行）[root@sjyt-k8s0

K8S：使用Filebeat收集K8S内Pod应用日志一、环境描述没有K8S集群时应用日志通过filebeat–>redis–>logstash–>es–>kibana进行收集展示，上K8S集群后也需要考虑收集日志的问题，此处仅考虑 pod 中java应用生产的 info 和error文本日志。Kubernetes集群中的日志收集解决方案我们采用sidecar方案，将filebeat与应用部署到同一个pod，将应用日志挂载到主机目录，filebeat将日志挂载到其容器内。