K8S 部署 logstash 解析 nginx log 接入ELK_logstash-8

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

本来觉得应该挺简单的，部署个logstash容器，把日志文件挂载上就完事，结果很是折腾了一番，里面涉及到一些细节点(主要也是我做研发出身对这块不熟)，网上找了很多文章，都没有能一次解决的，今天将我部署的过程分享一下，希望能帮到需要的同学。

--------------------- 原创不易，如果大家看完觉得有帮助，希望能多多点赞关注，感谢各位的支持 ----------------------

容器部署

容器部署这块相对来说比较简单，官网的镜像可以直接使用，logstash:8.12.2
由于容器分布在不同节点上，每个node都要部署一个容器，正常来说用DaemonSet比较合适，不过由于logstash本身还要配置PVC来存储数据，插件，最终我还是选用了StatefulSet，通过volumeClaimTemplates: 动态创建pvc。

logstash默认使用9600端口提供http访问，主要是做监控的，所以还是声明1个service备用

Service

# api service

apiVersion: v1
kind: Service
metadata:
  name: logstash-svc
  namespace:  es
  annotations: 
    desc : logstash集群 服务访问入口
spec:
  selector:
     k8s-app: logstash
  type: ClusterIP   #type: ClusterIP【默认】 | NodePort | LoadBalancer(外部负载均衡) | ExternalName (外部DNS解析)
  #这里我依然使用了固定ip，便于给负载的nginx管理upstream
  clusterIP: 10.106.220.231
  ports:
    - port: 9600 
      targetPort: 9600 
      name: httpport
      #nodePort: 32000


---

---

StaefulSet

要点说明：

• 由于我的ES开启了SSL验证，因此logstah要使用部署ES时创建的 elasticsearch-ca.pem（详见前情提要）；
• 要解析访问ip的归属地，需要用到geoip的地理位置数据库，这里使用的开源免费maxmind的GeoLite2-City.mmdb，下载地址 需要注册用户，有邮箱就行；
• 为了便于自动部署，我借用jenkions做了文件存储，基于jenkins的账号验证提供初级的文件安全保证，使用initContainers在启动容器前，下载所需的证书以及ip地理位置数据，通过配置ENV给容器获取账号、密码，此外还增加禁止下载的ENV变量，以便于在特殊情况下屏蔽下载(比如jenkins 宕机了)；
• 由于是把相同配置的logstash容器调度到不同的node上，会存在logstash的pipelines中配置的任务对应的日志信息在本地存储中不存在的情况，这并不会影响logstahs执行
• 配置中涉及的{jenkins_hosts} 与 {job_name}为部署的jenkins访问域名与对应的job名称，需要给job配置文件参数，可以指定上传后的文件名与路径{jenkins_upload_path}，这样在build的时候就可以进行上传了。此外下载后的存储地址{path}也是可以根据需要来修改的，不过要注意在volume中挂在对应的存储目录，以上这些参数都需要根据实际情况自行配置(当然不用jenkins，使用其他存储也可以比如 nfs，每次手动通过kubectl cp 上传也是可以的)
• 使用podAntiAffinity来确保pod会调度到不同的node上；

K8S部署yml如下

apiVersion: apps/v1
kind: StatefulSet # Deployment | StatefulSet | DaemonSet | JobSet
metadata: 
  name: logstash
  namespace:  es
spec: 
  replicas: 1  #运行副本数 每台node部署1个与node数量相同
  selector: 
    matchLabels: 
      k8s-app:  logstash #与下方template节点中的 labels 保持一致
  revisionHistoryLimit: 10 #设定保留最近的几个revision 用于回滚，默认10
  updateStrategy: #更新策略 [Statefulset]
  #strategy: #更新策略 [Deployment]
    type: RollingUpdate # RollingUpdate (滚动更新) | OnDelete (删除时更新)
    rollingUpdate:
      #maxSurge: 1 #[Deployment]支持-升级过程中可以启动超过原先设置的POD数量的上限：数量 或 百分比 1 | 20%
      #maxUnavailable: 1 #[Deployment]支持-升级过程中无法提供服务的POD数量的上限：数量 或 百分比 1 | 20%，最好与maxSurge保持一致，这样能确保更新过程中的服务能力不会下降
      partition: 0 #[Statefulset] 灰度发布