部署k8s-efk日志收集服务(小白的“升级打怪”成长之路)

在K8S集群中部署EFK日志收集 本文介绍了在CentOS 7.9系统上,使用Kubernetes(K8S)v1.26.14版本部署Elasticsearch(ES)7.17.3的过程。首先,环境准备包括配置Ceph或NFS存储,并增加RBAC权限和日志模板。接着,通过ECK方式安装自定义资源并部署Elasticsearch,配置了Master节点和Data节点的角色及资源需求。生产环境中建议优化Master节点配置,分离Data节点角色以提高性能。最后,通过测试验证ES的正常运行,并提供了Fluentd的DaemonSet配置文件示例,用 阅读详情

目录

部署efk

1、所有节点都要安装

2、创建nfs存储

3、在master主机操作

4、创建nfs存储访问、构建es集群

5、部署kibana

6、安装fluentd组件


部署efk

使用k8s集群部署

1、所有节点都要安装

yum install -y nfs-utils    
​
yum install -y socat    

2、创建nfs存储

mkdir /data/v1 -p

vim /etc/exports

/data/v1 192.168.58.0/24(rw,sync,no_root_squash)
[root@k8s-master efk]# systemctl enable --now nfs
Created symlink /etc/systemd/system/multi-user.target.wants/nfs-server.service → /usr/lib/systemd/system/nfs-server.service.
​
[root@k8s-master efk]# exportfs -arv
exportfs: /etc/exports [1]: Neither 'subtree_check' or 'no_subtree_check' specified for export "192.168.58.0/24:/data/v1".
  Assuming default behaviour ('no_subtree_check').
  NOTE: this default has changed since nfs-utils version 1.0.x
​
exporting 192.168.58.0/24:/data/v1
​
[root@k8s-master efk]# showmount -e
Export list for k8s-master:
/data/v1 192.168.58.0/24

3、在master主机操作

安装efk服务

rz efk.zip
​
unzip efk.zip
​
cd efk/

修改配置文件

vim deployment.yaml

#修改为本机ip地址

vim kibana.yaml

#在spec字段中增加type字段

4、创建nfs存储访问、构建es集群

[root@k8s-master efk]# ls
class.yaml       elasticsearch-statefulset.yaml  fluentd.yaml  kube-logging.yaml  rbac.yaml
deployment.yaml  elasticsearch_svc.yaml          kibana.yaml   pod.yaml           serviceaccount.yaml
##创建nfs存储访问
kubectl create -f serviceaccount.yaml
kubectl create -f rbac.yaml
kubectl create -f deployment.yaml
kubectl create -f class.yaml
​
##构建es集群
kubectl create -f kube-logging.yaml
kubectl create -f elasticsearch-statefulset.yaml
kubectl create -f elasticsearch_svc.yaml
[root@k8s-master efk]# kubectl -n kube-logging get po -o wide
NAME           READY   STATUS    RESTARTS   AGE   IP               NODE        NOMINATED NODE   READINESS GATES
es-cluster-0   1/1     Running   0          32s   10.244.169.154   k8s-node2   <none>           <none>
es-cluster-1   1/1     Running   0          25s   10.244.36.90     k8s-node1   <none>           <none>
es-cluster-2   1/1     Running   0          20s   10.244.169.155   k8s-node2   <none>           <none>

5、部署kibana

vim kibana.yml

server.name: kibana
server.host: "0"
elasticsearch.hosts: [ "http://elasticsearch:9200" ]
xpack.monitoring.ui.container.elasticsearch.enabled: true
i18n.locale: "zh-CN"
kubectl -n kube-logging create configmap kibana-configmap --from-file=kibana.yml=./kibana.yml

vim kibana.yaml

#最后加入
        volumeMounts:
        - name: kibana-config
          mountPath: /usr/share/kibana/config/
      volumes:
      - name: kibana-config
        configMap:
          name: kibana-configmap

等待es的pod running后执行

[root@k8s-master efk]# kubectl -n kube-logging get po -o wide
NAME           READY   STATUS    RESTARTS   AGE   IP               NODE        NOMINATED NODE   READINESS GATES
es-cluster-0   1/1     Running   0          32s   10.244.169.154   k8s-node2   <none>           <none>
es-cluster-1   1/1     Running   0          25s   10.244.36.90     k8s-node1   <none>           <none>
es-cluster-2   1/1     Running   0          20s   10.244.169.155   k8s-node2   <none>           <none>
kubectl apply -f kibana.yaml
[root@k8s-master efk]# kubectl -n kube-logging get po
NAME                      READY   STATUS    RESTARTS   AGE
es-cluster-0              1/1     Running   0          7m15s
es-cluster-1              1/1     Running   0          7m8s
es-cluster-2              1/1     Running   0          7m3s
kibana-7645484fc7-8gjfk   1/1     Running   0          4m59s

安装完后在master节点执行

[root@k8s-master efk]# kubectl port-forward --address 192.168.58.180 es-cluster-0 9200:9200 --namespace=kube-logging
Forwarding from 192.168.58.180:9200 -> 9200
Handling connection for 9200
Handling connection for 9200
​

网站访问:http://192.168.58.180:9200/_cluster/health?pretty


查看暴露端口号

[root@k8s-master efk]kubectl -n kube-logging get svc
NAME            TYPE        CLUSTER-IP      EXTERNAL-IP   PORT(S)             AGE
elasticsearch   ClusterIP   None            <none>        9200/TCP,9300/TCP   8m15s
kibana          NodePort    10.97.151.213   <none>        5601:31403/TCP      6m4s

网站访问:192.168.58.180:31403

6、安装fluentd组件

查看污点并复制污点

kubectl describe nodes k8s-master       


修改配置文件

vim fluentd.yaml

##修改key的污点
​
##在tolerations字段中加上:operator: Exists

 kubectl apply -f fluentd.yaml 
[root@k8s-master efk]# kubectl -n kube-logging get po -o wide
NAME                      READY   STATUS    RESTARTS   AGE     IP               NODE         NOMINATED NODE   READINESS GATES
es-cluster-0              1/1     Running   0          40m     10.244.169.154   k8s-node2    <none>           <none>
es-cluster-1              1/1     Running   0          40m     10.244.36.90     k8s-node1    <none>           <none>
es-cluster-2              1/1     Running   0          40m     10.244.169.155   k8s-node2    <none>           <none>
fluentd-5rndr             1/1     Running   0          114s    10.244.169.157   k8s-node2    <none>           <none>
fluentd-kjc7h             1/1     Running   0          3m43s   10.244.235.197   k8s-master   <none>           <none>
fluentd-xrkr2             1/1     Running   0          2m3s    10.244.36.93     k8s-node1    <none>           <none>
kibana-7645484fc7-8gjfk   1/1     Running   0          38m     10.244.36.91     k8s-node1    <none>           <none>

网站访问:192.168.58.180:31715

创建索引模式

查看

看到感觉有帮助的朋友,劳烦动动发财的小手给博主点个赞

k8s部署efk efk k8s 阅读详情

相关推荐

k8s 部署智能化日志收集平台 EFK

k8s 平台部署智能化日志收集平台采集 Pod 业务日志

高飞的博客 29万+

利用EFK实现k8s集群日志收集系统

本章基于k8s集群部署gitlab、sonarQube、 Jenkins等工具,并把上述工具集成到Jenkins中,以Django项目为例,通过多分支流水线及Jenkinsfle实现项目代码提交到不同的仓库分支,实现自动代码扫描、单元测试、docker容器构建、k8s服务的自动部署。

详解STM32F407双重ADC同步采集与DMA传输的配置技巧及实战应用

本文详细解析了STM32F407双重ADC同步采集与DMA传输的配置技巧及实战应用。通过CubeMX配置、代码实现和常见问题解决方案,帮助开发者高效实现多通道数据同步采集,提升工业自动化和嵌入式系统的数据采集效率与精度。

ii567的博客 364

kubernetes(k8s)中部署 efk

Kubernetes 开发了一个 Elasticsearch 附加组件来实现集群的日志管理。这是一个 Elasticsearch、Fluentd 和 Kibana 的组合。Elastics...

小云的博客 1166

C++和蓝图1:Unreal Engine 中 C++ 与蓝图的桥梁

摘要: 本文介绍了Unreal Engine(UE)中C++与蓝图可视化脚本的结合机制,重点解析了宏系统(UCLASS、UPROPERTY、UFUNCTION)如何实现代码与蓝图的交互。相比Unity的纯C#脚本模式,UE的双轨制开发允许程序员用C++处理核心逻辑,同时通过蓝图让非程序员快速迭代。文章对比了两大引擎的编程范式差异,指出UE的反射系统和宏标记提供了更精细的控制,并给出了从Unity迁移到UE的具体思路。核心在于理解UE的混合编程优势:C++保证性能,蓝图提升开发效率,二者通过宏系统无缝协作。

qq_46348216的博客 1407

pgsql:还原数据库后出现重复序列导致“more than one owned sequence found“报错问题的解决

pgsql数据库通过备份数据库文件进行还原时,如果表中有自增序列,还原后可能会出现重复的序列,此时若向表中插入新行时会出现“more than one owned sequence found”的报错提示。还原数据库时把序列取消勾选,选择不还原序列。因为还原表的同时,会自动将自增序列还原上去,此处勾选会导致数据库重复创建序列。点击还原数据库完毕后,可以看到序列仅有一个,没有出现重复序列。但此时的序列当前值是从1开始的,需要重置。点击菜单“其它”-》“序列”,可以看到有多个重复序列。

奋斗鱼 1043

EFK环境搭建(基于K8S环境部署)

控制器部署fluentd组件,这样可以保证集群中的每个节点都可以运行同样fluentd的pod副本,这样就可以收集k8s集群中每个节点的日志,在k8s集群中,容器应用程序的输入输出日志会重定向到node节点里的json文件中,fluentd可以tail和过滤以及把日志转换成指定的格式发送到elasticsearch集群中。链接:https://pan.baidu.com/s/1ttMaqmeVNpOAJD8G3-6tag。4.1创建运行nfs-provisioner需要的账号。在master1上执行。

m0_71163619的博客 2411

西门子SCL出栈入栈算法(附带源码)

栈是一种数据结构,它的特点是数据后入先出(Last In First Out,LIFO)或者说是先入后出,意思是一样的。栈有三个基本动作:初始化、入栈和出栈。接下来给大家介绍下我使用SCL语言编写的栈函数,它以不定长数组作为存储区,以实数作为数据类型,实现了栈的初始化、入栈和出栈的操作。

CHUXUEZHE8210的博客 2331

k8s搭建EFK(Elasticsearch,Kibana,Filebeat)

在k8s集群内搭建EFK做日志采集和展示

吴广智的博客 3881

从帧结构到数据解析:深入理解CJ/T 188 MBUS水表通信协议

本文深入解析CJ/T 188 MBUS水表通信协议,从帧结构到数据解析提供完整指南。通过典型报文示例和实战案例,详细讲解地址域、控制码、数据标识符(DI)等关键字段的解析技巧,并分享校验算法与常见错误排查方法,帮助开发者快速掌握MBUS协议在水表通信中的应用。

weixin_28710999的博客 421

Pointnet++环境配置(Windows11和ubuntu)及训练教程

PS:前两行命令是数据处理的命令,主要是进行数据读取和生成相应的训练数据格式,在Ubuntu上是正常运行的,在Windows上运行会失败,无法生成训练用的数据格式,所以最好在Ubuntu上训练,如果一定要用Windows,可以ubuntu上生成数据格式在导到Windows上,数据生成不需要安装torch。通过anaconda配置的环境,在官网找的命令安装的,版本是2.1.0+cu118。训练命令:我使用的pycharm,直接在pycharm中打开终端,运行命令。Python版本:3.7。

AIcurator的博客 2558

【云原生】【k8s】Kubernetes+EFK构建日志分析安装部署

【云原生】【k8s】Kubernetes+EFK构建日志分析安装部署

共产主义接班人 3835

1.嵌入式控制器EC学习,编译环境搭建

工欲善其事,必先利其器。 在学习EC相关知识之前,首先需要完成EC代码编译环境的搭建,需要如下内容: Keil C51(用于EC中C代码的编译器环境) EC源代码,我们使用从网上可以下载到的 ITE_V12.4_Update 版的代码为例进行学习 代码编辑器,这个可以根据自己的习惯选择,VS Code或者Source Insight等 Keil C51下载地址: http://www.downcc.com/soft/307131.html 下载完成后请进行破解 EC源代码 ...

qq_30135687的博客 3917

k8s部署EFK-elasticsearch+fluentd+kibana

参考地址 https://kubernetes.io/docs/concepts/services-networking/service/#headless-services https://www.qikqiak.com/post/install-efk-stack-on-k8s/

qq_36200932的博客 5945

【STM32实物】基于STM32设计的智能垃圾桶(语音、颜色识别、称重、光强、烟雾、人体识别、步进电机、水泵等)_资料编号25

基于STM32的语音识别垃圾桶系统以STM32F103C8T6为主控,采用18650可充放电锂电池组供电。硬件组成模块由5V步进电机马达与ULN2003驱动板、HX711压力传感器模块、DC5V水泵与MOSFET驱动板、0.96寸OLED显示屏、四个轻触按键、四个TCRT5000红外反射传感器、四个SG90舵机、SU-03T1语音模块、光敏电阻模块、MQ-2烟雾传感器模块、TCS34725颜色识别模块、蜂鸣器、LED灯构成。通过编写C语言软件程序,实现各硬件模块的协同工作。

嵌入式阿齐Archie 1万+

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

K8s部署轻量级日志收集系统EFK(elasticsearch + filebeat + kibana)

Pod 的选择基于标签。这个pod一次运行了两个容器,分别是kibanah和elasticsearch,并且把elasticsearch容器中的/usr/share/elasticsearch/data目录下的内容,挂载到了es-pv-claim下,我们可以在第三步中的NFS服务器共享目录中找到挂载的数据。点击侧边栏,选择discover,就能看到Filebeat收集到的容器日志,可以按照自己的需求进行日志筛选。的 Pod,这些 Pod 的端口 9200 和 9300 将被公开,并且可以通过相应的。

ζั͡山 ั͡有扶苏 ั͡✾的博客 4259

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

K8s部署轻量级日志收集系统EFK(elasticsearch + filebeat

程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!**

2401_84166327的博客 1062

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

【云原生】Kubernetes部署EFK日志分析系统

Elasticsearch、Fluentd和Kibana。(EFK)技术栈也是官方推荐的一种方案。

weixin_73059729的博客 2269

K8S 部署 EFK 并设置中文

如果能打开这个网址的话直接用这个命令安装,打不开的话可能需要挂梯子。安装operator 和 RBAC 规则安装好以后查看。

小五 1729

部署EFK

文章目录前言一、拓扑图二、配置环境三、配置tomcat服务器1. 安装 JDK ,配置 JAVA 环境2. 安装配置 Tomcat3. Tomcat 配置说明4. 启动 Tomcat5. 优化 Tomcat 启动速度四、配置 Elasticsearch 环境五、安装elasticsearch集群1.部署 Elasticsearch 软件3.安装 elasticsearch-head 插件六、部署filebeat七、node1安装 Kibana 前言 通过filebeat监控tomcat日志,提交给es,并由

m0_59430185的博客 1004

K8S学习之EFK集群

Kubernetes集群EFK Elasticsearch是一个实时的,分布式的,可扩展的搜索引擎,它允许进行全文本和结构化搜索以及对日志进行分析。它通常用于索引和搜索大量日志数据,也可以用于搜索许多不同种类的文档。 kibana是Elasticsearch 的功能强大的数据可视化的dashboard(仪表板)。Kibana允许你通过Web界面浏览Elasticsearch日志数据,也可自定义查询条件快速检索出elasticccsearch中的日志数据。 Fluentd是一个流行的开源数据收集器,我们将在

weixin_60092693的博客 2600

EFK部署及应用

概述 EFK可能都不熟悉,实际上EFK是大名鼎鼎的日志系统ELK的一个变种。 在没有分布式日志的时候,每次出问题了需要查询日志的时候,需要登录到Linux服务器,使用命令cat -n xxxx|grep xxxx 搜索出日志在哪一行,然后cat -n xxx|tail -n +n行|head -n 显示多少行,这样不仅效率低下,而且对于程序异常也不方便查询,日志少还好,一旦整合出来的日志达到几个...

tootsy_you的博客 1918

k8s--基础--24.3--efk--安装efk组件

通过上面几个步骤,我们已经在k8s集群成功部署了elasticsearch,fluentd,kibana内容3个Elasticsearch Pod一个Kibana Pod一组作为DaemonSet部署的Fluentd Pod。

zhou920786312的博客 1733

EFK架构部署

7.17版本。

m0_68858390的博客 1643

k8s搭建EFK日志管理系统

k8s搭建EFK日志管理系统 efk就是目前比较受欢迎的日志管理系统。kubernetes可以实现efk的快速部署和使用,通过statefulset控制器部署elasticsearch组件,用来存储日志数据, 还可通过volumenclaimtemplate动态生成pv实现es数据的持久化。通过deployment部署kibana组件,实现日志的可视化管理。 通过daemonset控制器部署fluentd组件,来收集各节点和k8s集群的日志。 https://www.nnv5.cn/index.ph

weixin_39833509的博客 1383
上一篇: k8s-容器化部署论坛和商城服务(小白的“升级打怪”成长之路)
下一篇: K8S-Prometheus服务配置(小白的升级“打怪成长”之路)
deeper_wind
博客等级 码龄2年 262粉丝 50原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值