EFK日志收集搭建

EFK日志收集:

Elasticsearch功能:

Elasticsearch是一个功能强大的分布式、高扩展、高实时的搜索与数据分析引擎,它支持多种数据类型,如结构化,非结构化文本,数字数据和地理空间数据,能够以近乎实时的速度存储,检索和分析这些数据。

Elasticsearch特点

分布式搜索引擎和数据分析引擎,对海量数据的近实时处理,高扩展性和水平伸缩性,易用性和可扩展性,高可用性和安全性。

kibana功能

kibana是一个强大的开源数据可视化和分析平台,它的作用是帮助用户通过交互式的界面对数据进行可视化、查询分析,从而发现数据中的模式,趋势和洞见。

kibana特点

数据可视化,数据查询和搜索,数据分析和聚合,实时监控和警报,用户权限和访问控制,插件和扩展性。

Filebeat功能

Filebeat是一个轻量级的开源日志数据收集器,其主要作用是实时收集,解析和传输日志文件,将日志数据发送到指定的目标系统进一步处理和分析。

Filebeat特点

实时日志收集,灵活的日志数据解析,轻量级和低资源消耗,可靠数据传输,多目标系统支持,简化的配置和管理,可扩展和插件支持。

搭建efk日志收集:

链接:https://pan.baidu.com/s/18S5HXKYlGPiiXHzZH2xrDw 
提取码:7aai

搭建EFK软件放在了百度网盘

搭建环境:

Elasticsearch:192.168.8.20

kibana:192.168.8.20

Filebeat:192.168.8.30

nginx:192.1688.30

Elasticsearch内存(4G)

一、在8.20主机上安装Elasticsearch:

1、使用xftp上传Elasticsearch包使用rpm安装:

rpm -ivh elasticsearch-6.6.0.rpm

2、修改配置文件:

vim /etc/elasticsearch/elasticsearch.yml
node.name: node-1                          #节点名字,尽量和主机名保持一致              
path.data: /data/elasticsearch            #存放目录
path.logs: /var/log/elasticsearch        #日志目录  
network.host: 192.168.8.20,127.0.0.1    #主机ip地址和本机地址
http.port: 9200                                    #端口号 

保存退出

3、创建数据目录,并修改权限:

mkdir -p /data/elasticsearch 
chown -R elasticsearch.elasticsearch /data/elasticsearch/

4、启动elasticsearch,启动elasticsearch需要等待两分钟

systemctl daemon-reload
systemctl restart elasticsearch

二、在8.20主机上安装kibana数据分析工具:

1、安装kibana:

rpm -ivh kibana-6.6.0-x86_64.rpm 

2、修改kibana配置文件:

vim /etc/kibana/kibana.yml
修改:
server.port: 5601
server.host: "192.168.8.10"
server.name: "db01"     #自己所在主机的主机名
elasticsearch.hosts: ["http://192.168.8.10:9200"]   #es服务器的ip,便于接收日志数据
保存退出
3、启动kibana

systemctl start kibana

4、查询kibana,和Elasticsearch端口是否启动

netstat -anpt |grep 9200

 netstat -anpt |grep 5601

在8.30主机上安装filebeat和nginx

1、安装filebeat

rpm -ivh filebeat-6.6.0-x86_64.rpm 

2、修改配置文件,把配置文件内容清空添加

vim /etc/filebeat/filebeat.yml
修改:
filebeat.inputs:
- type: log
  enabled: true
  paths:
    - /var/log/nginx/access.log

output.elasticsearch:
  hosts: ["192.168.8.20:9200"]

保存退出

3、启动filebeat
systemctl start filebeat
 

4、在8.30主机上安装nginx,filebeat负责收集nginx日志信息

yum -y install nginx

5、启动nginx

systemctl start nginx

6、查询nginx端口

netstat -anpt |grep 80
 

三、在8.20主机上安装httpd-tools测试

yum -y install  httpd-tools

2.使用ab压力测试工具测试访问
ab -c 1000 -n 20000 http://192.168.8.30/

3.在es浏览器查看filebeat索引和数据

4.在kibana添加索引
    management--create index 
    discover--右上角--选择today

网盘中有es-head.crx扩展程序添加到谷歌浏览器中,添加视频存放在网盘中。

访问kibana:

添加nginx视频放在网盘中参考

 

 

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值