logstash收集时filebeat区分日志

1.场景

filebeat在服务器中同时收集nginx和web项目日志,需要对两个日志在logstash中分别处理

2.版本区别

==6.x之前==的可以使用filebeat的prospectors里面配置document_type类型,然后在logstash里面使用if [type] == “string” 来匹配,这里不做详细记录
==6.x之后==配置文件不支持document_type,也就是说旧方法是失效的,目前我使用的是==6.2.3==版本的filebeat

3.解决方法

在filebeat里面新增一个fields字段,对这个字段做记录然后在logstahs中进行区分

filebeat配置
filebeat.prospectors:

- type: log

  paths:
    - /Library/apache-tomcat-8.5.15/bin/logs/web.log
    #- c:\programdata\elasticsearch\logs\*

  fields: 
    document_type: weblog   #这一行的key:value都可以自己定义
logstash配置
output{
    if[fields][document_type] == "weblog" {
        stdout { codec => rubydebug }  
    }
}
好的,这是一个比较常见的问题,一般的解决方案如下: 1. 首先,在filebeat的配置文件中进行多文件配置。例如,你可以使用如下的配置: filebeat.prospectors: - paths: - /var/log/logfile1.log - /var/log/logfile2.log - /var/log/logfile3.log input_type: log fields: log_type: logfile1 - paths: - /var/log/logfile4.log - /var/log/logfile5.log - /var/log/logfile6.log input_type: log fields: log_type: logfile2 这个配置文件会将三个文件(/var/log/logfile1.log, /var/log/logfile2.log, /var/log/logfile3.log)认为是一类,将三个文件(/var/log/logfile4.log, /var/log/logfile5.log, /var/log/logfile6.log)认为是另外一类,其中 fields 中的值可以任意指定,主要是为了在 logstash区分不同的日志类型。 2. 在logstash中进行判断。在logstash的配置文件中,我们可以使用条件语句来判断哪些日志属于哪个索引,例如: input { beats { port => 5044 } } filter { if [fields][log_type] == "logfile1" { mutate { add_field => {"[@metadata][index]" => "logstash-logfile1-%{+YYYY.MM.dd}"} } } else if [fields][log_type] == "logfile2" { mutate { add_field => {"[@metadata][index]" => "logstash-logfile2-%{+YYYY.MM.dd}"} } } else { drop {} } } output { elasticsearch { hosts => ["localhost:9200"] index => "%{[@metadata][index]}" } } 这个配置文件会根据 fields 中的值判断哪些日志应该属于哪个索引,并将它们输出到对应的索引中。 希望这个回答可以帮到你!
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值