elk 5.1 用于mysql slow 日志

最新推荐文章于 2025-05-19 01:00:00 发布

原创最新推荐文章于 2025-05-19 01:00:00 发布 · 1.5k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#elk

elk 专栏收录该内容

30 篇文章

订阅专栏

本文介绍如何使用ELK栈解析MySQL慢查询日志，并通过Logstash配置实现日志收集与处理，最终将数据导入Elasticsearch供进一步分析。

最近面临一个任务，要对mysql的慢查询日志进行整理输出。之前的Le的时候，写过一个脚本，multiline处理mysql的日志，然后每天发送日志。不过，由于日志格式不同，有些可以解析，但是有些也是解析错误了。

听说elk很牛已经很久了，之前也测试过，当时是为了打造一款日志处理中心，但是需要有RBA功能，role based authorization，区分不同的用户权限，但是当时的测试非常糟糕，一个是不懂elk，一个是RBA需要付费才有，所以后来也就搁浅了。

这次重装上阵，直捣黄龙，目标只有一个，就是解析慢查询日志。

e

下载

配置

# config/elasticsearch.yml

node.name: t17
path.data: ./data
path.logs: ./logs
network.host: 192.168.126.17

http.cors.enabled: true
http.cors.allow-origin: "*"

插件 (head)

git clone git://github.com/mobz/elasticsearch-head.git
cd elasticsearch-head
npm install -f
grunt server
open http://localhost:9100/

启动

# 直接启动，也不要啥启动脚本了。
./elasticsearch

l

input {
  #stdin {
  file {
    type => "mysql-slow"
    path => "/opt/elk/logstash-5.1.1/bin/master-slow.log"
    start_position => "beginning"
    codec => multiline {
      pattern => "^# User@Host:"
      negate => true
      what => previous
    }
  }
}

filter {
  # drop sleep events
  grok {
    match => { "message" => "SELECT SLEEP" }
    add_tag => [ "sleep_drop" ]
    tag_on_failure => [] # prevent default _grokparsefailure tag on real records
  }
  if "sleep_drop" in [tags] {
    drop {}
  }
  grok {
    #match => [ "message", "(?m)^# User@Host: %{USER:user}\[[^\]]+\] @ (?:(?<clienthost>\S*) )?\[(?:%{IP:clientip})?\]\s*# Query_time: %{NUMBER:query_time:float}\s+Lock_time: %{NUMBER:lock_time:float}\s+Rows_sent: %{NUMBER:rows_sent:int}\s+Rows_examined: %{NUMBER:rows_examined:int}\s*(?:use %{DATA:database};\s*)?SET timestamp=%{NUMBER:timestamp};\s*(?<query>(?<action>\w+)\s+.*)\n# Time:.*$" ]
    #match => [ "message", "# User@Host: %{WORD:test};" ]
    match => [ "message", "# User@Host:\s+%{WORD:user1}\[%{WORD:user2}\]\s+@\s+\[(?:%{IP:clientip})?\]\s+#\s+Thread_id:\s+%{NUMBER:thread_id:int}\s+Schema:\s+%{WORD:schema}\s+QC_hit:\s+%{WORD:qc_hit}\s+#\s+Query_time:\s+%{NUMBER:query_time:float}\s+Lock_time:\s+%{NUMBER:lock_time:float}\s+Rows_sent:\s+%{NUMBER:rows_sent:int}\s+Rows_examined:\s+%{NUMBER:rows_examined:int}\s+#\s+Rows_affected:\s+%{NUMBER:rows_affected:int}\s+SET\s+timestamp=%{NUMBER:timestamp};\s+(?<query>(?<action>\w+)\s+.*);"]
  }
  date {
    match => [ "timestamp", "UNIX" ]
    remove_field => [ "timestamp" ]
  }
}

output {
  elasticsearch { 
    hosts => ["192.168.126.17:9200"] 
        index=>"mysql-slow-log-%{+YYYY.MM.dd}"
    }
  stdout { codec => rubydebug }
}