GrayLog查询语法

📚GrayLog查询语言

Graylog的查询语法接近Lucene语法。默认情况下,如果未指定要搜索的消息字段,则搜索中将包括所有消息字段。

📗官网文档

官方文档https://docs.graylog.org/docs/query-language

以下内容总结了部分查询语法以及注意事项,如果不能满足日常使用,可以查看官网文档。

📘页面结构

GrayLog Search 页面结构
image.png

📍注意事项

❗️注意:
ANDOR NOT 区分大小写,并且必须全部大写。关键词大小写敏感。检索内容大小写不敏感【取决于分词器】。

通配符:
?:匹配单个字段
*:匹配0个或多个字符

特殊字符查询需要使用\转义:
& | : \ / + - ! ( ) { } [ ] ^ " ~ * ?

⏰注意:
如果查询条件有特殊字符未转义,graylog会提示错误信息。

📜查询语法

💡字符查询

中文关键字会存在分词器问题。

# 模糊查询 直接输入关键词,多个词,用空格分隔【或的关系】 如果有且的关系,需要用AND
# 查询包含有SERVER_NAME或WorkSpace的数据
SERVER_NAME WorkSpace

# 精确查询 加引号
"SERVER_NAME" "WorkSpace"

# 字段查询
# 查询环境为dev的数据
env:dev
# 查询环境非dev的数据
NOT env:dev

# 查询不存在某个字段的日志
NOT _exists_:type     

# 多字段查询
env:(local OR dev)

# 多条件查询
env:(local OR dev) AND source:host\-10\-0\-204\-66

# 正则匹配查询,默认导通配符是关闭的。也避免使用这种方式。
env:t?st AND full_message:api*

#特殊字符转义查询:& | : \ / + - ! ( ) { } [ ] ^ " ~ * ?
resource:\/posts\/45326 

🗒数字字段

http_response_code:[500 TO *]    #查询状态码在500以上的 包含500
http_response_code:[500 TO 504]  #查询状态码在500 - 504 之间 包含 500 504
http_response_code:{400 TO 404}  #查询状态码在400 - 404 之间 不包含 400 404
bytes:{0 TO 64]
http_response_code:[0 TO 64}

http_response_code:>400
http_response_code:<400
http_response_code:>=400
http_response_code:<=400

# 组合查询
http_response_code:(>=400 AND <500)  

# 日期范围查询  时间格式为:yyyy-MM-dd HH:mm:ss.SSS
timestamp:["2022-11-12 04:31:50.693" TO "2022-11-12 06:31:50.693"]

📌常用查询示例

字段精准查询

格式:字段名:"查询信息"
示例:full_message:"告警信息"
注意:精准查询需要加引号。分词为默认分词器,对于中文默认为单字分词,不加引号查询就是模糊查询,一般不能达到预期效果。
例如:检索【登录失败】关键字,如果查询条件为 【登录失败】,那么在使用默认分词器的情况下,会查询出来包含【登、录、失、败】这四个字的日志信息,如果查询条件为 【“登录失败”】可以精确查询到包含【登录失败】的日志信息。

组合多字段查询

示例:level_name:"INFO" AND full_message:"13788888888"

💡查询说明

graylog查询底层依旧是elasticsearch,检索不到跟分词器有关,默认是标准分词器。
例如:
消息内容如下,仅检索SocketTimeoutException会检索不到,检索java.net.SocketTimeoutException即可。
image.png

elasticsearch内置分词器:

  • Standard Analyzer - 默认分词器,英文按单词词切分,并小写处理
  • Simple Analyzer - 按照单词切分(符号被过滤), 小写处理
  • Stop Analyzer - 小写处理,停用词过滤(the,a,is)
  • Whitespace Analyzer - 按照空格切分,不转小写
  • Keyword Analyzer - 不分词,直接将输入当作输出

📖参考资料

  1. Search query language — Graylog 3.2.0 documentation
## 什么是graylog Graylog 是一个简单易用、功能较全面的日志管理工具,相比 ELK 组合, 优点: - 部署维护简单 - 查询语法简单易懂(对比ES的语法…) - 内置简单的告警 - 可以将搜索结果导出为 json - 提供简单的聚合统计功能 - UI 比较友好 - 当然, 拓展性上比 ELK 差很多。 整套依赖: - Graylog 提供 graylog 对外接口 - Elasticsearch 日志文件的持久化存储和检索 - MongoDB 只是存储一些 Graylog 的配置 ## 安装 > 可以是裸机安装,也可以是docker安装,这里用docker安装 环境要求: - centos7.4 - cpu2个 内存2G 参考: https://hub.docker.com/r/graylog2/graylog/ ### 环境准备 ``` mkdir /root/graylog && cd /root/graylog //挂载目录 mkdir -p mongo_data graylog_journal es_data //配置文件目录 mkdir -p ./graylog/config cd ./graylog/config wget https://raw.githubusercontent.com/Graylog2/graylog-docker/3.0/config/graylog.conf wget https://raw.githubusercontent.com/Graylog2/graylog-docker/3.0/config/log4j2.xml //提前准备镜像 docker pull mongo:3 docker pull graylog/graylog:3.0 docker pull elasticsearch:5.6.9 ``` ### docker-compose.yml ``` version: '2' services: # MongoDB: https://hub.docker.com/_/mongo/ mongo: image: mongo:3 volumes: - ./mongo_data:/data/db - /etc/localtime:/etc/localtime # Elasticsearch: https://www.elastic.co/guide/en/elasticsearch/reference/5.5/docker.html elasticsearch: image: elasticsearch:5.6.9 volumes: - ./es_data:/usr/share/elasticsearch/data - /etc/localtime:/etc/localtime environment: - http.host=0.0.0.0 - transport.host=localhost - network.host=0.0.0.0 # Disable X-Pack security: https://www.elastic.co/guide/en/elasticsearch/reference/5.5/security-settings.html#general-security-settings - xpack.security.enabled=false - "ES_JAVA_OPTS=-Xms512m -Xmx512m" ulimits: memlock: soft: -1 hard: -1 mem_limit: 1g # Graylog: https://hub.docker.com/r/graylog/graylog/ graylog: image: graylog/graylog:3.0 volumes: - ./graylog_journal:/usr/share/graylog/data/journal - ./graylog/config:/usr/share/graylog/data/config - /etc/localtime:/etc/localtime environment: # CHANGE ME! - GRAYLOG_PASSWORD_SECRET=somepasswordpepper # Password: admin - GRAYLOG_ROOT_PASSWORD_SHA2=8c6976e5b5410415bde908bd4dee15dfb167a9c873fc4bb8a81f6f2ab448a918 # 这里需要修改为要暴露的机器的地址 - GRAYLOG_HTTP_EXTERNAL_URI=http://10.121.60.2:9000/ links: - mongo - elasticsearch ports: # Graylog web interface and REST API - 9000:9000 # Syslog TCP - 514:514 # Syslog UDP - 514:514/udp # GELF TCP - 12201:12201 # GELF UDP - 12201:12201/udp # GELF HTTP - 12202:12202 ``` ### 启动 `docker-compose -f docker-compose.yml up -d` 通过http://10.121.60.2:9000/访问web,admin/admin ### 修改配置 - email相关(告警需要) ``` transport_email_enabled = true transport_email_hostname = smtp.163.com transport_email_port = 994 transport_email_use_auth = true transport_email_use_tls = true transport_email_use_ssl = true transport_email_auth_username = 17191093767@163.com transport_email_auth_password = zhim123456 transport_email_subject_prefix = [graylog] transport_email_from_email = 17191093767@163.com transport_email_web_interface_url = http://10.121.60.2:9000 ``` ## 使用 ### 配置添加Inputs > Graylog 节点能够接受数据的类型称之为input,常见的有GELF TCP, GELF UDP, GELF HTTP. 说明:GELF TCP, GELF UDP可以使用同一个端口,HTTP需要另起端口,原因不解释。 - 添加三个input,过程略,tcp,udp端口使用默认的12201,http端口使用12202。 - 验证 ``` // udp echo -n '{ "version": "1.1", "host": "example.org", "short_message": "A short message info with udp", "level": 1, "_some_info": "foo", "_tag": "test11" }' | nc -w10 -u 10.121.60.2 12201 // tcp echo -n -e '{ "version": "1.1", "host": "example.org", "short_message": "A short message with tcp", "level": 1, "_some_info": "foo" }'"\0" | nc -w10 10.121.60.2 12201 //http curl -X POST -H 'Content-Type: application/json' -d '{ "version": "1.1", "host": "example.org", "short_message": "A short message with http", "level": 5, "_some_info": "foo" }' 'http://10.121.60.2:12202/gelf' ``` ### docker 日志添加到graylog ``` docker run --log-driver=gelf \ --log-opt gelf-address=udp://10.121.60.2:12201 \ --log-opt tag=test1 \ -v /etc/localtime:/etc/localtime \ -it nginx /bin/bash ``` docker-compose.yaml ``` services: mongo: logging: driver: "gelf" options: gelf-address: "udp://10.121.60.2:12201" tag: mongo volumes: - /etc/localtime:/etc/localtime ``` ### java日志直接发送到graylog > 使用logback ``` 10.121.60.2 12201 <!--An example of overwriting the short message pattern--> %ex{short}%.100m <!-- Use HTML output of the full message. Yes, any layout can be used (please don't actually do this)--> %d{MM-dd HH:mm:ss.SSS} [%thread] %-5level \(%F:%L\) - %msg %n true true true true requestId:long <!--Facility is not officially supported in GELF anymore, but you can use staticFields to do the same thing--> tag business-server ``` ## 系统使用 功能菜单说明 - search 日志查询面板 ![](assets/2018-07-10-11-52-07.png) - streams 将日志对象按照filed定义为stream,默认的stream为all messages ![](assets/2018-07-10-11-52-22.png) - alerts 告警相关,选择一个stream对象定义告警条件和通知方式,当stream里面的日志满足条件时候告警并通知 ![](assets/2018-07-10-11-52-35.png) - dashboards 图形面板 ![](assets/2018-07-10-11-52-53.png) - source 告警所在主机 ![](assets/2018-07-10-11-53-37.png) - system 系统配置 ![](assets/2018-07-10-11-53-52.png) ### 查询条件 [官方说明文档](http://docs.graylog.org/en/3.0/pages/queries.html) > 关键字不分大小写 - 单个关键字查询 `ssh` - 多关键字查询,含有ssh or login `ssh login` - 含有某个字符串查询 `ssh login` - 同时含有多个关键字查询 `opening index" AND db` - 根据字段值查询 `tag:couchdb.peer0.org1.ygsoft.com` - 含有多个tag的查询,某条记录只要其中一个字段满足即可 ``` tag: (orderer.ygsoft.com couchdb.peer0.org1.ygsoft.com) or tag: orderer.ygsoft.com couchdb.peer0.org1.ygsoft.com ``` - 含有完全匹配字段 `tag:"ssh login"` - 含有某个字段的记录: `_exists_:tag` - 不含有某个字段的记录: `NOT _exists_:tag` - AND OR `"ssh login" AND source:example.org` `("ssh login" AND (source:example.org OR source:another.example.org)) OR _exists_:always_find_me` - NOT ``` "ssh login" AND NOT source:example.org NOT example.org ``` 注意: AND, OR, and NOT 只能大写. - 通配符 ? 表示单个字符 星号表示0个和多个字符 ``` source:*.org source:exam?le.org source:exam?le.* ``` 注意:默认首字母不能使用通配符,因为这样会使用大量的内存;强行开启修改配置文件`allow_leading_wildcard_searches = true` - 当某关键字不确认顺序的时候使用~ ``` ssh logni~ source:exmaple.org~ 结果可以匹配 ssh login and example.org ``` - 以下字符在使用的时候必须用反斜杠转义 ``` && || : \ / + - ! ( ) { } [ ] ^ " ~ * ? Example: resource:\/posts\/45326 ``` ### 查询条件可以保存下来 使用 save search criteria 按钮
GrayLog 中进行模糊查询以包含特定描述(如 GC202511240769),可以使用 GrayLog 支持的查询语法。以下是几种常见的方法: ### 使用通配符查询 通配符查询允许在查询中使用 `*` 表示零个或多个任意字符,`?` 表示单个任意字符。 示例查询语法: ``` message:*GC202511240769* ``` 这个查询会在 `message` 字段中查找包含 `GC202511240769` 的所有日志记录。如果 `GC202511240769` 可能出现在其他字段中,需要将 `message` 替换为相应的字段名。 ### 使用正则表达式查询 正则表达式提供了更强大的模糊匹配能力。 示例查询语法: ``` message:/.*GC202511240769.*/ ``` 同样,这里假设要在 `message` 字段中进行查询,如果要在其他字段查询,替换字段名即可。 ### 使用 Lucene 查询语法(如果 GrayLog 支持) Lucene 查询语法在很多日志管理系统中都有支持。 示例查询语法: ``` message:~"GC202511240769" ``` `~` 符号表示模糊匹配。不过不同版本的 GrayLog 对 Lucene 语法的支持可能略有不同。 ### 代码示例(使用 GrayLog REST API 进行查询) 如果需要通过代码进行查询,可以使用 GrayLog 的 REST API。以下是一个使用 Python 的示例: ```python import requests # GrayLog API 地址 graylog_api_url = "http://your-graylog-server/api/search/universal/relative" # 查询参数 query_params = { "query": "message:*GC202511240769*", "range": 3600 # 查询最近 1 小时的日志 } # 认证信息(如果需要) headers = { "Authorization": "Basic your-base64-encoded-credentials" } # 发送请求 response = requests.get(graylog_api_url, params=query_params, headers=headers) # 处理响应 if response.status_code == 200: results = response.json() print(results) else: print(f"查询失败,状态码: {response.status_code}") ``` ### 注意事项 - 不同版本的 GrayLog 可能对查询语法的支持略有不同,需要根据实际情况进行调整。 - 如果查询性能较差,可以考虑对日志数据进行索引优化,或者调整查询范围。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值