ELK入门——解决:Saved field ““ is invalid for use with the “Terms“ aggregation.Please select a new field.

实时搜索引擎Elasticsearch(4)——Aggregations (聚合)API的使用 本篇将介绍ES提供的聚合API的使用。ES提供的聚合功能可以用来进行简单的数据分析。本文仍然以上一篇提供的数据为例来讲解。 阅读详情

一、前言

解决方案适用于各beat。

auditbeat的具体安装过程见博客ELK入门(十八)——Auditbeat安装、启动与可视化

我在安装完成auditbeat并导入模板后,发现在kibana的可视化界面没有正常生成图像,而是出现了Saved field "" is invalid for use with the "Terms" aggregation.Please select a new field.的问题。从字面看,是字段的类型不允许以“term”的方式聚合,而且模板也无法编辑。

我们到Stack Management→Index Pattern→auditbeat-*下查看event.action字段,发现该字段存在,但是Aggregation下没有小绿点,而有另一个event.action.keyword才允许Aggregation。说明字段的类型存在问题,导致我们无法正确显示。

还有很多字段都是类似的问题,例如我们查找host.name字段

 查看其他beat的该字段(如metricbeat),发现hosta.name可以聚合,而且没有keyword字段,于是估计是在传入的过程中被加上的keyword。

二、解决方案

在我的传入方式中,我是采用logstash传入。于是我将auditbeat程序终止,生成的索引删除,转而用elasticsearch传入。再查看索引和dashboard,发现host.name变成可以聚合的方式,而kibana的图像也可以正常显示。接着我们再次终止auditbeat,但是索引不删除,改回用logstash传入,此时发现字段类型仍然保持可聚合的小绿点,再删除elasticsearch生成的索引,类型也没有错误。

以我目前是logstash方式传入为例,总结一下过程如下:

1.停止auditbeat,删除logstash生成的索引

2.编辑yml,用elasticsearch传输,重启后检查字段和图像

用head和kibana查看,发现图像正常显示,字段类型可Aggregation

 

3.停止auditbeat,不删除elasticsearch生成的索引

4.编辑yml,重新用logstash传输,重启后检查字段和图像

5.字段和图像依然正常后可删除elasticsearch生成的索引

三、后记——原理

问题成功解决后咨询了Elastic中国社区官方博客,非常感谢他给了我指导!对原理稍微有了一些认知。

要正确和模板相匹配的关键,在于有一个和模板相对应的index templates。

当我们output方式设置为elasticsearch启动后,会执行setup步骤生成这样的一个索引模式,其中host.name为keyword类型(以及其他字段也是)。有了这个索引模板,之后再用logstash导入,索引名称可以匹配这个索引模式的话,就不会出现问题。

当没有这个模板的时候, logstash 导入的数据当然就会自动变成 text 及 keyword 的 multifield 数据类型,所以在前面的图中我们看到生成了host.name.keyword字段。

因此,在导入前,我们可以检查以下这个index templates是否存在。如果没有,就先用ES启动,用中国社区博主的说法是"直接在 auditbeat.yml 里配置 elasticsearch,然后运行 auditbeat setup 就可以了"。不过我现在已经可以成功匹配,就没有重新尝试

其中,关于setup命令,可以参见博客Beats:解密 Filebeat 中的 setup 命令

 

Elasticsearch Terms Aggregation计数聚合详解 文章目录1. Terms Aggregation 考试成绩案例 某考试成绩结果如下,几个字段分别为:学科、姓名、成绩 PUT /my_index/_doc/_bulk { "index" : {} } {"course":"语文","name":"张三","score":95} { "index" : {} } {"course":"语文","name":"李四","score":88} { "index" : {} } {"course":"语文","name":"王五","score":82} { "i 阅读详情

相关推荐

医疗AI新思路:为什么Graph Neural Network能改善气道分割的漏检问题?

本文探讨了Graph Neural Network(GNN)在医疗AI领域改善气道分割漏检问题的创新应用。通过分析3D UNet等传统方法的局限性,揭示了GNN在图结构建模中的独特优势,特别是在捕捉细小末梢支气管方面的突破性表现。文章详细介绍了UNet-GNN混合架构的设计原理、实验性能对比及优化方向,为CT影像分析提供了新思路。

weixin_30379531的博客 224

ELK 提示Visualize: "field" is a required parameter和Saved "field" parameter is now invalid.的解决方法

0x01 产生原因 产生的原因是:因为在ES中有两个index定义的字段类型不一致导致的。 例如: log_2019.1.1 GET /log_2019.1.1/_mapping { "index-1": { "mappings": { "type-1": { "properties": { &

yrx0619的专栏 2721

多模态模型评测神器 | OpenCompass MMBench 了解一下!

MMBench 是 OpenCompass 研究团队自建的视觉语言模型评测数据集,可实现从感知到认知能力逐级细分评估。研究团队从互联网公开信息与权威基准数据集采集约 3000 道单项选择题 ,覆盖目标检测、文字识别、动作识别、图像理解、关系推理等 20 个细粒度评估维度。

OpenCompass的博客 7826

ELK实战--利用auditbeat采集系统审计日志并生成图表

一、背景 Auditbeat是轻量型的审计日志采集器,可以收集linux审计框架的数据、监控文件完整性。能够组合相关消息到一个事件里,生成标准的结构化数据,方便分析,而且能够与Logstash、Elasticsearch和Kibana无缝集成。 二、安装 wget https://artifacts.elastic.co/downloads/beats/auditbeat/auditbeat-6....

weixin_34220179的博客 1643

ubuntu20.04配置UR机械臂的仿真环境

gazebo和rviz中的机械臂的位姿是一样的,要实现同步控制,可以拖动rviz中的球移动到指定位置,点击plan观察路径规划,点击execute执行该路径规划,可以在gazebo和rviz中同步看到刚刚的路径规划运动,实现了简单的机械臂仿真环境搭建。这是因为catkin找的python版本为anaconda下面的版本,所以需要改为指定采用下面的命令,参考之前的。之后要source一下,才能读取到工作空间里的文件,以后每次打开终端进入工作空间都要执行该命令。时,一直不成功,解决办法可以看我之前写的。

weixin_48319333的博客 3494

mobaXterm连接vmWare虚拟机上的centOS7提示连接失败的解决方法

1.问题描述: mobaXterm安装后连接虚拟机vmWare上的centOS7发现连接不上,如下图所示: 2.解决方法 先是查了一下centOS的ip 开始错误的以为 virbr0: 后面的inet就是虚拟机的IP 实则不然(正确的ip是在ens33后面的inet中的ip,大佬们勿喷) 这个值需要配置一下的,具体配置过程如下: step1: 进入centOS下的/...

hss19214的博客 7890

elastic search 日期为string类型导致视图无法展示时间的解决办法

尝试将结构化的json数据发送到es(elastic search)上,然后创建视图,这样就能以小时维度查看数据,直接使用post发送到es后,创建索引,结果提示 没有date类型的字段(field)。经过一番搜索和请教同事同学,最后尝试如下方法解决: 删除原有的索引,然后在发送数据到ES前的时候先 发送如下请求(es 5.0版本): http://yourhost.com/yourindex...

weixin_30594001的博客 315

告别“单打独斗”:Oh My Open Code 如何用多模型协作重塑 AI 编程范式

介绍"Oh My OpenCode"——一个能协调多个专业AI模型完成复杂开发任务的智能编程框架。您将看到它如何分配任务、发挥不同模型的独特优势,并通过并行处理和实时纠错等功能解决AI编程流程中的常见痛点。

老孙 | Ethan Sun 的博客:AI 智能体与 AI 原生软件的工程实践 4213

ELK入门(十九)——Auditbeat安装、启动与可视化

一、安装包 可以到官网找到对应的安装方式:https://www.elastic.co/guide/en/beats/auditbeat/7.10/auditbeat-installation-configuration.html tar.gz直接用连接https://artifacts.elastic.co/downloads/beats/auditbeat/auditbeat-7.10.1-linux-x86_64.tar.gz下载 # 解压 tar xzvf auditbeat-7.10.1-

Netceor的博客 1931

快手did did_gt edid的注册过程

接口 https://gdfp.ksapisrv.com/rest/infra/gdfp/report/kuaishou/android did 是本地生成的16进制 或者 获取的 android_id did_gt 是did生成时间戳 1595073601970 public static final Random f16237a = new Random(System.currentTimeMillis()); public static long m19668a() {  &n

HURUWO的技术博客 1万+

【8】mctp & pldm

异步会check seq,保证不丢包,虽然发一条req,不用等,但是不能发下一条req,等上条response回来后才能发下一条。TO(tag owner)=1是request,TO=0是response,但是异步通信response由0改为1。如下还有kcs,i3c,serial等。

持续更新ing... 1082

Elasticsearch中索引字段属性冲突及修复完整方案

由于历史原因,A产品数据入Es库中字段默认都是keyword并没有区分字段类型属性,随着业务发展,需要更多数据格式,原有的keyword满足不了新需求,所以问题来了,新老数据字段属性产生了冲突,如何安全高效解决这个问题是本文内容。

土豆是狗的博客 1889

【华为OD机试真题E卷】514、学生方阵 | 机试真题+思路参考+代码分析(E卷复用)(C++、Java、Py)

【华为OD机试真题E卷】514、学生方阵 | 机试真题+思路参考+代码分析(E卷复用)(C++、Java、Py) 题目描述 学校组织活动,将学生排成一个矩形方阵 请在矩形方阵中找到最大的位置相连的男生数量 这个相连位置在一个直线上,方向可以是水平的,垂直的,成对角线的或者呈反对角线的 注:学生个数不会超过10000

KJ.JK 2492

Elasticsearch--Aggregation详细总结(聚合统计)

Elasticsearch的Aggregation功能也异常强悍。 Aggregation共分为三种:Metric Aggregations、Bucket Aggregations、 Pipeline Aggregations。下面将分别进行总结。 以下所有内容都来自官网:喜欢原汁原味的参看下方网址,不喜欢英文的参看本人总结。 官网(权威):https://www.elastic.co...

moliyiran的专栏 2918

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

jmeter调试错误大全

在使用jmeter做接口测试的过程中大家是不是经常会遇到很多问题,但是无从下手,不知道从哪里开始找起,对于初学者而言这是一个非常头痛的事情。写好脚本后,可以先试着运行一下,如下图所示,点击黄色的小三角形,出现查看执行日志界面,注意是否有报错,如果存在错误,先处理好执行日志中的错误。1.检查请求信息是否正确:包括请求的协议、请求的方式、请求地址、请求的数据等信息。解决问题:将接口2.上传图片获取url接口中的上传的图片换一个新的图片。3.查看接口开发文档,找到接口返回的相关信息,提示信息的说明。

m0_68405758的博客 1336

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

ES进行date_histogram时间聚合,聚合结果时间不正确问题

ES进行date_histogram时间聚合,聚合结果时间不正确问题

u011250186的博客 2650

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

ELK+filebeat+metricbeat+heartbeat+auditbeat安装配置及汉化

一、基础环境介绍 Centos 7.5 x64 ElasticSearch 6.5.1 Logstash 6.5.1 Kibana 6.5.1 filebeat 6.5.1 metricbeat 6.5.1 heartbeat 6.5.1 auditbeat 6.5.1 Kibana_Hanization 6.5.1 二、ElasticSearch安装 安装JDK,配置J...

江南T雨 4334

elk auditbeat 踩坑

auditbeat 在启动后,过一会会报一个内存错误,经过询问同事: 启动前把audit.rules.d文件删除掉,它里面的配置与auditbeat.yml重复 有人踩坑真好 转...

chiyuanxian3951的博客 647

Auditbeat日志审计方案

架构 整个架构分采集器和存储、查询三个部分。 【采集器】 采集器使用Auditbeat进行审计日志采集。 【存储】 采集后的日志直接输出到ElasticSearch,考虑到我们的日志较少切Auditbeat具备重传功能,因此,第一个版本先使用单节点的ElasticSearch进行试运行,实际运行过程中做好ElasticSearch的监控,遇到ElasticSearch故障时可以及时启动。 【查询】 查询使用Kibana,与ElasticSearch对接,进行日志分析和监控。 【配置管理】

yiyiatgis的专栏 2352

Logtail从入门到精通(一):日志采集杂谈

什么是日志 提到日志,很多人的第一印象就是系统打到本地的Log文件,出问题的时候看一下这个Log文件,用来排查问题。更进一步可以根据这个Log文件做实时的监控、第三方审计、入侵检测、行为分析、数据大盘制作等等。 马老师说过:阿里巴巴不是零售,我们是一家数据公司,为了数据才做电商、做物流、卖东西。我们认为日志是记录世间人和物所有行为的一种方式,是数据中极...

weixin_34087307的博客 940

Beats:  Elastic 中的 Auditbeat 使用介绍

Auditbeat是一种轻量级的数据收集器,您可以将其安装在服务器上,以审核系统上用户和进程的活动。 例如,您可以使用Auditbeat从Linux Audit Framework收集和集中审核事件。 您还可以使用Auditbeat来检测对关键文件(如二进制文件和配置文件)的更改,并确定潜在的安全策略冲突。Auditbeat是一种Elastic Beat。 它基于libbeat框架。 为了能够使...

Elastic 中国社区官方博客 5039

针对kibana中SIEM模块的探索之Auditbeat安装

什么是SIEM? SIEM(安全信息和事件管理)是一个由不同的监视和分析组件组成的安全和审计系统。最近网络攻击的增加,加上组织要求更严格的安全法规,使SIEM成为越来越多的组织正在采用的标准安全方法。 但是SIEM实际上涉及到什么呢?它由哪些不同的部分组成?SIEM实际上如何帮助减轻攻击?本文试图提供一种SIEM 101。后续文章将深入探讨一些可用于实际实现SIEM的解决方案。 1、为什么我们需要SIEM? 毫无疑问,对计算机系统的攻击不断增加。Coinmining, DDoS, ransomware,恶意

爱国小白帽 2306

ELK之使用metricbeat收集系统数据及其他程序并生成可视化图表

  将 Metricbeat 部署到您所有的 Linux、Windows 和 Mac 主机,并将它连接到 Elasticsearch 就大功告成啦:您可以获取系统级的 CPU 使用率、内存、文件系统、磁盘 IO 和网络 IO 统计数据,以及获得如同系统上 top 命令类似的各个进程的统计数据   1,安装metricbeat   官网下载rpm包安装 rpm -ivh /nas...

abtmh02622的专栏 508

ELK扩展:使用Beats收集其他服务器上的日志

一、logstash与beats 由于Logstash在数据收集上并不出色,而且作为agent,性能并不达标。elastic发布了beats系列轻量级采集组件。至此,elastic形成了一个完整的生态链和技术栈,成为大数据市场的佼佼者 二、什么是beats beats 是一个使用 Golang 构建的平台,libbeat 是其核心库,用来提供API进行与Elasticsearch,Logstash...

slibra_L的博客 3691
上一篇: ELK入门(十八)——Kibana APM server安装部署
下一篇: ELK入门(十九)——Auditbeat安装、启动与可视化
Netceor
博客等级 码龄9年 1047粉丝 306原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值