ELK:ElasticSearch常用操作记录

ELK整合:ElasticSearch定期删除过期数据 ELK 由三部分组成elasticsearch、logstash、kibana,elasticsearch是一个近似实时的搜索平台,它让你以前所未有的速度处理大数据成为可能。 Logstash:日志收集工具,可以从本地磁盘,网络服务(自己监听端口,接受用户日志),消息队列中收集各种各样的日志,然后进行过滤分析,并将日志输出到Elasticsearch中。 Elasticsearch:日志分布式... 阅读详情

记录下一些常见操作。。。

删除索引

#删除索引 kibana 方式
DELETE /my_index
#删除索引 curl 方式
curl -XDELETE 'http://127.0.0.1:9200/my_index'

删除索引部分数据

  • SCROLL_SIZE
    这个参数是执行删除的时候,每次每个线程会查询的数据量,然后进行删除。
    默认是100,就是说每个线程每次都会查询出100条数据然后再删除。

  • SLICES
    这个就相当于开启的线程数,同时会有多少个线程执行查询然后删除程序。
    默认是1,就是同时只会有一个线程进行查询删除操作。

  • CONFLICTS
    如果不想版本冲突引起操作失败,可以在请求中加入参数:conflicts=proceed

#删除索引部分数据
POST my_index/_delete_by_query?scroll_size=3000&slices=5&conflicts=proceed
{
	"query": {
		"bool": {
			"filter": [{
				"range": {
					"time": {
						"from": "2022-01-17T22:00:00.000Z",
						"to": "2022-01-18T00:00:00.000Z"
					}
				}
			}]
		}
	}
}

修该es刷新间隔

#修该es刷新间隔
PUT /my_index/_settings
{
 "index" : {
  "refresh_interval" : "1s"
 }
} 

修该es副本数

#修该es副本数
PUT /my_index/_settings
{
 "index" : {
  "number_of_replicas" : "1"
 }
} 

指定(重新分配)分片

#指定(重新分配)分片
POST /_cluster/reroute?pretty
{
 "commands" : [
   {
    "allocate_stale_primary" : {
    "index" : "index-2019.11.08", "shard" :4,
    "node" : "node-1",
    "accept_data_loss" : true
   }
  }
 ]
}

迁移分片到其他节点

#迁移分片到其他节点
POST /_cluster/reroute
{
    "commands" : [
        {
            "move" : {
                "index" : "index-2019.11.08", "shard" : 4,
                "from_node" : "node-1", "to_node" : "node-2"
            }
        }
    ]
}

清空指定index/type下的数据

#清空指定index/type下的数据
POST index_name/type_name/_delete_by_query
{
  "query": {
      "match_all": {}
   }
}

重建索引

#重建索引
curl -H "Content-Type:application/json" -XPOST http://127.0.0.1:9200/_reindex -d '{"source":{"index":"index-2021.03.01-others"},"dest":{"index":"myindex-2021.03.01","op_type":"create"}}'

聚合查询

查询时间范围(时间戳,时间根据Mapping自行修改)在 1642751644000 到 1642751645000 之间,字段type 为 1的数据,并且计算字段为count值的和,result为聚合名称

#聚合查询
GET index_name/_search 
{
	"size": 0,
	"query": {
		"bool": {
			"must": [{
				"range": {
					"time": {
						"gte": 1642751644000,
						"lte": 1642751645000
					}
				}
			}, {
				"match": {
					"type": 1
				}
			}]
		}
	},
	"aggs": {
		"result": {
			"sum": {
				"field": "count"
			}
		}
	}
}

查询时间范围(时间戳,时间根据Mapping自行修改)在 1658609400000 到 1658609400000 之间,字段type 为 1,且模糊匹配后缀为“baidu.com”的host字段,并且计算字段为count值的和,sum_count为聚合名称,按降序排序。

完整查找如下

GET index_name/_search 
{
	"size": 0,
	"query": {
		"bool": {
			"must": [{
					"range": {
						"time": {
							"gte": 1658609400000,
							"lte": 1658609400000
						}
					}
				}, {
					"term": {
						"type": {
							"value": "1"
						}
					}
				},
				{
					"wildcard": {
						"host": "*.baidu.com"
					}
				}
			]
		}
	},
	"aggs": {
		"hosts": {
			"terms": {
				"field": "host",
				"size": 1000,

				"order": [{
					"sum_count": "desc"
				}]

			},
			"aggs": {
				"sum_count": {
					"sum": {
						"field": "count"
					}
				}
			}
		}
	}
}

term可以使用match

{
	"match": {
		"type": "1"						
	}
}
ELK API常用接口与增删改查/ELK数据迁移、导出、修改默认保存天数 ELK API常用接口与增删改查/数据备份 阅读详情

相关推荐

使用 ELK Stack 进行云原生日志记录和监控:AWS 中的开发运营方法

使用 Kibana aws ec2 run-instances --image-id ami-0c3fd0f5d33134a76 --instance-type t2.micro \启动 EC2 实例--image-id ami- 0 c3fd0f5d33134a76 --instance-type t2 .micro \ --key-name your-key-pair-name --security-group-ids sg-xxxxxxx --subnet-id subnet-xxxxxxx。

2401_85233349的博客 2886

ELK ----elasticsearch笔记增删改查等

mysql 利用乐观锁加版本号解决并发读写问题,很容易造成用户数据修改不成功。修改时external version要大于当前文档的_version。防止吞吐量大的索引影响吞吐量小的索引。索引都是在一个个分片上的。基于乐观锁和悲观锁进行解释,和java中的乐观锁悲观锁差不多。es增删改都是基于版本号的。...

weixin_45699541的博客 310

ES elasticsearch 从入门到放弃-ELK和ELS简介

https://www.carc.top/post/90.html ELK解决方案 ELK是什么? ELK = ElasticSearch + Logstash + Kibana 这是一套开源的大型分布式的日志分析、搜索引擎解决方案。 随着技术的发展,ELK不局限于那三者,又有了Beats,因此社区通常不再说ELK,而是说ElasticStack(下文简称 ElasticStack),也就是以ElasticSearch为核心的技术栈。 ELS各个组件有什么作用? 如下图所示: Beats 用于采集一切数

欧阳金城-武 4669

ELK ② 索引, 创建, 查看, 删除, 分词器安装及使用, 映射, 创建, 查看, 修改,文档,增删改查及局部更新

3 管理索引 第1节 索引操作(创建、查看、删除) 1. 创建索引库 Elasticsearch采用Rest风格API,因此其API就是一次http请求,你可以用任何工具发起http请求 语法 PUT /索引名称 { "settings": { "属性名": "属性值" } } settings:就是索引库设置,其中可以定义索引库的各种属性 比如分片数 副本数等,目前我们可以不设置,都走默 认 示例 PUT /lagou-company-index 可以看到索引创建成功了。..

chengh1993的博客 2587

elasticsearch(ES)简介及安装-----笔记

ES是一款非常强大的开源搜索引擎,可以帮助我们从海量数据中快速找到需要的内容。ES结合kibana、Logstash、Beats,也就是elastic stack(ELK)。被广泛应用在日志数据分析、实时监控等领域。elasticsearch是elastic stack的核心,负责存储、搜索、分析数据。kibana负责数据可视化,elasticsearch负责存储、计算、搜索数据,logstash\Beats负责数据抓取。elasticsearch底层实现是Lucene计术。

weixin_44846205的博客 2385

ElasticSearch删除索引【真实案例】

删除ElasticSearch索引的真实案例,以及介绍当时遇到的删除超时问题的解决方案。

甘蓝的专栏 3165

ELK入门——ELK详细介绍(ELK概念和特点、Elasticsearch/Logstash/beats/kibana安装及使用介绍、插件介绍)

主要参考链接 ES内容大全(Elastic中国社区官方博客) ES视频教程(Elastic中国社区官方博客) Elastic相关软件和插件(官网) ES中文社区(讨论和提问) 我的ELK专栏 Linux操作(鸟哥的私房菜) Linux常用命令 一、什么是ELK(端口9200) ELK学习总结——我们为什么要用ELK 一般我们需要进行日志分析场景:直接在日志文件中 grep、awk 就可以获得自己想要的信息。但在规模较大的场景中,此方法效率低下,面临问题包括日志量太大如何归档、文本搜索太慢

Netceor的博客 5万+

图像识别火灾检测系统实战:从火焰特征到YOLO部署全解析

计算机视觉技术正深入改变传统消防的感知方式。图像识别火灾检测利用摄像头采集的视频流,通过颜色、动态和形态特征分析,实现早期火情的自动发现与定位。其核心原理在于,火焰在视觉上具有独特的颜色分布、闪烁特性和轮廓变化,借助目标检测模型如YOLO,可在复杂场景中区分真实火焰与干扰物。这项技术广泛应用于仓库、园区、隧道等大空间场所,是智慧消防的重要支撑。本文从火焰视觉特征、数据集构建、模型选型与系统架构设计出发,结合部署实践中的误报与算力优化经验,为开发者提供一套可落地的视频火焰检测方案。

weixin_42533751的博客 244

黑马-Cloud21版-实用篇05:分布式搜索引擎01:es的概念以及安装es、kibana,索引库操作,文档操作,java代码操作索引库,java代码操作文档

分布式搜索引擎01 – elasticsearch基础 0.学习目标 1.初识elasticsearch 说明:随着业务的发展我们的数据量越来越庞大,传统的这种mysql数据库就渐渐的难以满足我们复杂的业务需求了,所以在微服务架构下一般都会用到一种分布式搜索的技术,今天就开始学习分布式搜索当中最为流行的一种elasticsearch。 1.1.了解ES 1.1.1.elasticsearch的作用 elasticsearch是一款非常强大的开源搜索引擎,具备非常多强大功能,可以帮助我们从海量数据中快速找到需

aa35434的博客 1454

别再硬啃C代码了!用Simulink的Matlab Function模块手把手教你搭建CRC8校验模型(附完整M脚本)

本文详细介绍了如何利用Simulink的Matlab Function模块轻松实现CRC8校验模型,替代传统的C代码编写。通过可视化建模和即时验证,开发者可以高效完成算法设计,并自动生成嵌入式代码。文章包含完整的M脚本示例和工程实践技巧,特别适合嵌入式系统开发人员提升工作效率。

weixin_42520661的博客 183

WindTerm 安装使用教程

WindTerm是一款Github上开源的 SSH 终端工具,它是完全可以比肩MobaXterm工具的。

m0_69576880的博客 4006

详解最热门搜索引擎——ES

一、产生背景 ​ 互联网发展早期的时候,对于一般的公司储存的数据量不是那么的大,所以很多公司更倾向于使用数据库去存储和查询数据,如:现在去MySQL中查询数据,大概的查询方式就是:select * from table where filed like “%XXX%”或者其他方式,但是,如果我们在查询的时候没有用到或命中数据库建立的索引话,则会扫描整张表,即便是MySQL做过单表查询能力优化,但是他的极限也只在400万左右,且还会经常出现超时现象,让后为了解决这些问题,。很多公司就开始对数据库进

会编程的小郑 1万+

Zephyr,设备树概述

Zephyr使用设备树(DTS)描述硬件配置,通过设备树源码和绑定文件生成C头文件供开发使用。设备树采用树状结构,节点对应硬件设备,属性描述硬件特性。示例展示了I2C总线及其外设的节点层级关系,包括单元地址、兼容性标识等关键属性。构建系统将设备树转换为devicetree.h中的宏,使开发者能通过DT_前缀宏访问硬件信息,同时保留Kconfig覆盖默认值的能力。

汽车电子软件领域知识分享 720

【ELK(Elasticsearch+Logstash+Kibana) 从零搭建实战记录:日志采集与可视化】

本文记录了我在搭建ELK(Elasticsearch, Logstash, Kibana)技术栈时的完整实战过程。使用Docker Compose快速搭建了ELK服务端(监控主机),并通过Filebeat实现了对自身系统日志以及另一台Web主机(host1)上Tomcat应用日志、MySQL数据库日志的集中采集。

xbd_zc的博客 3024

解锁RK3588视觉潜能:RGA硬件加速库实战指南

本文深入探讨了如何利用RK3588芯片内置的RGA硬件加速库,解决视觉应用中图像预处理的性能瓶颈。通过实战指南,详细介绍了RGA库在YUV转RGB、图像缩放等核心操作上的应用,相比CPU软处理可大幅降低延迟与CPU占用,从而充分释放RK3588的NPU算力,构建高效的AI视觉预处理流水线。

zeta9的博客 669

数据仓库的复用性:设计和构建一个高复用性的数仓

数据仓库的复用性是指在数据仓库的设计和使用过程中,能够实现数据、模型、流程、工具等多个层面的重复利用,减少重复开发,提高开发效率,降低维护成本,并增强灵活性和可扩展性。

z1941563559的博客 1304

ELK(Elasticsearch+Logstash+Kibana)日志分析系统

本文主要介绍了ELK日志文件系统的概念和部署过程,详细阐释了Elasticsearch、Logstash、Kibana三个开源的日志收集、存储、检索和可视化的工具

十七拾的博客 1万+

使用node-red网关读取modbus设备点表,并上传到市政低碳平台来统计数据

最近做了一个物联网项目,具体是这样的,利用node-red网关盒子,来采集Modbus设备的点表,然后将数据转换,封装,最终上传到市政的低碳平台。上一步封装了点表的数据,调用低碳平台还需要账号密码,建筑id,这些都是固定信息,所以我们单独提出来。上一步获取到了原始的点表数据,下一步就是将这些点表数据与在低碳平台创建的采集的对应起来,并且设置好分类。读取modbus的节点,会有两个输出,我是使用的第一个输出。msg.meters 是一个数组,里面的每一个元素都是一个点表,比如厨房用水,园区照明,

知无涯 945

1、ELK介绍

一、ELK简介 ELK是三个开源软件的缩写,分别表示:Elasticsearch , Logstash, Kibana , 它们都是开源软件。新增了一个FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于在各个服务器上搜集日志后传输给Logstash,官方也推荐此工具。 Elasticsearch是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功...

光明小学王小雨的博客 15万+

USB驱动(URB)

本文介绍了Linux内核中USB驱动开发的核心概念URB(USB Request Block)。URB是主机与USB设备间传输数据的抽象结构体,包含目标设备、端点信息、数据缓冲区等关键字段。文章详细解析了URB的生命周期(分配、填充、提交、回调、释放)、四种传输类型(控制、批量、中断、等时)及其应用场景,并提供了鼠标设备的中断传输示例代码。最后强调了URB使用注意事项,包括DMA缓冲区分配、错误处理和资源释放等。URB作为USB驱动与内核通信的桥梁,是构建稳定USB驱动程序的基础。

m0_49476241的博客 915

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

使用docker-compose安装ELK(elasticsearch,logstash,kibana)并简单使用

首先服务器上需要安装docker已经docker-compose,如果没有,可以参考我之前写的文章进行安装。

a_lllk的博客 2307

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

搜索引擎之ElasticSearch(es)入门学习、ELK 和 beats

好记星不如烂笔头,这里记录平时工作中用到的东西,不喜可以留言。 ElasticSearch为啥要用 ElasticSearch简称es是一个ElasticSearch是一个分布式,高性能、高可用、可伸缩的搜索和分析系统 。可以当做一个上层数据库来使用和关系数据库和Nosql有一定区别和相似性。使用es的几个原因: 关系型数据库模糊搜索不足索引,会全表扫描非常慢。%关键词%这种搜索会非常慢。主...

dazer的专栏 1万+

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

ELK之路第一步——Elasticsearch集群的搭建以及踩坑记录

Elk(Elasticsearch, Logstash, Kibana),一套分布式日志收集、存储和展示方案。本来满怀信心开始学习这个系列,但是发现它并没有那么简单,所以打算从地基开始,一步步盖楼,从而达到目的,本文是ELK系列的第一篇。因为jdk版本的原因,本文Elasticsearch版本为:7.3.0,需要jdk11。

StreamlineWq的博客 1983

ElasticSearch01(ES简介,安装ES,操作索引,操作文档,RestAPI)【全详解】

ES是什么?是一个开源的搜索引擎,可以从海量数据里快速找到目标数据ES为什么快?其中有一个原因就是使用了倒排索引正向索引:找到一条数据记录,判断是否符合条件。可能会出现全表扫描倒排索引:直接根据搜索条件,定位到符合条件的文档数据。不会有全表扫描,性能更高ES和MySQL(关系型数据库)的对比共同点:都可以增删改查数据不同点:MySQL或其它关系型数据库:擅长事务型的操作,增删改,因为有严谨的事务保证数据的一致性和完整性。

qq_1424674116的博客 1718

JB3-6-ELK

ElasticSearch基础,倒排索引原理,Kibana容器,IK中文分词器,REST常用操作,LogStash,ELK日志收集,ELK同步MySQL,ElasticSearchRepository 等。

周航宇的博客 2529

Elasticsearch及ELK使用(一):分析搜索引擎入门

Elasticsearch及ELK使用入门。 包括Elasticsearch(ES)、kibana、logstash、filebeat全套使用指南。 原来叫ELK,现在为Elastic Stack,可称为Elastic Stack的全家桶。

zyplanke的专栏 2094
上一篇: C#:Plist/Altas/Libgdx格式图片拆分工具合集
下一篇: Flink:start-cluster.sh启动单节点的时候taskmanager未启动
胖胖的战士
博客等级 码龄18年 104粉丝 98原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值