
ElasticSearch
文章平均质量分 60
wyl9527
将平时的工作进行一下总结。。。。
展开
-
es动态平滑缩容
例如要下线节点: 10.10.10.3步骤1:将节点从集群路由策略中排除 curl -XPUT http://127.0.0.1:9200/_cluster/settings?pretty -d '{"transient":{"cluster.routing.allocation.exclude._ip":"10.10.10.3"}}' 步骤2:等待节点上分片全部被迁移确认该机器没有分片之后才是真正迁移走了检查集群状态,若出现pening_tasks,当pending_tasks...原创 2021-02-24 08:53:57 · 952 阅读 · 0 评论 -
elaticsearch集群数据迁移
第三方工具迁移或elasticsearch本身快照方式迁移,这里以第三方工具迁移为例安装elaticsearch-dump# 下载安装包wget https://npm.taobao.org/mirrors/node/v10.15.3/node-v10.15.3-linux-x64.tar.gztar xf node-v10.15.3-linux-x64.tar.gz#设置软连接ln -s node-v10.15.3-linux-x64 node #配置环境变量vim /etc原创 2020-08-12 18:12:50 · 404 阅读 · 0 评论 -
elasticsearch的数据迁移
[root@wyl01 opt]# curl -XPUT 'http://192.168.52.128:9200/_snapshot/my_backup' -H 'Content-Type: application/json' -d '{> "type": "fs",> "settings": {"compress" : "true",> "loca...原创 2019-09-02 14:47:38 · 3509 阅读 · 3 评论 -
zabbix 监控hbase、es、hadoop进程,发出报警和远程重启服务。
需求:当我们的服务器部署了很多服务后,和服务器数量过多时,我们怎么去管理所有的服务,以及服务进程停止,第一时间发出报警,然后先自动远程执行服务。1、下面我们举个例子,zabbix监控报警和自动执行服务的启动指令。对于hadoop,hbase,es这样的集群部署,首先我们需要创建模板,将模板套进该集群组中。具体情况如下,这里我们直接讲过程,具体的每一步实现,在该系列博客中有讲到。这样每个集群组中机器...原创 2018-06-12 06:32:22 · 5783 阅读 · 0 评论 -
13、elasticsearch的集群安装
1.基本信息版本5.2.1安装机器三台机器账号hadoop源路径/opt/software/elasticsearch-5.2.1.tar.gz目标路径/opt/elasticsearch-5.2.1依赖关系无原创 2017-05-21 13:59:28 · 419 阅读 · 0 评论 -
es迁移分片,重置主节点。
问题描述es部署后可能因为配置原因导致es节点不在集群中,但是进程依然存在。 现在已下面5台机器作为测试演练一开始按照之前的es部署方案,会在5台中选择一台作为主节点,当然该节点也充当了数据节点的功能。第一步:(22,23,24,25,26分别对应图中的06-10机器)在5台机器上部署成功后,一开始23为主节点。(这时候23推选为主节点,也充当了数据节点。所以22,23,原创 2017-07-25 06:26:36 · 11354 阅读 · 0 评论 -
大数据量Elastic数据迁移方法及注意事项
一、需求1 需求ES集群Cluster_A里的数据(某个索引或某几个索引),需要迁移到另外一个ES集群Cluster_B中。ES集群的索引有大有小,个别索引达到5T磁盘空间占用。2 环境Linux:Centos7 / Centos6.5/ Centos6.4Elastic:2.2.03 总结的方法1)查询并导出数据2)拷贝ES物理目录/文件3)ES快照数据备份和恢复二、迁移方法分别进行以上方法的详细转载 2017-12-13 03:31:33 · 2455 阅读 · 0 评论 -
es配置项解释以及脑裂问题
1、elasticsearch重要配置项解释:集群的名字cluster.name: elasticsearch-wyl配置当前节点的名字,每个节点的名字都应该是唯一的node.name: "node1"es存储数据的地方path.data: "/opt/elasticsearch/data"es存储日志的地方path.logs: "/opt/elasticsearch/logs"这原创 2017-12-12 05:04:32 · 996 阅读 · 0 评论 -
Elasticsearch使用过程中的问题总结
1、es脑裂问题由于某些节点的失效,部分节点的网络连接会断开,并形成一个与原集群一样名字的集群,这种情况成为集群脑裂(split-brain)现象。这个问题非常危险,因为两个新形成的集群会同时索引和修改集群的数据。正常情况下,集群中的所有的节点,应该对集群中master的选择是一致的,这样获得的状态信息也应该是一致的,不一致的状态信息,说明不同的节点对master节点的选择出现了异常——也就是所谓的原创 2017-12-12 04:44:54 · 2133 阅读 · 0 评论 -
zabbix监控elasticSearch集群健康值green yellow red状态
1、需求:需要zabbix对es集群的健康值进行监控。因为在有的时候几点并没有挂掉,但是es的集群健康值已经百年城red状态,而我们之前监控的进程是无法监控到es的集群状态。2、首先我们可以根据es的指令看到es的集群状态curl 192.168.14.148:9200/_cat/health3、我们可以写一个python的脚本来获取这个green的值,然后就和zabbix自定义监控项的步骤是一样的原创 2017-11-13 23:56:39 · 6461 阅读 · 4 评论 -
elasticsearh 倒排索引概念
1.单词——文档矩阵 单词-文档矩阵是表达两者之间所具有的一种包含关系的概念模型,图3-1展示了其含义。图3-1的每列代表一个文档,每行代表一个单词,打对勾的位置代表包含关系。 图3-1 单词-文档矩阵转载 2017-11-14 02:17:57 · 378 阅读 · 0 评论 -
es配置项解释以及脑裂问题的解决方案
elasticsearch重要配置项解释:集群的名字 cluster.name: test-elasticsearch配置当前节点的名字,每个节点的名字都应该是唯一的 node.name: "node1"es存储数据的地方path.data:: "/opt/elasticsearch/data"es存储日志的地方path.logs: "/opt/elasticsearch/log原创 2017-11-13 16:05:55 · 1396 阅读 · 0 评论 -
控制Elasticsearch分片和副本的分配
ES集群中索引可能由多个分片构成,并且每个分片可以拥有多个副本。通过将一个单独的索引分为多个分片,我们可以处理不能在一个单一的服务器上面运行的大型索引,简单的说就是索引的大小过大,导致效率问题。不能运行的原因可能是内存也可能是存储。由于每个分片可以有多个副本,通过将副本分配到多个服务器,可以提高查询的负载能力。 为了进行分片和副本的操作,ES需要确定将这些分片和副本放到集群节点的哪个位置转载 2017-11-11 18:03:07 · 1299 阅读 · 0 评论 -
测试使用-批量往es索引中添加数据,es的使用小结。
# encoding:utf8from datetime import datetimefrom elasticsearch import Elasticsearchimport elasticsearch.helpersimport randomes = Elasticsearch(['172.18.1.22:9200', '172.18.1.23:9200', '172.18.1.24:原创 2017-07-25 00:02:00 · 17416 阅读 · 1 评论 -
ES集群服务器CPU负载瞬间飚高分析
由于任务每天都在往es中写入数据,cpu负载居高不下,经常导致服务器处于失联状态,时间过长还会影响到其他的服务。下面转来的博客大家一起学习 ES集群服务器CPU负载瞬间飚高分析转载 2017-11-09 02:53:21 · 9164 阅读 · 1 评论 -
Elasticsearch段合并情况
Elasticsearch段合并elasticsearch 中每个索引都会创建一个到多个分片和零个到多个副本,这些分片或副本实质上都是lucene索引 lucene索引是基于多个索引段创建,索引文件中绝大部分数据都是只写一次,读多次,而只有用于保存文档删除信息的文件才会被多次更改在某些时刻,当某种条件满足时,多个索引段会被拷贝合并到一个更大的索引段,而那些旧的索引段会被抛弃并从磁盘中删除,这操作转载 2017-11-09 02:49:10 · 1550 阅读 · 0 评论