数据量交互较多的项目,日志文件产生较多,搭建好的es收集日志如果不能及时清理过期的日志,会极大影响到服务器性能,如何做到高效管控呢?
定时删除索引来完成?
其中调用api进行删除比较安全可靠,效率也最高,只需在集群的一个节点执行任务即可。
查看节点下的所有命令
curl -XGET 'http://127.0.0.1:9200/_cat/indices/?v'
api删除命令:可以删除指定标记的12月的所有索引,速度也是比较快
curl -XDELETE 'http://127.0.0.1:9200/logstash-rancher-sit-2020.12.*'
但这样维护起来不太方便,所有我们还是脚本维护
执行定时任务
crontab -e 进入定时任务编辑页面
* * * * *
- - - - -
| | | | |
| | | | +----- 星期中星期几 (0 - 7) (星期天 为0)
| | | +---------- 月份 (1 - 12)
| | +--------------- 一个月中的第几天 (1 - 31)
| +-------------------- 小时 (0 - 23)
+------------------------- 分钟 (0 - 59)
10 4 * * * sh /root/.script/index-clear.sh > /dev/null 2>&1
代码详情如下,删除十天前的索引
#/bin/bash
#指定日期(10天前)
#DATA=`date -d "1 week ago" +%Y.%m.%d`
DATA=`date -d "10 day ago" +%Y.%m.%d`
#当前日期
time=`date`
#删除7天前的日志
curl -XDELETE http://127.0.0.1:9200/*-${DATA}
if [ $? -eq 0 ];then
echo $time"-->del $DATA log success.." >> /logs/es-index-clear.log
else
echo $time"-->del $DATA log fail.." >> /logs/es-index-clear.log
fi
结合执行日志,在其他集群验证效果。