
运维自动化
文章平均质量分 63
sdmei
Oracle\Mysql DBA、K8S、DevOps、公有云、运维开发 ...
展开
-
基于K8S+eureka的java应用快速上下线的WEB平台
功能看起来很简单,但麻雀虽小五脏俱全。直接操作生成环境的eureka\k8s,做了很多校验和保护,最终才敢在生产环境上线。技术栈:vue(element-plus)+flask技术上的关键点标签页和穿梭框,父子组件之间的通信,子组件选择应用后父组件动态响应;前后端分离,每个后端接口需要认证才能访问;每个应用的2个服务,在K8S中必须有1个共同的标签,和1个不同的标签如order-server应用,2个deployment的标签:功能上的关键点。原创 2023-01-18 17:18:26 · 1957 阅读 · 0 评论 -
java应用根据负载自动抓取jstack dump
环境:阿里云 + k8s + springcloud + prometheus + oss。poststart.sh调用上述python脚本(profile直接从环境变量中获取)目前我采用的方案是根据CPU负载自动执行jstack,并将文件上传到OSS。文件名最后的数字是当时的CPU使用量,如166指1.66C。逻辑主要在脚本:mon_cpu_jstack.py。oss相关的文件包括:oss客户端和配置文件;第三层目录:具体jstack文件。第一层目录:profiles。第二层目录:应用名称。原创 2022-09-26 17:40:17 · 726 阅读 · 0 评论 -
利用阿里云的MSE,上一个真正的灰度发布方案
1.MSE是啥阿里云MSE(Microservices Engine)微服务引擎含以下三个主要模块:微服务注册中心、微服务治理和云原生网关。其中微服务治理功能中的标签路由,可以实现灰度功能。2.灰度需求除了流量入口(如桩服务、gateway服务等),所有后端服务都要能支持按版本分组;将应用的相关版本隔离成一个独立的运行环境,通过设置流控路由规则,将满足规则的请求流量路由到目标版本应用。示意图:线上服务版本v1111; 新版版本v2222,即灰度版本; 设置流量规则,满足规则的流.原创 2021-12-21 19:46:02 · 2974 阅读 · 4 评论 -
对mysql表字段增减的监控报警
大数据同事抽数的程序有点low,没有自动适配表的字段变化,需要写个脚本自动监控字段变化,并报警到钉钉群。思路很简单:python,定时获取目标表的字段,持久化到文件,作为下一次比对的依据;下一次获取当前字段,与上次持久化的字段对比,有新增或删除的字段报警;直接上脚本:rds_col_monitor.py#!/usr/bin/python3# -*- coding: utf-8 -*-# @Time : 2021-12# @Author : meishidongimpo原创 2021-12-16 19:16:44 · 1305 阅读 · 3 评论 -
基于spark实时分析nginx请求日志,自动封禁IP之二:日志实时分析
整体思路:从kafka集群读取请求日志流,经过spark structured streaming(结构化流)实时分析,将触发阈值的数据输出至mysql。1.数据源nginx日志通过syslog协议输出至logstash,然后同时写入es和kafka:nginx -> logstash -> elasticsearch and kafkalogstash配置:output { elasticsearch { …… } ## 尽可能在来源...原创 2020-05-15 14:02:32 · 1493 阅读 · 0 评论 -
基于spark实时分析nginx请求日志,自动封禁IP之一:web功能设计
用过阿里高防的都知道,高防有个很牛X的防CC功能配置:基于域名,基于某URL(精确匹配或后模糊匹配),限制某个时间跨度的请求频率,超过该频率会拉黑n分钟,如:10秒内请求20次,达到这个阈值则拉黑IP5分钟。然而:高防不是所有公司都用得起的(月费用1万以上),高防配置的域名数量越来越苛刻(一级域名和二级域名数都有严格限制了),高防也有抽风的时候,有很多时候发现该功能没起效果,所以我们搞了个自己的防CC功能。改方案暂取名lbwaf,主要功能包括手动拉黑(就是手动填IP黑名单),自动拉黑(重点功原创 2020-05-12 11:46:16 · 601 阅读 · 0 评论 -
TCP代理服务器动态路由方案
目前tcp长连接应用使用的方案是nginx(ngx_stream_core_module),静态配置;自带的健康检查只能基于端口,但应用有时程序错误或假死,端口是OK的,导致客户端不少报错,因此新的方案要求可以动态配置路由,由监控检查程序管理后端节点的动态配置。http动态路由(也叫动态upstream)方案较多,有现成的插件,或者lua对这块也支持得较好;但tcp的方案相对少,充分研究了下,...原创 2019-12-31 09:08:53 · 1238 阅读 · 1 评论 -
web terminal工具gateone使用
稍微牛B的运维团队,没有运维平台是不行的,web terminal是运维平台的重要组成部分,这里吐血推荐gateone,github上5K颗星,遗憾的是作者不更新了,但瑕不掩瑜,它依然是我心目中web terminal no.1。web上直接点击终端按钮,打开一个ssh终端,体验还是很nice的:1.安装1.1.环境# cat /etc/redhat-release...原创 2019-07-01 20:47:00 · 5021 阅读 · 0 评论