1、需求:使用shell定制各种个性化告警工具,但需要统一化管理、规范化管理。
2、思路:指定一个脚本包,包含主程序、子程序、配置文件、邮件引擎、输出日志等。
3、主程序:作为整个脚本的入口,是整个系统的命脉。
4、配置文件:是一个控制中心,用它来开关各个子程序,指定各个相关联的日志文件。
5、 子程序:这个才是真正的监控脚本,用来监控各个指标。
6、 邮件引擎:是由一个python程序来实现,它可以定义发邮件的服务器、发邮件人以及发件人密码
7、 输出日志:整个监控系统要有日志输出。
8、要求:我们的机器角色多种多样,但是所有机器上都要部署同样的监控系统,也就说所有机器不管什么角色,整个程序框架都是一致的,不同的地方在于根据不同的角色,定制不同的配置文件。
一、配置main.sh
创建项目主目录
[root@localhost ~]# mkdir sbin
[root@localhost ~]# cd /usr/local/sbin/
[root@localhost sbin]# mkdir mon
[root@localhost sbin]# cd mon/
[root@localhost mon]# yum install -y tree
[root@localhost mon]# tree
.
├── bin
│ └── main.sh
├── conf
│ └── mon.conf
├── log
├── mail
│ ├── mail.py
│ └── mail.sh
└── shares
├── 502.sh
├── disk.sh
└── load.sh
5 directories, 7 files
创建项目各个子目录
[root@localhost mon]# mkdir bin conf shares mail log
[root@localhost mon]# cd bin/
配置main.sh
克隆会话窗口,查看网卡
[root@localhost ~]# ifconfig
克隆会话窗口,查看是否在bin目录下
[root@localhost ~]# echo /usr/local/sbin/mon/bin|awk -F'/' '{print $NF}'
bin
[root@localhost bin]# vim main.sh (重点)
#!/bin/bash
#是否发送邮件的开关
export send=1
#过滤ip地址
export addr=`/sbin/ifconfig |grep -A1 "eno16777736"|awk '/inet/ {print $2}'`
dir=`pwd`
# 只需要最后一级目录名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
# 下面的判断目的是保证执行脚本的时候,我们在bin目录里,不然监控脚本、邮件和日志很有可能找不到
if [ $last_dir=="bin" ] || [ $last_dir=="bin/" ];then
conf_file="../conf/mon.conf"
else
echo "you shoud cd bin dir"
exit
fi
# exec 1>>../log/mon.log 2>>../log/err.log
echo "`date +"%F %T"` load average"
/bin/bash ../shares/load.sh
#先检查配置文件中是否需要监控502
if grep -q 'to_mon_502=1' $conf_file;then
export log=`grep 'logfile=' $conf_file |awk -F'=' '{print $2}'|sed 's/ //g'`
/bin/bash ../shares/502.sh
fi
二、配置mon.conf
这个文件就是我们项目各个程序的主开关,负责各个程序是否监控,这里面我们定义了很多参数,有些是我们用不到的,文件放在conf目录下
[root@localhost sbin]# cd mon/
[root@localhost mon]# cd conf/
[root@localhost conf]# vim mon.conf
## to config the options if to monitor
### 定义 mysql的服务器地址、端口一级user、password
#to_mon_cdb=0 ##0 or 1,default 0,0 not monitor,1 monitor
#db_ip=10.20.3.13
#db_port=3315
#db_user=username
#db_pass=passwd
###https 如果是1则监控,为0不监控
#to_mon_httpd=0
###php如果是1则监控,为0不监控
#to_mon_php_socket=0
### http_code_502 需要定义访问日志的路径
#to_mon_502=0
#logfile=/data/log/xxx.xxx.com/access.log
###request_count 定义日志路径以及域名
#to_mon_request_count=0
#req_log=/data/log/www.discuz.net/access.log
#domainname=www.discuz.net
三、配置监控子程序
这些子程序才是我们真正的监控程序,这些程序我们都放在shares目录下,这里主要有三个程序,分别是load.sh、502.sh、disk.sh。
load.sh程序的核心就是利用uptime命令取程序最近一分钟的负载值做判断,如果值大于我们设定的阈值就发送邮件告警。mail.sh后面跟三个参数 分别是邮件接收人、邮件主题、邮件内容,可以根据需要自定义参数。
[root@localhost conf]# cd /usr/local/sbin/mon/shares/
[root@localhost shares]# vim load.sh (重点)
#!/bin/bash
##Writen by ##
load=`uptime |awk -F'average:' '{print $2}'|cut -d ',' -f1|sed 's/ //g' | cut -d. -f1`
if [ $load -ge 0 ] && [ $send -eq "1" ]
then
/bin/bash ../mail/mail.sh 3295254431@qq.com "$addr\_load:$load" "$addr`date +%T` load is $load"
fi
echo "`date +%T`load is $load" 日志输出到哪里,且被定义
克隆窗口,uptime命令取程序最近一分钟的负载值做判断
[root@localhost ~]# uptime
07:01:54 up 1:56, 3 users, load average: 0.14, 0.07, 0.06
502.sh 核心就是监控nginx运行日志一分钟502出现的次数,如果大于我们设定的阈值就发送邮件告警。这个脚本需要在conf目录下mon.conf设置502运行日志的目录位置。
[root@localhost shares]# vim 502.sh
#!/bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d: $log |grep '502'|wc -l`
if [ $c_502 -gt 10 ] && [ $send == 1 ];then
/bin/bash ../mail/mail.sh 1944582958@qq.com "$addr\_502 $c_502" "$addr `date +%T`load is $load"
fi
echo "`date +%T`502 $c_502"
disk.sh 核心思想就是利用for循环遍历每个分区的磁盘利用率,如果有分区磁盘利用率超过设定的阈值就发送告警邮件。
[root@localhost shares]# vim disk.sh
#!/bin/bash
##Writen by ##
rm -f ../log/disk.tmp
for r in `df -h | awk -F'[ %]''{print $5}'|grep -v Use`
do
if [ $r -gt 90 ] && [ $send -eq "1" ]
then
/bin/bash ../mail/mail.sh 1944582598@qq.com "$addr\_disk $r""$addr `date +%T`disk useage is $r `df -h`"
echo "`date +%T` disk useage os nook `df -h`"
else
echo "`date +%T` disk useage is ok `dfh-h`"
fi
四、配置告警系统邮件引擎
告警系统邮件引擎由两个文件组成,都在mail目录下,mail.py负责发送邮件,mail.sh负责告警收敛。
mail.py是由python3编写的脚本,如果没有学过python 内容不需要关心,只需要注意最下面一行,填写你的网易163账号、授权码和发送人邮箱。
[root@localhost shares]# cd ../mail/
[root@localhost mail]# vim mail.py
import smtplib
from email.mime.text import MIMEText
import os,sys
def sendqqmail(username,password,mailfrom,mailto,subject,content):
mail_host = 'smtp.163.com'
# 163用户名
mail_user = username
# 密码(部分邮箱为授权码)
mail_pass = password
# 邮件发送方邮箱地址
sender = mailfrom
# 邮件接受方邮箱地址,注意需要[]包裹,这意味着你可以写多个邮件地址群发
receivers = [mailto]
# 设置email信息
# 邮件内容设置
message = MIMEText(content, 'plain', 'utf-8')
# 邮件主题
message['Subject'] = subject
# 发送方信息
message['From'] = mailfrom
# 接受方信息
message['To'] = mailto
# 登录并发送邮件
try:
smtpObj = smtplib.SMTP()
# 连接到服务器
smtpObj.connect(mail_host, 25)
# 登录到服务器
smtpObj.login(mail_user, mail_pass)
# 发送
smtpObj.sendmail(
sender, receivers, message.as_string())
# 退出
smtpObj.quit()
print('success')
except smtplib.SMTPException as e:
print('error', e) # 打印错误
if __name__ == "__main__":
to=sys.argv[1]
subject=sys.argv[2]
content=sys.argv[3]
# 邮箱账号 授权码 发送人邮箱
sendqqmail('jhgz_yee','JZJBYHTUYADIAOPB','jhgz_yee@163.com',to,subject,content)
mail.sh是负责告警收敛的,如果每次运行脚本出现问题都发送邮件就太烦人了,所以就有了这个告警收敛脚本。这个脚本设置了三种场景,分别是第一次执行脚本如果有警告就发送邮件、业务连续报警十分钟再发送一封邮件和业务间断的报警一小时内满十分钟就报警一次。
[root@localhost mail]# vim mail.sh
log=$1
t_s=`date +%s`
t_s2=`date -d "2 hours ago" +%s`
if [ ! -f /tmp/$log ]
then
echo $t_s2 > /tmp/$log
fi
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`
echo $t_s>>/tmp/$log
v=$[$t_s-$t_s2]
echo $v
if [ $v -gt 3600 ]
then
python3 ../mail/mail.py "$1" "$2" "$3"
echo "0" > /tmp/$log.txt
else
if [ ! -f /tmp/$log.txt ]
then
echo "0" > /tmp/$log.txt
fi
nu=`cat /tmp/$log.txt`
nu2=$[$nu+1]
echo $nu2>/tmp/$log.txt
if [ $nu2 -gt 10 ]
then
python3 ../mail/mail.py $1 "trouble continue 10 min $2" "$3"
echo "0" > /tmp/$log.txt
fi
fi
五、测试
因为系统没有nginx环境,所以这里我们只测试Linux负载情况load.sh这个脚本
安装python3环境和net-tools
[root@localhost bin]# yum install -y net-tools python3
测试我们先把日志关掉,注释掉main.sh脚本exec那一行
[root@localhost mail]# cd /usr/local/sbin/mon/bin/
[root@localhost mail]# ls
[root@localhost mail]# vim main.sh
#exec 1>>../log/mon.log 2>>../log/err.log
把load.sh脚本改成满足我们设定的阈值,所以改一下判断条件当系统负载等于0时我们就告警
[root@localhost bin]# vi ../shares/load.sh
#!/bin/bash
##Writen by ##
load=`uptime |awk -F'average:' '{print $2}'|cut -d ',' -f1|sed 's/ //g' | cut -d. -f1`
if [ $load -ge 0 ] && [ $send -eq "1" ]
then
/bin/bash ../mail/mail.sh 3695254418@qq.com "$addr\_load:$load" "$addr`date +%T` load is $load"
fi
echo "`date +%T`load is $load"
执行主程序
[root@localhost bin]# sh -x main.sh
+ export send=1
+ send=1
++ /sbin/ifconfig
++ grep -A1 'eno16777736: '
++ awk '/inet/ {print $2}'
+ export addr=192.168.200.201
+ addr=192.168.200.201
++ pwd
+ dir=/usr/local/sbin/mon/bin
++ echo /usr/local/sbin/mon/bin
++ awk -F/ '{print $NF}'
+ last_dir=bin
+ '[' bin == bin ']'
+ conf_file=../conf/mon.conf
++ date '+%F %T'
+ echo '2021-02-26 22:39:34 load average'
2021-02-26 22:39:34 load average
+ /bin/bash ../shares/load.sh
7200
success
22:39:35 load is 0
+ grep -q to_mon_502=1 ../conf/mon.conf
或者:
[root@localhost ~]# cat 1.sh
#!/bin/bash
i=99
while [ 1 ]
do
i*i
done
[root@localhost ~]# bash 1.sh
[root@localhost bin]# uptime 超过1,就可发送成功
12:50:10 up 7:44, 3 users, load average: 0.89, 0.27, 0.13
[root@localhost bin]# sh -x main.sh
+ export send=1
+ send=1
++ /sbin/ifconfig
++ grep -A1 eno16777736
++ awk '/inet/ {print $2}'
+ export addr=192.168.200.90
+ addr=192.168.200.90
++ pwd
+ dir=/usr/local/sbin/mon/bin
++ awk -F/ '{print $NF}'
++ echo /usr/local/sbin/mon/bin
+ last_dir=bin
+ '[' bin==bin ']'
+ conf_file=../conf/mon.conf
++ date '+%F %T'
+ echo '2021-04-09 12:50:45 load average'
2021-04-09 12:50:45 load average
+ /bin/bash ../shares/load.sh
3
success
12:50:47load is 1
+ grep -q to_mon_502=1 ../conf/mon.conf
[root@localhost mail]# python3 mail.py 3295254418@qq.com "why is here" "ffhhhxxhhh"