日志管理rsyslog

一、日志管理

1、日志介绍

日志： 
	历史事件:时间，地点，人物，事件 
	日志级别：事件的关键性程度，Loglevel
系统日志服务： 
	sysklogd :CentOS 5之前版本 
		syslogd: system application 记录应用日志 
		klogd: linux kernel 记录内核日志
事件记录格式： 日期时间 主机 进程[pid]: 事件内容
C/S架构：通过TCP或UDP协议的服务完成日志记录传送，将分布在不同主机的日志实现集中管理

2、rsyslog简单认知

1、rsyslog特性：CentOS6和7 
	多线程 
	UDP, TCP, SSL, TLS, RELP 
	MySQL, PGSQL, Oracle实现日志存储 
	强大的过滤器，可实现过滤记录日志信息中任意部分 
	自定义输出格式
2、ELK：elasticsearch, logstash, kibana 
	非关系型分布式数据库 
	基于apache软件基金会jakarta项目组的项目lucene 
	Elasticsearch是个开源分布式搜索引擎 
	Logstash对日志进行收集、分析，并将其存储供以后使用
	kibana 可以提供的日志分析友好的 Web 界面
3、man logger可以查看rsyslog详细介绍
	facility：设施，从功能或程序上对日志进行归类 
		auth, authpriv, cron, daemon,ftp,kern, lpr, mail, news, security(auth),user, uucp, local0-local7, syslog
	Priority 优先级别，从低到高排序 
		debug, info, notice, warn(warning), err(error),crit(critical), alert,emerg(panic)

3、rsyslog配置介绍

1、程序包：rsyslog 
2、主程序：/usr/sbin/rsyslogd 
	CentOS 6：service rsyslog {start|stop|restart|status} 
	CentOS 7：/usr/lib/systemd/system/rsyslog.service 
3、配置文件：/etc/rsyslog.conf，/etc/rsyslog.d/*.conf 
4、库文件： /lib64/rsyslog/*.so 
5、配置文件格式：由三部分组成 
	MODULES：相关模块配置 
	GLOBAL DIRECTIVES：全局配置
	RULES：日志记录相关的规则配置

二、日志工具rsyslog

1、rsyslog.conf配置文件

1、RULES配置格式： facility.priority; facility.priority… target 
2、facility： 
	*: 所有的facility
	facility1,facility2,facility3,...：指定的facility列表
3、priority： 
	*: 所有级别
	none：没有级别，即不记录 
	PRIORITY：指定级别（含）以上的所有级别 
	=PRIORITY：仅记录指定级别的日志信息
4、target：
	文件路径：通常在/var/log/
	文件路径前的-表示异步写入 
	用户：将日志事件通知给指定的用户
	* 表示登录的所有用户 
	日志服务器：@host，把日志送往至指定的远程服务器记录
	管道： | COMMAND，转发给其它命令处理

mail.*      -/var/log/maillog	//邮件用异步方式，先写到buffer缓冲区中，不忙时cpu写入磁盘中，性能比较好
*.emerg    :omusrmsg:*			//发生严重事件，通过模块发送给所有用户

2、启用网络日志服务

1、通常的日志格式： 事件产生的日期时间 主机 进程(pid)：事件内容 
	如： /var/log/messages,cron,secure等
2、配置rsyslog成为日志服务器 
#### MODULES #### 
# Provides UDP syslog reception 
$ModLoad imudp 
$UDPServerRun 514

# Provides TCP syslog reception 
$ModLoad imtcp
$InputTCPServerRun 514

3、其它日志文件

/var/log/secure：系统安装日志，文本格式，应周期性分析 
/var/log/btmp：当前系统上，用户的失败尝试登录相关的日志信息，二进制格 式，lastb命令进行查看
/var/log/wtmp：当前系统上，用户正常登录系统的相关日志信息，二进制格 式，last命令可以查看
/var/log/lastlog：每一个用户最近一次的登录信息，二进制格式，lastlog命令 可以查看
/var/log/dmesg：系统引导过程中的日志信息，文本格式，文本查看工具查看，专用命令dmesg查看
/var/log/messages ：系统中大部分的信息
/var/log/anaconda : anaconda的日志,安装系统生成的日志

三、日志管理journalctl

Systemd 统一管理所有 Unit 的启动日志，可以只用 journalctl一个命令，查看所有日志（内核日志和应用日志）。
日志的配置文件 /etc/systemd/journald.conf

journalctl用法

查看所有日志（默认情况下 ，只保存本次启动的日志） 
journalctl

查看内核日志（不显示应用日志） 
journalctl -k

查看系统本次启动的日志 
journalctl -b journalctl -b -0

查看上一次启动的日志（需更改设置）
journalctl -b -1

查看指定时间的日志 
journalctl --since="2017-10-30 18:10:30" 
journalctl --since "20 min ago" 
journalctl --since yesterday 
journalctl --since "2017-01-10" --until "2017-01-11 03:00" 
journalctl --since 09:00 --until "1 hour ago"

显示尾部的最新10行日志 
journalctl -n

显示尾部指定行数的日志 
journalctl -n 20

实时滚动显示最新日志
journalctl -f

查看指定服务的日志 
journalctl /usr/lib/systemd/systemd

查看指定进程的日志 
journalctl _PID=1

查看某个路径的脚本的日志 
journalctl /usr/bin/bash

查看指定用户的日志 
journalctl _UID=33 --since today

查看某个 Unit 的日志 
journalctl -u nginx.service journalctl -u nginx.service --since today

实时滚动显示某个 Unit 的最新日志 
journalctl -u nginx.service -f

合并显示多个 Unit 的日志
journalctl -u nginx.service -u php-fpm.service --since today

查看指定优先级（及其以上级别）的日志，共有8级 0: emerg 1: alert 2: crit 3: err 4: warning 5: notice 6: info 7: debug journalctl -p err -b

日志默认分页输出，--no-pager 改为正常的标准输出
journalctl --no-pager

以 JSON 格式（单行）输出 
journalctl -b -u nginx.service -o json

以 JSON 格式（多行）输出，可读性更好 
journalctl -b -u nginx.serviceqq -o json-pretty

显示日志占据的硬盘空间 
journalctl --disk-usage

指定日志文件占据的最大空间 
journalctl --vacuum-size=1G

指定日志文件保存多久
journalctl --vacuum-time=1years

实验1：日志跨主机传输记录

client

192.168.8.158：
1、添加设施规则
[root@szx ~]# vim /etc/rsyslog.conf
local6.*              @192.168.8.159		//日志记录跨网络转发到159机器上
2、修改登录默认的设施
[root@szx ~]# vim /etc/ssh/ssh_config
#SyslogFacility AUTHPRIV
SyslogFacility local6		//使用自定义的设施
3、重启服务
[root@szx ~]# systemctl restart sshd rsyslog

server

192.168.8.159：
1、添加udp模块，并自定义接收到的local6设施日志
[root@gg ~]# vim /etc/rsyslog.conf			
$ModLoad imudp						//解开注释
$UDPServerRun 514
local6.*          /var/log/local6.log
[root@gg ~]# systemctl restart rsyslog

2、查看端口是否启动
[root@gg ~]# ss -ntlu
Netid  State      Recv-Q Send-Q   Local Address:Port    Peer Address:Port
udp    UNCONN     0      0               *:514                 *:*

3、验证192.168.8.153机器登录158机器
[root@153 ~]# ssh 192.168.8.158
root@192.168.8.158's password:
Last login: Wed Aug 31 12:49:14 2022 from 192.168.8.153


4、查看159机器上的日志日志记录
[root@gg ~]# tail -f /var/log/local6.log
Aug 31 12:46:05 szx sshd[2634]: Server listening on 0.0.0.0 port 22.
Aug 31 12:46:05 szx sshd[2634]: Server listening on :: port 22.
Aug 31 12:46:37 szx sshd[2692]: Nasty PTR record "192.168.8.159" is set up for 192.168.8.159, ignoring
Aug 31 12:49:59 szx sshd[2917]: Nasty PTR record "192.168.8.153" is set up for 192.168.8.153, ignoring
Aug 31 12:50:02 szx sshd[2917]: Accepted password for root from 192.168.8.153 port 59670 ssh2

实验2：rsyslog将日志记录于MySQL中

(1) 准备MySQL Server 

(2) 在mysql server上授权rsyslog能连接至当前服务器 
GRANT ALL ON Syslog.* TO 'USER'@'HOST' IDENTIFIED BY 'PASSWORD';

(3) 在rsyslog服务器上安装mysql模块相关的程序包 
yum install rsyslog-mysql

(4) 为rsyslog创建数据库及表； 
mysql -uUSERNAME -hHOST -pPASSWORD < /usr/share/doc/rsyslog-7.4.7/mysql-createDB.sql 

(5) 配置rsyslog将日志保存到mysql中 
#### MODULES #### 
$ModLoad ommysql 
#### RULES ####
facility.priority :ommysql:DBHOST,DBNAME,DBUSER, PASSWORD

实验操作

步骤1：下载mysql相关的日志模块
192.168.8.158：
[root@158 ~]# yum install rsyslog-mysql -y
[root@158 ~]# rpm -ql rsyslog-mysql
/usr/lib64/rsyslog/ommysql.so
/usr/share/doc/rsyslog-8.24.0/mysql-createDB.sql
[root@158 ~]# scp /usr/share/doc/rsyslog-8.24.0/mysql-createDB.sql root@192.168.8.159:/data

步骤2：部署mysql及授权
192.168.8.159：
[root@159 ~]# yum install mariadb-server -y
[root@159 ~]# systemctl start mariadb
[root@159 ~]# mysql < /data/mysql-createDB.sql
[root@159 data]# mysql -e "grant all on Syslog.* to loguser@'192.168.8.%' identified by 'centos'"

步骤3：加载模块及对应规则
192.168.8.158：
[root@158 ~]# vim /etc/rsyslog.conf
#### MODULES #### 
$ModLoad ommysql
#### RULES ####
*.info;mail.none;authpriv.none;cron.none                :ommysql:192.168.8.159:Syslog,loguser,centos
[root@158 ~]# systemctl restart rsyslog

步骤4：查看数据库数据
[root@158 ~]# logger "test is mysql"			// 测试生成日志数据

[root@159 ~]# mysql
MariaDB [(none)]> show databases;
MariaDB [(none)]> use Syslog;
MariaDB [Syslog]> show tables;
MariaDB [Syslog]> select * from SystemEvents\G
*************************** 1. row ***************************
......
*************************** 22. row ***************************
                ID: 22
        CustomerID: NULL
        ReceivedAt: 2022-08-31 17:08:02
DeviceReportedTime: 2022-08-31 17:08:02
          Facility: 1
          Priority: 5
          FromHost: 158
           Message: test is mysql		//正常显示测试数据
        NTSeverity: NULL
        Importance: NULL
       EventSource: NULL
         EventUser: NULL
     EventCategory: NULL
           EventID: NULL
   EventBinaryData: NULL
      MaxAvailable: NULL
         CurrUsage: NULL
          MinUsage: NULL
          MaxUsage: NULL
        InfoUnitID: 1
         SysLogTag: root:
      EventLogType: NULL
   GenericFileName: NULL
          SystemID: NULL
22 rows in set (0.00 sec)

实验3：通过loganalyzer展示数据库中的日志

loganalyzer官网

最新版本：
wget https://download.adiscon.com/loganalyzer/loganalyzer-4.1.12.tar.gz --no-check-certificate

(1) 在rsyslog服务器上准备amp或nmp组合 
yum install httpd php php-mysql php-gd
php-gd 画图需要的包

(2) 安装LogAnalyzer 
tar xf loganalyzer-4.1.5.tar.gz 
cp -a loganalyzer-4.1.5/src /var/www/html/loganalyzer 
cd /var/www/html/loganalyzer 
touch config.php
chmod 666 config.php

(3) 配置loganalyzer 
systemctl start httpd.service 
http://HOST/loganalyzer 
MySQL Native, Syslog Fields, Monitorware

(4) 安全加强 cd /var/www/html/loganalyzer
chmod 644 config.php

实际操作：

192.168.8.157：搭建LAP，mysql159已结创建了
[root@157 ~]# yum install httpd php php-mysql php-gd -y
[root@157 ~]# tar -xvf loganalyzer-4.1.12.tar.gz -C /var/www/html/
[root@157 html]# cd /var/www/html/
[root@157 html]# mv loganalyzer-4.1.12/src/ ../logs      //src目录下是php程序
[root@157 html]# systemctl start httpd
[root@157 html]# cd logs/
[root@157 logs]# touch config.php
[root@157 logs]# chmod 666 config.php
安装完成后不需要写权限了：
[root@157 logs]# chmod 644 config.php

了解即可：
[root@157 html]# cat loganalyzer-4.1.12/contrib/secure.sh
#!/bin/sh
chmod 644 config.php
[root@157 html]# cat loganalyzer-4.1.12/contrib/configure.sh
#!/bin/sh
touch config.php
chmod 666 config.php

此处168就是157机器

认识Logrotate–日志文件管理工具

logrotate 程序是一个日志文件管理工具。用来把旧的日志文件删除，并创建新的日志文件，称为日志转储或滚动。可以根据日志文件的大小，也可以根据其 天数来转储，这个过程一般通过 cron 程序来执行
配置文件是 /etc/logrotate.conf 
主要参数如下 
compress 通过gzip 压缩转储以后的日志 
nocompress 不需要压缩时，用这个参数 
copytruncate 用于还在打开中的日志文件，把当前日志备份并截断 
nocopytruncate 备份日志文件但是不截断
create mode owner group 转储文件，使用指定的文件模式创建新的日志文件


nocreate 不建立新的日志文件 
delaycompress 和 compress 一起使用时，转储的日志文件到下一次转储时才压缩
nodelaycompress 覆盖 delaycompress 选项，转储并压缩 errors address 专储时的错误信息发送到指定的Email 地址 
ifempty 即使是空文件也转储，是缺省选项。 
notifempty 如果是空文件的话，不转储 
mail address 把转储的日志文件发送到指定的E-mail 地址 nomail 转储时不发送日志文件 
olddir directory 转储后的日志文件放入指定的目录，必须和当前日志文件在 同一个文件系统
noolddir 转储后的日志文件和当前日志文件放在同一个目录下


prerotate/endscript 在转储以前需要执行的命令可以放入这个对，这两个关键 字必须单独成行
postrotate/endscript 在转储以后需要执行的命令可以放入这个对，这两个关 键字必须单独成行
daily 指定转储周期为每天 
weekly 指定转储周期为每周 
monthly 指定转储周期为每月 
size 大小 指定日志超过多大时，就执行日志转储 
rotate count 指定日志文件删除之前转储的次数，0 指没有备份，5 指保留5 个 备份
Missingok 如果日志不存在，提示错误
Nomissingok如果日志不存在，继续下一次日志，不提示错误