linux文件系统与日志分析

一、inode与block

1、inode与block概述

文件是存储在硬盘上的，硬盘的最小存储单位叫做“扇区”（sector），每个扇区存储512字节。
一般连续八个扇区组成一个“块”（block），一个块是4K大小，是文件存取的最小单位。操作系统读取硬盘的时候，是		一次性读取多个扇区，即一个块一个块的读取的。

文件数据包括实际数据与元信息（类似文件属性）。问价数据存储在”块“中，存储文件元信息（比如文件的创建者、创	建日期、文件大小、文件权限等）的区域叫做inode。因此，一个文件必须占用一个inode，并且至少占用一个block。

每个inode都有一个号码，操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名，而使用inode号码	来识别文件。对于系统来说，文件名只是inode号码便于识别的别称，文件名和inode号码是一一对应关系，每个inode号	码对应一个文件名。

据inode信息，看该用户是否具有访问这个文件的权限；如果有，就指向相对应的数据block，并读取数据。
注：一个文件必须占用一个inode，但至少占用一个block，所以单个文件至少占据4K大小。

2、inode的内容

inode包含文件的元信息，包括：
·文件的字节数
·文件拥有者的User ID
·文件的Group ID
·文件的读、写、执行权限
·文件的时间戳

注：inode信息不包含文件名。

3、查看inode号码的方法

方法一：ls -l 文件名
方法二：stat 文件名

4、Linux系统文件三个主要的时间属性

ctime（change time）
最后一次改变文件或目录（属性）的时间
atime（access time）
最后一次访问文件或目录的时间
mtime（modification time）
最后一次修改文件或目录（内容）的时间

5、目录文件的结构

Linux系统中，一切皆为文件。因此，目录也是一种文件。
目录文件的结构：

	文件名   	inode号
	文件名1		inode号码1
	文件名2		inode号码2

其中每一行称为一个目录项。
每个inode都有一个号码，操作系统用inode号码来识别不同的文件。
Linux系统内部不适用文件名，而使用inode号码来识别文件。
对于用户，文件名只是inode号码便于识别的别称。

6、通过文件名打开文件的系统内部过程

1.系统找到这个文件名对应的inode号码
2.通过inode号码，获取inode信息
3.根据inode信息，判断用户权限
4.无权限，拒绝访问
5.有权限，找到文件数据所在的block，读出数据

7、硬盘分区后的结构

信息类型	存储单元	存储区域
文件名	目录项	目录块
元信息	inode	inode表区块
数据	block	block数据区

8、inode的大小

inode也会消耗硬盘空间，所以格式化的时候，操作系统自动将硬盘分为两个区域。一个是数据区，存放文件数据；另一个是inode区，存放inode所包含的信息。每个inode的大小，一般是128字节或256字节。

通常情况下不需要关注单个inode的大小，而是需要重点关注inode总数。inode的总数在格式化时就给定了，执行“df -i”命令即可查看每个硬盘分区对应的inode总数和已经使用的inode数量。

9、inode的特殊作用

由于inode号码与文件名分离，导致一些Unix/Linux系统具有以的现象：
	当文件名包含特殊字符，可能无法正常删除文件，直接删除inode，也可以删除文件
	移动或重命名文件时，只改变文件名，不影响inode号码
	打开一个文件后，系统通过inode号码来识别该文件，不再考虑文件名
	文件数据被修改保存后，会生成一个新的inode号码

10、通过inode号的删除命令

find ./ -inum 52305140 -exec rm -i {} ;
或
find ./ -inum 50464299 -delete

11、inode节点耗尽故障模拟处理

使用fdisk创建分区/dev/sdb1，分区大小30M即可
fdisk /dev/sdb
mkfs.ext4 /dev/sdb1
mkdir /test
mount .dev/sdb1 /mnt
df -i
模拟inode节点耗尽故障
for ((i=1;1<=7680;i++));do touch /test/file$i;done
或
touch(1..7680).txt
df -i
df -hT
删除文件恢复inode
rm -rf /test/*
df -i
df -hT

二、硬链接与软链接

1、链接文件的分类

	软链接（符号链接）	硬链接
删除原始文件后	失效	仍旧可用
使用范围	适用于文件或目录	只可用于文件
保存位置	与原始文件可以位于不同的文件系统中	必须与原始文件在同一个文件系统（如一个Linux分区）内

2、如何建立链接

硬链接：ln 源文件 目标位置
软链接：ln -s 源文件或目录 链接文件或目标位置

三、恢复误删除的文件

1、恢复EXT类型的文件

extundelete工具

extundelete是一个开源的Linux数据恢复工具，支持ext3、ext4文件系统。（ext4只能在CentOS 6版本恢复）

模拟删除并执行恢复操作

 ①.使用fdisk创建分区/dev/sdc1,格式化ext3文件系统
	fdisk /dev/sdc
	partprobe /dev/sdc
	mkfs.ext3 /dev/sdc1
	mkdir /test
	mount /dev/sdc1 /test
	df -hT
②.安装依赖包
	yum -y inatll e2fsprogs-devel e2fsprogs-libs
 ③.编译安装extundelete
	cd /test
	wget http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2
	tar jxvf extundelete-0.2.4.tar.bz2
	cd extundlete-0.2.4/
	./configure --prefix=/usr/local/extundelete && make && make install
	ln -s /usr/local/extundelete/bin/* /usr/bin/
④.模拟删除并执行恢复操作
	cd /test
	echo a>a
	echo a>b
	echo a>c
	echo a>d
	ls
	extundelete /dev/sdc1 --inode 2 ##查看文件系统/dev/sdc1下存在哪些文件，i节点是从2开始的，2代表该文件系统最开始的目录
	rm -rf a b
	extundelete /dev/sdc1 --inode 2
	cd ~
	umount /test
	extundelete /dev/sdc1 --restore -laa ##恢复/dev/sdc1文件系统下的所有内容
在当前目录下会出现一个RECOVERD_FILES/目录，里面保存了已经恢复的文件
	ls RECOVERD_FILES/

2、XFS文件的备份和恢复

（1）xfsdump工具

CentOS 7系统默认采xfs文件系统，xfs类型的文件可使用xfsdump与xfsrestore工具进行备份恢复。
xfsdump的备份级别有两种：0表示完全备份，1-9表示增量备份。xfsdump的默认备份级别为0。

（2）xfsdump的命令格式

	xfsdump -f 备份存放位置 要备份的路径或设备文件

（3）xfsdump命令的常用选项

常用选项	说明
-f	指定备份文件目录
-L	指定标签session label
-M	指定设备标签media label
-s	备份单个文件，-s后面不能直接根路径

（4）xfsdump的使用限制

1.只能备份已挂载的文件系统
2.必须使用root的权限才能操作
3.只能备份xfs文件系统、
4.备份后的数据只能让xfsdump解析
5.不能备份两个具有相同UUID的文件系统（可用blkid命令查看）

（5）模拟数据丢失并恢复

1.使用fdisk创建分区/dev/sdb1，格式化xfs文件系统
	fdisk /dev/sdb
	partprobe /dev/sdb
	mkfs.xfs [-f] /dev/sdb1
	mkdir /data
	mount /dev/sdb1 /data/
	cd /data
	cp /etc/passwd ./
	mkdir test
	touch mkdir test/a
2.使用xfsdump命令备份整个分区
	rpm -qa | grep xfsdump
	yum install -y xfsdump
	xfsdump -f /opt/dump_sdb1 /dev/sdb1 [-L dump_sdb1 -M adb1]
3.模拟数据丢失并使用xfsrestore命令恢复文件
	cd /data
	rm -rf ./*
	ls
	xfsrestore -f /opt/dump_sdb1 /data/

四、分析日志文件

1、日志的功能

用于记录系统、程序运行中发生的各种事件
通过阅读日志，有助于诊断和解决系统故障

2、日志文件的分类

·内核及系统日志
由系统服务rsyslog统一进行管理,主配置文件为/etc/rsyslog.conf。
Linux操作系统本身和大部分服务器程序的日志文件都保存在/var/log下。
·用户日志
记录系统用户登录及退出系统的相关信息
·程序日志
由各种应用程序独立管理的日志文件，记录格式不统一

3、日志的保存位置

默认位于：/var/log目录下

主要日志类型	默认所在位置	说明
内核及公共消息日志	/var/log/messages	记录Linux内核消息及各种应用程序的公共日志消息，包括启动、IO错误、网络错误、程序故障等。对于未使用独立日志文件的应用程序或服务，一般都可以从该日志文件中获得相关的事件记录信息
计划任务日志	/var/log/cron	记录crontab计划任务产生的事件信息
系统引导日志	/var/log/dmesg	记录Linux系统在引导过程中的各种事件信息
邮件系统日志	/var/log/maillog	记录进入或付出系统的电子邮件活动
用户登录日志	/var/log/secure/var/log/lastlog/var/log/wtmp/var/run/btmp	记录用户认证相关的安全事件信息记录每个用户最近的登陆事件，二进制格式记录每个用户登录、注销及系统启动和停机事件，二进制格式记录失败的、错误的登录尝试及验证事件，二进制格式

4、内核及系统日志

由系统服务rsylog统一管理
软件包：rsylog-7.4.7-16.el7.x86_64
主要程序：/sbin/rsyslohd
配置文件：/etc/rsyslog.conf

5、日志消息的级别

级号	消息	级别	说明
0	EMERG	紧急	会导致主机系统不可用的情况
1	ALERT	警告	必须马上采取措施解决的问题
2	CRIT	严重	比较严重的情况
3	ERR	错误	运行出现错误
4	WARNING	提醒	可能hi影响系统功能的事件
5	NOTICE	注意	不会影响系统但值得注意
6	INFO	信息	一般信息
7	DEBUG	调试	程序或系统调试信息等

6、公共日志文件的记录格式

一般由时间标签、主机名、子系统名、消息字段组成

字段	说明
时间标签	消息发出的日期和时间
主机名	生成消息的计算机的名称
子系统名称	发出消息的应用程序的名称
消息	消息的具体内容

7、用户日志分析

（1）用户日志功能

保存了用户登录、退出系统等相关信息

日志位置	记录事项
/var/log/lastlog	最近的用户登录事件
/var/log/wtmp	用户登录、注销及系统开、关机事件
/var/log/utmp	当前登录的每个用户的详细信息
/var/log/secure	与用户验证相关的安全性事件

（2）分析工具

users、who、w、last、lastb
last命令用于查询成功登录到系统的用户记录
lastb命令用于查询登陆失败的用户记录

8、程序日志分析

（1）常用的程序日志

由相应的应用程序独立进行管理
1.Web服务：/var/log/httpd/
access_log //记录客户访问事件
error_log //记录错误事件
2.代理服务：/var/log/squid/
access.log
cache.log

（2）分析工具

1.文本查看、grep过滤检索、Webmin管理套件中查看
2.awk、sed等文本过滤、格式化编辑工具
3.Webalizer、Awstats等专用日志分析工具

9、日志管理策略

1.及时做好备份和归档
2.延长日志保存期限
find ./ -mtime +30 -exec rm -rf {} ; 删除30天以前的日志文件
3.控制日志访问权限
日志中可能会包含各类敏感信息，如账户、口令等
4.集中管理日志
将服务器的日志文件发到统一的日志文件服务器
便于日志信息的统一收集、整理和分析
杜绝日志信息的意外丢失、恶意篡改或删除