Postgresql清理WAL日志

本文详细介绍了PostgreSQL中WAL(Write Ahead Log)日志的工作原理,包括其存放位置、参数配置、自动清理条件及手动清理方法。阐述了在不同配置下WAL日志的保存数量限制,以及归档对日志清理的影响。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1. 前言

WALWrite Ahead Log的简写,和oracle的redo日志类似,存放在$PGDATA/pg_xlog中,10版本以后在$PGDATA/pg_wal目录.
WAL相关的介绍可见WAL(Write Ahead Logging)介绍

如果开启了归档,在目录archive_status下会有一些文件,以ready结尾的,表示可以归档但还没有归档,done结尾的表示已经归档。

WAL日志数量相关的几个参数:

wal_keep_segments = 300          # in logfile segments, 16MB each; 0 disables  
checkpoint_completion_target = 0.5     # checkpoint target duration, 0.0 - 1.0  
checkpoint_segments = 2048              # in logfile segments, min 1, 16MB each  
#9.5以后checkpoint_segments不再使用,要参考设置以下两个参数
#max_wal_size = 1GB  #最大不超过这个值
#min_wal_size = 80MB  #最小保留这个值

如果没有开启归档的情况下:
不超过以下两个公式计算得出的个数:

  • (2 + checkpoint_completion_target) * checkpoint_segments + 1
  • 或者checkpoint_segments + wal_keep_segments + 1

9.5以后,如果超过了max_wal_size,那么就会删除不需要的wal.

如果开启了归档,那么归档成功了,才会被清除,所以这里注意一下,如果你开启了归档,但是归档命令是失效的,那么wal目录会一直增长,不会自动删除WAL,会使得此目录被撑爆

2. 什么情况下回自动清理wal

  1. 做检查点的时候;

  2. 数据库启动的时候,或者修改了相关参数后重启数据库。

    触发检查点的情况:

  3. 从前一个检查点发生过后的时间超过checkpoint_timeout设置的间隔(默认间隔为300秒(5分钟))。

  4. 在版本9.4或更早版本中,自上一个检查点以来,超过使用checkpoint_segments(默认数量为3)设置的WAL段文件数量。

  5. 在9.5或更高版本中,pg_xlog(版本10或更高版本,pg_wal)中WAL段文件的总大小已超过参数max_wal_size的值(默认值为1GB(64个文件))。

  6. PostgreSQL服务在smart和fast模式下停止。

  7. 手动执行checkpoint.

3. 如何手动清理wal

可以通过缩小以上涉及到的函数减少wal segment的数量,也可以手动删除,如下:

pg_controldata
Latest checkpoint location: 16/79FF5520
Latest checkpoint’s REDO location: 16/79FF54E8
Latest checkpoint’s REDO WAL file: 00000001000000160000001E

这里表示16/79FF54E8检查点已经执行,已经包含在00000001000000160000001E日志文件中,那么这个日志之前的日志是可以清理的。

可以手动使用系统命令rm清理,也可以使用pg_archivecleanup清理
比如:

查看日志
ll
total 833M
-rw------- 1 postgres postgres  64M Aug 29 11:10 00000001000000160000001E
-rw------- 1 postgres postgres  64M Jul 16 11:24 00000001000000160000001F
-rw------- 1 postgres postgres  64M Jul 16 11:24 000000010000001600000020
-rw------- 1 postgres postgres  64M Jul 16 11:25 000000010000001600000021
-rw------- 1 postgres postgres  64M Jul 16 11:25 000000010000001600000022
-rw------- 1 postgres postgres  64M Jul 16 11:26 000000010000001600000023
-rw------- 1 postgres postgres  64M Jul 16 11:24 000000010000001600000024
-rw------- 1 postgres postgres  64M Jul 16 11:24 000000010000001600000025
-rw------- 1 postgres postgres  64M Jul 16 11:26 000000010000001600000026
-rw------- 1 postgres postgres  64M Jul 16 11:40 000000010000001600000027
-rw------- 1 postgres postgres  64M Jul 16 11:40 000000010000001600000028
-rw------- 1 postgres postgres  64M Jul 16 11:51 000000010000001600000029
-rw------- 1 postgres postgres  64M Jul 16 11:40 00000001000000160000002A
drwx------ 2 postgres postgres 4.0K Jun 18 10:15 archive_status

保留000000010000001600000027之后的日志
 pg_archivecleanup /opt/pgdata11.3/pg_root/pg_wal/  000000010000001600000027
 
 再次查看验证
 ls
000000010000001600000027  000000010000001600000028  000000010000001600000029  00000001000000160000002A  archive_status

<think>好的,我现在需要回答用户关于PostgreSQLWAL日志文件的存放位置以及pg_controldata命令的作用的问题。用户还特别提到了使用pg_controldata配合grep来过滤'WAL segment'和'REDO'的信息。我需要结合用户提供的引用内容,确保回答准确且符合用户之前的讨论。 首先,用户之前的问题和回答中已经涉及到了pg_controldata命令以及WAL的相关内容。用户现在进一步询问WAL文件的存放位置和该命令的详细解释。我需要先确定WAL日志的默认路径,通常是在PGDATA目录下的pg_wal子目录。在较旧的版本中可能叫做pg_xlog,这点需要提及。 接下来,关于pg_controldata命令的作用,用户之前的回答已经解释过,它用于读取控制文件pg_control的信息,包括检查点、WAL信息等。这里需要再次强调其核心作用,并结合用户提供的引用内容,如引用[3]中提到的检查点的位置信息,引用[1]中的示例输出,以及引用[4]中关于系统标识符的部分,可能需要说明控制文件中的其他重要信息。 用户的问题中提到了pg_controldata | grep 'WAL segment|REDO'的解释。在之前的回答中,已经解析了这两个字段的含义,如REDO location和对应的WAL文件。这里需要详细说明每个字段的意义,例如REDO location是最后一次检查点的重放起始位置,而WAL segment则对应具体的物理文件。同时,结合用户提供的引用[1]中的清理操作,说明如何利用这些信息来清理旧的归档日志。 用户提供的引用[2]提到定期清理归档日志的方法,可能需要简要提及pg_archivecleanup工具的使用,如引用[1]中的示例。但用户现在的问题主要是关于路径和命令解释,因此需要保持重点,避免偏离。 需要注意的是,用户引用的内容中有关于pg_resetwal的部分(引用[4]),虽然当前问题不直接相关,但可能涉及系统标识符的生成,不过在此问题中可以暂时不深入,除非有必要关联。 最后,确保回答结构清晰,分点说明WAL路径、pg_controldata命令的作用、命令输出的解析,以及相关应用场景,如日志清理。同时,生成相关问题,帮助用户进一步探索,比如如何配置归档、监控WAL生成等。引用用户提供的引用内容时,正确标注引用标记,如[^1]、[^2]等。 需要验证是否存在路径配置可能改变WAL存放位置的情况,例如通过initdb的参数或在配置文件中设置。此外,注意不同PostgreSQL版本之间的差异,如目录名称的变化,确保信息准确。 总结回答的结构: 1. WAL日志的存放位置,默认路径及可能的配置变更。 2. pg_controldata命令的作用,强调其读取控制文件的信息。 3. 解析使用grep过滤后的输出,解释REDO和WAL segment字段。 4. 结合引用内容,说明这些信息在日志清理和恢复中的应用。 5. 相关问题的生成,如路径配置、清理方法、监控等。</think>#### 一、PostgreSQL WAL日志文件的存放位置 PostgreSQLWAL(Write-Ahead Logging)日志默认存储在数据库集群目录的 **`pg_wal`** 子目录中(PostgreSQL 10及以上版本)。在旧版本(9.6及之前)中,该目录名为 **`pg_xlog`**。路径示例如下: ``` $PGDATA/pg_wal/ ``` - **关键特性**: 1. **WAL文件命名规则** 文件名格式为 **`0000000XYYYYYYYYZZZZZZZZ`**,例如`000000020000000100000015`: - `X`: 时间线ID(timeline) - `YYYYYYYY`: 逻辑文件号(高位) - `ZZZZZZZZ`: 逻辑文件号(低位) 2. **路径自定义** 可通过`initdb`的`--waldir`参数或在`postgresql.conf`中设置`wal_directory`修改路径[^2]。 --- #### 二、`pg_controldata`命令的作用解析 `pg_controldata`用于读取数据库集群的控制文件`pg_control`,包含以下核心元数据: 1. **数据库集群状态** - 运行模式(正常/恢复) - 最后一次检查点信息 2. **WAL配置信息** - WAL段大小(默认16MB) - 检查点的REDO位置 3. **系统标识符** - 唯一标识集群,用于防止误操作(如主备混用)[^4] --- #### 三、`pg_controldata | grep 'WAL segment|REDO'`的输出解析 执行命令后,典型输出如下: ``` Latest checkpoint's REDO location: 0/22000878 Latest checkpoint's REDO WAL file: 000000020000000000000022 ``` ##### 1. **`REDO location`字段** - **格式**:`0/22000878`(LSN,Log Sequence Number) - `0/22`: 高32位表示逻辑文件号 - `000878`: 低32位表示段内偏移量(16进制) - **作用**:标记最后一次检查点完成时WAL的重放起始位置,崩溃恢复时从此点开始重放日志[^3]。 ##### 2. **`REDO WAL file`字段** - **物理文件名**:`000000020000000000000022` - 对应LSN的物理WAL文件,命名规则与`pg_wal`目录中的文件一致。 - **应用场景**: - 清理归档日志时,可通过`pg_archivecleanup`删除早于此文件的所有归档(如引用[1]示例)[^1]。 --- #### 四、实际应用示例 1. **清理归档日志** 根据`REDO WAL file`确定可清理的归档范围: ```bash pg_archivecleanup -d /path/to/archive 000000020000000000000022 ``` 2. **监控WAL生成速率** 定期记录`REDO location`的变化,判断WAL生成是否异常: ```bash watch -n 60 "pg_controldata | grep 'REDO location'" ``` --- #### 五、扩展知识:控制文件的其他关键字段 | 字段名 | 说明 | |------------------------|-----------------------------| | Database system identifier | 集群唯一标识(防止主备混淆) | | WAL block size | WAL块大小(默认8KB) | | Checkpoint timeout | 自动检查点触发间隔 | --- #### 相关问题 1. 如何修改PostgreSQLWAL存储路径? 2. `pg_archivecleanup`工具的工作原理是什么? 3. 如何通过LSN计算对应的WAL文件名? 4. 检查点的`REDO location`与事务提交有何关联? --- 通过以上解析,可全面理解WAL日志的存储规则及`pg_controldata`在运维中的核心作用。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值