记一次由于buff/cache导致服务器内存爆满的问题

原创

已于 2024-03-21 18:36:35 修改 · 3.7k 阅读

30 ·

CC 4.0 BY-SA版权

文章标签：

#服务器 #运维 #linux #python

于 2024-03-21 18:26:57 首次发布

/proc/sys/vm/drop_caches

dirty_ratio

dirty_background_ratio

dirty_writeback_centisecs

dirty_expire_centisecs

前言

我目前在使用pve作为我的虚拟化系统，我在pve中开了一个centos7作为我的mc服务器系统

我写了个定时任务使用python每天凌晨3点将磁盘中的游戏数据备份到pve宿主机中的raid5阵列中，但是我发现服务器内存总是爆满，我初步判断是执行备份脚本导致的，后面实际测试后发现确实是

复现

我先手动触发一次备份（后台备份）

nohup python server.py &

等待数据备份完成，在pve中查看服务器内存占用

发现服务器内存已经爆满了

登录服务器查看占用内存进程排行

top -o %MEM

top - 18:09:07 up  9:45,  1 user,  load average: 0.84, 0.36, 0.19
Tasks: 241 total,   2 running, 239 sleeping,   0 stopped,   0 zombie
%Cpu(s):  4.1 us,  4.8 sy,  0.0 ni, 90.6 id,  0.5 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem : 41034536 total, 17324592 free,  7754368 used, 15955576 buff/cache
KiB Swap:  3145724 total,  3135220 free,    10504 used. 32879168 avail Mem 

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND                                                                     
10536 root      20   0   43.0g   6.1g  25104 S   4.5 15.6 111:50.22 java                                                                        
 9140 polkitd   20   0 3191660 451248  21032 S   0.0  1.1   8:47.40 mysqld                                                                      
 8882 root      20   0 2379512  69380  25784 S   0.0  0.2   0:44.79 dockerd                                                                     
  872 root      20   0  920636  51408  18904 S   0.0  0.1   2:13.25 node                                                                        
  848 root      20   0  936892  47088  18456 S   0.0  0.1   1:10.98 node                                                                        
 8864 root      20   0 1440692  39356  14624 S   0.0  0.1   0:32.95 containerd                                                                  
 8802 root      20   0  715916  30604   6252 S   0.0  0.1  19:44.84 nattunnel                                                                   
 8734 root      20   0  723448  26208      4 S   9.1  0.1  51:22.65 frpc                                                                        
 8745 root      20   0  723704  24916      4 S   0.0  0.1   2:59.84 frpc                                                                        
 1122 root      20   0  574288  17340   6012 S   0.0  0.0   0:07.49 tuned                                                                       
10472 root      20   0 2089844  16204   1760 S   0.0  0.0   9:55.88 docker-proxy                                                                
 9120 root      20   0  720048  13496   4