apache日志分析及系统cpu，内存，负载情况监控

关注

原创最新推荐文章于 2026-06-09 19:23:20 发布 2w 阅读 AI 写同款· GEO 优化 ›

Kafka-Eagle：Apache Kafka的监控与管理利器 Kafka Eagle 是一款高效、简洁的 Kafka 监控管理工具，它集成了丰富的功能，旨在帮助 IT 管理员和开发者更直观、更便捷地管理 Kafka 集群。本章将带您大致了解 Kafka Eagle 的主要功能特性，为后续章节的具体功能介绍和操作指南打下基础。Kafka Eagle的主界面设计直观，旨在为用户提供一个简洁、高效的交互环境。首先映入眼帘的是主界面的顶部导航栏，它提供了快速跳转到不同功能模块的入口。紧接着，左侧边栏是功能区域的快捷访问按钮，允许用户直接访问监控、管理等核心模块。阅读详情

1.根据Apache Log，获取当天秒并发数最多的记录

tail -10000 ./demo.fdipzone.com_access_log.2014-01-16_01 | cut -d"[" -f 2 | awk '{print $1;}' | sort | uniq -c | sort -nr | head

tail -10000 ./demo.fdipzone.com_access_log.2014-01-16_01 | awk -F"[" '{print $2;}' | awk '{print $1;}' | sort | uniq -c | sort -nr | head

运行结果：

fdipzone@ubuntu:~$ tail -100000 ./demo.fdipzone.com_access_log.2014-01-16_01 | cut -d"[" -f 2 | awk '{print $1;}' | sort | uniq -c | sort -nr | head 
    109 16/Jan/2014:22:51:16
     95 16/Jan/2014:22:46:56
     87 16/Jan/2014:23:56:30
     87 16/Jan/2014:22:48:27
     80 16/Jan/2014:23:55:52
     79 16/Jan/2014:23:51:29
     74 16/Jan/2014:23:00:33
     72 16/Jan/2014:23:28:04
     72 16/Jan/2014:23:17:35
     70 16/Jan/2014:23:05:38

tail -10000 为access log 最大行数，此处请根据实际设置，如access log最大行数是500000 则使用tail -500000。

head 默认会显示头10行，如要修改则可以加 -n 参数，例如 head -n 100 会显示头100行内容

更多查询

每分钟最高访问数
awk '{print $4}' access_log |cut -c 14-18|sort|uniq -c|sort -nr|head

每小时最高访问数
awk '{print $4}' access_log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 24

指定某分钟的每秒访问数
grep '01/Nov/2013:15:59' access.log | cut -d"[" -f 2 | awk '{print $1;}' | sort | uniq -c | sort -nr | head -60

2.记录cpu与内存使用到Log

vmstat命令是最常见的Linux/Unix监控工具，可以展现给定时间间隔的服务器的状态值,包括服务器的CPU使用率，内存使用，虚拟内存交换情况,IO读写情况。

vmstat 共有两个参数，一个是每次采集的时间间隔，另一个是采集的次数。

vmstat 1 11 表示每次采集时间为1秒，共采集11次。因为vmstat第一次采集的记录是不正确的，所以如果要采集10次，请设置次数为11，这样才可以获取到10条有用的记录。

fdipzone@ubuntu:~$ vmstat 1 11
procs -----------memory---------- ---swap-- -----io---- -system-- ----cpu----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa
 0  0      0 335240  52072 241320    0    0   689    42  234  460  4 13 80  3
 1  0      0 335860  52072 241320    0    0     0     0  352  528  2  2 97  0
 2  0      0 336364  52072 241320    0    0     0     0  564  692  4  3 94  0
 0  0      0 336992  52072 241320    0    0     0     0  316  483  1  2 97  0
 2  0      0 336432  52076 241476    0    0   156     0  332  554  2  6 91  2
 0  0      0 336928  52084 241480    0    0     0    84  349  494  1  3 96  0
 0  0      0 337564  52084 241476    0    0     0     0  263  437  0  2 98  0
 0  0      0 338068  52084 241476    0    0     0     0  299  456  1  2 97  0
 0  0      0 338696  52084 241476    0    0     0     0  321  473  1  3 96  0
 1  0      0 339200  52084 241476    0    0     0     0  271  461  0  2 98  0
 0  0      0 339828  52084 241476    0    0     0     0  255  429  1  2 96  0

vmstat 1 >> vmstat.log 每秒采集，写入vmstat.log

vmstat 输出的每个参数说明：

r 表示运行队列(就是说多少个进程真的分配到CPU)，当这个值超过了CPU数目，就会出现CPU瓶颈了。这个也和top的负载有关系，一般负载超过了3就比较高，超过了5就高，超过了10就不正常了，服务器的状态很危险。top的负载类似每秒的运行队列。如果运行队列过大，表示你的CPU很繁忙，一般会造成CPU使用率很高。

b 表示阻塞的进程。

swpd 虚拟内存已使用的大小，如果大于0，表示你的机器物理内存不足了，如果不是程序内存泄露的原因，那么你该升级内存了或者把耗内存的任务迁移到其他机器。

free 空闲的物理内存的大小，我的测试机器内存总共1G，剩余330M。

buff Linux/Unix系统是用来存储，目录里面有什么内容，权限等的缓存，我本机大概占用500多M

cache cache直接用来记忆我们打开的文件,给文件做缓冲，(这里是Linux/Unix的聪明之处，把空闲的物理内存的一部分拿来做文件和目录的缓存，是为了提高程序执行的性能，当程序使用内存时，buffer/cached会很快地被使用。)

si 每秒从磁盘读入虚拟内存的大小，如果这个值大于0，表示物理内存不够用或者内存泄露了，要查找耗内存进程解决掉。

so 每秒虚拟内存写入磁盘的大小，如果这个值大于0，同上。

bi 块设备每秒接收的块数量，这里的块设备是指系统上所有的磁盘和其他块设备，默认块大小是1024byte。

bo 块设备每秒发送的块数量，例如我们读取文件，bo就要大于0。bi和bo一般都要接近0，不然就是IO过于频繁，需要调整。

in 每秒CPU的中断次数，包括时间中断

cs 每秒上下文切换次数，例如我们调用系统函数，就要进行上下文切换，线程的切换，也要进程上下文切换，这个值要越小越好，太大了，要考虑调低线程或者进程的数目,例如在apache和nginx这种web服务器中，我们一般做性能测试时会进行几千并发甚至几万并发的测试，选择web服务器的进程可以由进程或者线程的峰值一直下调，压测，直到cs到一个比较小的值，这个进程和线程数就是比较合适的值了。系统调用也是，每次调用系统函数，我们的代码就会进入内核空间，导致上下文切换，这个是很耗资源，也要尽量避免频繁调用系统函数。上下文切换次数过多表示你的CPU大部分浪费在上下文切换，导致CPU干正经事的时间少了，CPU没有充分利用，是不可取的。

us 用户CPU时间，高于70%则表示CPU有压力。

sy 系统CPU时间，如果太高，表示系统调用时间长，例如是IO操作频繁。

id 空闲 CPU时间，一般来说，id + us + sy = 100,一般我认为id是空闲CPU使用率，us是用户CPU使用率，sy是系统CPU使用率。

wt 等待IO CPU时间。

3.记录Load Average 到Log

#!/bin/bash

load_average_file='/home/fdipzone/logs/load_average.log'

touch $load_average_file

while :
do

    #load average and cpu
    load=`uptime`

    printf "$load $(date '+%Y-%m-%d-%T')\n" >> $load_average_file

    sleep 0.2

done

exit 0

load_average.log 记录：

 13:28:20 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:20
 13:28:20 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:20
 13:28:20 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:21
 13:28:21 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:21
 13:28:21 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:21
 13:28:21 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:21
 13:28:21 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:21
 13:28:22 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:22
 13:28:22 up 17 min,  2 users,  load average: 0.08, 0.17, 0.27 2014-02-16-13:28:22
 13:28:22 up 17 min,  2 users,  load average: 0.08, 0.16, 0.27 2014-02-16-13:28:22
 13:28:22 up 17 min,  2 users,  load average: 0.08, 0.16, 0.27 2014-02-16-13:28:22
 13:28:23 up 17 min,  2 users,  load average: 0.08, 0.16, 0.27 2014-02-16-13:28:23
 13:28:23 up 17 min,  2 users,  load average: 0.08, 0.16, 0.27 2014-02-16-13:28:23
 13:28:23 up 17 min,  2 users,  load average: 0.08, 0.16, 0.27 2014-02-16-13:28:23

收录于