优化Linux服务性能：深度解析 systemctl 与资源限制

置顶 已于 2024-11-27 18:00:29 修改
阅读量1.3k 收藏 24
点赞数 35
分类专栏： 性能优化 文章标签： linux 性能优化
于 2024-11-27 13:56:39 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/yhkal/article/details/144082080
版权

在Linux系统中，合理配置资源限制（如最大文件描述符数、最大进程数等）对于确保服务的稳定性和性能至关重要。然而，许多开发者在配置了limit限制后，发现通过systemctl启动的服务进程仍然出现诸如“Too many open files”的错误。这背后的原因主要涉及到systemd与PAM（Pluggable Authentication Modules）的交互方式。本文将全面解析这一问题，并提供详细的性能优化方案，确保通过systemctl启动的服务能够正确继承并应用所需的资源限制。

文章目录

一、问题描述

在配置了资源限制（如ulimit）后，为什么通过systemctl启动的进程仍然会报错，例如：

java.net.SocketException: Too many open files

这种现象的根本原因在于，systemctl启动的服务默认不继承用户Shell或PAM配置的资源限制。

二、Linux中的资源限制类型及其适用范围

在Linux中，资源限制（软限制和硬限制）可以分为操作系统级别、用户级别和进程级别，具体适用范围取决于资源限制的类型和配置方式。以下是对这些限制的范围和适用性的详细说明：

1. 进程级别的限制

  • 适用范围: 资源限制是针对单个进程施加的，每个进程的限制是独立的。
  • 设置方式:
    • 通过ulimit或程序调用setrlimit()设置。
    • 软限制和硬限制直接影响进程的资源使用。
  • 典型限制:
    • 最大文件描述符数（nofile）: 限制单个进程可以打开的文件句柄数量。
    • 最大堆栈大小（stack）: 限制进程的栈内存使用（超过限制会导致Segmentation Fault）。
    • 最大核心转储文件大小（core）: 限制进程生成的核心转储文件大小。
    • CPU时间限制（cpu）: 限制进程能消耗的CPU时间。
    • 地址空间大小（as）: 限制进程可以使用的虚拟内存总量。
示例：

使用ulimit设置进程级限制：

ulimit -n 512  # 将当前Shell会话中所有进程的最大文件描述符数限制为512

通过C程序调整限制：

#include <sys/resource.h>
#include <stdio.h>

int main() {
    struct rlimit rl;
    getrlimit(RLIMIT_NOFILE, &rl);
    printf("Current Soft Limit: %ld\n", rl.rlim_cur);
    printf("Current Hard Limit: %ld\n", rl.rlim_max);

    rl.rlim_cur = 512;  // 修改软限制
    setrlimit(RLIMIT_NOFILE, &rl);
    printf("Soft Limit Updated to: %ld\n", rl.rlim_cur);

    return 0;
}
特点：
  • 进程级别的限制是最细粒度的限制，作用于单个进程。
  • 子进程会继承父进程的限制（包括软限制和硬限制）。
  • 用户可以在硬限制范围内调整软限制。

2. 用户级别的限制

  • 适用范围: 针对某个用户运行的所有进程的总资源使用限制。
  • 设置方式:
    • 通过/etc/security/limits.conf或/etc/security/limits.d/*.conf文件设置。
    • 使用PAM（Pluggable Authentication Modules）模块控制用户的资源限制。
  • 典型限制:
    • 最大同时登录会话数（maxlogins）: 限制用户的并发登录会话数。
    • 最大用户进程数（nproc）: 限制用户可以运行的最大进程数。
    • 最大打开文件数（nofile）: 限制用户所有进程的文件句柄总数。
    • 虚拟内存限制（as）: 限制用户进程可以使用的虚拟内存总量。
示例：

在/etc/security/limits.conf中设置用户级别限制：

# 格式：<用户或组> <类型> <资源> <值>
username    soft    nofile    1024   # 设置软限制为1024
username    hard    nofile    2048   # 设置硬限制为2048
username    soft    nproc     100    # 限制最大进程数为100

通过ulimit查看用户级别限制（当前Shell会话的限制）：

ulimit -u  # 查看当前用户的最大进程数限制
特点：
  • 用户级别限制是针对某用户的资源使用总量。
  • 用户所有的进程共享这些限制，例如nproc限制一个用户能运行的最大进程数。
  • 用户级别限制通常由管理员设置，普通用户无法修改。

3. 操作系统级别的限制

  • 适用范围: 针对整个系统的资源使用限制，限制所有用户和进程的资源总量。
  • 设置方式:
    • 调整内核参数（通过/etc/sysctl.conf或sysctl命令）。
    • 修改/proc/sys/下的内核参数。
  • 典型限制:
    • 最大文件描述符数（fs.file-max）: 限制整个系统可以打开的文件描述符总数。
    • 最大进程数（kernel.pid_max）: 限制系统可以创建的进程总数。
    • 共享内存段大小（kernel.shmmax）: 限制单个共享内存段的最大大小。
    • 虚拟内存参数（vm.*）: 控制系统的内存管理行为。
示例：

查看和调整系统级限制：

# 查看系统的最大文件描述符限制
cat /proc/sys/fs/file-max

# 临时调整系统的最大文件描述符限制
echo 2097152 > /proc/sys/fs/file-max

# 永久修改系统限制（编辑 /etc/sysctl.conf 文件）
echo "fs.file-max = 2097152" >> /etc/sysctl.conf
sysctl -p  # 使配置生效

举例：限制整个系统的最大进程数：

cat /proc/sys/kernel/pid_max
echo 65535 > /proc/sys/kernel/pid_max
特点：
  • 操作系统级限制是全局性的，适用于所有用户和进程。
  • 这些限制通常由系统管理员设置，用于保护系统稳定性。
  • 许多系统级限制是内核参数，直接影响内核的资源分配策略。

总结：限制的适用范围对比

限制类型适用范围示例资源设置权限
进程级别单个进程最大打开文件数、CPU时间、堆栈大小用户可调整（软限制）
用户级别某个用户运行的所有进程最大进程数、登录会话数、文件数管理员设置
操作系统级别整个系统（影响所有用户和进程）文件句柄总数、最大进程数、共享内存管理员设置

设计的目的

  1. 进程级别限制：

    • 控制单个进程的资源使用，防止单个程序消耗过多资源（例如打开过多文件或占用过多内存）。
    • 适用于细粒度的资源管理。

  2. 用户级别限制：

    • 控制单个用户占用的资源总量，防止某用户滥用系统资源。
    • 适用于多用户环境下的资源隔离。

  3. 操作系统级别限制：

    • 确保整个系统资源使用的稳定性，防止系统资源被耗尽。
    • 适用于全局性的资源管理和调优。

通过这些限制的分级设计，Linux提供了灵活且强大的资源控制机制，从而确保系统性能和稳定性，即使在多用户或高负载环境下也能正常运行。

三、systemctl启动服务不继承Shell限制的原因

  • 独立的启动环境：systemctl启动的服务运行在systemd提供的独立环境中，与用户的Shell会话隔离。
  • 不依赖PAM：默认情况下，systemd启动服务时不加载PAM，会话中的资源限制配置（如/etc/security/limits.conf）因此不生效。
  • 资源管理机制：systemd提供独立的资源管理机制，默认使用系统的全局限制，而不是用户Shell的配置。

四、为systemctl启动的服务正确配置资源限制

为了让systemctl启动的服务进程能够应用类似/etc/security/limits.d/的限制，可以通过以下几种方式解决：

方法一：在服务文件中显式配置资源限制（推荐）

systemd提供了一系列资源限制参数，直接在服务文件中配置是最清晰、最可靠的方式。

步骤：

  1. 编辑服务文件：

    sudo systemctl edit myservice.service

  2. 添加资源限制配置：
    在[Service]部分中，添加以下内容：

    [Service]
LimitNOFILE=65535                # 设置最大文件描述符数
LimitNPROC=4096                   # 设置最大进程数
LimitSTACK=8388608               # 设置堆栈大小（KB）

  3. 重载并重启服务：

    sudo systemctl daemon-reload
sudo systemctl restart myservice.service

  4. 验证配置：

    systemctl show myservice.service | grep -i "Limit"

方法二：修改systemd全局默认限制

如果希望所有通过systemctl启动的服务默认使用更高的资源限制，可以修改systemd的全局配置文件。

步骤：

  1. 编辑全局配置文件：

    sudo nano /etc/systemd/system.conf

    或（针对用户级服务）：

    sudo nano /etc/systemd/user.conf

  2. 设置默认限制：
    添加或修改以下内容：

    DefaultLimitNOFILE=65535         # 文件描述符限制
DefaultLimitNPROC=4096            # 进程数限制
DefaultLimitSTACK=8388608        # 堆栈大小限制（KB）

  3. 重载systemd配置：

    sudo systemctl daemon-reexec

  4. 重启服务以应用新限制。

方法三：启用PAM支持以继承/etc/security/limits.d/配置

如果希望systemctl启动的服务继承/etc/security/limits.conf或/etc/security/limits.d/中的限制，可以启用PAM会话支持。

步骤：

  1. 编辑服务文件：

    sudo systemctl edit myservice.service

  2. 添加PAM支持：
    在[Service]部分添加以下内容：

    [Service]
PAMName=login

  3. 确保PAM配置正确：
    确认/etc/pam.d/login包含：

    session required pam_limits.so

  4. 重载并重启服务：

    sudo systemctl daemon-reload
sudo systemctl restart myservice.service

方法四：通过EnvironmentFile显式加载限制

可以通过systemd的EnvironmentFile选项加载自定义的环境变量，用于设置限制。

步骤：

  1. 创建环境文件：

    sudo nano /etc/systemd/system/myservice-env.conf

    添加内容：

    ULIMIT_NOFILE=2048

  2. 修改服务文件：

    sudo systemctl edit myservice.service

    添加：

    [Service]
EnvironmentFile=/etc/systemd/system/myservice-env.conf
ExecStartPre=/bin/sh -c "ulimit -n ${ULIMIT_NOFILE}"

  3. 重载并重启服务：

    sudo systemctl daemon-reload
sudo systemctl restart myservice.service

五、验证服务的资源限制是否生效

无论使用哪种方法，都可以通过以下方式验证服务进程的资源限制是否生效：

  1. 检查进程限制：
    找到服务的进程PID并查看/proc/<PID>/limits文件：

    SERVICE_PID=$(pgrep -f myservice)
cat /proc/$SERVICE_PID/limits

    输出示例：

    Limit                     Soft Limit           Hard Limit           Units
Max open files            65535                65535                files
Max user processes        4096                 4096                 processes
Max stack size            8388608              8388608              KB

  2. 使用systemctl show查看服务配置：

    systemctl show myservice.service | grep -i "Limit"

    输出示例：

    LimitNOFILE=65535
LimitNPROC=4096
LimitSTACK=8388608

六、性能优化建议

为了确保通过systemctl启动的服务能够高效且稳定地运行，以下是一些性能优化建议：

  1. 合理配置资源限制：
    根据服务的实际需求，适当调整nofile、nproc等限制，避免因资源不足导致服务崩溃。例如，对于高并发的Web服务，适当增加nofile限制可以防止文件描述符耗尽。

  2. 监控资源使用：
    定期监控服务的资源使用情况，确保配置的限制能够满足业务需求。使用工具如top、htop、vmstat、lsof等，实时查看资源消耗。

  3. 优化代码和配置：

    • 减少不必要的文件描述符：确保应用程序在不需要时及时关闭文件描述符，防止泄漏。
    • 优化进程管理：避免频繁创建和销毁进程，使用线程或连接池等技术提升资源利用效率。
    • 调整应用配置：根据资源限制，合理配置应用程序的并发数、缓存大小等参数。

  4. 全局系统优化：

    • 调整系统范围的文件描述符限制：例如，通过调整fs.file-max来增加系统可打开的文件描述符总数。
    • 优化内存管理：调整内核参数如vm.swappiness、vm.overcommit_memory等，以提升内存利用率和系统性能。

  5. 选择合适的服务管理策略：

    • 分布式部署：对于高负载服务，考虑分布式部署，将负载分摊到多个实例。
    • 负载均衡：使用负载均衡器（如Nginx、HAProxy）合理分配请求，避免单一服务实例过载。

七、注意事项

  1. 优先级处理：

    • 服务文件中显式设置的限制优先于全局默认配置。
    • systemd的限制是独立的，与PAM不直接冲突，但默认情况下不会加载/etc/security/limits.d/。

  2. 用户权限：

    • 确保服务运行用户具有足够的权限来应用所需的资源限制。
    • 例如，非特权用户可能无法设置过高的文件描述符限制。

  3. 系统范围限制：

    • 即使在systemd中设置了高限制，仍可能受系统范围的限制（如/proc/sys/fs/file-max）影响。

    • 可以通过以下命令查看和调整系统范围的文件描述符限制：

      cat /proc/sys/fs/file-max
echo 2097152 > /proc/sys/fs/file-max

  4. 针对特定服务的定制化：

    • 某些服务（如Nginx、MySQL等）可能需要在自身的配置文件中单独调整资源限制。
    • 例如，Nginx中的worker_connections参数需要与系统的nofile限制相匹配。

  5. 验证配置后的系统稳定性：

    • 在调整资源限制后，确保系统和服务在高负载情况下仍能稳定运行。
    • 进行压力测试，模拟高并发场景，观察服务和系统的表现。

八、总结

默认情况下，systemctl启动的服务不会继承Shell或PAM的资源限制配置，而是依赖systemd的独立机制来管理资源。为服务正确配置资源限制，推荐使用以下方法：

  1. 在服务文件中显式配置限制（推荐）。
  2. 修改systemd的全局默认限制。
  3. 启用PAM支持以继承/etc/security/limits.conf的配置。
  4. 通过EnvironmentFile加载自定义限制（适用于特殊需求）。

通过正确配置资源限制，可以确保服务运行在符合业务需求的环境中，同时避免资源不足或资源滥用导致的问题。结合本文提供的性能优化建议和注意事项，可以进一步提升服务的稳定性和性能，确保在高负载和多用户环境下系统的高效运行。

systemd资源控制
thebestismin的专栏
08-19 861
systemd的cgroup使用
2025最新Linux系统深度优化指南：20个核心技巧与实战案例解析
weixin_42358373的博客
02-28 1017
随着Linux在云计算、大数据、AI等领域的广泛应用，系统性能优化成为运维工程师的核心技能。本文结合2025年最新实践案例，从内核调优、资源管理、安全加固到云原生适配，全面解析Linux系统优化的20项核心技术，助力企业打造高性能、高可用的服务器环境。
systemd cgroup限制资源使用
dlm_bk的博客
09-28 1202
如果你的程序需要使用cgroup，那么用systemd实现的cgroup功能会更方便。 之前用cgroup时遇到一个问题，在ubuntu18上写入cgroup的pid过一会就会消失，但是pid所属进程并没有挂掉，代码如下： echo '{{ cpu_total }}' > /sys/fs/cgroup/cpu/{{ cpu_cgroup_name }}/cpu.cfs_period_us echo '{{ cpu_limit }}' > /sys/fs/cgroup/cpu/{{ cpu_
Linux常用命令——systemctl
最新发布
qq_26613259的博客
03-11 1810
systemctl是 Linux 系统管理服务工具，用于控制systemd进程管理器中的服务单元（Unit）。它能启动、停止、重启服务，管理开机自启，监控服务状态等。​或通过sudo提升权限。
Linux系统-Systemd资源控制
weixin_30733003的博客
08-20 206
参考地址 http://www.jinbuguo.com/systemd/systemd.exec.html#CPUAffinity= https://wudaijun.com/2018/10/linux-cgroup/ 转载于:https://www.cnblogs.com/vinsent/p/11381610.html
Linux指令 - systemctl
CPU1994GHz的博客
02-12 390
systemctl man - 控制systemd系统和服务管理程序 实例： 启动服务 systemctl start network.service 关闭服务 systemctl stop network.service 重启服务 systemctl restart network.service 查看服务状态 systemctl status network...
Linux系统中的高级系统资源管理技术：systemd资源控制
prop428的博客
08-18 540
在当今信息技术的快速发展中，服务器的性能管理和资源分配变得尤为重要。Linux操作系统以其灵活性和可定制性在服务器领域广受欢迎。而在Linux系统中，systemd资源控制作为一项重要的高级系统资源管理技术，为管理员提供了精细化控制和调整系统服务资源使用的手段。本文将深入探讨systemd资源控制技术的原理、应用以及其在Linux系统中的关键性。
Linux内存管理深度解析：优化内存，提升系统性能
[Linux内存管理深度解析：优化内存，提升系统性能](https://img-blog.csdnimg.cn/direct/15ba119b2d474c8d9397b065bcf35e1f.png) # 1. Linux内存管理基础 Linux系统中，内存管理是核心功能之一，它负责高效地分配、...
【资源优化的秘密】：Tinyproxy与缓存策略的深度解析
[【资源优化的秘密】：Tinyproxy与缓存策略的深度解析](http://assimilationsystems.com/wp-content/uploads/2020/07/thread-pool.svg_-1024x598.png) 参考资源链接：[Tinyproxy-安装和配置【超详细】]...
Linux性能优化秘籍：系统与应用层面的深度剖析
[Linux性能优化秘籍：系统与应用层面的深度剖析](https://learn.redhat.com/t5/image/serverpage/image-id/8224iE85D3267C9D49160/image-size/large?v=v2&px=999) # 摘要 Linux性能优化是确保高效运行和资源合理...
【BARROT_BR1001性能优化宝典】：10个关键性能指标深度解析及优化策略
[【BARROT_BR1001性能优化宝典】：10个关键性能指标深度解析及优化策略](https://images.idgesg.net/images/article/2021/06/visualizing-time-series-01-100893087-large.jpg?auto=webp&quality=85,70) # 摘要 ...
系统服务控制及优化启动过程
m0_59432158的博客
08-18 214
目录 前言 一、系统服务控制 1、控制类型 二、linux系统的运行级别 1、查看运行级别 2、临时切换运行级别 3、设置永久运行级别 三、优化启动过程 1、ntsysv工具 2、systemctl工具 四、系统服务的启动和控制 1、ntsysv系统服务管理工具 2、查看系统服务的启动状态 3、设置系统服务的启动状态 五、chkconfig工具 总结 前言 linux系统完成引导以后...
linux系统命令systemctl详解，管理系统服务的工具-控制systemd、管理unit、启动或禁止服务
热门推荐
weixin_70208651的博客
04-08 1万+
systemctl命令是Linux操作系统中用于管理系统服务的命令行工具，尤其在RHEL 7及更高版本上，它替代了之前的service和chkconfig命令，将两者的功能整合在一起。systemctl的主要功能包括查询或发送相应的控制命令给systemd、管理unit以及启动或禁止相应的服务等。只有在CentOS 7及以上版本中才能使用systemctl命令来管理系统和服务。
Linux---systemctl
weixin_43961909的博客
06-01 2273
在上面的示例配置文件中，我们为我们的服务定义了一个简单的描述，指定了它的启动类型就是simple（比如启动一个脚本、运行一个命令、调用一个二进制文件），指定了它的工作目录，指定了它的启动命令，并指定了它启动失败时应该执行的操作。创建一个 systemd 服务配置文件：在 /etc/systemd/system/ 目录下创建一个自定义的服务配置文件，例如 my-service.service。Systemd 并不是一个命令，而是一组命令，systemctl 是 Systemd 的主命令，用于管理系统。
nproc、nofile 对于systemctl 服务设置不生效
u011618288的博客
07-19 1771
nproc、nofile 对于systemctl 服务设置不生效背景排查过程解决方法扩展nproc、nofile的含义如果超过限制值，出现的错误描述nprocnofile配置并生效配置查看命令 背景 在一次mq集群运维过程中，broker不能正常启动，报错（Too many open files） 排查过程 看到这个错误首先想到的解决方法是修改系统文件最大连接数的限制，但是通过命令查看当前系统连接数已经为比较大的值（655350）。接着判断是不是配置没有生效，或者是当前进程的配置获取的并不是系统的全局配置，
centos7 如何在用户级对资源进行限制
翔云
09-02 8556
我们已经知道，centos7上建议使用sytemd进行资源限制。 本文主要介绍如何使用systemd用户级资源限制。 以orange用户为例。 方案一 临时有效 配置如下： # systemctl set-property user-1000.slice MemoryLimit=200M # systemctl daemon-reload 一般情况下，以上设置就可以了。 但有...
Linux中systemctl命令骨灰级详解
GitHub_miao的博客
02-22 1067
systemctl是一个用于控制systemd系统和服务管理器的命令行工具。它允许用户与系统中的服务进行交互，例如启动、停止、重启、重新加载服务等。systemd已经成为许多现代Linux系统的默认初始化系统，因此systemctl的重要性不言而喻。systemctl是Linux系统中一个非常强大和重要的命令，用于管理系统服务。通过本文的介绍，现在应该对systemctl命令有了更深入的了解，并且可以使用它来启动、停止、重启、管理系统服务。希望本文能够帮助大家更好地理解和应用systemctl命令。
systemctl命令：从入门到实践，掌握Linux服务管理
qq_38641599的博客
09-28 1455
命令【用途】​systemctl​ 命令用于管理系统服务，包括查看、启动、停止、重启、启用或禁用服务。‍什么是【服务】Linux 系统服务，也称为守护进程（daemon），是在后台运行的服务程序，它们在系统启动时开始运行，并在系统关闭时停止。这些服务负责执行系统所需的任务，比如网络连接、文件共享、数据库服务等。​​​​服务【特点】后台运行：服务通常在后台运行，不依赖于用户界面。自动启动：许多服务配置为在系统启动时自动运行。长时间运行。
Linux 中通过 cpulimit 限制服务的CPU占用率
step_chen的博客
10-10 763
通常做资源限制有多种方法，比如用 CGroup 方法、system-run等，cpulimit 只是其中的一种方式。在 ExecStart 变量后添加 ExecStartPost 变量。在输出中找到 Loaded 部分来查看服务文件的位置。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值