nginx master-worker进程工作原理

【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>>

        nginx的master-worker进程模型是其能够高性能的处理用户请求的原因之一，而且这里的每个worker进程都只会启动一个线程来处理用户请求。通常我们会将worker进程的数量设置得与我们的CPU数量一致，nginx也会将每个进程与每个CPU进行绑定。通过这种方式，可以充分利用操作系统多核的特性，并且能够最大限度的减少线程之间的切换而导致的资源损耗。本文首先会对nginx的master-worker进程模型进行讲解，然后会从源码的角度对nginx的master-worker进程模型的实现原理进行讲解。

1. 工作原理

        在nginx启动过程中，主进程就是master进程，该进程在启动各个worker进程之后，就会进入一个无限循环中，以处理客户端发送过来的控制指令；而worker进程则会进入一个循环中，从而不断接收客户端的连接请求以及处理请求。如下是master-worker进程模型的一个原理示意图：

        从图中我们可以看出nginx工作的一般性原理：

• master进程通过接收客户端的请求，比如-s reload、-s stop等，解析这些命令之后，通过进程间通信，将相应的指令发送到各个worker进程，从而实现对worker进程的控制；
• 每个worker进程都会竞争同一个共享锁，只有竞争到共享锁的进程才能够处理客户端请求；
• 当客户端请求发送过来之后，worker进程会处理该请求的事件，如果是accept事件，则会将其添加到accept队列中，如果是read或者write事件，则会将其添加到read-write队列中；
• 在将事件添加到相应的队列中之后，在持有共享锁的情况下，nginx会处理完accept队列中的客户端连接请求，而对于read或者write事件，则会在释放锁之后直接从read-write队列中取出事件来处理。

2. 源码解析

2.1 子进程的启动

        在前面的文章中，我们讲到，nginx的worker进程是在nginx.c中的ngx_master_process_cycle()方法中进行的。如下是该方法的源码：

void ngx_master_process_cycle(ngx_cycle_t *cycle) {
  char *title;
  u_char *p;
  size_t size;
  ngx_int_t i;
  ngx_uint_t n, sigio;
  sigset_t set;
  struct itimerval itv;
  ngx_uint_t live;
  ngx_msec_t delay;
  ngx_listening_t *ls;
  ngx_core_conf_t *ccf;

  sigemptyset(&set);
  sigaddset(&set, SIGCHLD);
  sigaddset(&set, SIGALRM);
  sigaddset(&set, SIGIO);
  sigaddset(&set, SIGINT);
  sigaddset(&set, ngx_signal_value(NGX_RECONFIGURE_SIGNAL));
  sigaddset(&set, ngx_signal_value(NGX_REOPEN_SIGNAL));
  sigaddset(&set, ngx_signal_value(NGX_NOACCEPT_SIGNAL));
  sigaddset(&set, ngx_signal_value(NGX_TERMINATE_SIGNAL));
  sigaddset(&set, ngx_signal_value(NGX_SHUTDOWN_SIGNAL));
  sigaddset(&set, ngx_signal_value(NGX_CHANGEBIN_SIGNAL));

  // 如果接收到了信号集中的信号则阻塞该信号的执行，当前还处于启动过程中，因而需要阻塞这些信号的执行
  if (sigprocmask(SIG_BLOCK, &set, NULL) == -1) {
    ngx_log_error(NGX_LOG_ALERT, cycle->log, ngx_errno,
                  "sigprocmask() failed");
  }

  // 重置信号集
  sigemptyset(&set);

  // 这里的master_process是一个字符串，实际上就是给master进程起的一个名字
  size = sizeof(master_process);

  // 计算所有参数的总长度
  for (i = 0; i < ngx_argc; i++) {
    size += ngx_strlen(ngx_argv[i]) + 1;
  }

  title = ngx_pnalloc(cycle->pool, size);
  if (title == NULL) {
    /* fatal */
    exit(2);
  }

  // 将master名称和各个参数的值都复制到title中
  p = ngx_cpymem(title, master_process, sizeof(master_process) - 1);
  for (i = 0; i < ngx_argc; i++) {
    *p++ = ' ';
    p = ngx_cpystrn(p, (u_char *) ngx_argv[i], size);
  }

  // 为进程设置title
  ngx_setproctitle(title);

  // 获取核心模块的配置
  ccf = (ngx_core_conf_t *) ngx_get_conf(cycle->conf_ctx, ngx_core_module);

  // 启动各个worker进程
  ngx_start_worker_processes(cycle, ccf->worker_processes, NGX_PROCESS_RESPAWN);
  // 启动cache进程
  ngx_start_cache_manager_processes(cycle, 0);

  ngx_new_binary = 0;
  delay = 0;
  sigio = 0;
  live = 1;

  for (;;) {
    if (delay) {
      if (ngx_sigalrm) {
        sigio = 0;
        delay *= 2;
        ngx_sigalrm = 0;
      }

      ngx_log_debug1(NGX_LOG_DEBUG_EVENT, cycle->log, 0,
                     "termination cycle: %M", delay);

      itv.it_interval.tv_sec = 0;
      itv.it_interval.tv_usec = 0;
      itv.it_value.tv_sec = delay / 1000;
      itv.it_value.tv_usec = (delay % 1000) * 1000;

      if (setitimer(ITIMER_REAL, &itv, NULL) == -1) {
        ngx_log_error(NGX_LOG_ALERT, cycle->log, ngx_errno,
                      "setitimer() failed");
      }
    }

    ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, "sigsuspend");

    sigsuspend(&set);

    ngx_time_update();

    ngx_log_debug1(NGX_LOG_DEBUG_EVENT, cycle->log, 0,
                   "wake up, sigio %i", sigio);

    if (ngx_reap) {
      ngx_reap = 0;
      ngx_log_debug0(NGX_LOG_DEBUG_EVENT, cycle->log, 0, "reap children");

      // 这里的操作主要分为三种情况：
      // 1. 关闭创建的每一个进程；
      // 2. 如果某个进程标记为了respawn，也即重新生成，那么就会重新创建一个进程以替代正在关闭的进程；
      // 3. 如果当前是平滑升级，则将旧的pid文件替换为新的pid文件；
      // 需要注意的是，这里的live表示当前是否还有进程是处于存活状态的
      live = ngx_reap_children(cycle);
    }

    // 如果当前nginx已经退出了，则退出master进程
    if (!live && (ngx_terminate || ngx_quit)) {
      ngx_master_process_exit(cycle);
    }

    if (ngx_terminate) {
      if (delay == 0) {
        delay = 50;
      }

      if (sigio) {
        sigio--;
        continue;
      }

      sigio = ccf->worker_processes + 2 /* cache processes */;

      if (delay > 1000) {
        // 这里主要是向各个进程发送SIGKILL命令
        ngx_signal_worker_processes(cycle, SIGKILL);
      } else {
        // 这里主要是向各个进程发送NGX_TERMINATE_SIGNAL命令
        ngx_signal_worker_processes(cycle, ngx_signal_value(NGX_TERMINATE_SIGNAL));
      }

      continue;
    }

    if (ngx_quit) {
      // 这里主要是向各个进程发送NGX_SHUTDOWN_SIGNAL命令
      ngx_signal_worker_processes(cycle, ngx_signal_value(NGX_SHUTDOWN_SIGNAL));

      ls = cycle->listening.elts;
      for (n = 0; n < cycle->listening.nelts; n++) {
        // 关闭监听的端口
        if (ngx_close_socket(ls[n].fd) == -1) {
          ngx_log_error(NGX_LOG_EMERG, cycle->log, ngx_socket_errno, ngx_close_socket_n " %V failed