epoll+线程池模型

🔥博客主页： 我要成为C++领域大神
🎥系列专栏：【C++核心编程】 【计算机网络】 【Linux编程】 【操作系统】
❤️感谢大家点赞👍收藏⭐评论✍️

本博客致力于知识分享，与更多的人进行学习交流

​

负载均衡技术

大量的用户请求可能导致任务分发不均匀，导致资源浪费，不能很好的处理和响应

通过预先设定的分发策略，最大的尝试均匀分发业务，让每台处理机都有任务负载

​

代理服务器

代理服务器是一个以数据中转为主要职责的中间件，代理服务器可以将用户的请求中转给处理服务器机，也可以将结果反馈给用户，避免用户直接访问服务器主机，提高安全性（安全策略都可以部署在代理服务器中），还可以进行任务的控制与分发，例如负载均衡可以在代理服务器中完成

HA高可用性结构

某个处理机宕机，可用通过HA概念将数据任务转发给正常的处理机。察觉处理机异常，快速反应

​

线程池设计原则

epoll具有强大的socket监听能力，可以快速察觉所有套接字，线程池具有高并发处理能力，大量的用户请求可用快速处理。

1）提高线程重用性，线程不能与用户绑定，可重复为多个用户处理业务，避免频繁创建销毁线程，减少不必要的开销。

2）预创建，提前准备好部分线程待用，用户发送请求后直接选择线程处理，提高响应速度

3）线程管理策略，设定线程池阈值，通过阈值管理调度线程，线程扩容与缩减

4）为服务器提供并发处理能力，可以更快处理请求或业务

5）提高线程池的重用性，用户实现任务，线程池负责执行任务

6）线程池使用生产者消费者实现，任务传递模式

工作流程

线程池：

生产者将要处理的业务传递到任务队列中去，如果任务队列中有可获取的任务，消费者一直获取执行，生产者投递的任务不允许持续占用消费者。管理者会对消费者进行扫描，根据阈值检测是否需要扩容和缩减，对消费者进行创建或者杀死。

​

epoll模型：

生产者负责实现epoll模型，将事件转换成业务，投递到线程池中

​

线程池的扩容和缩减

使用线程池最小阈值min，作为扩容增减数量

扩容：当前任务量>=闲消费者数量 或者 忙线程数量占活线程数量的70%

缩减：当前线程数量+扩容量，小于最大线程阈值

​

消费者与管理者配合实现缩减

​

epoll的水平触发模式和边缘触发模式

epoll 的水平触发（Level Triggered, LT）和边缘触发（Edge Triggered, ET）是两种不同的事件通知机制，它们定义了 epoll 如何向应用程序报告文件描述符上的事件。

---

水平触发（LT）

在水平触发模式下，只要满足条件的事件仍然存在，epoll 就会重复通知这个事件。比如，如果一个文件描述符上有可读数据，那么只要没有读完，epoll_wait 就会不断报告该文件描述符是可读的。这种模式的特点是：

容错性较好，不易丢失事件。

更易于编程和理解。

可以用于多线程程序中，多个线程可以共享同一个 epoll 文件描述符。

缺点：开销大，往返在socket缓冲区和用户之间

​

在水平模式下，我们的epoll+线程池模型有问题，当第一轮事件监听未处理完毕，epoll_wait不会阻塞，当再次有客户端发送任务时epoll_wait立即返回，并且会对任务进行误添加。

可以以边缘触发模式监听socket的读事件来避免这种问题，node.events=EPOLL | EPOLLET

---

边缘触发（ET）

边缘触发模式下，事件只在状态变化时被通知一次，之后即使条件仍然满足，也不会再次通知，直到状态再次发生变化。例如，只有当新数据到达使得文件描述符从非可读变为可读时，epoll_wait 才会报告可读事件。边缘触发模式的特点是：

效率更高，因为它减少了事件的重复通知。

需要更加小心地处理每次通知，确保处理所有的数据，否则可能会丢失未处理完的数据。

更适合单线程或者每个线程使用独立 epoll 文件描述符的场景。

代码实现

文件结构：

​

makefile：

​

server.h

#ifndef __server_H__
#define __server_H__

#include <stdio.h>
#include <unistd.h>
#include <pthread.h>
#include <signal.h>
#include <stdlib.h>
#include <string.h>
#include <errno.h>

#define TIMEOUT 1
pthread_mutex_t lock;

typedef struct
{
    void *(*bussiness)(void *);//任务函数指针
    void *arg;

}bs_t;

typedef struct
{
    int thread_shutdown;//线程池开关
    int thread_max;//最大线程数
    int thread_min;//最小线程数
    int thread_alive;//有效线程数
    int thread_busy;//忙线程数量
    int kill_number;//缩