从epoll构建muduo-13 Reactor + ThreadPool 成型

高性能网络模型Mutiple Reactor + ThreadPool的研究与实现【项目研究】 多 Reactor 多进程 / 线程(Mutiple Reactor + ThreadPool)也叫 one loop per thread + 线程池。既有多个Reactor来处理IO,也使用线程池来处理计算,这种模式适合既有突发IO,又有突发计算的应用。适用于网络密集型以及业务密集型。在该网络模式中,Server 端主要被分为两部分:MainReactor 和 SubReactor。 阅读详情
mini-muduo版本传送门
version 0.00  从epoll构建muduo-1 mini-muduo介绍
version 0.01  从epoll构建muduo-2 最简单的epoll
version 0.02  从epoll构建muduo-3 加入第一个类,顺便介绍Reactor
version 0.03  从epoll构建muduo-4 加入Channel
version 0.04  从epoll构建muduo-5 加入Acceptor和TcpConnection
version 0.05  从epoll构建muduo-6 加入EventLoop和Epoll
version 0.06  从epoll构建muduo-7 加入IMuduoUser
version 0.07  从epoll构建muduo-8 加入发送缓冲区和接收缓冲区
version 0.08  从epoll构建muduo-9 加入onWriteComplate回调和Buffer
version 0.09  从epoll构建muduo-10 Timer定时器
version 0.11  从epoll构建muduo-11 单线程Reactor网络模型成型
version 0.12  从epoll构建muduo-12 多线程代码入场
version 0.13  从epoll构建muduo-13 Reactor + ThreadPool 成型


mini-muduo v0.13版本,mini-muduo完整可运行示例可从github下载,使用命令git checkout v0.13可切换到此版本,在线浏览此版本到这里

本版是个里程碑版本,可以通过本版了解多线程是如何通过IO线程读/写网络数据的,在前一个版本v0.12重点介绍了基础知识的前提下,本篇着重分析多线程逻辑里最重要的三个方法EventLoop::runInLoop/EventLoop::queueInLoop/EventLoop::doPendingFunctors。下面逐步介绍本版本修改的细节,三个方法放在最后的EventLoop节。


1 Task类

    这个类是v0.13版本新加入的,它就是一个携带参数的回调。它的作用就是闭包(closure),它是我们用来代替muduo里boost::function和boost:bind的。为什么不使用boost::function和boost:bind?之前解释过了,为了不引入新概念,降低mini-muduo的学习成本。这个Task类不太具有通用性(不像BlockingQueue,范型实现),只是为了在本项目里使用的,Task只支持两种类型的回调,第一种是无参数的回调,被调用者只需要实现一个”void run0()“,第二种是有两个参数的回调,被调用者实现"void run2(const string&, void*)"。因为有了Task类,所有需要异步回调的地方都用它来实现了。

2 TcpConnection

    添加了一个sendInLoop方法,把原来send方法里的实现移动到了sendInLoop方法里,而send方法本身变成了一个外部接口的包装。根据调用send方法所在线程的不同,采取不同的策略,如果调用TcpConnection::send的线程刚好是IO线程,则立刻使用write将数据送出(当然是缓冲区为空的时候)。如果调用TcpConnection::send的线程是work线程(也就是后台处理线程)则只将要发送的信息通过Task对象丢到EventLoop的异步队列中,然后立刻返回。EventLoop随后会在IO线程回调到TcpConnetion::sendInLoop方法,这样做的目的是保证网络IO相关操作只在IO线程进行。

3 TimerQueue

    改动不大,只是用Task包装了异步请求,这样保证所有关于Timer的操作都在IO线程进行。因为我们就是用timerfd来实现的定时器,而timerfd又是由epoll来监控的,所以这很好理解,对epoll监控的所有文件描述的操作都要放到IO线程。    

4 EchoServer

    在接到任务后不是立刻处理,而是将任务通过ThreadPool::addTask丢进线程池,使用多线程处理,在真正的处理回调里,简单的模拟了一个消耗CPU的函数(计算斐波那契数列),通过log可以看到,每次的任务都被分配给了池子里的不同线程。

5 EventLoop

    1 wakeup方法的实现在上一版本v0.12已经加入,但是调用被注释掉了。这次调用点位于EventLoop::queueInLoop。这个方法是用唤醒IO线程的,确切的说是唤醒IO线程里的epoll_wait,只有一点要注意,别忘记在EventLoop::handleRead里读出这个uint_64,否则会导致eventfd被持续激发使程序进入无限循环。

    2 EventLoop::queueInLoop方法,这个方法在v0.12版本叫queueLoop,为了和原始muduo保持一致,本版改名了。这个方法的作用是将一个异步回调加入到待执行队列_pendingFunctors中,与v0.12版本相比第一个差异是本版本对_pendingFunctors加了锁,这点很好理解,因为EventLoop::queueLoop经常被外部的其他非IO线程调用。第二个修改是添加了一定条件下的wakeup()唤醒。为什么单线程版本没有这个唤醒逻辑?因为单线程版本里所有的异步调用都是在Loop循环开始后,doPendingFunctors()之前触发的,只需要把回调插入_pendingFunctors这个数组即可。但是在多线程版本queueInLoop的入口就很多了,比如下面这3种情况下,都可能调用EventLoop::queueInLoop

        情况 1 IO线程,在IMuduoUser::onMessage回调里,比如EchoServer::onMessage里。

        情况 2 IO线程,在doPendingFunctors()执行Task->doTask的实现体里,比如EchoServer::onWriteComplate里。

        情况 3 非IO线程,线程池的另一个线程中。

在单线程版本里,可以不考虑情况3,情况2虽然有可能发生,但是我们当时简单假设用户只会在onMessage添加Task,而不会在Task的回调里再添加Task。所以上一个版本在此处进行了简单化处理,并不需要wakeup()操作。本版本由于要考虑这几种情况,所以添加了一些条件判断和wakeup()调用。

特别要注意_callingPendingFunctors变量。这个变量有点隐晦,我开始在写程序的时候忽略了它,后来发现它非常重要,在上面的情况2时,如果没有这个变量,会导致异步调用永远不会触发!

    3 EventLoop::runInLoop方法,本版本新添加的方法,与queueInLoop方法非常相似,"runIn"和"queueIn"从名字的差异就可以理解,当外部调用runInLoop的时候,会判断当前是否为IO线程,如果是在IO线程,则立刻执行Task里的回调。否则通过调用queueInLoop将Task加入到异步队列,等待后续被调用。

    4 EventLoop::doPendingFunctors,这个方法与queueInLoop方法一样,也是两处修改,首先是由于多线程操作vector必须要加锁,另外是添加了_callingPendingFunctors变量的控制,再次强调这个变量非常重要。


本篇的最后,为了更清晰的解释EventLoop在多线程环境下的逻辑,我画了一张时序图,时序图表达的就是“在非IO线程里调用TcpConnection::send发送数据”这一动作引发的连锁调用。这一动作需要3个Loop来完成,涉及4个子调用过程。绿色表明代码工作在IO线程,红色表示代码工作在Work线程(工作线程,真正处理计算任务的线程),在原书中多线程EventLoop的讲解位于294页附近,但是很遗憾,作者没有为这一过程制作时序图。我这里算是补画一张吧。



从epoll构建muduo-8 加入发送缓冲区和接收缓冲区 mini-muduo v0.07版本,这个版本是加入了发送缓冲区和接收缓冲区的初始版本,后续v0.08完善了缓冲区的实现。mini-muduo完整可运行的示例可从github下载,使用命令git checkout v0.07可切换到此版本,在线浏览此版本到这里 1 为什么要有发送缓冲区和接收缓冲区,muduo作者已经在>节中详细介绍过了。建议有条件的同学直接看书。我觉得这部分知识非常重要所以 阅读详情

相关推荐

从阻塞到非阻塞:C++高性能Web服务器架构演进与epoll/kqueue实战

在I/O密集型应用开发中,理解阻塞与非阻塞I/O模型是构建高性能服务的基础。传统阻塞I/O模型采用“一个连接一个线程”的模式,当并发连接数上升时,线程创建、上下文切换及I/O等待会造成严重的资源浪费和性能瓶颈。而非阻塞I/O结合I/O多路复用技术(如Linux的epoll、BSD/macOS的kqueue),通过事件驱动架构,允许单个线程高效管理海量连接,将CPU时间集中于请求处理而非调度等待,从而大幅提升吞吐量。这种架构特别适用于高并发Web服务器、API网关及实时通信等场景,是实现从每秒数千请求到数万请

dingdi3021的博客 382

epoll高度封装reactor,几乎所有可见服务器的底层框架

epoll高度封装reactor,几乎所有可见服务器的底层框架

小杰312的博客 6170

从阻塞到非阻塞:C++ Web服务器性能提升6倍的架构演进

在网络编程中,I/O模型是决定服务器并发能力的关键技术。传统的阻塞I/O模型通过为每个连接创建独立线程来处理请求,虽然编程简单直观,但在高并发场景下会因线程资源消耗巨大和CPU闲置导致性能瓶颈。其核心原理是线程在等待I/O操作完成时会主动挂起,造成系统资源浪费。而非阻塞I/O与事件驱动模型则通过I/O多路复用技术(如epoll、kqueue)实现了根本性突破,允许单个线程同时监控大量连接,仅在I/O就绪时进行处理,从而将CPU时间集中于实际数据处理,大幅提升了吞吐量。这种架构的技术价值在于能够以极少的线程资

weixin_33743248的博客 452

epoll EPOLLLT模式和EPOLLET模式

Level_triggered(水平触发):当被监控的文件描述符上有可读写事件发生时,epoll_wait()会通知处理程序去读写。如果这次没有把数据一次性全部读写完(如读写缓冲区太小),那么下次调用 epoll_wait()时,它还会通知你在上没读写完的文件描述符上继续读写,当然如果你一直不去读写,它会一直通知你!!!如果系统中有大量你不需要读写的就绪文件描述符,而它们每次都会返回,这样会大大降...

专注于网络编程,游戏后台,高并发 1227

华为路由器 VRRP主备配置

3、R3 出口路由器。

一直被模仿,从未被超越 5591

IMU卡尔曼滤波方法详细介绍

本文介绍了基于IMU和卡尔曼滤波的状态估计方法。系统采用9维状态向量(位置、速度、加速度计零偏),通过牛顿运动学建立状态方程,并利用外部位置观测进行校正。详细推导了状态转移矩阵和控制输入矩阵的形式,阐述了预测和更新的计算步骤。同时说明了过程噪声Q和观测噪声R的设置原则,其中Q反映模型不确定性,R取决于传感器精度。该方法可有效融合IMU测量与外部观测数据,实现位置、速度和偏置的联合估计。

haing2019的博客 758

14.主从Reactor+thread pool模式,和Connection对象的引用计数的困惑讲解

可以再添加个线程池俩解决耗时任务,这个线程池和IO线程池是不一样的,这个可以说是计算线程池,这样就形成了主从Reactor+thread pool模式。 还有Connection的引用计数的变化的讲解。 即是用多个Reactor来处理IO,又使用线程池来处理计算。这种方案适合既有突发IO(利用IO多线程处理多个连接上的IO),又有突发计算的应用(利用线程池把一个连接上的计算任务分配

m0_57408211的博客 725

Matlab双目相机标定

1 概述 现在有许多双目相机在出厂时就已经标定好了,用户拿到手后可以直接使用,例如Intel Realsense系列。但是有些相机出厂的时候并没有完成标定工作,因而这个时候就需要我们自己来标定。由于笔者曾改装过一个双目相机,最远可以测至50m,因此有一定的心得体会想给大家分享一下。本文主要介绍双目相机标定的整个过程,以及导出标定数据的方法。 相机标定主要分为手动标定和自动标定,手动标定比较繁琐,这里主要介绍基于matlab工具箱的自动标定方式来对双目相机进行标定。具体的相关标定细节也可以参照这篇博客:m

weixin_46133643的博客 2万+

epoll与reactor模式

reactor模式: 针对套接字的可读、可写属性增加回调方案,从而在套接字可读、可写的时候触发回调函数。 那么这种模式与传统的epoll相比有什么区别呢?

lswdcyy的博客 2343

Aruco标签定位、测距、三维位置估算 opencv应用

摄像头要一开始对准aruco标签才开始运行。+ 相机标定文件(参考我的上篇文章)+ aruco标签6*6。

dgut_guangdian的博客 4223

CrossOver实战:在Mac上流畅运行《梦幻西游》端游与搬砖指南

在跨平台应用开发与系统兼容性领域,如何让为特定操作系统设计的软件在其他平台上运行,是一个经典的技术挑战。其核心原理在于通过兼容层或转译技术,将程序的系统调用和图形接口指令实时转换为目标系统能理解的格式。这项技术的价值在于极大地扩展了硬件设备的软件生态,让用户无需依赖虚拟机或双系统即可无缝使用关键应用。在游戏、专业工具等场景中,这能显著提升工作效率和用户体验。本文以经典端游《梦幻西游》为例,详细解析如何在搭载Apple Silicon或Intel芯片的Mac上,借助CrossOver这一成熟的兼容层方案,构建

weixin_30129025的博客 576

【高性能网络库与HTTP Server系列】:基于主从 Reactor 模型实现高性能 C++ 网络库与 HTTP Server

ReactorNet 的核心并不是简单地调用epoll写一个服务器,而是围绕 Reactor 模型重新组织整个网络库的结构。1. 基于 epoll ET 和非阻塞 I/O 实现事件驱动网络模型2. 使用 Main Reactor + Sub Reactor 拆分监听连接和已连接 fd 的 I/O 处理3. 封装 EventLoop、Channel、Epoller、Socket、Acceptor 等网络库基础组件4. 使用 TcpConnection 管理连接状态、输入输出缓冲区和连接生命周期。

努力努力再努力wz的博客 809

无刷电机FOC硬件电路设计

本文先对MIT无刷电机FOC硬件电路分析做个简单的介绍,具体内容后续再更,其他模块可以参考去我其他文章软件程序在我另外一个博客【嵌入式–伺服电机】MIT无刷电机FOC驱动程序分析。

qq_35635374的博客 575

30天自制C++服务器day10-加入线程池到服务器

今天是本教程的第十天,在之前,我们已经编码完成了一个完整的单线程服务器,最核心的几个模块都已经抽象出来,Reactor事件驱动大体成型(除了线程池),各个类的生命周期也大体上合适了,读者应该完全理解之前的服务器代码后再开始今天的学习。 观察当前的服务器架构,不难发现我们的Reactor模型少了最关键、最重要的一个模块:线程池。当发现socket fd有事件时,我们应该分发给一个工作线程,由这个工作线程处理fd上面的事件。而当前我们的代码是单线程模式,所有fd上的事件都由主线程(也就是EventLoop线程)

冯岳松的博客 932

CVPR 2026 即插即用 | 注意力篇 | PFG:多尺度大核+像素级频率门控,特征显著增强,精准适配边缘纹理场景

本文提出了一种基于频率引导的轻量级外围门控模块PFG,用于高效时空预测学习。该模块通过多尺度大核分解卷积(1×K + K×1)捕捉外围空间依赖,同时利用固定频率滤波器提取高频线索,动态融合不同尺度的外围特征。核心创新包括:外围聚焦的多尺度空间增强、频率引导的动态融合机制、双阶段归一化协同等。实验表明,PFGNet在多个基准数据集上达到SOTA性能,同时保持较低计算复杂度。该模块可直接嵌入各类视觉模型,适用于需要强化空间-通道协同表达的轻量级任务。

主要更新底层视觉(去噪、超分等)相关的科研内容,形式为【论文精读】+【论文复现】 485

如何合理评估信号过孔的残桩效应--Via Stub

设计中,之所以会去考察信号过孔的残桩效应(Via Stub),是因为它的存在导致了不需要的频率谐振,当这些谐振出现在所关注的信号通道的插入损耗中时,就会引发较为严重的信号完整性(SI)问题,那么Via Stub到底是如何引发SI问题的呢?

一只豌豆象的博客 4473

epoll详解以及Reactor模式

这篇文章详细介绍了Linux下epoll网络编程的核心知识体系,分为四个部分: epoll三大API详解: epoll_create创建实例 epoll_ctl管理监控列表(红黑树) epoll_wait获取就绪事件 重点讲解了参数配置和使用场景 epoll底层原理: 核心是红黑树+就绪双向链表 通过回调机制实现高效事件通知 避免了传统select/poll的全量扫描 Reactor模式架构: I/O事件驱动设计 Reactor负责事件监听分发 Handler处理具体业务逻辑

LAN_chen_ning的博客 414

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

【Reactor与epoll】图解

当谈到构建高性能、高并发的网络应用程序时,Reactor模式和epoll是两个不可或缺的关键概念。本篇文章将介绍Reactor模式以及Linux中的epoll机制,它们如何协同工作,以及为什么它们在事件驱动的应用程序中如此重要。

weixin_44112753的博客 1084

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

Linux网络 多路复用epoll && Reactor 反应堆模式

epoll 是 Linux 内核为处理大批量文件描述符而设计的 I/O 事件通知机制,它提供了一种高效的方式,能够同时监控多个文件描述符的事件(如读、写等),并且回调那些就绪的文件描述符。相比于传统的 select 和 poll,epoll 在处理大量并发连接时具有更高的效率,特别适用于高并发服务器的开发。功能:创建一个 epoll 实例,返回一个文件描述符。size 参数已弃用,只需要大于 0 即可。成功:返回epoll文件描述符。失败:返回-1,并设置errno。

2301_79881188的博客 1056

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

minimuduo库02——ReactorThreadPool

网络模型 在之前的一些作品中,我已经介绍了三种网络模型。分别为 each TcpConnection per thread threadPool single-thread Reactor 现在这个库的网络模型将采用multi-Reactor + threadPool这个模型。也是Reactor模式的成熟模型。 我们将拥有一个ReactorThreadPool这么一个类。其功能就是启动num...

心灵迷宫 464

minimuduo库01——singsing库介绍

singsing 这算做是学习muduo后的一个小总结吧。这个库的完善基本代表着我自己对muduo库的理解逐渐加深。 介绍 需要你有如下概念 线程池 function/bind实现回调函数 熟悉Reactor或者读过我的关于Reactor的文章。 同muduo一样,我也是将库中的文件大概分为了两类base库和net库。其中base库放的都是一些比如时间类的基础。net库则是放的一些有关网络的东...

心灵迷宫 398

7、reactor + thread pool(能适应密集计算)

晴天的专栏 2142

基于epoll的reactor模式实现

/定义一个类型,其中 CALLBACK指向函数的指针int fd;//创建一个可以接受 int func(int a) 的指针union {} r_action;

wkx0605的博客 792

基于epoll的Reactor模型

主要工作:供PackageParse.hpp和NetCal.hpp通信使用,最上层网络通信一定要有协议支持。首先要有添加报头和解析完整报文两个全局函数,用于报文的封装和解析。然后商量请求报文格式和应答报文格式,所以设计请求类和应答类,里面都会有序列化和反序列化。序列化就是把类里面的对象数据变成报文,反序列化就是把报文里面的数据提取成对象数据储存。最后可以封装两个创建对象的工厂,上层只能用工厂创建请求应答对象。

qhy850716的博客 1404
上一篇: 从epoll构建muduo-12 多线程入场
下一篇: 一张图总结Google C++编程规范(Google C++ Style Guide)
voidccc
博客等级 码龄14年 149粉丝 28原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值