C++异步:asio的scheduler实现!

C++异步从理论到实践总览篇 来源于1.6X boost同期的asio standalone版本去除了各平台网络处理相关的代码仅保留了post和相关的功能(新版本有executor实现)早期c++11兼容, 无coroutine支持除网络库外, asio非常有使用价值的一部分代码。 阅读详情

前面也提到过,libunifex的scheduler实现离实用级其实还有一些差距。对比asio相关的实现,处理细节和完备度上都有较大落差,基于总览篇提到的整体实践思路,我们将更多使用asio的scheduler来作为execution的底层调度器。所以从本篇开始,我们将详细介绍asio相关的实现,本篇主要介绍asio传统的lambda post调度器。

一、asio对通用任务的支持

大部分时候我们使用asio更多的是将它用作一个网络库,但实际上asio本身对通用任务的支持做得也是非常棒的。利用c++11引入的lambda和函数对象,我们的通用任务可以很好的包装成lambda之后post()到某个io_context上,然后在io_context::run()的时候执行。执行流程如下图所示:

​特定情况下,任务与任务之间存在依赖关系,这点上asio本身提供的strand 的支持,利用strand,我们可以在业务层尽可能少的使用锁等同步原语的情况下,对一个流水线式的组合任务进行编码,如图所示:

​这种多part的流水线式的任务,是很适合使用strand进行封装,得到预期的结果的。使用asio作为通用的并发框架,肯定是一种可行的方式,实际上网易不少项目就是这么做的,最早是他们的服务器使用asio作为底层的并发框架,后来国内知名度较高的messiah引擎,也借鉴并发扬了这种方式,使用asio作为底层基础的并发框架。本文我们也是更多的从源码着手,集中在asio scheduler这部分的实现代码上,来深入了解它的实现和特点。

二、asio版本现状介绍

从1.17(2020)开始尝试向当时的execution提案靠拢,当时的execution也就是那版一开始就Api数量爆炸,后面引入property对api复杂度进行所谓“简化”,跟大部分想的相去甚远的那版,现在的execution提案抛弃了原先的这套规划,但asio当时努力的方向还是原版,所以代码中大量存在了property相关的设施和使用,这里简单列出一些相关的示例代码:

asio::static_thread_pool pool(1);
auto ex1 = ctx.get_executor();

// Get the number of available threads in the pool.
std::size_t n = asio::query(ex1, asio::execution::occupancy);

// Require an executor with blocking.never property.
auto ex2 = asio::require(ex1, asio::execution::blocking.never);
asio::execution::execute(ex2, []{ /*...*/ });

// Prefer an executor that uses a custom allocator.
auto ex3 = asio::prefer(ex2, asio::execution::allocator(my_allocator));
asio::execution::execute(ex3, []{ /*...*/ });

如上面的代码所示,property主要通过三个模板函数来工作:

  • query(): 查询某属性的值。

  • require(): 获取满足对应属性的对象。

  • prefer(): 获取包含定制内容的对象。

对于系统本身特别复杂,需要适应的场景特别多的情况,这种设计本身确实会简化部分业务侧的使用理解复杂度,原来对多种不同Api的记忆,变成了property的选择。

但其实对于库本身的实现来说,我们也容易看到,利用property对多种并发泛式进行约束的方式,本身就具备一定的复杂度,实际上并不那么成熟。对于库的构建来说,很难说它提供的是一个简单易扩展的机制。这个其实tag_invoke机制本身也有跟property相关的对比,个人认为,同样是对库的定制和对泛型的支持的目的,基于cpo的tag invoke本身应该是更值得选择的,而property本身我感觉就比cpo的理解成本要高,用于构建库代码,也会导致库代码本身的复杂度变高,在它没有成为C++标准的一部分之前,这种复杂度的引入肯定是不那么合适的。

这种复杂度的增加我们从当前asio 1.22代码仓库可以比较容易看出,主体功能变化不大(对比1.16版本),但引入了相当多的代码用于在兼容低版本c++的情况下对property等基础功能进行支持,导致整体代码复杂度剧增, 但实际带来的便利性基本看不到。如果抛开对新特性的实验本身,这些调整对asio的版本迭代来说,绝对跟优雅本身相去甚远。

对比向早期execution的靠拢,asio对c++20 coroutine的支持还是可圈可点的,这个从作者近期的实例代码讲解中也能感受到,像awaitable的“||” “&&”等支持,很好的扩展了协程中多任务处理的语义,更容易用更少的代码实现出简单易理解,易维护的异步代码。

回到scheduler本身,我们本篇的重点是asio的scheduler部分实现,这部分在asio加入property机制前后其实变化不大,但由于加入property后,相关的scheduler部分耦合了大量的property相关的机制和代码,带来了比较高的复杂度,本文我们直接选择不包含property的asio1.16的代码进行展开,方便以更低的复杂度分析相关的实现。

三、一些额外的网络知识

首先asio原本的设计是针对网络任务为主的,区别于主流的Reactor模型,asio本身的设计和架构使用了Proactor模型。

​这张图可以说完全就是IOCP的一个工作情况了,新出的io_uring,概念上与此都略有出入,目前看到的最新版的1.22的实现中,io_uring的实现本身依然还是使用了跨平台的scheduler,并没有像iocp一样,利用操作系统本身提供的API完成整个scheduler的实现。

此处我们需要注意的是,真正比较完整的实现了高效的操作系统级的AysncIO,并被大家接受使用的,也就只有Windows平台的IOCP,当然,这种情况最近几年得到了改善,linux平台的新秀io_uring,也被越来越多的人关注和使用起来,不过此处我们选的是1.16的版本,并未包含io_uring的实现,我们先暂时不考虑它的存在。操作系统级的async io实现制约了asio本身Proactor模型的跨平台实现,相关的异步任务调度,也自然的分裂成了两套实现:

  • 对于windows来说,因为IOCP的存在,asio的Proactor模型本身可以完全使用IOCP本身来实现,而对于其他平台,asio就只能选用妥协的方式,使用Reactor+外围Scheduler的模式,来模拟Proactor模型,最终实现一个业务层与IOCP使用体验完全一致的跨平台的Proactor模型。 

  • 对于我们当前的项目来说,因为优先选择的是跨平台的一致性和维护的简洁性,所以我们当前阶段,主要使用的是第2种方法中的scheduler,这也是本文分析的重点。而且Reactor本身的实现也跟scheduler的工作是解耦的,所以我们分析中可以直接略过reactor部分,只关注scheduler整体机制的实现了。

因为本篇我们主要关注asio的调度器设计部分,本章网络模型相关的只是简单给出相关的概念,了解它背后的实现思路,方便大家更好的理解它整个调度器的设计和实现思路。

【文章福利】另外小编还整理了一些C/C++后台开发教学视频,相关面试题,后台学习路线图免费分享,需要的可以自行添加:Q群:720209036 点击加入~ 群文件共享

小编强力推荐C++后台开发免费学习地址:C/C++Linux服务器开发高级架构师/C++后台开发架构师​

​四、operation的实现

作为一个比较函数式的调度器实现,首先要打理的,肯定是相关的函数对象如何投递,如何保存,如何执行了。我们先来看看这一切的基础,operation的实现。 

asio的arbitrary task的投递是通过post来完成的,我们也会以此作为起点,来分析一个函数对象,是如何被asio进行处理最终存储起来的。

(一)函数对象的投递-post()过程

我们先以一个代码片断的执行过程来看一下整个post()的过程:

  asio::io_context ctx{};
  auto wg = asio::make_work_guard(ctx);
  std::thread tmp_thread([&ctx] { ctx.run(); });

  std::allocator<void> alloc;
  ctx.get_executor().post([] { 
    std::cout << "task run!" << std::endl; 
    }, alloc);

  std::this_thread::sleep_for(1s);

上面的代码片断中,我们简单构建了一个io_context的执行环境,并向其post()了一个简单的lambda到其上执行。我们以此为基础,来分析一下具体的post()过程,主要包含以下步骤:

  • io_context->scheduler的传递过程

template <typename Function, typename Allocator>
void io_context::executor_type::post(Function&& f, const Allocator& a) const
{
  typedef typename std::decay<Function>::type function_type;

  // Allocate and construct an operation to wrap the function.
  typedef detail::executor_op<function_type, Allocator, detail::operation> op;
  typename op::ptr p = { detail::addressof(a), op::ptr::allocate(a), 0 };
  p.p = new (p.v) op(static_cast<Function&&>(f), a);

  ASIO_HANDLER_CREATION((this->context(), *p.p,
        "io_context", &this->context(), 0, "post"));

  io_context_.impl_.post_immediate_completion(p.p, false);
  p.v = p.p = 0;
}

中间的ASIO_HANDLER_CREATION()宏是用于辅助handler调试的,对代码的实际执行没有任何影响,我们直接忽略。

op::ptr-operation的内存分配与释放:这部分代码比较晦涩的是op::ptr相关的使用,ptr本身其实是asio通过宏生成的一个用于定制allocator的辅助结构体,我们直接展开宏来看下它的定义:

struct ptr 
  { 
    const Alloc* a; 
    void* v; 
    op* p; 
    ~ptr() 
    { 
      reset(); 
    } 
    static op* allocate(const Alloc& a) 
{ 
      typedef typename ::asio::detail::get_recycling_allocator< 
        Alloc, purpose>::type recycling_allocator_type; 
      ASIO_REBIND_ALLOC(recycling_allocator_type, op) a1( 
            ::asio::detail::get_recycling_allocator< 
              Alloc, purpose>::get(a)); 
      return a1.allocate(1); 
    } 
    void reset() 
{ 
      if (p) 
      { 
        p->~op(); 
        p = 0; 
      } 
      if (v) 
      { 
        typedef typename ::asio::detail::get_recycling_allocator< 
          Alloc, purpose>::type recycling_allocator_type; 
        ASIO_REBIND_ALLOC(recycling_allocator_type, op) a1( 
              ::asio::detail::get_recycling_allocator< 
                Alloc, purpose>::get(*a)); 
        a1.deallocate(static_cast<op*>(v), 1); 
        v = 0; 
      } 
    } 
  }

这个地方的recycling_allocator我们就不具体展开了,主要的作用是asio自己写了一个recycling_allocator,如果外面传入的分配器是std::allocate<>,则自动将分配器替换为asio内部实现的recycling_allocator。ASIO_REBIND_ALLOC是用于编译期判断分配器是否包含rebind_alloc<T>的类型,如果有,则使用这个作为分配器,否则还是直接使用传入的分配器,感兴趣的可以自行了解:

  • std::allocator_traits

  • 以及它的member alias templates : rebind_alloc<T>

所以对于op::ptr来说,它实现了特定对象(这里就是我们的executor_op)的内存申请,以及reset()时对特定对象调用析构函数并进行内存释放操作。

库作者都比较喜欢写内存分配器,但一般位于业务层之下的库,特性需求都容易接近通用分配器,并没有太多“银弹”可供库作者摘取,正常来说,通用型的内存分配器,简单实现,也是几千行的代码量了,不是在明确业务使用场景下,没有太多取巧的方法。相关复杂度的引入感觉对于库本身不一定是好事。对于asio来说,allocator用户层可定制,基本已经就提供了业务层所有需要的内容了。

理解了op::ptr的类型定义,再来看post的主体代码,就比较好理解了:

 typedef typename std::decay<Function>::type function_type;

 // Allocate and construct an operation to wrap the function.
 typedef detail::executor_op<function_type, Allocator, detail::operation> op;
 typename op::ptr p = { detail::addressof(a), op::ptr::allocate(a), 0 };
 p.p = new (p.v) op(static_cast<Function&&>(f), a);

 io_context_.impl_.post_immediate_completion(p.p, false);
 p.v = p.p = 0; 

一开始我们在类型为op::ptr的临时变量p初始化的时候,传入了分配器的指针,分配好的一段内存到其中,然后我们再利用replacement new对它进行初始化,注意这个地方不要被实现绕晕了,p.p的类型就是executor_op的指针,然后executor_op负责持有函数对象,这样定制了executor_op的内存分配,就间接的把包含其中的函数对象的内存分配也一并处理了。剩下的部分就是将executor_op的指针丢给io_context.impl,其实就是scheduler,因为我们并不希望相关scope结束的时候,刚申请的executor_op被马上释放,所以这里需要将p.v和p.p都置成

C++20协程与信号机制:构建异步事件处理框架实战 异步编程是现代高并发系统的核心技术,旨在解决同步阻塞导致的性能瓶颈。其核心原理是通过非阻塞I/O和事件驱动模型,让线程在等待耗时操作时能够处理其他任务,从而提升CPU利用率和系统吞吐量。在C++中,传统的回调与Future模式虽能实现异步,但易引发回调地狱和逻辑割裂。C++20引入的协程(Coroutine)通过挂起与恢复机制,允许开发者以同步的代码风格编写异步逻辑,极大提升了代码的可读性与可维护性。结合信号(Signal)机制,可以构建一个协程驱动的异步事件处理框架,将事件驱动的被动回调模式转变为更符合直 阅读详情

相关推荐

Disruptor-cpp:C++高性能内存队列实现原理与实战应用

在并发编程领域,线程间高效、低延迟的数据交换是核心挑战。传统队列常因锁竞争、内存分配和缓存失效成为性能瓶颈。其原理在于通过预分配内存、序号驱动和避免伪共享等设计,将数据交换的延迟和吞吐量优化到极致。这项技术的价值在于为金融交易、实时风控、游戏服务器等对性能有严苛要求的场景提供了可预测的高性能解决方案。Disruptor-cpp作为该范式的C++实现,通过利用C++11原子操作和缓存行填充等技术,让开发者能够在C++生态中构建超低延迟的生产者-消费者系统,例如实现高吞吐的行情分发或订单处理引擎。

weixin_33698823的博客 552

C++协程库实现:从函数调用栈到异步调度的核心原理与实践

在并发编程领域,协程作为一种轻量级的用户态线程,能够显著提升高并发场景下的程序性能与开发体验。其核心原理在于通过保存和恢复执行上下文(包括栈指针、指令指针等寄存器状态),实现在用户态的任务切换,避免了传统线程切换带来的内核态开销。这一机制的技术价值在于能够以同步的代码风格编写异步逻辑,极大简化了高并发网络编程的复杂度。在应用场景上,协程常与I/O多路复用(如epoll)结合,构建高效的事件驱动架构,广泛应用于网络服务器、游戏引擎等需要处理大量并发连接的领域。本文聚焦于构建C++协程库所需的关键前置知识,深入

weixin_30681121的博客 403

C++23协程异步任务死锁:生产环境诊断与修复实战

协程作为一种轻量级的并发编程模型,通过挂起与恢复机制实现协作式多任务,在提升异步代码可读性与性能方面具有重要价值。其核心原理在于将执行流程控制权交给程序员,避免了传统线程上下文切换的开销。在C++等系统编程领域,协程技术能显著优化高并发网络服务与IO密集型应用。然而,当协程与异步任务调度结合时,若对执行流与资源依赖管理不当,极易引发隐蔽的死锁问题,例如调度器依赖环路或共享状态顺序等待,导致服务“假死”。本文聚焦于C++23协程在实际工程中遇到的异步任务死锁场景,通过剖析典型死锁案例,提供一套可操作的诊断与修

weixin_30466039的博客 365

C++智能充电桩调度系统:高并发架构与核心算法实现

资源调度是计算机科学中的经典问题,旨在高效分配有限资源以满足动态需求。其核心原理通常涉及队列管理、优先级算法和约束优化,在操作系统进程调度、云计算任务分配等领域有广泛应用。从技术价值看,优秀的调度系统能显著提升资源利用率、降低延迟并保障系统稳定性。在物联网和新能源领域,充电桩调度正是一个典型的资源调度场景,需要处理实时数据流、电网约束与用户需求的动态平衡。本文以智能充电桩调度系统为例,深入探讨了如何利用C++构建高性能后台引擎,其中重点剖析了基于Boost.Asio的事件驱动网络通信模型和应对高并发场景的启

diyu8056的博客 443

C++任务调度器实战:从STL多线程到Boost库的综合应用

任务调度是并发编程中的核心概念,它通过协调多个任务的执行顺序和资源分配,提升系统吞吐量和响应速度。其原理基于生产者-消费者模型,利用任务队列和线程池实现任务的异步执行与资源复用。在C++工程实践中,任务调度器技术价值显著,能有效管理计算密集型或I/O密集型任务,优化多核CPU利用率。通过结合STL的std::packaged_task、std::future进行任务包装与结果传递,并运用多线程库的mutex和condition_variable实现线程安全同步,开发者可以构建高性能的并发基础组件。本文以中型

cuizhu0832的博客 431

【C++】开源:Boost网络库Asio配置使用

Boost网络库Asio配置使用

DevFrank的博客 4757

Boost.Asio源码阅读:io_context、strand与epoll实战

在C++网络编程领域,异步非阻塞模型是构建高并发服务的核心。Boost.Asio作为业界成熟的异步网络库,其事件循环由io_context、strand与epoll等机制协同实现,深刻影响着回调调度与连接管理的效率。理解这些底层原理,不仅能解决多连接并发中的延迟抖动问题,也能指导工程上的CMake配置与协程化改造。本文以最小TCP回显服务为起点,沿着io_context到epoll的实现路径,梳理源码阅读的关键边界,并给出生命周期、避坑清单与协程实践,为后端开发者提供从入门到进阶的参考。

weixin_34072296的博客 219

从调节阀到步进电机:图解位置型PID与增量式PID的核心区别

本文深入解析了位置型PID与增量式PID的核心区别。通过调节阀和步进电机的实例,阐明位置式PID输出绝对位置,适用于直接控制执行机构;而增量式PID输出位置变化量,天然支持无扰动切换,更适合步进电机等场景。文章重点剖析了增量式PID在系统安全与平滑切换方面的关键优势。

weixin_29051811的博客 360

AFSim仿真系统中的图像处理器:从静态图像到视频流的目标识别技术解析

本文深入解析了AFSim仿真系统中WSF_IMAGE_PROCESSOR图像处理器的核心功能与技术实现。它详细阐述了该处理器如何从静态图像与视频流中完成目标检测、跟踪与识别,将原始像素数据转化为可供指挥系统使用的轨迹情报,并重点介绍了其基于约翰逊准则的目标识别进阶逻辑、关键参数配置以及脚本扩展能力,为构建高逼真度仿真应用提供了实践指导。

cola5的博客 214

YOLOv11改进策略【卷积层】| CVPR-2023 部分卷积 PConv 轻量化卷积,降低内存占用

本文记录的是利用优化的目标检测方法研究。深度可分离卷积可以减少FLOPs,但会导致更高的内存访问,引起延迟并减慢整体计算。部分卷积利用逐点卷积处理通道冗余,减少模型计算量和内存访问量。Run, Don’t Walk: Chasing Higher FLOPS for Faster Neural Networks的实现代码如下: 四、创新模块 4.1 改进点⭐ 模块改进方法: 1️⃣ 加入。添加后如下:2️⃣:加入基于的。利用改进模块,减少通道冗余。改进代码如下:首先添加如下代码让加入,并重命名为 再添加如

Limiiiing的博客 3878

基于Simulink的永磁同步电机三闭环(位置/速度/电流)伺服仿真

本文详细介绍了基于Simulink的永磁同步电机三闭环伺服控制系统的设计与实现,针对机器人关节控制场景。系统采用位置环(外环)、速度环(中环)和电流环(内环)的嵌套结构,通过精确的带宽匹配(电流环1kHz、速度环200Hz、位置环20Hz)实现亚微米级位置跟踪。文中提供了完整的Simulink建模步骤,包括主电路搭建、三环PI控制器实现及坐标变换模块,并验证了系统性能:阶跃响应时间35ms,位置误差<0.05°,正弦跟踪误差<0.15°,负载突加恢复时间0.08s。最后提出了参数自适应整定、前馈

amy_mhd的博客 279

Tessy集成测试,看完这篇就够了

本文详细介绍了集成测试模块的创建与测试流程。首先,通过TESSY模块进行组件测试管理,设置测试环境并配置相关函数,包括外部函数和组件函数的处理。接着,设计测试用例,包括设置工作任务、增加测试用例、为测试场景添加函数及赋值,并执行测试用例。此外,文章还介绍了集成测试覆盖率的概念,包括CPC(调用对覆盖率)和FC(函数覆盖率)的定义与作用,强调了它们在确保测试充分性和发现潜在问题中的重要性。最后,提到了数据共享的注意事项,指出在测试过程中全局变量的共享特性及桩函数调用的处理方式。

qq_37282365的博客 1100

Python爬虫实战:抓取CVE安全漏洞数据库

在网络安全领域,CVE(Common Vulnerabilities and Exposures)是一个非常重要的安全漏洞字典,它为每个安全漏洞提供了唯一的标识符。安全研究人员、开发人员和系统管理员都需要及时了解最新的CVE信息,以便采取相应的防护措施。本文将详细介绍如何使用Python爬虫技术从专业CVE网站抓取漏洞数据,并构建一个完整的CVE信息采集系统。本文详细介绍了如何使用Python爬虫技术从专业CVE网站抓取安全漏洞数据。多种爬虫技术反爬虫策略:User-Agent轮换、代理IP、请求延迟。

2201_76125261的博客 370

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

上一篇: 分布式数据中心网络互联技术实现
下一篇: 为什么很多企业一边大规模裁员,又一边招聘?
Linux服务器开发
博客等级 码龄7年 610粉丝 589原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值