一个C/C++协程库的思考与实现之协程的跨线程负载均衡调度

原创 已于 2024-05-14 18:14:23 修改 · 934 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#协程 #跨线程调度 #负载均衡调度 #c++

于 2020-08-23 09:33:37 首次发布
本文探讨了在多线程环境中使用协程库时的负载均衡问题，提出了协程跨线程调度的可行性，并详细讨论了解决方案，包括协程ID唯一性、负载判断和协程迁移策略。

https://github.com/DoasIsay/ToyCoroutine

其实一开始我并不想让ToyCoroutine支持多线程，多进程SO_REUSEPORT其实也挺好的，大家各跑各的互不影响，但在写代码时我又时刻考虑到多线程，毕竟，没有多线程间的同步协作那该是多么的无聊啊，，，

我在想当在多线程环境中使用协程库时，比如在一台8核的机器上，创建7个线程（调度器线程），每个线程负责一部分协程的调度执行，如何避免一些线程很忙，另一些线程却很空闲处于无协程可调度执行的状态？

把忙的线程中的协程分一部分到闲的线程中，在这个过程中要保证不能破坏协程运行的上下文环境，首先要从理论上分析它的可行性，如果理论上不可行，就不用再去瞎折腾了

这其实就是要协程能被跨线程调度，即一个协程可以在合适的时机（状态不为RUNNING）与当前调度器线程解绑，然后绑定到其它调度器线程，被任一个调度器线程调度运行

我所认为的协程就是一个函数的调用过程，从一个函数调用链的某个栈帧跳到另一个合适的函数调用链的某个栈帧就是协程的调度切换

  

如上图协程的上下文的保存与恢复，在一个线程中save协程的上下文，在另一个线程中restore它，这会导致什么问题？这与同一个线程中的协程上下文的save/restore有什么不同？简直一样，没有什么不同，，，

同一个进程内所有线程共享进程的虚拟地址空间，也就是一个线程是可以访问另一个线程栈上的局部变量而不会导致进程core掉，栈上的局部变量都可以访问，更何况堆中的一块内存？这里可以把协程看做一块内存，跨线程调度，即：把一个线程调用了一半的函数调用让另一个线程去继续调用

最低0.47元/天 解锁文章
协程的多线程切换
liuyingming910的专栏
01-04 1622
我们知道，在一个基于协程的应用程序中，可能会产生数以千记的协程，所有这些协程，会有一个的调度器来统一调度。 另外我们知道，高性能的程序首要注意的就是避免程序阻塞。那么，在以协程为最小运行单位的程序中，同样也需要确保这一点，即每一个协程都不能发生阻塞。因为只要某一个协程发生了阻塞，那么整个调度器就阻塞住了，后续等待的协程得不到运行，整个程序此时也将死翘翘了。那么，如果需要保证任意一个协程都不阻塞，
C++项目——负载均衡在线OJ系统
热门推荐
m0_73682725的博客
05-29 5万+
本项目旨在模仿牛客、力扣等在线OJ平台，通过前后端结合的方式，前端构建出一个在线OJ题目练习网页，通过读取远端数据库的方式构建出题库（题库包含文件版和MySQL版本两个版本），点击题目，可以跳转至代码输入页面，用户输入代码完毕，点击网页“运行”按钮，代码会交由后端CentOS 7云服务器，负载均衡地挑选主机进行编译运行代码，并将结果返回前端页面。构建出一个简易的负载均衡式的在线OJ系统。
高性能第4层负载均衡器-C/C++开发
05-26
katran katran是一个cpp库和bpf程序，用于构建高性能第4层负载平衡转发平面。 katran利用内核中的XDP基础结构为快速数据包的处理提供内核工具。Katran是C ++库和BPF程序，用于构建高性能的第4层负载平衡转发平面。 Katran利用内核中的XDP基础结构来提供内核内工具，以进行快速的数据包处理。 卡特兰（Katran）的主要功能：快速燃烧（特别是在驱动程序模式下带有XDP）。 性能可以通过许多NIC的RX队列进行线性扩展。 RSS友好的封装。 请参阅下面的详细功能说明-文档的各节：自述文件（此文件）-通用ov
负载均衡很难？看完这篇全懂了
代码技巧
08-02 1万+
来自：金钟路上小码工链接：https://www.cnblogs.com/danbing/p/7459224.html一、什么是负载均衡？互联网早期，业务流量比较小并且业...
线程负载均衡
houzhiwei123456789的专栏
09-18 2096
这是一篇关于软件性能方面的文章，源于我在项目中遇到的问题引发的一些思考。 问题背景： 在项目中设计到这样一个界面，当点击刷新按钮时候，上位机软件遍历下图中的所配置的节点，遍历的过程中根据每个节点的信息生成指令与嵌入式设备进行通信，嵌入式设备响应后，上位机软件在该图中的节点中显示检测结果。 解决方案一： 点击刷新后，界面线程创建一个新的线程，这个线程负责与下
一个C/C++协程库的思考与实现之栈溢出检测
DoasIsay的博客
07-16 1228
事情是这样的，在第一次因协程栈溢出导致的进程崩溃后，过了不知道多久由于代码量的增加，协程的栈又溢出了程序又崩溃了，多线程加协程对使用gdb调试而言并不是很友好，可能我还是不会使用gdb吧，从coredump中基本上找不到什么有助于问题定位的信息，有时候连个函数调用栈都没有，你都不知道运行到那个函数那行代码时出现了问题，如果是刚刚修改了代码程序就崩了，还可以大概确定是修改了的这部分代码出了问题，但是如果修改了很多代码，就需要大海捞针一样，用最原始的调试手段，在每个你觉得可疑的地方去print碰运气 于是我决
C++ 协程的近况、设计与实现中的细节和决策
Linuxhus的博客
05-27 555
时至2018年的今天，C++ 在互联网服务端开发方向依然占据着相当大的份额；百度，腾讯，甚至以java为主流开发语言的阿里都在大规模使用C++做互联网服务端开发，而这恰恰是本文想要讨论的范畴。 C++协程实现及原理分析视频讲解： C/C++ Linux服务器开发高级架构学习视频点击：C/C++Linux服务器开发高级架构/Linux后台架构师-学习视频 协程的实现与原理剖析丨掌握协程的运用丨实例讲解（上） 协程的实现与原理剖析丨掌握协程的运用丨实例讲解（下） 第1章 C++协程近况简介 协程分
协程原理与设计
j简说Linux的博客
11-16 1064
为了综合上述各种方案的优缺点，也即兼顾易用性和实用性，取得一种折中平衡的效果，我们可以考虑在协程中引入“Work-Stealing”机制，也即M:N协程（M个用户协程对应N个系统线程，为了区别于上述的N:1协程）。在更高的层次看，fiber和线程其实是类似的，所以fiber也提供了一套同步原语：Mutex，ConditionVariable，Latch。但是也有一个明显的缺点，各个线程之间无法均衡任务，导致一个线程中的某个协程运行过久，会影响到本线程的其他协程，也即不适合CPU-Bound型业务。
C++协程同步机制：实现线程安全的高效数据交换
[C++协程同步机制：实现线程安全的高效数据交换](https://opengraph.githubassets.com/c56eeeca1a64c61ba9ea2dea9c1774bbbe1e894d2515a7d25440258ef018364f/tonbit/coroutine) # 1. C++协程同步机制概述 在现代C++...
跨线程使用CSocket
chunfengdeyiding的专栏
03-13 1112
CSocket断言错误：ASSERT(pState->m_hSocketWindow != NULL); 起因：在套接字处于连接或者发送状态时，试图关闭套接字，于是在这个断言语句处发生中断。 原因分析：： 微软官方解释如下：http://support.microsoft.com/kb/140527/en-us This assertion failure occurs b
负载均衡系统
07-14
里面包含了全部负载均衡的源码，用到了windows多线程、条件变量、临界区机制，有客户模块、服务器模块、负载处理模块，对于windows下多线程编程的学习者颇有益处。
C++项目 -- 负载均衡OJ（二）compile_server
kissland96166的博客
03-20 1906
编译模块
线程间的负载均衡
Acettest's Blogs
02-24 1769
当多线程协作处理同一个数据源时，可以使用分区器，有两种分区器： 1.范围分区器 范围分区器又称静态分区器，即每个线程处理的数据项个数是相同的，根据数据源集合的索引来划分给每个线程一个数据范围。比如4个线程处理有100个元素的数组，级分区器会依次给每个线程分配数组索引为0～24，25～49，50～74，75～99四个范围的元素，每个范围25个数组元素，如果处理每个元素的耗时不同，级分区器不会动态调配...
【蓝桥杯C++】负载均衡
QHBfuture的博客
04-06 1569
有 n 台计算机，第 i 台计算机的运算能力为 vi。 有一系列的任务被指派到各个计算机上，第 i 个任务在 ai 时刻分配，指定计算机编号为 bi，耗时为 ci 且算力消耗为 di。 如果此任务成功分配，将立刻开始运行，期间持续占用 bi 号计算机 di 的算力，持续 ci 秒。 对于每次任务分配，如果计算机剩余的运算能力不足则输出 −1，并取消这次分配，否则输出分配完这个任务后这台计算机的剩余运算能力。 输入格式输入的第一行包含两个整数 n,m，分别表示计算机数目和要分配的任务数。 第二行包含
【C++项目】负载均衡oj
QiHai的博客
05-27 3664
本篇记录负载均衡oj项目设计的整体思路和部分代码。
负载均衡权重系数算法 C++
dxmcu的专栏
03-21 954
为保证程序的稳定性和质量，内存要求使用智能指针(c++11)，同时使用了boost(智能指针使用c++11)。 1 自定义标准头文件se_std.h #ifndef H_CF4BC297_2737_4B2E_AB51_C0915F823960 #define H_CF4BC297_2737_4B2E_AB51_C0915F823960 #include <stdexcept> #i...
9.编写负载均衡模块|编写judge功能|postman进行调试(C++)
ChoSeitaku的博客
02-26 532
输入地址http://47.94.228.92:8080/judge/2。将oj_server和compile_server都重新编译一下。要给编译模块添加—D条件编译掉测试用例中的头文件incldue。启动三台服务器，运行8082，8083和8084。再运行oj_server。
C++ - 负载均衡式在线OJ
weixin_55582891的博客
07-30 1148
这段代码实现了一个在线编程评判系统的HTTP接口，包括获取题目列表、获取题目详情和代码评判功能。通过设置路由和处理函数，服务器能够响应不同类型的HTTP请求，并与业务逻辑控制器交互，返回相应的结果。这段代码实现了一个在线编程评判系统的核心功能，包括主机管理、负载均衡、题目信息管理和用户代码的编译运行。它通过读取题目列表文件和对应的题目文件，将题目信息存储在内存中，以便于其他部分的程序访问和使用。方法用于处理用户的代码提交，选择一个主机进行代码编译和运行，并获取结果。
C/C++编程：基于C++负载均衡远程服务器调度系统教程
OceanStar的博客
08-30 854
lars是一个简单、易用、高性能的服务间远程调用管理、调度、负载均衡系统优势性能强夯：集群支持千万并发连接、满足用户的海量业务访问需求高可用：采用集群化部署，支持多可用区的容灾，支持无缝实时切换灵活扩展：自动分发，与弹性伸缩无缝集成，灵活扩展用户用于的对外服务能力。简单已用：快速部署，实时生效，支持多种协议、多种调度算法，用户可以高效的管理和调整服务分发策略等等。...
c++协程的妙用
最新发布
10-18
通过共享协程映射表实现负载均衡： ```cpp thread_local CoroutineMap corMap; // 改为全局共享 std::mutex mapMutex; // 分段锁优化 void schedule(Coroutine coro) { auto threadId = ...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值