高性能对象池实现

字节大佬谈:高并发及解决方案 相对于分布式来讲,高并发在解决的问题上会集中一些,其反应的是同时有多少量:比如在线直播服务,同时有上万人观看。高并发可以通过分布式技术去解决,将并发流量分到不同的物理服务器上。但除此之外,还可以有很多其他优化手段:比如使用缓存系统,将所有的,静态内容放到CDN等;还可以使用多线程技术将一台服务器的服务能力最大化。高并发解决方案:1. 硬件系统访问用户增多,流量增大,导致服务器压力增大,出现性能瓶颈,我们可以采用一个简单粗暴的策略:提升服务器硬件配置,提升服务器硬件配置的策略,也称为:单体应用垂直扩容。 阅读详情

内存池用于对频繁申请的内存进行管理进而提升分配效率,但缺乏对一些创建和销毁开销比较大的对象的复用手段,因此对象池应运而生。而当系统中存在大量对象需要频繁创建和销毁时,如何减少大量的耗时开销是对象池构建的关键点之一,本文以此出发,与大家共同探讨高性能对象池的实现。文章作者:杨哲,腾讯WXG后台研发工程师。

一、背景

内存池用于对频繁申请的内存进行管理,通过合理的分配策略和内存布局来减少内存的碎片化以及提高内存的分配效率。但是对于一些创建和销毁开销大的对象,内存池缺乏对这些对象进行复用的手段,因此出现了对象池。

从内存分配的角度来看,相对于内存池,对象池管理的是定长内存,所以无需考虑内存碎片的问题,在内存管理策略上也更加的简单。我们的系统中存在的大量对象需要频繁地创建和销毁,产生了大量的耗时开销,因此需要对象池提供对象复用的方式来避免构造析构产生的开销,或者是通过对象的重置来减少创建销毁对象的开销。

另一方面相对于目前的内存分配器,对象内存的管理更加简单,因此相对于现有的内存分配器在内存分配和释放的效率有一定的提升空间。

二、目标

  • 对象可复用:通过复用对象来避免频繁地调用 malloc 和 free 函数,或者是减少构造析构产生的开销,从而提升性能;

  • 高性能:高性能是设计这个对象池最主要的目标,这里的高性能指的是内存分配和释放的开销足够低;

  • 线程安全:对象池可能会被多个线程同时访问,因此要保证对象池的线程安全;

  • 对象的容量支持动态扩展;

  • 优先分配使用过的对象。

三、方案调研

1. 对象池

(1)brpc object pool

brpc object pool 通过批量分配和归还内存以避免全局竞争,从而降低单次分配、释放的开销。brpc object pool 每个线程的分配流程如下:

  1. 查看 thread-local free block 或者空闲对象数组。如果还有 free 的对象,返回。没有的话步骤2。

  2. 尝试从全局资源池取一块空闲的空间,若取到的话回到步骤1,否则步骤3。

  3. 从全局资源池从系统申请一大块内存,返回其中第一个对象。

释放流程为将对象回收到 thread-local 的空闲对象数组中,攒够数量后回收到全局资源池。

(2)go对象池

Pool 会为每个协程维护一个本地池,本地池分为私有池 private 和共享池 shared。私有池中的元素只能本地协程使用,共享池中的元素可能会被其他协程偷走,所以使用私有池 private 时不用加锁,而使用共享池 shared 时需加锁。

通过对象池获取对象时会优先查找本地 private 池,再查找本地 shared 池,最后查找其他协程的 shared 池,如果以上全部没有可用元素,最后会调用 New 函数获取新元素。详细的分配过程如下图所示:

回收对象时优先把元素放在 private 池中。如果 private 不为空,则放在 shared 池中。

(3)Netty recycler

每个线程都拥有 thread-local 的 Stack, 在 Stack 中维护对象数组以及 WeakOrderQueue 的相关指针。对于全局资源分配机制,当本线程 thread1 回收本线程产生的对象时, 会将对象以 DefaultHandle 的形式存放在 Stack 中。其它线程 thread2 也可以回收 thread1 产生的对象,thread2 回收的对象不会立即放回 thread1 的 Stack 中,而是保存在 thread2 内部的一个 WeakOrderQueue 中。这些外部线程的 WeakOrderQueue 以链表的方式和 Stack 关联起来。

默认情况下一个线程最多持有 2*核数个 WeakOrderQueue,也就是说一个线程最多可以帮 2*核数个外部线程的对象池回收对象。WeakOrderQueue 内部有以 Link 来管理对象。每个 Link 存放的对象是有限的,一个 Link 最多存放16个对象。如果满了则会再产生一个Link 继续存放。

当前线程从对象池中拿对象时, 首先从 Stack中获取,若没有的话,将尝试从 cursor 指向的 WeakOrderQueue 中回收一个 Link 的对象,。如果回收到了就继续从Stack中获取对象;如果没有回收到就创建对象。一个对象池中最多存放 4K 个对象 , Link节点中每个 DefaultHandle 数组默认长度 16,这两个参数可以控制。

2. 内存池

虽然内存池使用的场景和对象池有区别,除了分配的速度外内存池还需要考虑内存碎片的问题,但是内存池在应对多线程访问时的减少锁竞争思路是可以借鉴的。

【文章福利】另外小编还整理了一些C/C++后台开发教学视频,相关面试题,后台学习路线图免费分享,需要的可以自行添加:Q群:720209036 点击加入~ 群文件共享

小编强力推荐C++后台开发免费学习地址:C/C++Linux服务器开发高级架构师/C++后台开发架构师​

(1)tcmalloc

在 tcmalloc 中每个线程都有一个线程局部的 ThreadCache,按照对象的大小进行分类维护对象的链表。如果 ThreadCache 的对象不够了,就从 CentralCache 进行批量分配。如果 CentralCache 没有可分配的对象,就从 PageHeap 申请 Span。如果 PageHeap 没有合适的 Page,就从操作系统申请。

在释放内存的时候,ThreadCache 依然遵循批量释放的策略,对象积累到一定程度就释放给 CentralCache。CentralCache 发现一个 Span 的内存完全释放了,就可以把这个 Span 归还给 PageHeap;PageHeap 发现一批连续的 Page 都释放了,就可以归还给操作系统。

(2)jemalloc

虚拟内存被逻辑上分割成 chunks(默认是4MB,1024个4k页),访问线程通过 round-robin 算法在第一次 malloc 的时候分配 arena,每个 arena 都是相互独立的,维护自己的 chunks, chunk 切割 pages 到 small/large 对象。free() 的内存总是返回到所属的 arena 中,而不管是哪个线程调用 free()。通过 arena 分配的时候需要对 arena bin(每个 small size-class 一个,细粒度)加锁,或 arena 本身加锁。并且线程 cache 对象也会通过垃圾回收指数退让算法返回到 arena 中。

<

Unity对象池实战:从原理到高性能泛型框架实现 在游戏开发中,性能优化是核心挑战之一,尤其是面对大量动态对象的创建与销毁时,频繁的GC(垃圾回收)和内存分配会严重影响游戏流畅度。对象池(Object Pooling)作为一种经典的设计模式,其原理是通过预先创建并复用对象,避免运行时反复实例化与销毁带来的开销,从而提升内存使用效率和CPU性能。这项技术的核心价值在于显著降低GC压力、减少内存碎片,是实现高性能游戏的关键手段。它广泛应用于弹幕射击、技能特效、动态植被生成等需要高频生成游戏对象的场景。本文基于Unity引擎,深入探讨如何构建一个健壮、可扩展的泛 阅读详情

相关推荐

Unity高性能无缝循环图片墙实现:对象池与Shader优化实战

在Unity开发中,实现动态、平滑的图片展示是常见的需求,尤其在虚拟展厅、游戏背景等场景。其核心原理是通过高效的资源管理与渲染技术,在有限的硬件资源下营造无限的视觉体验。传统方法如直接修改UV偏移,易因数值回绕导致画面跳变;而超长纹理拼接则面临内存与平台限制。本文聚焦于动态对象池这一核心技术方案,它通过逻辑控制器精准调度有限数量的图片单元,结合MaterialPropertyBlock避免材质实例化,有效控制Draw Call与内存占用。同时,配合自定义Shader与纹理Repeat模式,解决了接缝闪烁等视

weixin_30896511的博客 382

Unity无限翻页插件开发:对象池与视口裁剪实现高性能滚动列表

在Unity UI开发中,处理大量动态数据列表时,传统分页方式常面临性能瓶颈。其核心原理是通过对象池技术复用UI元素,结合视口裁剪实现按需渲染,从而在有限内存下模拟无限滚动的视觉效果。这项技术能显著降低GC(垃圾回收)压力,提升应用流畅度,尤其适用于手游、信息流、电商列表等高交互场景。本文以Unity引擎为例,深入解析无限翻页插件的架构设计,涵盖ScrollRect事件监听、动态数据绑定及布局计算等关键实现,并分享性能优化与常见问题排查的工程实践,帮助开发者构建稳定高效的滚动列表解决方案。

weixin_32631179的博客 303

Unity UGUI超级滚动视图:对象池与动态复用实现高性能列表

在UI开发中,滚动列表是构建动态内容界面的基础组件,其性能直接影响用户体验。传统滚动视图一次性渲染所有列表项,导致内存与渲染开销随数据量线性增长,在移动端或大数据场景下极易引发卡顿。对象池技术通过复用已创建的UI元素,结合动态复用机制,实现了仅渲染可视区域内项的核心优化原理。这项技术能大幅降低内存占用与CPU开销,保障万级数据下的流畅滚动,其技术价值在于为聊天记录、商品列表、背包系统等高频交互场景提供了可扩展的高性能解决方案。本文以Unity UGUI为例,深入剖析了基于数据驱动与MVC变体架构的超级滚动视

weixin_31130435的博客 315

Unity无限滚动列表:对象池与视口裁剪实现高性能UI

在游戏开发与前端界面设计中,处理海量数据列表的渲染性能是核心挑战。对象池(Object Pooling)作为一种经典的设计模式,通过复用已创建的对象实例,避免了频繁的实例化与销毁操作,从而显著降低内存开销与GC压力。其技术价值在于为动态内容加载提供了恒定可控的性能基线。结合视口裁剪(Viewport Culling)技术,系统仅计算并渲染当前可视区域内的UI元素,实现了按需加载。这一组合方案广泛应用于聊天记录、排行榜、背包系统等需要展示大量条目的应用场景。本文基于Unity UGUI,深入解析如何将对象池与

weixin_28049429的博客 311

Unity对象池深度解析:从原理到高性能实现与实战避坑指南

在游戏开发中,性能优化是核心课题,而内存管理与对象生命周期控制是关键环节。对象池作为一种经典的设计模式,其原理是通过预先创建并复用对象实例,避免频繁的实例化与销毁操作,从而减少内存分配和垃圾回收压力,提升运行时效率。这一技术对于需要大量生成临时对象的场景,如子弹、特效、敌人等,具有显著的性能价值。在Unity引擎中,对象池的应用尤为广泛,它能够有效缓解因Instantiate和Destroy调用导致的GC卡顿问题,保障游戏帧率稳定。本文聚焦Unity对象池的通用实现方案,深入探讨泛型设计、生命周期管理、性能

weixin_27240351的博客 229

Unity3D赛车游戏+脚本基础

本章主要介绍Unity的基础开发流程以及涉及到的概念。这个过程需要我们学会编写一些游戏脚本,在这讲的过程中我们会完成一个赛车小游戏,因此,在讲述这些基本概念和流程的时候,会同时涉及到一点脚本的开发基础.在游戏,电影和动画中,都有一个渲染的帧率,电影是24帧/s,游戏大概是30帧/s(当然也有60帧/s的)。在unity里面1秒钟,Update方法执行了30次。1秒钟有30帧,帧与帧之所消耗的时间是不一样的,那么我如何知道上一帧用了多少时间?Time.deltaTime就是为了解决这个问题。

m0_58367586的博客 7660

STM32实战:ADXL345传感器驱动与数据采集全解析(IIC/SPI双模式适配)

本文详细解析了STM32驱动ADXL345传感器的全流程,包括IIC和SPI双模式适配、硬件连接、寄存器配置及数据采集处理。通过实战代码示例和常见问题排查指南,帮助开发者快速实现高精度加速度数据采集,适用于运动检测、姿态识别等多种嵌入式应用场景。

weixin_29171087的博客 315

用RFSoC ZU47DR搭建软件无线电原型:从零配置Vivado到生成第一个射频信号

本文详细介绍了如何使用Xilinx RFSoC ZU47DR开发板搭建软件无线电原型系统,从Vivado环境配置到生成首个射频信号的全流程。通过整合ARM处理器、FPGA逻辑和高速ADC/DAC,该平台为通信算法验证提供了高效解决方案,特别适合SDR开发者和通信工程师快速实现原型设计。

weixin_26763955的博客 594

告别玄学:手把手配置EtherCAT从站PDI接口与同步采样(含Sync/Latch信号实战)

本文详细解析了EtherCAT从站PDI接口配置与同步采样技术,涵盖微处理器通信与直接驱动IO模式选择、同步采样四大触发模式(SOF、Latch_in、Sync0/Sync1)及输出触发实战。通过伺服驱动器实例,帮助工程师突破配置难点,实现高精度同步控制,提升工业自动化系统性能。

weixin_30667649的博客 484

Simlink与PX4硬件在环仿真(HIL)实现

Simlink与PX4硬件在环仿真(HIL)实现 介于涉及的知识比较多,这里只是简单的介绍一下,更多内容可以参考阿木实验室《基于matlab模型开发》课程。 硬件在环HIL介绍 simlink与PX4通信实现 硬件在环HIL介绍 为来贯彻万物都可以用数学公式表示,我们以simlink的角度来看我们的无人机,那么UAV可以分为以下的几个模块: 传感器模型 滤波器模块 控制器模...

Zipout的博客 6211

MATLAB R2022b 安装教程

1. 下载安装先放资源链接,百度网盘太贵了不想续了,换了夸克网盘。1. 下载安装。

qq_51654158的博客 2万+

基于 51 单片机的智能手势控制小车设计与实现

智能手势控制小车以STC89C52RC 单片机为控制核心,通过手势识别模块采集用户手势指令,经单片机处理后驱动电机执行前进、后退、左转、右转等动作。该项目融合了传感器技术、单片机编程和电机驱动技术,具有成本低、易实现、互动性强的特点,适合作为嵌入式系统入门实践案例。本项目成功实现了基于 51 单片机的智能手势控制小车,通过 APDS-9960 模块采集手势信号,经单片机处理后驱动电机完成基本动作,验证了 “传感器 + 单片机 + 执行器” 的嵌入式系统设计思路。

weixin_42300449的博客 180

7.18 GART 与 GPUVM 对比:一颗 GPU 上两套页表的分工

本文横向对比AMD GPU上并存的GART与GPUVM两套页表。GART为内核专用,全局单一,线性单层结构,CPU同步直写;GPUVM为每进程48位地址空间,四级页表,含并发状态机,支持隔离与迁移。二者通过VMID区分,共享GMC硬件与PTE编码,分工互补。

图形/计算GPU的驱动与虚拟化技术分享园地 394

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

上一篇: 高并发场景下,6种方案,保证缓存和数据库的最终一致性!
下一篇: C++后台开发学习路线(已多人拿下腾讯后台开发)
Linux服务器开发
博客等级 码龄7年 610粉丝 589原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值