❝开头还是介绍一下群,如果感兴趣PolarDB ,MongoDB ,MySQL ,PostgreSQL ,Redis, OceanBase, Sql Server等有问题,有需求都可以加群群内有各大数据库行业大咖,可以解决你的问题。加群请联系 liuaustin3 ,(共3300人左右 1 + 2 + 3 + 4 +5 + 6 + 7 + 8 +9)(1 2 3 4 5 6 7群均已爆满,开8群近400 9群 200+,开10群PolarDB专业学习群100+)
在我们2025年调研,压测,业务测试,适配PolarDB for PG 后,以及成本核算后。我们已经准备全面往PolarDB for PG上去迁移。但在压测中,研发和软件架构师一个问题,让我必须解释一下为什么在压测PolarDB for PG 的时候明显的内存压不上去。
如果我记得没有错,当时同样的压力下,PostgreSQL的内存消耗达到了80%以上,而PolarDB for PG在同样的压力下,内存仅仅达到 60%不到,而且持续加压,内存也上不去。
公司研发和架构师,在追问我为什么,到底怎么回事PolarDB for PG 到底用了什么,内存使用率一直比较低。
其实这个问题,我早就预料到了,原因很明确,因为代理, PolarDB for PG的代理。
说到这个问题就得说PostgreSQL的一个周边工具,也是著名的代理,pgbouncer。其实很多人都知道,但在实际生产中很少用,我也问过一些人,为什么你们不用,他们说出两个字,麻烦。
哪里麻烦了,其实他们反馈是配置麻烦,开一个新库,加一个账号就要重新配置,还要配置免密,虽然在pgbouncer也是动态加载,但他们还是嫌弃麻烦。
那么关键为什么节省了内存,一句话链接的产生被遏制了,无论是PolarDB for PG 还是 PostgreSQL 每当一个客户建立链接的时候,PostgreSQL都会为这个链接产生一个fork,也就是我们熟悉的backend 后端进程。
PG是进程模式,每个链接的开启都会消耗客观的内存,且PG在客户端链接这块的默认配置和他对于长链接的支持让不少的链接的内存都能用到最大设置的内存的限制数。8MB,对于一些要对大sqL处理的,有设置到16MB等等。如果几千个链接上去,必然会损耗内存,这里我们还没有计算由于开出的一个个小块的内存回收后,分配不利的问题等等。所以PG要节省内存,要的就是连接复用。
pgbouncer中三种连接池的模式中statement是最有效节省内存的,但是基于业务逻辑,我们大部分情况都是使用transaction pooling 的模式,但是这样也能节省一些内存,相对于直连的模式。
而PolarDB for PostgreSQL 为什么能更省内存的核心秘籍就是直接使用了statement pooling 而且还避免了由于使用了此策略可能产生的业务语句业务逻辑由于拆分后的,语句执行先后次序混乱导致的业务逻辑错误的问题。
PolarDB for PG本身的代理本身加载了判断语句路由的功能,把事务里面的语句都打散后,会判断打散的语句路由的先后次序,放置出现和pgbouncer选择statement中容易出现的问题。
虽然PolarDB有多个节点,但提供最终一致性,如果发现数据在从节点的内存里面没有,代理就会将查询的语句导回到写节点中。
具体解决方案,
RO节点通过网络获取RW节点当前最大的CSN(Commit Sequence Number)。
RO节点根据RW节点的最大CSN构建强一致性只读视图,并等到RO节点事务状态回放到相应位点。
RO节点根据强一致性读视图判断数据可见性,给客户端返回结果。
通过上述的方案,大量的读都会被路由直接分离到读节点,当有多个读节点,会进行活跃链接数的判断,将读分散到多个RO节点,所以自然RW,也就是PG写库的内存在怎么压都上不去,因为根本用不到写库的内存,写库的内存持续维持低使用率,而通过serverless,PolarDB for PG还可以自动进行扩展RO节点,动态调整,读库的内存也上不去,这就是开发和架构询问为什么业务压测的时候,PG的内存达到80%以上的利用率,同样的配置PolarDB在标准一主一从的情况下,内存连60%都上不去的原因。
总结:要想PG在内存方面节省,不OOM
1 尽量加载pgbouncer的周边来化解postgresql的进程链接模式带来的内存消耗问题,减少分配过多的链接。
2 尽量有效的快速的回收不用的idle链接,这个可以写程序,或者通过PG的配置,或JAVA的JDBC部分来进行配置,都可以,但必须有效的进行idle链接的有效回收,释放被占用的链接内存。
3 如果在云上可以尝试通过polardb for PGl来化解,PG多节点的主从数据读取一致性,多RO节点的数据分配的问题,当然这里也需要说一句,RDS POSTGRESQL 现在直接支持pgboucner和duckdb从节点,来解决一部分PG对于OLAP问题的解决方案在云上的实现。
顺便小声说一句,阿里云polardb for PG 在代理上还有一个功能,不过我没有证实,回来等证实了,咱们在说。
置顶
外媒评论区疯狂了,开发人员各种观点---北美AI替换程序员引发境外程序员业界震动
MySQL 8 的老大难问题,从5.7延续至今,这个问题有这么难?
一篇为MySQL用户,分析版本核心差异的文章--8.028-8.4的差异
云上DBA是诸葛亮,云下的DBA是 关云长,此话怎讲? 4点变化直击要害
MongoDB 开始接客户应用系统 AI 改造的活了--OMG 这世界太疯狂
一篇将PostgreSQL 日志问题说的非常详细附带分析解决方案的文章 (翻译)
企业DBA 应该没听说过 Supabase,因为他不单纯 !!
Oracle 推出原生支持 Oracle 数据库的 MCP 服务器,助力企业构建智能代理应用
PolarDB MySQL SQL 优化指南 (SQL优化系列 5)
开发欺负我 Redis 的大 keys的问题,我一个DBA怎么解决?
IF-Club 你提意见拿礼物 AustinDatabases 破 10000
开发欺负我 Redis 的大 keys的问题,我一个DBA怎么解决?
OceanBase 相关文章
OceanBase 光速快递 OB Cloud “MySQL” 给我,Thanks a lot
和架构师沟通那种“一坨”的系统,推荐只能是OceanBase,Why ?
OceanBase Hybrid search 能力测试,平换MySQL的好选择
写了3750万字的我,在2000字的OB白皮书上了一课--记 《OceanBase 社区版在泛互场景的应用案例研究
OceanBase 6大学习法--OBCA视频学习总结第六章
OceanBase 6大学习法--OBCA视频学习总结第五章--索引与表设计
OceanBase 6大学习法--OBCA视频学习总结第五章--开发与库表设计
OceanBase 6大学习法--OBCA视频学习总结第四章 --数据库安装
OceanBase 6大学习法--OBCA视频学习总结第三章--数据库引擎
OceanBase 架构学习--OB上手视频学习总结第二章 (OBCA)
OceanBase 6大学习法--OB上手视频学习总结第一章
没有谁是垮掉的一代--记 第四届 OceanBase 数据库大赛
跟我学OceanBase4.0 --阅读白皮书 (OB分布式优化哪里了提高了速度)
跟我学OceanBase4.0 --阅读白皮书 (4.0优化的核心点是什么)
跟我学OceanBase4.0 --阅读白皮书 (0.5-4.0的架构与之前架构特点)
跟我学OceanBase4.0 --阅读白皮书 (旧的概念害死人呀,更新知识和理念)
OceanBase 学习记录-- 建立MySQL租户,像用MySQL一样使用OB
“合体吧兄弟们!”——从浪浪山小妖怪看OceanBase国产芯片优化《OceanBase “重如尘埃”之歌》
MongoDB 相关文章
MongoDB “升级项目” 大型连续剧(4)-- 与开发和架构沟通与扫尾
MongoDB “升级项目” 大型连续剧(3)-- 自动校对代码与注意事项
MongoDB “升级项目” 大型连续剧(2)-- 到底谁是"der"
MongoDB “升级项目” 大型连续剧(1)-- 可“生”可不升
MongoDB 大俗大雅,上来问分片真三俗 -- 4 分什么分
MongoDB 大俗大雅,高端知识讲“庸俗” --3 奇葩数据更新方法
MongoDB 大俗大雅,高端的知识讲“通俗” -- 2 嵌套和引用
MongoDB 大俗大雅,高端的知识讲“低俗” -- 1 什么叫多模
MongoDB 合作考试报销活动 贴附属,MongoDB基础知识速通
MongoDB 使用网上妙招,直接DOWN机---清理表碎片导致的灾祸 (送书活动结束)
MongoDB 2023年度纽约 MongoDB 年度大会话题 -- MongoDB 数据模式与建模
MongoDB 双机热备那篇文章是 “毒”
MongoDB 会丢数据吗?在次补刀MongoDB 双机热备
MONGODB ---- Austindatabases 历年文章合集
MongoDB 麻烦专业点,不懂可以问,别这么用行吗 ! --TTL
PolarDB 已经开放的课程
PolarDB 非官方课程第八节--数据库弹性弹出一片未来--结课
PolarDB 非官方课程第七节--数据备份还原瞬间完成是怎么做到的--答题领奖品
PolarDB 非官方课程第六节--数据库归档还能这么玩--答题领奖品
PolarDB 非官方课程第五节--PolarDB代理很重要吗?--答题领奖品
PolarDB 非官方课程第四节--PG实时物化视图与行列数据整合处理--答题领奖品
PolarDB 非官方课程第三节--MySQL+IMCI=性能怪兽--答题领奖品
PolarDB 非官方课程第二节--云原生架构与特有功能---答题领奖品
PolarDB 非官方课程第一节-- 用户角度怎么看PolarDB --答题领奖品
免费PolarDB云原生课程,听课“争”礼品,重塑云上知识,提高专业能力
PolarDB 相关文章
非“厂商广告”的PolarDB课程:用户共创的新式学习范本--7位同学获奖PolarDB学习之星
“当复杂的SQL不再需要特别的优化”,邪修研究PolarDB for PG 列式索引加速复杂SQL运行
数据压缩60%让“PostgreSQL” SQL运行更快,这不科学呀?
这个 PostgreSQL 让我有资本找老板要 鸡腿 鸭腿 !!
用MySQL 分区表脑子有水!从实例,业务,开发角度分析 PolarDB 使用不会像MySQL那么Low
MySQL 和 PostgreSQL 可以一起快速发展,提供更多的功能?
“PostgreSQL” 高性能主从强一致读写分离,我行,你没戏!
POLARDB 添加字段 “卡” 住---这锅Polar不背
PolarDB 版本差异分析--外人不知道的秘密(谁是绵羊,谁是怪兽)
PolarDB 答题拿-- 飞刀总的书、同款卫衣、T恤,来自杭州的Package(活动结束了)
PolarDB for MySQL 三大核心之一POLARFS 今天扒开它--- 嘛是火
PostgreSQL 相关文章
PostgreSQL 新版本就一定好--由培训现象让我做的实验
说我PG Freezing Boom 讲的一般的那个同学,专帖给你,看看这次可满意
邦邦硬的PostgreSQL技术干货来了,怎么动态扩展PG内存 !
3种方式 PG大版本升级 接锅,背锅,不甩锅 以客户为中心做产品
"PostgreSQL" 不重启机器就能调整 shared buffer pool 的原理
说我PG Freezing Boom 讲的一般的那个同学专帖给你看这次可满意
PostgreSQL Hybrid能力岂非“小趴菜”数据库可比 ?
PostgreSQL 新版本就一定好--由培训现象让我做的实验
PostgreSQL 无服务 Neon and Aurora 新技术下的新经济模式 (翻译)
“PostgreSQL” 高性能主从强一致读写分离,我行,你没戏!
PostgreSQL 添加索引导致崩溃,参数调整需谨慎--文档未必完全覆盖场景
PostgreSQL SQL优化用兵法,优化后提高 140倍速度
PostgreSQL 运维的难与“难” --上海PG大会主题记录
PostgreSQL 什么都能存,什么都能塞 --- 你能成熟一点吗?
全世界都在“搞” PostgreSQL ,从Oracle 得到一个“馊主意”开始
PostgreSQL 加索引系统OOM 怨我了--- 不怨你怨谁
PostgreSQL “我怎么就连个数据库都不会建?” --- 你还真不会!
病毒攻击PostgreSQL暴力破解系统,防范加固系统方案(内附分析日志脚本)
PostgreSQL 远程管理越来越简单,6个自动化脚本开胃菜
PostgreSQL 稳定性平台 PG中文社区大会--杭州来去匆匆
PostgreSQL 分组查询可以不进行全表扫描吗?速度提高上千倍?
POSTGRESQL --Austindatabaes 历年文章整理
PostgreSQL 查询语句开发写不好是必然,不是PG的锅
PostgreSQL 字符集乌龙导致数据查询排序的问题,与 MySQL 稳定 "PG不稳定"
PostgreSQL Patroni 3.0 新功能规划 2023年 纽约PG 大会 (音译)
PostgreSQL 玩PG我们是认真的,vacuum 稳定性平台我们有了
PostgreSQL DBA硬扛 垃圾 “开发”,“架构师”,滥用PG 你们滚出 !(附送定期清理连接脚本)
这个 PostgreSQL 让我有资本找老板要 鸡腿 鸭腿 !!
MySQL相关文章
一篇为MySQL用户,分析版本核心差异的文章--8.028-8.4的差异
那个MySQL大事务比你稳定,主从延迟低,为什么? Look my eyes! 因为宋利兵宋老师
MySQL 的SQL引擎很差吗?由一个同学提出问题引出的实验
用MySql不是MySQL, 不用MySQL都是MySQL 横批 哼哼哈哈啊啊
MYSQL --Austindatabases 历年文章合集
超强外挂让MySQL再次兴盛,国内神秘组织拯救MySQL行动
临时工访谈系列
没有谁是垮掉的一代--记 第四届 OceanBase 数据库大赛
SQL SERVER 系列
沧海要,《SQL SERVER 运维之道》,清风笑,竟惹寂寥
SQL SERVER 如何实现UNDO REDO 和PostgreSQL 有近亲关系吗
未知黑客通过SQL SERVER 窃取企业SAP核心数据,影响企业运营
数据库优化系列
MongoDB 查询 优化指南 四句真言 (查询 优化系列 4)
MySQL SQL 优化指南 SQL 四句真言(优化系列 3)
SQL SERVER SQL 优化指南 四句真言 (SQL 优化系列 2)
PostgreSQL SQL 优化指南 四句真言(SQL 优化系列 1)
杂谈
从 Universal 环球影城 到 国产数据库产品 营销 --驴唇对马嘴
微软动手了,联合OpenAI + Azure 云争夺AI服务市场
HyBrid Search 实现价值落地,从真实企业的需求角度分析 !不只谈技术!
从“小偷”开始,不会从“强盗”结束 -- IvorySQL 2025 PostgreSQL 生态大会
被骂后的文字--技术人不脱离思维困局,终局是个 “死” ? ! ......
个群2025上半年总结,OB、PolarDB, DBdoctor、爱可生、pigsty、osyun、工作岗位等
从MySQL不行了,到乙方DBA 给狗,狗都不干? 我干呀!
SQL SERVER 2025发布了, China幸亏有信创!
删除数据“八扇屏” 之 锦门英豪 --我去-BigData!
写了3750万字的我,在2000字的OB白皮书上了一课--记 《OceanBase 社区版在泛互场景的应用案例研究》
疯狂老DBA 和 年轻“网红” 程序员 --火星撞地球-- 谁也不是怂货

922

被折叠的 条评论
为什么被折叠?



