达梦分布式集群
文章平均质量分 94
介绍达梦分布式DPC集群各种原理内容
yxy___
从事数据库行业,专注于数据库。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
达梦分布式集群DPC_两地三中心架构分析(容灾)_yxy
在一些系统运行时,任何微小的服务中断或数据丢失都可能带来巨大的经济损失和信誉风险比如银行系统中断会导致支付失败,医院系统中断会导致挂号失败等数据库多中心就是为了防止出现各种意外问题,设置多个拥有全量数据的中心(挂一个中心,其他中心还有全量数据,不影响服务运行和不会造成数据丢失遇到核心场景,系统的高可用性和数据可靠性就变的非常重要,多中心就很重要了不管什么架构,最终都是在确定需要多少全量副本(容错),副本放的位置在哪。原创 2025-10-21 15:48:24 · 774 阅读 · 0 评论 -
达梦分布式集群DPC_并行介绍_yxy
达梦分布式集群DPC并行执行技术通过任务分解和资源调度实现高效数据处理。其并行机制分为两类:基于子表数的并行(如分区智能连接)和表内并行(数据块级并行)。分区智能连接通过相同分区策略避免跨节点传输,提升连接效率;并行插入则受子表数量限制。表内并行通过随机策略分配数据块,实现单站点多线程处理。执行计划分析显示,GI节点的PART_UNIT策略确定扫描粒度,而线程监控可验证并行度配置。该技术充分利用CPU、内存、I/O等资源,有效突破单机性能瓶颈。原创 2025-10-14 10:02:29 · 962 阅读 · 0 评论 -
达梦分布式集群DPC_优化案例01_yxy
达梦分布式集群优化案例摘要 本案例针对达梦分布式集群(3BP+1SP+1MP)中一个涉及27亿行FLD表和1亿行S表的复杂SQL查询进行优化。优化思路包括: 分区裁剪优化:对FTIME和STIME列采用范围分区,减少不必要的数据扫描 分区智能连接(PWJ):对PNO列采用HASH二级分区,实现高效连接 并发控制:通过hint调整分发方式(L_NO_R_NO和l_bro)和并行度(16/32) 索引优化:创建覆盖索引并异步重建 优化后执行计划分析显示: PWJ优化版本耗时324秒,连接无分发操作,但并发受限于原创 2025-09-23 20:56:52 · 376 阅读 · 0 评论 -
达梦分布式集群DPC_表设计_yxy
低效的分析查询: 执行 SELECT AVG(salary) FROM employees 这类查询时,需要读取整行数据(包含所有列),即使只关心 salary 一列,造成大量不必要的数据I/O。③更新可能导致行迁移: 行变长导致原位置空间不足时,行会被移动到新位置,原位置留下指向新位置的指针,增加后续访问的I/O。数据库优化基本思路、索引详解、执行计划、统计信息、CBO原理、单表优化、多表优化、分布式优化、子查询、优化案例等。原创 2025-09-02 08:49:13 · 773 阅读 · 0 评论 -
达梦分布式集群DPC_分布式架构思想_yxy
本文分析了传统数据库架构的瓶颈问题,包括存储容量、磁盘IO和计算能力限制,并提出了分布式架构的解决方案。分布式架构通过数据分片、并行处理和负载均衡,显著提升了数据库的扩展性和性能。文章以达梦分布式集群为例,详细解析了不同SQL操作(如数学计算、排序和大表连接)在分布式环境下的执行过程和资源分配情况,强调理解SQL执行计划对优化分布式数据库性能的重要性。最后提供了数据库优化、达梦分布式和应用开发等专栏的扩展阅读链接。原创 2025-08-26 08:47:35 · 409 阅读 · 0 评论 -
达梦分布式集群DPC_故障分析_yxy
本文分析了达梦分布式集群DPC在不同节点故障场景下的表现。首先回顾了DPC基于Raft协议的核心机制,包括角色划分、日志复制流程和关键参数。接着详细描述了三种故障场景:1)主库故障时,副本通过选举机制重新选主的过程;2)少数备库故障不影响主库读写;3)多数节点故障导致服务不可用,包括仅剩一个备库时会持续选举失败,以及主库在多数备库故障时会转为只读模式。最后提供了数据库优化和达梦分布式数据库相关专栏的链接。全文通过具体日志和参数配置,展示了DPC集群的故障恢复机制。原创 2025-08-19 08:53:29 · 1047 阅读 · 0 评论 -
达梦分布式集群DPC_RAFT协议_yxy
摘要:本文详细介绍了达梦分布式集群DPC中采用的RAFT协议,包括其核心概念、实现方式和故障处理机制。RAFT协议通过领导者选举、日志复制、日志提交和安全性保障确保分布式系统的高可用性和数据一致性。文章阐述了选举规则、日志复制流程、提交机制及安全特性,并针对备库和主库故障场景提出了解决方案。达梦DPC通过RAFT协议实现了多副本数据同步、自动故障切换和数据一致性保障,是分布式数据库高可用特性的关键技术支撑。原创 2025-08-12 11:31:35 · 731 阅读 · 0 评论 -
达梦分布式集群DPC_分布式任务执行拆分流程_yxy
本文介绍了达梦分布式集群(DPC)的任务拆分执行流程。DPC采用SP(计算节点)+MP(元数据节点)+BP(数据存储节点)的三层架构,通过将大任务拆分为多个子任务并行执行来提高性能。以单表查询为例,SP节点生成分布式执行计划,将任务分发到存储表数据的不同BP节点上执行,最后汇总结果返回给客户端。文章详细解析了任务拆分和执行的完整过程,包括执行计划生成、任务分发、并行执行和数据汇总等关键步骤,并提供了查看子任务执行情况的方法。原创 2025-08-05 10:03:29 · 852 阅读 · 0 评论 -
达梦分布式集群DPC_SQL执行流程_yxy
达梦分布式集群DPC的SQL执行流程采用计算-存储分离架构,由SP计算节点、MP元数据节点和BP存储节点协同完成。SP接收SQL请求后,经过语法检查、语义检查和计划缓存检查,未命中则进入优化器阶段进行查询改写、CBO代价计算和分布式计划生成,最终转换为可执行代码。执行时SP拆分计划并调度BP执行子任务,汇总结果返回客户端。该架构支持横向扩展,通过RAFT协议保障高可用,优化器考虑网络代价直接生成分布式最优计划,实现高效查询处理。原创 2025-07-29 08:54:58 · 979 阅读 · 0 评论 -
达梦分布式集群DPC_DPC线程深度解析_yxy
EXEC_ID 执行号,STASK_NO 子任务序号,THRD_NO 工作线程序号,THRD_ID 工作线程id , SESS_ID 会话号。通过DPC_STASK_THRD找出执行号的每个子任务和线程信息,可以找出关键线程并打印堆栈,方便后续进行问题定位。数据库优化基本思路、索引详解、执行计划、统计信息、CBO原理、单表优化、多表优化、分布式优化、子查询、优化案例等。看每个子任务、每个线程的执行统计信息。目前已有专用线程池:SESS,ESESS,PTHD,NTSK,四个线程池均从底层公共线程池申请线程。原创 2025-07-14 11:42:08 · 911 阅读 · 0 评论 -
达梦分布式集群DPC_DPC内存深度解析_yxy
达梦分布式集群DPC内存管理解析 摘要:本文深入解析达梦分布式集群(DPC)的内存架构,重点介绍DPC独有的XBOX通信内存模块。DPC内存分为XBOX、全局内存池、缓冲区、哈希/排序区等核心模块。XBOX作为节点间通信的关键内存区域,用于SQL数据传输、RAFT日志同步等场景,其性能直接影响集群稳定性。文章详细剖析了XBOX的工作原理、监控视图(V$XBOX)及相关参数配置建议,包括限流参数(MPP_MOTION_SYNC)、内存阈值(XBOX_DUMP_THRESHOLD)等优化设置。同时提供了XBOX原创 2025-06-30 15:14:38 · 865 阅读 · 0 评论 -
达梦分布式集群DPC_DPC的执行计划新增操作符详解_yxy
分布式执行计划详解原创 2025-06-14 10:40:08 · 1151 阅读 · 0 评论 -
达梦分布式集群DPC_分布式事务理解_yxy
DPC基于RAFT一致性协议实现多副本数据同步,每个BP组构成一个RAFT组(如3节点组),主库通过异步日志传输(XMAL模块)将Redo日志同步至备库,确保数据强一致。若BP1提交成功但BP2尚未提交,T2可能读到BP1已提交但BP2未提交的中间状态数据(如A扣款成功但B未到账),破坏事务隔离性(如“读未提交”)。数据库优化基本思路、索引详解、执行计划、统计信息、CBO原理、单表优化、多表优化、分布式优化、子查询、优化案例等。两阶段提交SP(计算节点) 作为全局事务的协调者,统一处理全局事务。原创 2025-06-01 16:45:09 · 1059 阅读 · 0 评论 -
达梦分布式集群DPC_架构详解_yxy
DMDPC 架构由三部分组成SP(SQL Processor):计算节点MP(Metadata Processor):元数据节点BP(Backend Processor):数据存储节点SP①对外提供分布式数据库服务,用户可以登录到任意一个 SP 节点,获得完整的数据库服务;②不存储数据,所以SP都是单机,可以横向扩展(多个SP节点),不能多副本;BP①负责存储表真实数据,一般是多副本;②执行 SP 的调度指令并将执行结果返回给 SP;MP。原创 2025-02-12 14:09:50 · 1864 阅读 · 5 评论 -
达梦分布式集群DPC_表分区最佳实践_yxy
分布式数据库中,表该怎么分区原创 2025-02-08 16:53:40 · 1299 阅读 · 0 评论 -
达梦分布式集群DPC_表分区方式详细介绍_yxy
详细介绍每个分区创建方式和优劣势分析原创 2025-02-07 16:46:00 · 1276 阅读 · 0 评论 -
达梦分布式集群DPC使用心得_yxy
达梦分布式使用心得,详细介绍DMDPC使用注意事项原创 2024-12-09 20:49:31 · 1064 阅读 · 0 评论 -
达梦分布式集群DPC核心特性理解_yxy
详细介绍一些达梦分布式的5个特性,相比于其他单机库的优势原创 2024-12-05 20:39:37 · 1163 阅读 · 0 评论 -
达梦分布式集群DPC备份还原实战_yxy
达梦分布式集群DPC的整库和单副本备份还原实操原创 2024-11-27 14:25:55 · 840 阅读 · 0 评论 -
达梦分布式集群DPC部署详细步骤(DEM)_yxy
部署前先简单介绍一下DPC,方便后续部署时能正确理解。原创 2024-11-15 22:08:07 · 1430 阅读 · 0 评论
分享