Apache Doris 实战:PostgreSQL + Doris 构建 HTAP 架构配置指南

多维聚合实战:从SQL GROUP BY到OLAP立方体的工程化落地 多维聚合是现代数据分析的核心能力,本质是通过维度建模与度量定义,在保留数据颗粒度的前提下实现任意切片、钻取与交叉分析。其技术原理根植于OLAP立方体模型,依赖维度层级、事实表粒度与可加性度量的协同设计。相比传统GROUP BY的静态降维,多维聚合提供动态探查能力,显著提升BI响应速度与分析灵活性。在工程实践中,它支撑销售归因、用户行为路径、财务成本分摊等高频场景,并深度融入Pandas多维操作、ClickHouse物化视图及StarRocks分布式聚合等现代工具链。本文聚焦多维聚合的数据操作心法与生产级避坑 阅读详情

PostgreSQL 擅长事务处理但不擅长分析。Apache Doris MOW 引擎在 25% 更新场景下比 ClickHouse 快 25 倍。森马 QPS 提升 400%(8000+ 门店 16 条业务线),天眼查延迟降低 70%(3 亿公司)。本文拆解 HTAP 架构的数据同步策略、表结构设计和工作负载隔离配置。

关键词:Apache Doris · PostgreSQL · HTAP · MOW 引擎 · SelectDB · 数据同步 · 工作负载隔离 · 分库分表


为什么 PostgreSQL 不擅长实时分析?

PostgreSQL 分库分表解决了事务型扩展,但分析场景暴露六大局限:

问题原因影响
分析效率低跨分库 JOIN 需拼接分片查询延迟高
成本高昂TP 存储侧重性能非成本存储成本高
隔离性缺失分析挤占 TP 资源影响交易响应
存储冗余MVCC Append-Only 模式表膨胀,I/O 激增
垃圾回收低效Autovacuum 难调优长事务阻塞
高并发瓶颈Process-per-Connection线性扩展差

HTAP 架构设计

核心思想:事务与分析在物理上分离。PostgreSQL 处理事务,Apache Doris 处理分析。

数据同步策略

-- 全量同步:DataX/Sqoop 初始化
-- 读取 PG 分库分表全量数据,批量写入 Doris

-- 增量同步:Flink CDC 捕获 INSERT/UPDATE/DELETE
-- 支持断点续传、数据去重

-- Doris 端表结构设计
CREATE TABLE orders_htap (
    order_id BIGINT,
    user_id BIGINT,
    region VARCHAR(16),
    amount DECIMAL(18,2),
    status VARCHAR(16),
    dt DATE,
    ts DATETIME
) ENGINE=OLAP
UNIQUE KEY(order_id)  -- MOW 引擎,行级实时更新
PARTITION BY RANGE(dt) (
    PARTITION p202607 VALUES [("2026-07-01"),("2026-08-01"))
)
DISTRIBUTED BY HASH(user_id) BUCKETS 32;

MOW 引擎配置

-- Merge-on-Write 引擎特性
-- 数据写入时即完成合并,更新后秒级可见
-- 支持 INSERT/DELETE/UPDATE/UPSERT
-- 与 CDC 工具无缝协作

-- Aggregate 表引擎(离线分析预聚合)
CREATE TABLE daily_summary (
    dt DATE,
    region VARCHAR(16),
    total_amount DECIMAL(18,2) SUM,
    order_count BIGINT SUM
) ENGINE=OLAP
AGGREGATE KEY(dt, region)
DISTRIBUTED BY HASH(dt) BUCKETS 10;

性能验证

SSB Benchmark(25% 更新场景)

引擎性能对比
Apache Doris MOW基准
ClickHouseDoris 快 25 倍

Doris MOW 在写入时对数据排序、编码、合并,查询时无需扫描增量日志或即时合并。

客户收益

企业替换方案规模收益
森马ES + MySQL → SelectDB8000+ 门店 16 条业务线QPS +400%,秒级响应
天眼查Hive+MySQL+PG+ES → Doris3 亿公司 300+ 维度延迟 -70%,写入 +75%

工作负载隔离配置

-- TP 和 AP 物理独立集群
-- PostgreSQL 专注事务,Doris 承担分析

-- Workload Group 资源隔离
CREATE WORKLOAD GROUP IF NOT EXISTS 'realtime_dashboard'
PROPERTIES ("cpu_share" = "8", "memory_limit" = "50%");

CREATE WORKLOAD GROUP IF NOT EXISTS 'batch_etl'
PROPERTIES ("cpu_share" = "4", "memory_limit" = "30%");

存储分层配置

-- 存算分离:本地缓存 + 远端对象存储
-- 热数据缓存在本地 SSD,冷数据沉降 S3/OSS

-- 存算一体:热 SSD + 冷 HDD
-- 热数据高性能,冷数据低成本

PROPERTIES (
    "storage_medium" = "ssd",
    "storage_cooldown_time" = "7d"  -- 7 天后转 HDD
);

HTAP 部署 Checklist

序号步骤配置
1全量同步DataX/Sqoop 初始化数据
2增量同步Flink CDC 捕获变更
3Doris 表设计MOW + 分区 + 分桶
4索引配置倒排索引 + Bloom Filter
5工作负载隔离Workload Group
6存储分层热SSD/冷HDD 或 存算分离
7查询验证SSB/TPC-H Benchmark

相关阅读

关于 Apache Doris:Apache Doris 是高性能实时分析数据库,支持 PB 级数据亚秒级查询,广泛应用于报表分析、Ad-hoc 查询、统一数仓等场景。SelectDB 是 Apache Doris 的商业化公司,提供企业级支持和云服务。欢迎加入 Doris 社区 交流更多实践。

宝塔 Apache 部署 Node.js 项目:挂到子路径,不影响同机其他站点 阅读详情

相关推荐

【信息科学与工程学】【数据中心】第三十五篇 云计算数据中心的学科知识04

编号学科(课程)核心知识点在云计算/云存储/云网络/云安全/云MaaS中的作用代表教材/资料/论文 + 数学方程式列表工业界应用D1421​云原生数据库:TiDB​HTAP(混合事务/分析处理)、分布式SQL、水平扩展、强一致(Raft)、自动故障恢复、与MySQL兼容、TiFlash列式引擎提供弹性扩展的分布式数据库;支撑高并发在线交易与实时分析教材:《TiDB in Action》PingCAP(2020) 论文:《TiDB: A Raft-based HTAP Database》(2017)

weixin_49199313的博客 398

PostgreSQL + Apache Doris:构建用于实时分析的 HTAP 架构

像 PostgreSQL 和 MySQL 这样的 OLTP(在线事务处理)数据库,凭借其强一致性和高并发事务处理能力,已成为行业标准。为应对更大规模的工作负载,许多团队还会引入分库分表方案,将数据分布到多个实例和表中,以此突破单节点瓶颈。然而,这种对事务行之有效的方案,在实时分析需求(实时运营仪表盘、多维业务报告、用户行为分析和实时监控)面前却暴露出明显短板。问题的关键不在于将 PostgreSQL 数据库扩展到其设计范围之外的用途,而是在其旁构建一个专用的分析层。本文将介绍如何将 PostgreSQL 与

SelectDB 573

【信息科学与工程学】计算机科学与自动化——第三百零四篇 高性能系统开发指南01

高并发:限流、熔断、降级高性能:红包拆分、多级缓存、大Key/热Key拆分、Pipeline、线程池、RocketMQ零丢失、幂等、分布式锁、集群缩容、分批入库海量数据处理:日志分表分片、跨表查询、冷热分层、大数据引擎服务器选型系统安全:网关安全、服务器安全、云存储安全、风控、监控、测试数据一致性:缓存与数据库一致性、大厂方案、蓝绿回滚、流量一致性、流程一致性项目与团队管理:流程问题、管理问题(风险、成本、人员、文档、培训)稳定性建设:上线三板斧、线上五步闭环、混沌工程、容量规划。

weixin_49199313的博客 249

PostgreSQL + Apache Doris HTAP 架构:技术能力、选型对比与企业实践

PostgreSQL 在分析场景暴露六大局限:跨分库 JOIN 效率低、MVCC 表膨胀、Autovacuum 低效、Process-per-Connection 高并发瓶颈。Apache Doris MOW 引擎在 25% 更新场景比 ClickHouse 快 25 倍。森马 8000+ 门店 QPS 提升 400%,天眼查 3 亿公司延迟降低 70%。:Apache Doris · PostgreSQL · HTAP · MOW 引擎 · 工作负载隔离 · SelectDB · 分库分表 · 实时分析。

SelectDB 1128

【AI】使用Cursor和AI编程生成的VUE前端框架

本项目是一个基于VUE.js的前端框架,结合了登录、图形验证码、权限校验等常用功能模块。通过与Cursor AI交互生成的代码,展示了AI在编程中的潜力与效率。

清欢渡的博客 9860

GNSS接收机性能测试全攻略:从实验室到真实场景

本文系统介绍了GNSS接收机从实验室到真实场景的完整性能测试流程。首先通过GNSS模拟器进行射频传导测试,评估接收机的基础性能;其次进行天线OTA测试,考察整机系统表现;最后通过精心设计的外场路测,在复杂环境中验证其实际定位精度与可靠性。文章强调,只有结合可控的实验室验证与多变的外场挑战,才能对接收机性能做出全面、真实的评价。

weixin_28365523的博客 510

Apache Doris 4.0.4:解锁数据管理新境界

JSON 处理也得到增强,新增多个函数改进规范化和哈希,还支持 `GROUP BY` 和 `DISTINCT`,增强型时间处理简化了 BI 工作负载中的时间分析。Apache Doris 4.0.4 版本由超 200 位社区贡献者构建,标志着其在数据管理领域的重要进步。Apache Doris 4.0.4 版本功能全面升级,在搜索、分析、数据处理和集成等方面表现出色。随着数据需求增长,其有望成为数据管理领域的有力竞争者,推动行业发展。支持 Iceberg 系统表,可查看清单元数据,还实现快照管理和表优化。

web3times的博客 49

HHD Device Monitoring Studio:破解版在串口调试中的实战应用

本文详细介绍了HHD Device Monitoring Studio破解版在串口调试中的实战应用,包括安装指南、串口监控功能解析、Modbus RTU协议分析案例以及自定义协议解析技巧。通过具体操作步骤和性能优化建议,帮助开发者高效完成端口监控和调试任务,提升工作效率。

weixin_29268331的博客 935

腾讯云TDSQL三大引擎解析:HTAP、分布式与单机如何选型

数据库技术发展至今,OLTP(联机事务处理)与OLAP(联机分析处理)的架构分离长期是主流方案,前者保障高并发事务的ACID特性,后者优化海量数据的复杂分析查询。然而,数据同步延迟与运维复杂度催生了HTAP(混合事务/分析处理)架构的兴起,其核心原理在于通过计算存储分离、行列混合存储等技术,在同一套系统中兼顾实时事务与即时分析。这种架构的技术价值在于简化数据栈、降低ETL成本,并支撑实时决策场景,如实时风控、动态报表等。腾讯云TDSQL正是基于此理念,通过“一套内核,三种引擎”的差异化设计,将HTAP、分布

weixin_30652491的博客 385

微型纵向加密在新能源场站中的实战部署与运维避坑指南

本文详细解析了微型纵向加密在新能源场站中的实战部署与运维技巧。通过国密算法SM4实现数据加密,确保新能源场站通信安全,同时提供非侵入式部署方案和运维避坑指南,帮助提升网络稳定性和运维效率。

weixin_30505225的博客 595

【STM32】BLDC驱动&控制开发笔记 | 07_SPI通信测试 - STM32F407用SPI配置DRV8323驱动芯片

使用STM32F407的SPI通信功能配置DRV8323S驱动芯片的详细过程说明。

这里是 F菌的进阶之路。 6288

腾讯云TDSQL“一套内核三种形态”解析:如何统一应对OLTP、OLAP与HTAP场景

在数据库技术领域,OLTP(联机事务处理)与OLAP(联机分析处理)是两大核心范式。OLTP专注于高并发、低延迟的事务操作,保障数据强一致性,支撑电商、金融等核心交易系统;OLAP则面向海量数据的复杂分析与查询,通过列式存储、MPP并行计算等技术实现高性能数据分析。随着业务对实时数据分析需求的增长,HTAP(混合事务/分析处理)架构应运而生,旨在统一平台处理混合负载,避免传统ETL链路带来的数据延迟与架构复杂度。腾讯云TDSQL提出的“一套内核,三种形态”架构,正是基于统一内核技术,通过TDSQL-C、TD

weixin_30546189的博客 432

UE5 GAS 学习笔记 1.2游戏标签

这一节对GameplayTag游戏标签进行详细的讲解。

CloudHuCoding 1927

Apache Flink 零基础

低代码、易开发、易维护、可读性强,适配实时数仓分层、指标统计、数据清洗、多源数据关联等绝大多数业务场景,支持Kafka、Doris、MySQL、Hive等主流组件读写,是企业实时开发主流方案。:接收客户端提交的实时/离线任务、解析任务逻辑、生成DAG执行流程图、分配集群资源、调度任务运行、管理Checkpoint/Savepoint、处理任务故障重启、协调集群节点状态。手动触发的状态快照,主要用于任务升级、代码迭代、版本更新、集群迁移、任务重启等运维操作,保证业务无感知、数据不错乱、任务无缝恢复。

2402_85354210的博客 314

实现端到端加密的WebRTC视频会议终端

需要注意的是,上述示例代码中没有涉及到具体的加密算法和密钥交换过程,而是通过WebRTC API自动处理了加密和密钥交换的细节。然后,我们通过信令服务器将本地SDP发送给对方,并接收对方的SDP。最后,我们将对方的SDP设置为远程描述,并将最终的连接建立起来。最后,我们将对方的SDP设置为远程描述,并建立最终的连接。在本文中,我们将探讨如何使用WebRTC构建一个加密的视频会议终端,并提供相应的源代码。在本文中,我们将探讨如何使用WebRTC构建一个加密的视频会议终端,并提供相应的源代码。

WaJulia的博客 432

XSS漏洞之PDF生成:从XSS到服务端任意文件读取

XSS是最为常见的Web漏洞之一,多年来连续入选OWASP TOP10,相信大家都耳熟能详。 它是一种代码注入类的攻击,是一种客户端侧的攻击,攻击者通过在Web应用中注入恶意JavaScript代码,通过点击URL,最终在受害者浏览器端执行的一种漏洞。主要有反射型XSS、存储型XSS、基于DOM的XSS三类。XSS一些比较常规的危害大概有:重定向浏览器、窃取Cookie、浏览器劫持等。本文章侧重于发现XSS后的进一步利用。 主要介绍在某次实际测试过程中,发现XSS漏洞之后,如何进一步的利用,最终通过XSS达

计算机毕业论文源码,学生个人网页制作html源码。贴近用户做网络推广和互联网优化。 3777

深入 Apache Hudi Write Operations:一次 Upsert 到底经历了什么?

Apache Hudi Write Operations

喻师傅的学习笔记 663

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

每天认识一个组件:Apache Flink

Flink 的核心价值不只是“实时”,而是把持续数据流、事件时间、业务状态和一致恢复放入同一个分布式运行时中。对于实时指标、持续 ETL、CDC、欺诈检测和事件驱动应用,它提供了一套比“消息队列加手工状态管理”更完整的计算模型。

weixin_47983718的博客 622

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

Apache Doris 与 SelectDB 是什么关系?从开源技术到面向 Agent 的极速分析数据库

Apache Doris 与 SelectDB 是什么关系?了解二者的开源技术渊源,以及 SelectDB Cloud、Enterprise、阿里云瑶池数据库 SelectDB、信创适配与面向 Agent 的极速分析数据库能力。

SelectDB 482

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

每天认识一个组件:Apache StreamPark

StreamPark 解决的核心问题,不是如何执行流计算,而是如何让流处理应用以统一、可管理的方式进入生产环境,它把 Flink 应用开发与运维中的重复工作收拢到统一控制面。

weixin_47983718的博客 477

WPS/Office Word客户端设置文档打开密码,Apache POI 解密—— 原理、实现与踩坑实录

本文介绍基于Apache POI 5.4.1实现的DocxDecryptor工具类,解决金融文档解析中加密docx的打开密码问题。核心原理:通过文件头判断是否为OLE2加密容器,仅支持ECMA-376标准的standard/agile加密模式,拒绝非标加密。关键在于verifyPassword()与getDataStream()必须使用同一Decryptor实例,否则解密失败。实录三大踩坑点:流需支持mark(用BufferedInputStream)、Decryptor不可复用、解密流仅可读一次。提供清晰

学习/总结 399

Apache Flink 2.3.0(最新版本)

Flink是一个用于无界与有界数据流的有状态分布式处理引擎,具备内存级执行速度和弹性扩展能力。其核心特性包括“边来边算”的无界流处理、统一批流处理的有界流模型,以及高效的状态管理。Flink起源于柏林的Stratosphere研究项目,2014年成为Apache顶级项目,阿里巴巴的Blink分支在SQL性能与支持方面贡献显著,推动了Flink SQL的发展。Flink 2.0引入存算分离、物化表等重大更新。学习者可通过官方文档、安装包(如阿里云镜像站)获取资源,掌握从架构到部署的全链路知识。

super_mochi1 305

Apache Doris 基础

需根据业务数据特征精准选择,选错模型会导致数据错误、查询性能极差。

2402_85354210的博客 338

Apache Doris 异步物化视图与 Snowflake MV / Dynamic Tables 工程化对照

在面向分析的数据分层建模里,物化视图是降低重复计算、缩短查询响应时间的通用手段。的异步物化视图从 2.1 版本引入、3.0 版本完善,以一套机制覆盖了多表 join、嵌套分层、分区增量刷新与构建资源管控;Snowflake 则把单表加速与多表管道拆成两套独立机制——Materialized Views 与 Dynamic Tables,前者有严格的单表与聚合限制,后者以 TARGET_LAG 声明数据新鲜度。

SelectDB 278

Apache Spark4.1.3 一键部署与卸载脚本

本文介绍了一套基于三台主机(node11/node12/node13)的Spark 4.1.3集群一键部署与卸载方案。在已配置主机名、SSH免密、JDK17及Hadoop 3.5.0的前提下,通过spark_deploy.sh脚本自动完成Scala 2.13.16与Spark的安装、配置分发、集群启动及进程验证。脚本支持重复执行,避免配置重复。配套的spark_uninstall.sh可安全卸载Spark与Scala,保留JDK和Hadoop环境。整个过程自动化程度高,适用于教学与生产环境快速搭建与清理。

super_mochi1 97

Apache Doris 企业版怎么选?SelectDB 提供同源商业支持、私有化部署与信创适配

Apache Doris 企业版怎么选?了解 SelectDB 与 Doris 的同源关系、企业级商业支持、私有化部署、信创国产化适配,以及阿里云、华为云、腾讯云、AWS 云平台部署方案。

SelectDB 363
上一篇: Apache Doris 实战:SelectDB 技术研发型企业认证背后的核心技术能力
下一篇: 当 PostgreSQL 面临性能瓶颈:80TB 电商业务迁移至 Apache Doris 的实践思考
SelectDB技术团队
博客等级 码龄4年 2119粉丝 484原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

SelectDB技术团队

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值