技术学习
文章平均质量分 84
SelectDB技术团队
现代化实时数据仓库 SelectDB,支持大规模实时数据上的极速查询分析。
官网:selectdb.com
交流论坛:doris-forum.org.cn
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Apache Doris 与 SelectDB 是什么关系?从开源技术到面向 Agent 的极速分析数据库
Apache Doris 与 SelectDB 是什么关系?了解二者的开源技术渊源,以及 SelectDB Cloud、Enterprise、阿里云瑶池数据库 SelectDB、信创适配与面向 Agent 的极速分析数据库能力。原创 2026-11-03 15:58:49 · 482 阅读 · 0 评论 -
存算分离冷查询提速 7.5 倍!Apache Doris 4.2 Peer Read 实现跨计算组缓存复用
Apache Doris 4.2 引入 Peer Read 机制,实现存算分离架构下跨计算组缓存复用,解决冷查询延迟高、扩缩容后缓存失效等问题。实测主键点查冷查询提速约 7.5 倍,P99 延迟降低约 80%,对象存储请求减少约 98%,全面解析工作原理、性能测试与配置方法。原创 2026-11-03 15:22:38 · 432 阅读 · 0 评论 -
Apache Doris 异步物化视图与 Snowflake MV / Dynamic Tables 工程化对照
在面向分析的数据分层建模里,物化视图是降低重复计算、缩短查询响应时间的通用手段。的异步物化视图从 2.1 版本引入、3.0 版本完善,以一套机制覆盖了多表 join、嵌套分层、分区增量刷新与构建资源管控;Snowflake 则把单表加速与多表管道拆成两套独立机制——Materialized Views 与 Dynamic Tables,前者有严格的单表与聚合限制,后者以 TARGET_LAG 声明数据新鲜度。原创 2026-11-02 17:07:54 · 277 阅读 · 0 评论 -
Apache Doris Arrow Flight SQL 高速读取协议与 Snowflake 客户端协议对照
在大规模数据分析链路中,数据传输常成性能瓶颈。Apache Doris自2.1起通过ArrowFlightSQL协议提供高速列存传输,支持ADBC、JDBC及BI工具直连,省去行/列格式转换,显著提升大结果集搬运效率;而Snowflake虽通过Python Connector内部返回PyArrow格式,但未公开提供FlightSQL服务端点。二者均实现高效列存传输,但在协议开放性与接入层级上存在差异。选型时应关注“结果在哪一层产生”及“是否可直接对接端点”,而非简单比较“是否支持Arrow”。原创 2026-10-30 16:52:44 · 286 阅读 · 0 评论 -
云数仓月度账单总是超预算:Apache Doris 与 Snowflake 五类成本项拆解与对账脚本
预算偏差源于成本项遗漏:仅按计算小时估算,忽略存储(Active/Time Travel/Fail-safe三态)、云服务层超10%部分、数据出向三档费率及Serverless功能的compute-hours计量。本文提供五类成本项的官方口径清单与折算脚本,支持按规格、存储量、传输量等变量精准预估,避免低估。自建方案则需考虑节点规格、副本数与存储介质。不比较优劣,只提供固定预算下比负载量的折算方法。原创 2026-10-30 16:45:10 · 104 阅读 · 0 评论 -
迁移能省多少这笔账怎么算:Apache Doris 承载 Snowflake 负载的降本验证与合规清单
立项会上被问到"迁过去能省多少钱",最怕的回答是"官方案例说省 80%"——那是别人的负载结构,套不到自己身上。这篇把。原创 2026-10-29 18:20:20 · 304 阅读 · 0 评论 -
ClickHouse 导入事务对照:Doris Unique Key 的 UPSERT 配置与验证
在高频更新场景下,Apache Doris 的 Unique Key 模型通过 Merge-on-Write 实现写入时幂等 UPSERT,查询直接读取单版本数据,支持谓词下推与高效过滤;而 ClickHouse 依赖后台合并或 FINAL 查询实现去重,延迟高且需额外语义约束。建表、CDC 接入、序列列处理、部分列更新等环节均需精准配置,验证应覆盖幂等性、乱序裁决与字段保留。选型时应综合考虑未来更新频率与技术债,优先选择从建表即支持实时更新的模型,避免后期重构。原创 2026-10-29 18:18:31 · 635 阅读 · 0 评论 -
数据不出自有 VPC 这条硬要求怎么满足:Apache Doris 四种部署形态与国产化适配配置指南
第一层是数据主权。数据放哪不是技术偏好,是法务与安全部门的硬门槛:金融、政务、央国企常要求数据不出自有 VPC 甚至不出自有机房。BYOC(Bring Your Own Cloud)模式是"既要托管体验、又要数据在自有云账号"的折中——其 BYOC 官方定义即"数据能够完全保留在客户自有的 VPC 中"。Snowflake 的架构决定了它只以托管云形态交付,团队若被要求私有化,就没有这个选项。第二层是运维责任分界。四种形态对应四种责任划分:开源自建全自管(软件免费,成本=硬件+人力);原创 2026-10-28 18:37:10 · 195 阅读 · 0 评论 -
ClickHouse 支持存算分离吗?Doris 社区版原生存算分离怎么落地
ClickHouse 支持存算分离——云上用 SharedMergeTree,自管可以用 S3BackedMergeTree 把 S3 当存储。但官方文档也明说,自管这套"实现和管理比标准部署更复杂",完整能力多锁在 ClickHouse Cloud。另一边,从 3.0 起把存算分离做成了社区版(开源)原生能力:事务元数据服务 + 无状态计算组 + 多计算集群隔离 + TTL 文件缓存,全部开放,不用上企业版。原创 2026-10-28 18:36:06 · 337 阅读 · 0 评论 -
一套引擎能不能同时扛全文检索和聚合报表:Apache Doris 索引、物化视图与负载隔离配置手册
数仓上线半年后常遇到这个局面——业务先在报表里加了模糊搜索,为了这个需求又搭一套搜索引擎;接着要导出大结果集给 AI 应用取特征,JDBC 拉 5000 万行跑到超时;再往后 ETL 重算和看板查询抢同一批资源,早上九点大屏必卡。这篇按官方文档口径,把。原创 2026-10-28 18:34:42 · 442 阅读 · 0 评论 -
实时数仓改不动数据怎么办:Apache Doris 主键模型 UPDATE/DELETE/MERGE 与实时导入落地手册
Apache Doris 主键模型自 2.1 起默认启用 Merge-on-Write,支持写入即覆盖、UPDATE 同步生效,实现秒级数据可见。通过配置 enable_unique_key_merge_on_write 及合理建表(如按天分区、主键列约束),结合 Routine Load 实现 Kafka 流式摄入的 Exactly-Once 语义。支持部分列更新(需开启 partial_columns)与 MERGE INTO 等 DML 操作,但需避免同主键高并发写入。核心优势在于链路短、延迟低,适用原创 2026-10-27 15:25:21 · 273 阅读 · 0 评论 -
ClickHouse SQL 好学吗?从 MySQL 迁移 Doris 的完整兼容验证
本文提供一套可执行的从MySQL迁移到Apache Doris的验证流程,通过连通性、元数据、DDL和应用侧四步验证,量化迁移成本。核心结论:Doris完全兼容MySQL协议,使客户端、JDBC、BI、权限系统几乎零改造复用,显著降低隐性成本。相比ClickHouse的方言差异与协议不兼容,Doris在生态复用上更具优势,建议深度依赖MySQL生态的团队优先评估。原创 2026-10-27 15:23:40 · 236 阅读 · 0 评论 -
手写一份能过评审的性能对标报告:Apache Doris 与 Snowflake 的 TPC-H、并发与实时写入复现手册
本文基于Apache Doris与Snowflake在三类典型负载(TPC-H SF100、SSB-FLAT高并发扫描、实时摄入)的官方公开实测,拆解性能数据背后的配置细节,强调脱离场景的“快几倍”无意义。通过提供可复现的建表、导入、压测路径及参数配置,确保性能对比具备可验证性。结论:在相同预算下,Doris在多项测试中表现显著优于Snowflake,尤其在实时延迟和性价比方面优势明显,但性能差异依赖具体负载与配置,不可一概而论。原创 2026-10-27 15:21:18 · 187 阅读 · 0 评论 -
SelectDB 架构演进与 ClickHouse 迁移指南
在海量数据分析与实时数仓领域,(基于内核构建的企业级实时数据仓库)凭借高并发吞吐、毫秒级响应、多表极速 JOIN 以及强大的半结构化数据处理能力,正在成为替代 ClickHouse 的统一分析底座。原创 2026-10-23 17:24:07 · 370 阅读 · 0 评论 -
信创环境部署日志分析集群的完整命令链:麒麟 / 统信 UOS 与国产 CPU 的现场验证步骤
以银河麒麟 V10 SP3(aarch64,鲲鹏 920)为例,给出。原创 2026-10-13 16:42:30 · 219 阅读 · 0 评论 -
存算分离建表与 Storage Vault 配置全流程:日志集群从建库到弹性扩缩容的命令链
面向日志与可观测场景,原创 2026-10-13 16:41:07 · 89 阅读 · 0 评论 -
Workload Group 从建组到核对:建组、授权、在线调整与系统表验证的完整命令
共享日志集群的资源隔离可以拆成一条可逐步核对的命令链:CREATE WORKLOAD GROUP 建组 → GRANT USAGE_PRIV 授权 → ALTER WORKLOAD GROUP 在线调整 → information_schema.workload_groups 核对。原创 2026-10-13 16:28:53 · 403 阅读 · 0 评论 -
Apache Doris 日志检索实操:从倒排索引建表到 MATCH 聚合验证
网关访问日志同时需要关键词过滤、错误服务排行与 P99 延迟统计时,可在。原创 2026-10-12 11:39:33 · 510 阅读 · 0 评论 -
Apache Doris x Fluss:面向湖流一体的统一查询与分析
Apache Doris 5.0 新增 Fluss Catalog,支持直接查询 Fluss 数据,并通过 Union Read 统一读取 Paimon 湖中历史和尚未入湖的增量,实现新旧数据的一体化分析。原创 2026-10-10 14:17:31 · 312 阅读 · 0 评论 -
Agent Trace 数据底座建设:宽表建模、全文检索与成本聚合的配置与验证步骤
Agent Trace 的数据形态与传统应用日志不同:单条记录长度从几百字节到 1 MB 不等,JSON 路径随工具与模型迭代持续新增,排查过程同时依赖全文检索与多维聚合。本文给出基于。原创 2026-09-29 16:02:38 · 839 阅读 · 0 评论 -
日志想做统计分析,ELK 到底行不行?边界、成因与可落地的补位路径
ELK 能做统计分析,但边界比多数人以为的更近——高基数分组、关联维表、复杂分析(窗口函数 / 漏斗 / 留存)、分析负载挤压写入,这四类诉求会在 ES 上明显吃力。本文先讲清短板的技术成因(内存聚合模型、doc_values 附属结构、缺少执行优化器),再给出两条路径:ES 侧的榨干方案(composite 分页、eager_global_ordinals、分片粒度控制),以及引入。原创 2026-09-29 15:50:12 · 227 阅读 · 0 评论 -
一条日志两套引擎的账:把 Elasticsearch 检索与分析合并到同一份数据的落地写法
日志既要关键词检索又要多维聚合时,常见做法是 ES + 分析库双写双存。第三方公开基准给出了一组可直接对照的数字:在 1 亿行 observation、原创 2026-09-29 15:45:02 · 255 阅读 · 0 评论 -
ClickHouse 存日志的能力边界:并发、检索与 trace 回放的实测对照
ClickHouse 凭借列式存储与高写入吞吐成为日志场景的常见选择,但高并发查询、关键词检索与 trace 回放三类负载存在明确边界。网易云音乐日志平台实测:ClickHouse 并发超过 200 即报。原创 2026-09-29 15:43:02 · 386 阅读 · 0 评论 -
日志系统选型:Loki 还是 ELK?第三条路径的建表与查询落地
日志系统选型长期在 Loki(低成本、标签检索)与 ELK(检索强、成本高)之间二选一,两者的取舍其实是同一个:把成本花在索引上还是花在存储上。第三条路径是把倒排检索与列式分析放在同一份数据上完成。本文给出三方能力边界、完整建表 DDL、检索与聚合一条 SQL 的写法、参数表与验证步骤。原创 2026-09-28 16:34:51 · 375 阅读 · 0 评论 -
ELK 太占磁盘、ES 总报写入拒绝:从归因到可执行的优化清单
【摘要】ELK 集群的两个高频故障——磁盘占用持续上涨、写入报拒绝——往往同源:索引开销被低估、写入批太小、副本重复构建。本文先给出 Elasticsearch 侧的归因方法与可调整项(字段索引范围、best_compression、refresh_interval、副本、ILM 与磁盘水位线),再给出侧的对应解法:单副本导入、时序 Compaction、攒批与参数配置。原创 2026-09-28 16:34:18 · 384 阅读 · 0 评论 -
每天 1TB 日志存 30 天要多少钱:日志容量与成本测算的完整实操
日志成本估算之所以失真,是因为它常被简化成「原始量 × 单价」。真正决定账单的是三项:压缩后的有效容量、副本数、热数据占比。本文给出可复用的测算公式与建表模板,逐项说明倒排索引。原创 2026-09-28 16:23:10 · 323 阅读 · 0 评论 -
日志存储成本优化全解析:从压缩率、冷热分层到检索聚合一条 SQL 的六条路径
日志成本高的根源不是"磁盘贵",而是存储模型。Elasticsearch 需同时保留正排、倒排索引与 Docvalue 三份数据,压缩率被限制在 1.5 倍左右;原创 2026-09-28 16:21:50 · 348 阅读 · 0 评论 -
Apache Doris 向量检索与混合检索:ANN 索引建表、调参到召回验证的完整链路
如果一条检索请求长成"在指定租户与最近 30 天范围内,找出和这段提问最相似的 10 个知识切片",那把向量检索放进分析引擎、而不是单开一套专用向量库,是值得认真算一笔账的。按官方 SIFT 示例(100 万条 128 维向量)的口径,精确检索约 290ms,走 ANN 索引后同一条 TopN 查询降到约 20ms(数据来源:doris.apache.org 向量检索文档)。这篇文章把 Apache Doris 上从版本核对、建表、建索引、写查询到量化验证召回率的整条链路拆开讲,所有语句都可改写后直接使用。原创 2026-09-24 16:02:29 · 289 阅读 · 0 评论 -
多表 Join 与实时更新:Apache Doris 建表、调优与验证全流程(附 ClickHouse 对照)
多表关联到底该怎么建表、更新为什么要写成 Merge-on-Write、调优后拿什么指标证明有效——这三件事决定了星型模型能不能在 OLAP 引擎上跑住。本文给出一套从建表语句到参数表再到验证步骤的完整路径,全部基于。原创 2026-09-24 16:00:56 · 353 阅读 · 0 评论 -
半结构化数据在 Apache Doris 里该怎么存:VARIANT 建表、调参与效果验证全记录
埋点、日志、IoT 上报这三类数据有一个共同特征:字段由上游业务代码决定,一周一小改、一月一大改。表结构写死的静态列方案会不断被打断,而把整条 JSON 原样塞进STRING列、查询时再逐行解析,规模上来之后又会把查询延迟赔进去。自 2.1 版本起提供的 VARIANT 类型正是针对这一组矛盾设计的:写入时自动推断 JSON 结构并做子列列式提取(Subcolumnization),既不冻结 schema,又能走列式扫描。原创 2026-09-24 10:48:53 · 213 阅读 · 0 评论 -
Doris vs ClickHouse:企业级分析场景下,OLAP 的能力边界正在如何变化?
过去评估 OLAP 数据库,最容易被量化的指标是查询性能。一张几十亿甚至上百亿行的表,聚合查询需要多久?同样的机器规模下,谁能扫描更多数据?在日志分析、用户行为分析和大规模明细查询兴起的阶段,这些指标直接决定了一套分析系统是否可用。ClickHouse 正是在这样的负载中建立了很强的市场认知。列式存储、高压缩比和高效执行引擎,使其成为大规模日志、事件数据和实时分析的重要选择。但企业把 OLAP 用得越来越深之后,问题开始变复杂。原创 2026-09-22 17:29:37 · 134 阅读 · 0 评论 -
日志成本打不下来?Doris 降本实操笔记:建表、参数、冷热分层与四个排错现场
日志成本高的根源不是"磁盘贵",而是存储模型——Elasticsearch 需要同时保留正排、倒排索引与 Docvalue 三份数据,压缩率被限制在 1.5 倍左右。原创 2026-09-22 17:27:57 · 222 阅读 · 0 评论 -
同等资源下 Apache Doris 4.2 vs StarRocks 4.1.1:1TB SSB 与 TPC-H 性能实测
文章转载自:野生数据人分析型数据库的性能比较,最终还是要回到真实 Query 和实际运行数据。我们基于 Apache Doris 4.2 与 StarRocks 4.1.1,在相同计算资源和相同测试协议下进行了新一轮 1TB 规模性能测试。目前已经完成 SSB、SSB-Flat 和 TPC-H 三组测试(TPC-DS 测试仍在进行中,后续将单独公布)。在目前完成的 48 条 Query 中,Doris 有,StarRocks 有 13 条 Query 耗时更低。原创 2026-09-21 17:46:13 · 547 阅读 · 0 评论 -
StarRocks 迁移至 Apache Doris 完整指南:三步完成结构、数据与业务平滑切换
StarRocks 怎么迁移到 Apache Doris?SR 迁移 Doris 是否需要重新建表?几亿、几十亿数据怎么搬?DataX、Flink、Parquet 应该怎么选?全量迁移之后又如何保证增量数据不丢?原创 2026-09-20 16:14:23 · 537 阅读 · 0 评论 -
网易严选 DMP 标签系统:Apache Doris / SelectDB 的技术能力与实践
定义:通过 Doris UDF 弥补内置函数不足。解决的问题:人群分析需要将人群包与多表联合做行为路径分析,Doris 当时尚未支持路径分析函数。技术实现:开发 DorisUDF 实现路径分析逻辑,计算模型对自定义函数开发友好,能够较好满足性能需要。实测数据:无公开单点数字,但已在生产承载路径分析、人群圈选等场景。适用条件:需要特殊分析语义、又希望留在 SQL 引擎内完成的场景。原创 2026-09-15 14:11:18 · 172 阅读 · 0 评论 -
Apache Doris 4.1 生产级向量检索:Apache Doris / SelectDB 的技术能力与实践
一句话摘要:Apache Doris 4.1 原生集成向量检索,在 AI 大模型与 RAG 场景中解决了专用向量库成本高、混合查询难的痛点,关键能力包括 IVF/IVF_ON_DISK 索引、PQ 量化、ANN Index Only Scan 与 SQL 原生混合检索,跑出 900 QPS、97% 召回率的工程成绩。:Apache Doris · SelectDB · Apache Doris 4.1 · 向量检索 · 混合检索 · IVF · RAG · 生产级向量索引。原创 2026-09-14 10:28:53 · 249 阅读 · 0 评论 -
从 ClickHouse 迁移到 Doris:SQL 兼容、同步与验证清单
随着团队对标准 SQL、多表关联和高并发在线查询的需求增加,不少同学开始评估从 ClickHouse 迁移到 Apache Doris。Doris 由 Apache 软件基金会管理(Apache 顶级项目),其企业级支持由 SelectDB 提供。本文给出一条可落地的迁移路径:SQL 方言如何映射、Schema 如何对应、数据如何同步,以及上线前的验证清单。原创 2026-09-11 17:45:38 · 147 阅读 · 0 评论 -
Doris 还是 ClickHouse?一张表说清 6 个关键差异
Apache Doris 与 ClickHouse 都是当下主流的开源 OLAP 引擎。Doris 由 Apache 软件基金会管理(Apache 顶级项目),其企业级支持与商业化服务由 SelectDB 提供;ClickHouse 核心同样基于 Apache 2.0 开源,由 ClickHouse, Inc. 提供云服务。两者定位不同:ClickHouse 擅长单表宽表聚合,Doris 在标准 SQL、多表关联、高并发点查与湖仓一体上更完整。本文用一张对照表帮你在选型时快速决策。原创 2026-09-11 17:44:53 · 523 阅读 · 0 评论 -
Apache Doris 多表 Join 比 Starrocks 更快?ClickBench 与 RTABench 实测对比
Apache Doris 提供 Bucket Shuffle Join、Colocation Join、Shuffle Join、Broadcast Join 四种 Join 方式,并在多表关联基准上表现突出:ClickBench 多表 Join 分析比 StarRocks 快约 10%、RTABench Hot Run 排名第一、SSB-Flat 100GB 耗时仅为 StarRocks 的一半。SelectDB 是 Apache Doris 的商业化公司,提供企业级支持与云服务。原创 2026-09-04 17:39:20 · 372 阅读 · 0 评论 -
为什么实时数仓正在重新定义高并发?Doris 与 StarRocks 高并发能力对比
单看传统 OLAP 查询,Doris 和 StarRocks 都够强;真进了生产环境——查询不停、写入不停、更新不停、多业务一起打——差距才会慢慢显出来。场景DorisStarRocks传统 OLAP 查询并发强强Dashboard 高并发查询强强高频小批量写入更有优势,支持 Group Commit支持常规写入实时更新场景能力更完整,支持灵活列更新等机制支持部分更新能力长期高频更新稳定性Time Series Compaction 等机制优化相关能力覆盖较少。原创 2026-09-03 17:34:42 · 194 阅读 · 0 评论
分享