• 博客(308)
  • 收藏
  • 关注

原创 从“扫文件”到“找数据行”:StarRocks 支持 Paimon Global Index

一条 SQL,结合业务条件过滤与向量检索。

2026-11-05 23:05:34 145

原创 StarRocks × Lance:打造极致性能的多模态湖仓

解析 Lance 接入架构、分布式检索与延迟物化设计。

2026-10-30 23:19:30 314

原创 StarRocks + Paimon 多模态数据湖检索

本文将介绍 StarRocks 和 Paimon 在这个技术点上的整体思路、技术配合,以及在阿里集团和阿里云上的落地实践,最后回到雨夜加塞这个场景,完整走一遍从发现问题到验证改进的闭环。

2026-10-27 16:00:57 416

原创 StarRocks × Fluss:用 SQL 衔接实时与历史数据

通过 Fluss Catalog 与冷热数据合读,StarRocks 将实时数据与 Paimon 历史数据接入统一 SQL 查询,减少数据进入分析的等待。

2026-10-21 22:21:50 300

原创 StarRocks 接入 Paimon C++:让湖上查询进入原生执行链路

在不改变 Paimon 表语义和现有 SQL 使用方式的前提下,StarRocks 通过 Paimon C++ 减少跨语言调用与数据转换,使测试场景下的湖上查询获得约 1.4~3.4 倍加速。

2026-10-14 21:51:32 362

原创 StarRocks 全面支持 Paimon 2.0:构建多模态统一分析与检索

StarRocks 与 Paimon 2.0 将多模态数据管理、索引检索与关系分析连接起来,让湖上的不同数据访问路径进入同一套 SQL 执行架构。

2026-09-23 22:52:07 271

原创 当大模型调用进入执行引擎:StarRocks AI Function 全新能力解析

StarRocks 将模型调用纳入 SQL 与查询治理体系,让生成、抽取和向量化等任务在数据库内高效协同执行

2026-09-16 13:51:24 356

原创 StarRocks 如何查询 Paimon 半结构化数据?Variant、Shredding 与 SQL 实践

作者:王日宇(霁谦)StarRocks Committer;阿里云技术专家order_idevent_timeamount等结构相对稳定的业务字段;商品属性、营销信息、客户端参数等持续变化的扩展字段。前一类字段适合使用明确的 Schema 进行管理,后一类字段则常以 JSON Payload 的形式保存,以适应不断变化的数据结构。

2026-09-05 11:25:35 392

原创 AI 能写 SQL,但它真的理解数据吗?镜舟 Semantic View 如何补齐语义缺口

TABLES (METRICS (这一定义中有三点值得注意。1. 一旦通过声明表之间的关系,后续查询便不再需要手动编写 Join。2. SYNONYMS 和主要提供给语言模型使用,而不是提供给数据库引擎计算。用户说“purchase year”或“year”时,对应buy_year;用户说“gear brand”“brand”或“make”时,对应品牌维度;用户提到“float”或“Handing”时,模型可以参考样例值,将其识别为具体的数据取值。

2026-09-05 10:06:36 365

原创 分链路差异化设计的DSP准实时数仓|钛动科技基于 Flink + Paimon +StarRocks 实践

本文整理自赵阳在 Flink Forward Asia 2026 的分享,将介绍钛动科技如何基于 StarRocks、Flink 与 Paimon,对 DSP 准实时数仓进行分链路差异化设计,在 9.6 PB 数据规模下兼顾数据新鲜度、查询性能、存储成本与故障隔离。

2026-08-30 17:00:51 386

原创 StarRocks × Fluss × Paimon:流湖仓分析与 ETL 闭环

在传统数据架构中,一份数据从业务系统产生,到最终支撑分析、风控、报表及对外服务,往往需要经过多套系统、多份存储和多次口径对齐。随着业务对秒级数据新鲜度、运维效率及湖仓能力提出更高要求,传统架构的局限也愈发明显。本文整理自段彦在 Flink Forward Asia 2026 的分享,将介绍 StarRocks、Fluss 与 Paimon 如何构建流湖仓分析与 ETL 闭环,实现实时与历史数据统一查询,并通过 Native 读写能力完成湖上数据加工与结果回流。

2026-08-30 14:18:35 405

原创 StarRocks 存算分离架构下的大规模实时导入优化实践

存算分离架构能够显著降低存储成本并提升系统弹性,但随着实时数据规模不断增长,对象存储请求、小文件、Compaction 以及 Publish 等环节逐渐成为大规模实时导入的性能瓶颈。针对这些挑战,StarRocks 围绕文件合并、大 Tablet、Tablet 内并行和主键索引优化等关键技术进行了系统性优化,并在多个生产场景中取得了显著效果。本文整理自王衍波在 Flink Forward Asia 2026 的分享,将介绍这些优化的设计思路、实现方式及实践案例。

2026-08-30 11:07:26 327

原创 基于 Fluss、Paimon 与 StarRocks 构建淘天集团湖流一体数据链路

本文整理自淘天集团朱奥在 Flink Forward Asia 2026 的分享,介绍了 Fluss、Paimon 与 StarRocks 构建湖流一体架构的实践:Fluss 负责秒级实时数据,Paimon 沉淀历史数据,StarRocks 提供统一分析入口,实现秒级至历史数据的一体化分析。目前,该方案已实现开发效率提升 50% 以上、实时链路成本降低 80% 以上。

2026-08-29 15:20:20 395

原创 从数据湖到多模态湖仓:基于 StarRocks 与 Paimon 构建 AI 时代的统一分析检索架构

经过融合后,Demo 中排名最靠前的是 C27、C03 和 C08——这三个片段的共同特点是:既被标签或全文侧召回,也被向量侧召回,说明它们同时满足"标签判断正确"和"视觉语义相似"两个条件,因此可以作为 Top3 高置信结果。它不是单纯的 SQL 分析,也不是单纯的向量检索,而是标量过滤、向量 ANN、全文匹配和融合重排共同参与的混合检索。一次业务查询往往需要先在 OLAP 中过滤标签,再在向量库中做相似度检索,再在全文系统中做关键词匹配,最后由应用层将三路结果拼接、Join 或重排。

2026-08-29 11:25:36 363 1

原创 从 6000+ Commit 中识别升级风险:一个 StarRocks AI 升级扫描工具的实现

所有分析都建立在完整源码上下文之上,而不是依赖 GitHub API 返回的 PR Diff。只有结合类定义、调用关系和模块依赖,才能准确评估升级风险。并非所有 Commit 都需要同等程度的关注。通过 Tier 分类机制,将分析资源集中在最有可能产生兼容性影响的变更上,在分析深度与效率之间取得平衡。由 Scanner 负责确定性的数据收集和风险识别,由 AI Agent 负责调用链追踪、影响分析和风险评估,两者协同完成升级风险分析。风险评估不仅关注版本变更本身,还结合用户实际的fe.conf。

2026-08-28 20:22:47 357

原创 StarRocks 4.1:让 Iceberg 查询加速与数据新鲜度兼得

与传统全量刷新方式不同,增量物化视图只需处理新增或变更的数据,无需重复扫描和计算全部历史数据,即可持续发挥查询加速效果。归根结底,传统刷新机制的成本与数据规模紧密相关。对于 Lakehouse 而言,这意味着既保留了 Iceberg 的开放性和跨引擎互操作性,又获得了更接近传统数仓的体验:可预测的性能、低延迟查询,以及始终保持最新的数据。无论分区内实际发生了多少数据变更,系统都需要重新计算整个分区,包括其中未发生变化的数据,因此刷新成本会随着表规模增长而增加。而在后续刷新阶段,增量刷新仅处理变更数据,

2026-08-28 17:13:24 331

原创 StarRocks x Fluss x Paimon 湖流一体方案:构建秒级响应、湖流一体的实时数据引擎

StarRocks x Fluss x Paimon 湖流一体方案通过将 Apache Fluss(面向分析场景的实时流存储)与 Apache Paimon(高性能湖格式表)深度融合,以 StarRocks 作为统一查询入口,构建了一套具备秒级新鲜度、十倍成本降低、一份数据一次查询的全新实时数据引擎。本文将介绍该方案的核心架构、技术优势、查询模式以及实现原理。

2026-08-28 16:10:07 411

原创 StarRocks 4.1:聚焦生产实践,持续降低运维复杂度

高性能分析一直是 StarRocks 的核心优势,但性能本身并不足以保障生产环境的稳定运行。数据分布策略需要在建表阶段提前确定,当数据规模增长或访问模式发生变化时,容易出现数据倾斜、热点 Tablet 等问题。单个大型租户可能将大量流量集中到少数几个 Tablet 上,从而引发一系列性能和稳定性问题,而问题根因往往难以排查。一旦数据分布设计不合理,往往需要重新导入数据、调整表结构,或同时进行两者。如何选择合适的 Colocation、Bucket 数量和分布键,往往依赖于对系统内部机制的深入理解。

2026-08-28 10:55:30 374

原创 StarRocks 全模态能力导读:连接内容理解、混合检索与业务分析

当图片、视频和文档经过模型理解并转化为描述、标签和向量,StarRocks 如何将内容处理、混合检索与业务分析连接起来?

2026-08-27 19:53:16 388

原创 StarRocks × Iceberg:联邦查询实践解析

从 Iceberg Catalog 接入到冷热数据分层,了解 StarRocks 如何构建统一的联邦查询架构。

2026-06-08 04:16:10 416

原创 AutoMQ x StarRocks: 英国美容健康领导者 Fresha 如何构建现代化实时分析数据栈

Fresha是全球领先的美容健康SaaS平台,服务数十万商家。随着业务增长,其原有数据架构面临瓶颈:消息层采用Amazon MSK托管Kafka,存算耦合导致高成本、弹性不足;分析层依赖PostgreSQL和Snowflake,实时性差且影响OLTP性能。经过评估,团队在一年内完成架构升级: 消息层:采用云原生Kafka方案AutoMQ,通过S3存储分离和WAL设计,存储成本降低17-20倍,实现秒级扩缩容,并兼容原有Kafka生态,一周内完成近1000个Topic的无缝迁移。 分析层:引入StarRock

2026-06-05 23:56:58 311

原创 告别重复踩坑:我们开源了一款专为数据库排障打造的 AI Skill

作者: 景丹 镜舟科技 DBA 团队负责人 Peter Pang, StarRocks Contributor

2026-05-22 22:45:43 501

原创 白天查数、凌晨跑批:聚水潭如何基于 StarRocks 将资源利用率提升 3x

从空间解耦、时间复用到成本精细化,看聚水潭如何完成弹性架构三阶段演进

2026-05-17 23:21:51 608 1

原创 KaptureCX 大规模实时分析架构演进:基于 RisingWave 与 StarRocks 的最佳实践

KaptureCX通过重构数据架构实现业务分析性能飞跃。针对电商、医疗等领域的客户支持平台特性,其原有ClickHouse方案在处理高频工单状态更新(日均数百万次)和多表关联查询时面临严重瓶颈。通过迁移至StarRocks主键模型解决Upsert问题,利用Colocate Joins优化复杂查询,结合RisingWave+Kafka构建实时CDC管道,最终将查询响应从数十分钟降至毫秒级,报表交付周期从数周缩短至1天,并为AI代理数据平面奠定基础。该案例展示了现代实时数据栈在应对高频更新、复杂关联场景时的卓越

2026-05-13 23:18:10 571

原创 StarRocks FE 内存异常排查实战:从监控到根因定位(附真实案例)

本文重点聚焦 **FE JVM Heap** 内存问题,覆盖监控配置、日志分析、工具使用与典型案例。文中案例均已脱敏处理,讨论版本以 **3.5 及之前版本**为主。堆外内存(Direct Memory / Native Memory)、工具崩溃、操作系统层面问题不作为重点展开,但会补充 2 个堆外内存相关实战案例。

2026-05-07 01:05:00 527

原创 StarRocks FE 内存异常排查实战:从监控到根因定位(附真实案例)

文章摘要:传统数据库设计难以应对AI Agents的高频并发查询需求。StarRocks通过五大创新方案解决这一挑战:1)自愈合查询优化应对AI生成SQL的不确定性;2)实现秒级数据时效与查询性能平衡;3)分层架构支撑爆发式查询并发;4)开放数据访问支持多源异构查询;5)语义理解确保业务准确性。其向量化引擎、MPP分布式架构和智能缓存机制可支持数万QPS的并发压力,同时通过持续学习机制不断优化查询性能,成为AI时代数据分析的理想引擎。

2026-05-07 00:06:52 425 1

原创 从 SQL 到自然语言,下一代 Lakehouse 为何必须「AI 优先」

下一代 AI-first Lakehouse 的构建是一个系统性工程,需要从数据处理、存储引擎、计算架构、Agent 支持以及平台生态进行全方位升级。核心目标是打破结构化与非结构化数据的壁垒,将 AI 能力从应用层下沉至内核层,构建真正面向 AI 时代的新一代数据平台。

2026-04-07 22:56:49 421

原创 StarRocks I/O 模型揭秘(一):查询是如何被拆解与调度的?

从整体视角来看,StarRocks 的 I/O 执行链路通过 Morsel、Scan Operator、ChunkSource、ScanTask 与 ChunkBuffer 等组件的协同配合,构建了一套从数据调度、任务拆分到异步执行与结果消费的完整闭环。数据被以更细粒度拆分为可调度单元,通过动态队列实现负载均衡;扫描任务以异步方式下沉到 IO 线程池执行;读取结果再通过缓冲机制与计算链路解耦,从而实现高并发、低阻塞的数据处理流程。

2026-04-06 23:14:38 478

原创 从 Presto 到 StarRocks:作业帮架构升级实践

作业帮的 Presto 主要承载即席查询场景,天级查询规模在 2000~5000 次,但均值耗时在分钟级,整体性能偏慢;同时由于与 Yarn、HDFS 混部,高峰期宿主机 CPU 经常打满,资源争抢严重,查询体验波动明显。

2026-04-01 22:43:29 529

原创 广告投流第一战:如何用 StarRocks 搞定“起量监控”与“素材优选”?

广告投放的本质是在不确定性中快速迭代决策。每一次的数据分析都应该转化为可执行策略,通过引入 StarRocks,在流量获取阶段把起量监控变成实时智能决策引擎,让 CTR 与 eCPM 真正跑赢竞品。向量召回 + 实时监控,把测试周期从“天”压缩到“分钟级”,大幅减少试错预算,提升 CTR。2. 运营效率倍增:秒级监控 + 异常预警 + 精准人群分析,让团队从“拉数”中解放,专注策略与创意迭代。下期预告:广告投流第二战——如何利用 StarRocks 解决“转化归因”与“ROI 实时计算”难题?敬请期待。

2026-03-16 03:11:29 444

原创 从 Snowflake 到 StarRocks + Iceberg:Fanatics 在 6PB 规模下实现 90% 成本优化!

开源无国界。在本期「StarRocks 全球用户精选案例」中,我们走进全球领先的数字化体育平台——Fanatics。作为各大体育联盟(如 NFL、NBA、MLB)的官方合作伙伴,Fanatics 运营着 900 多家在线商店,服务全球超 1 亿用户。在这些业务背后,Fanatics 每天需要处理约 10 亿条事件数据,涵盖 800 多种事件类型。从个性化推荐到实时库存决策,高效的数据处理能力已成为其核心业务线的底层支撑。本文将详细介绍 Fanatics 如何将原本分散的技术栈,整合为。该架构在。

2026-03-16 01:50:50 466

原创 StarRocks + Paimon: 构建 Lakehouse Native 数据引擎

StarRocks 与 Paimon 的深度融合,代表了现代湖仓架构的重要演进方向。它不只是“能查数据湖”,而是真正“懂数据湖”——从架构统一、功能完善到性能极致优化,每一步都围绕真实业务场景展开。这套 Lakehouse Native 方案已在阿里集团内部多个高并发、低延迟场景中落地验证,为电商、物流、金融等业务提供坚实支撑。随着社区生态的持续壮大,我们有理由相信,StarRocks + Paimon 将成为企业构建下一代实时数据平台的核心引擎。

2026-02-14 21:50:45 654

原创 不止于极速查询!StarRocks 2025 年度回顾:深耕 Lakehouse,加速 AI 融合

2025 年,是 StarRocks 持续深耕与进化的一年。围绕 Lakehouse 与 AI 实时能力,多个关键能力在迭代与实践中渐次落地。项目的每一步前行,都得益于社区每一次真实的反馈与贡献。站在岁末年初,我们希望通过这篇文章,与大家共同回顾 2025 的重要时刻,并分享关于 2026 的规划与期待。

2026-02-04 21:45:55 1085

原创 双 11 大促峰值不翻车:淘天集团 Paimon + StarRocks 大规模 OLAP 查询实战与优化

作者:朱奥 /淘天集团高级数据工程师导读:双 11 等大促场景会在短时间内集中爆发:运营与业务 BI 在开卖后的窗口期密集访问数据产品,瞬时请求量陡增,对查询引擎的稳定性、成本与治理体系提出极高要求。与此同时,业务对近实时数据产品的诉求持续增强,传统“多存储、多链路、依赖回刷”的模式在研发效率、回刷成本与响应速度上逐步暴露瓶颈。

2026-01-27 16:34:57 787

原创 一套底座支撑多场景:高德地图基于 Paimon + StarRocks 轨迹服务实践

Paimon + StarRocks 分层存储与高性能查询落地,兼顾实时、性能与成本

2026-01-19 11:36:06 747

原创 dbt+DataOps+StarRocks:构建一体化数据治理与智能分析平台实践

作者:胡翔,SJM Resorts 企业方案设计高级经理、dbt- starrocksContributor本文内容整理自在 StarRocks Connect 2025 上的演讲。文章将主要围绕三个方面展开:dbt 在数据建模与治理自动化中的核心作用;如何在实际工作中落地 DataOps;StarRocks 在实时与离线(批)场景下的技术突破及其实践案例分享。

2025-12-30 22:17:14 1274

原创 Fresha 的实时分析进化:从 Postgres 和 Snowflake 走向 StarRocks

全球美业平台如何通过混合架构重构,实现高频运营分析与低运维成本

2025-12-19 15:59:42 1260

原创 从小文件困局到“花小钱办大事”:StarRocks 存算分离批量导入优化实践

在存算分离架构下,“一次性导入海量历史数据”正成为被放大的隐形风险。本文介绍 StarRocks 如何从写入源头重构大导入路径:通过“内存→本地磁盘 spill→集中 merge→对象存储”,减少远程写入和重复开销,降低 S3 写入次数并放大文件粒度,释放本地 I/O 能力,从源头缓解小文件问题,帮助用户以更低投入获得更高效、更稳定的使用体验。

2025-12-12 15:55:17 969

原创 从分钟到秒级,从 ClickHouse 到 StarRocks:哈啰的实时进化之路

性能提速 5 倍,成本下降 80%,统一湖仓架构全面落地。

2025-11-27 21:22:49 1203

原创 StarRocks 性能实测:在 Coffee-shop Benchmark 中快 10 倍!

在评估数据库性能时,如何同时衡量“算得快”和“算得省”一直是工程师关注的核心问题。

2025-11-20 23:47:14 848

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除