从大数据谈起3:离线数据分析系统的设计思路

本文探讨大数据背景下,离线数据分析系统的设计思路。OLAP用于数据分析,如推荐、统计和广告业务,与OLTP的快速响应需求不同。系统设计涉及数据采集、展示、监控等多个环节。面临数据同步、存储和查询等挑战,例如大规模数据同步策略、海量数据存储方案以及复杂查询表达方式。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

 随着互联网、移动互联网和物联网的发展,如何从数据分析中挖掘商业价值,已经成为互联网界最热门的话题,而大数据背景下的应用,之前也说过,主要分为两种用途:OLTP和OLAP。OLTP是用来支持线上业务,需要快速响应用户请求,支持事务,对于容错性和稳定性要求非常高。OLAP主要是离线计算,用来做数据分析,推荐、统计、广告等业务。两者的设计思路完全不同,OLTP相对来说发展比较完善,有非常多的开源产品(memcache、mongodb、redis、HBase、mysql)和商业产品(oracle、db2等)。而OLAP这一块,虽然有较多的BI类型的商业产品,可惜大都是天价,连互联网公司都无法承受,最终选择自主开发,而OLAP领域,也是有越来越多的开源产品来挑战商业产品,但是因为OLAP的复杂性和企业的重视程度不如线上服务,目前仍有较大的发展空间。
OLAP与OLTP一样,最基本的概念只有2个:存储和查询


但是在实际的系统设计里,还需要更多的考虑到其他因素:
1、数据如何采集
2、数据如何展示
3、如何监控系统是否正常运行

因此需要稍微复杂一点来设计整套系统:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值