spark学习之路(起始篇)

对于spark,我基本上算是个小白,如果说的不对,或者各位大佬有不同的意见,欢迎提出来一起分享 。今天主要是梳理一下需求,确定一下学习方向

项目中因为原始框架无法达到大量数据计算的要求,初步选择用spark来达到快速计算的需求,下面介绍大致情况:

  • 场景为项目中的某一个设计到大量复杂计算的模块
  • 设计数据量百万级数据,并会涉及到多层循环计算
  • 数据来源为MySQL数据库
  • 初始想法为将数据同步到hbase集群,以spark集群强大的计算能力来计算

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值