hadoop使用场景

本文介绍了Hadoop在大数据处理中的核心应用,包括分布式存储、日志处理、海量数据计算等。探讨了Hadoop如何通过HBase支持实时数据分析,并应用于机器学习、搜索引擎、数据挖掘等领域。

  • 大数据量存储:分布式存储

  • 日志处理: Hadoop擅长这个

  • 海量计算: 并行计算

  • ETL:数据抽取到oracle、mysql、DB2、mongdb及主流数据库

  • 使用HBase做数据分析: 用扩展性应对大量的写操作—Facebook构建了基于HBase的实时数据分析系统

  • 机器学习: 比如Apache Mahout项目

  • 搜索引擎:hadoop + lucene实现

  • 数据挖掘:目前比较流行的广告推荐

  • 大量地从文件中顺序读。HDFS对顺序读进行了优化,代价是对于随机的访问负载较高。

  • 数据支持一次写入,多次读取。对于已经形成的数据的更新不支持。

  • 数据不进行本地缓存(文件很大,且顺序读没有局部性)

  • 任何一台服务器都有可能失效,需要通过大量的数据复制使得性能不会受到大的影响。

  • 用户细分特征建模

  • 个性化广告推荐

  • 智能仪器推荐

转载于:https://my.oschina.net/MrMichael/blog/298953

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值