大数据分析:R与Hadoop的结合应用
1. 非线性降维工具RDRToolbox
在进行非线性降维时,RDRToolbox是一个非常实用的包,它支持ISOMAP和LLE等非线性降维算法。你可以使用以下命令来安装RDRToolbox:
source("http://bioconductor.org/biocLite.R")
biocLite("RDRToolbox")
library(RDRToolbox)
2. RHadoop简介
RHadoop是一组R包的集合,它能让用户借助Hadoop来处理和分析大数据。在传统的统计分析中,主要聚焦于对历史样本(小数据)进行分析,这可能会忽略那些虽罕见但有价值的事件,导致结论的不确定性。而随着云技术的出现,客户与企业之间的实时交互变得更加频繁,机器学习的重点也转向了为不同客户进行精准预测。例如,企业可以通过实时预测模型,根据个人行为提供实时的个性化推荐或在线广告。
当数据量过大,单台机器的内存无法容纳时,就需要使用超级计算机或其他可扩展的解决方案。Hadoop作为最流行的可扩展大数据解决方案,是一个开源框架,能够在集群上进行数据存储和并行计算。RHadoop则允许R利用Hadoop的可扩展性,帮助处理和分析大数据。RHadoop主要包含以下五个包:
| 包名 | 功能 |
| ---- | ---- |
| rmr | R与Hadoop MapReduce的接口,通过调用Hadoop流式MapReduce API在Hadoop集群上执行MapReduce作业。开发R MapReduce程序时,只需关注
超级会员免费看
订阅专栏 解锁全文

被折叠的 条评论
为什么被折叠?



