Spark
JopenC
(⁎˃ᆺ˂)
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Spark实验2更新版(自用)
在master节点上执行如下命令: /opt/hadoop/sbin/start-all.sh //启动hadoop集群 /opt/spark/sbin/start-all.sh //启动spark集群 1.在master的/opt目录下新建file1.txt数据文件 直接复制file1.txt: 1,1768,50,155 2,1218,600,211 3,2239,788,242 4,310...原创 2019-10-25 00:22:22 · 532 阅读 · 0 评论 -
RDD编程初级实践
请根据给定的实验数据Data01.txt,在spark-shell中通过编程来计算以下内容 首先使用xftp将Data01.txt(某大学计算机系的成绩数据集)上传至master节点的/opt目录下 所有节点使用hadoop用户登录 su hadoop //切换hadoop用户 在master节点上分别启动hadoop集群和spark集群 /opt/hadoop/sbin/start-all.s...原创 2019-10-17 22:24:17 · 6692 阅读 · 0 评论 -
Spark的安装实验(基于hadoop全分布集群)
注:此实验环境基于本人文章“Centos7搭建hadoop完全分布式集群” 文章链接:https://blog.youkuaiyun.com/Jop_qq/article/details/89421400 所有实验资源均可自行上网下载 1.在spark官网下载2.4.4版本的安装包 2.使用xftp传输工具将spark安装包上传至master主机的/opt目录下 3.在所有节点上创建hadoop用户 添加用户...原创 2019-09-22 23:52:24 · 1056 阅读 · 0 评论
分享