DataFrame的创建与常见操作

本文介绍了如何在Spark环境中创建DataFrame,包括从HDFS文件加载数据,以及DataFrame的常用操作如选择、过滤、分组和排序。同时,展示了使用DSL和SQL语法进行数据查询的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

环境准备:
打开Hadoop01,Hadoop02,Hadoop03
开启Hadoop环境

start-dfs.sh
start-yarn.sh

注意:
要查看一下spark/conf下的那个spark-env.sh文件有没有整合hdfs,一定要整合,不然待会下面运行时会报找不到路径的错误
在这里插入图片描述
解决方法:
到spark/conf目录下修改spark-env.sh文件,整合hdfs

cd spark/conf/
vi spark-env.sh

添加:

export HADOOP_CONF_DIR=/export/servers/hadoop-2.7.4/etc/Hadoop

分发

scp spark-env.sh hadoop02:/export/servers/spark/conf
scp spark-env.sh hadoop03:/export/servers/spark/conf

重启hadoop服务

stop-all.sh
start-all.sh

重启spark服务,spark/sbin下

stop-all.sh
start-all.sh

启动spark-shell

bin/spark-shell --master local[2]

然后重新运行

val personDF = spark.read.text(
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值