Sprak Sql实训5:计算平均分

该博客介绍了如何使用Spark SQL来计算python.txt、spark.txt、django.txt三科成绩的平均分。首先,提出了从三个文件中计算平均分的任务,然后详细阐述了完成任务的步骤,包括创建Maven项目,添加相关依赖,配置日志属性,编写计算平均分的单例对象,并最终运行程序以降序展示平均分结果。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

目录

一、提出任务

二、完成任务

(一)新建Maven项目

(二)添加相关依赖和构建插件

(三)创建日志属性文件

(四)创建计算平均分单例对象

(五)运行程序,查看结果


一、提出任务

从python.txt、spark.txt、django.txt三科成绩表中计算每个学生三科平均分

master虚拟机上创建三个成绩文件

  • django成绩表 :django.txt
1 张三丰 90
2 李孟达 85
3 王晓凯 87
4 黄德耀 93
5 罗萌萌 65
6 李新宇 76
7 王德志 78
8 张章雨 60
9 郭孟德 94

  • python成绩表 :python.txt
1 张三丰 80
2 李孟达 65
3 王晓凯 77
4 黄德耀 83
5 罗萌萌 62
6 李新宇 70
7 王德志 68
8 张章雨 80
9 郭孟德 91

  • java成绩表:java.txt
1 张三丰 95
2 李孟达 86
3 王晓凯 84
4 黄德耀 76
5 罗萌萌 92
6 李新宇 72
7 王德志 86
8 张章雨 90
9 郭孟德 61

 启动集群的HDFS与Spark

 将成绩文件 - java.txt、django,txt、java.txt上传到HDFS上/score目录

查看三个成绩文件内容

二、完成任务

(一)新建Maven项目

 

java目录改成scala目录

(二)添加相关依赖和构建插件

pom.xml文件里添加依赖与Maven构建插件

<?xml version="1.0" encoding="UTF-8"?>
<project xm
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值