一、项目展示
在这里,主要展示大数据图表分析的几个页面。更多精彩由您自己发掘!
![]() |
![]() |
![]() |
二、项目介绍
本项目分为两个模块,第一个为java语言基于springboot实现的答题模块,另一个为scala语言基于spark开发的日志分析模块。
1、答题模块
基于SSM框架实现,具体使用的技术有:spring,springMVC,mybatis,redis等,使用的数据库为:mysql数据库。
用户输入学号、姓名等相关信息即可完成登陆(未注册自动注册),然后进入答题界面参与答题,答题结束后显示成绩,然后引导跳转到大数据实时展示页面。上述这些操作都将被日志文件记录下来,保存在日志文件内。
当有新的数据插入或者更新mysql的时候,本模块的websocket能在100ms内把最新的数据广播给当前左右在线的浏览器,反之如果数据库没有新数据插入,那么短时间内则不会自动广播。
2、scala数据分析模块
基于spark实现,具体使用的技术由,kafka,flume,spark,redis,zookeeper等,使用的数据库为mysql。
首先flume负责采集日志文件中的日志信息,转交给kafka,再由spark程序来消费,清洗、分类、分析