测试要求:
三台物理机
内存:64 G
查看物理CPU个数:2
查看每个物理CPU中core的个数(即核数) : 12
一、准备测试环境
1.下载软件并安装
-
BigDataBench_V4.0_Spark.tar.gz http://prof.ict.ac.cn/download.html#Full_download
-
Apache Spark 集群
-
Hadoop 集群
-
Scala
二、环境部署及测试常规任务
此处只介绍BigDataBench_V4.0_Spark安装部署,spark、hadoop、scala略
1. 解压压缩包
tar -zxvf BigDataBench_V4.0_Spark.tar.gz
2.切换目录
cd BigDataBench_V4.0_Spark
3.配置资源文件
vi conf.properties
配置相关资源
##
export BigdataBench_HOMESP=/opt/rdma/BigDataBench_V4.0_Spark
##JAVA
export JAVA_HOME=/opt/sensing/datafly/deps/jdk/jdk1.8.0_60
export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin
export CLASSPATH=.:$JAVA_HOME/jre/lib:$JAVA_HOME/lib/tools.jar
export JRE_HOME=$JAVA_HOME/jre
##HADOOP
export HADOOP_HOME=/opt/hadoop-2.7.3
exp