mysql benchmark 测试工具_BenchmarkSQL数据库基准测试工具

之前有介绍过sysbench基准测试工具，类似的开源测试工具还有BenchmarkSQL，一个JDBC基准测试工具，内嵌了TPC-C测试脚本，也支持很多数据库，如PostgreSQL、Oracle和Mysql等。

1、软件环境

系统用CentOS7

Java，因为BenchmarkSQL本身是使用Java语言编写的，所以如果在Linux系统下还没有安装JDK的话，我们首先需要对其进行安装

数据库，本例先介绍PostgreSQL和Mysql

Ant，用来对BenchmarkSQL进行编译

EPEL仓库

R语言，用来生成图形报告

以及上述软件的依赖。

2、安装过程

2.1、安装ant

yum -y install ant

2.2、安装EPEL仓库

安装 su -c 'rpm -Uvh https://download.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm'

更新 yum -y update

2.3、安装R语言

yum -y install R

2.4、安装BenchmarkSQL

在下载地址中下载所需的包，上传至服务器后完成解压：unzip ./benchmarksql-5.0.zip

进入解压后的目录用ant编译

cd benchmarksql

ant

此时会编译出一个版本 benchmarksql-5.0/dist/BenchmarkSQL-5.0.jar，但是该版本并不支持MySQL的TPC-C测试，需要做如下的修改。

修改benchmarksql源码

(1)修改benchmarksql-5.0/src/client/jTPCC.java，增加mysql相关部分，如下所示：

if (iDB.equals("firebird"))

dbType = DB_FIREBIRD;

else if (iDB.equals("oracle"))

dbType = DB_ORACLE;

else if (iDB.equals("postgres"))

dbType = DB_POSTGRES;

else if (iDB.equals("mysql"))

dbType = DB_UNKNOWN;

else

{

log.error("unknown database type '" + iDB + "'");

return;

}

(2)修改benchmarksql-5.0/src/client/jTPCCConnection.java， SQL子查询增加"AS L"别名，如下所示：

default:

stmtStockLevelSelectLow = dbConn.prepareStatement(

"SELECT count(*) AS low_stock FROM (" +

" SELECT s_w_id, s_i_id, s_quantity " +

" FROM bmsql_stock " +

" WHERE s_w_id = ? AND s_quantity < ? AND s_i_id IN (" +

" SELECT ol_i_id " +

" FROM bmsql_district " +

" JOIN bmsql_order_line ON ol_w_id = d_w_id " +

" AND ol_d_id = d_id " +

" AND ol_o_id >= d_next_o_id - 20 " +

" AND ol_o_id < d_next_o_id " +

" WHERE d_w_id = ? AND d_id = ? " +

" ) " +

" )AS L");

break;

重新编译修改后的源码，此时得到的benchmarksql版本 benchmarksql-5.0/dist/BenchmarkSQL-5.0.jar 已经支持MySQL的TPC-C测试。

cd benchmarksql-5.0

ant

修改相关脚本，支持Mysql

(1)修改 文件：benchmarksql-5.0/run/funcs.sh，添加mysql 数据库类型。

function setCP()

{

case "$(getProp db)" in

firebird)

cp="../lib/firebird/*:../lib/*"

;;

oracle)

cp="../lib/oracle/*"

if [ ! -z "${ORACLE_HOME}" -a -d ${ORACLE_HOME}/lib ] ; then

cp="${cp}:${ORACLE_HOME}/lib/*"

fi

cp="${cp}:../lib/*"

;;

postgres)

cp="../lib/postgres/*:../lib/*"

;;

mysql)

cp="../lib/mysql/*:../lib/*"

;;

esac

myCP=".:${cp}:../dist/*"

export myCP

}

...省略

case "$(getProp db)" in

firebird|oracle|postgres|mysql)

;;

"") echo "ERROR: missing db= config option in ${PROPS}" >&2

exit 1

;;

*) echo "ERROR: unsupported database type 'db=$(getProp db)' in ${PROPS}" >&2

exit 1

;;

esac

(2)添加mysql java connector驱动，下载对应版本的驱动，官网下载地址，如8.0以上版本下载对应的驱动mysql-connector-java-8.0.18.jar 需自行下载。

mkdir -p benchmarksql-5.0/lib/mysql

cp mysql-connector-java-8.0.18.jar benchmarksql-5.0/lib/mysql/

(3)修改benchmarksql-5.0/run/runDatabaseBuild.sh，去掉extraHistID

AFTER_LOAD="indexCreates foreignKeys extraHistID buildFinish"

修改为：

AFTER_LOAD="indexCreates foreignKeys buildFinish"

2.5、配置测试参数文件

配置

cd run

cp props.pg postgres.properties

cp props.pg mysql.properties

vim postgres.properties

vim mysql.properties

配置文件详解：

db=postgres //数据库类型，postgres，mysql

driver=org.postgresql.Driver //驱动，mysql8.0以上为com.mysql.cj.jdbc.Driver

conn=jdbc:postgresql://localhost:5432/postgres //PG数据库连接字符串，正常情况下，需要更改localhost为对应PG服务IP、5432位对应PG服务端口、postgres为对应测试数据库名

user=benchmarksql //数据库用户名，通常建议用默认，这就需要我们提前在数据库中建立benchmarksql用户

password=PWbmsql //如上用户密码

warehouses=1 //仓库数量，数量根据实际服务器内存配置，配置方法见第3步

loadWorkers=4 //用于在数据库中初始化数据的加载进程数量，默认为4，实际使用过程中可以根据实际情况调整，加载速度会随worker数量的增加而有所提升

terminals=1 //终端数，即并发客户端数量，通常设置为CPU线程总数的2～6倍

runTxnsPerTerminal=10 //每个终端(terminal)运行的固定事务数量，例如：如果该值设置为10，意味着每个terminal运行10个事务，如果有32个终端，那整体运行320个事务后，测试结束。该参数配置为非0值时，下面的runMins参数必须设置为0

runMins=0 //要测试的整体时间，单位为分钟，如果runMins设置为60，那么测试持续1小时候结束。该值设置为非0值时，runTxnsPerTerminal参数必须设置为0。这两个参数不能同时设置为正整数，如果设置其中一个，另一个必须为0，主要区别是runMins定义时间长度来控制测试时间；runTxnsPerTerminal定义事务总数来控制时间。

limitTxnsPerMin=300 //每分钟事务总数限制，该参数主要控制每分钟处理的事务数，事务数受terminals参数的影响，如果terminals数量大于limitTxnsPerMin值，意味着并发数大于每分钟事务总数，该参数会失效，想想也是如此，如果有1000个并发同时发起，那每分钟事务数设置为300就没意义了，上来就是1000个并发，所以要让该参数有效，可以设置数量大于并发数，或者让其失效，测试过程中目前采用的是默认300。

terminalWarehouseFixed=true //终端和仓库的绑定模式，设置为true时可以运行4.x兼容模式，意思为每个终端都有一个固定的仓库。设置为false时可以均匀的使用数据库整体配置。TPCC规定每个终端都必须有一个绑定的仓库，所以一般使用默认值true。

//下面五个值的总和必须等于100，默认值为：45, 43, 4, 4 & 4 ，与TPC-C测试定义的比例一致，实际操作过程中，可以调整比重来适应各种场景。

newOrderWeight=45

paymentWeight=43

orderStatusWeight=4

deliveryWeight=4

stockLevelWeight=4

resultDirectory=my_result_%tY-%tm-%td_%tH%tM%tS //测试数据生成目录，默认无需修改，默认生成在run目录下面，名字形如my_result_xxxx的文件夹。

osCollectorScript=./misc/os_collector_linux.py //操作系统性能收集脚本，默认无需修改，需要操作系统具备有python环境

osCollectorInterval=1 //操作系统收集操作间隔，默认为1秒

//osCollectorSSHAddr=user@dbhost //操作系统收集所对应的主机，如果对本机数据库进行测试，该参数保持注销即可，如果要对远程服务器进行测试，请填写用户名和主机名。

osCollectorDevices=net_eth0 blk_sda //操作系统中被收集服务器的网卡名称和磁盘名称，例如：使用ifconfig查看操作系统网卡名称，找到测试所走的网卡，名称为enp1s0f0，那么下面网卡名设置为net_enp1s0f0(net_前缀固定)；使用df -h查看数据库数据目录，名称为(/dev/sdb 33T 18T 16T 54% /hgdata)，那么下面磁盘名设置为blk_sdb(blk_前缀固定)

2.6、进行测试

执行当前路径下的shell脚本：

./runDatabaseBuild.sh my_postgres.properties

./runBenchmark.sh my_postgres.properties

[NOTE]

测试之前要在数据库中创建相应的database和user，还要注意权限的问题。

2.7、结果处理

测试结束后，run目录下会生成一个新目录，它的命名格式为 my_result_%tY-%tm-%td_%tH%tM%tS。

使用 generateReport.sh my_result_* 脚本创建具有图形的 HTML 文件：

例如：

./generateReport.sh my_result_2018-09-30_133047