Hadoop的TestDFSIO测试（转载）

最新推荐文章于 2024-07-25 11:42:13 发布

原创

最新推荐文章于 2024-07-25 11:42:13 发布 · 2k 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#大数据

本文介绍了使用Hadoop自带的TestDFSIO工具进行读写性能测试的步骤和结果解析，包括如何清空缓存以确保准确的测试数据。测试结果显示了不同测试阶段的吞吐量、平均I/O速率等关键指标。

http://adaishu.blog.163.com/blog/static/175831286201151272221903/

为了测试Hadoop用mapreduce方式读写文件系统的性能，开发了TestDFSIO，用法如下：

写测试
cd到hadoop安装目录:
# cd hadoop
看看内存情况：
# free -g
同步内存文件缓存到硬盘：
# sync
清空linux文件系统缓存：
# echo 3 > /proc/sys/vm/drop_caches
再次查看内存情况：
# free -g
切换到hadoop用户：