YARN 技术全解析:从 MapReduce 到多元应用
1. MapReduce 向后兼容性
在 Hadoop 版本更迭中,MapReduce 的属性有了不少变化,我们自然会关心其向后兼容性。向后兼容性对于拥有大量用户基础的系统至关重要,它能确保用户可以轻松迁移到新版本。下面从脚本、配置和 API 三个方面来看其向后兼容性。
- 脚本兼容性 :Hadoop 自带的脚本保持不变。这意味着我们仍然可以使用 hadoop jar ... 来启动作业,其他 hadoop 脚本的用法也和以前一样。
- 配置方面 :随着 YARN 的引入,MapReduce 成为一个应用程序,MapReduce 1 中的许多属性名在 MapReduce 2 中已被弃用,有些甚至不再生效。
- API 向后兼容性 :
- 代码兼容性 :现有的 MapReduce 代码只要重新编译,就可以在 YARN 上正常运行,无需修改代码。
- 二进制兼容性 :MapReduce 字节码能在 YARN 上无需更改地运行。使用“旧”的 MapReduce API( org.apache.hadoop.mapreduce 包)的代码是二进制兼容的,无需重新编译。但使用“新”的 MapReduce API 时,可能会遇到一些问题,因为部分类已变为接口,例如 JobContext 、 TaskAtte
超级会员免费看
订阅专栏 解锁全文
76

被折叠的 条评论
为什么被折叠?



