1 文档编写目的
在前面的文章中,Fayson介绍过非Kerberos环境下跨操作系统的Gateway节点配置,参考《0567-6.1.0-非Kerberos环境下集群外跨操作系统的Gateway节点配置》。本文档介绍如何在用redhat搭建的带kerberos认证的CDH集群外用suse12系统向安全模式的CDH集群提交任务,访问数据,即在suse12系统中配置一个不被CM管理的gateway节点。
2 前置条件
第一步可依据在为非安全模式的集群添加suse12系统的客户端节点的步骤进行配置,配置完成后执行访问hdfs 的命令会出现如下的报错:

在拷贝配置文件过程中,拷贝每一个服务的配置文件,一定要从有这个服务的角色或者gateway节点上拷贝。
3 配置Kerberos
- 安装Kerberos客户端
zypper install krb5-client

- 从集群的任意节点中拷贝/etc/krb5.conf配置文件
scp -r cdh4.macro.com:/etc/krb5.conf /etc


- 验证

4 配置环境变量
在未配置环境变量前,访问集群时可能仍然出现找不到凭证的问题:

查看缓存的文件位置:

将该地址添加到环境变量中

更新环境变量之后重新访问集群

5 组件验证
- 验证hdfs
在目录下创建k.txt文件

在hdfs上新建一个目录/tmp/ktest

将k.txt上传到/tmp/ktest目录下

将本地的a.txt删除,从hdfs上拉取下来并查看

- 验证mapreduce
hadoop jar /opt/cloudera/parcels/CDH/jars/hadoop-examples.jar pi 5 5


在控制台上查看,生成了任务

- 验证hive


- 验证spark

- 验证hbase



本文档详细介绍如何在SUSE 12系统中配置一个非CM管理的Gateway节点,以便向安全模式的CDH集群提交任务和访问数据。包括Kerberos客户端的安装、配置文件的拷贝、环境变量的设置及组件验证过程。
1244

被折叠的 条评论
为什么被折叠?



