Kerberos+HDP客户端部署与配置

解决Ambari启用Kerberos认证后NameNode UI 等页面无法打开问题 Ambari启用Kerberos认证后NameNode UI, RESOURCEMANAGER ,Spark2 history server ui提示要登录, 如果Windows 和KDC是集成同一个Windows AD,那么可以通过AD账号登录打开页面,否则将提示:401:Authorization required。 这种情况可以配置页面匿名访问解决: --namenode ui 在HDFS -> Advanced core-site set hadoop.http.authentic... 阅读详情

背景说明:

在Ambari平台上启用Kerberos之后,一些服务的Web UI 如:Namenode:50070、Yarn Web UI、spark history UI等快速链接大部分都是需要Kerberos认证才可以继续使用的。

像这种情况,就不能在Linux上进行操作.需要在Windows上安装Kerberos客户端,再进行浏览器配置才可以访问Hadoop相关服务的Web UI界面。

 

安装配置主要分为以下几步

 

  1. 在windows上安装Kerberos客户端,并修改本地krb5.ini文件
  2. 配置hosts文件,添加集群ip映射
  3. 配置浏览器
  4. Kerberos认证
    一、安装配置Kerberos客户端
    下载 MIT Kerberos for Windows 4.1
    地址:http://web.mit.edu/kerberos/dist/
    Windows 64位:64-bit MSI Installer kfw-4.1-amd64.msi, 10812k.
    根据自己windows操作系统来选择对应版本

image.png

  1. 客户端安装

image.png

image.png

选择Typical,点击下一步。

点击完成。后面会出现提示框,是否重启计算机,选择No就可。

 

默认安装路径:

MIT Kerberos软件的安装按照向导一步步操作即可,其安装目录默认为“C:\Program Files\MIT\Kerberos”。

image.png

krb5.ini配置

文件路径:C:\ProgramData\MIT\Kerberos5\krb5.ini

image.png

从HDP KDC Server节点的/etc目录下拷贝krb5.conf文件MIT Kerberos软件的安装目录。

将Kerberos KDC所在主机的/etc/krb5.conf文件有选择的粘贴到windows的krb5.ini里面

[libdefaults]

default_realm = DLAKE.COM

dns_lookup_realm = false

dns_lookup_kdc = true

rdns = false

ticket_lifetime = 24h

forwardable = true

udp_preference_limit = 0

#default_ccache_name = KEYRING:persistent:%{uid}

#default_ccache_name = FILE:/tmp/krb5cc_%{uid}

[realms]

DLAKE.COM = {

kdc = ipa1.dlake.com:88

master_kdc = ipa1.dlake.com:88

admin_server = ipa1.dlake.com:749

kdc = ipa2.dlake.com:88

master_kdc = ipa2.dlake.com:88

admin_server = ipa2.dlake.com:749

default_domain = dlake.com

#pkinit_anchors = FILE:/var/lib/ipa-client/pki/kdc-ca-bundle.pem

#pkinit_pool = FILE:/var/lib/ipa-client/pki/ca-bundle.pem

}

说明:krb5.ini是系统文件 需要admin账户权限修改。

windows10以管理员身份运行的设置方法:

过计算机管理永久开启Administrator管理员账号登录

右键桌面的“计算机” - 选择“管理”;依次展开“计算机管理(本地) - 系统工具 - 本地用户和组 - 用户”在右边的文件里面找到“Administrator”并双击它,在“常规”选项下将“账户已禁用”的勾去掉,这样就开启了 Administrator(管理员)账户。

image.png

配置MIT Kerberos环境变量

配置如下环境变量:

变量名:KRB5_CONFIG

变量值:C:\ProgramData\Kerberos\krb5.ini

说明:ProgramData在window中是隐藏文件,需要打开隐藏文件、

注:环境变量KRB5_CONFIG的变量值为krb5.ini文件存放路径

image.png

变量名:KRB5CCNAME

变量值:D:\tmp\krb5cc_0

说明:环境变量KRB5CCNAME的变量值为HDP集群中某个用户或大数据服务对应用户的票据缓存文件存放路径。在Windows操作系统下创建目录,用来存放从HDP集群中拷贝的票据缓存文件,此处目录为D:\tmp。

在MIT客户端工具中认证的话,会自动在这个目录中生成krb5cc_0该文件

image.png

image.png

票据缓存文件获取实例:

[root@hdp2 ~]#

kinit -kt /etc/security/keytabs/hdfs.headless.keytab hdfs-hdp1-auth@DLAKE.COM

[root@hdp2 ~]# klist

Ticket cache: FILE:/tmp/krb5cc_0 (注:该文件拷贝至Windows环境的用户票据缓存文件存放路径即可)

Default principal: hdfs-hdp1-auth@DLAKE.COM

 

配置hosts文件

文件路径:C:\Windows\System32\drivers\etc\hosts

 

添加ip的映射

说明:如果客户端不访问ipa的话 ipa的ip与hostname映射可以不用加

10.167.*.17 ipa1.dlake.com ipa1

10.167.*.18 ipa2.dlake.com ipa2

10.167.*.8 hdp1.dlake.com hdp1

10.167.*.16 hdp2.dlake.com hdp2

10.167.*.15 hdp3.dlake.com hdp3

 

Kerberos认证

有两种方式:

直接认证Kerberos主体,但得手动输入密码

通过keytab密钥认证Kerberos主体,不需要手动输入密码,但前提是密钥要与Kerberos主体对应。

第一种认证方式

在Kerberos KDC所在主机上创建一个主体票据

如: kadmin.local “addprinc zhangsan/zhangsan”

 

有了主体票据之后,双击打开Kerberos客户端,获取Ticket。

利用MIT Kerberos获取Kerberos票据

启动MIT Kerberos,点击“Home→Get Ticket”,输入MIT Kerberos环境变量配置中所使用的Kerberos用户对应的Principal及其密码。如下图:

image.png

输入密码,登录成功后。如下图:

image.png

也可以在windows命令行内执行

客户端使用klist -kte命令来查看keytab,然后使用kinit命令认证,如下图所示:

image.png

kinit -e

image.png

kinit hdpadmin@DLAKE.COM

image.png

cmd 命令行登录,会有该异常。后续优化

 

配置浏览器

由于技术有限,目前只实现如何配置火狐Firefox浏览器,在火狐浏览器上访问Hadoop的Web UI。

打开浏览器,在地址栏输入about:config,如下图所示:

image.png

点击接受风险并继续,在搜索栏内,搜索network.negotiate-auth.trusted-uris,双击将其值修改为集群节点ip或主机名,注意:这里如果修改为主机名的话,到时候访问的话,就以主机名访问,ip的话会失效,不起作用。

image.png

设置:

network.negotiate-auth.trusted-uris 为集群hostname

hdp1.dlake.com,hdp2.dlake.com,hdp3.dlake.com

如下图:

image.png

搜索network.auth.use-sspi,将值改为false。(默认是true)

image.png

测试访问web ui

经过如上步骤,启动Firefox浏览器,便可以正常访问启用了Kerberos的HDP集群。

Hdfs 集群web ui:http://hdp1.dlake.com:50070

image.png

Yarn ResourcesManager web ui:http://hdp1.dlake.com:8088

image.png

image.png

image.png

Ranger web ui: http://hdp2.dlake.com:6080

image.png

 

Spark  History web ui: http://hdp1.dlake.com:18081/

image.png

MR JobHistory UI :http://hdp1.dlake.com:19888/

image.png

聊聊 kerberos 的 kinit 命令和 ccache 机制 1. 前言 大家好,最近遇到了个 kerberos 相关问题,“客户端节点上执行 kinit -R 命令报错:KDC can’t fulfill requested option while renewing credentials”, 在次跟大家分享下问题的解决方式,和背后的相关知识点,主要涉及到 kerberos 的 kinit 命令和 ccache 机制。 2. 问题现象与问题日志 问题现象: 客户端执行命令 kinit -R 报错: “KDC can’t fulfill requested opt 阅读详情

相关推荐

Windows Kerberos客户端配置并访问CDH

1.Windows安装 Kerberos 客户端; 2.配置 krb5.ini 3.执行 kinit 发起认证 4.浏览器可信配置,在浏览器输入about:config打开配置: 输入 `network.auth.use-sspi`,并点击切换到 `false`; 输入 `network.negotiate-auth.trusted-uris`,输入可信 URL 地址; 输入 `network.negotiate-auth.delegation-uris`;

shy_snow的专栏 2818

kerberos-05.windows安装mit kerberos并认证

1.官网下载安装kerberos 2. 拿到服务器krb5.conf配置文件,在windows下要改名为krb5.ini,并且删除部分有Linux路径的配置,如红框内的需要删除 3. 配置环境变量 根据文件地址配置环境变量,krb5cache文件是需要后面生成的。只需要创建好temp目录即可 变量名:KRB5_CONFIG,变量值:D:\krb5\krb5.ini 变量名:KRB5CCNAME,变量值:C:\temp\krb5cache 在kerberos安装路径bin目录下运行命令生成票据 k

github_39319229的博客 2714

避坑指南:DBeaver连接Kerberos化Hive时,Cloudera驱动与Apache驱动到底怎么选?

本文深入对比了DBeaver连接Kerberos化Hive时Cloudera驱动与Apache驱动的关键差异,包括版本兼容性、配置参数、认证模式支持等核心问题。针对CDH/HDP环境推荐使用Cloudera优化驱动,而Apache社区驱动更适合标准Hive部署,帮助用户根据实际环境做出最佳选择并避免常见连接问题。

weixin_30527323的博客 292

windows10安装kerberos时候遇到的问题

windows10安装kerberos时候遇到的问题,ini路径,以及kinit不成功

CR 1245

HDP 11.sqoop 将 MySQL 数据导⼊ Hive

十二、 sqoop将 MySQL 数据导⼊ Hive 1、将 ambari.users 表导入到 dim_v8sp 数据库在 client-v01 服务器创建 etl 用户 HOME目录,生成kerberos票据文件,并添加 crontab以定期刷新飘据到缓存。 cd /home/; cp -r ./bigdata ./etl; chown -R etl:etl ./etl; rm -rf /home/etl/security/keytabs/bigdata.keytab; su - ...

80后大叔爱学习 1749

H3C-HCL模拟器-STP生成树协议实验

边缘接口的存在是为了提高网络的收敛速度和性能。由于边缘接口连接的是终端设备,这些设备通常不会产生环路,因此不需要参与生成树协议的计算和决策。边缘接口通常是指那些不会连接到其他交换机或生成树的冗余路径的接口。H3C交换机千兆口的cost默认是20,把SW2的g1/0/2接口的cost改为100;SW4是根网桥,根据STP计算,闭塞端口应该在SW1上;方法:使得SW2到SW1的cost比SW4到SW1更大;7)修改配置:把SW1连接PC的所有接口配置为边缘接口。协议的计算开销,提高网络的收敛速度。

网络工程 2996

HDP安全之集成kerberos/LDAP、ranger;安装部署kerberos;安装Knox;安装LDAP;启动LDAP;验证Knox网关

5.HDP安全之集成kerberos/LDAP、ranger 集成HDP kerberos /LDAP/ranger之前必须先了解为什么要这样做,kerberos/LDAP是用来做身份认证的,ranger用来做授权审计的,KNOX负责集群安全,所以集成后应该要满足同一个账号,例如hux可以在linux、ambari、ranger、kerberos等等等均可使用,ranger上可以同步LDAP中的用户,并进行统一的用户权限管理,所以需要在linux中创建的用户与LDAP、kerberos中创建的用户相同,由于

涂作权的博客 2094

2.4G板载PCB IFA天线仿真设计

本文简单介绍下2.4GHz的板载PCB IFA天线的HFSS仿真与设计。

射频问问 (RFASK.NET) 是在"微波射频网(MWRF.NET)”系列原创技术专栏基础上升级打造的技术问答学习平台。 6013

Hadoop学习笔记(HDP)-Part.11 安装Kerberos

服务端,在hdp01上安装客户端,在hdp01-05上安装(可选,后面ambari启用kerberos的时候也会安装)

glisten0317的博客 1719

UE5新手必看:如何在UMG控件中嵌入浏览器实现Web页面展示(附完整步骤)

本文为UE5新手提供了在UMG控件中无缝集成Web浏览器的完整实战指南。详细介绍了从启用WebBrowser插件、创建并配置WebBrowser控件蓝图,到编写动态加载与交互逻辑,以及在游戏关卡中实例化UI的全过程。文章还分享了性能优化技巧与常见问题排查方法,帮助开发者高效实现游戏UI内的Web页面展示与交互。

weixin_29243063的博客 711

鸿蒙设备部署轻量级Web服务器NexServer实践

Web服务器作为互联网基础设施的核心组件,其轻量化部署在移动终端领域具有重要实践价值。本文以鸿蒙操作系统为技术载体,深入解析微内核架构如何通过资源隔离和分布式软总线实现服务高可用。重点探讨NexServer这一专为嵌入式场景设计的轻量级服务器,其ARM原生支持特性与15MB级内存占用,在HTTP/2协议处理与WebSocket通信中展现出独特优势。在智能家居控制面板、边缘计算节点等物联网典型场景中,鸿蒙设备结合NexServer的方案相比传统Nginx部署可降低60%资源消耗。通过实测数据对比,该组合在50

weixin_30411239的博客 482

Kderberos之HDP上给Apache HBase配置Kerberos(五)

在生产环境中保护Apache HBase HBase是模仿Google BigTable的流行分布式键值存储。 HBase可以支持极快的查找,高写入吞吐量和强大的一致性,使其适用于从用例数据存储(如Facebook消息传递)到分析用例(如Yahoo Flurry)的各种用例。 HBase将数据存储在HDFS上,以提供线性缩放和容错能力。 与HDFS相似,Kerberos集成通过在需要有效SPN进行身份验证的HBase协议中添加基于SASL的身份验证层而起作用。 另外,HBase本身在存储数据时使用Kerbe

m0_48187193的博客 485

别再死磕RD算法了!用MATLAB手把手复现SAR后向投影(BP)成像(附完整代码与避坑点)

本文详细介绍了如何使用MATLAB实现合成孔径雷达(SAR)后向投影(BP)成像算法,突破传统RD算法在大斜视和复杂轨迹场景中的局限。通过完整的代码示例和避坑指南,帮助读者掌握BP算法的核心原理、内存优化策略和并行计算技巧,提升SAR成像精度与效率。

weixin_30908103的博客 298

Kerberos安全认证部署和使用(HDP)

对于客户端而言,集群开启Kerberos之后,可以对可信任的客户端提供认证,使得可信任客户端能够正确提交作业,恶意用户无法伪装成其他用户侵入到集群当中,能够有效防止恶意冒充客户端提交作业的情况。对于服务端而言,集群开启Kerberos之后,集群中的服务都是可以信任的,集群服务之间使用密钥进行通信,避免了冒充服务的情况。 开启Kerberos能够提升集群的安全性,但是也会提升用户使用集群的复杂度,提交作业的方式与没有开启Kerberos前会有一些区别,需要对作业进行改造,增加Kerberos认证的相关内容。

清平乐的技术专栏 3112

晶体管-二极管三极管MOS管选型参数总结

二极管三极管和MOS管,是电路中常用的控制电流电压的基本电子元器件。电路世界中晶体管的选型,需要考虑的参数多种多样,这些参数的选择会直接影响到电路的性能、稳定性、成本等多个方面。本文对二极管三极管和MOS管的选型参数进行详细介绍并总结。

fydar的博客 890

Plant Simulation 双深位立库开发系列教程-货架参数化

为了方便用户进行货架参数化,我们需要在交互界面上进行参数调整,右键打开RackLane,打开Dialog,在Rack_tab的tab下创建相应的对象,并创建NumberOfRightRack和NumberOfLeftRack作为数据连接对象。通过Rack._3D.VisibleGraphicGroups := ["default"]来切换需要显示的Rack,当不需要显示则可以Rack._3D.VisibleGraphicGroups := [""]即可。首先,加载默认的HBW库到模型中,确保结构树当中有。

santayana的专栏 1260

jcepolicy7.zip linux,HDP安全之集成kerberos/LDAP、ranger(knox自带LDAP)

----------------------目录导航见左上角-------------------------------环境HDP 3.0.1.0 (已有)JDK 1.8.0_91 (已有)Mysql 5.7.25 (已有)Kerberos 1.10.3-30 (后续文档中有介绍如何安装)LDAP knox自带的通用LDAP (已有)Ranger 1.1.0 ...

weixin_31444171的博客 391

yolov5改进之Fasternet主干网络替换

fasternet替换yolov5主干网络

qq_41920323的博客 5145

跨平台Kerberos认证:DBeaver连接Hive的Mac与Windows对比

本文详细解析了在Mac与Windows平台上通过DBeaver连接Kerberos认证Hive的完整流程,涵盖环境准备、Kerberos客户端配置、DBeaver核心设置及跨平台连接实战。特别针对不同操作系统的配置差异提供了可落地的解决方案,帮助开发者高效实现安全访问Hive数据仓库。

metal的博客 718

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

HDP3.3.2.0-002实践试范(14)

为HDP 3.3.2.0的推广,接个力 FreeIPA Kerberos HA

mojiezhongbb的博客 313

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Hadoop学习笔记(HDP)-Part.19 安装Kafka

选择kafka进行安装选择hdp03-05作为kafka的broker。

glisten0317的博客 1592

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

【Ambari开启Kerberos】- Atlas启动 - Solr权限异常

Atlas启动时遇到Solr 401认证错误的问题分析摘要: 该问题主要出现在Atlas启用Kerberos认证时,系统启动阶段会报Solr 401 Unauthorized错误。错误日志显示由于认证失败导致后端操作无法完成,最终抛出TemporaryBackendException。该问题在ttr-2.2.1及以上版本已修复,若在低版本或二次开发中遇到类似情况,建议升级版本或联系技术支持。错误分析表明,问题源于Solr索引操作时的认证失败,具体表现为CloudSolrClient路由错误,服务器返回了非预

TTBIGDATA的博客 1093

Hadoop平台组件部署

Hadoop平台组件部署 目录 引言 5 1.1. 目的 5 1.2. 术语与缩写解释 6 1.3. 参考资料 6 系统配置 6 2.1. 运行环境 6 2.2. 硬件配置 7 2.3. 硬件安排 7 2.4. 配置架构图 7 2.5. 平台组件介质 7 2.6. 第三方依赖包 8 组件部署 8 3.1. 部署说明 8 3.2. 部署要点 8 3.3. 环境配置 8 3.3.1. 主机免密登陆配置 8 3.3.2. 主机名配置 9 3.3.3. HOSTS配置 10 3.3.4. 关闭防火墙 10 3.3

TH_lsq的博客 2395

kerberos集成总结

一.安装Ambari2.5.0与HDP2.6.0集群 安装文档地址:http://note.youdao.com/noteshare?id=9e7ad6df95fb59fec2a698128e2829de 安装ranger:http://note.youdao.com/noteshare?id=6a1d4939bc69fa409ab70db08b42b358 二.HDP与Kerberos集成 环境...

Iris0104的博客 1753

告别‘No FileSystem for scheme hdfs‘:HDP/CDH集群外客户端程序连接HDFS的完整配置流程

本文详细解析了HDP/CDH集群外客户端程序连接HDFS时常见的'No FileSystem for scheme hdfs'错误,提供了从配置文件提取、依赖库构建到核心参数配置的完整解决方案。特别针对企业级环境中的Kerberos认证和版本兼容性问题,给出了工程化部署建议和调试技巧,帮助开发者高效对接Hadoop集群。

weixin_31062533的博客 231

Hadoop学习笔记(HDP)-Part.12 安装HDFS

HDFS依赖libtirpc-devel,因此需要先安装libtirpc-devel。创建yml文件,/root/ansible/libtirpc.yml执行。

glisten0317的博客 1985
上一篇: spark2.4.2+hadoop3编译
下一篇: RocketMQ技术调研
那年夏天110
博客等级 码龄16年 2粉丝 12原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值