Linux7 下Hadoop集群用户管理方案之一 用户管理集群方案概述

大数据处理技术作业——使用HBase&MongoDB&MapReduce进行数据存储和管理 【1.列出数据的下载链接,或者说明数据的采集方法。2.概述数据的背景与内容。3.概述数据的 Volume和 Variety。】本次作业的原始数据是在 kaggle 上找的开源的亚马逊餐饮评论数据集,数据集是由几个学者共同收集的,该数据集包含对亚马逊不同美食的评论。数据跨度超过 10 年,包括截至 2012 年 10 月的所有 500000 条评论。评论包括产品、用户信息、评级和纯文本评论,它还包括来自所有其他亚马逊类别的评论。 阅读详情
分为几个步骤
  1. 方案调研
  2. CM的部署
  3. Kerberos的安装与集成
  4. 方案的实践 实现添加用户功能


第一部分:方案的调研与确认
需要做一个大数据教育平台,面向学校,培训机构等,可以基于同一个大数据基础环境,学生可以进行大数据实践,而不需要复杂的搭建过程。

HDFS章节:
想做到这一点,不可避免的就是数据隔离的问题,文件不能被互删,只能读取自己的文件,这是我们首要面临的问题。为了解决这个问题调研了很多种方式。最终选用的方式是:
基于Kerberos的认证,基于HDFS的权限管理的方案。
我们知道HDFS的权限是基于POXIS接口模型,类似于linux的权限管理。可以实现基本的数据权限管理。但是HDFS有一个问题就是,默认是没有用户认证的。他采用的是当前系统用户,即在linux下输入命令 'whoami' 得到的用户,而其他的客户端访问HDFS时,也可以设置系统变量来修改这个用户名,导致所有的客户端访问HDFS主节点都可以有最高的权限,删除所有的文件。这是一个件非常危险的事情。
通过两个图来说明一下更直接明了。


图中在hdfs中创建了目录,并且拥有人设置为shihy,权限是700,只有拥有人有权限操作。
用户shihy访问时,通过设置系统用户shihy可以访问。
用户liulei访问时,设置为liulei不可以访问。这是没有问题的。
但是,用户liulei设置系统用户为shihy,那hdfs就认为访问用户就是shihy,就可以访问了,而真实用户其实是liulei。
可以可出,不同的用户,可以通过修改  "HADOOP_USER_NAME" 这个内部属性来修改HDFS识别到的系统用户。

这就需要使用其他方式来做用户的认证,来确认,访问用户A就是A,而不是B。
这里就引入了hdfs支持的一种网络认证协议Kerberos。非常的安全,感兴趣的可以调到这里详细看一下原理。


最终就确定了我们的 方案。
  1. 使用Kerberos做用户认证。证明A就是A,而不是B。规避伪造用户的风险。
  2. 使用HDFS的原生协议做权限认证。为每个用户创建自己的私有目录。
Arch Linux内核升级的精准管理:告别IgnorePkg,构建可审计可回滚的DKMS自动化体系 Linux内核是操作系统的核心抽象层,其升级涉及模块编译、头文件匹配与硬件驱动兼容性等底层机制。Arch Linux滚动更新模型下,盲目使用IgnorePkg会导致安全补丁缺失、DKMS模块断链和隐性依赖冲突,本质是将内核生命周期管理退化为人工运维。真正的稳定性源于可预测的验证流程、原子化的模块重建和完整的回滚能力。通过pacman-hooks实现事前拦截、事中加固与事后审计,并结合DKMS深度调优(如build路径修复、GCC沙箱隔离、硬件感知加载),可构建面向生产环境的内核免疫系统。本文聚焦Arch L 阅读详情

相关推荐

《深入掌握PostgreSQL数据库》 - 专栏介绍和目录

本专栏系统讲解PostgreSQL数据库的全栈知识,涵盖基础入门到高级实战。内容分为语言基础与进阶、核心原理、高可用架构、性能优化、运维管理、扩展开发等多个模块。从安装配置、数据类型选择到窗口函数、CTE等高级特性,再到索引优化、执行计划分析等性能调优技巧,全面解析PostgreSQL的核心功能。同时深入探讨MVCC机制、WAL日志、并发控制等底层原理,并分享高可用架构设计、备份恢复等运维实践。适合各层次开发者系统学习PostgreSQL,掌握这一强大开源数据库的关键技术。

数据知道的博客 3456

linux 集群 账户,为Linux集群创建新账户,并配置hadoop集群

转自:http://blog.youkuaiyun.com/bluesky8640/article/details/6945776之前装python、jdk、hadoop都是用的root账户,这是一个绝对的失策,linux对用户访问权限很严格,新创的hod账户根本无法启动hadoop,而root在hod模式下使用torque是不被建议的,所以只能用hod账户再重新装一遍.创建用户、设置密码、修改用户、删除用户...

weixin_30959465的博客 372

【信息科学与工程学】【运营科学】第二篇 C4信息与通信网络运营 (C4) ——数据中心网络运营04

典型值:λ1​∈[−0.02,−0.01], λ2​∈[−0.01,0], η1​,η3​∈[0.1,0.3], η2​,η4​∈[0.05,0.15]参数:δ1​∈[−0.8,−0.3], δ2​∈[−0.5,−0.2], δ3​∈[−0.4,−0.1], δ4​∈[−0.6,−0.2]参数:φ1​∈[0.1,0.3], φ2​∈[−0.2,−0.05], φ3​∈[−0.1,0.1], φ4​∈[−0.3,−0.1]参数:α∈[0.3,0.6], β∈[0.2,0.4], γ∈[0.01,0.03]

weixin_49199313的博客 1208

Linux的用户和组群管理

Linux的用户和组群管理,按增删改查的顺序化笔记,清楚清晰方便复习也可新手看。最后整理安装图形化工具的流程,不断更新查错

Binge的Blog,一起加油鸭! 2376

LabVIEW小白福音:手把手教你用NI采集卡搭建振动信号采集系统(附源码和避坑指南)

本文为LabVIEW初学者提供详细的NI采集卡振动信号采集系统搭建指南,涵盖硬件连接、驱动安装、信号处理及性能优化等关键步骤。特别针对振动信号采集系统中的常见问题提供解决方案,并附源码和避坑指南,帮助用户快速上手并避免常见错误。

weixin_30485379的博客 103

保姆级教程:用NX机电概念设计与RobotStudio实现ModbusTCP联合仿真(附完整代码)

本文提供了一份详细的NX机电概念设计与RobotStudio联合仿真实战教程。通过ModbusTCP协议构建数据桥梁,实现机械行为与机器人控制逻辑的双向实时同步。文章从环境搭建、信号配置、RAPID代码编写到联合调试,逐步拆解了实现数字孪生核心链路的关键步骤,并分享了常见问题排查方法,助力工程师在虚拟环境中提前验证产线协同。

sat99的博客 1099

Hadoop搭建前的准备

17.修改完成后,重启虚拟机即可。16.进入此配置文件后,将“HOSTNAME”修改为“hadoop02”,这个名称可以随意修改,最好不要和之前已存在的虚拟机的主机名一样, 最后按Esc热键进入末行模式,输入“:wq”保存退出即可。10.首先,我们来修改网卡名称,进入超级用户root用户下,修改配置文件/etc/udev/rules.d/70-persistent-net.rules,执行以下命令。首先要对集群进行搭建,首先创建一个虚拟机,并创建好一个用户hadoop01,密码可以设置为123456。

zhanshaoy的博客 1175

R语言绘图进阶:五大工具高效组合多图(cowplot、patchwork、layout、par、gridExtra)

本文详细介绍了R语言中五大高效组合多图的工具:cowplot、patchwork、layout、par和gridExtra。针对不同场景提供了实用指南,帮助数据分析师解决图表排版难题,提升报告专业度。特别推荐cowplot用于ggplot2图形组合,patchwork提供最简洁语法,layout则支持完全自定义布局。

weixin_42544663的博客 288

hadoop_集群搭建步骤超级干货

按这个顺序装准没错!

小太阳的代码之路 2396

Boost电路双闭环控制MATLAB仿真

通过电流内环控制,我们可以改变目标平均电流基准值的大小来闭环改变占空比,再改变输出电压与电路电流,直到电路电流达到基准电流才达到稳态。但是我们的基准电流依旧是外部提供的,下边的电压外环控制就是电路自己计算基准电流。

Fourglsl的博客 5846

Vue3结合vue-office实现Word文档上传与预览全流程解析

本文详细解析了如何在Vue3项目中集成vue-office插件实现Word文档上传与预览功能。从项目初始化、插件安装到文件上传处理(包括ArrayBuffer转换)、预览优化及常见问题解决方案,提供了一套完整的实现流程,帮助开发者快速实现高效的文档预览功能。

weixin_29001327的博客 464

【Kubernetes运维篇】RBAC之创建集群用户管理K8S

用户加入集群用户中,用来认证apiserver的连接。用户加入集群用户中,用来认证apiserver的连接。系统用户提交给新来的运维同事等,让新来的同事只有在。的权限,因为是查看所有命名空间Pod,所以这里使用。第九步:切换lisi用户测试权限。可以切换后,先切换回来管理用户。第九步:在Linux中添加一个。可以切换后,先切换回来管理用户。第十步:在Linux中添加一个。第二步:生成一个证书请求。第二步:生成一个证书请求。用户,默认没有任何权限。用户,默认没有任何权限。用户,测试是否有权限。

秦子腾 6514

JavaFX 概述

要从 JavaFX 中充分受益,了解 JavaFX 的设计方式以及对 JavaFX 包含的功能有一个很好的概述是很有用的。本文的目的是为您提供 JavaFX 概述。本文将首先介绍一般的 JavaFX 设计,然后介绍 JavaFX 中的各种特性。如果您熟悉 Flash/Flex,您会发现 JavaFX 在某种程度上受到了 Flash/Flex 的启发。JavaFX 中也有一些相同的想法。一般来说,JavaFX 应用程序包含一个或多个对应于窗口的阶段。每个阶段都有一个场景。

2012年开始工作,全栈开发老兵,目前已是一个老师,分享这么多年的心得体会 407

Linux7 下Hadoop集群用户管理方案之五 安装Hadoop集群遇到的坑

自己在安装时候遇到的一部分的坑。 密码都不能用了。。 难道是因为。。改了kdc.conf?? 从ip改成端口了 PS。这个还没有解决。。Kerberos创建用户,创建的用户密码过期之后不可用的问题。Kerberos还没有完全吃透,还没解决。 /opt/cm-5.9.0/share/cmf/bin/gen_credentials.sh fail

记录,学习。 8049

【LDPC-7】LLR量化位宽对LDPC译码性能的影响分析——以最小和译码算法为例进行matlab仿真

最小和译码算法的步骤如下:最后译码结果如果满足或者完成所有迭代次数,则译码算法停止迭代,否则继续进行译码迭代操作。

FPGA/MATLAB学习教程/源码/项目合作开发 1471

Go语言面试:面试中经常被问到的50个经典面试题(附参考答案)

Go语言核心知识点摘要 基础语法与数据结构 make和new区别:new分配零值内存返回指针,make初始化引用类型返回实例 Slice底层:包含指针、长度、容量的结构体,多个slice可共享底层数组 nil与空slice:nil指针为nil,空slice指针非nil但JSON编码不同 Map原理:哈希表实现,非线程安全,扩容策略影响性能 for range注意:循环变量是拷贝,map遍历无序 defer执行:LIFO顺序,函数返回前执行 Struct比较:仅当所有字段可比较时才可比较 参数传递:只有值传递

数据知道的博客 4721

Linux7 下Hadoop集群用户管理方案之三 用户认证组件Kerberos安装

Kerberos 协议 Kerberos协议主要用于计算机网络的身份鉴别(Authentication), 其特点是用户只需输入一次身份验证信息就可以凭借此验证获得的票据(ticket-granting ticket)访问多个服务,即SSO(Single Sign On)。由于在每个Client和Service之间建立了共享密钥,使得该协议具有相当的安全性。 Kerberos安装 1

记录,学习。 1810

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

Hadoop集群环境变量管理优化实践

环境变量管理是Linux系统运维和分布式集群部署中的基础技术,其核心原理是通过预设变量值影响进程运行环境。在Hadoop等大数据生态系统中,合理的环境变量配置能确保组件间正确协作,避免路径冲突和依赖问题。传统单文件管理模式存在维护困难、风险集中等痛点,采用模块化的/etc/profile.d方案可实现原子性配置和热加载。该技术方案特别适用于多节点生产环境,通过Ansible等自动化工具能快速同步配置,结合版本控制和变更审计可构建企业级运维体系。本文以Hadoop集群为例,详细解析环境变量管理的工程化实践与优

weixin_33895516的博客 408

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

Linux7 下Hadoop集群用户管理方案之四 CDH集成Kerberos

CM 开启Kerberos  认证 在CM上使用Kerberos认证,它会帮我们创建所有的需要的Kerberos账户,并且在启动的时候自动生成keytab存放到对应的启动目录,在配置文件中添加对应的keytab文件配置和用户名。 所以,只需要给CM创建一个拥有管理员权限的账户。CM就能够完成大部分的初始化工作。 首先添加一个管理员用户 Kadmin.local:

记录,学习。 1671

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

Linux7 下Hadoop集群用户管理方案之二 CDH5.9.0版本安装配置

前期准备: 第一步:装NTP 这个单独做了一个文档专门写NTP. 我擦。搞死了。一上午都在搞这个ntp。。。终于搞定了。 第二步:改Hosts文件 echo '10.10.106.156   edu-bigdata-01.novalocal' > /etc/hosts echo '10.10.106.157   edu-bigdata-02.novalocal' >>

记录,学习。 1567

大数据基石-Hadoop3.x学习教程-Hadoop产品了解与快速上手

大数据基石-Hadoop Hadoop3.x版本全系列教程 === 楼兰 === 文章目录一、关于Hadoop1、关于Hadoop产品2、Hadoop课程内容3、Hadoop的主要组件二、Hadoop环境搭建以及快速上手1、Linux环境搭建2、Hadoop集群搭建3、Hadoop快速上手三、上手总结 一、关于Hadoop 1、关于Hadoop产品 ​ 首先,关于Hadoop的重要性 ​ 对于Hadoop的重要性,再怎么强调也不过分。他可以说是开源大数据领域的开辟之...

roykingw的专栏 800

C语言 linux 负载均衡代码,基于LVS大规模负载均衡集群 - LINUX-E - LINUX,MYSQL,PHP,C语言,分布 ....docx...

基于LVS大规模负载均衡集群 - LINUX-E - LINUX,MYSQL,PHP,C语言,分布 ...蓝金伟()实战项目一览基于LVS的大规模负载均衡集群1). LVS深入研究,测试, 撰写研究报告2).自动化安装,配置LVS3).搭建超过100台服务器组成的负载均衡集群4).自动化的管理5).自动化服务切换6).统一的web管理界面7).稳定运行超过90天B.基于nginx的大规模负载均衡集...

weixin_28840811的博客 166

Linux环境下的Docker的三种常用方式安装(强烈推荐第二种安装方式)推荐Portainer GUI管理工具

Docker 是一个开源的应用容器引擎,基于 Go 语言 并遵从Apache2.0协议开源。 Docker 可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中,然后发布到任何流行的 Linux 机器上,也可以实现虚拟化。 容器是完全使用沙箱机制,相互之间不会有任何接口(类似 iPhone 的 app),更重要的是容器性能开销极低。 Docker的应用场景: Web 应用的自动化打包...

抛物线的博客 3678

05 Linux用户和群组管理

Linux系统安全机制,账号管理命令,群组账号管理命令,文件和目录的权限的含义,权限的设置方法(字符设定法、数字设定法)

希望我的原创文章或转载文章可以帮到你那么一点点~ 1304

etcd集群权限管理和账号密码使用

1. 操作实例 1.1 环境说明 1.2 创建root用户 1.3 开启身份验证 1.4 普通用户管理 1.4.1 创建普通用户 1.4.2 创建角色 1.4.3 给角色赋权 1.4.4 给用户绑定角色 1.1.5 测试 2. 权限常用命令 2.1 用户管理 创建用户 删除用户 修改密码 查看所有用户 查看指定用户及绑定角色 2.2 角色 增加角色 给角色赋权 回收角色赋权 删除角色 查询角色列表 查询指定角色的权限 2.3 用户&角色 用户绑定角色 回收用户绑定权限 2.4 权限使用.........

架构+开发+运维 5201

hadoop集群的搭建流程

本文介绍了hadoop集群的搭建流程

a284365的博客 758
上一篇: Linux7 下Hadoop集群用户管理方案之二 CDH5.9.0版本安装配置
下一篇: Linux7 下Hadoop集群用户管理方案之三 用户认证组件Kerberos安装
line_aijava
博客等级 码龄16年 31粉丝 47原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值