配置hadoop中常用的Linux(ubuntu)命令

熟悉常用的Linux操作和Hadoop操作 1. 实验目的和要求 1.1 实验目的 Hadoop运行在Linux系统上,因此,需要学习实践一些常用的Linux命令。本实验旨在熟悉常用的Linux操作和Hadoop操作,为顺利开展后续其他实验奠定基础。 1.2 实验软硬件环境 ① 操作系统:Linux Ubuntu 16.04 ② Java:open-jdk-1.8 ③ Apache Hadoop:3.2.0 1.3 实验要求 ① 在Linu... 阅读详情
生成key:
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

    -t   密钥类型可以用 -t 选项指定。如果没有指定则默认生成用于SSH-2的RSA密钥。
   -f filename             指定密钥文件名。

来源:http://www.aboutyun.com/thread-6487-1-1.html

远程登录执行shell命令key
ssh远程登录,并在远程创建文件
ssh user@host 'mkdir -p .ssh && cat >> .ssh/authorized_keys' < ~/.ssh/id_rsa.pub
来源:http://www.aboutyun.com/thread-6977-1-1.html

远程复制
scp authorized_keys tan@ubuntu:~/.ssh/authorized_keys_from_yang
sudo scp -r /usr/hadoop aboutyun@slave1:~/

文件追加内容
cat authorized_keys_from_yang  >>  authorized_keys

解压包:
sudo tar zxvf ./jdk-7-linux-i586.tar.gz  -C /usr/lib/jvm

文件复制:(jdk复制到opt中)
sudo cp -r  jdk/ /opt

文件移动
sudo mv jdk opt
(有的时候没有权限,所以必须加上sudo)

文件更改所有者(下面为更改hadoop文件夹的权限)
sudo chown -R  aboutyun:aboutyun  hadoop

查看端口是否被暂用
sudo netstat -ap | grep 8080
sudo netstat -ant|grep 3306

Proto Recv-Q Send-Q Local Address               Foreign Address             State       PID/Program name

tcp        0      0 0.0.0.0:3306                0.0.0.0:*                   LISTEN      1651/mysqld
表示的含义
mysql的默认端口 3306 打开着
0.0.0.0 代表你的本地网络地址 后一个代表外部网络地址 有连接的话就有真正的IP地址了

hadoop开启调试
开启debug  export HADOOP_ROOT_LOGGER=DEBUG,console

Linux打包命令

tar czvf my.tar.gz hadoop-2.4.0-src

杀掉一个进程
kill 进程号
kill -9 进程号

rpm -qa|grep softname
表示的含义是:
就是从安装的软件中查询出softname这个软件

详解如下:
grep 内容 对象
表示从“对象”中查找“内容”,并打印
|
管道符号,前一个命令的输出(即结果)作为下个命令的输入
rpm -qa
rpm管理命令 查询所有安装的软件
所以rpm -qa|grep softname
就是从安装的软件中查询出softname这个软件


【hive安装mysql常用命令】
查看软件是否安装
netstat -tap | grep mysql

测试mysql远程连接成功
mysql -h172.16.77.15 -uroot -p123
mysql -h主机地址 -u用户名 -p用户密码

查看字符集
show variables like '%char%';

修改字符集:
vi /etc/my.cnf
在[client]下添加
default-character-set=utf8
 
创建sudo无密码登陆
给aboutyun用户设置无密码sudo权限:
chmode u+w /etc/sudoers
aboutyun ALL=(root)NOPASSWD:ALL
chmod u-w /etc/sudoers
测试:sudo ifconfig

ubuntu查看服务列表代码  
sudo service --status-all
sudo initctl list

查看文件大小:
du -sh hadoop-2.7.0-src

打包zip
zip -r myfile.zip ./*

ubuntu系统下Hadoop的下载与配置 希望这些大白话能帮到你,如果没有,那就当我没说过。 阅读详情

相关推荐

【大数据实验一 】熟悉常用的Linux操作和Hadoop操作

1.实验目的 Hadoop运行在Linux系统上,因此,需要学习实践一些常用的Linux命令。本实验旨在熟悉常用的Linux操作和Hadoop操作,为顺利开展后续其他实验奠定基础。 2.实验平台 (1)操作系统:Linux(Ubuntu18.04); (2)Hadoop版本:3.1.3。 3.实验步骤 1.熟悉常用的Linux操作 1)cd命令:切换目录 (1)切换到目录“/usr/local” (2)切换到当前目录的上一级目录 (3)切换到当前登录Linux系统的用户的自己的主文件夹 2)ls命令:查看

m0_51011320的博客 7994

使用配置hadoop中常用的Linux(ubuntu)命令

生成key: $ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa $ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys     -t   密钥类型可以用 -t 选项指定。如果没有指定则默认生成用于SSH-2的RSA密钥。    -f filename             指定密钥文件名。

哥弟思 705

hadoop2安装和常用shell命令

hadoop2安装和常用shell命令,

大数据组件笔记 -- Hive

文章目录一、基本概念1.1 Hive和数据库比较1.2 Hive 安装1.3 Hive 启动 一、基本概念 什么是 Hive Hive:由Facebook开源用于解决海量结构化日志的数据统计工具。 Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。 本质是:将HQL转化成MapReduce程序 Hive处理的数据存储在HDFS Hive分析数据底层的实现是MapReduce 执行程序运行在Yarn上 优点 操作接口采用类SQL语法,

L小Ray想有腮 1246

Linux常用的操作命令+hadoop安装指导.docx

大数据课程自备资料:Hadoop安装指南 + Linux常用操作命令

Ubuntu20.04配置Hadoop.txt

本教程是根据个人在UBUNTU虚拟机上安装配置Hadoop2.7.3的实际操作步骤一步步记录下来的,大部分指令操作的目的都加了注释以方便理解。(本教程很详细,如果还是遇到问题可以直接咨询楼主,不会让你的积分百花的)

hive 环境搭建

实验环境 安装 在安装hive前,需要了解hive部署的三种模式: 内嵌模式 内嵌模式的元数据采用hive自带的derby来存储。由于derby只支持同时一个用户访问所以生产环境下一般不推荐使用。 本地数据库模式 hive元数据保存在本地数据库中。 远程数据库模式 hive元数据保存在远程数据库中。 本文讲解第三种部署方式,数据采用mysql。 1.搭建hadoop ...

cl2010abc的专栏 332

(35)远程识别(又称无人机识别)(一)

Ardupilot官网关于《Peripheral Hardware》的翻译 —《(35) 远程识别(又称无人机识别)》。

无人机开发(开源Ardupilot) 4万+

hadoop的安装(linux基本命令、hadoop常用shell命令)

hadoop的伪分布式安装过程(包括:linux基本命令、hadoop常用shell命令)

王小行的博客 3662

实战演练 | ABAQUS显式动力学分析在金属切削仿真中的应用

本文详细介绍了如何利用ABAQUS显式动力学分析进行金属切削过程的二维仿真。通过从零开始的完整流程,包括几何建模、材料本构与失效定义、网格划分、接触设置、边界条件施加,到结果后处理与切削力提取,为工程师和研究人员提供了实用的仿真方法,以优化刀具设计和加工工艺。

purple的博客 931

深入理解HTTPS:从SSLHandshakeException到证书链验证的完整解析

本文深入解析了HTTPS握手过程中常见的SSLHandshakeException异常,特别是由证书链验证失败引发的CertPathValidatorException。文章从TLS握手流程、证书链验证的数学原理出发,详细剖析了Java中TrustManager的工作机制,并提供了针对证书链不完整、自签名证书等典型问题的系统化排查流程与实战解决方案。

weixin_29313423的博客 232

【hadoop——HDFS操作常用的Shell命令】

1.Hadoop分布式文件系统(Hadoop Distributed File System,HDFS)是Hadoop核心组件之一,我们已经安装好了Hadoop 2.7.1,其中已经包含了HDFS组件,不需要另外安装 最基本的shell命令: HDFS既然是Hadoop的组件,那么首先需要启动Hadoop:启动虚拟机,打开终端,输入以下命令: cd /usr/local/hadoop #进入 hadoop安装目录 ./sbin/start-dfs.sh ...

所爱的博客 1万+

招标信息爬取工具

一个能帮你节省大量时间的实用小工具,我自己用了挺久,分享出来给有需要的朋友

qq_56877290的博客 836

hadoop如何使用linux命令,使用配置hadoop中常用的Linux(ubuntu)命令

生成key:$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys-t 密钥类型可以用 -t 选项指定。如果没有指定则默认生成用于SSH-2的RSA密钥。-f filename 指定密钥文件名。来源:http://www.about...

weixin_29612623的博客 418

Jasper Report使用JSON数据源创建报表

最近在做一个项目小功能,表单结案要生成PDF报表。 起初,想用HTML模板(art-template模板引擎)编写,利用浏览器的打印功能保存成pdf文件下载。但是HTML编写好的模板,页码、页眉、页脚设置有坑,表单内容中的表格较多,表格不能设置跨页,导致跨页的表格内容与页眉重叠,没能解决这个问题。 于是,转战研究Jasper report生成报表,用更加专业的报表生成工具来做。刚开始,也是跌跌撞撞,遇到了很多问题,因为觉得没有退路了,必须要用这个搞出来,所以就硬着头皮去找各种资料。 主要使用的json

xiaogege2012的专栏 3319

OpenCV-Python实战(1)——OpenCV简介与图像处理基础

OpenCV 是一个的跨平台计算机视觉库,可以运行在 Linux、Windows 和 Mac OS 操作系统上。它轻量级而且高效——由一系列 C 函数和少量 C++ 类构成,同时也提供了 Python 接口,实现了图像处理和计算机视觉方面的很多通用算法。在本文中,将介绍 OpenCV 库,包括它的主要模块和典型应用场景,同时使用 OpenCV-Python 实战讲解图像处理基础要点。

盼小辉丶的博客 27万+

Hadoop配置小结

配置Hadoop环境有几天了,虽说“装”了Ubuntu有两年了,不过这次用硬盘安装还是把系统搞崩溃了,而且是在装Ubuntu之前分盘时弄崩溃了,而且是因为搬电脑时震了一下,然后又采取了很不明智的解决方法——还原系统,而且还一不小心还原了整个盘,200多G的东西瞬间没了,就为了分20G的东西出来装Ubuntu,而且是我好不容易挤出来的20G啊。我的壁纸都有好几G啊,我的音乐也有几十G啊,我保留了好久...

tangbaile的博客 227

RK3568平台开发系列讲解(外设篇)CAN的使用

📢 本篇章带大家快速了解CAN的使用。

内核笔记 2352

大数据技术与实践实验报告总结_大数据技术原理与引用—上机实验报告之一

题目:熟悉常用的Linux操作和Hadoop操作实验环境:操作系统:ubuntu16.04hadoop版本:1.2.1JDK版本:1.8实验内容:1.安装unbuntu系统。2.下载hadoop并进行hadoop伪分布式安装(如下图所示即安装成功)。3.熟悉常用的Linux操作。cd命令:切换目录(1)切换到目录 /usr/local(2)去到目前的上层目录(3)回到自己的主文件夹ls命令:查看文...

weixin_39621456的博客 1748

20、认知负荷理论在教育技术中的应用

本文深入探讨了认知负荷理论(Cognitive Load Theory, CLT)在教育技术中的应用,重点分析了如何通过优化教学设计减少学习者的认知负荷,提高学习效率。文章介绍了认知负荷的三种类型:内在认知负荷、外在认知负荷和germane认知负荷,并结合多媒体学习原则(如模态效应、空间连续性原则、时间连续性原则等)提出了减少外在认知负荷的具体策略。此外,文章通过实证研究和教学案例,展示了认知负荷理论在不同学科和个性化教学中的广泛应用和有效性。最终,文章总结了应用认知负荷理论进行教学设计的具体流程,强调其在

solidity8miner的博客 923

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

大数据学习--Hadoop安装全过程

总结路线: 1.学习教程; 2.下载工具----VMware系统,Ubantu 14 (Linux)系统,FTP软件,Hadoop系统; 3.学习安装教程,配置安装环境; 4.学习操作语言; 5.注意事项; 一、学习教程 放假之前,老师给我们推荐了大数据学习的教程:http://dblab.xmu.edu.cn/post/5663/ 初步了解:Hadoop的所要求系统环境...

weixin_30649641的博客 163

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

实验1 熟悉常用的Linux操作和Hadoop操作

2)使用hadoop用户登录Linux系统,启动Hadoop(Hadoop的安装目录为“/usr/local/hadoop”),为hadoop用户在HDFS中创建用户目录“/user/hadoop”(2)删除上面创建的目录“a1/a2/a3/a4”(在“/tmp”目录下面),然后查看“/tmp”目录下面存在哪些目录。(1)进入“/tmp”目录,创建一个名为“a”的目录,并查看“/tmp”目录下已经存在哪些目录。(2)在目录“/tmp”下新建目录test,再把这个目录复制到“/usr”目录下。...

m0_60812517的博客 4859

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

【一篇搞定配置】如何在Ubuntu上配置单机/伪分布式Hadoop

Hadoop3.3.5安装教程_单机/伪分布式配置_Hadoop3.3.5/Ubuntu22.04(20.04/18.04/16.04)_厦大数据库实验室博客作者:厦门大学计算机系林子雨副教授。

十二月的猫 6900

Linux虚拟机系统Ubuntu搭建Hadoop集群

大学生大数据实验亲手实操笔录,希望可以帮助到大家。

不励志成为瓦洛兰特糕手的突破手不是好码农 4488
上一篇: hadoop(2.x)以hadoop2.2为例完全分布式最新高可靠安装文档
下一篇: hadoop2.x常用端口、定义方法及默认端口、hadoop1.X端口对比
LuckyJiang.2021
博客等级 码龄15年 217粉丝 199原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

LuckyJiang.2021

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值