hadoop/spark常用命令

本文介绍了多个大数据组件的启动、操作及关闭命令,包括 Flume、Zookeeper、Kafka、Redis、HDFS、Yarn、MySQL、Hive、HBase 等,还给出了 Sqoop 将数据从关系型数据库导入 Hive 的命令。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

flume的启动命令

./bin/flume-ng agent -n a1 -c conf -f conf/myconf/flume-kafka.conf -Dflume.root.logger=INFO,console

zookeeper : ./zkServer.sh start
kafka : nohup bin/kafka-server-start.sh  config/server.properties &
kafka生产者:bin/kafka-console-consumer.sh --zookeeper min1:2181--from-beginning --topic gamelogs
kafka消费者:bin/kafka-console-producer.sh --broker =list min1:9092 --topic gamelogs
redis的启动:./redis-server redis.conf
redis正常关闭指令:./redis-cli shutdown
hdfs: start-dfs.sh
yarn: start-yarn.sh
flume:./bin/flume-ng agent -n a1 -c conf -f conf/myconf/flume-kafka.conf -Dflume.root.logger=INFO,console
mysql:开启服务 service mysqld start,状态查看service mysqld status 进入mysql: mysql -uroot -p
hive:启动: 直接hive即可启动(启动hive前需要启动dfs和mysql)
hbase的启动:启动hdfs集群,不用启动yarn,start-dfs.sh 再启动启动hbase,start-hbase.sh
sqoop将数据从关系型数据库导到hive:
sqoop import --connect jdbc:mysql://localhost:3306/test --username dyh --password 000000 

--table users --hive-import --hive-table users -m 2 --fields-terminated-by "\0001";

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值