HBase 常用Shell命令
两个月前使用过hbase,现在最基本的命令都淡忘了,留一个备查~
进入hbase shell console
$HBASE_HOME/bin/hbase shell
如果有kerberos认证,需要事先使用相应的keytab进行一下认证(使用kinit命令),认证成功之后再使用hbase shell进入可以使用whoami命令可查看当前用户
hbase(main)> whoami
表的管理
1)查看有哪些表
hbase(main)> list
2)创建表
# 语法:create <table>, {NAME => <family>, VERSIONS => <VERSIONS>}
# 例如:创建表t1,有两个family name:f1,f2,且版本数均为2
hbase(main)> create 't1',{NAME => 'f1', VERSIONS => 2},{NAME => 'f2', VERSIONS => 2}
3)删除表
分两步:首先disable,然后drop
例如:删除表t1
hbase(main)> disable 't1'
hbase(main)> drop 't1'
4)查看表的结构
# 语法:describe <table>
# 例如:查看表t1的结构
hbase(main)> describe 't1'
5)修改表结构
修改表结构必须先disable
# 语法:alter 't1', {NAME => 'f1'}, {NAME => 'f2', METHOD => 'delete'}
# 例如:修改表test1的cf的TTL为180天
hbase(main)> disable 'test1'
hbase(main)> alter 'test1',{NAME=>'body',TTL=>'15552000'},{NAME=>'meta', TTL=>'15552000'}
hbase(main)> enable 'test1'
权限管理
1)分配权限
# 语法 : grant <user> <permissions> <table> <column family> <column qualifier> 参数后面用逗号分隔
# 权限用五个字母表示: "RWXCA".
# READ('R'), WRITE('W'), EXEC('X'), CREATE('C'), ADMIN('A')
# 例如,给用户‘test'分配对表t1有读写的权限,
hbase(main)> grant 'test','RW','t1'
2)查看权限
# 语法:user_permission <table>
# 例如,查看表t1的权限列表
hbase(main)> user_permission 't1'
3)收回权限
# 与分配权限类似,语法:revoke <user> <table> <column family> <column qualifier>
# 例如,收回test用户在表t1上的权限
hbase(main)> revoke 'test','t1'
表数据的增删改查
1)添加数据
# 语法:put <table>,<rowkey>,<family:column>,<value>,<timestamp>
# 例如:给表t1的添加一行记录:rowkey是rowkey001,family name:f1,column name:col1,value:value01,timestamp:系统默认
hbase(main)> put 't1','rowkey001','f1:col1','value01'
用法比较单一。(只能一列一列的添加,不能同时添加多列)
譬如“put ‘t1’,‘rowkey001’,‘cf:name’,zhangsan’,‘cf:age’,11’ ,这样是不支持的。
2)查询数据
a)查询某行记录
# 语法:get <table>,<rowkey>,[<family:column>,....]
# 例如:查询表t1,rowkey001中的f1下的col1的值
hbase(main)> get 't1','rowkey001', 'f1:col1'
# 或者:
hbase(main)> get 't1','rowkey001', {COLUMN=>'f1:col1'}
# 查询表t1,rowke002中的f1下的所有列值
hbase(main)> get 't1','rowkey001'
b)扫描表
# 语法:scan <table>, {COLUMNS => [ <family:column>,.... ], LIMIT => num}
# 另外,还可以添加STARTROW、TIMERANGE和FITLER等高级功能
#查询某表某列
scan ‘t1’,{COLUMNS=>[‘cf:OUT_PATIENT_ID’]}
# 例如:扫描表t1的前5条数据
hbase(main)> scan ‘t1’,{LIMIT=>5}
scan ‘t1’,LIMIT=>5
查询startrow
scan ‘HDR_EMR_CONTENT’, {COLUMNS => [‘c1’, ‘c2’], LIMIT => 10, STARTROW => ‘2334’}
scan 过滤器:
过滤方式是通过rowkey过滤,匹配出rowkey含HDR_EMR_CONTENT的数据
scan ‘hbase:meta’, FILTER=>“RowFilter(=,‘substring:HDR_EMR_CONTENT’)”
过滤方式是通过rowkey过滤,匹配出rowkey等于0111486816556的数据
scan ‘testByCrq’, FILTER=>“RowFilter(<=,‘binary:0111486816556’)”
c)查询表中的数据行数
# 语法:count
# INTERVAL设置多少行显示一次及对应的rowkey,默认1000;CACHE每次去取的缓存区大小,默认是10,调整该参数可提高查询速度
# 例如,查询表t1中的行数,每100条显示一次,缓存区为500
hbase(main)> count ‘t1’, {INTERVAL => 100, CACHE => 500}
或者 hbase org.apache.hadoop.hbase.mapreduce.RowCounter ‘t1’
3)删除数据
a )删除行中的某个列值
# 语法:delete <table>, <rowkey>, <family:column> , <timestamp>,必须指定列名
# 例如:删除表t1,rowkey001中的f1:col1的数据
hbase(main)> delete 't1','rowkey001','f1:col1'
注:将删除改行f1:col1列所有版本的数据
b )删除行
# 语法:deleteall <table>, <rowkey>, <family:column> , <timestamp>,可以不指定列名,删除整行数据
# 例如:删除表t1,rowk001的数据
hbase(main)> deleteall 't1','rowkey001'
c)删除表中的所有数据
# 语法: truncate <table>
# 其具体过程是:disable table -> drop table -> create table
# 例如:删除表t1的所有数据
hbase(main)> truncate 't1'
d)、 list('HDR.*') : 查看某个关键字开头的hbase表
查看某个命令帮助: help ‘get’
查看所有hbase支持的命令:进入hbase shell 按tab键,或者输入 指定字母,按照tab自动补全。
Region管理
1)移动region
# 语法:move ‘encodeRegionName’, ‘ServerName’
# encodeRegionName指的regioName后面的编码,ServerName指的是master-status的Region Servers列表
# 示例
hbase(main)>move ‘4343995a58be8e5bbc739af1e91cd72d’, ‘db-41.xxx.xxx.org,60020,1390274516739’
2)开启/关闭region
# 语法:balance_switch true|false
hbase(main)> balance_switch
3)手动split
# 语法:split 'regionName', 'splitKey'
4)手动触发major compaction(不用disable表)
#语法:
#Compact all regions in a table:
#hbase> major_compact 't1'
#Compact an entire region:
#hbase> major_compact 'r1'
#Compact a single column family within a region:
#hbase> major_compact 'r1', 'c1'
#Compact a single column family within a table:
#hbase> major_compact 't1', 'c1'
配置管理及节点重启
1)修改hdfs配置
hdfs配置位置:/etc/hadoop/conf
# 同步hdfs配置
cat /home/hadoop/slaves|xargs -i -t scp /etc/hadoop/conf/hdfs-site.xml hadoop@{}:/etc/hadoop/conf/hdfs-site.xml
#关闭:
cat /home/hadoop/slaves|xargs -i -t ssh hadoop@{} "sudo /home/hadoop/cdh4/hadoop-2.0.0-cdh4.2.1/sbin/hadoop-daemon.sh --config /etc/hadoop/conf stop datanode"
#启动:
cat /home/hadoop/slaves|xargs -i -t ssh hadoop@{} "sudo /home/hadoop/cdh4/hadoop-2.0.0-cdh4.2.1/sbin/hadoop-daemon.sh --config /etc/hadoop/conf start datanode"
2)修改hbase配置
hbase配置位置:
# 同步hbase配置
cat /home/hadoop/hbase/conf/regionservers|xargs -i -t scp /home/hadoop/hbase/conf/hbase-site.xml hadoop@{}:/home/hadoop/hbase/conf/hbase-site.xml
# graceful重启
cd ~/hbase
bin/graceful_stop.sh --restart --reload --debug inspurXXX.xxx.xxx.org
#hbase统计行数
hbase region上线
assign ‘HDR_OUT_VISIT,5712,1611231757746.39ea05335048e780a192c2429276cf30.’
hbase region上线终极方案(上线不成功)
deleteall ‘hbase:meta’,‘HDR_OUT_VISIT,3123|1.2.156.112636|000536321300|6||1.2.156.112636.1.2.1,1600073728260.50d2b0b2c4482e8995dfcacb0f2dd4de.’
hbase hbck -fixHdfsHoles -fixMeta -fixAssignments HDR_OUT_VISIT
----------------------------hbase语法技巧
1.通过hbase管道将hbase表C_DEPT_VIEW内容扫描到日志文件。
echo “scan ‘C_DEPT_VIEW’” | hbase shell > /home/log.log
或者指定rowkey
echo “scan ‘table’, { STARTROW => ‘startrow’,ENDROW => ‘endrow’ , COLUMNS => ‘columns’,FILTER => ‘filters’}” | hbase shell > /home/log.log
2.hbase将输出结果保存到某个目录:
echo “scan ‘hbase:meta’” | hbase shell > /home/log.log
hbase shell <<EOF
scan ‘hbase:meta’ > /home/log.log
EOF
另外做一个宣传,小二博客的java精品源码模块,有很多精品源码,可供下载。
也可以访问我的网站源码官网,可以下载学习,包含各种php源码、java源码、游戏源码等