python读取文件数据导入到hbase

最新推荐文章于 2022-06-13 15:57:35 发布

weixin_30535043

最新推荐文章于 2022-06-13 15:57:35 发布

阅读量649

点赞数

CC 4.0 BY-SA版权

文章标签：大数据 python 数据库

原文链接：http://www.cnblogs.com/52hadoop/p/3591780.html

本文介绍了一个使用Python和Thrift实现的HBase批量插入数据的示例。该示例通过读取本地文件中的数据，将其转换为HBase可接受的Mutation对象，并通过HBase客户端API将数据写入到名为'employees'的表中。文中还记录了操作所需的时间，便于性能评估。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

from thrift import Thrift
from thrift.transport import TSocket
from thrift.transport import TTransport
from thrift.protocol import TBinaryProtocol
from hbase import Hbase
from hbase.ttypes import *
import re
import sys  
import time
current_row=0  
transport = TSocket.TSocket('192.168.106.36', 9090)
transport = TTransport.TBufferedTransport(transport)  
protocol = TBinaryProtocol.TBinaryProtocol(transport)  
client = Hbase.Client(protocol)
transport.open()
startTime = time.time()
print str(startTime)
file1 = open("/data/tmp_data/sqlunload/cmmb/1111.txt", "r")
while True:
    line=file1.readline()
    if line:
        line=line.strip('\n')
        m=re.split("[,]",line)
        mutations = [Mutation(column = "cf1:finishTime", value =m[1]),  
                     Mutation(column = "cf1:requestLine", value =m[2]),  
                     Mutation(column = "cf1:returnCode", value = m[3])]
        client.mutateRow('employees', m[0], mutations, None)
        current_row = current_row + 1
    else :
        break
endTime = time.time()
print str(endTime)
print "total insert rows:" + str(current_row)  
print "cost time:" + str(endTime - startTime)