python读取hive数据最佳实践

最新推荐文章于 2025-04-03 16:49:51 发布

L-75

最新推荐文章于 2025-04-03 16:49:51 发布

阅读量5.4k

点赞数 2

分类专栏： python 文章标签： python hive

python 专栏收录该内容

1 篇文章

订阅专栏

博客介绍了使用pyhive库连接hive server2对外接口，通过sql语句查询数据并处理结果。还提到多数公司用cdh安装hadoop平台，可在cloudera manager查看HiveServer2配置，同时给出了相关代码参考链接。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在这里插入图片描述
使用pyhive库来连接hive server2提供的对外接口，使用sql语句来对数据进行查询，并处理返回结果。

安装依赖：

yum install python-pip gcc gcc-c++ python-virtualenv cyrus-sasl-devel
pip install pyhive
pip install thift
pip install sasl
pip install thrift-sasl

目前大部分公司都使用cdh来安装整个hadoop的处理平台，可以在cloudera manager中查看HiveServer2的配置。

代码如下：

# -*- coding: utf-8 -*-
from pyhive import hive

conn = hive.Connection(host='HiveServer2 host', port=10000, username='hdfs', database='default')
cursor = conn.cursor()
cursor.execute('select * from demo_table limit 10')
for result in cursor.fetchall():
    print result

参考：

https://github.com/dropbox/PyHive

转自：https://www.jianshu.com/p/dfd5b204e444