pyspark集成anaconda类库,pyspark调用hive

本文详细介绍了如何在CDH集群中集成Anaconda环境,并使用PySpark调用Hive进行数据处理。包括下载并上传Anaconda parcel包至CDH,配置环境变量,以及解决调用Hive时遇到的问题。
部署运行你感兴趣的模型镜像

CDH版oozie调取pyspark调取hive

1.oozie调取操作hive的pyspark的python脚本

问题:找不到hive库
解决方案:将hive-site.xml放到oozie/show/lib/lib_+日期 目录下
解决代码:

from pyspark import SparkConf,SparkContext;
from pyspark.sql import SQLContext,HiveContext;
conf =SparkConf().setAppName("test11");
sc= SparkContext(conf=conf)
sqlContext= HiveContext(sc)
tables=sqlContext.sql("select * from test");
tables.show();

CDH集成ananconda类库,调用pyspark

安装步骤:

1.下载anaconda parcel包
        Anaconda-4.0.0-el6.parcel
		Anaconda-4.0.0-el6.parcel.sha
		manifest.json
		下载地址:http://archive.cloudera.com/cdh5/parcels/5.14.0/
2.上传下载的三个包到/var/www/http/anaconda3(anaconda3自己建)
      问题:如果http://ip/anacond

您可能感兴趣的与本文相关的镜像

Python3.8

Python3.8

Conda
Python

Python 是一种高级、解释型、通用的编程语言,以其简洁易读的语法而闻名,适用于广泛的应用,包括Web开发、数据分析、人工智能和自动化脚本

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值