sqoop1.4.6安装部署

本文介绍如何在Hadoop2.7.3环境下安装配置Sqoop1.4.6,并通过Sqoop从MySQL数据库中导入数据到HDFS。文章详细记录了安装步骤,包括环境变量设置、依赖文件配置等,并解决了在数据导入过程中遇到的问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

安装部署环境

Hadoop 2.7.3

jdk1.8

mysql 5.6

sqoop-1.4.6-cdh5.7.5.tar

sqoop安装

1.解压 sqoop-1.4.6-cdh5.7.5.tar 至/opt/behApache/core 重命名为sqoop

2.拷贝mysql的jdbc驱动包 mysql-connector-java-5.1.30.jar 到sqoop/lib目录下

3.配置环境变量

export SQOOP_HOME=/opt/behApache/core/sqoop
export PATH= PATH: SQOOP_HOME/bin

4.复制sqoop/conf/sqoop-env-template.sh为sqoop-env.sh

添加相关配置:

#Set path to where bin/hadoop is available
export HADOOP_COMMON_HOME=/opt/behApache/core/hadoop

#Set path to where hadoop-*-core.jar is available
export HADOOP_MAPRED_HOME=/opt/behApache/core/hadoop

#set the path to where bin/hbase is available
export HBASE_HOME=/opt/behApache/core/hbase

#Set the path to where bin/hive is available
export HIVE_HOME=/opt/behApache/core/hive

#Set the path for where zookeper config dir is
export ZOOCFGDIR=/opt/behApache/core/zookeeper

测试

sqoop import --connect jdbc:mysql://test104:3306/sqoop --username root --password 123456 --table test01

报错:

Exception in thread "main" java.lang.NoClassDefFoundError: org/json/JSONObject

解决:

下载json.jar包放到sqoop/lib下

重新执行,查看hdfs,导入成功。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值