Sqoop的安装配置

-----------------------------------------------------------------

Sqoop原理

将导入或导出命令翻译成mapreduce程序来实现。

-----------------------------------------------------------------

Sqoop安装

前提:安装Sqoop的前提是已经具备Java和Hadoop的环境。

1.下载解压

1) 最新版下载地址:

https://mirrors.tuna.tsinghua.edu.cn/apache

2) 上传安装包sqoop-1.99.7-bin-hadoop200.tar.gz到虚拟机中,如我的上传目录是:/home/centos/Downloads

3) 解压sqoop安装包到指定目录,如:

tar -zxvd /home/centos/Downloads/sqoop-1.99.7-bin-hadoop200.tar.gz -C /soft

cd /soft

ln -s sqoop-1.99.7-bin-hadoop200 sqoop

-----------------------------------------------------------------

2.修改配置文件

Sqoop的配置文件与大多数大数据框架类似,在sqoop根目录下的conf目录中。
1) 重命名配置文件
$ mv sqoop-env-template.sh sqoop-env.sh
$ mv sqoop-site-template.xml sqoop-site.xml

2) 修改配置文件
sqoop-env.sh

export HADOOP_COMMON_HOME=/soft/hadoop
export HADOOP_MAPRED_HOME=/soft/hadoop
export HIVE_HOME=/soft/hive
export ZOOKEEPER_HOME=/soft/zookeeper
export ZOOCFGDIR=/soft/zookeeper/conf

-----------------------------------------------------------------

3.拷贝JDBC驱动

拷贝jdbc驱动到sqoop的lib目录下,如:

$ cp -a mysql-connector-java-5.1.27-bin.jar /soft/sqoop/lib/

-----------------------------------------------------------------

4.验证Sqoop

我们可以通过某一个command来验证sqoop配置是否正确:

$ bin/sqoop help

-----------------------------------------------------------------

5.测试Sqoop是否能够成功连接数据库

$ bin/sqoop list-databases --connect jdbc:mysql://s101:3306/ --username root --password 123456
出现如下输出:
information_schema
metastore
mysql
performance_schema

 

资源下载链接为: https://pan.quark.cn/s/22ca96b7bd39 在当今的软件开发领域,自动化构建与发布是提升开发效率和项目质量的关键环节。Jenkins Pipeline作为一种强大的自动化工具,能够有效助力Java项目的快速构建、测试及部署。本文将详细介绍如何利用Jenkins Pipeline实现Java项目的自动化构建与发布。 Jenkins Pipeline简介 Jenkins Pipeline是运行在Jenkins上的一套工作流框架,它将原本分散在单个或多个节点上独立运行的任务串联起来,实现复杂流程的编排与可视化。它是Jenkins 2.X的核心特性之一,推动了Jenkins从持续集成(CI)向持续交付(CD)及DevOps的转变。 创建Pipeline项目 要使用Jenkins Pipeline自动化构建发布Java项目,首先需要创建Pipeline项目。具体步骤如下: 登录Jenkins,点击“新建项”,选择“Pipeline”。 输入项目名称和描述,点击“确定”。 在Pipeline脚本中定义项目字典、发版脚本和预发布脚本。 编写Pipeline脚本 Pipeline脚本是Jenkins Pipeline的核心,用于定义自动化构建和发布的流程。以下是一个简单的Pipeline脚本示例: 在上述脚本中,定义了四个阶段:Checkout、Build、Push package和Deploy/Rollback。每个阶段都可以根据实际需求进行配置和调整。 通过Jenkins Pipeline自动化构建发布Java项目,可以显著提升开发效率和项目质量。借助Pipeline,我们能够轻松实现自动化构建、测试和部署,从而提高项目的整体质量和可靠性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值