
sqoop
Z_Data
大学计算机专业老师一枚,高级开发工程师,专注大数据相关技术分享,实战项目开发。
展开
-
大数据协作框架介绍
1、解压sqoop的安装包到指定文件夹(网上下载或者留言获取)tar -zvxf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz /data进入sqoop解压的文件夹,重命名(方便后续操作,也可跳过)mv sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz sqoop2、修改配置文件进入sqoop配置文件夹cd /da...原创 2018-11-13 11:01:07 · 347 阅读 · 0 评论 -
Sqoop详解 ----- Sqoop 导入命令
把关系数据库中的数据导入到HDFS上,首先必须连接到关系型数据库中,知道导出的表是哪个?进入mysql数据库mysql -u root -p输入MySQL数据库密码查询MySQL数据库中可用数据库show databases选择一个数据库进行操作(这里选择的hive)use hive 首先在mysql中创建一张测试表,命名为toHdfs往测...原创 2018-11-13 19:17:30 · 599 阅读 · 0 评论 -
Sqoop异常解决ERROR tool.ImportTool: Encountered IOException running import job: java.io.IOException: No
问题详情如下:解决办法 这个是由于mysql-connector-java的bug造成的,出错时我用的是mysql-connector-java-5.1.10-bin.jar,更新成mysql-connector-java-5.1.32-bin.jar就可以了。 mysql-connector-java-5.1.32-bin.jar的下载地址为...转载 2018-11-13 18:02:41 · 2387 阅读 · 0 评论 -
sqoop ----------增量导入
在随着系统的运行,每天都会产生新的数据,在进行数据导入的时候,由于之前已经导入过数据,所以在产生新的数据的时候,就可以直接在之前导过的数据的基础上继续导入数据,没有必要之前的所有数据都重新导入一遍 增量导入数据的使用: bin/sqoop import --help 以上为增量导入的参数check-column: 检查列,检查数据库表中的索引列,一般...原创 2018-11-14 09:37:24 · 772 阅读 · 0 评论 -
Sqoop ------- 将mysql的数据导入到hive中
将数据导入到hive中,但是实际上来说hive中的数据也是在hdfs上进行保存的。在进行导入hive的本质其实就是先把数据导入到hdfs 在从hdfs把数据迁移到hive表所在的hdfs路径范例:从mysql数据库中导入数据到hive中sqoop import \--connect jdbc:mysql://mini3:3306/hive \--username root \--p...原创 2018-11-14 09:37:14 · 693 阅读 · 0 评论 -
Sqoop -------- Sqoop job
Sqoop job 可以理解为创建一个模板,在下次运行导入或者导出任务的时候,直接运行的模板就可以执行任务. 可以理解为把需要操作的任务封装为一个方法。之后运行这个方法名称就可以运行封装好的任务 查看job的信息 sqoop job --help范例: 通过以上参数创建一个jobsqoop job \--create stu_info \-- \...原创 2018-11-14 09:38:22 · 515 阅读 · 0 评论