sqoop import SqlServer to hive

Sqoop导入SQLServer业务数据 1 Sqoop 1.1 使用 import-all-tables将SqlServer的历史数据全量同步到HDFS /usr/bin/sqoop import-all-tables \ --connect "jdbc:sqlserver://sqlserver的ip:1433;database=数据库名称" \ --username '用户名' \ --password '面膜' \ --warehouse-dir "目录" \ --autoreset-to-one-mapper --m 1 \ --exc 阅读详情

使用sqoop导出SqlServer数据库具体表数据到Hive数据库:

sqoop import语句:

按表中字段筛选$SQOOP_HOME/bin/sqoop import \
--connect 'jdbc:sqlserver://168.16.8.168:5419;database=database_name' \
--username 'user' \
--password '12345678' \
--table dt_tablename \
--columns 'id,createtime,name,mobile' \
--null-string '\\N' \ ##没有这个,导入的数据值都为NULL
--hive-import \
--hive-database hiveDatabase \
--hive-table tablename_h \
--fields-terminated-by '\001' \
--hive-drop-import-delims \

--incremental append \
--check-column id \
--last-value 1 \

--m 2
自主写sql

/bin/sqoop import \
--connect 'jdbc:sqlserver://168.16.8.168:5419;database=database_name' \
--username 'user' \
--password '12345678' \
--query 'select id,name,mobile,source from wx_member' \
--null-string '\\N' \
--hive-import \
--hive-database rt1 \
--hive-table wx_member_hs \
--fields-terminated-by '\001' \
--hive-drop-import-delims \
--incremental append \
--check-column id \
--last-value 1 \
--m 2

注意,用--query When importing a free-form query, you must specify a destination directory with --target-dir.

导入自由格式查询时,必须使用--target dir指定目标目录。

  

sqoop参数说明:

--columns <col,col,col…>Columns to export to table
  
-e,--query <statement>

Sqoop can also import the result set of an arbitrary SQL query.
 Instead of using the --table, --columns and --where arguments, you can specify a SQL statement with the --query argument.

Sqoop还可以导入任意SQL查询的结果集。可以使用--query参数指定SQL语句,而不是使用--table、--columns和--where参数。

注意不和 --table, --columns and --where 一起使用。

  
--create-hive-table

If set, then the job will fail if the target hive table exits. By default this property is false.

如果设置,则如果目标配置单元表退出,则作业将失败。默认情况下,此属性为false。

--hive-overwrite

Overwrite existing data in the Hive table.

覆盖配置单元表中的现有数据

--hive-drop-import-delims

Drops \n, \r, and \01 from string fields when importing to Hive.

导入配置单元时,从字符串字段中删除\n、\r和\01。

--incremental

Specifies how Sqoop determines which rows are new. Legal values for mode include append and lastmodified.

指定Sqoop如何确定哪些行是新的。合法值包括mode,append和lastmodified。

--null-string '\\N'

The string to be written for a null value for string columns

要为字符串列的空值写入的字符串

详细信息见官网7.2.12. Importing Data Into Hive

  
  
  
  

更新中。。。

官网地址:http://sqoop.apache.org/docs/1.4.6/SqoopUserGuide.html#_importing_data_into_hive

sqoop:import 及各参数释义(导入hive或hbase) 从mysql拉取: 方式一: sqoop import --connect jdbc:mysql://172.***.***34/linj --username ***--password ***--table T_GW_*** --hive-import --hive-database os --hive-table os_shanghai_***1 --hive-overwrite -... 阅读详情

相关推荐

Sqoop将SQLServer数据表导入HDFS

sqoop将关系型数据库,导入到hadoop集群中,供大家参考,一起学习。

sqoop-import 详解

本文介绍了Sqoop工具的基本概念、使用方法和常见参数,以及Sqoop与HCatalog的集成。Sqoop是一个用于在Hadoop和关系型数据库之间传输数据的工具,可以方便地将关系型数据库中的数据导入到Hadoop生态系统中的HDFS或Hive中。通过Sqoop的导入功能,用户可以选择全表导入或增量导入模式,并可以使用各种参数来控制导入的行为。此外,本文还介绍了Sqoop与HCatalog的集成,HCatalog是Hadoop生态系统中的一个表和存储管理服务,可以为Sqoop提供更多的数据处理和管理功能。

zcs2312852665的博客 2588

银河麒麟V10SP1实战:5步搞定AD域登录(附Samba+Winbind配置详解)

本文提供银河麒麟V10 SP1操作系统无缝集成Windows AD域的实战指南。文章深入解析了Samba、Winbind与Kerberos三大核心组件的协作原理,并详细阐述了从环境准备、软件包安装、配置文件定制到执行加域及排错的全流程。特别针对2403等新版本提供了关键配置差异与避坑要点,旨在帮助企业运维人员实现高效、稳定的域环境登录与管理。

weixin_29269441的博客 297

sqoop从sqlserver导入数据操作指令及hive创建表过程

sqoop从sqlserver导入数据操作指令及hive创建表过程

鲁边的博客 6810

别再傻傻分不清:PX4、Pixhawk、ArduPilot、APM到底啥关系?一张图给你讲明白

本文全面解析开源飞控领域核心概念,厘清PX4、Pixhawk、ArduPilot与APM的定位与关系。通过硬件平台演进史和飞行控制软件对比,帮助开发者理解开源飞控生态,并提供新项目开发建议与特殊需求考量,助力无人机开发中的明智选择。

weixin_32770423的博客 413

IAR许可证Generation 18代际不匹配问题解析与解决

IAR Embedded Workbench 的许可证机制采用‘代际(Generation)’模型,而非简单版本号匹配——这是一种基于数字签名算法、加密协议和硬件绑定策略演进的授权安全体系。Generation 18 是 v9.30 及以上版本强制要求的许可代际标准,对应 ECDSA 签名与增强型硬件指纹校验,旨在提升防破解能力与平台适配性。当旧版许可证(如 Generation 16/17)被用于新 IDE 时,启动器会在本地完成代际校验并直接拦截,导致‘The generation feature is

weixin_34203832的博客 345

sqoop学习笔记

学习sqoop主要从以下几点入手 一 为啥要用sqoop 二 Sqoop到底是啥 三 Sqoop怎么安装 四 Sqoop如何使用 一、为啥要用sqoop,业务场景分析        1、公司要做大数据统计分析,采用的是hadoop+zookeeper+flume+hive+kylin。 2、财务需要统计数据报表,考虑到kylin的实时性问题,最后解决方案:当天查oracle

missence的博客 2028

大模型备案避坑指南:如何设计符合TC260标准的评估测试题集?

本文深入探讨了如何设计符合TC260标准的大模型评估测试题集,以顺利通过备案。文章从解构标准核心逻辑出发,详细阐述了题集设计的工程化流程、核心原则与常见误区,并提供了模拟真实对抗的高阶测试策略与度量分析方法,旨在帮助企业构建一套能真实反映模型安全水位、有效规避风险的评估体系。

kafka6courier的博客 665

sqoop增量从sqlserver导入到hive表中

1、走过的弯路 网上很多的博客介绍的是增量从某个数据库导入hive,其实就是使用类似于这种的sqoop语句, sqoop import --driver com.microsoft.sqlserver.jdbc.SQLServerDriver --connect "jdbc:sqlserver://IP地址:1433;database=TS_Test" --username sa --password Test6530 --table data --target-dir '/user/hive/wareho

hyy_blue的博客 1461

【AI智能体】全场景AI智能体工作台WorkBuddy实战操作详解

全场景AI智能体工作台WorkBuddy实战操作详解

congge 5529

加权均值向量算法(INFO)详解:从数学原理到智能算法

本文系统介绍了加权均值向量算法(INFO)的理论基础、数学模型与实现应用。该算法基于加权均值数学概念,通过MeanRule规则平衡探索与开发能力,具有结构新颖、参数合理的特点。核心内容包括:1) 算法理论基础,阐述加权均值数学定义与小波函数权重计算;2) 算法原理,详细解析更新规则、向量组合和局部搜索三阶段数学模型;3) 实现方法,提供MATLAB代码关键参数解析;4) 改进方向,介绍INFO-KELM混合模型等变体;5) 应用案例,涵盖函数优化、工程设计与机器学习领域。

qq_42212808的博客 235

sqoop(3):import之mysql/sqlserver/pgsql/Oracle To hive

一、mysqlToHive 1.配置 (1)往/etc/profile最后加入 export HADOOP_CLASSPATH=$HADOOP_CLASSPATH:/opt/modules/hive-1.2.1/lib/* 然后刷新配置 source /etc/profile (2) 把hive-site复制到sqoop中! cp ../hive-1.2.1/conf/hi...

小蚯蚓的博客 836

Educoder:爬虫实战——求是网周刊文章爬取

第1关:获取新闻url importrequests importre defgeturls(): #**********Begin**********# url='http://www.qstheory.cn/dukan/qs/2014/2019-01/01/c_1123924172.htm' headers={ 'User-Agent':'Mozilla/5.0(Linux;Android6.0;Nexus5Buil...

weixin_46026136的博客 5255

hbase 导入mysql_HBase导入SQL Server数据库数据

在先前的几篇随笔中已经介绍了Hadoop、Zookeeper、Hbase的分布式框架搭建方案,目前已经搭建完成了一个包含11个节点的分布式集群。而对于HBase数据库的使用仅限于测试性质的增删改查指令,为了进一步熟悉分布式框架的使用,本文介绍将已有的数据从关系型数据库SQL Server中导入到HBase中的方法。要完成从关系型数据库到HBase数据的迁移,我们需要使用Sqoop工具,Sqoop是...

weixin_30124601的博客 383

AutosarMCAL开发——基于EB CRC驱动

本文为博主个人理解总结记录,如有不正,欢迎指正。

qq_45583706的博客 1392

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Sqoop每天全量抽取SqlServer的数据存储到hive中

需求: 1、通过Sqoop每天全量抽取SqlServer的数据,按照存储到hive中,通过hive的partition进行分割 #!/usr/bin/env bash ################################################################################ # 功能描述:抽取关系型数据库中数据(全量) # 输入:源表名称、目...

辉哥大数据 1866

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

Hive中Sqoop的基本用法和常见问题

本文源自:https://blog.youkuaiyun.com/onlyoncelove/article/details/81191432 一、通过Sqoop将Hive表数据导入到Mysql 1、第一种是将hive上某张表的全部数据导入到mysql对应的表中。 2、第二种是将hive上某张表中的部分数据导入到mysql对应的表中。 两种方式的区别在于第二种情况需要指定要导入数据的列名称。两种情况的导...

数据库生态圈(RDB & NoSQL & Bigdata)——专注于关系库应用与研究(Oracle & Mysql & Postgresql & SQL Server ) 953

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

sqoop import

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34148508的博客 190

sqoop 导入增量数据到hive

https://www.cnblogs.com/Alcesttt/p/11432547.html 版本 hive:apache-hive-2.1.0 sqoop:sqoop-1.4.6 hadoop:hadoop-2.7.3 导入方式 1.append方式 2.lastmodified方式,必须要加--append(追加)或者--merge-key(合并,一般填主键) 创建mysql表并添加数据 -- ---------------------------- -- Table s

hellojoy的博客 1262

sqoop sqlserver to hive

–全量导入hdfs sqoop import –connect ‘jdbc:sqlserver://al-node3:1433;database=test’ –username sa --password 123 –table student –target-dir “/test” –delete-target-dir –split-by id -m 5 –增量 导入hdfs sqo...

墨冰 466

Sqoop

Sqoop基础

weixin_45629153的博客 130

Hadoop 之 Sqoop 安装配置与示例

Sqoop是一个用来将Hadoop和关系型数据库中的数据相互转移的工具,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。Sqoop是为大数据集设计的。Sqoop支持增量更新,将新记录添加到最近一次的导出的数据源上,或者指定上次修改的时间戳。 接下来我们看一下如何安装与做简单示例...

weixin_33739627的博客 261

sqoop导入数据到hive

一、从msyql导入到hive表中 创建hive表 sqoop import --connect  --username   --password   --query " SELECT * FROM User_LoginHistory.User_OnlineHistory_total WHERE  LoginTime>='2013-01-01' and LoginTime<'2013-

flyeagle88的专栏 1357

通过Sqoop在RDBMS和Hive之间传输数据

1、理论基础 1、版本 sqoop1:1.4开头 sqoop2:1.99开头 1和2不兼容 sqoop1只有maptask,task数量需要自己设置。没有集群概念 2、安装: 解压,配置环境变量,将mysql驱动包导入lib目录 更改配置文件 3、命令 sqoop help:查看sqoop命令帮助 sqoop import --h...

曹利荣的博客 335

【sqoop1】sqlserver 同步 hive

{SQOOP_HOME}/bin/sqoop import \ --connect 'jdbc:sqlserver://%s:1433;username=%s;password=%s;database=%s' \ --hive-database %s --hive-table %s --table %s \

chuangchuangtao的博客 833
上一篇: Java 根据 IP 地址来获取 位置 -- 使用 ip2region
下一篇: SQL Server里查询表结构命令
lcl_bigdata
博客等级 码龄11年 268粉丝 67原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值