
hadoop
文章平均质量分 80
enjoyjin
这个作者很懒,什么都没留下…
展开
-
sqoop使用及hadoop 启动时候warning处理
Sqoop是一个转换工具,用于在关系型数据库与HDFS之间进行数据转换。强大功能见下图以下操作就是使用sqoop在mysql和hdfs之间转换数据。1.安装我们使用的版本是sqoop-1.4.3.bin__hadoop-1.0.0.tar.gz,打算安装在/usr/local目录下。首先就是解压缩,重命名为sqoop,然后在文件/etc/profile中设置转载 2014-10-14 09:40:25 · 1482 阅读 · 0 评论 -
开始学习hadoop 一些概念糊涂了吧
Hive是为了简化编写MapReduce程序而生的,使用MapReduce做过数据分析的人都知道,很多分析程序除业务逻辑不同外,程序流程基本一样。在这种情况下,就需要Hive这样的用戶编程接口。Hive本身不存储和计算数据,它完全依赖于HDFS和MapReduce,Hive中的表纯逻辑,就是些表的定义等,也就是表的元数据。使用SQL实现Hive是因为SQL大家都熟悉,转换成本低,类似作用的Pig就转载 2014-11-18 13:29:52 · 636 阅读 · 0 评论 -
sqoop向关系数据库导入数据
if [[ $upper_sys == "MYSQL" ]] ; then echo "sqoop export --connect \"${sq_connet_url}?useUnicode=true&characterEncoding=utf-8\" --username ${lower_user} --password {sq_passwd} --table ${lo原创 2014-11-25 15:29:09 · 694 阅读 · 0 评论